Басинский: «Люди становятся роботами или роботы - людьми?»

Текст: Павел Басинский/РГ

Павел Басинский: У меня не выходит из памяти передача "Человек в меняющемся мире" в серии передач "Агора", которую ведет на канале "Культура" Михаил Швыдкой. Там был солидный состав участников. Кроме тебя - Александр Каплан, академик РАН, директор Института перспективных исследований мозга МГУ; Андрей Себрант, профессор ВШЭ, директор по стратегическому маркетингу "Яндекс"; Анна Серебряникова, президент Ассоциации больших данных, управляющий партнер компании nlogic; Андрей Незнамов, управляющий директор центра регулирования Искусственного интеллекта Сбербанка; Юрий Минкин, руководитель департамента разработки беспилотных транспортных средств компании Cognitive Pilot. Разговор был очень интересный, но, как выяснилось, вы обсуждали нечто несуществующее - искусственный интеллект. Считается, что искусственный интеллект - это "свойство интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека". Если говорить на простом языке, это способность компьютера обучаться, принимать решения и выполнять действия, свойственные человеческому мозгу. Вроде бы ничего особенного, мы давно этим пользуемся. Но почему разговоры об искусственном интеллекте, который якобы заменит собой человека, не смолкают и уже стали такой страшилкой? Вот появится искусственный интеллект, и человек будет больше не нужен. При этом Анна Серебряникова сказала, что искусственного интеллекта не существует, его выдумали писатели. Ты готов отвечать за наш писательский цех?

Алексей Варламов: Разговор действительно получился любопытный, особенно учитывая, что выступающие все были из разных областей знания. А то, что начали с литературы, мне даже понравилось. Это и мой любимый Василий Розанов говорил: во всем виноваты писатели. На самом деле, я думаю, что идея некоего разума, не связанного с человеческим мозгом, с человеком вообще, интересует нас с самых древних времен. Все языческие религии, наделявшие сознанием природные стихии, небесные светила, деревья, животных, разных волков-оборотней, все наши сказки и мифы, включая еврейское предание о Големе или греческую легенду про Галатею, - из этой сферы. Человеку как будто одиноко в окружающем мире, и он ищет то ли друга, то ли врага, и это становится отличным материалом для литературы.

Тут можно вспомнить и другого моего любимого писателя - Александра Грина с его оживающими манекенами, и Станислава Лема с "Солярисом", и роботов Карела Чапека и Айзека Азимова... Если говорить о последних книгах - это великолепный роман английского писателя японского происхождения, лауреата Нобелевской премии Кадзуо Исигуро "Клара и солнце", который вошел в Длинный список премии "Ясная Поляна" в иностранной номинации в этом году. Да и одна из предыдущих его книг "Не отпускай меня" тоже на эту тему написана. Благодатное поле! Другое дело, что сегодня сказка стала былью. И тут возникает вопрос: а что со всем этим делать?

Павел Басинский: Подожди! Никакой былью она не стала. Для того чтобы искусственный интеллект стал для нас реальностью, он должен быть персонифицирован, то есть обрести личность. Но нет никаких Големов и Великих Гудвинов. Или вспомним более близкую историю - американский фильм "Газонокосильщик", которому, впрочем, в этом году уже исполняется тридцать лет. Там простой парень, став компьютерным гением, буквально растворяется в Сети и начинает управлять миром. Он заставляет звонить все телефоны, а ночью везде врубает электрический свет. То есть он пока еще только хулиганит, но обещает нечто большее.

Ну и где этот Великий Хакер, которым нас пугали тридцать лет назад? Куда больше нас заботят реальные хакеры, как говорится, хакеры "с человеческим лицом", которые кошмарят банки, министерства обороны и спецслужбы всех стран, а заодно их предвыборные штабы. Но это не искусственный интеллект, а использование компьютерных технологий конкретными людьми. Мы все ими пользуемся так или иначе, и проблема в том, как это влияет на нас. Хорошо это или плохо?

Но ты правильно вспомнил Исигуро. Во время передачи ты точно сказал, что он переводит проблему трансформации человека в киборга в "сердечную" плоскость. Об этом и его прежний пронзительный роман (и одноименный фильм 2010 года) "Не отпускай меня", где детей-клонов выращивают для замены органов настоящих людей. И дети знают об этом, мужественно принимают свою судьбу, но по-человечески страдают.

В "Кларе и солнце" - несколько другая тема. Люди создают андроидов, которые заменяют живым подросткам друзей и подруг: ИД (Искусственный Друг) и ИП (Искусственная Подруга). Это уже не клоны, а роботы-андроиды, но со своими опять-таки человеческими страданиями.

Робот старого поколения и первый андроид (роль исполняет Олег Стриженов) в советском фильме 1967 года. Фото: kinopoisk.ru

Исигуро - отличный писатель, но он, мягко говоря, неоригинален. "Страдающие" андроиды, у которых просыпаются человеческие эмоции, появились в литературе и кино как минимум полвека назад, если не раньше. Я напомню, что в 1967 году на "Ленфильме" была снята картина Ильи Ольшвангера "Его звали Роберт" с Олегом Стриженовым и Марианной Вертинской в главных ролях. Там поднималась тема, как будут страдать "очеловеченные" роботы. Как, став во всем похожими на людей, они начнут переживать наши человеческие чувства: любовь, ревность, одиночество и т.п. Этот фильм вышел в СССР почти за двадцать лет до "Терминатора", не говоря уже о нашем недавнем сериале "Проект "Анна Николаевна", где полицейский-андроид, женщина, натурально влюбляется в своего напарника.

О чем это говорит? О том, что литература и кино продолжают решать те же самые темы, что и раньше, только в более современных образах.

Об этом вы тоже говорили во время передачи. О том, что в эпоху слишком стремительного развития информационных технологий задача литературы - сохранение традиционных ценностей.

Алексей Варламов: Исигуро, кстати, об этом отчасти и пишет. Страшная тревога наполняет его роман. Другое дело, что это не паника, не спекуляция на читательских настроениях, а именно размышление, сердечная история, взгляд на человека со стороны. Важно, где и когда это происходит и с кем. Какое светит солнце, как выглядят люди, что чувствуют, о чем говорят и мечтают. Важны не просто смыслы, но "вещество жизни". Литература скорее про это, чем про отстаивание традиционных ценностей. Для этих же целей у нас есть целый научный институт в Москве.

Павел Басинский: Что за институт?

Алексей Варламов: Я имею в виду Российский институт культурного и природного наследия имени Д.С. Лихачева в Москве, который подготовил проект указа о традиционных ценностях, но документ был весьма неласково принят в театральной и кинематографической среде. Литературную спросить не успели...

Павел Басинский: Писатели обычно в такие споры не вмешиваются. Писателю любой указ не указ, потому что ему нечего терять, кроме своего ноутбука. Деятелям театра и кино в этом смысле гораздо труднее, они зависят от государственного финансирования, особенно репертуарные театры. Поэтому к любого рода "нормативам" относятся с тревогой, понимая, что это новые правила игры, с которыми им придется работать, добиваясь финансового обеспечения.

Но насчет литературного пессимизма ты прав. Как писал Пушкин в "Домике в Коломне": "От ямщика до первого поэта / Мы все поем уныло..." Я еще добавлю пессимизма, причем от лица ученого, который принимал участие в вашей дискуссии. Александр Каплан, который занимается проблемами человеческого мозга, сказал, что главная опасность не в появлении искусственного интеллекта, а в том, что человеческий мозг не справляется с современным потоком информации. На самом деле он не изменился со времен пещерных людей, а это было, по разным гипотезам, от 35 до 50 тысяч лет назад.

Я сначала удивился этому его заявлению, а потом вдруг подумал...

На наскальной живописи мы видим фигурки людей, которые убивают мамонта палками с острыми наконечниками. Но такими же пиками сражалась конница во время Первой мировой войны. Понятно, что тогда уже были изобретены новые орудия убийства, включая отравляющие газы. Но любопытно, что и палки с наконечниками тоже остались. Как и непостижимая страсть человека убивать живое, и не только на охоте.

И я согласен с Александром Капланом, что наш мозг не справляется с чудовищным потоком новой информации.

Алексей Варламов: Я лично очень ощущаю плотность времени. И не только информационную. Другое дело, что прежде подача информации была не такая острая и действенная, как сейчас. Но что лучше: дефицит или избыток, бедность или роскошь информационного поля? Это большой вопрос. Я категорически против цензуры, но иногда ощущаю себя невольником интернета, в котором смотрю новости на разных сайтах, сравниваю, анализирую, а потом беру в руки книгу, да хотя бы из Длинного списка "Ясной Поляны", и вдруг понимаю, что вот это подлинное, а то преходящее, мусорное. И это я еще не играю в соцсети. А если человек выкладывает свои мысли, фотографии, посты и перепосты в соцсети, то складывается впечатление, что ради этого, собственно, он и живет. Пусть все знают, какой у меня кот, что я ел сегодня на ужин и что думаю про весь мир. Нет, все-таки больше всего я ценю те дни в году, когда уезжаю на северное озеро подальше от этого сумасбродства. Но и там, если не клюет, а интернет ловится, достаю зачем-то телефон и смотрю, что там в мире делается. Сеть нас всех уловила, только одни это ощущают, а другие нет.

Павел Басинский: Еще вы интересно говорили о грядущей эпохе беспилотного транспорта. Как всегда остроумный Михаил Швыдкой сказал, что он сильно беспокоится за беспилотное такси не потому, что оно будет ездить неправильно, а потому, что неправильно будут ездить те, кто на беспилотники не пересядут. "Умного" беспилотного водителя будет просто "клинить" в этой ситуации, ведь этот условный "он" (или "она") будут уверены, что все управляют автомобилями правильно и соблюдают правила дорожного движения. Был такой старый, еще советских времен анекдот про таксиста-кавказца (национальность не уточняем), который едет на красный свет и стоит на зеленый. На красный - потому что он джигит, и ему все нипочем. А стоит на зеленый, потому что справа по перекрестку едет другой джигит.

Ты, кстати, готов пересесть в беспилотники и отказаться от радости личного вождения?

Алексей Варламов: Нет, я слишком люблю водить машину. И нас таких много.

Павел Басинский: Я хочу закончить разговор на позитивной ноте. В районе, где я живу, рядом с отделением почты стоят два милейших робота-почтальона от "Яндекса". Они развозят посылки по дворам. Подъезжают к подъезду, посылают месседж заказчику, тот спускается, подносит с экрана телефона присланный QR-код, открывается крышка, а там - заветная посылочка. Иногда по дороге в магазин я вижу, как они ездят по улицам, пересекают пешеходные переходы (строго на зеленый свет!), как они пару минут думают, прежде чем объехать какой-нибудь столб, как "разъезжаются" с пешеходами... Все это выглядит удивительно трогательно! Честное слово, я один раз не удержался и погладил этого чудесного "почтальона", ну как, знаешь, собачку, которая рядом с тобой виляет хвостом. Но самое забавное, что раньше возле почты стоял один робот. А потом их стало двое. Такая семейная пара образовалась. Вот жду, когда у них появятся детишки...

Ты прав! Главное - не интеллект, человеческий или искусственный. Главное - сердце! Его не обманешь.

Следователь Анна Николаевна выглядит, как обычная женщина, а на самом деле она андроид. Фото: Проект "Анна Николаевна"

Ключевой вопрос

Павел Басинский: Посмотри, как изменилась футурология в литературе. Научная фантастика с ее верой в технологические чудеса, в заселение космоса и принципиальное обновление земной жизни, где все будут летать среди небоскребов на чудо-аппаратах и обслуживаться умными роботами, ушла в прошлое. Сейчас в моде технологические антиутопии. То есть, по мнению читателей, в будущем все будет плохо. Не означает ли это, что люди перестали верить в него? На место "человека разумного" пришел "человек растерянный"?

Алексей Варламов: В светлое будущее давно перестали верить и у нас, и на Западе. Я даже не говорю про романы Замятина и Оруэлла "Мы" и "1984", но и более поздние Брэдбери, Саймак или Франсис Карсак печально вглядывались в грядущее. А у нас - Стругацкие, Ефремов. Или один из самых грандиозных русских романов ХХ века "Пирамида" Леонида Леонова, написанный в 1950-1970-е годы. Автор считал, что история человечества - это подъем в гору, краткое пребывание на вершине и спуск в долину, где люди превратятся в колонию мыслящих грибов.

Кстати

Большинство пользователей предпочитают, чтобы устройства с искусственным интеллектом говорили женским голосом. Женский голос, по их мнению, звучит доброжелательнее и не кажется угрожающим.