18.09.2022
Читалка

Могут ли роботы мыслить?

Фрагмент книги футуролога и эксперта по искусственному интеллекту Мартина Форда — о том, как развитие технологий неминуемо изменит нашу жизнь

Коллаж: ГодЛитературы.РФ. Обложка и фрагмент книги предоставлены издательством
Коллаж: ГодЛитературы.РФ. Обложка и фрагмент книги предоставлены издательством

Текст: ГодЛитературы.РФ

Искусственный интеллект — он же ИИ, если одними инициалами — уже прочно вошел в нашу жизнь. Однако футуролог Мартин Форд, уже написавший на эту тему бестселлер «Роботы наступают», уверен — настоящие плоды развития технологий нам еще только предстоит вкусить. Будут там как вкуснейшие фрукты, так и гнилушки.

В своей новой книге «Власть роботов» Форд доходчиво обрисовывает свое представление о будущем ИИ. С одной стороны, эта технология кажется ему мощнейшим общедоступным ресурсом, своего рода новым электрическим током, который рано или поздно преобразит практически все области экономики, общественной жизни и культуры. Но в то же время Форд обращает внимание, что развитие ИИ несет с собой реальные опасности для отдельных людей и для общества в целом. Как нам с этим быть? Об этом, собственно, и написана книга.

Предлагаем прочитать фрагмент о том, как мечты о мыслящих машинах становились реальностью.

Власть роботов: Как подготовиться к неизбежному / Мартин Форд ; Пер. с англ. Натальи Колпаковой — М.: Альпина нон-фикшн, 2022. — 326 с.

МОГУТ ЛИ МАШИНЫ МЫСЛИТЬ?

Машины, способные мыслить и поступать как люди, существовали в нашем воображении задолго до изобретения первых электронных компьютеров. В 1863 году английский писатель Сэмюэл Батлер написал письмо редактору газеты из новозеландского Крайстчерча. В этом письме, озаглавленном «Дарвин среди машин», высказывалась идея «живого механизма», который когда-нибудь сумеет так развиться, что сравняется с людьми, а может, даже превзойдет их. Батлер призывал к немедленной вой не против нового вида механических существ и заявлял, что «машины подобного рода должны быть уничтожены». Этот страх кажется несколько преждевременным с учетом состояния информационной технологии в 1863 году, но нарисованная Батлером картина повторяется с тех пор снова и снова, взять хотя бы фильмы «Терминатор» и «Матрица». Страхи Батлера разделяют не только авторы научной фантастики. Недавние достижения в создании ИИ заставили таких видных деятелей, как Илон Маск и покойный Стивен Хокинг, выступить с предостережением в отношении развития сценариев, поразительно близких тому, что пугал Батлера более 150 лет назад.

В вопросе о том, когда создание искусственного интеллекта стало областью серьезных исследований, мнения расходятся. Я бы отнес ее возникновение к 1950 году. В том году блестящий математик Алан Тьюринг опубликовал научную статью «Вычислительные машины и разум», где задавал вопрос: «Могут ли машины мыслить?». В этой статье Тьюринг предложил тест на основе популярной игры, который до сих пор является эталоном для определения, может ли некая машина считаться в полной мере интеллектуальной. Тьюринг, родившийся в Лондоне в 1912 году, проделал эпохальную работу в области теории вычислений и природы алгоритмов, и его принято считать отцом- основателем компьютерной науки. В 1936 году, всего через два года после окончания Кембриджа, он сформулировал математические принципы того, что сейчас называют универсальной машиной Тьюринга, в сущности — концептуальный план любого компьютера, когда-либо созданного в реальном мире. В самом начале компьютерной эры Тьюринг ясно понимал, что машинный интеллект — это логичное и, возможно, неизбежное продолжение электронных вычислений.

Словосочетание «искусственный интеллект» придумал Джон Маккарти, в то время молодой преподаватель математики Дартмутского колледжа. Летом 1956 года Маккарти участвовал в организации Дартмутского летнего исследовательского проекта по изучению искусственного интеллекта в кампусе колледжа в Нью-Гемпшире. Это была двухмесячная конференция, куда пригласили светил новой области исследований. Участники проекта ставили перед собой смелые и оптимистичные цели. В плане конференции говорилось, что «будет предпринята попытка определить, как научить машины владеть языком, формировать абстрактные понятия и концепции, решать задачи того типа, которые в настоящее время считаются сугубо человеческими, а также совершенствоваться», и выражалась уверенность организаторов «в достижении существенного прогресса в решении одной или нескольких этих задач, если тщательно подобранная группа ученых будет совместно работать над ними в течение лета». Среди участников были Марвин Мински, наряду с Маккарти ставший одним из самых известных в мире исследователей ИИ и основателем Лаборатории искусственного интеллекта МТИ, и Клод Шеннон, легендарный инженер- электрик, сформулировавший принципы теории информации, легшие в основу электронной коммуникации и обусловившие возможность появления интернета.

Примечательно, однако, что величайший ум не принимал участия в Дартмутской конференции. Алан Тьюринг совершил самоубийство двумя годами раньше. Осужденный за однополые отношения согласно законам о «непристойном поведении», действовавшим тогда в Великобритании, Тьюринг был поставлен перед выбором между тюремным заключением и химической кастрацией путем принудительного введения эстрогена. Он выбрал второе и, находясь в депрессии, покончил с собой в 1954 году. Это стало невосполнимой утратой для зарождающейся области компьютерных наук и искусственного интеллекта. На момент смерти Тьюрингу был всего 41 год. В более справедливом мире он почти наверняка дожил бы до появления персонального компьютера и, вполне вероятно, интернета и многих других инноваций. Невозможно сказать, какой вклад Тьюринг внес бы в последующие десятилетия или насколько более развитым мог бы сегодня быть ИИ, но его уход стал колоссальной интеллектуальной потерей для этого направления исследований и для всего человечества.

Область искусственного интеллекта стремительно развивалась после Дартмутской конференции. Компьютеры становились более мощными, совершались важные открытия, разрабатывались алгоритмы, способные решать все более широкий круг задач. Искусственный интеллект как научное направление занял прочное место в американских университетах, и был создан ряд лабораторий по исследованию ИИ.

Одним из самых важных факторов, обусловивших возможность этого прогресса, стали огромные инвестиции правительства США, особенно Пентагона. Значительная часть этих средств поступала через Управление перспективных исследовательских проектов (Advanced Research Projects Agency, ARPA). Особенно важным центром финансируемых ARPA исследований был Стэнфордский исследовательский институт (SRI), впоследствии обособившийся от Стэнфордского университета и получивший название SRI International. Центр изучения искусственного интеллекта SRI, основанный в 1966 году, внес эпохальный вклад в такие области, как языковой перевод и распознавание речи. Там был также создан первый по-настоящему автономный робот — машина, способная транслировать мышление на основе ИИ в физическое взаимодействие с окружением. Почти через полвека после своего основания Центр изучения искусственного интеллекта SRI создал дочернюю компанию- стартап по разработке нового персонального помощника Siri, которая была куплена Apple в 2010 году.

Однако вскоре прогресс привел к чрезмерной эйфории, преувеличенным обещаниям и нереалистичным ожиданиям. В 1970 году Life опубликовал статью о роботе, созданном в SRI, где назвал его первым в мире электронным существом. Марвин Мински , в то время звезда исследований ИИ в МТИ, со «спокойной уверенностью» заявил автору статьи Брэду Дарраху:

В течение трех — восьми лет мы получим машину, обладающую универсальным интеллектом среднего человека. Я имею в виду машину, способную читать Шекспира, менять масло в автомобиле, заниматься офисными интригами, шутить, ссориться. К тому моменту машина начнет сама себя обучать с фантастической скоростью. Через несколько месяцев она достигнет уровня гения, а еще через несколько месяцев после этого ее возможности будут безграничными.

Даррах попросил других исследователей ИИ оценить это утверждение, и ему ответили, что, пожалуй, заявленный Минскисрок три — восемь лет малость оптимистичен. Может потребоваться 15 лет, но «все сошлись на том, что такая машина будет существовать и что она может ускорить третью промышленную революцию, покончить с вой нами и бедностью и дать толчок столетиям развития науки, образования и искусства».

Когда выяснилось, что эти предсказания очень сильно расходятся с действительностью и что создание ИИ-систем, способных решать даже намного менее амбициозные задачи, оказалось значительно сложнее, чем ожидалось, энтузиазм стал улетучиваться. К 1974 году разочарование инвесторов, особенно правительственных структур, обеспечивавших непропорционально большую долю финансирования, негативно сказалось на этой области исследования — как и на карьере многих исследователей ИИ. На протяжении всей своей истории сфера ИИ страдала чем-то вроде коллективного биполярного расстройства: огромные ожидания и быстрый прогресс сменялись десятилетиями разочарований и недофинансирования, так называемыми зимами искусственного интеллекта.

Отчасти периодическое наступление таких зим объяснялось непониманием истинной сложности задач, которые призван решать ИИ. Другим принципиально важным фактором стала простая неспособность осознать, насколько медленными были компьютеры до 1990-х годов. Понадобились десятилетия прогресса в соответствии с законом Мура, чтобы появились компьютеры, начавшие превращать в реальность мечты участников Дартмутской конференции 1956 года.

Появление быстродействующей компьютерной техники привело к ряду радикальных изменений в конце 1990-х годов. В мае 1997 года компьютер Deep Blue компании IBM с небольшим перевесом победил чемпиона мира по шахматам Гарри Каспарова в турнире из шести игр. Хотя такое событие назвали триумфом искусственного интеллекта, в действительности это был, по сути, ловкий трюк, проделанный благодаря высокой скорости вычислений. Специализированные алгоритмы, исполняемые компьютером Deep Mind размером с холодильник, были способны заглядывать далеко вперед, быстро перебирая множество возможных ходов, что было не под силу даже самому гениальному человеческому разуму.

IBM снова добилась триумфа в 2011 году с появлением Watson, машины, легко победившей самых сильных в мире игроков в телеигре Jeopardy!. Во многих отношениях это было намного более впечатляющее достижение, потому что для него потребовалось понимание естественного языка, включающее даже способность распознавать шутки и каламбуры. В отличие от Deep Blue система Watson обладала способностью выходить за пределы игровой доски с жестко определенными правилами и работать с, казалось бы, безграничным массивом информации. Watson выиграла в Jeopardy!, одновременно задействуя массу умных алгоритмов, которые в поисках верного ответа прочесывали наборы данных, зачастую почерпнутых из статей в «Википедии».

Watson возвестила о наступлении новой эпохи и стала предтечей машин, которые впоследствии начали анализировать язык и по-настоящему общаться с людьми, но в 2011 году произошло и кардинальное изменение базовой технологии искусственного интеллекта. Если Watson опиралась на алгоритмы машинного обучения, осмысляющие информацию с использованием методов статистики, то в следующие несколько лет другой тип машинного обучения, непосредственно восходящий к перцептрону, задуманному Фрэнком Розенблаттом более чем за полстолетия до этого, снова вышел на первый план и затем быстро стал господствующим в области искусственного интеллекта.