Искусственный интеллект: Перезагрузка. Как создать машинный разум, которому действительно можно доверять

ИСКУССТВЕННЫЙ 
ИНТЕЛЛЕКТ:
ПЕРЕЗАГРУЗКА

REBOOTING AI

BUILDING ARTIFICIAL 

INTELLIGENCE

WE CAN TRUST

PANTHEON BOOKS 
 NEW YORK

GARY MARCUS, ERNEST DAVIS

Перевод с английского

ИСКУССТВЕННЫЙ 
ИНТЕЛЛЕКТ:
ПЕРЕЗАГРУЗКА

КАК СОЗДАТЬ МАШИННЫЙ РАЗУМ, 

КОТОРОМУ ДЕЙСТВИТЕЛЬНО 

МОЖНО ДОВЕРЯТЬ

ГЭРИ МАРКУС, ЭРНЕСТ ДЭВИС

МОСКВА
2021

ISBN 978-5-907394-93-3 (рус.)
ISBN 9781524748258 (англ.)

УДК 004.8
ББК 32.813
М25

Переводчик В. Скворцов
Редактор А. Марченкова

Маркус Г.
Искусственный интеллект: перезагрузка : Как создать машинный 
разум, которому действительно можно доверять / Гэри Маркус, 
Эрнест Дэвис. — Пер. с англ. — М. : Альпина ПРО, 2021. — 300 с.

ISBN 978-5-907394-93-3

Несмотря на шумиху вокруг ИИ, создание интеллекта, равного человеческому 
или превышающего его, намного сложнее, чем мы думали. Гэри 
Маркус и Эрнест Дэвис, известные исследователи в области искусственного 
интеллекта, утверждают, что нам еще очень далеко до создания полностью 
автономных автомобилей или сверхразумных роботов.
Дело в том, что подходы, принятые сейчас в сфере разработки ИИ, слишком 
узки для создания подлинного интеллекта. Реальный мир, напротив, 
чрезвычайно сложен и многообразен. Каким образом можно преодолеть этот 
разрыв? Какими будут последствия, когда мы это сделаем? Вдохновленные 
человеческим разумом, Маркус и Дэвис объясняют, что же нам нужно для 
продвижения ИИ на новый уровень. Если мы сосредоточимся на том, чтобы 
наделить машины здравым смыслом и глубоким пониманием, а не просто 
научить их собирать все более обширные коллекции данных, то сможем 
создать искусственный интеллект, которому действительно будем доверять 
то, что имеет для нас значение: наше здоровье, наши дома, комфорт наших 
близких и многое другое. Книга «Искусственный интеллект: перезагрузка» 
дает полную и яркую оценку современной науки в сфере ИИ и предлагает 
вдохновляющее видение того, как новое поколение искусственного интеллекта 
сможет сделать нашу жизнь лучше.

УДК 004.8
ББК 32.813

М25

Все права защищены. Никакая часть этой книги не может 
быть воспроизведена в какой бы то ни было форме 
и какими бы то ни было средствами, включая размещение 
в сети интернет и в корпоративных сетях, 
а также запись в память ЭВМ для частного или публичного 
использования, без письменного разрешения 
владельца авторских прав. По вопросу организации 
доступа к электронной библиотеке издательства обращайтесь 
по адресу mylib@alpina.ru

Copyright © 2019 by Gary Marcus and Ernest Davis
© ООО «Альпина ПРО», 2021

Оглавление

Глава 1 
Осторожно: разрыв  ...............................................................................................................9

Глава 2 
Насколько высоки ставки? ..............................................................................................39

Глава 3 
Глубокое обучение и так далее ...................................................................................57

Глава 4 
Если компьютеры такие умные, то почему они не могут читать, 

 
как люди? ....................................................................................................................................89

Глава 5 
А где же Рози? ....................................................................................................................... 121

Глава 6 
Что подсказывает нам собственный разум  .................................................... 145

Глава 7 
Здравый смысл и путь к глубокому пониманию  ......................................... 183

Глава 8 
Доверие  ................................................................................................................................... 219

Эпилог ............................................................................................................................................................... 245

Благодарности  ......................................................................................................................................... 253

Дополнительная литература  ...................................................................................................... 255

Примечания  ................................................................................................................................................ 261

Библиография  .......................................................................................................................................... 267

Моим детям, Александру и Хлое, 
которые научили меня так многому, 
и моей жене Афине, понимающей, 
как и я, как здорово учиться у детей.

Гэри

Моей жене Бьянке, 
ставшей любовью на всю жизнь.

Эрни

Глава 1

ОСТОРОЖНО: РАЗРЫВ

В течение двадцати лет машины смогут 
научиться выполнять любую работу, 
доступную для человека.

Херб Саймон, один из первопроходцев 
в области искусственного интеллекта

ПЕРВЫЙ РЕБЕНОК (в долгой утомительной 
поездке): Еще долго, Папа Смурф?
ОТЕЦ: Уже скоро.
ВТОРОЙ РЕБЕНОК (через несколько часов): Еще 
долго, Папа Смурф?
ОТЕЦ: Уже скоро.

Из комикса The Smurfs («Смурфики»)

С самого момента своего зарождения искусственный интеллект (ИИ) 
очень много сулил и очень мало давал. Уже в 1950-х и 1960-х годах такие 
первопроходцы, как Марвин Мински, Джон Маккарти и Херб Саймон, 
искренне верили 1, что до конца ХХ века со всеми проблемами, встающими 
на пути разработки ИИ, будет фактически покончено. «В течение 
одного поколения, — писал Марвин Мински в 1967 году в своем знаменитом 
послании, — проблема создания искусственного интеллекта 
будет по большому счету решена». Пятьдесят лет спустя эти обещания 
так и не исполнились, однако заявления подобного рода продолжали 
появляться. В 2002 году футуролог Рэй Курцвейл публично заявил, что 
к 2029 году ИИ «превзойдет естественный человеческий интеллект». 
В ноябре 2018 года Илья Суцкевер, соучредитель Open AI, крупного 

ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ: ПЕРЕЗАГРУЗКА

исследовательского института по изучению искусственного интеллекта, 
высказал мнение, что универсальный искусственный интеллект 
«уже в ближайшей перспективе следует воспринимать всерьез как возможность». 
Хотя теоретически допустимо, что Курцвейл и Суцкевер могут 
оказаться правы, весьма велики шансы, что ничего такого и не случится. 
Достижение нового уровня — универсального искусственного 
интеллекта с гибкостью человеческого мышления — для нынешнего 
поколения отнюдь не находится на расстоянии вытянутой руки; это 
долгий путь, который потребует очень серьезного прогресса в целом 
ряде основополагающих областей знания. Иначе говоря, это не просто «
чуть более» того, чего науке удалось добиться за последние несколько 
лет: мы покажем, что универсальный ИИ — нечто совершенно 
иное.
Даже если не все так оптимистичны, как Курцвейл и Суцкевер, амбициозные 
обещания продолжают фигурировать везде, где задействован 
искусственный интеллект: от медицинских технологий до беспилотных 
автомобилей. Чаще всего обещанное не исполняется. Например, 
в 2012 году мы много слышали о том, как увидим «в ближайшем будущем 
автономные автомобили». В 2016 году IBM заявила, что Watson, система 
искусственного интеллекта, сумевшая принять участие в телевикторине 
Jeopardy!, произведет «революцию в здравоохранении», потому что якобы «
когнитивные системы Watson Health могут понимать, рассуждать, 
учиться и взаимодействовать», и что «с помощью последних достижений 
в области когнитивных вычислений мы можем достичь большего, чем 
мы  когда-либо считали возможным». Компания IBM стремилась решить 
любые проблемы, начиная от фармакологии и радиологии и заканчивая 
диагностикой и лечением рака, используя Watson для чтения меди-
цинской литературы и выработки рекомендаций, которые врачи-люди 
могли бы упустить из виду. Вторя им, Джеффри Хинтон, один из самых 
выдающихся исследователей искусственного интеллекта, заявил при-
мерно в то же время: «Совершенно очевидно, что мы должны прекратить 
подготовку [людей-]радиологов».
В 2015 году Facebook запустил свой амбициозный и широко освеща-
емый проект, известный как «M», — чат-бот, который должен был удов-
летворить любые потребности пользователя, от бронирования столика 
в ресторане до планирования очередного отпуска.

Глава 1. ОСТОРОЖНО: РАЗРЫВ

11

Но ничего из этого пока что не произошло. Да, автономные транс-
портные средства  когда- нибудь могут стать безопасными и способными 
ездить по любым дорогам. Чат-боты, которые будут способны удовлетво-
рить любые потребности, наверное, тоже однажды превратятся в обыч-
ное явление;  что-то подобное может рано или поздно произойти и в ме-
дицине, когда появятся супер интеллектуальные врачи- роботы. Но пока 
что все это остается лишь фантазией, а не свершившимся фактом.
Существующие беспилотные автомобили по-прежнему способны 
функционировать только в условиях автомагистралей, причем лю-
ди-водители все равно должны в них находиться и оставаться начеку, 
поскольку программное обеспечение этих машин слишком ненадежно 
для нестандартных ситуаций. В 2017 году Джон Крафчик, генеральный 
директор Waymo, дочерней компании Google, которая почти десять 
лет работает над беспилотными автомобилями, хвастался, что вскоре 
у Waymo появятся беспилотные автомобили… без водителей (что уже 
весьма забавно); впрочем, этого все равно не случилось. Год спустя, как 
выразился журнал Wired, бравада исчезла, а водители (в качестве резерв-
ного средства безопасности) — нет. Никто на самом деле и не думает, 
что автомобили без водителя готовы самостоятельно ездить в городах 
или хотя бы в плохую погоду по шоссе, и ранний оптимизм сменился 
общим признанием того, что мы находимся на расстоянии как минимум 
десятилетия от подобного прорыва — а возможно, для этого потребуется 
куда больше времени.
Использование системы IBM Watson в сфере здравоохранения также 
потеряло популярность. В 2017 году сотрудничество с IBM в области диа-
гностики и борьбы с раковыми заболеваниями прекратил онкологический 
центр MD Anderson. Совсем недавно стало известно, что некоторые реко-
мендации IBM Watson оказались «небезопасными и неверными». Проект 
2016 года по использованию Watson для диагностики редких заболеваний 
в Марбурге (Германия), в Центре редких и недиагностируемых заболева-
ний (Marburg’s Center for Rare and Undiagnosed Diseases), продержался ме-
нее двух лет и полностью остановился, поскольку «эффективность работы 
системы была неприемлема». Например, в одном случае IBM Watson иссле-
довала пациента, страдавшего от болей в груди, и пропустила диагнозы, ко-
торые были бы очевидны даже студенту- первокурснику, например сердеч-
ный приступ, стенокардию или разрыв аорты. Когда проблемы, связанные 
с системой Watson, стали все больше и больше проникать в общественное