Книжная полка Сохранить
Размер шрифта:
А
А
А
|  Шрифт:
Arial
Times
|  Интервал:
Стандартный
Средний
Большой
|  Цвет сайта:
Ц
Ц
Ц
Ц
Ц

Искусственный ты: машинный интеллект и будущее нашего разума

Покупка
Артикул: 784210.02.99
К покупке доступен более свежий выпуск Перейти
В этой книге речь идет о будущем разума и о том, как наши представления о себе, о разуме и о собственной природе могут изменить будущее — к лучшему или к худшему. В ней две центральные сюжетные линии: одна — это размышления о том, что такое сознание, вторая — предупреждение о том, что неспособность продумать философские последствия создания искусственного интеллекта может положить конец дальнейшему процветанию существ, обладающих сознанием. Автор пытается найти ответы на вопросы: могут ли машины обладать сознанием и может ли человек слиться с искусственным интеллектом ради расширения своих возможностей?
Шнайдер, С. Искусственный ты: машинный интеллект и будущее нашего разума : научно-популярное издание / С. Шнайдер ; пер. Н. Лисовой. - Москва : Альпина нон-фикшн, 2022. - 245 с. - ISBN 978-5-00139-415-0. - Текст : электронный. - URL: https://znanium.ru/catalog/product/1910954 (дата обращения: 29.03.2024). – Режим доступа: по подписке.
Фрагмент текстового слоя документа размещен для индексирующих роботов. Для полноценной работы с документом, пожалуйста, перейдите в ридер.
Посвящается  
Елене, Алексу и Элли

ARTIFICIAL YOU

AI and the Future of Your Mind 

S S

PRINCETON UNIVERSITY PRESS 
PRINCETON AND OXFORD

Перевод с английского

Москва, 2022

ИСКУССТВЕННЫЙ
ТЫ

машинный интеллект 
и будущее нашего разума

С Ь Ю З А Н  Ш Н А Й Д Е Р

ISBN 978-5-00139-415-0 (рус.)
ISBN 978-0691216744 (англ.)

УДК 004.8
ББК 16.6
 
Ш76

Переводчик Наталья Лисова
Научный редактор Александр Каплан, д-р биол. наук
Редактор Вячеслав Ионов

Шнайдер С.
Искусственный ты: машинный интеллект и будущее 
нашего разума / Сьюзан Шнайдер ; Пер. с англ. — М. : 
Альпина нон-фикшн, 2022. — 245 с.

ISBN 978-5-00139-415-0

В этой книге речь идет о будущем разума и о том, как 
наши представления о себе, о разуме и о собственной природе 
могут изменить будущее — к лучшему или к худшему. 
В ней две центральные сюжетные линии: одна — это размышления 
о том, что такое сознание, вторая — предупреждение 
о том, что неспособность продумать философские 
последствия создания искусственного интеллекта может 
положить конец дальнейшему процветанию существ, 
обладающих сознанием. Автор пытается найти ответы на 
вопросы: могут ли машины обладать сознанием и может 
ли человек слиться с искусственным интеллектом ради расширения 
своих возможностей?

УДК 004.8
ББК 16.6

Ш76

Все права защищены. Никакая часть этой книги не может быть воспроизведена в какой бы 
то ни было форме и какими бы то ни было средствами, включая размещение в сети интернет 
и в корпоративных сетях, а также запись в память ЭВМ для частного или пуб личного 
использования, без письменного разрешения владельца авторских прав. По вопросу организации 
доступа к электронной библиотеке издательства обращайтесь по адресу 
mylib@alpina.ru

© Susan Schneider, 2019
© Издание на русском языке, перевод, 
оформление.  
ООО «Альпина нон-фикшн», 2022

О Г Л А В Л Е Н И Е

Введение . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7

Глава 1 
Век ИИ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .19

Глава 2 
Проблема искусственного сознания . . . . . . . . . . . 29

Глава 3 
Проектирование сознания . . . . . . . . . . . . . . . . . . . 53

Глава 4 
 Как поймать ИИ-зомби:  
тесты для выявления сознания у машин . . . . . . . . .71

Глава 5 
Могли бы вы слиться с ИИ?. . . . . . . . . . . . . . . . . .107

Глава 6 
Сканирование разума. . . . . . . . . . . . . . . . . . . . . . . 121

Глава 7 
Вселенная сингулярностей . . . . . . . . . . . . . . . . . .143

Глава 8 
 Действительно ли разум — это программа? . . . . .175

Заключение: послежизнь мозга . . . . . . . . . . . . .  213

Приложение. . . . . . . . . . . . . . . . . . . . . . . . . . . . . .  217

Благодарности . . . . . . . . . . . . . . . . . . . . . . . . . . .  221

Литература . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .  225

Примечания . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .  233

Предметно-именной указатель . . . . . . . . . . . . . . .  241

В В Е Д Е Н И Е

Представьте, что на дворе  год и вы отправляетесь 
за покупками. Ваша первая остановка — Центр 
конструирования разума. Вы входите и видите большое 
меню с причудливыми названиями, за каждым из которых 
кроется то или иное расширение возможностей 
мозга. «Коллективное сознание» — это чип для мозга, 
позволяющий воспринимать самые потаенные мысли 
близких людей. «Сад дзен» — микрочип, позволяющий не 
хуже мастера дзен входить в состояние глубокой медитации. «
Живой калькулятор» обеспечит вам математические 
способности едва ли не гениального уровня. Выбрали 
бы вы  что-нибудь такое и если да, то что именно? 
Повышенную внимательность? Музыкальные способности, 
как у Моцарта? Можно заказать одно улучшение, 
а можно сразу комплект.
А потом вы идете в магазин андроидов. Пора обновить 
андроида для ведения домашнего хозяйства. Набор 
видов искусственного интеллекта (будем называть их 
искинами) обширен и разнообразен. Одни искины позволяют 
воспринимать или чувствовать то, что людям 
недоступно, другие обеспечивают связь с базами данных 
всего интернета. Вы выбираете то, что нужно вашей семье. 
Весь день у вас уходит на выбор искинов- помощников 
и конструирование собственного разума.

И 

В этой книге речь пойдет о будущем разума, 
о том, как наши представления о себе, о разуме 
и о собственной природе могут изменить будущее — 
к лучшему или к худшему. Наш мозг приспособлен 
для жизни в определенных условиях 
и имеет значительные анатомические и эволюционные 
ограничения. Искусственный интеллект 
(ИИ) открывает простор для расширения его возможностей, 
предлагая новые материалы и принципы 
работы, а также новаторские пути развития, 
причем гораздо более быстрые, чем биологическая 
эволюция. Я называю это захватывающее новое 
направление конструированием разума. Конструирование 
разума — это форма креационизма, где 
в роли творца выступаем мы, люди, а не Бог.
Лично меня перспектива конструирования 
разума заставляет трезво взглянуть на наши ны-
нешние возможности, ведь, если честно, мы не 
так уж и развиты. Пришелец в фильме Карла Са-
гана «Контакт» после первой встречи с челове-
ком говорит: «Вы интересный биологический вид. 
Интересная смесь. Вы способны на такие чудес-
ные сновидения и на такие ужасные кошмары» . 
Мы ступили на Луну, обуздали энергию атома, 
но расизм, алчность и жестокость по-прежнему 
встречаются на каждом шагу. Наше обществен-
ное развитие отстает от наших же технических 
достижений.
На этом фоне мысль о полном отсутствии 
у нас философского понимания природы разума 
может показаться мелочью. Однако непонимание 
в философии тоже обходится недешево, как ясно 

В 
9

демонстрируют две основные сюжетные линии 
этой книги.
Одна из них всем хорошо знакома. Она при-
сутствует в жизни всегда, от начала до конца: это 
ваше сознание. Читая это, вы определенным об-
разом ощущаете себя. Вы испытываете телесные 
ощущения, видите слова на странице и т. д. Ощу-
щаемая сущность вашей ментальной жизни и есть 
сознание. Без сознания не было бы боли и страда-
ний, не было бы ни радости, ни жгучего любопыт-
ства, ни мук скорби. Переживаний, положитель-
ных или отрицательных, попросту не существовало 
бы.
Именно как существо, обладающее сознанием, 
вы мечтаете об отпуске, прогулке в лесу или изы-
сканных трапезах. Сознание настолько близко, 
настолько знакомо каждому, что оно естествен-
ным образом воспринимается в основном через 
призму личного опыта. В конце концов, не обяза-
тельно читать учебник по нейробиологии, чтобы 
понять, как ощущается обладание сознанием. Со-
знание и есть, по существу, внутреннее ощущение. 
Именно этот базовый элемент — осознанное пере-
живание — служит, на мой взгляд, признаком об-
ладания разумом.
Суть второй сюжетной линии книги заключа-
ется в том, что неспособность продумать философ-
ские последствия создания искусственного интел-
лекта (ИИ) может положить конец дальнейшему 
процветанию существ, обладающих сознанием. При 
недостаточной осмотрительности реализация техно-
логии ИИ может выйти нам боком, иначе говоря, 

И 

вместо упрощения жизни принести страдания, ги-
бель или эксплуатацию людей.
Некоторые связанные с ИИ угрозы процвета-
нию человечества обсуждаются уже давно. Это 
и хакеры, способные нарушить работу сетей элек-
троснабжения, и сверхразумные автономные си-
стемы вооружения, пришедшие словно из фильма 
«Терминатор». Я же поднимаю вопросы, привлека-
ющие куда меньше внимания. Однако они не ме-
нее значимы. Порочная реализация ИИ, о которой 
я говорю, имеет две разновидности: () непред-
усмотренные ситуации, связанные с созданием 
мыслящих машин, и () последствия радикаль-
ного расширения возможностей мозга, подобного 
тому, что предлагается в гипотетическом Центре 
конструирования разума. Рассмотрим эти опасно-
сти по очереди.

М а ши н ы, о б ла д а ю щ и е  с о зн а ние м ?

Предположим, мы умеем создавать совершенные 
универсальные искины — такие, что могут легко 
переходить от одного вида интеллектуальной дея-
тельности к другому и даже соперничать с людьми 
по способности рассуждать. Будет ли это означать, 
что мы, по существу, умеем создавать машины, 
обладающие сознанием, — машины, которые яв-
ляются одновременно личностями и субъектами 
переживания?
Когда дело доходит до вопроса о том, способны 
мы создать машинное сознание или нет, следует 
честно признаться, что никто этого не знает. Ясно 

В 
11

одно: вопрос о том, могут ли искины переживать, 
станет ключом к тому, насколько мы будем ценить 
их существование. Сознание есть краеугольный 
камень нашей морали, поскольку оно занимает 
центральное место в суждении о том, является ли 
 кто-то или  что-то личностью, а не просто автома-
том. А если искин — это обладающая сознанием 
сущность, то принуждение его к услужению сма-
хивает на рабство. В конце концов, как бы вы себя 
чувствовали в магазине андроидов, где на продажу 
выставлены существа, обладающие сознанием, — 
существа, умственные способности которых срав-
нимы с вашими или даже превосходят их?
Если бы я была директором по разработке ИИ 
компании Google или Facebook, то в будущих про-
ектах мне не хотелось бы попасть в этическую за-
падню из-за создания по недосмотру системы, об-
ладающей сознанием. Появление системы, которая 
может себя осознавать, могло бы спровоцировать 
обвинения в ИИ-рабстве и другие кошмары в сфере 
связи с общественностью. Такое событие могло бы 
привести даже к запрету использования ИИ-техно-
логий в определенных областях деятельности.
На мой взгляд, все это способно подтолкнуть 
ИИ-компании к целенаправленной работе над тем, 
чтобы избежать создания обладающего сознанием 
искина для определенных задач. Разумеется, для 
этого сознание должно быть тем, что можно как 
включить в систему при разработке, так и исклю-
чить из нее. Однако оно может быть неизбежным 
побочным продуктом построения разумной си-
стемы или вообще оказаться невозможным.

К покупке доступен более свежий выпуск Перейти