Правовые и этические проблемы искусственного интеллекта

Федеральное государственное образовательное бюджетное  
учреждение высшего образования
«ФИНАНСОВЫЙ УНИВЕРСИТЕТ  
ПРИ ПРАВИТЕЛЬСТВЕ РОССИЙСКОЙ ФЕДЕРАЦИИ»
(Финансовый университет)

Департамент математики

Д.А. Баюк, А.В. Попова

ПРАВОВЫЕ И ЭТИЧЕСКИЕ 
ПРОБЛЕМЫ ИСКУССТВЕННОГО 
ИНТЕЛЛЕКТА

 

Учебник для магистратуры

МОСКВА 
2022

УДК 34.09
ББК 67
 
Б 33
 
Рецензенты:
Комаров С.А. — д.ю.н., профессор, президент Межрегиональной 
ассоциации теоретиков государства и права, научный руководитель 
Юридического института (Санкт-Петербург);
Ястреб Н.А. — д.ф.н., завкафедрой философии Вологодского 
государственного университета, директор Гуманитарного института 
Вологодского государственного университета.

 
Баюк Д.А.
Б 33 
 
Правовые и этические проблемы искусственного интеллекта: / 
Учебник для магистратуры / Д.А. Баюк, А.В. Попова. — М.: Прометей, 
2022. — 300 с. — (Высшее образование: магистратура)

 
ISBN  978-5-00172-253-3

Учебник построен на основании рабочей программы одноименной 
учебной дисциплины и опыта ее преподавания авторами 
в магистратуре по направлению подготовки 01.04.02 «Прикладная 
математика и информатика» в Финансовом университете при Правительстве 
Российской Федерации. В учебнике рассматриваются 
понятие и признаки искусственного интеллекта (AI), дается краткий 
обзор истории его возникновения и характеристика воздействия 
его на современное состояние человеческой цивилизации. 
Представлены и классифицированы виды искусственного интеллекта, 
приведена и проанализирована соответствующая российская 
и иностранная научная литература по различным аспектам теории 
искусственного интеллекта и проблемам сосуществования человека 
с ним. Определены этические принципы взаимодействия человека 
и AI на основе анализа как международных, так и национальных 
актов в данной сфере. Раскрыты особенности юридических документов 
в сфере правового регулирования искусственного интеллекта 
в различных странах; приведены примеры использования 
AI в различных сферах общественной жизни; предложена авторская 
концепция системы российского законодательства в сфере AI. 
Учебник предлагается студентам, магистрантам, аспирантам 
всех направлений подготовки обучения, преподавателям 
вузов и колледжей, а также всем интересующимся проблемами 
искусственного интеллекта.

 
©  Баюк Д.А., Попова А.В., 2022.
ISBN  978-5-00172-253-3 
©  Издательство «Прометей», 2022

—   3  —

ОГЛАВЛЕНИЕ

ВВЕДЕНИЕ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .6

ГЛАВА 1. ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ:   
ИСТОРИЯ ИДЕИ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
1.1. От арифмометра Лейбница к Deep Blue,   
победившей Гарри Каспарова  . . . . . . . . . . . . . . . . 11
1.2. GOFAI vs. машинное обучение  . . . . . . . . . . . . . . . 20
1.3. Компьютерная цивилизация . . . . . . . . . . . . . . . . . 30

ГЛАВА 2. ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ:  
ЛЕГАЛЬНОЕ ОПРЕДЕЛЕНИЕ И ПРИЗНАКИ  . . . . . . . 39
2.1. Терминология, используемая в сфере правового 
регулирования искусственного интеллекта . . . . . 40
2.2. Искусственный интеллект: правовые аспекты . . . 48
2.3. Виртуальная реальность и онтология  
искусственного интеллекта . . . . . . . . . . . . . . . . . . 59

ГЛАВА 3. ДВЕ СТОРОНЫ  ОДНОЙ ЭТИЧЕСКОЙ 
ПРОБЛЕМЫ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 79
3.1. Этика, мораль, нравственность и машины . . . . . . 79
3.2. Покидая мальтузианскую ловушку  . . . . . . . . . . . 84
3.3. Этические нормы и научно-технический  
прогресс . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 89
3.4. Этическая дилемма  в эпоху слабого  
или сильного искусственного интеллекта  . . . . . . 97
3.5. Люди и скрепки  . . . . . . . . . . . . . . . . . . . . . . . . . . 100

ГЛАВА 4. ЧТО УМЕЕТ ИСКУССТВЕННЫЙ  
ИНТЕЛЛЕКТ УЖЕ СЕЙЧАС . . . . . . . . . . . . . . . . . . . . . . 104
4.1. Голосовой помощник . . . . . . . . . . . . . . . . . . . . . . 104
4.2. Беспилотный транспорт . . . . . . . . . . . . . . . . . . . . 109
4.3. Автономная медицина . . . . . . . . . . . . . . . . . . . . . 117
4.4. Судопроизводство . . . . . . . . . . . . . . . . . . . . . . . . . 122

—   4   —

Оглавление

4.5. Энергетика  . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 128
4.6. Связь . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 134
4.7. Финальная безработица . . . . . . . . . . . . . . . . . . . . 139

ГЛАВА 5. РИСКИ И ОПАСНОСТИ . . . . . . . . . . . . . . . . . 146
5.1. Автономное оружие . . . . . . . . . . . . . . . . . . . . . . . 146
5.2. Верификация и валидация  . . . . . . . . . . . . . . . . . 152
5.3. Этические дилеммы . . . . . . . . . . . . . . . . . . . . . . . 154
5.4. Смещение на Восток . . . . . . . . . . . . . . . . . . . . . . . 161

ГЛАВА 6. ПРАВОСУБЪЕКТНОСТЬ   
ИСКУССТВЕННОГО ИНТЕЛЛЕКТА . . . . . . . . . . . . . . . 167
6.1. Понятие правосубъектности в общей теории  
права . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 167
6.2. Правосубъектность искусственного  
интеллекта  . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 172
6.3. Юридическая ответственность: возможность  
ее существования у искусственного интеллекта . . 180
6.4. Гражданско-правовая ответственность  
разработчика (создателя)  в области  
использования искусственного интеллекта,   
робота и объектов робототехники . . . . . . . . . . . . 192
6.5. Гражданско-правовая ответственность  
пользователя  (владельца, собственника  
или лица, получающего прибыль)  в области 
использования искусственного интеллекта,  
робота и объектов робототехники . . . . . . . . . . . . 194

ГЛАВА 7. ПРАВОВОЕ РЕГУЛИРОВАНИЕ 
ИСКУССТВЕННОГО ИНТЕЛЛЕКТА . . . . . . . . . . . . . . . 198
7.1. Правовые принципы использования  
искусственного интеллекта . . . . . . . . . . . . . . . . . 198
7.2. Структуры нормативной правовой базы   
в сфере правового регулировании искусственного 
интеллекта  в Российской Федерации . . . . . . . . . 212
7.3. Транснациональное правовое регулирование  
искусственного интеллекта . . . . . . . . . . . . . . . . . 218

—   5  —

Оглавление

7.4. Национальное законодательное регулирование  
искусственного интеллекта и перспективы 
«мягкого» права . . . . . . . . . . . . . . . . . . . . . . . . . . 225
7.5. Сравнительный анализ национального 
законодательства иностранных государств  
в сфере искусственного интеллекта  . . . . . . . . . .234

ГЛАВА 8. ЭТИЧЕСКИЕ ПРИНЦИПЫ  
ВЗАИМОДЕЙСТВИЯ ЧЕЛОВЕКА, ОБЩЕСТВА, 
ГОСУДАРСТВА И ИСКУССТВЕННОГО  
ИНТЕЛЛЕКТА В ЮРИДИЧЕСКИХ ДОКУМЕНТАХ . . 243
8.1. Этика в правовом регулировании  
искусственного интеллекта . . . . . . . . . . . . . . . . . 244
8.2. Этические принципы применения  
искусственного интеллекта . . . . . . . . . . . . . . . . . 258

ГЛАВА 9. ВОЗМОЖНАЯ ТРАНСФОРМАЦИЯ 
ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В БУДУЩЕМ  
И МЕРА ОТВЕТСТВЕННОСТИ ЗА НЕЕ  
В НАСТОЯЩЕМ  . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 278
9.1. Интеллектуальный взрыв и сингулярность . . . . 278
9.2. Неолуддиты, техноскептики и цифро-утописты . . 283
9.3. Непротиворечивость целей людей и машин . . . . 286

ЛИТЕРАТУРА . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 292
Основная . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 292
Дополнительная . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 293
Документы для самостоятельного анализа  . . . . . . . . 295
Цитированные источники . . . . . . . . . . . . . . . . . . . . . . 295

—   6   —

ВВЕДЕНИЕ

В федеральной программе «Цифровая экономика 
Российской Федерации» в рамках пяти базовых направлений 
развития цифровой экономики в Российской Федерации 
на период до 2024 г. ставится задача «формирования 
новой регуляторной среды, обеспечивающей благоприятный 
правовой режим для возникновения и развития 
современных технологий, а также для осуществления 
экономической деятельности, связанной с их использованием (
цифровой экономики)», а именно «формирование 
комплексного законодательного регулирования отношений, 
возникающих в связи с развитием цифровой экономики». 
В этой связи создание концепции комплексного 
правового регулирования искусственного интеллекта, 
роботов и объектов робототехники как особых субъектов, 
уже фактически сложившихся в различных сферах общественного, 
государственно-правового развития социально-
технических отношений, актуализирует исследования 
в данной области.
На современном этапе развития технологии искусственного 
интеллекта (AI)1 и киберфизических систем 
(CPS) находятся на таком уровне, что можно уже говорить 
об их существенном влиянии на частноправовые 
и публично-правовые отношения. Отсюда возникает 

1 
Здесь и далее для понятий, широко используемых в международной 
практике, мы будем пользоваться также международными 
обозначениями и аббревиатурам: AI —  для искусствен-ного интеллекта (
artificial intelligence); IoT — для интернета вещей (Internet 
of Things); CPS – для киберфизических систем (Cyber Physical 
System).

—   7  —

Введение

необходимость внесения изменений в законодательство 
Российской Федерации. Как отметил Президент Российской 
Федерации в Ежегодном послании Федеральному 
собранию Российской Федерации 1 марта 2018 г.: «В мире 
сегодня накапливается громадный технологический потенциал, 
который позволяет совершить настоящий рывок 
в повышении качества жизни людей, в модернизации 
экономики, инфраструктуры и государственного управления. 
Насколько эффективно мы сможем использовать 
колоссальные возможности технологической революции, 
как ответим на ее вызов, зависит только от нас. И в этом 
смысле ближайшие годы станут решающими для будущего 
страны». Содержащиеся в этих словах прогноз и неявный 
призыв к модернизации подразумевают создание 
принципиально новой нормативной правовой базы и соответствующих 
изменений практически во все отраслях 
российского законодательства. 
Первой страной, начавшей создавать законодательство 
в данной сфере, была Южная Корея, в которой 
в марте 2008 г. был принят Закон «О содействии развитию 
и распространению умных роботов»; в 2013 г. во Франции — “
France Robots Initiatives” («Инициативы Франции 
в сфере робототехники»); в 2018 г. в Германии — 
Восьмой закон о внесении изменений в Закон о дорожном 
движении; в 2019 г. в Эстонии — Закон Эстонии о роботах-
курьерах. Правовую рамку для этих и последующих 
законодательных инициатив в Европе создает принятая 
в феврале 2017 г. Европарламентом Резолюция 2015/2103 
(INL) “Civil Law Rules on Robotics” («Нормы гражданского 
права о робототехнике и Хартия робототехники»), в которой 
указывается на необходимость разработки правовых 
стандартов в данной области. 
В преамбуле этого документа упоминается долгая 
история взаимоотношения людей с нечеловеческими 

—   8   —

Введение

разумными существами, созданными людьми. Вся эта 
история содержится в фантастических художественных 
произведениях — на протяжении нескольких веков это 
были исключительно литературные произведения, однако 
в последние десятилетия к обсуждению подобных 
вопросов подключились кинематографисты. Именно 
в художественной литературе возник термин «робот», 
который в наши дни воспринимается, скорее, как технический, 
а не литературный. Люди давно подозревали, что 
им удастся со временем создавать себе подобных существ 
не только естественным образом, но и благодаря своему 
искусству. И уже в фантазиях возникали вопросы о взаимоотношениях 
с этими вымышленными существами, 
которые иногда оказывались довольно острыми, а сейчас 
приходится решать их в практической жизни. 
Даже не будучи разумными, роботы сильно поменяли 
нашу жизнь. Право всегда опирается на этику: представления 
людей о благе, справедливости, добре и зле. Впервые 
обсуждение этических вопросов, связанных с этими изменениями, 
за пределами профессионального сообщества 
разработчиков умных компьютерных систем предложил 
физик-теоретик Массачусетского технологического института (
MIT) Макс Тегмарк: по его инициативе в 2015 г. была 
проведена конференция в Пуэрто-Рико, и одним из результатов 
этой конференции стало создание Института будущего 
жизни (Future of Life Institute), финансируемого Ило-
ном Маском, во главе его встал Макс Тегмарк. В 2017 г. 
этот институт выступил в роли организатора следующей 
конференции, посвященной обсуждению этической повестки 
в знаменитом калифорнийском конференц-центре 
Асиломаре — эту инициативу поддержали, помимо Илона 
Маска, Стивен Хокинг и Рэй Курцвейл, представители 
Google, Apple, Facebook, IBM, Microsoft, а также многие 
другие ведущие специалисты в области AI.

—   9  —

Введение

В отличие от правовой повестки, требующей точных 
формулировок и нацеленной в будущее, этические вопросы, 
хотя тоже нацелены в будущее, требуют гораздо менее 
формализованное, философское обсуждение. Для их понимания 
требуется обратиться к истории, понять, как и в 
какой форме человечеству уже приходилось встречаться 
с чем-то подобным, как оно на это отреагировало и что 
из этого получилось. Следует признать, что последствия 
бурного развития техники не все исключительно позитивны. 
Более того, некоторые прямо угрожают нашему 
существованию. Голоса скептиков относительно невозможности 
сосуществования людей на одной планете с созданными 
ими техническими монстрами звучат все громче, 
и нельзя сказать, чтобы они были совсем безосновательны. 
Новые технологии, становясь все более мощными, 
грозят людям все более тяжелыми последствиями неосторожного 
обращения с ними. И если раньше люди вполне 
успешно полагались на метод проб и ошибок, дававший 
возможность извлекать ценные уроки из прошлого опыта, 
то в ХХ в. цена ошибок становилась все более высокой, 
и сейчас многие эксперты уже говорят о возможности 
финальной ошибки, которая будет стоить жизни всем живущим 
на Земле людям или даже вообще всему живому. 
Как ни странно, обсуждение методологии избегания этой 
финальной ошибки, которая никогда не была совершена 
и не должна быть совершена, хотя и может быть совершена, 
тоже находится в ведении этики. И ее выводы, сделанные 
на основе абстрактного философствования, расплывчатых 
художественных рефлексий и долгих дискуссий, 
со временем должны будут найти свое отражение в четких 
и однозначных статьях закона.
Осознавая данные риски в мае 2021 г. Европарла-
мент принял, «Proposal for a REGULATION OF THE 
EUROPEAN PARLIAMENT AND OF THE COUNCIL 

—   10   —

Введение

LAYING DOWN HARMONISED RULES ON ARTIFICIAL 
INTELLIGENCE 
(ARTIFICIAL 
INTELLIGENCE 
ACT) 
AND AMENDING CERTAIN UNION LEGISLATIVE ACTS 
(Предложение о Регламенте Eвропейского парламента 
и Cовета, принимающих гармонизированные правила 
об AI (закон об AI) и внесение изменений в законодательные 
акты), предполагающий принятие широкого перечня 
нормативных правовых актов, ограничивающих использование 
AI в интересах человека.

—   11  —

ГЛАВА 1.  

ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ:  

ИСТОРИЯ ИДЕИ

В результате изучения материалов главы обучающийся 
должен
знать:
– основную канву исторических событий, приведших 
к формированию цифровой цивилизации, и характерные 
для них этические проблемы;
уметь:
– ориентироваться в исторических источниках и выделять 
в них этические импликации; 
– отделять 
этико-философский 
контекст 
эпохи 
от императивов современности.
владеть:
– навыками критического анализа различных историко-
научных явлений и фактов.

1.1. От арифмометра Лейбница к Deep Blue,  
победившей Гарри Каспарова

Идея, что между всем сущим и обозначающим его 
символом возможно однозначное соответствие, восходит 
к Средним векам. Наиболее полное свое выражение она 
нашла в «комбинаторном искусстве» Готфрида-Вильгельма 
Лейбница (1646–1716), надеявшегося построить 
что-то вроде арифметики, которая позволила бы оперировать 
этими обозначающими символами, иначе говоря — 
сделать вычислимым результат любого умозаключения. 
Изобретенный им арифмометр (stepped reckoner) после 

—   12   —

Глава 1. Искусственный интеллект: история идеи

ряда усовершенствований должен был бы освободить людей 
от необходимости принимать решения в условиях 
неопределенности, и в частности справедливо завершать 
любые судебные тяжбы. 
Эта идея была похоронена уже в начале Нового времени: 
слова и вещи не образуют тождества, и задача кодирования 
мыслительной деятельности не может быть 
разрешена так просто, однако у мечты об искусственном 
мышлении был еще один средневековый, или, точнее, 
аристотелевский, то есть античный, корень: разделение 
естественного и искусственного никогда не окончательно, 
и в уподоблении природе у человека нет заранее определенной 
границы. Искусственно создаваемая жизнь может 
оказаться наделена и искусственно созданным разумом. 
В преддверии наступающей эпохи торжества механицизма 
вычислительные машины и Лейбница, и появившаяся 
почти в то же время Блеза Паскаля (1623–1662) 
были механическими, но искусственно создаваемые разумные 
существа, гомункулы, предшествовавшей эпохи 
были скорее химическими или, если угодно, алхимическими — 
правда, тогда ответ на вопрос «а что же из себя 
представляет мышление вообще?» было невозможно дать 
с ясностью рационалистического классицизма, предположившего, 
что мышление — это вычисление. 
Электронные вычислительные машины могут показаться 
нам прямыми наследниками механических калькуляторов, 
как и классическая электродинамика может 
показаться естественным итогом развития аналитической 
механики. Но в обоих случаях происходит важный 
смысловой сдвиг, который можно даже назвать тектоническим. 
Электродинамика ввела, или, правильнее сказать, 
вернула в учение о природе представление о непрерывно 
распределенной субстанции. «Вернула» — потому 
что и в эпоху античности, и в Средние века существовало 

—   13  —

1.1. От арифмометра Лейбница к Deep Blue, победившей Гарри Каспарова

представление о материи как о чем-то таком, в чем нет 
ни разрывов, ни пустот, но тогда подразумевалась осязаемая 
материя, вещество. В аристотелевской физике она 
представляла собой комбинацию первичных субстанций, 
или элементов, — земли, воды, воздуха и огня. С появлением 
электродинамики непрерывной оказалась какая-то 
новая, неведомая раньше форма материи — поле. Оно 
появилось благодаря Джеймсу Клерку Максвеллу (1831–
1879) во второй половине XIX в., хотя могла появиться 
и двумя столетиями раньше благодаря Исааку Ньютону 
(1643–1727). А что при этом происходит с веществом, надолго 
осталось предметом дискуссий.
В атомистической картине мира, когда-то планомерно 
отвергавшейся Аристотелем и сохранившей довольно 
влиятельных противников и во времена Максвелла, поле 
непрерывно заполняет вакуум между атомами воды, воздуха 
или любых других элементов вещества, количеству 
которых вскоре предстояло значительно вырасти. В ХХ в. 
заметно выросло и количество полей: кроме электромагнитного 
обнаружились гравитационное поле и поля слабого 
и сильного ядерных взаимодействий. Вообще идея 
поля оказалась очень притягательной в повседневной 
культуре, и сейчас много людей, любящих рассуждать 
о пси-полях, биополе, торсионных полях и энергоинформационном 
поле.
Поставленный еще Исааком Ньютоном, но отложенный 
на будущее вопрос о материальном переносчике 
взаимодействий тел, между которыми, казалось бы, ничего 
нет, был таким образом решен: пустота — это совсем 
не пустота, а физический вакуум, служащий питательной 
средой для всевозможных взаимодействий, хотя бы потенциальных. 
Иначе говоря, вакуум — и сам по себе некоторое 
поле или даже их суперпозиция. Таким образом, 
материальные тела и действующие между ними силы