Автономный искусственный интеллект

А. А. Жданов

Автономный
 
искусственный
 
интеллект

5-е издание, электронное

Москва
Лаборатория знаний

2020

УДК 004.8+519.7
ББК 32.81

Ж42

С е р и я о с н о в а н а в 2005 г.
Жданов А. А.

Ж42
Автономный искусственный интеллект / А. А. Жданов. —
5-е изд., электрон. — М. : Лаборатория знаний, 2020. — 362 с. —
(Адаптивные и интеллектуальные системы). — Систем. требования: Adobe Reader XI ; экран 10".— Загл. с титул. экрана. —
Текст : электронный.
ISBN 978-5-00101-655-7
Книга, посвященная моделированию нервных систем, дает возможные ответы на следующие вопросы: как должна быть устроена
нервная система с логически-рациональной точки зрения? Можно ли
воспроизвести путь «конструкторской мысли», который прошла
Природа, конструируя нервные системы? Что такое нейрон и как
он работает?
Рассмотрены способы построения адаптивных систем управления на основе эмпирических знаний, или систем динамической оптимизации. Представлены прототипы некоторых прикладных систем,
построенных с использованием предложенного метода.
Для научных работников, аспирантов и студентов, интересующихся кибернетикой; для специалистов по системам управления,
биологов и математиков.
УДК 004.8+519.7
ББК 32.81

Деривативное издание на основе печатного аналога: Автономный искусственный интеллект / А. А. Жданов. — 2-е изд. —
М. : БИНОМ. Лаборатория знаний, 2009. — 359 с. : ил. — (Адаптивные и интеллектуальные системы). — ISBN 978-5-94774-995-3.

В соответствии со ст. 1299 и 1301 ГК РФ при устранении ограничений,
установленных
техническими
средствами
защиты
авторских
прав,
правообладатель вправе требовать от нарушителя возмещения убытков
или выплаты компенсации

ISBN 978-5-00101-655-7
c○ Лаборатория знаний, 2015

2

Введение

Эта книга посвящена проблеме моделирования нервных систем. Сегодня никто
из специалистов не может представить себе со всей определенностью, как
устроены и функционируют нервная система и мозг не только человека,
но даже более простого организма. И тем более, пока никто не в состоянии смоделировать работу этих природных систем управления, возможности
которых кажутся нам недостижимыми. Теперь представим себе на минуту,
что построена действующая модель нервной системы некоторого организма,
например мыши (эта пока нереальная задача во много раз сложнее, чем
создание шахматного компьютера или программы, доказывающей теоремы).
Естественно, что мозг мыши потребует наличия и точной модели тела мыши.
Допустим, что эта модель стоит на столе, неотличимая от реальной мыши.
Что же мы можем от нее потребовать? Какую полезную для человека работу
она может выполнять? День и ночь рыть для нас нору? Но она не захочет
рыть нору для нас, она захочет рыть нору для себя, а также для себя есть,
гулять и размножаться. Что же смогут дать нам такие системы, как их построить и чем принципиально они отличаются от тех систем «искусственного
интеллекта», над созданием которых сегодня трудятся многочисленные лаборатории? В этой книге представлены результаты разработки этих вопросов, а
также созданные модели объектов с искусственными «нервными системами».
Мы призываем идти вслед за природой по неизбежному для человечества пути
создания искусственных нервных систем — систем «автономного искусственного интеллекта».
Человек, несколько веков назад изобретя первые машины, был сразу
и навсегда увлечен этим феноменом и с тех пор создает все новые и новые
их образцы, наполняя природу вокруг себя искусственными «организмами».
Подобно живым творениям, машины развиваются, наследуя удачные решения,
«мутируя» и «скрещиваясь», подвергаются «естественному отбору», передают
свой «генетический код» в «геноме» технической документации, «производя
на свет» все более совершенное «потомство». Уже давно в соревновании
с Природой машины превзошли живые организмы во многих номинациях:
в силе, выносливости, скорости передвижения, высоте полета и во многих
других. Конечно, это грандиозное соревнование устраивается человечеством
не ради эстетического удовольствия, и даже не ради удовлетворения своего
честолюбия, хотя и то и другое, несомненно, имеет место в ряду мотиваций технического прогресса. Главная причина эволюции машинной «фауны» состоит
в прагматической выгоде человека. Машины в свое время успешно заменили
рабов, и в настоящее время искусственная среда машин составляет массу

Введение

технорабов, обслуживающих их хозяина — человека. Всякому рабовладельцу
энергетически выгодно иметь рабов — они производят тяжелую физическую
работу, позволяя хозяину перейти к не столь тяжкому интеллектуальному
труду по созданию машин и организационному труду по управлению этими
искусственными слугами.
Однако интеллектуальный труд тоже требует усилий и затрат энергии,
что заставляет искать возможности построения машин, способных выполнять
и эту работу. Задача оказалась очень трудной, но, в конце концов, были
изобретены и в ХХ веке построены машины, способные к интеллектуальному
труду. В процессе быстрой эволюции эти машины достигли очень высоких
результатов и снова по многим показателям заняли первые места в соревновании с человеком. Впрочем, никто особенно и не стремится соревноваться
с ними, как бессмысленно рабовладельцу соревноваться со своими рабами
в силе и выносливости, а инженеру — с созданными им механизмами. Машины,
называемые системами «искусственного интеллекта», давно обошли человека
в соревнованиях по точности счета (калькуляторы), по скорости и объему
вычислений (ЭВМ), по скорости обработки символьной информации (лингвистические процессоры), по скорости перевода с одного языка на другой
(программы-переводчики), по играм (шахматные компьютеры). Интеллектуальная мощность компьютеров будет, видимо, еще долго расти по всем законам эволюционного развития, так как спрос на интеллектуальных «рабов»
повышается. Умственная работа — это нелегкий труд, и находится тысячу
причин, почему человеку хочется переложить этот труд на чьи-нибудь плечи.
Сфера применения ЭВМ быстро расширялась, и от ответственных расчетов,
которыми занимались первые машины, она давно распространилась и в непроизводственные области. Согласитесь, что приятно иметь симпатичного во всех
отношениях и умного синтетического слугу, который в любое время суток готов без устали играть с вами в какие-нибудь очередные разноцветные шарики,
в перерывах развлекая вас веселыми картинками, музыкой и прочими опциями
повышенной комфортности. За такого слугу можно и недешево заплатить.
Как при создании «механических», так и при создании «интеллектуальных» машин действует примерно одинаковая итерационная схема, присущая
процессу моделирования. Вначале воспроизводятся некоторые главные внешние черты образа, затем они многократно уточняются в своих деталях. Так,
при создании первых механических машин люди пытались превзойти живую
природу в тех параметрах, которые они понимали: а именно, в силе и выносливости — отсюда родилось желание создать еще более сильные и выносливые
искусственные машины. В то время еще не осознавали других многочисленных
свойств живых организмов и подчас относили их к недостаткам. И лишь
на следующих витках цикла моделирования смысл этих свойств становился
понятным, и они начинали учитываться при проектировании. Такие понятия,
как экономичность, эффективность, оптимальность, экологичность, и другие постепенно осваивались наукой и вводились в практику. Сегодня любая
машина отвечает гораздо большему спектру требований, чем аналогичная
по назначению машина прошлого. Природа машин поневоле вошла в тесное
взаимодействие с естественной природой и вынуждена была «притереться»

Введение
5

к ней. В частности, в технологии создания механических машин теперь используются разнообразные знания о естественной природе, пришедшие из химии,
энергетики, аэродинамики, физики и т. д. В каком-то смысле современная
механическая машина, будучи искусственным чуждым природе объектом, уже
частично «вписана» в окружающую естественную среду по многим параметрам.
Подобный ход развития повторяют и интеллектуальные машины, но с некоторой задержкой на старте. Уже успешно пройден этап создания интеллектуальных машин, перекрывших указанные выше интеллектуальные возможности человека. Однако современные компьютеры пока еще слабо вписываются
в Природу. Ни по принципам своего действия, ни по своим функциональным
свойствам они не похожи на природные «компьютеры» — нервные системы.
Именно эти белые пятна современных компьютеров и составляют сегодня
важные направления развития компьютерных и смежных с ними наук.
Кем и какими способами решается задача сближения свойств искусственных и естественных интеллектуальных машин — компьютеров и нервных
систем живых организмов? Основные участки фронта исследования держат
нейрофизиологи, кибернетики и математики (мы не знаем, чем заменить
вышедшее нынче из моды слово «кибернетика», поэтому будем продолжать
пользоваться им, понимая под этим науку, занимающуюся проблемами
построения систем управления, систем распознавания, систем, работающих
со знаниями и другими соответствующими вопросами). Однако беда в том,
что между этими мощными силами почти не налажено взаимодействие.
Препятствием является необходимость освоения большой суммы специальных
знаний, требующихся для работы в каждой из этих областей. Трудно найти
человека, который обладал бы профессиональными знаниями одновременно
в биологии, кибернетике и математике.
На наш взгляд, проблема исследования принципов действия нервных систем обусловлена следующими особенностями предмета исследования. Всякий
живой организм для поддержания своего существования и своего развития
должен управляться. В результате специализации в живых организмах выделились и сформировались специальные средства для управления, в частности — нервные системы (мозг везде ниже будем полагать частью нервной
системы). Управление живым организмом в априори мало известной для него
и изменяющейся среде по необходимости должно быть самообучаемым —
адаптивным. Система адаптивного управления обязана решать определенные задачи управления, причем в определенной их последовательности. Это
такие задачи, как автоматическая классификация, распознавание образов,
представление знаний, выработка качественных критериев, прогнозирование,
принятие решений, поиск и накопление знаний, вывод новых знаний, и некоторые другие. Именно решение этих задач обеспечивает приспособительное
поведение организма и, следовательно, его выживание. Смысл этих задач
понятен в основном только кибернетику. Каждая из этих задач в отдельности,
при условии, что она строго формализована, хорошо понятна математику, при
этом от математика вовсе не требуется понимания необходимости решения всех
этих задач в совокупности в одной системе. Уже здесь видна проблема взаи

Введение

мопонимания биолога, кибернетика и математика. Однако дальше ситуация
с предметом исследования еще больше усложняется. Природа, решая задачу
адаптивного управления в развитии любого своего образования — клетки,
организма, нервной системы, биологического вида и т. д., на следующем этапе
включает не менее мощные механизмы оптимизации — найденные полезные
способы действия, тактики, навыки, приспособления и т. д. Эти механизмы
«утрамбовываются» в очень компактные и эффективные структуры, для каждой из них находится такой искусный способ реализации и в такой форме, что
далеко не сразу в нем можно узнать первоначальную его форму и функцию.
Здесь уместен следующий пример, особенно понятный тем, кто занимался
радиотехникой. Принципиальная радиосхема вначале придумывается и рисуется на бумаге. Затем из радиодеталей на просторном картоне спаивается
вся конструкция из реальных радиодеталей, которые еще расположены почти
так, как изображено на принципиальной схеме. Когда радиосхема отлажена
и работает, разрабатывается и создается компактная печатная плата, на которой имеются все нужные радиодетали и соединены они в ту же самую
логическую схему, но размещены они так компактно и рационально, а соединяющие их проводники так коротки и так оптимально разведены, что понять
принципиальную схему, глядя на готовую плату, практически невозможно. То
же самое делает Природа, но при этом она изощрена гораздо больше, чем
радиолюбитель, и меняет не только расположение деталей, но и их способ
реализации — один проводник может быть реализован нервным волокном,
другой — в виде нейромедиатора, одна деталь реализована синапсом, другая — в хромосоме и т. п. Специалисты, которым доводилось пытаться понять
работу электронных устройств с неизвестной заранее схемой, согласятся, что
сделать это крайне трудно, даже зная общий принцип работы такой схемы.
А если этот принцип неизвестен, как неизвестен и способ реализации элементов
схемы?
И вот нейрофизиологу поступает на изучение такой объект, принцип работы которого не знает никто. С помощью современной экспериментальной
техники он начинает рассматривать одну микроскопическую деталь за другой и. . . вынужден признать, что не может понять логику работы объекта в целом. Ведь в нервной системе человека миллиарды нейронов, сотни миллиардов
нервных волокон, масса химических процессов, проследить за совместной
работой которых просто невозможно. Следует сказать, что непонятен принцип
работы нервных систем и более простых организмов, содержащих вполне обозримое количество нейронов. Более того, сегодня до конца не ясна работа даже
одного отдельного нейрона. Если принять за гипотезу, что нервная система
работает как кибернетическая схема, обеспечивающая адаптивное управление,
то нейрофизиолог не обязан понимать эту схему — она совсем не из его науки.
Биолог не обязан знать математические основы решения задач распознавания
образов, самообучения и других. Как же он может понять принципиальную
схему работы данной системы? Нейрофизиологи вынуждены заниматься изучением либо деталей (например, калий-натриевых насосов в мембране нервного волокна), либо макропроявлений нервной системы (общими закономерностями поведения организмов). Во многих других областях биология добилась

Введение
7

ярких успехов именно такими методами изучения. Но достаточно ли этих
подходов для изучения нервной системы — сложной и очень оптимизированной
системы управления, принцип действия которой определяется ее логической
структурой?
К математику идти с вопросами об устройстве нервной системы уж точно
бесполезно. Он, полжизни посвятивший изучению благородной стихии математики, панически боится начинать погружение в новую не менее благородную,
но бездонную стихию биологии, и просит формализованных постановок задач.
Биолог не может дать математику таких постановок. Разве что математик
получит математически формализованную модель «искусственной нейронной
сети», пусть почти не имеющей отношения к нервной системе, но ставящей
перед математиком обозримые задачи — например, как сделать так, чтобы
при обучении нейросеть не застревала в локальных минимумах.
Специалист от кибернетики тоже очень неохотно берется за задачу моделирования работы нервной системы. Во-первых, его пугает малоизвестная
ему наука биология с массой ее специфических фактов, со своим языком
и своими подходами к решению задач. Как правило, кибернетики заняты
решением конкретных прикладных задач, которые им ставятся заказчиками
из промышленности. Выработаны замечательные схемы, позволяющие строить высокоэффективные системы управления для разнообразных прикладных
объектов. Рассмотрим, например, общепринятую схему на рис. 2.11, с. 58, где
объект управления, блок датчиков, система распознавания, система управления и исполнительные органы работают в одном последовательном цикле. При
этом влияние среды проявляется лишь в возмущающем воздействии, оказываемом ею на объект управления, а система управления, пользуясь заданным ей
заранее рассчитанным законом управления, осуществляет лишь минимизацию
рассогласования текущего состояния объекта управления и заданного целевой
функцией состояния. Эта схема является замечательной и практически очень
полезной, но крайне упрощенной по сравнению с теми условиями, в которых
работает нервная система. В реальных условиях, например, система распознавания является самообучаемой, поэтому априори задать закон управления
нельзя, он должен вырабатываться автоматически. Целевые значения параметров заданы далеко не полностью, целевой функцией управления является
не поддержание гомеостазиса (минимизация рассогласования текущих и заданных параметров), а поиск знаний и способов выживания. При этом помеха
со стороны среды действует не только на объект управления, но и на все
элементы системы, да и само понятие среды не определено, а свойства всех
составляющих системы изменяются со временем. Эти условия выходят далеко
за рамки типичной схемы управления. По этой причине специалисты от систем
управления не хотят заниматься проблемами моделирования нервных систем.
«Зачем говорить о нейронах, нервных системах и биологии, когда мы в этом
ничего не понимаем? Никто не знает, как работает нервная система, и незачем
браться за это. В лучшем случае будем говорить о биологии вскользь и метафорически. Давайте делать математически формализованные постановки задач
и решать их. А прикладные системы вообще можно делать эвристически», —
вот типичные слова специалистов по системам управления.

Введение

На этом круг замыкается. Хотя существует еще компромиссный вариант,
на который охотно соглашаются кибернетики, — это так называемый прагматический подход. Здесь допускается строить системы управления, по внешним
проявлениям имитирующие поведение живой системы, но без всякой оглядки
на принцип действия последней. Это плодотворный подход, и он приносит
много полезных практических результатов. Большинство современных систем «искусственного интеллекта» вышло из этого направления: экспертные
системы, шахматные компьютеры, красивые японские гуманоидные роботы
и другие системы такого рода научены делать нечто внешне похожее на то, что
умеет делать человек. Но принцип действия таких систем нимало не похож
на работу нервной системы. А отсюда следует и принципиальная ограниченность таких систем. Так, шахматный компьютер может только играть
в шахматы, и ничего другого. Экспертная система может только воспроизводить ту информацию, которая записана в ее базе данных. Робот обычно
только воспроизводит программу детерминированного закона управления,
которая может быть достаточно сложной, но редко содержит хотя бы какие-то элементы автоматического самообучения. Этот подход, направленный
на внешнюю имитацию, подобен созданию искусных игрушек, он, безусловно,
приведет к появлению полезных роботов и других интеллектуальных систем,
но не приблизит нас к пониманию принципа действия нервных систем.
Однако существует и еще один путь к исследованию и моделированию
принципа действия нервных систем, которому посвящена данная книга и
который, по нашему убеждению, может организовать плодотворное сотрудничество нейрофизиологов, кибернетиков и математиков. Кратко обозначим
этот путь с помощью следующих призывов.

1. Кибернетики! Давайте посмотрим на живой организм в самом общем его
виде — как на часть окружающей среды, обособившуюся от нее и старающуюся
выжить, сохранить себя в ней не за счет своей физической крепости, но за счет
соответствующего целесообразного управления своим поведением. Давайте
посмотрим на нервную систему как на автономную (бортовую) систему управления, которая, обладая минимумом исходной информации, должна — иначе
она погибнет вместе с этим телом — найти способы управления доставшимся ей
при рождении неизвестным телом, помещенным в неизвестную окружающую
среду. Ведь для решения такой задачи должен существовать некий алгоритм,
и таких алгоритмов не может быть много. О существовании такого алгоритма
и его единственности свидетельствует вполне определенная схожесть строения
и функционирования нервных систем всех живых организмов. Так давайте
же, вооруженные знаниями теории управления и сопутствующих ей задач,
знаниями тех условий, в которых существует живой организм как самообучаемый объект управления, нарисуем, наконец, этот алгоритм и попробуем его
воплотить в программных и физических моделях.

2. Математики! Предлагаем вам формализовать и решить подзадачи, вытекающие из разработанной схемы автономного адаптивного управления. Это
не простые задачи. Вы умеете строить, например, систему управления, когда
число управляющих стратегий заранее известно. А надо построить систему

Введение
9

управления, когда число и содержание стратегий управления заранее неизвестно, алфавит классов в самообучаемой системе распознавания заранее
неизвестен, платежная матрица заранее неизвестна и имеется еще ряд условий.

3. Биологи! Просим вас оценить биологичность поведения получившихся
алгоритмов автономного адаптивного управления и моделей управляемых
им объектов. Попробуйте понять необходимость существования в организме
средств решения перечисленных задач, вынужденно необходимых организму
для управления, найти и подсказать кибернетикам, в каком виде природа
реализует механизмы решения этих задач.

И вот когда эти задачи будут решены, мы с вами получим машины
совершенно нового типа. Это будут машины, обладающие такими свойствами
живых организмов, как способность самообучаться непосредственно в течение
жизни, приспосабливаться к обстоятельствам окружающей среды, накапливать знания, выживать за счет все более разумного принятия решений.
Речь идет не о компьютерах, которые лучше человека играют в шахматы,
а о машинах, способных, подобно домашним животным, приспосабливаться
к людям, окружающей обстановке, особенностям своих рабочих обязанностей и т.п. Нужны ли нам такие машины? Мы думаем, что нужны. Посмотрите
на Природу. В ней все способно приспосабливаться друг к другу. Растения,
животные, люди — все только и делают, что приспосабливаются, адаптируются
друг к другу. Мы приспосабливаемся к людям, работающим рядом с нами,
а они приспосабливаются к нам, к нашим особенностям, привычкам, типичным
задачам, ошибкам, и т. д. Ваша собака приспосабливается к вам, а вы — к ней.
Примеры можно продолжать до бесконечности.
В способности приспосабливаться состоит едва ли не основное отличие
живого от неживого. Вместе с тем в создаваемой нами искусственной
природе — технике налицо блестящее отсутствие способности к автоматическому приспособлению! Не то чтобы нам это было не нужно, а просто
мы научились искусно обходить свое неумение делать адаптивные вещи.
Мы обходим этот вопрос на этапе конструирования вещей, а именно —
приспосабливая их заранее к среднестатистическому пользователю, к среднестатистическим условиям, в которых данной вещи предстоит работать по
нашим прогнозам. Мы делаем кресло автомобиля таким, чтобы в нем было
удобно сидеть среднестатистическому пассажиру. В качестве дорогой опции —
заменителя автоматической адаптации мы приделываем к креслу ручку,
с помощью которой можно отрегулировать наклон спинки. Неубедительная
способность к адаптации, надо сказать. Подвеска автомобиля рассчитана
на среднестатистические дороги и средний вес средних пассажиров. Вас
заранее сочли средним и лишили автомобиль возможности попривыкнуть
к вашему истинному весу. Трубку вашего телефона рассчитали на средний
размер средней руки, а уровень громкости подогнали под среднее ухо среднего
клиента. Мы не замечаем этого, но мы окружили себя косными вещами, с
точки зрения природы — совершенно тупыми. Вы можете десять лет делать
одну и ту же ошибку на клавиатуре, но компьютер не поймет этого и не
научится сам ее исправлять. Вы можете годами включать телевизор в одно

Введение

и то же время и на одну и ту же программу, но он никогда не научится
включаться в это время сам, чтобы сделать вам приятное. Лопоухий щенок
быстро приспособится к вашим привычкам, доставляя вам большую радость,
а эти глупые домашние приборы не способны ни на что в этом смысле. А ведь
существуют и весьма важные системы и машины, где автоматическая адаптация кажется совершенно необходимой, поскольку ее просто нечем заменить.
Современные способы построения систем управления, основанные на предварительном построении математической модели объекта управления и вычислении необходимого закона управления, очень часто пасуют перед все
расширяющимся кругом объектов, которыми хотелось бы управлять автоматически. Специалисты знают, что построить точную математическую модель
управления удается далеко не для всех объектов. Если сказать честно, то
хорошо управляются только такие объекты, как математический маятник,
шарик на абсолютно жесткой пружине и полет абсолютно твердого тела
в абсолютно безвоздушном пространстве. Как только появляются отклонения
от этих абсолютных математических моделей — сопротивление среды, силы
трения, нелинейности, сложные конструкции, помехи и т. п., математическая
модель объекта резко усложняется и быстро достигает катастрофической
сложности, которую приходится преодолевать разнообразными упрощениями,
огрублениями, искусственными приемами. Но иногда и это не спасает ситуацию, и построение системы управления становится невозможным. Не подумайте, что речь идет обязательно о таких сложных объектах, как, например,
вертолет. Не удается построить математическое описание и для гораздо более
простых объектов. А вот человек может управлять такими объектами! Потому
что человек — адаптивная система управления. И создание таких систем
управления, которые, подобно человеку, были бы способны адаптироваться
к самым разным ситуациям, — дело чрезвычайно важное и полезное.
Системы, о которых идет речь, нельзя отнести к направлению, которое
называется нынче системами «искусственного интеллекта» (ИИ). Ни одна
из современных систем ИИ не похожа по своим свойствам на искусственную
нервную систему. Поэтому мы назвали разрабатываемые нами системы системами «автономного искусственного интеллекта» (АИИ). Это совершенно
новый вид машин, со своей технологией, своими проблемами и своей сферой
использования.
Рассмотрению возможностей построения такого рода систем АИИ и посвящена данная книга. Мы рассматриваем этот вопрос исключительно подробно,
рассчитывая на то, чтобы было одинаково понятно и интересно и кибернетику,
и математику, и биологу, и специалистам по прикладным системам, которые
могли бы построить такого рода систему АИИ для своих объектов.
Желающие ознакомиться с более формализованным описанием предлагаемых систем автономного адаптивного управления (ААУ), которые лежат
в основе систем АИИ, могут найти его в наших публикациях [56–119].