Введение в нейросетевое моделирование

Министерство образования и науки Российской Федерации
Уральский федеральный университет
имени первого Президента России Б. Н. Ельцина

А. П. Сергеев, Д. А. Тарасов

Введение 
в нейросетевое 
моделирование

Учебное пособие

Под общей редакцией канд. физ.-мат. наук, доц. А. П. Сергеева

Рекомендовано методическим советом
Уральского федерального университета
для студентов вуза, обучающихся
по инженерно-техническим направлениям подготовки
ИРИТ — РТФ

Екатеринбург
Издательство Уральского университета
2017

УДК 004.032.26:004.81(075.8)
ББК 32.818.130в6я73
          С32
Рецензенты:
д-р техн. наук, проф., директор Института химической переработки 
растительного сырья и промышленной экологии УГЛТУ А. В. Вураско;
д-р физ.-мат. наук, вед. науч. сотр. Института промышленной экологии 
УрО РАН Л. М. Мартюшев

На обложке использовано изображение с сайта https://pbs.twimg.com/
media/CnqTWYvVIAAXfmK.jpg

 
Сергеев, А. П.
С32    Введение в нейросетевое моделирование : учеб. пособие / А. П. Сергеев, 
Д. А. Тарасов ; под общ. ред. А. П. Сергеева. — Екатеринбург : Изд-во 
Урал. ун-та, 2017. — 128 с.

ISBN 978-5-7996-2124-7

Учебное пособие содержит начальные сведения о моделировании на базе ис-
кусственных нейронных сетей. Разобраны биологические принципы построе-
ния и алгоритмы создания искусственного нейрона (типа «перцептрон») и сетей 
на его основе.
Издание рекомендуется исследователям, преподавателям, аспирантам, студен-
там, а также всем, кто интересуется современным состоянием дел в области ис-
кусственных нейронных сетей и моделирования.

Библиогр.: 42 назв. Табл. 7. Рис. 33.
УДК 004.032.26:004.81(075.8)
ББК 32.818.130в6я73

ISBN 978-5-7996-2124-7 
© Уральский федеральный 
 
     университет, 2017

1. Биологические прототипы  
нейронных сетей

1.1. Нейрон
Н

ейроны (или нервные клетки) являются базовыми элемента-
ми нервной системы, основными обработчиками и передат-
чиками информации в человеческом организме. Нервная си-
стема человека состоит примерно из ста миллиардов нервных клеток. 
Каждый нейрон представляет собой отдельную клетку и является ба-
зовой коммуникационной единицей нервной системы (рис. 1.1). Как 
правило, нервный импульс продвигается от дендритов и тела клетки 
к аксону (нейриту) до тех пор, пока не достигнет концевых синапти-
ческих луковичек. В этом месте нервный импульс встречается с ден-
дритами другого нейрона, и его движение продолжается.
Нейроны бывают разных типов, и каждый из них предназначен 
для выполнения специфической нейронной функции. Некоторые 
нейроны играют роль рецепторных клеток органов чувств, воспри-
нимающих извне определенные виды энергии, например свет, дав-
ление или химическую энергию. Эти нейроны трансдуцируют, или 
преобразуют, поглощенную ими энергию в нервные импульсы, на-
правляемые затем другим нейронам, являющимся элементами нерв-
ной системы. Трансдукция — это превращение физической энергии 
в нейронную форму стимулирования, осуществляемое специализи-
рованными органами чувств. Сенсорные нейроны передают инфор-
мацию от сенсорных рецепторов мозгу, мотонейроны — от мозга 
мышцам, а интернейроны осуществляют обмен информацией меж-
ду нейронами.

1. Биологические прототипы нейронных сетей 

Дендриты

Ядро
Тело клетки 
(сома)

Аксон

Миелиновая 
оболочка
Концевые 
разветвления

К дендритам 
другого нейрона

Концевые 
синаптические 
луковички

Нервный 
импульс

Вход нервного 
импульса

Рис. 1.1. Нейрон

Большинство нейронов независимо от их функции состоят из отдельной 
клетки, имеющей три отличные друг от друга части:
1) тело клетки, или сома, содержащее ядро клетки, которое регулирует 
химическую активность нейрона, а также принимает и сохраняет 
получаемую им информацию;
2) отходящие от тела клетки разветвленные структуры, называемые 
дендритами (от греческого слова dendron, что означает «дерево»), 
которые принимают информацию от других клеток и осуществляют 
связь с ними;
3) аксоны — тонкие длинные волокна, по которым информация 
поступает от сомы к другим нейронам.
Аксоны, как правило, передают информацию от нейрона. При этом 
они направляют ее либо соседним нейронам, либо мышце или железе, 
«приказывая» им совершить то или иное действие. Длина большинства 
аксонов не превышает 0,1 мм, однако некоторые аксоны нерв-

1.2. Нейронная передача

ной системы взрослого человека достигают метровой длины. Обычно 
аксоны связаны с дендритами других нервных клеток и передают им 
импульсы, т. е. аксон — элемент коммуникационной системы нейрона, 
передающий за пределы клетки информацию в виде нервного импульса, 
а дендриты «доставляют» информацию внутрь, в тело нервной 
клетки. Аксоны многих нейронов покрыты слоем миелина — белково-
жирового комплекса, образованного защитными и питательными 
клетками и создающего изолирующую оболочку вокруг аксона. Благодаря 
этой оболочке скорость прохождения нервного импульса по нейрону 
значительно увеличивается.
Разветвленный конец аксона имеет древовидную форму, и каждая 
его ветвь заканчивается концевой синаптической луковичкой. Это место 
соединения аксона с дендритом другой нервной клетки.

1.2. Нейронная передача

Основа всех сенсорных процессов — зрения, слуха, осязания и других — 
передача информации. Информация в виде нервных импульсов 
передается по нейронам в результате сложного взаимодействия 
электрических и химических зарядов. Нервный импульс возникает 
в результате изменения концентрации катионов — положительно заряженных 
ионов — натрия (Na+) и калия (К+) внутри и снаружи нейрона. 
Для неактивного, или нестимулированного, нейрона характерны 
разные концентрации ионов внутри и снаружи, вне клеточной мембраны, 
причем концентрация отрицательно заряженных ионов сна-
ружи несколько выше, чем внутри. Результатом подобного неравен-
ства концентраций является возникновение разности потенциалов 
на мембране клетки. Электрический заряд внутри нервной клетки че-
ловека отличается от внешнего заряда примерно на –70 милливольт. 
Этот потенциал неактивного нейрона называется потенциалом покоя 
(или мембранным потенциалом).
Когда на нейрон воздействует раздражитель или аксон другого 
нейрона и внутри нейрона возникает избыточный по сравнению 
со средой положительный заряд, потенциал покоя изменяется за доли 
секунды. Результатом этого быстротечного процесса является элек-
трический заряд, который с большой скоростью перемещается по ак-
сону нервной клетки, после чего потенциал возвращается в исходное 

1. Биологические прототипы нейронных сетей 

состояние. Быстрое изменение электрического заряда — первая ста-
дия возбуждения нейрона и передачи информации с помощью ак-
сона внутри нервной системы. Подобный механизм характерен для 
всех сенсорных систем.

1.3. Потенциал действия

Нервные клетки не обязательно воспринимают и передают импуль-
сы соседним нейронам всякий раз, когда они генерируют электриче-
ский заряд или когда на них воздействует раздражитель. Возникнове-
ние в нейроне потенциала действия и передача импульса возможны 
лишь тогда, когда достигнут определенный пороговый уровень его сти-
мулирования. Этот минимальный уровень стимулирования, необходи-
мый для возбуждения нейрона, называется нейронным порогом. Если 
внутри нервной клетки накапливается электрический заряд, превы-
шающий нейронный порог, электрическое состояние нейрона быстро 
изменяется — заряд сохраняется в течение одной миллисекунды. Это 
изменение называется потенциалом действия, а также пиковым или 
спайковым потенциалом или просто спайком (от английского spike, 
что означает «острый выступ, шип»), поскольку в определенный мо-
мент электрический заряд нейрона быстро достигает пика, а затем бы-
стро падает.
Потенциалы действия подчиняются принципу «все или ничего». 
Когда электрический заряд достигает нейронного порога, возникает 
потенциал действия и посылается импульс. С другой стороны, если 
общий электрический заряд падает ниже критического значения ней-
ронного порога, потенциал действия не возникает. Иными словами, 
нейрон или генерирует потенциал действия, или нет, что и означает, 
что он функционирует по принципу «все или ничего».
Величина, или интенсивность, потенциала действия не зависит 
от интенсивности раздражителя, т. е. является постоянной величи-
ной. Однако нам известно из собственного опыта, что по своей ин-
тенсивности раздражители весьма существенно отличаются друг 
от друга — они могут быть как весьма сильными, так и едва улови-
мыми. Каким же образом возникновение потенциала действия, под-
чиняющегося принципу «все или ничего», отражает интенсивность 
физического раздражителя? Влияние интенсивности раздражите-

1.4. Адаптация

ля проявляется в количестве потенциалов действия и во временном 
интервале между ними, т. е. в частоте следования импульсов потен-
циала действия. Чем сильнее раздражитель, тем выше частота сле-
дования импульсов потенциалов действия. Следовательно, разница 
между сенсорным воздействием ручного фонарика и фотовспыш-
ки — это разница частоты импульсов потенциалов действия, а не их 
продолжительности или величины.

1.4. Адаптация

Продолжительность ощущения зависит от времени генерирова-
ния потенциалов действия. В определенном смысле чем продолжи-
тельнее этот период, тем дольше сохраняется соответствующее ощу-
щение. Однако при слишком продолжительном времени воздействия 
сенсорные рецепторы становятся менее чувствительными и скорость 
возникновения потенциалов действия уменьшается. В результате сни-
жается и интенсивность ощущения. Подобное уменьшение чувстви-
тельности, наступающее вследствие продолжительного воздействия 
постоянного по интенсивности раздражителя, называется адаптацией. 
Она представляет собой явление, общее для всех сенсорных модально-
стей. С течением времени ощущение от постоянно воздействующего 
раздражителя может не только уменьшиться, но и совсем исчезнуть. 
Так, если долго находиться в помещении, в котором постоянно слы-
шен какой-то шум, например шумит кондиционер или гудит старая 
лампа дневного света, звук сперва начинает казаться менее громким, 
а в конце концов его и вовсе перестаешь замечать. Наряду с продол-
жительностью интервалов между потенциалами действия и интенсив-
ностью стимулов определенную роль играет также и то, что более сла-
бые стимулы перестают восприниматься быстрее, чем сильные.
К адаптации способны все сенсорные модальности. К таким ощу-
щениям, как тактильные и обонятельные, адаптация наступает относи-
тельно быстро. В то время как к другим ощущениям, например к боли, 
привыкнуть гораздо труднее, если вообще возможно. Например, чув-
ствует ли наше тело прикосновение одежды, а запястье — давление, 
оказываемое ремешком от часов? Хотя адаптация, как правило, свиде-
тельствует о снижении чувствительности, она одновременно приносит 
и немалую пользу. Снижая наше восприятие неизменного раздражи-

1. Биологические прототипы нейронных сетей 

теля, который с течением времени не только может лишиться инфор-
мативности, но и начать отвлекать, адаптация помогает, прежде все-
го, воспринимать те сигналы, которые свидетельствуют о переменах 
в окружающем мире. Как будет показано ниже, наша сенсорная си-
стема не только способна к адаптации, но и исключительно чувстви-
тельна к смене сигналов.

1.5. Рефрактерный период

Потенциалы действия ограничены во времени. После возникнове-
ния одного потенциала действия второй может возникнуть не ранее 
чем через 1 миллисекунду. Этот короткий промежуток времени, когда 
нейрон неактивен, называется рефрактерным периодом. Рефрактер-
ный период ограничивает максимальную частоту возникновения им-
пульсов 1000 потенциалами действия в секунду или менее. Когда речь 
идет о нервном возбуждении, это обстоятельство важно и с теорети-
ческой, и с практической точки зрения, ибо именно оно, прежде все-
го, определяет «пропускную способность» сенсорной системы. Дру-
гими словами, благодаря рефрактерному периоду скорость, с которой 
нервная система пропускает нейронные спайки, не может превышать 
1000 спайков в секунду.

1.6. Скорость нейронной трансмиссии

У млекопитающих нейронный импульс, или потенциал действия, 
перемещается по демиелинизированному аксону за 2–3 миллисекун-
ды. Однако, как отмечалось выше, в аксонах с миелиновой оболочкой, 
играющей роль электроизолятора, скорость прохождения потенциалов 
действия значительно возрастает. В миелинизированных аксонах по-
тенциал действия может перемещаться со скоростью, превышающей 
100 м/с. У человека миелинизирование аксонов завершается пример-
но к 12 годам. Это отчасти является причиной того, что дети не могут 
учиться или реагировать столь же быстро или действовать столь же це-
леустремленно, как взрослые. Их нервная система не может обрабаты-
вать информацию со скоростью, необходимой для выполнения неко-

1.7. Синаптические связи

торых задач, особенно тех, которые требуют комплексного подхода. 
Такие заболевания, как рассеянный склероз, разрушают миелиновую 
оболочку, что приводит к уменьшению скорости передачи потенциа-
лов действия и возможной потере сенсорно-моторной координации, 
для которой требуется интеграция нервной системы.

1.7. Синаптические связи

Вся сенсорная и моторная активность человека координируется со-
вместными действиями миллиардов нервных клеток. Как они взаи-
модействуют друг с другом? Как сигнал, или информация, передает-
ся от одного нейрона к другому?
Потенциал действия создает импульс, который распространяется 
вдоль нейронной мембраны и далее продвигается по аксону до конце-
вой синаптической луковички (рис. 1.1). Передача импульса от аксона 
одной нервной клетки (передающего, или пресинаптического, нейро-
на) к дендриту другой нервной клетки (принимающего, или постси-
наптического, нейрона) происходит химическим путем. Область кон-
такта нейронов называется синапсом (от греческого слова synapsis, что 
означает «соединение»). На рис. 1.2 представлен схематический вид 
синапса и синаптической щели, или синаптического пространства, 
микроскопического зазора между концевыми синаптическими луко-
вичками пресинаптического нейрона и клеточной мембраной пост-
синаптического нейрона.
Когда потенциал действия доходит до конца аксона, до концевых 
синаптических луковичек, из крошечных пузырьков, или камер, на-
зываемых синаптическими пузырьками, выделяется микроскопиче-
ское количество содержащихся в них нейротрансмиттеров, которые 
заполняют синаптическую щель. Нейротрансмиттеры — это особые 
химические вещества, которые диффундируют в синаптическую щель 
и стимулируют прилегающий к ней постсинаптический нейрон.
Нервный импульс, проходящий по аксону, вызывает выделение 
нейротрансмиттеров из синаптических пузырьков концевых синапти-
ческих луковичек. Эти нейротрансмиттеры заполняют пространство 
между аксоном пресинаптического нейрона и дендритом принимаю-
щего, или постсинаптического, нейрона, «замыкая» электрическую 
цепь и обеспечивая тем самым прохождение нервного импульса.

1. Биологические прототипы нейронных сетей 

К телу нейрона

Направление нервного импульса

Аксон 
пресинаптического 
нейрона

Дендрит
постсинаптического
нейрона

Синаптический

пузырек

Синаптическая
щель

Рецепторный участок

Нейротрансмиттеры

Концевая синаптическая луковичка

пресинаптического нейрона

Рис. 1.2. Схематическое изображение нейронной трансмиссии в синапсе

1.8. Нейротрансмиттеры

Нейротрансмиттеры, которые высвобождаются в синапсе, либо воз-
буждают, либо тормозят активность постсинаптического нейрона. Ког-
да потенциал действия запускает механизм возбуждающего синапса, 
происходит выделение трансмиттеров, возбуждающих нейрон, лежа-
щий по ту сторону синаптического пространства. Если потенциал дей-
ствия запускает тормозной синапс, выделяется другой нейротрансмит-
тер, который ингибирует противолежащий нейрон, в результате чего 
передача через него потенциала действия становится менее вероятной.
Ацетилхолин (АХ) является одним из важных возбуждающих транс-
миттеров, на который оказывают заметное влияние такие вещества, 
как кофеин и кокаин. Агонисты — это вещества, усиливающие эффект 
специфического нейротрасмиттера. Ацетилхолин обнаружен в синап-
сах мозга, и доказано его участие в таких процессах, как память, вни-
мание и пробуждение. Ацетилхолин также вызывает скелетно-му-
скульную активность за счет действия на двигательные нервы, и это 
лишь некоторые из его функций. Кураре, сильнодействующий яд,