Исследование автоколебательных режимов в сетях импульсных нейронов тема диссертации и автореферата по ВАК РФ 05.13.18, кандидат физико-математических наук Мячин, Михаил Леонидович

• Мячин, Михаил Леонидович
• кандидат физико-математических наук
• 2009

Оглавление диссертации кандидат физико-математических наук Мячин, Михаил Леонидович

1 Введение

1.1 Обзор предметной области.

1.2 Модели нейрона.

1.3 Кодирование информации в нервной системе.

1.4 Краткий обзор импульсных нейросетевых моделей

1.5 Обзор диссертации.

2 Динамика импульсного нейрона-пейсмейкера

2.1 Механизмы изменения мембранного потенциала

2.2 Вывод уравнения нейрона.

2.3 Асимптотический анализ уравнения нейрона.

2.4 Уточнение периода решения

2.5 Результаты компьютерного моделирования.

3 Сети с диффузионной связью

3.1 Модель диффузионного взаимодействия.

3.2 Колебания в системе из двух нейронов.

3.3 Колебания в плоской локальной сети.

3.4 Результаты компьютерного моделирования.

Введение диссертации (часть автореферата) на тему «Исследование автоколебательных режимов в сетях импульсных нейронов»

Настоящая работа посвящена изучению автоколебательных режимов в системах, состоящих из связанных импульсных динамических элементов, описываемых предложенным в работе [16] уравнением с запаздыванием. Рассматриваемый импульсный элемент является одной из реалистичных моделей биологического нейрона, поэтому сам элемент мы будем называть в дальнейшем импульсным нейроном, а систему взаимодействующих импульсных элементов — сетью импульсных нейронов или импульсной нейронной сетью. Планирование автоколебательных режимов в сетях импульсных нейронов непосредственно связано с построением систем обработки информации на основе нейроподобных элементов.

1.1 Обзор предметной области

Интерес к изучаемым в данной работе моделям и протекающим в них процессам полностью обусловлен их нейронной интерпретацией. Здесь мы приведем краткий обзор основных биологических представлений, относящихся к функционированию как одиночного нейрона, так и нервной системы в целом. Одновременно мы перечислим и кратко охарактеризуем основные модели нейронов и процесса их взаимодействия. Наше изложение в основном соответствует [14]. Основной целью данного обзора является выяснение места и роли изучаемых в настоящей работе импульсных моделей нейрона в современной теории нейронных сетей.

Общие предпосылки

Способность животных и человека взаимодействовать с окружающей средой и адаптироваться к изменению ее условий обусловлена функционированием их нервной системы. Нервная система образована огромным количеством взаимодействующих нервных клеток (нейронов), основная функция которых состоит в генерировании и передаче электрических импульсов. Нейроны-рецепторы, образующие сенсорные системы, превращают внешние физические стимулы в электрические импульсы, которые распространяются по нервной системе и активируют другие нейроны. Внутреннее электрическое представление стимула подвергается в нервной системе обработке, детали которой остаются неизвестными. Результатом обработки внешнего стимула является возбуждение нейронов-эффекторов, которые управляют работой мышц и желез и реализуют реакцию животного на внешний стимул.

Вопрос об устройстве нервной системы и о детальном описании процессов обработки информации в ней привлекает внимание прежде всего из-за потенциальных практических приложений. В последнее время размеры активных элементов электронных схем сравнялись с размерами нервных клеток, но качество переработки информации в биологических нейросистемах для некоторых задач все еще превосходит качество работы электронных схем, хотя формальное быстродействие последних на много порядков выше. Поэтому представляет интерес построение искусственных систем, реализующих принципы обработки информации, используемые биологическими нейронными системами.

Решающим достоинством биологических нейронных систем является обучение на основе примеров, когда способность к решению конкретной задачи приобретается не посредством построения математической модели, а путем «проб и ошибок» и накопления практического опыта. В этой связи часто приводят пример кошки, которая «расчитывает» свой прыжок при ловле мыши (см., например, [15]) . Ясно, что в нервной системе кошки отсутствует полноценная модель прыжка и не происходит решение дифференциального уравнения, моделирующего процесс. Более того, полная модель, учитывающая все факторы и позволяющая эффективно выбирать начальные условия (обратная задача) вероятно окажется слишком сложной даже для современных вычислительных систем. Тем не менее, нервная система кошки весьма эффективно выбирает начальные условия, пользуясь при этом только накопленным ранее практическим опытом охоты.

Тот факт, что задачи адаптации к условиям внешней среды решаются нервной системой путем обучения на основе примеров методом «проб и ошибок» объясняет серьезный недостаток, присущий биологическим нейронным системам. В рассмотренном выше примере кошка все же зачастую ошибается и неверно выбирает начальные условия для прыжка, хотя и совершенствует при этом свои охотничьи способности. Точно так же и искусственные нейронные системы могут ошибаться в процессе функционирования, неверно решая предложенную задачу, но используя ошибку (при наличии обратной связи) для дальнейшего обучения. В то же время специализированная искусственная система, работа которой основана на полной математической модели, обычно демонстрирует существенно лучшее качество функционирования по сравнению с обучающейся нейронной системой.

Следует также иметь в виду, что биологические нейронные системы решают не только задачу адаптации организма к условиям окружающей среды, но и задачу построения управляющей системы приемлемого качества, удовлетворяющую многим дополнительным ограничениям, связанным с биологической природой этих систем.

В первую очередь нервная система пострена на базе весьма ненадежных структурных элементов: она продолжает успешно функционировать, несмотря на то, что ежедневно в ней погибает значительное количество нейронов.

Другим важным ограничением является требование устойчивости работы нервной системы к факторам внешней среды, в качестве которой здесь выступает организм животного. Электрические процессы в нервной системе основаны на протекающих в нервных клетках электрохимических процессах и зависят от изменения химических свойств среды. Электрические параметры нейрона могут изменяться в широких пределах, но это обычно не сказывается на функционировании нервной системы в целом.

Использование надежных элементов со стабильными характеристиками позволяет строить гораздо более простые и эффективные искусственные системы. В настоящее время отсутствует ясное понимание того, какая часть структурных особенностей нейрона и нервной системы в целом связана с преодолением перечисленных биологических ограничений.

Другой важной особенностью нервной системы является тот факт, что структура связей нейронов в нервной системе животного является генетически предопределенной и сформировалась в результате эволюции вида. Таким образом, значительная часть информации о внешней среде оказывается заложенной в саму структуру нервной системы. Тем не менее, здесь снова отсутствует понимание относительно того, какая часть возможностей нервной системы обусловлена ее генетически предопределенной структурой, а какая приобретается в результате обучения.

Основные подходы

Известно два подхода к изучению принципов работы мозга, существенно различающихся по используемым методам.

В рамках первого, нейрофизиологического подхода мы должны по возможности детально изучить механизмы работы отдельных нервных клеток и их взаимодействия и только после этого можем переходить к изучению более крупных нейронных систем и нервной системы в целом. В настоящее время на этом пути сделаны только первые шаги — получено адекватное описание для основных процессов, протекающих в нервной клетке и для процессов взаимодействия нервных клеток. В настоящее время отсутствуют реалистичные математические модели биологического нейрона, позволяющие строить на их основе искусственные системы обработки информации разумной сложности.

Второй, психологический подход связан с феноменологическим исследованием внешних психических проявлений нейронных процессов, протекающих в нервной системе. В рамках этого подхода можно сразу изучать сложные психические явления, но получаемые результаты оказываются оторванными от наших знаний о нервных клетках как материальных носителях психических процессов. Как следствие, получаемые результаты оказываются неоднозначными, а используемые модели — в значительной степени произвольными.

Таким образом, нейрофизиологический («снизу вверх») и психологический («сверху вниз»), подходы к исследованию нервной системы, имея общий предмет изучения, тем не менее остаются слабо связанными между собой.

В связи с этим сформировалось альтернативное, т.н. нейросе-тевое направление исследований, в рамках которого, не дожидаясь полного выяснения всех вопросов, относящихся к структуре и функционированию нервной системы, ставится задача построения устройств обработки информации, в которых были бы воплощены некоторые из известных (или кажущихся правдоподобными) принципов работы нервной системы. По используемым методам и результатам это направление занимает промежуточное положение по сравнению с психологическим и нейрофизиологическим подходами. С одной стороны, при нейросетевом подходе активно используется информация о строении и функционировании нервной системы. С другой стороны, основной задачей нейросетевого подхода является построение биологически правдоподобных нейронных систем, демонстрирующих поведение, характерное для нервной системы в целом. Несмотря на существенные трудности, связанные с экспериментальной проверкой предсказаний, получаемых в процессе изучения нейросетевых моделей, в рамках нейросетевого подхода было выяснено, что уже в простейших нейронных системах реализуются такие сложные высокоуровневые психологические феномены как память, обобщение, запоминание и забывание информации, образование ложных образов при запоминании больших объемов информации и т.д.

Успешное применение нейросетевых устройств и алгоритмов обработки информации к задачам распознавания образов и управления сложными динамическими системами демонстрирует эффективность и практическую ценность нейросетевого подхода. В целом в рамках нейросетевого подхода сформировалось представление о мозге как о гигантской распределенной аналоговой вычислительной системе, способной спонтанно порождать сложные упорядоченные структуры, рождение и эволюция которых представляет собой процесс мышления.

Биологический нейрон

Центральная нервная система человека состоит из нервных клеток (нейронов). Благодаря работам нейрофизиологов достаточно хорошо известен механизм функционирования одного нейрона. Ниже приводится схематичное описание процессов функционирования и взаимодействия нейронов, адаптированное к потребностям математического моделирования этих процессов (см., например, [26]).

Хотя отдельный нейрон как биологический объект обладает сложной внутренней структурой, известно, что с точки зрения процессов передачи и обработки информации он представляет собой относительно простую нелинейную электрическую систему. Основная функция нейрона состоит в генерировании и передаче имеющих электрическую природу нервных импульсов (спайков), с помощью которых кодируется вся обрабатываемая нервной системой информация. Посредством электрических импульсов нейроны взаимодействуют как между собой, так и с рецепторами (преобразователями внешних раздражителей в нервные импульсы) и исполнительными органами (мышцами и железами).

Индивидуальные границы нейрона определяются липопротеино-вой мембраной, которая является хорошим электрическим изолятором. Состояние нейрона определяется мембранным потенциалом — разностью потенциалов между внутренней и внешней поверхностями мембраны. Изменение мембранного потенциала во времени обусловлено процессами ионного обмена между внутриклеточной и межклеточной средами. Большую часть времени мембранный потенциал отрицателен и велик по абсолютной величине т.е. мембрана сильно поляризована. При генерации нейроном электрического импульса мембранный потенциал начинает быстро расти, меняет знак, затем быстро восстанавливается и становится отрицательным и еще большим по абсолютной величине, чем в начале (состояние гиперполяризации). В результате происходит генерация спайка — короткого высокоамплитудного электрического импульса.

Начало спайка связывают с достижением мембранным потенциалом порогового значения генерации. Обычно генерация спайка происходит под влиянием внешнего воздействия (нейрон-детектор). В то же время, для некоторых нейронов имеет место обусловленный внутринейронными механизмами деполяризации медленный рост мембранного потенциала от значения, соответствующего состоянию гиперполяризации после спайка, до порогового значения генерации. Нейрон, обладающий такими свойствами, рано или поздно, даже без внешнего воздействия, достигнет порогового значения генерации и сгенерирует спайк (нейрон-автогенератор или пейсмейкер). Такой нейрон будет обладать свойством авторитмичности — спонтанной активности в генерации спайков. В течение некоторого времени после спайка нейрон оказывается абсолютно невосприимчивым к внешнему воздействию {интервал рефрактерности).

Анатомически нейрон состоит из тела (сомы), относительно коротких и сильно разветвленных отростков (дендритов) и единственного длинного центробежного отростка (аксона). Аксоны одних нейронов часто располагаются в непосредственной близости к дендритам других нейронов, а в местах контакта мембран располагаются синапсы — специфические образования, обеспечивающие передачу импульсов от нейрона к нейрону. Нервный импульс генерируется в теле нейрона и, распространяясь вдоль аксона в виде волны деполяризации мембраны, достигает синапсов и оказывает влияние на другие нейроны. Различают простые электрические синапсы (места электрического контакта мембран) и более сложно устроенные химические синапсы. При поступлении спайка в химическом синапсе происходит выделение специфических химических веществ (медиаторов), оказывающих на нейрон возбуждающее или тормозящее воздействие. В соответствии с оказываемым воздействием синапсы делятся на возбудительные и тормозные, а поскольку единственный аксон нейрона может иметь синапсы только одного типа, то аналогичная классификация распространяется и на нейроны.

Число связей одного нейрона может достигать десятков тысяч, причем генетически предопределенная топология межнейронных соединений оказывается весьма сложной. В отличие от единичного нейрона топология межнейронных связей в естественных нейронных сетях до сих пор недостаточно хорошо изучена. В настоящее время известно, что биологические нейронные сети проявляют склонность к модульной и слоистой организации, а вся сложность протекающих в нервной системе процессов обработки информации целиком определяется взаимодействием между нейронами и их сложным кооперативным поведением.

1.2 Модели нейрона

При построении модели биологического нейрона следует сразу иметь в виду ее дальнейшее использование в качестве строительного блока при построении моделей нейронных сетей. Слишком сложная модель, включающая большое число эмпирических параметров, может оказаться неприемлемой в качестве элемента нейронной сети. Таким образом, основным требованием, предъявляемым к модели биологического нейрона является разумный баланс между биологической реалистичностью и простотой. Например, биологический нейрон является распределенной электрической системой, по которой распространяется нервный импульс (волна деполяризации мембраны), а соответствующий процесс может быть описан системой дифференциальных уравнений в частных производных. В то же время для моделирования процесса генерации спайка распределенный характер системы по-видимому не является существенным и в большинстве случаев нейрон может рассматриваться как точечная система.

Модели биологического нейрона

Исторически первой и наиболее полно изученной является модель биологического нейрона, предложенная Ходжкиным и Хаксли [35] (см. также [14, 26, 30]), которая представляет собой систему дифференциальных уравнений четвертого порядка, описывающую процессы ионного обмена, протекающие в мембране нейрона. Модель Ходжкина-Хаксли хорошо согласуется с экспериментальными данными, но содержит много эмпирических констант, от которых существенно зависит ее динамика и правильный выбор которых существенен для получения биологически осмысленной динамики.

Система Ходжкина-Хаксли подробно изучалась как численными, так и аналитическими методами. Было выяснено, что наиболее существенная особенность этой системы состоит в разделении переменных на «быстрые» и «медленные» и фактическом присутствии релаксационной динамики: решение системы состоит из участков медленного и быстрого изменения мембранного потенциала. Применение асимптотических методов позволило существенно упростить систему Ходжкина-Хаксли с сохранением основных биологически значимых особенностей ее динамики. Отметим, что несмотря на фактическое присутствие быстрых и медленных переменных, система Ходжкина-Хаксли не содержит «естественного» малого параметра, позволяющего непосредственно применять асимптотические методы. Для асимптотической редукции системы приходится искусственно вводить малый параметр, что обуславливает сложность аналитического исследования системы и приводит к отсутствию одного «естественного» варианта редукции. Были предложены варианты редукции к системе второго порядка и к системе, состоящей из одного дифференциального уравнения первого порядка и одного алгебраического уравнения [26]. При этом оказалось, что все варианты редукции приводят к системам, для которых характерна динамика типа релаксационных колебаний.

В целом все построенные модели биологического нейрона оказались слишком сложными для их непосредственного использования при моделировании поведения систем, состоящих из относительно большого числа нейронов. В результате вплоть до последнего времени развитие нейросетевого направления определялось более простыми моделями, не имеющими естественной биологической интерпретации.

Пороговая модель нейрона

Начало активного развития нейросетевого подхода относится к 1943 году, когда в работах МакКаллока и Питца было введено понятие формального нейрона, называемого также нейроном МакКаллока-Питца (см. [29]).

Нейрон МакКаллока-Питца вычисляет взвешенную сумму своих входов и в зависимости от полученного значения и значения порога h (внутренний параметр нейрона) выдает на выход одно из двух допустимых значений: где х — бинарный выход нейрона, ©[•] — функция Хевисайда, Xj — бинарный выход j-го пресинаптического нейрона, а величина Wj характеризует эффективность синаптической связи с j-м пресинаптическим нейроном. Таким образом, формальный нейрон j

МакКаллока-Питца представляет собой устройство с двумя состояниями, переходящее из одного состояния в другое в зависимости от состояний связанных с ним нейронов.

На базе пороговых нейронов МакКаллока-Питца были построены и исследованы специфические нейронные сети со слоистой топологией — однослойные и двуслойные перцептроны. Вычислительные возможности однослойного перцептрона весьма ограничены, но уже двуслойный перцептрон при соответствующем выборе весов связей вычисляет значения произвольной логической функции своих входов.

Позже в работах Хопфилда нейросеть впервые была рассмотрена как динамическая система. Сеть Хопфилда представляет собой полносвязную нейронную сеть, состоящую из пороговых нейронов. Функционирование нейронной сети состоит в последовательном пересчете состояний всех ее элементов вплоть до момента, когда сеть достигает стационарного состояния, в котором состояния всех ее элементов оказываются устойчивыми.

Сеть Хопфилда стала первой нейросетевой моделью, реализующей важную высокоуровневую функцию центральной нервной системы — ассоциативную память. Если интерпретировать начальное состояние нейронов как входной образ, то при соответствующем выборе весов межнейронных связей сеть в процессе эволюции переходит в устойчивое состояние, соответствующее одному из образов, входящих в наперед заданный набор образов (т.н. обучающая последовательность). На этапе выбора весов связей (этап обучения сети) все множество входных образов разбивается на набор непересекающихся «бассейнов притяжения», каждый из которых соответствует одному образу из обучающей последовательности. Каждый бассейн притяжения определяет подмножество входных образов, ассоциированных с соответствующим элементом обучающей последовательности.

Следует отметить, что информационная емкость (максимальное число запоминаемых образов) сети Хопфилда конечна и зависит от числа образующих сеть нейронов. При превышении максимально допустимого числа запоминаемых образов происходит образование «ложных образов» — устойчивых состояний, не соответствующих никакому элементу обучающей последовательности. Это явление имеет естественную психологическую интерпретацию, а сами ложные образы часто называют «снами» сети.

Модель нейрона с функцией активации

Другой простой моделью биологического нейрона, удобной для построения нейронных сетей является нейрон с функцией активации (см. [29]).

Нейрон с функцией активации вычисляет взвешенную сумму своих входов и выдает на выход значение где х — аналоговый выход нейрона, S(-) — сигмоидальная функция активации нейрона, xj — аналоговый выход j-ro пресинаптического нейрона, h — активационный сдвиг (внутренний параметр нейрона), wj — эффективность синаптической связи с j-м пресинаптическим нейроном. з

Единственным отличием нейрона с функцией активации от порогового нейрона является наличие у него аналогового выхода, значение которого вычисляется путем применения ко взвешенной сумме входов нейрона функции активации.

На основе нейронов с функцией активации было построено большое число полезных нейросетевых моделей, реализующих различные функции нервной системы. Наибольшую известность получили нейронные сети со слоистой топологией связей (перцептроны). Было показано [34], что двуслойный перцептрон, состоящий из нейронов с функцией активации, при соответствующем выборе весов связей реализует аппроксимацию произвольной непрерывной функции / : Rn —»• Rm с произвольной наперед заданной точностью (по равномерной норме). Сеть Хопфилда (модель ассоциативной памяти) также была реализована на основе полносвязной сети из нейронов с функцией активации.

В целом модель нейрона с функцией активации следует оценить как наиболее продуктивную в смысле разнообразия построенных на ее основе нейронных сетей, реализующих различные высокоуровневые функции нервной системы.

Импульсные модели нейрона

Рассмотренные выше простые модели нейрона (пороговый нейрон и нейрон с функцией активации) не воспроизводят динамику биологического нейрона, связанную с процессом генерации спайка. В последнее время активно исследуются импульсные модели нейрона, занимающие промежуточное положение между моделью Ходжкина-Хаксли, моделирующей ионный механизм генерации спайка и простыми моделями нейрона, отражающими только некоторые свойства биологического нейрона. Импульсные модели на качественном уровне воспроизводят генерацию спайка и реакцию нейрона на внешнее воздействие, не моделируя протекающие при этом электрохимические процессы или моделируя их только в самых общих чертах.

Было предложено большое количество феноменологических импульсных моделей нейрона, отражающих те или иные особенности динамики биологического нейрона. Среди импульсных моделей нейрона наибольшей простотой и популярностью отличаются т.н. интегративно-пороговый элемент (Integrate-and-fire Model) и модель отклика на спайк (Spike Response Model, SRM) [33, 36]. Сколько-нибудь полный обзор известных импульсных моделей нейрона далеко выходит за рамки настоящей работы (см. обзорные работы [1, 39, 2, 3]).

В работе [16] была предложена феноменологическая импульсная модель нейрона, основанная на использовании дифференциального уравнения с запаздыванием. Эта модель хорошо согласуется с биологическими данными, достаточно проста и допускает аналитическое исследование. Настоящая работа в основной своей части посвящена исследованию динамики модели из [16] и нейронных сетей, построенных на ее основе.

Заключение диссертации по теме «Математическое моделирование, численные методы и комплексы программ», Мячин, Михаил Леонидович

Заключение

Основной результат главы 2 — оценка периода решения уравнения нейрона, имеющая первый порядок точности по величине, обратной к значению большого параметра. Основной результат главы 3 — основанный на лемме о факторизации метод исследования систем диффузионно связанных импульсных нейронных осцилляторов и теорема о существовании в системе из двух таких осцилляторов периодического режима с постоянным рассогласованием спайков.

Перечислим основные задачи, непосредственно примыкающие к тематике данной работы и ожидающие своего решения:

1. Представляет интерес построение равномерного приближения к решению уравнения нейрона методом пограничных функций.

2. Остается нерешенным вопрос о единственности и орбитальной устойчивости периодического решения уравнения нейрона.

3. Развитая во второй главе техника может быть применена к решению многих задач, связанных с получением оценок продолжительности нейронных процессов. Так, может быть получена уточненная оценка для латентного периода химического синапса (оценка нулевого приближения была получена в [7]).

4. Доказанная в третьей главе лемма о факторизации систем диффузионно связанных импульсных осцилляторов легко может быть усилена таким образом, чтобы возмущение оператора L[u] имело порядок о(А-1). Этот вариант леммы совместно с техникой второй главы может быть использован для изучения устойчивости однородного режима системы диффузионно связанных импульсных осцилляторов.

Список литературы диссертационного исследования кандидат физико-математических наук Мячин, Михаил Леонидович, 2009 год

1. Абарбанель, Г.Д.И. Синхронизация в нейронных ансамблях / Абарбанель Г.Д.И., Рабинович М.И., Сельверстон А. и др. // УФМН. 1996. - Т. 166. - № 4. - С. 363-389.

2. Борисюк, Г.Н. Осцилляторные нейронные сети. Математические результаты и приложения / Борисюк Г.Н., Борисюк P.M., Казанович Я.Б. и др. // Математическое моделирование. 1992 - Т. 4. - № 1. - С. 3-43.

3. Борисюк, Г.Н. Модели динамики нейронной активности при обработке информации мозгом итоги «десятилетия» / Борисюк Г.Н., Борисюк P.M., Казанович Я.Б., Иваницкий Г.Р. // УФМН. - 2002. - Т. 172. - № Ю. - С. 1189-1214.

4. Кащенко, С.А. Об одном дифференциально-разностном уравнении, моделирующем импульсную активность нейрона / Кащенко С.А., Майоров В.В. // Математическое моделирование. -1993. Т. 5. - № 12. - С. 13-25.

5. Кащенко, С.А. Исследование колебаний в кольцевых нейронных системах / Кащенко С.А., Майоров В.В., Мышкин И.Ю. // Докл. РАН. 1993. - Т. 333. - № 5. - С. 594-597.

6. Кащенко, С.А. Распространение волн в простейших кольцевых нейронных структурах / Кащенко С.А., Майоров В.В., Мыш-кин И.Ю. // Математическое моделирование. 1995. - Т. 7. -№ 12. - С. 3-18.

7. Кащенко, С.А. Волновые структуры в кольцевых системах из однородных нейронных модулей / Кащенко С.А., Майоров В.В. // Докл. РАН. 1995. - Т. 342. - № 3. - С. 318-321.

8. Кащенко, С.А. Колебания в системах уравнений с запаздыванием и разностной диффузией, моделирующих локальные нейронные сети / Кащенко С.А., Майоров В.В., Мячин M.JI. // Докл. РАН. 1995. - Т. 344. - № 3. - С. 1274-1279.

9. Кащенко, С.А. Волновые образования в кольцевых нейронных системах / Кащенко С.А., Майоров В.В., Мышкин И.Ю. // Математическое моделирование. 1997. - Т. 9. - № 3. - С. 29-39.

10. Кащенко, С.А. Модель нейронной системы, синхронизирующей волновые пакеты / Кащенко С.А., Майоров В.В., Мышкин И.Ю. // Докл. РАН. 1998. - Т. 360. - № 4. - С. 463-466.

11. Кащенко, С.А. Модель адаптации кольцевых нейронных ансамблей / Кащенко С.А., Майоров В.В. // Радиотехника и Электроника. 1998. - Т. 43. - № 11. - С. 1-7.

12. Кащенко, С.А. Модели волновой памяти / Кащенко С.А., Майоров В.В. М.: Книжный дом «ЛИБРОКОМ», 2009. - 288 с.

13. Лоскутов, А.Ю. Введение в синергетику / Лоскутов А.Ю., Михайлов А.С. М.: Наука, 1990. - 270 с.

14. Майоров, В.В. Математическое моделирование нейронной сети на основе уравнений с запаздыванием / Майоров В.В., Мыш-кин И.Ю. // Математическое моделирование. 1990. - Т. 2. -№ 11. - С. 64-76.

15. Майоров, В.В. Структура колебаной в кольцевой системе из однородных нейронных модулей / Майоров В.В. // Моделирование и анализ информационных систем. Ярославль, 1994. -Вып. 2. - С. 50-77.

16. Майоров, В.В. Планирование волн в кольцевых структурах ассоциаций импульсных нейронов-детекторов / Майоров В.В., Мышкин И.Ю., Куксов А.Г., Мячин М.Л. // Моделирование и анализ информационных систем. Ярославль, 2003. - Т. 10. - № 2. - С. 30-34.

17. Майоров, В.В. Планирование волн в кольцевых структурах ассоциаций импульсных нейронов-детекторов / Майоров В.В.,

18. Мышкин И.Ю., Куксов А.Г., Мячин M.JI. // Математика в Ярославском госуниверситете. Материалы Всеросс. научной конференции посвященной 200-летию Ярославского гос. Университета им. П.Г. Демидова. Ярославль, 2003 - С. 46-51.

19. Майоров, В.В. Планирование волн в кольцевых структурах ассоциаций импульсных нейронов-детекторов / Майоров В.В., Мышкин И.Ю., Мячин M.JI., Куксов А.Г. // Научная сессия МИФИ-2003. Ч. 2. - Нейроинформатика-2003. - С. 11-18.

20. Майоров, В.В. Импульсные нейросети / Майоров В.В., Ануф-риенко С.Е. // Ярославль, 2006. 98 с.

21. Майоров, В.В. Обобщенный нейронный автомат в задаче распространения волны возбуждения по нейронной сети / Майоров В.В., Коновалов Е.В. // Нейрокомпьютер. 2007. - № 7. - С. 3-8.

22. Майоров, В.В. Поправка к периоду решения уравнения, моделирующего динамику мембранного потенциала нейрона / Майоров В.В., Мячин M.JI., Парамонов И.В. // Моделирование и анализ информационных систем Ярославль, 2008. - Т. 15. -№ 2 - С. 61-66.

23. Мячин, M.J1. Комплексный анализ сложной динамики системы, моделирующей сальтаторное проведение нервного импульса / Мячин M.JI. // Моделирование и анализ информационных систем. Ярославль, 1996. - вып. 3. - С. 48-55.

24. Покровский, А.Н. Процессы управления в нервных клетках / Покровский А.Н. Л., 1987. - 85 с.

25. Соколов, Е.Н. Нейроинтеллект: от нейрона к нейрокомпьютеру / Соколов Е.Н., Вайткявичюс Г.Г. М: Наука, 1989. - 238 с.

26. Тимофеев, Е.А. Моделирование нейрона, передающего информацию плотностью потока импульсов / Тимофеев Е.А. // Автоматика и телемеханика. 1997. - № 3. - С. 190-199.

27. Уоссермен, Ф. Нейрокомпьютерная техника: Теория и практика / Уоссермен Ф. М.: Мир, 1992. - 184 с.

28. Ходжкин, А.Л. Нервный импульс / Ходжкин А.Л. М.: Мир, 1965. - 125 с.

29. Шабаршина, Г.В. Проведение возбуждения по кольцевой структуре нейронных клеточных автоматов / Шабаршина Г.В. // Моделирование и анализ информационных систем. Ярославль, 1994. - № 2 - С. 116-121.

30. Эдварде Р. Функциональный анализ / Эдварде Р. М.: Мир, 1963. - 1071 с.

31. Gerstner, W. What's different with spiking neurons? / Gerstner W. // Plausible Neural Networks for Biological Modelling, Henk Mastebroek and Hans Vos (Eds.) Kluwer Academic Publishers, 2001. - P. 23-48.

32. Hornik, K. Multilayer Feedforward Networks are Universal Approximators / Hornik K., Stinchcombe M., White H. // Neural Networks. 1989 - Vol. 2. - P. 359-366.

33. Hodgkin, A.L. A Quantitative Description Of Membrane Current And Its Application To Conduction And Excitation In Nerve

34. Hodgkin A.L., Huxley A.F. // J. Physiol. 1952. - V. 117.- P. 500-544.

35. Maass, W. Networks of spiking neurons: the third generation of neural network models / Maass W. // Neural Networks. 1997.- Vol. 10. P. 1659-1671.

36. Maass, W. Fast sigmoidal networks via spiking neurons / Maass W. // Neural Computation. 1997. - Vol. 9. - P. 279304.

37. Maass, W. Networks of spiking neurons can emulate arbitrary Hopfield nets in temporal coding / Maass W., Natschlager T. // Network: Computation in Neural Systems. 1997. - Vol. 9(4).- P. 355-372.

38. Rabinovich, M.I. Dynamical principles in neuroscience / Rabinovich M.I., Varona P., Selverston A.I., Abarbanel H.D.I. // Rev. Mod. Phys. 2006. - Vol. 78. - No. 4. - P. 1213-1265.