Разработка и исследование модели нейрона для построения рекуррентных сетей средней и большой размерности тема диссертации и автореферата по ВАК РФ 05.13.18, кандидат технических наук Тикиджи-Хамбурьян, Рубен Акимович

• Тикиджи-Хамбурьян, Рубен Акимович
• кандидат технических наук
• 2003

Оглавление диссертации кандидат технических наук Тикиджи-Хамбурьян, Рубен Акимович

Содержание.

Введение.

Глава 1. Модифицированный импульсный нейрон как базовая модель для реалистичных сетей средней и большой размерности с множественными обратными связями.

1.1 Обзор известных моделей единичного нейрона с различной степенью детализации описания.

1.2 Формальное описание разработанной модели.

1.2.1 Модифицированный импульсный нейрон.

1.2.2 Модель синаптической передачи в модифицированном импульсном нейроне.

1.3 Исследование влияния генератора импульсов на динамику мембранного потенциала модифицированного импульсного нейрона

Глава 2. Разработка обучающего правила для модифицированного импульсного нейрона.

2.1 Обзор известных обучающих правил для импульсного нейрона.

2.1.1 Хеббовское обучающие правило.

2.1.2 Биологические механизмы обучающего правила в реальных нейронных сетях и их детальное моделирование.

2.1.3 Обучающее правило "Хебб -анти-Хебб" для стандартного импульсного нейрона.

2.2 Формальное описание обучающего правила для модифицированного импульсного нейрона.

2.3 Исследование влияния параметров дополнительного интегратора на свойства обучающего правила в модифицированном импульсном нейроне.

Глава 3. Разработка программной среды для моделирования нейронных сетей средней и большой размерности.

3.1 Известные системы автоматизированного проектирования и разработки и пакеты прикладных программ для моделирования нейронных систем.

3.1.1 Краткий обзор классических САПР, основанных на графическом интерфейсе пользователя.

3.1.2 Средства для построения реалистических моделей единичных нейронов и нейронных сетей малой размерности.

3.1.3 Средства для построения формальных и реалистичных нейронных сетей средней и большой размерности.

3.2 Описание разработанного пакета прикладных программ NeuroCAD 2.01.

3.2.1 Внутренняя архитектура моделей реалистичных нейронных сетей.

3.2.3 Режим Simulator. Вспомогательный Viewer для просмотра результатов моделирования.

3.2.4 Принципы построения внешних сред: входных воздействий и условных обратных воздействий.

3.3 Выбор параметров и методов численного решения систем дифференциальных уравнений для моделирования модифицированного импульсного нейрона.

Глава 4. Модель релейного ядраталамуса на основе модифицированного импульсного нейрона с использованием пакета прикладных программ

NeuroCAD 2.01.

4.1 Структура релейных ядер таламуса и активность их клеток при различных функциональных состояниях.

4.2.1 Макроструктура модели и параметры связей и клеток.

4.2.2 Техника построения нейронной сети и формирования локальной структуры связей.

4.2.3 Моделирование активности нейронов при различных функциональных состояниях.

4.3 Исследование влияния локальной структуры модели на степень синхронизации активности нейронов модели релейного ядра.

Введение диссертации (часть автореферата) на тему «Разработка и исследование модели нейрона для построения рекуррентных сетей средней и большой размерности»

Актуальность работы

Методы математического моделирования находят широкое применение в разных отраслях науки и техники [51]. Приложение этих методов для анализа нейробиологических данных и разработки моделей тех или иных процессов в нервной системе является важной составляющей изучения механизмов нервной деятельности на всех этапах развития нейронаук. Адекватность используемых математических подходов и моделей уровню знаний в нейробиологии, накопленных на каждом этапе, в значительной мере определяет прогресс в понимании механизмов мозга на нейронном и системном уровнях [2 - 9, 11, 13 - 17, 19 - 21, 24 - 27, 28, 29, 32, 40 - 43, 47, 50, 83, 97, 116, 121]. Это позволяет минимизировать вклад эвристических компонент в моделях и обеспечить условия для последовательного приближения к полному описанию исследуемого объекта.

Особенность развития нейронаук в последнее десятилетие состоит в получении детализованных данных на уровне отдельных нейронов [1, 3, 6, 48, 49, 52, 57, 58, 59, 654, 80, 85, 92, 98, 100, 105, 115, 127]. Эти данные включают динамику мембранного потенциала в различных состояниях, свойства и вклад структурных компонент нейрона, ионные механизмы генерации импульсов и т.д. С другой стороны, механизмы интеграции активности отдельных нейронов (даже в их локальных сетях) остаются Terra incognito и являются предметом разнообразных гипотез [2, 5, 9, 14, 15, 16, 24, 29, 34, 41, 47, 54, 57, 64, 86, 100, 104], что определяется, прежде всего, ограниченными возможностями современных нейробиологических методов [44].

Важную роль в преодолении этих ограничений, несомненно, играют методы математического моделирования. Синтез математических методов и подходов, а именно: математического моделирования, теории информации, формальных нейронных сетей и нейробиологии породил новое научное направление - вычислительные нейронауки (Computational Neuroscience). В настоящее время это одно из бурно развивающихся направлений1, общей идеей которого можно считать тезис "изучение через моделирование". При этом в имитационных экспериментах на моделях, аккумулирующих тот или иной набор известных параметров и свойств реальных нейронов, воспроизводятся некоторые феномены их активности, анализируются их возможные механизмы и формулируются предположения, доступные экспериментальной проверки.

Существует несколько подходов, которые можно объединить в три группы, к построению моделей нейронных сетей с различной степенью детализации свойств элементов и связей, необходимой и достаточной для исследования механизмов конкретных нейробиологических процессов. Первая группа (модели типа Хожкина-Хаксли, [1, 3, 11, 25, 55, 60, 65, 67, 71, 72, 79, 80, 85, 87, 95, 98, 100, http://neuron.duke.edu/ environ/techhtml/nctoc.htm, http://dirac.physiol.uninielb.edu.au/~evan/thesis/ thesis.html]), используется при детальном моделировании и исследовании внутриклеточных процессов. Вторая группа включает модели импульсных нейронов [3, 7, 11, 13, 63, 69, 70, 73, 76, 77, 78, 80, 82, 106, 120, 122] и применяется при исследовании межнейронных взаимодействий. Третью группу образуют популяционные модели, которые служат для изучения статистически усредненных свойств множества нейронов [66, 80].

Однако, задача моделирования нейронных сетей средней и большой размерности с множественными обратными связями, позволяющими оценивать вклад кратковременной динамики активности отдельных нейронов в поведении целостной сети, до настоящего времени не имеет эффективного решения [39].

Таким образом, актуальной задачей является разработка эффективной модели единичного нейрона, способной адекватно формализовать свойства

1 Проведено 11 ежегодных международных конференций в этой области и на последней конференции

Chicago, USA, 2002, hi(p://www.neuroinf.org/C>iS/cns2002) было представлено около 3000 докладов. отдельных реальных клеток и архитектуру связей между ними для исследования вклада этих свойств в механизмы интеграции активности локальных нейронных сетей, имеющих среднюю (более сотни клеток) и большую размерности (более 1000 клеток).

Цель и задачи работы

Целью данной работы является разработка и исследование математической модели единичной клетки, имитирующей кратковременную динамику мембранного потенциала реального нейрона, и создание на основе таких элементов нейронных сетей средней и большой размерности с множественными обратными связями.

В ходе работы решались следующие задачи:

1. Разработка и исследование модели модифицированного импульсного нейрона (МИН), формализующей известные свойства динамики активности реальных нервных клеток (такие, как следовая поляризация, аккомодация, постанодальная экзальтация и пр.).

2. Разработка формального описания и исследование обучающего правила в МИН.

3. Разработка принципов создания моделей нейронных сетей средней и большой размерности с множественными обратными связями, построенных на основе МИН.

4. Реализация специализированной программной среды в виде пакета прикладных программ.

5. Разработка модели нейронной сети релейного ядра таламуса и ее исследование в имитационных экспериментах.

Научная новизна работы

Разработана модель импульсного нейрона нового типа, позволяющая имитировать кратковременную динамику активности отдельных нейронов от единиц до сотен миллисекунд) и создавать нейронные сети средней и большой размерности с множественными обратными связями.

Впервые в модель импульсного нейрона введен блок генерации импульса, позволяющий, в отличие от известных моделей, имитировать генераторные свойства мембраны нейрона.

Впервые в модель введено обучающее правило (алгоритм модификации межнейронных связей), аналогичное обнаруженному в нейробиологических исследованиях, не как специальная формальная функция, а как феномен, являющийся прямым следствием структуры МИН.

Разработана и реализована оригинальная программная среда в виде исследовательского пакета прикладных программ ЫеигоСАО 2.01. Она позволяет конструировать, модифицировать и исследовать нейронные сети большой размерности (до 10000 нейронов) с множественными обратными связями с использованием МИН.

Впервые реализована нейронная сеть релейного ядра таламуса с использованием модели нейрона импульсного типа. В имитационных экспериментах обнаружены свойства динамики активности элементов, характерные для биологического прототипа в различных функциональных состояниях. Кроме того, обнаружен ряд новых свойств динамики активности, таких как: вариабельность степени синхронизации во время разных фаз медленно волновой активности; зависимость степени синхронизации нейронов от архитектуры связей и др. Практическая значимость.

Разработанный пакет прикладных программ ЫеигоСАО 2.01 используется в исследовательских целях - при разработке имитационных моделей нейронных сетей различных структур мозга и в учебном процессе. В частности, в Лаборатории автоволновых процессов отдела нелинейной динамики и оптики Института прикладной физики РАН (Нижний Новгород) на основе №игоСАО 2.01 создана модель для исследования нейронных механизмов детектирования пространственной локализации звука.

Результаты работы использованы при выполнении гранта РФФИ №00-0449344 и проекта по программе Университеты России №015.07.01.002.

Апробация работы и публикации

Результаты работы представлены на 4-ой и 5-ой Всероссийских научно -технических конференциях "Нейроинформатика" (г.Москва) в 2002г. и в 2003г.; на семинаре Лаборатории вычислительного эксперимента в 2003 г. (ЮГИНФО РГУ, г.Ростов-на-Дону); на заседании Санкт-Петербургского физиологического общества им. И.М. Сеченова в 2003 г. (Институт физиологии им. И.П.Павлова РАН, г. Санкт-Петербург); на семинаре Лаборатории автоволновых процессов отдела нелинейной динамики и оптики Института прикладной физики РАН в 2003г. (г.Нижний Новгород); на семинаре Института математических проблем биологии РАН в 2003 г. (г.Пущино); на конференции аспирантов НИИ НК РГУ в 2002г. (г.Ростов-на-Дону); на семинаре Российской ассоциации нейроинформатики в 2002г. (г.Москва); на школе-семинаре "Нейроинформатика: современный подход" по программе "Интеграция" в 2001г. (г.Ростов-на-Дону).

Структура и объем работы

Работа состоит из четырех глав, введения, заключения, списка литературы из 127 ссылок, и трех приложений. Общее количество страниц 132. Работа содержит тридцать две иллюстрации и четыре таблицы.

Основные положения, выносимые на защиту

1. Разработанные алгоритмы и модель модифицированного импульсного нейрона, основанная на включении в классическую модель неполного интегратора, алгоритма смещения порога и генератора импульсов. Такие модификации позволили имитировать динамику активности нейронов различных структур мозга и создавать модели нейронных сетей средней и большой размерности.

2. Результаты аналитического исследования влияния генератора импульсов, впервые использованного в моделях типа ИН, на динамические свойства активности МИН. Показано, что скорость изменения порога снижается при уменьшении постоянной времени основного интегратора, что хорошо согласуется с известными нейробиологическими данными о различии свойств т.н. быстрых и медленных клеток.

3. Разработанный алгоритм модификации межнейронных связей (обучающего правила) в МИН, который является прямым следствием его структуры, в отличие от известных подходов. Показана близость передаточных характеристик обучающего правила реализованного в модели и известных нейробиологических данных.

4. Разработанный пакет прикладных программ NeuroCAD 2.01, отвечающий всем требованиям, предъявляемым к современным САПР и обеспечивающий возможность конструирования и исследования нейронных сетей средней и большой размерности, основанных на МИН.

5. Разработанная модель релейного ядра таламуса, созданная с помощью 111111 NeuroCAD 2.01 на основе модели МИН. Показано, что данная модель нейронной сети имитирует различные известные виды активности нейронов биологического прототипа и проявляет ряд новых особенностей ее динамики.

Краткое содержание работы

Во введении обоснована актуальность работы, определена цель исследований, отмечена новизна результатов, их научная и практическая ценность, сформулированы основные положения, выносимые на защиту.

Первая глава, состоящая из трех разделов, посвящена обоснованию необходимости разработки МИН как базовой модели для построения реалистичных сетей средней и большой размерности с множественными обратными связями и его аналитическому описанию.

В первом разделе рассматриваются два наиболее известные подхода к моделированию нейрона.

В основе первого подхода лежит представление о клетке как о наборе сегментов. Второй - упрощенно представляет единичную клетку как линейный пороговый интегратор. Даются характеристики и область применения обоих подходов.

В конце раздела обосновывается необходимость разработки модели единичной клетки, оптимально описывающей свойства биологического прототипа.

Во втором разделе приводится аналитическое описание разработанной модели нейрона МИН. Данный раздел разбит на два подраздела.

В первом подразделе представлено формальное описание: структура и основные уравнения, описывающие МИН. Заключается, что параметры МИН, имея вполне обоснованную биологическую интерпретацию, позволяют описывать большой класс феноменов временной динамики мембранного потенциала (МП) реального нейрона.

Во втором подразделе представлена модель передачи сигналов в области контактов между нейронами (синапсах) в МИН.

Третий раздел посвящен аналитическому исследованию влияния генератора импульсов, использованного впервые в моделях класса ИН, на свойства динамики МИН.

Вторая глава, состоящая из трех разделов, посвящена описанию обучающего правила, предложенного для МИН.

В первом подразделе первого раздела описываются известные обучающие правила, используемые в классическом ИН. Во втором -представлены результаты нейробиологических экспериментов и их детальное сегментное моделирование. В третьем - реализации, полученного экспериментально, обучающего правила для классического ИН в виде формальных специальных функций.

Во втором разделе формализуется обучающее правило для МИН. Подчеркивается, что данное обучающее правило вводится в модель не формальной функцией, а как прямое следствие структуры МИН и возможных аналогий между структурами модельного и реального нейронов.

В третьем разделе представлены результаты вычислительного эксперимента, показывающего близость передаточных характеристик обучающего правила МИН и экспериментальных данных

Третья глава, состоящая из трех разделов, посвящена описанию разработанного исследовательского пакета прикладных программ (111111) NeuroCAD 2.01, который является специализированной системой автоматизированного проектирования и разработки (САПР), предназначенной для создания, модификации и симуляции нейронных сетей средней и большой размерности с использованием МИН.

В первом разделе рассматриваются известные САПР и системы для моделирования нейронных сетей. Первый подраздел является обзором наиболее известных САПР, из которого выделены требования, предъявляемые к современным САПР. Во втором подразделе кратко описаны две системы для построения детальных моделей нейронов и нейронных сетей малой размерности. Третий подраздел описывает средства для построения формальных и реалистичных нейронных сетей, наиболее близких 1111П NeuroCAD 2.01.

Во втором разделе, состоящем из четырех подразделов, описан разработанный П1 111 NeuroCAD 2.01.

В первом подразделе дается основная характеристика 111111 NeuroCAD 2.01 и описывается тип моделей, которые могут быть созданы при его использовании. Во втором - рассматривается работа 111111 NeuroCAD 2.01 в режиме Designer и вспомогательный редактор DefEdit правил форматирования свойств клеток и связей. В третьем - описываются функции и сервисы ППП NeuroCAD 2.01 в режиме Simulator и специальная программа просмотра Viewer. В четвертом подразделе описывается метод моделирования внешней, по отношению к создаваемой нейронной сети, среды.

В третьем разделе кратко обосновывается выбор метода Эйлера для численного решения уравнений МИН. Приведены предельно допустимые параметры МИН, при которых решение можно считать устойчивым.

Четвертая глава, состоящая из трех разделов, посвящена описанию разработанной модели нейронной сети релейного ядра таламуса, которая рассматривается как тестовый пример реализации при помощи ППП NeuroCAD 2.01 нейронной сети средней размерности с использованием МИН. В первом подразделе приведены нейробиологические данные о структуре релейных ядер таламуса и активности клеток в различных функциональных состояниях.

Второй раздел, посвященный формальному описанию разработанной модели нейронной сети релейного ядра таламуса, состоит из трех подразделов.

В первом подразделе описывается макроструктура модели релейного ядра и параметры связей и клеток в этой модели. Во втором - описана методика построения сети и локальная структура связей в модели. Приводится перечень последовательного применения сервисов и функций ППП NeuroCAD 2.01 при создании и исследовании моделей в имитационных экспериментах. В третьем подразделе описывается активность модели нейронной сети релейного ядра таламуса при имитации различных функциональных состояний. Описывается ряд новых феноменов динамики активности, которые, возможно проявляются и в биологическом прототипе.

Третий раздел посвящен исследованию влияния локальной структуры модели нейронной сети на динамику поведения МП у отдельных МИН и степень синхронизации активности МИН, вовлеченных в генерацию.

14

В заключении обобщаются полученные результаты, проводится сравнение модели МИН с известными моделями единичного нейрона и нейронных сетей, основанными на биологических аналогиях. Обосновывается, что разработанная формализация МИН позволяет ввести обучающее правило, имитирующее известные экспериментальные данные и являющееся прямым следствием его структуры, в отличие от известных подходов, в которых оно реализуется в виде специальных функций. Представленная модель нейронной сети релейного ядра таламуса позволила имитировать известные виды активности нейронов биологического прототипа в различных функциональных состояниях. Кроме того, обнаружен ряд неизвестных ранее особенностей активности и их зависимость от организации локальных связей в сети. Предполагается, что обнаруженные свойства могут быть присущи и реальному таламическому ядру. Описаны косвенные данные литературы в пользу такого предположения. Рассматриваются перспективы применения разработанного 111111 №игоСАО 2.01 для имитационного моделирования различных структур мозга.

Заключение диссертации по теме «Математическое моделирование, численные методы и комплексы программ», Тикиджи-Хамбурьян, Рубен Акимович

Заключение

В результате данной работы был создан эффективный инструментарий для изучения с помощью методов математического моделирования динамики активности многомерных нейронных сетей, имеющих множественные обратные связи. Этот инструментарий позволяет адекватно формализовать и аккумулировать значительный объем известных нейробиологических данных о свойствах отдельных нейронов и структуре связей между ними и может быть использован при разработке нейросетевых моделей различных отделов мозга. Немаловажно, что разработанный подход снимает некоторые ограничения известных подходов в области разработки и исследования реалистических моделей нейронных сетей. В частности, в отличие от известных аналогов [70, 80, 82], он позволяет проводить имитационное исследование вклада кратковременной динамики активности отдельных нейронов в поведение целостных сетей большой размерности (до 10 ООО элементов) за приемлемое время. Это, в свою очередь, в перспективе открывает возможность приближения к пониманию механизмов кооперативного функционирования отдельных нейронов в их локальных сетях.

Разработанный инструментарий включает следующие основные компоненты:

1) математическую модель единичной клетки (модифицированный импульсный нейрон, МИН), имитирующую большинство известных феноменов кратковременной (от единиц до сотен миллисекунд) динамики мембранного потенциала реального нейрона;

2) принципы создания моделей нейронных сетей большой размерности с множественными обратными связями, построенных на основе МИН;

3) универсальную специализированную программную среду в виде пакета прикладных программ №игоСАБ 2.01.

Основное внимание в работе было уделено разработке и исследованию базового элемента для построения рекуррентных нейронных сетей средней и большой размерности - модели МИН, являющейся вариантом сегментного импульсного нейрона [80] с адаптивным порогом. МИН обладает девятью независимыми параметрами, которые имеют биологическую интерпретацию и следовательно могут быть установлены в соответствии с конкретными экспериментальными данными, известными для той или иной моделируемой структуры мозга. По сравнению с моделями, которые описывают единичный нейрон в виде двух- или трех сегментов с характеристическими уравнениями Ходжкина-Хаксли [84], МИН описывается значительно более простым математическим аппаратом (по количеству описывающих уравнений и параметров), что тем не менее не ограничивает круг феноменов динамики мембранного потенциала биологического нейрона, которые может имитировать МИН. Сравнение МИН с двух-сегментными моделями ИН [77, 80] показывает, что предложенный вариант не отличается по действию дополнительного сегмента на основной при уменьшении описывающих уравнений с трех до двух. Кроме того, введение в модель МИН генератора импульсов позволило впервые на моделях типа импульсного нейрона имитировать генераторные свойства мембраны биологического нейрона, что раньше было доступно только моделям типа Ходжкина-Хаксли.

Наряду с рассмотренными выше кумулятивными свойствами модели МИН, она обладает также рядом других характеристик, важных с точки зрения разработки реалистических моделей нейронных сетей. Так, при аналитическом исследовании было показано, что включение в модель МИН генератора импульсов привело к появлению некоторых новых свойств динамики МП, характерных для «быстрых» и «медленных» нейронов [24], которые первоначально в модель не закладывались. Кроме того, предложенная модель синаптической передачи позволила более простыми методами моделировать эффекты накопления химического агента в области контактов между двумя нейронами. Показано, что частными решениями такой модели являются классическая альфа-функция или одно- или четырех - шаговый Марковский процесс. Еще одно свойство модели МИН, существенное в плане биологических аналогий, состоит в правиле модификации межнейронных связей. МИН проявляет обучающее правило типа "Хебб - анти-Хебб", аналогичное обнаруженному в нейробиологических экспериментах [59]. Причем, это свойство реализуется как прямое следствие взаимодействия процессов в различных структурах МИН, а не в виде специальных формальных функций, как оно обычно вводится в ИН [80].

Таким образом, МИН может быть рассмотрен как кумулятивная модель, сочетающая функциональные и вычислительные достоинства известных моделей отдельных нейронов и имитирующая ряд ключевых свойств активности биологического нейрона.

На концептуальном уровне разработаны принципы создания моделей нейронных сетей большой размерности с множественными обратными связями, построенных на основе МИН и реализованных 1И111 №игоСАВ 2.01 как иерархия объектов с наследованием. Каждый элемент сети порожден от общего базового объекта, и единственным зависимым объектом в сети является связь между элементами. Таким образом, создаваемая модель не является полносвязной, в отличие от классических формальных нейронных сетей. Эта концепция позволяет строить различные межуровневые обратные связи произвольной конфигурации, а подчиненность связи элементу сети позволяет избирательно рассчитывать синаптическое воздействие, что при большой размерности сети значительно экономит вычислительные ресурсы по сравнению с полносвязными моделями.

Важным компонентом инструментария для имитационного моделирования многомерных реалистических нейронных сетей, созданного в результате данной работы, является исследовательский пакет прикладных программ ЫеигоСАО 2.01. Реализованный в №игоСАБ 2.01 полный графический интерфейс пользователя, имеющиеся интуитивно понятные правила создания, редактирования и симуляции нейронных сетей, а также многочисленные сервисы, автоматизирующие наиболее трудоемкие операции позволяют отнести данный пакет к системам автоматизированного проектирования. Наличие полнофункционального САПР делает доступным исследование моделей нейронных сетей на основе МИН для пользователей средней квалификации. В отличие от известных пакетов направленных, как правило, на построение реалистичных нейронных сетей малой размерности (ВюБипРС, Нейроимитатор) САПР ИеигоСАО 2.01 позволяет значительно сократить время, необходимое на создание модели большой размерности.

В качестве тестового примера применения разработанного инструментария в работе описана и исследована модель нейронной сети релейного ядра таламуса. Эта модель позволила имитировать большинство из известных видов активности нейронов биологического прототипа в различных функциональных состояниях и обнаружить ряд неизвестных ранее особенностей активности нейронов таламического релейного ядра. В частности, показана вариабельность степени синхронизации активности нейронов во время разных фаз так называемого веретена; зависимость степени синхронизации нейронов от структуры связей и др. Экспериментальная верификация этих свойств, впервые обнаруженных на модели, возможна с помощью одновременного отведения активности нескольких нейронов релейного ядра таламуса в фокусе и на периферии медленно волновой активности с помощью 5-10 микроэлектродов. Такая техника эксперимента в настоящее время уже реализована при исследовании других структур мозга.

В настоящее время, в рамках исследований проведенных совместно с Лабораторией автоволновых процессов отдела нелинейной динамики и оптики Института прикладной физики РАН (Нижний Новгород), на основе ЫеигоСАБ 2.01 создана модель для изучения нейронных механизмов пространственной локализации источника звука. На основе вычислительных экспериментов сделано предположение о возможном механизме

118 распознавания коротких фазовых задержек при предъявлении звукового источника с различной пространственной локализацией, и обнаружены некоторые феноменологические следствия данного механизма на уровне целостного восприятия. В специальных психофизических экспериментах, направленных на верификацию модельных предположений, подтвержден феномен ложной локализации звука при бинауральном слуховом восприятии человека.

Кроме того, является перспективным использование предложенного в данной работе инструментария для построения и исследования моделей нейронных сетей наиболее изученных биологических объектов, таких как мозжечок, зрительная и соматосенсорная кора. В частности, на данном этапе в лаборатории нейроинформатики сенсорных и моторных систем НИИ нейрокибернетики РГУ на основе ППП NeuroCAD 2.01 специфицируются модели нейронных сетей первых двух структур мозга. Особый интерес разработка такой модели представляет для коры мозжечка, для которого характерен существенный вклад параметров генерируемых импульсов и кратковременной динамики мембранного потенциала отдельных нейронов в динамику активности локальных сетей.

119

Список литературы диссертационного исследования кандидат технических наук Тикиджи-Хамбурьян, Рубен Акимович, 2003 год

1. Антомонов Ю.Г., Котова А.Б. Введение в структурно-функциональную теорию нервной клетки. Киев: Наук, думка, 1976. - 263 с.

2. Арбиб М. Метафорический мозг: Пер. с англ. -М.: Мир, 1976. 295 с.

3. Борисюк Т.Н., Борисюк P.M., Казанович Я.Б., Иваницкий Г.Р. Модели динамики нейроннолй активносчти приобработке информации мозгом итоги «десятилетия». // Успехи физических наук. - 2002. - т. 172. - 10. -сЛ 189-1214.

4. Владимирский Б.М., Горстко А.Б., Ерусалимский Я.М. Математика. Общий курс. СПб.: Издательство «Лань», 2002. - 960 с.

5. Воронков Г.С. Информация и мозг: взгляд нейрофизиолога. // Нейрокомпьютеры разработка и применение. 2002. - 1-2. - с.79-88.

6. Гутман A.M. Дендриты нервных клеток. Теория, электрофизиология, функция. Вильнюс : Мокслас, 1984. - 144 с.

7. Дейч С. Модели нервной системы: Пер. с англ. М.: Мир, 1970. - 325 с.

8. Джордж Ф. Мозг как вычислительная машина: Пер. с англ. М.: Иностранная литература, 1963. - 528 с.

9. Дунин-Барковский B.JI. Информационные процессы в нейронных структурах. М. : Наука, 1978. - 166 с.

10. Калиткин H.H. Численные методы. М.: Наука, 1978. - 512 с.

11. Кий В.И., Колесников Г.Ф. Функциональное моделирование нервной системы. -М.: Медицина, 1989. -264 с.

12. Коган А.Б., Наумов Н.П., Режабек В.Г., Чораян О.Г. Биологическая кибернетика. Учебное пособие для университетов. М.: Высшая школа, 1972.-384 с.

13. Коган А.Б. Функциональная организация нейронных механизмов мозга. Л: Медицина, 1979. - 224 с.

14. Коллективная динамика возбуждений и структурообразование в биологических тканях. / ИПФ АН СССР, Горький, 1988. 225 с.

15. Кохонен Т. Ассоциативные запоминающие устройства: Пер. с англ. -М.: Мир, 1982. -383 с.

16. Круглински Д., Уингоу С., Шеферд Дж. Программирование на Microsoft Visual С + 6.0 для профессионалов: Пер. с англ. СПб: Питер; М.: Издательско-торговый дом «Русская Редакция», 2000. - 864 с.

17. Литвинов Е.Г. Пакет программ "Нейроимитатор" для имитационного моделирования нейронных сетей биологических объектов. // Нейрокомпьютеры разработка и применение. 2002. - 1-2. - с.21-35.

18. Методы математической биологии. Книга 1. Общие методы анализа биологических систем: Учеб. Пособие для вузов. Киев : Вища школа. Головное изд-во, 1980. - 240 с.

19. Мурзина Г.Б., Фролов А.А. Генез ритмической активности в модели нейронной сети. //Биофизика. 1998.-т.43. вып. 1. - с. 159-164.

20. Прибрам К. Языки мозга. Экпериментальные парадоксы и принципы нейропсихологии: Пер. с англ. М.: Прогресс, 1975. - 464 с.

21. Радченко А.Н. Информационные механизмы нейронной памяти и модели амнезий. СПб.: Издательство «Анатолия», 2002. - 297 с.

22. Радченко А.Н. Моделирование основных механизмов мозга. Л.: Наука, 1968.-212 с.

23. Рихтер Дж. Windows для профессионалов: создание эффективных Win32 приложений с учетом специфики 64-разрядных версий Windows / Пер. с англ. - 4-е издание - СПб.: Питер; М.: Издательский дом "Русская Редакция", 2001. - 752с.

24. Розенблатт Ф. Принципы нейродинамики. Перцептроны и теория механизмов мозга: Пер. с англ. -М.: Мир, 1965. 480 с.

25. Сентаготаи Я., Арбиб М. Концептуальные модели нервной системы: Пер. с англ. М.: Мир, 1976. - 198 с.

26. Серков Ф.Н. Корковое торможение. Киев: Наук. Думка, 1986. - 248 с.

27. Сторожук В.М. Функциональная организация нейронов соматической коры. Киев : Наук. Думка, 1974. - 271 с.

28. Тасаки И. Нервное возбуждение. М.: Мир, 1971. - 223 с.

29. Тикиджи-Хамбурьян P.A. Анализ влияния генератора спайков на динамические свойства модифицированного импульсного нейрона. // Тез. док. 5-ой Всероссийской научно-технической конференции Нейроинформатика 2003. М.:МИФИ, 2003. - с.134-141.

30. Тикиджи-Хамбурьян P.A. Гипотеза об информационном насыщении в нейронной системе и обратном распространении информации в отдельном нейроне // Рукопись деп. в ВИНИТИ 13.02.2001., №325-В2001 17с.

31. Тикиджи-Хамбурьян P.A. Модифицированный импульсный нейрон, как базовая модель для реалистичных нейронных сетей. // Нейрокомпьютеры, разработка и применение. 2002. - 7-8. - с.97-103.

32. Тикиджи-Хамбурьян P.A. Модифицированный импульсный нейрон, как базовая модель для реалистичных нейронных сетей. // Труды VIII Всероссийской конференции Нейрокомпьютеры и их применение. -Москва, 2002. с.847-851.

33. Тикиджи-Хамбурьян P.A. Пороговый интегратор для имитационного моделирования релейного ядра таламуса. // Тез. док. 4-ой Всероссийской научно-технической конференции Нейроинформатика 2002. М:МИФИ, 2002. - с.134-141.

34. Тикиджи-Хамбурьян P.A. Пороговый интегратор для имитационного моделирования релейного ядра таламуса. // Тез. док. школы-семинара: Нейроинформатика: современный подход. Ростов-на-Дону: НИИ НК РТУ, 2001.-c.3-16.

35. Уоссермен Ф. Нейрокопьютерная техника: Теория и практика. М.: Мир, 1992, - 240 с.

36. Фомин C.B., Беркинблит М.Б. Математические проблемы в биологии. -М.: Наука, 1973.-200 с.

37. Фролов A.A., Дюфоссе М., Прокопенко P.A. Нейросетевая Модель кортико-мозжечкового взаимодействия при выработке новой зрительно-моторной координации Нейрокомпьютеры разработка и применение. 2002. - 1-2. - с.53-62.

38. Цетлин M.JI. Исследования по теории автоматов и моделированию биологических систем. -М.: Наука, 1969. 316 с.

39. Шеперд Г. Нейробиология М.:Мир, 1987 - 454с.

40. Шилдт Г. Справочник программиста по С/С++. Уч. пос.: Пер. с англ.: -М.: Издательский дом «Вильяме», 2000. 448 с.

41. Шилдт Г. Теория и практика С++ СПб.:ИРМ - Санкт-Питербург,1996. -416с.

42. Эдельмен Дж., Маунткасл В. Разумный мозг. Кортикальная организация и селекция групп в теории высших функций головного мозга: Пер. с англ. М.: Мир, 1981. - 131 с.

43. Экклс Дж. Тормозные пути центральной нервной системы: Пер. с англ.- М. : Мир, 1971.-166 с.

44. Экклс Дж. Физиология синапсов: Пер. с англ. -М.: Мир, 1966. 395 с.

45. Эшби У. Росс. Конструкция мозга. Происхождение адаптивного поведения: Пер. с англ. М.: Иностранная литература, 1962. - 399 с.

46. Яглом И.М. Математические структуры и математическое моделирование. М.: Сов. Радио, 1980. -144 с.

47. Acebes A., Aferrus A. Cellular and molecular features of axon collaterals and dendrites. // Trends in Neuroscience. 2000. - v.23. - p.557-565

48. Alkasab Т.К., Bozza T.C., Cleland T.A., Dorries K.M., Pearce T.C., White J., Kauer J.S. Characterizing complex chemosensors: information-theoretic analysis of olfactory systems. // Trends in Neuroscience. 1999. - v.22. -p.102-108

49. Andersen P., Andersson S.A. Physiological basis of alpha rhythm Ney York: Century-Crofts, 1968.

50. Aradi I., Holmes W.R. Active dendrites regulate spatio-temporal synaptic integration in hippocampal dentate granule cells. //Neurocomputing. 1999.- v.26-27. -p.45-51.

51. Araki O., Aihara K. Dual Information Representation with Stable Firing Rates and Chaotic Spatiotemporal Spike Patterns in a Neural Network Model. // Neural Computation. 2001. - v. 13 - p.2799-2822.

52. Bazhenov M., Timofeev I., Steriade M., Sejnowski T.J. S elf-sustained rhythmic activity in the thalamic reticular nucleus mediated by depolarizing GABAa receptor potentials. // Nature neuroscience. 1999. - v.2. - 2 -p.168-174

53. Bezanilla F. The Voltage sensor in Voltage Dependent Ion Channels. // Physiological reviews. - 2000. - v.80. - 2 - p.5 55-592.

54. Bi G., Poo M. Synaptic Modification in Cultured Hippocampal Neurons: Dependence on Spike Timing, Synaptic Strength, and Postsynaptic Cell Type // Journal of Neuroscience. 1998. - v. 18(24). - p. 10464-10472

55. Bondarenko V.E., Chay T.R. Generation of various rhythms by thalamic neural network model. // Neurocomputing. 1999. - v.26-27. - p.335-345.

56. Brandman R., Nelson M.E. Asimole Model of Long Term Spike Train Regulation. //Neural Computation. -2002. - v. 14. - p. 1575-1597.

57. Brown D., Feng J. Is there a problem matching real and model CV(ISI)? // Neurocomputing. 1999. - v.26-27. - p.87-91.

58. Burkitt A.N., Clark G.M. New technique for analyzing integrate and fire neurons. // Neurocomputing. 1999. - v.26-27. - p.93-99.

59. Bush P., Sejnowski T.J. Inhibition Synchronizes Sparsely Connected Cortical Neurons Within and Between Columns in Realistic Network Model. // Journal of Computational Neuroscience. 1996. - 3. - p.90-110.

60. Bush P.C., Sejnowski T.J. Reduced compartmental models of neocortical pyramidal cells. // The Journal of Neuroscience Methods. 1993. - v.46. -p.159-166.

61. Casti A.R.R., Omurtag A., Sornborger A., Kaplan E., Knight B., Victor J., Sirovich L. A Population Study of Integrate-and-Fire-or-Burst Neurons. // Neural Computation. 2002. - v. 14. - p.957-986

62. Contreras D., Destexhe A., Steriade M. Intracellular and Computational Characterization of the Intracortical Inhibitory Control of Synchronized Thalamic Inputs In Vivo. // The Journal of Neurophysiology. 1997. -v.78. -p.335-350.

63. Coulter D.A. Thalamocortical Anatomy and Physiology Epilepsy: A Comprehensive Textbook, edited by J. Engel, Jr. and T.A.Pedley. -Piladelphia: Liippincott Raven Publisher, 1997, - pp.341 - 412

64. Cremers D., Herz A.V.M. Traveking Waves of Excitation in Neural Field Models: Equivalence of Rate Descriptions and Integrate and - Fire Dynamics. //Neural Computation. - 2002. - v. 14. - p. 1651-1667.

65. Delorme A., Gautrais J., Rullen R., Thorpe S. SpikeNet: A simulator for modeling large networks of integrate and fire neurons. // Neurocomputing. -1999. v.26-27. - p.989-996.

66. Destexhe A., Contreras D., Steriade M. Mechanisms Underlying the Synchronizing Action of Corticothalamic Feedback Through Inhibition of Thalamic Relay Cell. // The Journal of Neurophysiology. 1998. - v.19. -p.999-1016.

67. Eckmiller R. Biology-Inspired Pulse Processing Neural Networks (BPN) for Neurotechnology. //Proc. of ICANN, 1994. p.1329-1334

68. Ehlers M.D. Reinsertion or Degradation of AMPA Receptors Determined by Activity-Dependent Endocytic Sorting. // Neuron. 2000. - v.28. — p.511— 525.

69. Elliot T., Shadbolt N.R. Multiplicative Synaptic Normalization and a Nonlinerar Hebb Rule Underlie a Neurotrophic Model of Competitive Synaptic Plasticity. //Neural Computation. 2002. - v. 14. - p. 1311-1322

70. Feng J. Origin of firing variability of the integrate-and-fire model. // Neurocomputing. 1999.-v.26-27.-p. 117-122.

71. Feng J., Li G. Impact of Geometrical Structures on the Output of Neuronal Models: A theoretical and Numerical Analysis. // Neural Computation. -2002. -v.l4. -p.621-640.

72. Fourcaud N., Brunei N. Dynamics of Firing Probability of Noisy Integrate-and-Fire Neurons. // Neural Computation. 2002. - v. 14. - p.2057-2110.

73. Gall W.G., Zhow Y. Including a second conductance in Morris and Lecar dynamics. // Neurocomputing. 1999. - v.26-27. - p. 131 -136.

74. Hansel H., Mato G., Meunier C., Neltner L. On Numerical Simulation of Integrate-and-Fire Neural Networks. // Neural Computation. 1998. - v. 10. -p.467-483.

75. Hebb Do. Thr organization of brhavior. NewYork: Wiley, 1949 335p.

76. Heynen A.J., Quinlan E.M., Bae D.C., Bear M.F. Bidirectional, Activity-Dependent Regulation of Glutamate Receptors in the Adult Hippocampus In Vivo. // Neuron. 2000. - v.28. - p.527-536.

77. Hodgkin A., Huxley A. A quantitative description of membrane current and its application to conduction and excitation in nerve. // Journal of Physiology 1952-v. 116-p. 424-448

78. Hoshino O., Inoue S., Kashimori Y., Kambara T. A Hierarchical Dynamical Map as a Basic Frame for Cortical Mapping and Its Application to Priming. // Neural Computation. 2001. - v. 13. - p. 1781 -1810.

79. Houweling A.R., Bazhenov M., Timofeef I., Steriade M., Sejnowski T.J. Cortical and thalamic components of augmenting responses: A modeling study. // Neurocomputing. 1999. - v.26-27. - p.735-742.

80. Jensen O. Information Transfer Between Rhythmically Coupled Networks: Reading the Hippocampal Phase Code. // Neural Computation. 2001 -v.13. - p.2743-2761.

81. Kempter R., Gerstner W., van Hemmen J.L. Intrinsic Stabilization of Output Rates by Spike-Based Hebbian Learning. // Neural Computation. 2001. -v.13. - p.2709-2741.

82. Kistler W., Leo van Hemmen J. Modeling Synaptic Plasticity in Conjunction with the Timing of Pre- and Postsynaptic Action Potentials. // Neural Computation. 2000. - v. 12. - p.385-405.

83. Kitajima T., Hara K. A generalized Hebbian rule for activity-dependent synaptic modification. // Neural Networks. 2000. - v. 13. - p.445-454.

84. Kohama M., Miyahara S., Nakano S., Wakisaka S. Long-term enhancement of synaptic transmission induced by veratridine in rat CA3 hippocampal neurons. // Neuroscience Research. 2001. - v.39. - p.463-468.

85. Kording K.P., Konig P. Neurons with Two Sites of Synaptic Integration Lear Invariant Representations. // Neural Computation. 2001. - v. 13 -p.2823-2849.

86. Kubota Y., Bower J.M. Decoding time-varying calcium signals by the postsynaptic biochemical network: Computer simulations of molecular kinetics. // Neurocomputing. 1999. - v.26-27. - p.29-38.

87. Kudela P., Franaszczuk P.J., Bergey G.K. Model of the propagation of synchronous firing in a reduced neuron network. //Neurocomputing. 1999. - v.26-27. -p.411-418.

88. Liaw J.S., Berger T.W. Dynamic synapse: Harnessing the computing power of synaptic dynamics. //Neurocomputing. 1999. - v.26-27. - p. 199-206.

89. Maass W., Markram H. Synapses as dynamic memory buffers. // Neural Network. 2002. - v. 15. - p. 155-161.

90. Mainan Z.F., Sejnowski T.J. Influence of dendritic structure on firing pattern in model neocortical neurons. // Nature. 1996. - v.382. - p.363-366.

91. Manwani A., SteinmetzP., Koch C. The Impact pf Spike Timing Variability on the Signal-Encoding Performance of Neural Spike Models. // Neural Computation. 2001. - v. 13. - p.347-367.

92. Model Neural Networks and Behavior. Edited by Allen I. Selverston, Plenum Press. New York, 1985. -548 p.

93. Moore C.I., Nelson S.B., Sur M. Dynamics of neuronal processing in rat somatosensory cortex // Trends Neuroscience. 1999. - v.22. - p.513-520.

94. Paulsen O., Sejnowski T.J. Natural patterns of activity and long-term synaptic plasticity. // Current Opinion in Neurobiology. 2000. - v. 10. -p.172-179.

95. Plesser H.E., Geisel T. Bandpass properties of integrate-fire neurons. // Neurocomputing. 1999. - v.26-27. - p.229-235.

96. Rao R.P.N., Sejnowski T.J. Spike-Timing-Dependent Hebbian Plasticity as Temporal Difference Learning. // Neural Computation. 2001. - v.13. - p.2221-2237.

97. Rossum D., Hanisch U.-K. Cytoskeletal dynamics in dendritic spines:direct modulation by glutamate receptors? // Trends Neuroscience. -1999. v.22. - p.290-295.

98. Salonas E., Senowski T.J. Integrate-and-Fire Neurons Driven by Correlated Stochastic Input. // Neural Computation. 2002. - v.14. -p.2111-2155.

99. Savtchenko L.P., Gogan P., Korogod S.M., Tyc-Dumont S. Imaging stochastic spatial variability of active channel clusters during excotation of single neurons. // Neuroscience Research. 2001. - v.39. - p.431-446.

100. Schinder A.F., Poo M. The neurotrophin Hypothesis for synaptic plasticity // Trends in Neuroscience. 2000. - v.23. - p.639-645.

101. Schobesberger H., Gutkin B.S., Horn J.P. A minimal model for metabotropic modulation of fast synaptic transmission and firing properties in bullfrog sympathetic B neurons. // Neurocomputing. 1999. - v.26-27. -p.255-262.

102. Schreiber S., Machens C.K., Herz A.V., Laughlin S.B. Energy-Efficient Coding with Discrete Events. // Neural Computation. 2002. -v.14. - p.1323-1346.

103. Seki K., Kudoh M., Shibuki K. Long-term potentiation of Ca2+ signal in the rat auditory cortex. // Neuroscience Research. 1999. - v.34. - p. 187197.

104. Senn W., Ruf B. Activity-Dependent Development of Axonal and Dendritic Delays, or, Why Synaptic Transmission Should Be Unreliable // Neural Computation. 2002. - v.14. -p.583-619.

105. Shastri L. Recruitment of binding and binding-error detector circuits via long-term potentiation. //Neurocomputing. 1999. - v.26-27. - p.865-874.

106. Sherman S.M. Tonic and burst firing: dual modes of thalamocortical relay. // Trends in Neuroscience. 2001. - v.24. - 2. - p. 122-126.

107. Somogyi P., Tamas G., Lujan R., Buhl E.H. Salient features of synaptic organization in the cerebral cortex. // Brain Research Reviews. -1998. -v.26. p. 113-135.

108. Sporns O., Tononi G., Edelman G.M. Theoretical Neuroanatomy: Relation Anatomical and Functional Connectivity in Graphs and Cortical Connection Matrices. // Cerebral Cortex. 2000. - v.10. - 2. - p.127-141.

109. Steriade M. Alertness, Quiet Sleep, Dreaming Cerebral Cortex. -New-York: Plen. Press, 1991. -p.279-357.

110. Steriade M., Gloor P., Llinas R.R., Lopes da Silva F.H., Mesulam M.-M. Basic mechanisms of cerebral rhythmic activities. // Electroencephalography and clinical Neurophysiology. 1990. - v.76. -p.481-508.

111. Steriade M., McCormick D.A., Sejnowski T.J. Thalamocortical oscillation in the sleeping and aroused brain. // Science. 1993. - v.262. -p.679-685.

112. Stoeve S., Gielen S. Correlation Between Uncoupled Conductance-Based Integrate-and-Fire Neurons Due to Common and Synchronous Presynaptic Firing. // Neural Computation. 2001. - v. 13. - p.2005-2029.

113. Swanson L.W. What is the brain // Trends in Neuroscience. 2000. -v.23.-p.519-527.

114. Tarn D.C. A spike train analysis for detecting temporal integration in neurons. // Neurocomputing. 1999. - v.26-27. - p. 1055-1060.

115. Tiesinga P.H.E., Jose J.V. Spiking statistics in noisy hippocampal interneurons. // Neurocomputing. 1999. - v.26-27. - p.299-304.

116. Tikidji-Hamburyan R.A. Thalamic Circuitry Model Based on Modified "Integrate-and-Fire" Neurons. // Proc. of 9th International Conference on Neural Information Processing. Singapore, 2002. - p. 5 76581.

117. Turrigiano G.G. Homeostatic plasticity in neuronal networks:the more things change, the more they stay the same // Trends Neuroscience. 1999. -v.22.-p.221-227.

118. White J., Kauer J.S. Odor recognition in an artificial nose by spatiotemporal processing using an olfactory neural network. // Neurocomputing. 1999.-v.26-27.-p.919-924.

119. Zhu J.J., Uhlrich D.J., Lytton W.W. Burst firing in identified rat geniculate interneurons //Neuroscience. 1999. - v.91. - 4. - p.1445-1460.