Кластерное распараллеливание нейровычислений на основе объектного представления нейронных сетей тема диссертации и автореферата по ВАК РФ 05.13.01, кандидат технических наук Сиземов, Дмитрий Николаевич

• Сиземов, Дмитрий Николаевич
• кандидат технических наук
• 2007

Оглавление диссертации кандидат технических наук Сиземов, Дмитрий Николаевич

СОДЕРЖАНИЕ.

ВВЕДЕНИЕ.

Глава 1. Основные архитектуры и алгоритмы нейронных сетей и подходы к их распределённой реализации.

1.1 Устройство искусственного нейрона.

1.2 Виды искусственных нейронных сетей и задачи, решаемые при их помощи.

1.2.1 Персептроны.

1.2.2 Звезды Гроссберга.

1.2.3 Модель Липпмана-Хемминга и принцип \\ГГА.

1.2.4 Карты самоорганизации Кохонена.

1.2.5 Нейронная сеть встречного распространения (ВР).

1.2.6 Сети с обратными связями.

1.2.7 Ассоциативность памяти и задача распознавания образов.

1.2.8 Когнитрон: самоорганизующаяся многослойная нейросеть.

1.2.9 Неокогнитрон и инвариантное распознавание образов.

1.2.10 Принцип Адаптивного Резонанса. АРТ-нейросети.

1.4 Методы обучения нейронных сетей.

1.4.1 Основные сведения.

1.4.2 Концепции Хэбба. Правило обучения Хэбба.

1.4.3 Обучение персептрона.

1.4.4 Алгоритм обратного распространения.

1.4.5 Обучение Кохонена.

1.5 Современные решения в области распределённой реализации.

1.5.1 ШИ-технологии.

1.5.2 Проект нейросервера на основе гетерогенного кластера ЭВМ.

Выводы к главе 1.

Глава 2. Проект «Нейропараллель» подход к организации распределённых нейровычислений и сопутствующие вопросы.

2.1 Система распределённой нейроимитации «Нейропараллель»: концепция, методика, реализация.

2.1.1 Концептуальная основа проекта.

2.1.2 Архитектура системы.

2.1.3 Клиентская часть системы.

2.1.4 Серверная часть системы.

2.1.5 Область применения системы.

2.1.6 Методика описания структур распределённых нейронных сетей.

2.2 Исследование эффективности распараллеливания и самоорганизация распределённой нейросистемы.

2.2.1 Анализ эффективности распараллеливания нейровычислений. в зависимости от деталей его организации.

2.2.2 Формулировка и решение задачи самоорганизации системы.

Выводы к главе 2.

Глава 3. Концепция «динамического полиморфизма» и функциональная гибкость информационных систем.

3.1 Предпосылки.

3.2 Явление полиморфизма в ИТ и его виды.

3.3 Динамическое изменение функциональности объекта в ходе эксплуатации ПО.

3.4 Теоретическое представление принципа динамического полиморфизма .ИЗ

Выводы к главе 3.

Глава 4. Сравнительный анализ концепций, использованных в проекте «Нейропараллель» и стандарте нейрокомпьютера.

4.1 Представление формального нейрона и искусственной нейронной сети

4.2 (Укрупнённая) архитектура нейрокомпьютера.

4.2.1 Нейронная сеть и её элементы.

4.2.2 Задачник.

4.2.3 Исполнитель.

4.2.4 Предобработчик и интерпретатор.

4.2.5 Оценка.

4.2.6 Контрастер.

4.2.7 Учитель.

4.3 Методика описания структуры нейронной сети.

4.4 Пользовательский интерфейс и его уровень абстракции относительно системы.

4.5 Типизация данных и её избыточность.

Выводы к главе 4.

Глава 5. Экспериментальная эксплуатация системы «Нейропараллель» при решении прикладных задач.

5.1 Прогнозирование стоматологического статуса на этапах ортодонтического лечения с использованием слоистых нейронных сетей

5.2 Экспериментальное подтверждение эффективности распараллеливания

5.2.1 Первоначальная гипотеза об эффективности распараллеливания.

5.2.2 Методика оценки эффективности нейроимитатора и постановка эксперимента.

5.2.3 Анализ и интерпретация результатов.

Выводы к главе 5.

Введение диссертации (часть автореферата) на тему «Кластерное распараллеливание нейровычислений на основе объектного представления нейронных сетей»

Актуальность темы

Множество прикладных задач на сегодняшний день могут быть решены с помощью искусственных нейронных сетей (нейроимитаторов). Использование обучаемой нейронной сети, как средства адаптивного поиска решения задачи, в ряде случаев (построение экспертных систем и классификаторов данных) способно конкурировать с прочими методами, давая удовлетворительные результаты при минимуме затрат [13].

К числу достоинств методов данной группы [12] можно отнести техническую универсальность решений, получаемых при их использовании, их гибкость, независимость от чёткости постановки задачи. К недостаткам же зачастую относят недостаток точности, специализированности, принципиальную неочевидность получаемых решений.

Также, одним из недостатков применения искусственных нейронных сетей в решении сегодняшних задач, является несоответствие явно параллельной архитектуры сети последовательной вычислительной архитектуре персональных ЭВМ, используемых в подавляющем большинстве случаев для их реализации. Следствием данного обстоятельства является существенная вычислительная сложность решения нейрозадач с помощью персональных компьютеров, в случаях, когда для получения решения необходимо использование нейронных сетей больших размеров (биометрическая аутентификация, сложные экспертные системы, в т.ч. медицинские, генные исследования и т.д.) [19, 20, 65, 73].

Современная теория нейроинформатики даёт достаточно конкретные рекомендации относительно выбора типа нейронной сети и её структуры, используя в качестве исходных данных, собственно, саму постановку задачи, для решения которой сеть строится [29]. Однако, непосредственно, прикладная часть решения остаётся за пределами теории, что создаёт некоторую неопределённость при алгоритмической реализации вычислительных моделей с использованием ЭВМ. Специально разработанные явно параллельные нейрокомпьютеры и прочие аппаратные решения [15, 72] позволяют устранить упомянутую проблему несоответствия архитектур, однако, на практике они используются крайне редко, по ряду причин, в числе которых не на последнем месте их высокая стоимость.

В данных обстоятельствах наиболее доступным можно считать такое решение проблемы, как распараллеливание задачи при помощи систем, использующих вычислительные ресурсы и пространство памяти одновременно нескольких персональных ЭВМ, объединённых в вычислительную сеть: многоцелевого кластера либо специализированной кластерной системы. Их различие, разумеется, основано на специализации по отношению к задаче. Очевидно, кластерные решения общего назначения, существующие на сегодня (MPI, PVM, и пр.) [71, 76], способны решать задачу распараллеливания вычислений, в т.ч. и в случае вычислений, производимых нейроимитаторами [16]. Однако, такие решения не будут давать высокой вычислительной производительности ввиду не специализированности.

Кроме того, принципы организации параллельного функционирования нескольких сегментов, используемые в многоцелевых решениях, зачастую не способны обеспечить динамическое (т.е. осуществляемое в процессе функционирования) масштабирование вычислительной системы, основанной на нейронной сети, что в действительности желаемо.

Таким образом, представляется актуальным создание распределённой вычислительной системы, некоторого универсального нейроимитатора, в общем случае, произвольно динамически масштабируемой на количество используемых в кластере ЭВМ. Разумеется, подобное решение не может быть реализовано без разработки соответствующей специализированной методики распараллеливания нейровычислений, основанной на выделении основных вычислительных узлов решающей системы и потоков передачи данных, протекающих между ними.

Организация и исследование параллелизма в вычислениях, осуществляемых нейроимитаторами, является малоизученным направлением в области информационных технологий и представляется многообещающим в свете обретающего в последнее время всё большие масштабы внедрения параллельных вычислений в различные прикладные области. Предположительно, наибольшего развития «нейропараллелизм уровня реализации» достигнет в некотором обозримом будущем, определяемом повсеместностью применения параллельных технологий. Таким образом, наибольшее применение, непосредственно, в настоящее время, данная разработка может найти в сфере образования, а также, в силу своей доступности, в здравоохранении и других малобюджетных отраслях.

Цель диссертации

Целью диссертационной работы является разработка методики, алгоритмического и программного обеспечения для распараллеливания нейровычислений, универсального по отношению к типам реализуемых нейронных сетей за счет динамической функциональной изменчивости, с использованием специализированных гетерогенных компьютерных кластеров, а также применение полученного решения в задачах здравоохранения.

Решаемые задачи

- Разработка объектно-ориентированного представления формального нейрона и искусственной нейронной сети.

- Разработка концепции распараллеливания нейровычислений на основе объектно-ориентированного подхода.

- Разработка методики реализации параллельных нейровычислений с произвольной степенью масштабируемости для гетерогенного кластера с использованием внешних СУБД.

- Разработка программного обеспечения для кластерного распараллеливания нейровычислений, универсального по отношению к типам нейронных сетей за счет динамической функциональной изменчивости.

- Исследование эффективности распараллеливания нейровычислений в зависимости от размеров реализуемых нейронных сетей на синтетических задачах и определение уровня вычислительной сложности, задающего эффективность распараллеливания.

- Проверка применимости полученного программного средства к решению реальных прикладных задач на примере задачи прогнозирования признаков стоматологического статуса человека.

Методы, используемые в исследовании

- системного анализа.

- объектно-ориентированного анализа.

- технологии структурного проектирования;

- технологии объектно-ориентированного проектирования,

- теории нейроинформатики.

- теории распределённых вычислений.

- теории реляционных баз данных.

Основные результаты работы

- Предложен объектно-ориентированный подход к модельному представлению и программной реализации искусственных нейронных сетей, обеспечивающий их динамическую функциональную изменчивость.

- Разработаны концепция распараллеливания нейровычислений на основе объектно-ориентированного представления нейронной сети и методика её реализации.

- Выполнено проектирование распределённого нейроимитатора, использующего распараллеливание, основанное на объектно-ориентированном представлении нейронной сети.

- Разработана методика описания распределённых нейронных сетей, основанная на реляционном представлении данных.

- Разработано прикладное программное решение для распределённой реализации искусственных нейронных сетей.

- Разработана методика определения зависимости скоростной (временной) эффективности распараллеливания нейровычислений от размерности моделируемых нейронных сетей.

- Эмпирически определена область эффективного распараллеливания нейровычислений в пространстве размерности нейронных сетей для экспериментального набора нейронных сетей.

- Решена задача выявления прогнозируемости стоматологического статуса пациентов на этапах ортодонтического лечения для малых выборок данных.

Научная новизна

- Предложен подход к представлению искусственных нейронных сетей с использованием объектно-ориентированных методов, позволяющий унифицировать описание нейронных сетей относительно их типов и решаемых ими задач, а также осуществлять распараллеливание в пределах специализированного компьютерного кластера.

- Разработана концепция распараллеливания вычислений, осуществляемых нейронными сетями, с использованием трёхзвенной архитектуры и методика её реализации в гетерогенных компьютерных кластерах.

- Получено описание зависимости эффективности распараллеливания нейровычислений от размерности распараллеливаемой нейронной сети, в окрестности условной точки ресурсной безубыточности распараллеливания.

- Выполнено экспериментально подтверждение гипотезы о прогнозируемости признаков стоматологического статуса по данным ранних наблюдений

На защиту выносятся

1. Концепция распараллеливания нейровычислений на основе объектно-ориентированного представления нейронных сетей.

2. Методика построения распределённого нейрокомпьютера, с использованием гетерогенного вычислительного кластера.

3. Методика описания распределённых нейронных сетей, ориентированная на хранение данных в БД.

4. Трехзвенная архитектура и подход к организации динамической функциональной изменчивости, реализованные в универсальной системе распределенной нейроимитации «Нейропараллель».

5. Определение точки ресурсной безубыточности распараллеливания в пространстве удельной вычислительной эффективности (производительности) и размерности нейронной сети.

Теоретическая значимость

Разработанные концепция представления нейронных сетей и методика распараллеливания позволяют оптимизировать распределение ресурсов при построении нейроимитаторов.

Методика определения эффективности распараллеливания нейровычислений может быть использована для получения предварительных оценок ресурсозатрат создаваемых решений.

Практическая значимость

Предлагаемый подход позволяет сократить время решения задач при использовании нейронных сетей большой размерности, за счёт чего может быть ускорено проведение вычислительных экспериментов и получение практических результатов.

Разработанное программное решение («Нейропараллель») внедрено и используется в учебном процессе (Красноярск, СибГТУ) и исследованиях, связанных с применением нейронных сетей больших размерностей.

Личный вклад автора

Основные результаты, представленные в данной работе, получены непосредственно автором, в частности:

- предложено объектно-ориентированное представление формального нейрона;

- разработана методика описания распределённых нейронных сетей в БД, а также технология реализации данной методики;

- разработана клиентская часть системы «Нейропараллель» и её интерфейс внешней обработки и хранения данных;

- разработаны критерий эффективности распараллеливания нейровычислений и методика эксперимента для её определения; под непосредственным руководством автора выполнена постановка серии экспериментов.

Апробация работы

Основные результаты и отдельные положения работы докладывались на Всероссийских семинарах «Нейроинформатика и её приложения» (Красноярск, 2004 - 2005); Всероссийской конференции «Проблемы информатизации региона» (Красноярск, 2005); Межрегиональной школе-семинаре «Распределённые и кластерные вычисления» (Красноярск, 2006); Всероссийской научно-практической конференции «Нйроинформатика-2006, 2007» (Москва); Всероссийской научно-практической конференции «Лесной и химический комплексы: проблемы и решения» (Красноярск, 2004); Всероссийской конференции с международным участием «Новые информационные технологии в исследовании сложных структур» (Иркутск, 2004); Всесибирском конгрессе женщин-математиков (Красноярск, 2006); Всероссийской научно-технической конференции «Теоретические и прикладные вопросы современных информационных технологий» (Улан-Удэ, 2003).

Работа «Построение распределённого нейроимитатора с использованием явно параллельной архитектуры», выполненная при непосредственном участии автора в рамках настоящей диссертационной работы, отмечена дипломом Открытого конкурса на лучшую научную работу по естественным, техническим и гуманитарным наукам в Вузах Российской Федерации, проводимого Рязанской государственной радиотехнической академией в 2004 году.

Публикации

По основным результатам диссертационной работы издано 11 публикаций, в том числе 2 статьи в изданиях, включенных в список ВАК.

Структура и объём работы

Диссертация состоит из введения, трёх разделов, заключения и списка использованных источников литературы. Основное содержание работы изложено на 153 страницах текста, содержит 35 рисунков, 4 таблицы. Список использованных источников литературы содержит 78 наименований.

Заключение диссертации по теме «Системный анализ, управление и обработка информации (по отраслям)», Сиземов, Дмитрий Николаевич

Выводы к главе 5

Экспериментальные испытания нейроимитатора «Нейропараллель» при решении реальных прикладных задач могут считаться успешными ввиду устойчивости решающего процесса и получения конечных решений реальной практической задачи. К сожалению, ввиду относительно простоты рассматриваемой задачи, процесс её решения не требует распараллеливания (по крайней мере, в части метода, используемого в системе «Нейропараллель»), и последнее, скорее, было бы ресурсно-убыточным. Однако вопрос эффективности распараллеливания нейровычислений выходит за рамки освещаемой темы.

В плане эффективности практически на всей протяжённости области проведённых экспериментальных исследований тем или иным способом распараллеленная система преобладает в над локальным вариантом, имитирующим непараллельный нейроимитатор. Таким образом, эффективность методики распараллеливания можно считать доказанной.

Также следует отметить не задействованные возможности рассматриваемой системы (и методики, реализуемой ей), потенциально скрывающие прирост эффективности. Прежде всего, все оценки эффективности в данной работе производились на примерах обучения нейронных сетей; этот процесс характерен двухэтапной загрузкой всех элементов нейронной сети (прямое срабатывание и обучение). Последнее, означает невозможность параллельного прохода через нейронную сеть нескольких векторов обучающей выборки. В случае с непосредственной обработкой выборки уже обученной нейронной сетью такая параллельность становится возможной, поскольку при этом, по прохождении вектора выборки через входной слой, тот уже не будет ничем задействован вплоть до подачи следующего вектора, а значит, может использоваться нейронной сетью для его незамедлительной обработки. Таким образом, открывается возможность организации в нейронной сети динамики, аналогично используемой в систолических матрицах [27], что предположительно, должно обеспечить прирост производительности.

Наконец, рассматриваемая версия системы далеко не является конечной и оставляет массу перспектив для алгоритмической оптимизации. Совершенствование методик обмена данными на различных уровнях также обеспечит скоростные преимущества над локальными нейроимитаторами.

ЗАКЛЮЧЕНИЕ

В настоящей работе реализован полный цикл действий, обуславливающих создание и реализацию подхода к распараллеливанию нейровычислений, универсального по отношению к типам нейронных сетей:

1. Выполнен обзор известных архитектур нейронных сетей и методов их обучения, в результате обобщения которых выявлены основные атрибуты универсального элемента нейронный сети.

2. Осуществлены теоретические и практические разработки, по реализации предложенного распараллеливающего подхода, а также исследование свойств параллелизма в его контексте.

3. Предложено и применено расширение концепции объектно-ориентированного проектирования, обеспечивающее динамическую функциональную изменчивость информационных систем - концепция динамического полиморфизма.

4. Выполнен сравнительный анализ используемого подхода к разработке нейрокомпьютера с подходом, предлагаемым стандартом нейрокомпьютера [30]; объяснена неприменимость стандарта для реализации распределённых нейросистем, удовлетворяющих заявленным в работе требованиям.

5. Осуществлено исследование производительности разработанной системы и её применение в решении задачи области здравоохранения.

В ходе диссертационной работы автором получены следующие научные результаты:

1. Предложено объектно-ориентированное представление формального нейрона и нейронной сети.

2. Предложена концепция распределённого функционирования нейронной сети.

3. Разработана методика распараллеливания вычислений, осуществляемых нейронными сетями.

4. Выполнена разработка универсальной системы организации распределённых нейровычислений «Нейропараллель», ориентированной на использование в типовых компьютерных классах.

5. Предложен способ оценки эффективности распараллеливания нейровычислений, а также выполнено экспериментальное определение точки её ресурсной безубыточности в пространстве размерности нейронных сетей.

Практическими результатами являются:

1. Определение области эффективного распараллеливания нейровычислений в пространстве размерности нейронных сетей для экспериментального набора нейронных сетей.

2. Решение задачи выявления прогнозируемости стоматологического статуса пациентов на этапах ортодонтического лечения для малых выборок данных.

Разработанное в ходе настоящей диссертационной работы решение (система распределённой нейроимитации «Нейропараллель») внедрено и используется в учебном процессе (Красноярск, СибГТУ) и исследованиях, связанных с применением нейронных сетей больших размерностей. Внедрение подтверждено актом (прилагается).

Дальнейшее развитие и использование предложенного подхода к распараллеливанию нейровычислений и системы «Нейропараллель» представляется перспективным, поскольку позволит, не прибегая к дорогостоящим средствам, существенно ускорить решение задач, требующих применения нейронных сетей больших размеров. К их числу, помимо ранее перечисленных задач, также могут относиться задачи всех классов при достаточной сложности аппроксимирования определяемых ими целевых функций.

Список литературы диссертационного исследования кандидат технических наук Сиземов, Дмитрий Николаевич, 2007 год

1. Антонов, A.C. Введение в параллельные вычисления (методическое пособие) / A.C. Антонов М.: Изд-во Физического факультета МГУ, 2002 -70 с.

2. Бадд, Т. Объектно-ориентированное программирование в действии / Т. Бадд СПб.: Питер, 1997. - 464 с.

3. Банников, H.A. Объектно-ориентированные базы данных. (http://ooad.asf.ru/oobd/BD/Index.asp).

4. Барский, А.Б. Нейронные сети: распознавание, управление, принятие решений / А.Б. Барский М.: Финансы и статистика, 2004. - 176 с.

5. Богачев, К.Ю. Основы параллельного программирования / К.Ю. Богачев М.: «БИНОМ. Лаборатория знаний», 2003. - 342 с.

6. Брилюк, Д.В. Распознавание человека по изображению лица нейросетевыми методами / Д.В. Брилюк, В.В. Старовойтов. Минск, 2002. -54 с.

7. Буч, Г. Объектно-ориентированный анализ и проектирование с примерами приложений на С++, 2-е изд. / Г. Буч., пер. с англ. М.: Издательство Бином, 1998. - 560 с.

8. Букатов, A.A. Программирование многопроцессорных вычислительных систем / A.A. Букатов, В.Н. Дацюк, А.И. Жегуло Ростов-на-Дону: Издательство ООО "ЦВВР", 2003 -208с.

9. Воеводин, Вл.В. Курс лекций «Параллельная обработка данных» / Вл.В. Воеводин (http://parallei.ru/parallel/vvv)

10. Воеводин, B.B. Параллельные вычисления / B.B. Воеводин, Вл.В. Воеводин СПб.: БХВ-Петербург, 2002 - 608 с.

11. Горбань, А.Н. Нейроинформатика / А.Н. Горбань, B.JI. Дунин-Барковский, А.Н. Кирдин и др. Новосибирск: Наука. Сибирское предприятие РАН, 1998. - 296 с.

12. Горбань, А.Н Нейронные сети на персональном компьютере / А. Н. Горбань, Д. А. Россиев. Новосибирск: Наука. Сибирская издательская фирма РАН, 1996.- 276 с.

13. Горбань, А.Н Обучение нейронных сетей / А.Н. Горбань М.: изд. СССР-США СП «Параграф», 1990 - 160 с.

14. Дитрих, Д. LON технология : построение распределенных приложений / Д. Дитрих, Д. Лой , Г. Ю. Швайнцер. Пер. с нем. - под ред. О.Б. Низамутдинова - Пермь: Звезда, 1999. - 424 с. ISBN 5-88187-052-2.

15. Жуков, JI.A. Формализация технологии применения нейронных сетей с учителем и особенности их использования для решения прикладных задач: Монография / JI.A. Жуков, Н.В. Решетникова Красноярск: ИПЦ КГТУ, 2005.- 168 с.

16. Жуков JI.A. Технология классификации с помощью нейронных сетей без учителя / JI.A. Жуков // Теоретические и прикладные вопросы современных информационных технологий. Материалы всероссийской конференции Улан-Уде: ВСГТУ, 2001. С. 40-47.

17. Иванов, А.И. Биометрическая идентификация личности по динамике подсознательных движений / А.И. Иванов. Пенза: Издательство Пензенского государственного университета, 2000. - 188 с.

18. Иванов, А.И. Симметризация искусственных нейронных сетей как путь ускорения их обучения / А.И. Иванов // Нейрокомпьютеры, разработка, применение 2001, № 3, С. 15-23.

19. Калинин, A.B. Технология нейросетевых распределённых вычислений: Монография / A.B. Калинин, C.JI. Подвальный Воронеж: Воронежский государственный технический университет, 2004. - 122 с.

20. Комарцова, Л.Г. Нейрокомпьютеры: Учеб. пособие для вузов. 2-е изд., перераб. и доп. / Л.Г. Комарцова, A.B. Максимов - М.: Изд-во МГТУ им Н.Э. Бамуана, 2004. - 400 с.

21. Коуд, П. Объектно-ориентированные модели. Стратегии, шаблоны и приложения / П. Коуд, Д. Норт, М. Мейфилд, пер.: П. Быстрое. М.: Лори, 1999.-434с.

22. Коннолли, Т. Базы данных. Проектирование, реализация и сопровождение. Теория и практика. Издание третье / Т. Коннолли, К. Бегг. -Вильяме, 2003. ISBN 5-8459-0527-3, 0-201-70857-4 1436 с.

23. Корнеев, В.Д. Параллельное программирование в MPI / В.Д. Корнеев -Новосибирск: Изд-во СО РАН, 2000 213 с.

24. Матричные процессоры на СБИС / С. Кун, Пер. с англ. М.: Мир, 1991. - 672с.

25. Миркес, Е.М. Нейроинформатика: Учебное пособие для студентов / Е.М. Миркес. Красноярск: ИПЦ КГТУ, 2002. 347 с.

26. Миркес, Е.М. Нейрокомпьютер. Проект стандарта / Е.М. Миркес. -Новосибирск: Наука, Сибирская издательская фирма РАН, 1998. 188 с.

27. Написание и использование DLL в различных средах (http://vvww.progz.ru/articles.php?issue=9).

28. Немнюгин, С. Параллельное программирование для многопроцессорных вычислительных систем / С. Немнюгин, О. Стесик СПб.: «БХВ-Петербург», 2002. - 400 с.

29. Пятковский, О.И. Построение интеллектуальных аналитических блоков с использованием продукционных и нейросетевых методов / О.И. Пятковский, Д.В. Рубцов, C.B. Бутаков // Алтайский государственный технический университет, Барнаул, 1998. УДК 519.8.

30. Рутковская, Д. Нейронные сети, генетические алгоритмы и нечёткие системы / Д. Рутковская. Пер. с польск. И.Д. Рудинского. М.: Горячая линия-Телеком, 2006. 452 с.

31. Сахаров, П. Rational Rose, BPWin и другие аспект анализа бизнес-процессов / П. Сахаров // Директор ИС. Вып. 11. М., 2000.

32. Сиземов, Д.Н. Концепция распределённого нейроимитатора на основе кластерных систем / Д.Н. Сиземов // Распределенные и кластерные вычисления. Избранные материалы V школы-семинара. Красноярск: ИВМ СО РАН, 2007.-С. 149-157.

33. Сиземов, Д.Н. Методика описания структур распределённых нейронных сетей / Д.Н. Сиземов // Научная сессия МИФИ-2007. Сборник научных трудов IX Всероссийской научно-технической конференции «Нейроинформатика-2007». Ч.З. М.:МИФИ, 2007.-257 е., С. 152-161.

34. Сиземов, Д.Н. Распределенная объектная модель нейронной сети / Д.Н Сиземов, С.П. Якимов, H.A. Степаненко // Студент и научно-технический прогресс. Материалы XLI Международной научной студенческой конференции. Новосибирск: НГУ, 2003. - С. 12-13.

35. Страуструп, Б. Язык программирования С++. Специальное издание / Б. Страуструп, пер. с англ. М.: ООО Бином-Пресс, 2004. - 1104с.

36. Струченков, В.И. Методы оптимизации: Основы теории, задачи, обучающие компьютерные программы / В.И. Струченков М.: Экзамен, 2005.-255 с.

37. Теория нейронных сетей. Кн. 1: Учебное пособие для вузов / Общая ред. А. И. Галушкина. -М.: ИПРЖР, 2000.-416 с.

38. Уосермен, Ф. Нейрокомпьютерная техника: теория и практика / Ф. Уосермен, пер.: Ю.А. Зуев, В. А. Точенов. М.: Мир, 1985. - 294 с.

39. Хомич, А. В. Нейросервер Neurogenesis / А. В. Хомич // Нейроинформатика и ее приложения: материалы XIII Всероссийского семинара. Красноярск: ИВМ СО РАН, 2005. - с. 116-117.

40. Царегородцев, В.Г. Извлечение знаний из таблиц данных при помощи обучаемых и упрощаемых нейронных сетей: Дис. канд. техн. наук / В.Г. Царегородцев. Красноярск, 2000. 196 с.

41. Царегородцев, В.Г. Перспективы распараллеливания программ нейросетевого анализа и обработки данных // Материалы III Всерос. конф. «Математика, информатика, управление 2004». - Иркутск, 2004. - 6 с.

42. Червяков, Н.И. Модулярные параллельные вычислительные структуры нейро процессорных систем / Н.И. Червяков, П. А. Сахнюк, A.B. Шапошников, С. А. Ряднов; под. ред. Н.И. Червякова. М.: ФИЗМАТ ЛИТ, 2003.-288 с.

43. Шпаковский, Г.И. Программирование для многопроцессорных систем в стандарте MPI: Пособие / Г.И. Шпаковский, Н.В. Серикова Мн.: БГУ, 2002. -323 с. ISBN 985-445-727-3.

44. Bezroukov N. A Slightly Skeptical View on Scripting Languages / N. Bezroukov (http://www.softpanorama.org/Articles/aslightlyskeptical viewonscriptinglanguages.shtml).

45. B.J. van der Zwaag, L. Spaanenburg, and C. Slump (2002), "Analysis of neural networks in terms of domain functions," in Proceedings IEEE Benelux Signal Processing Symposium SPS-2002 (Leuven, Belgium, 21-22 March), pp. 237-240.

46. Bryliuk, D. Access control by face recognition using neural networks and negative samples / D. Bryliuk, V. Starovoitov // The 2nd International Conference on Artificial Intelligence, September 16-20, Crimea, Ukraine, 2002. pp. 428-436.

47. Dynamic-Link Libraries Microsoft Corporation, 2007. (http ://msdn2 .microsoft.com/en-us/library/ms682589.aspx).

48. FukushimaK. 1980. Neocognitron: A self-organizing neural network model for a mechanism of pattern recognition uneffected by shift in position. Biological Cybernetics 36(4): 193-202.

49. Golovko V., Gladyschuk V. Recirculation Neural Network Training for Image Processing // Advanced Computer Systems. 1999. - P. 73-78.

50. Gropp, W. Using MPI, 2nd Edition. Portable Parallel Programming with the Message Passing Interface / W. Gropp, E. Lusk and A. Skjellum. November 1999.-350 pp. ISBN-10: 0-262-57132-3, ISBN-13: 978-0-262-57132-6.

51. Gropp, W. Using MPI-2. Advanced Features of the Message Passing Interface W. Gropp, E. Lusk and R. Thakur. November 1999. - 382 pp. ISBN-10: 0-26257133-1, ISBN-13: 978-0-262-57133-3.

52. Kleiner, M. Patterns konkret: Patterns in modellgetriebenen Projekten durchgängig anwenden. Mit Delphi-, CLX- und C#-Beispielen / M. Kleiner, S. Rothen, B. Angerer November 2003. - 440 Seiten, CD, Softcover. ISBN: 978-3935042-46-8.

53. MPI: A Message-Passing Interface Standard / (c) 1993, 1994, 1995 University of Tennessee, Knoxville, Tennessee http://parallel.ru/docs/Parallel/mpi 1.1/mpi-report.html

54. NEURON С. Руководство для программиста: Пер. с англ. под ред. О.Б. Низамутдинова - Пермь, Пермский государственный технический университет, кафедра АСУб 2000. - 340 с.

55. Official Parallel Virtual Machine site (http://www.epm.ornl.gov/pvm/).

56. Orr, G. Neural Networks: tricks of the trade / G. Orr, К. Muller // Springer, 1998.

57. PVM: Parallel Virtual Machine. A Users' Guide and Tutorial for Networked Parallel Computing. The MIT Press Book Order Department, 55 Hay ward Street, Cambridge, MA 02142. Original in Paperback ISBN 0-262-57108-0.

58. Scripting: Higher Level Programming for the 21st Century / J.K. Ousterhout (http://home.pacbell.net/ouster/scripting.html).

59. Snir, M. MPI: The Complete Reference 2nd Edition, Volume 1 - The MPI Core / M. Snir, S. Otto, S. Huss-Lederman, D. Walker and J. Dongarra -September 1998. ISBN-10: 0-262-69215-5, ISBN-13: 978-0-262-69215-1.