Использование методов принятия решения при проектировании нейросетевых структур обработки данных тема диссертации и автореферата по ВАК РФ 05.13.12, кандидат технических наук Солодовников, Владимир Игоревич

• Солодовников, Владимир Игоревич
• кандидат технических наук
• 2004

Оглавление диссертации кандидат технических наук Солодовников, Владимир Игоревич

ВВЕДЕНИЕ.

ГЛАВА 1. Методы определения закономерностей в системах обработки данных.

1.1. Типы возможных закономерностей и способы обработки данных

1.2. Методы «интеллектуального» анализа данных (Data Mining)

1.3. Нейросетевой подход «интеллектуального» анализа данных.

1.3.1. Математическая модель нейрона.

1.3.2. Искусственная нейронная сеть, принципы функционирования

1.3.3. Анализ существующих систем, использующих нейросетевые технологии.

1.3.4. Выбор нейропарадигм для решения задач Data Mining.

1.4. Принципы теории принятия решений

1.4.1. Использование деревьев решений и семантических сетей

1.5. Выводы.

ГЛАВА 2. Автоматизированное проектирование нейросетевых структур обработки данных с использованием деревьев решений

2.1. Использование деревьев решений в качестве инструментария теории принятия решений

2.1.1. Модифицированная модель деревьев решений.

2.1.2. Операции над деревьями решений.

2.2. Предобработка и кодирование данных.

2.2.1. Проверка данных на непротиворечивость.

2.2.2. Кодирование входов-выходов.

2.2.3. Нормировка данных.

2.3. Нейросетевые структуры обработки данных.

2.3.1. Многослойный персептрон.

2.3.2. RBF- сеть.

2.3.3. Структура сети динамических ядер.

2.3.4. Алгоритм определения количества классов в данных.

2.3.5. Самоорганизующиеся карты Кохонена.

2.3.6. Визуализация данных. 2.4. Прямой и обратный вывод. Семантические сети.

2.5. Выводы.

ГЛАВА 3. Модели и алгоритмы представления деревьев решений и нейронных сетей в подсистеме принятия решений и проектирования.

3.1. Структура подсистемы.

3.2. Информационная и объектно-ориентированная модели нейронных сетей

-33.2.1. Разработка системы классов для описания НС. Создание объектно-ориентированной модели.

3.2.2. Алгоритм формирования НС в рамках объектно-ориентированной модели.

3.2.3. Разработка структуры фрагмента БД для хранения НС и результатов их работы.

3.3. Осуществление вывода и формирование правил на основании модифицированных деревьев решения.

3.3.1. Структура фрагмента БД для деревьев решения.

3.3.2. Алгоритм прямого вывода.

3.3.3. Алгоритм обратного вывода. Формирование правил.

3.4. Представление деревьев решения в виде фактов семантической сети.

3.4.1. Алгоритм преобразования деревьев решений в семантическую сеть.

3.4.2. Структура фрагмента БД для семантических сетей.

3.5. Выводы.

ГЛАВА 4. Разработка программного и информационного обеспечения.

4.1. Выбор программных средств и СУБД.

4.2. Конструирование НС с помощью разработанной системы классов

4.3. Программная реализация приложения.

4.3.1. Ввод и построение деревьев решения.

4.3.2. Представление результатов прямой и обратной цепочек рассуждений.

4.3.3. Формирование выборки и предобработка данных.

4.3.4. Построение нейросетей.

4.4. Выводы.

Введение диссертации (часть автореферата) на тему «Использование методов принятия решения при проектировании нейросетевых структур обработки данных»

Стремительное развитие хранилищ данных и рост объемов хранимой информации в самых различных областях человеческой деятельности предъявляет новые требования к системам обработки информации, в частности, все большую актуальность приобретают системы, способные не просто складировать данные, но и позволяющие осуществлять их анализ и обработку, находить закономерности, производить прогнозирование и выдавать результат в виде, доступном человеку. Это обусловлено тем фактом, что «сырые» данные хранят в себе большие потенциальные возможности по извлечению полезной аналитической информации, на основе которой можно выявлять скрытые тенденции, строить стратегию развития, находить новые решения.

Методы обработки данных могут быть разделены на три категории. К первой относятся методы использующие средства формирования простых запросов и отчетов, позволяющие осуществлять выборку фактов произошедших в прошлом и удовлетворяющих некоторым, заранее определенным условиям. Вторая включает в себя средства OLAP (On-Line Analyzing Processing - системы оперативной аналитической обработки), которые позволяют производить комплексный анализ имеющейся в хранилище информации, осуществлять ее обобщение, получение итогов и сравнений путем экстраполяции, агрегации, построения сводных отчетов и гиперкубического представления. Более глубокий анализ данных осуществляется методами Data Mining или, как их еще называют, методами «интеллектуального» анализа данных. Эта технология направлена на обнаружение в «сырых» данных, предварительно неизвестных, практически полезных и доступных интерпретации знаний. Ее важным положением является нетривиальность разыскиваемых шаблонов, которые представляют собой правила и закономерности, свойственные выборкам данных. Таким образом, найденные шаблоны могут отражать неочевидные, неожиданные регулярности в данных, составляющие так называемые скрытые знания.

Data Mining является мультидисциплинарной областью, возникшей и развивающейся на базе достижений прикладной статистики, распознавания образов, методов искусственного интеллекта, теории баз данных и др. Особенностью алгоритмов и методов, применимых при «интеллектуальном» анализе данных, является отсутствие ограничительных рамок априорных предположений о структуре выборки и виде распределений значений анализируемых показателей, чему наилучшим образом соответствует использование подхода, основанного на нейросетевых технологиях обработки данных или нейросетевой Data Mining. Это обусловлено способностью нейронных сетей к моделированию нелинейных процессов, работе с зашумленными данными, адаптивностью (обучение и самообучение), возможностью работы с малым объемом или полным отсутствием априорной информации.

В настоящее время существует достаточно большое количество систем, включающих в себя элементы нейросетевых технологий. Однако, их недостатком может служить то обстоятельство, что в большинстве своем они напрямую не предназначены для анализа информации, накопленной в базе данных, и требуют от пользователя специальной подготовки и понимания в какой ситуации и для каких целей может использоваться та или иная сеть, как произвести предобработку и кодирование данных. Кроме того, многие системы содержат всего один вид нейросети (например: многослойный персептрон с возможностью изменять количество внутренних слоев и нейронов в слоях). В информационных системах наибольшее распространение нейронные сети нашли в информационных хранилищах для решения задач прогнозирования. Однако, в таких системах они являются элементом программного обеспечения, к которому пользователь фактически не имеет доступа, и решают ограниченный, заранее определенный класс задач.

-6В связи с вышеизложенным, актуальной становится задача разработки подсистемы нейросетевой обработки информации, которая предоставляет механизмы, позволяющие осуществлять проектирование и нахождение необходимых параметров сети для решения различных задач Data Mining на имеющихся данных.

Целью диссертационной работы является разработка методов, математических моделей и алгоритмов подсистемы принятия решений для автоматизированного проектирования нейросетевых структур обработки баз данных в зависимости от требований предъявляемых пользователем и имеющихся у него исходных данных.

Указанная цель потребовала решения следующих задач:

- Формирование критериев применимости нейронных сетей для решения различных задач Data Mining, а также анализ зависимостей архитектуры сетей, количества слоев и нейронов в каждом слое, от исходных данных;

- Разработка и совершенствование средств и методов поддержки принятия решений при выборе и автоматизированном проектировании нейросетевых структур обработки данных в зависимости от поставленной задачи и имеющихся исходных данных;

- Разработка информационной и объектно-ориентированной моделей нейронных сетей, структуры фрагмента базы данных (БД) для хранения деревьев решения, семантических сетей, а так же шаблонов и уже построенных нейросетей.

Методы исследования. Исследование и решение поставленных в диссертации задач проводилось на основе комплексного использования теории вероятности, теории графов, теории принятия решений, искусственного интеллекта, теории систем. В разработке программного обеспечения использовалась технология объектно-ориентированного программирования.

Так, в первой главе обсуждаются вопросы современного состояния и тенденции развития методов и систем обработки информации, хранящейся в базах данных и информационных хранилищах. Анализируются различные типы возможных закономерностей в данных и методы применимые в Data Mining. Обосновывается выбор нейросетевых методов «интеллектуального» анализа данных, осуществляется выбор нейропарадигм. Рассматриваются принципы теории принятия решений, а также возможности ее использования при проектировании, обучении и анализе нейросетевых структур в зависимости от требований, предъявляемых пользователем и имеющихся исходных данных.

Вторая глава посвящена вопросам использования деревьев решения в качестве инструментария теории принятия решений при проектировании нейросетевых структур «интеллектуального» анализа данных. Рассматриваются различные варианты деревьев решения, определяются модифицированные деревья и операции над ними. Проводится анализ используемых нейросетевых парадигм, направленный на формулировку правил построения в некотором смысле оптимальных сетей, и формируются критерии их применимости для решения конкретных задач. Так же анализируются зависимости архитектуры сети (количество слоев и нейронов в каждом слое) от входных данных, тем самым, осуществляется построение модифицированных деревьев решений. Рассматриваются вопросы предобработки, кодирования и визуализации исходных данных, а также проверки их на непротиворечивость. Определяются способы ускорения процесса принятия решений и обеспечения дополнительных возможностей в конструировании механизмов вывода с помощью семантических сетей.

В третьей главе приведены результаты исследований и разработки методов принятия решений, а также структуры фрагмента БД для автоматизированного проектирования нейросетевых структур обработки данных. Определена структура подсистемы проектирования и принципы взаимодействия между ее основными блоками. Разработаны информационная и объектно-ориентированная модели нейронных сетей, а также структура фрагмента БД для хранения используемых шаблонов и уже построенных сетей. Рассмотрены принципы формирования правил, осуществления прямого и обратного выводов на основании модифицированных деревьев решения и представления деревьев решений в виде фактов семантической сети

Четвертая глава посвящена вопросам реализации приложения, позволяющего осуществлять автоматизированное проектирование нейронных сетей с помощью модифицированных деревьев решения, с учетом имеющихся исходных данных и требований, предъявляемых пользователем. Разработаны алгоритмы функционирования приложения и выполнена их программная реализация. Обоснован выбор использованного программного обеспечения и системы управления базами данных. Рассмотрен принцип поэтапного построения нейронных сетей с точки зрения объектно-ориентированного подхода. Представлены интерфейсы пользователя для ввода и формирования деревьев решения, предобработки данных и проектирования нейросетей. Рассмотрены варианты представления отчетов о результатах вывода по дереву решения и полученных правилах. Научная новизна и результаты, выносимые на защиту:

Разработаны модифицированные деревья решений и операции над ними для применения в качестве инструментария в подсистемах поддержки принятия решений.

- Разработаны алгоритмы формирования правил, прямого и обратного вывода для модифицированных деревьев решения, а также алгоритм представления деревьев решения в виде фактов семантической сети.

Разработана методика для повышения эффективности выбора и автоматизированного проектирования нейросетевых структур обработки данных с помощью модифицированных деревьев решения.

- Разработаны информационная модель нейронной сети для ее хранения в базе данных и объектно-ориентированная модель, представляющая собой иерархию классов, для программной реализации, что позволяет осуществлять ее гибкое и эффективное конструирование.

Практическая ценность полученных результатов.

Сформированы критерии применимости нейронных сетей для решения различных задач «интеллектуального» анализа данных. Проведен анализ зависимостей архитектуры сетей, количества слоев и нейронов в каждом слое, от исходных данных.

Разработаны алгоритмы и методы использования модифицированных деревьев решений и семантических сетей в качестве инструментария под держки принятия решений в системах Data Mining.

На основании разработанных информационной и объектно-ориентированной моделей нейросетей, определена структура базы данных приложения для хранения, как шаблонов, так и уже построенных нейросетей, деревьев решений и семантических сетей, а также результатов их использования.

Реализовано приложение, осуществляющее автоматизированное проектирование нейросетевых структур обработки данных в зависимости от информации, хранящейся в базе данных, и требований, предъявляемых пользователем.

Разработанные методы и алгоритмы могут стать основой для создания интеллектуальных средств поддержки принятия решений.

Реализация и внедрение результатов исследований. Результаты диссертационной работы используются в Центре информационных технологий в проектировании РАН по проекту «Развитие методов математического моделирования для оценки и прогнозирования действия факторов риска на деятельность человека» в рамках Программы фундаментальных научных исследований ОИТВС РАН «Фундаментальные основы информационных технологий и систем» и были отражены в сводном отчете РАН за 2003 год в томе 2 «Основные результаты в области естественных, технических, гуманитарных и общественных наук» (приложение 1).

Для использования в учебном процессе кафедры ИТАС МИЭМ разработано приложение, осуществляющее проектирование нейросетевых структур в зависимости от требований предъявляемых пользователем и имеющихся исходных данных. Результаты работы использованы при изучении дисциплин «Базы данных», «Методы принятия решений», «Интеллектуальные подсистемы САПР». Подготовлены (в соавторстве) и изданы методические указания к практическим занятиям по курсу «Банки данных» (приложение 2).

Апробация работы. Основные положения диссертационной работы докладывались и обсуждались на научно-практических семинарах «Новые информационные технологии» (Москва, 2000-2004 гг.), научно-технических конференциях студентов, аспирантов и молодых специалистов МИЭМ (Москва, 2001-2003 гг.), всероссийской научно-технической конференции «Аэрокосмические технологии» (Реутов, НПО машиностроения, 2002 г.), научно-технической конференции «Информационные технологии в проектировании, производстве и образовании» (Ковров, 2002 г.).

Объем и структура диссертации. Диссертационная работа состоит из введения, четырех глав, заключения, списка литературы из 83 наименований и приложений. Основное содержание диссертации изложено на 134 страницах и содержит 43 рисунка и 19 таблиц.

Заключение диссертации по теме «Системы автоматизации проектирования (по отраслям)», Солодовников, Владимир Игоревич

4.4. Выводы

Разработанное приложение, позволяет осуществлять автоматизированное проектирование нейронных сетей с помощью модифицированных деревьев решения, с учетом имеющихся исходных данных и задач, ставящихся пользователем. Это потребовало разработки и программной реализации алгоритмов формирования деревьев решения, а так же принципов поэтапного построения нейронных сетей с точки зрения иерархии классов и объектно-ориентированного подхода. Представлены интерфейсы пользователя для ввода и формирования деревьев решения, предобработки данных и проектирования нейросетей. Рассмотрены варианты представления отчетов о результатах вывода по дереву решения и полученных правилах. Обоснован выбор использования программных средств, таких как: язык программирования Visual Basic и MS Access 2000, что обусловлено их широким распространением, простотой использования, доступностью. Они представляют собой основной подход компании Microsoft в стратегии доступа к данным, как для больших, так и для малых организаций. Таким образом, использование указанных программных средств позволило осуществить отладку алгоритмов и внедрение в учебный процесс. Результаты диссертационной работы также используются в Центре информационных технологий в проектировании РАН в рамках Программы фундаментальных научных исследований ОИТВС РАН «Фундаментальные основы информационных технологий и систем».

ЗАКЛЮЧЕНИЕ

В диссертационной работе получены следующие основные результаты:

1. Проведен анализ существующих систем и методов «интеллектуальной» обработки данных и обосновано использование нейросетевого подхода в качестве инструментария для решения задач Data Mining. Сформированы критерии применимости нейронных сетей. Проведен анализ зависимостей архитектуры сети, количества слоев и нейронов в каждом слое от исходных данных. Определено, что основной сложностью применения нейросетевого подхода является проблема выбора оптимальной топологии и объема сети, которая бы наилучшим образом удовлетворяла решаемой задаче на имеющихся данных. Это обусловило использование методов принятия решений для автоматизированного проектирования нейросетевых структур обработки и анализа данных.

2. Разработаны модифицированные деревья решений и операции над ними для применения в качестве инструментария в подсистеме поддержки принятия решений при выборе и автоматизированном проектировании нейросетей. Такая структура деревьев решения ориентирована на модели нейронных сетей с частью характеристик, известных заранее, некоторые значения параметров могут формироваться автоматически, осуществляя запросы к базе данных, другие вводятся в процессе взаимодействия с пользователем, причем это взаимодействие зависит от вида сети. Для проверки используемого подхода было рассмотрено использование таких характерных нейросетевых парадигм как: многослойный персептрон, RBF-сеть, сеть динамических ядер и самоорганизующаяся карта Кохонена.

3. Разработаны алгоритмы формирования правил, прямого и обратного вывода для модифицированных деревьев решения, а также алгоритм представления деревьев решения в виде фактов семантической сети.

4. Разработаны информационная модель нейронной сети для хранения в базе данных и объектно-ориентированная модель, представляющая собой иерархию классов, для программной реализации, что позволяет осуществлять ее гибкое и эффективное конструирование. На основании разработанных моделей рассмотрены принципы формирования нейросетей, определена структура базы данных приложения для хранения, как шаблонов, так и уже построенных нейросетей, деревьев решений и семантических сетей, а также результатов их использования.

5. Разработано и реализовано приложение, осуществляющее автоматизированное проектирование нейросетевых структур обработки данных в зависимости от информации, хранящейся в базе данных, и требований предъявляемых пользователем.

6. Результаты диссертационной работы используются в Центре информационных технологий в проектировании РАН по проекту «Развитие методов математического моделирования для оценки и прогнозирования действия факторов риска на деятельность человека» в рамках Программы фундаментальных научных исследований ОИТВС РАН «Фундаментальные основы информационных технологий и систем» и были отражены в сводном отчете РАН за 2003 год в томе 2 «Основные результаты в области естественных, технических, гуманитарных и общественных наук», а также в учебном процессе кафедры ИТАС МИЭМ при изучении дисциплин «Базы данных», «Методы принятия решений», «Интеллектуальные подсистемы САПР».

Список литературы диссертационного исследования кандидат технических наук Солодовников, Владимир Игоревич, 2004 год

1. Айвазян С.А., Енюков И.С., Мешалкин Л.Д. Прикладная статистика. Статистическое оценивание зависимостей. — М.: Финансы и статистика, 1985.

2. Арнольд В.И. О представлении функций нескольких переменных в виде суперпозиции функций меньшего числа переменных // Математическое просвещение. № 19. - С. 41-61.

3. Баркер Скот Ф. Профессиональное программирование в Microsoft Access 2002.f М.: Издательский дом «Вильяме», 2002.

4. Боровиков В.П. , Популярное введение в программу STATISTICA, КомпьютерПресс, 1998.

5. Бэстенс Д.-Э., Ван Ден БергВ.М., Вуд Д., Нейронные сети и финансовые рынки. Принятие решений в торговых операциях. 1995.

6. Васильев В.И. Распознающие системы. Справочник. Киев: Наукова думка, 1983.

7. Галушкин А.И. Теория нейронных сетей. М.: Радиотехника, 2000.

8. Галушкин А.И. Нейрокомпьютеры. М.: ИПРЖР, 2000.

9. Гарнаев А.Ю. и др. Microsoft Office 2000: разработка приложений. СПб.: БХВ - Санкт-Петербург, 2000.

10. О.Головко В* А. Нейронные сети: обучение, организация и применение. -М.: Радиотехника, 2001.

11. П.Горбань А.Н., Дунин-Барковский B.JI., Кирдин А.Н. и др. Нейроинформатика. — Новосибирск: Наука. Сибирское предприятие РАН, 1998.

12. Горбунов В.Н. Особенности нейросетевого решения задачи распознавания; образов в условиях малой обучающей выборки. // Научно-техническая конференция студентов, аспирантов и молодых специалистов МИЭМ. Тезисы докладов. М. ~:МИЭМ, 2003. - сс. 120-122.

13. Городецкий В.И, Самойлов В.В., Малов А.О. Современное состояние технологии извлечения знаний из баз и хранилищ данных. // AI News. Новости искусственного интеллекта. № 4, 2002.

14. Давыдов С.В., Солодовников В.И. Подсистема имитационного моделирования локальных вычислительных сетей и инженерные основы ее реализации. // Новые информационные технологии: материалы шестого научно-практического семинара. МИЭМ. М., 2003. — сс.104-113.

15. Демиденко Е.З. Линейная и нелинейная регрессия. — М.: Финансы и статистика, 1981.

16. Дженнингс Роджер Руководство разработчика баз данных на Visual Basic 6.: Пер. с англ. К.; М.; СПб.; Издательский дом «Вильяме», 2000.

17. Дж. Ван Гик. Прикладная общая теория систем. М.: Мир, 1981.

18. Дюк В.А. Обработка данных на ПК в примерах. СПб.: Питер, 1997.

19. Дюк В., Самойленко A. Data Mining: учебный курс. -СПб: Питер, 2001.

20. Ежов А., Шумский С., Нейрокомпьютинг и его применение в экономике и бизнесе, 1998.

21. Зиновьев А.Ю. Визуализация многомерных данных. Красноярск: ИПЦ КГТУ, 2000.

22. Интернет ресурс компании StatSoft, Inc., 1984-2001.

23. Искусственный интеллект: В 3 кн. Кн. 1. Системы общения и экспертные системы: Справочник / Под ред. Э.В. Попова. М.: Радио и связь, 1990.

24. Каллан Р. Основные концепции нейронных сетей. М.: Издательский дом «Вильяме», 2001.

25. Киселев М., Соломатин Е., Средства добычи знаний в бизнесе и финансах // Открытые системы. 1997. №4. С. 41-44.

26. Колмогоров А.Н. О представлении непрерывных функций нескольких переменных суперпозициями непрерывных функций меньшего числа переменных // Докл. ФН СССР.-1956. Т. 108, №2. - С. 179-182.

27. Колмогоров А.Н. О представлении непрерывных функций нескольких переменных в виде суперпозиции непрерывных функций одного переменного // Докл. ФН СССР.-1957. Т. 114, №5. - С. 953-956.

28. Конелли Т., Бегг К. Базы данных. Проектирование, реализация и сопровождение. Теория и практика. М.: Изд. «Вильяме», 2000

29. Корн Г., Корн Т., Справочник по математике для научных работников и инженеров. М., Наука, 1974.

30. Корячко В.П., Курейчик В.М., Норенков И.П. Теоретические основы САПР. М.: Энергоатомиздат, 1987.

31. Кохонен Т. Ассоциативные запоминающие устройства. М.: Мир, 1982.

32. Кулаичев А.П. Средства и программные системы анализа данных // Мир ПК, 1994. № 10.

33. Кузин Л.Т. Основы кибернетики. Т.1. Математические основы кибернетики. М. «Энергия», 1973.

34. Кузин Л.Т. Основы кибернетики: В 2-х т. Т.2. Основы кибернетических моделей. М. «Энергия», 1979.

35. Левин Р., Дранг Д., Эделсон Б. Практическое введение в технологию искусственного интеллекта и экспертных систем с иллюстрацией на Бейсике. М., Финансы и статистика, 1991.

36. Лорьер Ж.-Л. Системы искусственного интеллекта. М.: Мир, 1991.

37. Майзер X., Эйджин Н., Тролл Р. и др. Исследование операций: в 2-х томах. Методологические основы и математические методы. Пер. с англ./Под И88 ред. Дж. Моудера, С. Элмаграби. М.: Мир, 1981. Т. 1.

38. Мак-Каллок У.С., Питтс В., Логическое исчисление идей, относящихся к нервной активности. Нейрокомпьютер №3, №4, 1992.

39. Медведев B.C., Потемкин В.Г. Нейронные сети. Matlab 6. / Под общ. Ред. К.т.н. В.Г. Потемкина. М.: Диалог-МИФИ, 2002.

40. Минский М., Пайперт С. Персептроны. М.: Мир, 1971.

41. Мостеллер Ф., Тьюки Дж. Анализ данных и регрессия. М.: Финансы и статистика, 1982.

42. Новалис Сьюзанн Access 2000 руководство по VBA. М.: Издательство «Лори», 2001.45.0суга С- Обработка знаний. М.: Мир, 1989.

43. Робототехника и гибкие автоматизированные производства. В 9-ти книгах. Кн. 6. Техническая имитация интеллекта / В.М. Назаретов, Д.П. Ким. Под ред. ИМ. Макарова. М., Высшая школа, 1986.

44. Поляк Б.Т. Введение в оптимизацию. М.: Наука, 1983.

45. Розенблат Ф., Принципы нейродинамики. М. Мир, 1964

46. Сайт компании BaseGroup Labs© 1995, 2002.

47. Скурихин A.H. Нейронные сети: определения, концепции, применение. — М.: ЦНИИ управления экономики и информатики, 1991.

48. Солодовников В.И., Солодовников И.В. Модель деревьев решений, использующая логику предикатов // Новые информационные технологии: материалы седьмого научно-практического семинара. МИЭМ. М., 2004. -сс.43-47.

49. Солодовников В.И. Нейронные сети как средство извлечения и анализа информации баз данных. // Научно-техническая конференция студентов,аспирантов и молодых специалистов МИЭМ. Тезисы докладов. М. ~:МИЭМ, 2003.-с. 176.

50. Солодовников В.И. Использование нейросетевых моделей для извлечения и анализа информации баз данных. // Новые информационные технологии: материалы шестого научно-практического семинара. МИЭМ. М., 2003. -сс.3-7.

51. Солодовников В.И. Использование графовых моделей принятия решений для разработки ВС. // Научно-техническая конференция студентов, аспирантов и молодых специалистов МИЭМ. Тезисы докладов. М. ~:МИЭМ, 2002.

52. Солодовников В.И., Солодовников И.В. Разработка ВС с использованием графовых моделей принятия решений. // Новые информационные технологии: материалы пятого научно-практического семинара. МИЭМ. М., 2002. — сс.63-68.

53. Солодовников В.И. Подход к разработке подсистемы выбора решений в системе управления динамическим объектом. // Материалы третьего научно-практического семинара Новые информационные технологии — М., МИЭМ., 2000. сс.28-34.

54. Солодовников В.И. Использование нейросетевых моделей в системе управления динамическим объектом. // Научно-техническая конференция студентов, аспирантов и молодых специалистов МИЭМ. Тезисы докладов. М. ~:МИЭМ, 2000. - сс.139-140.

55. Справочник по теории автоматического управления / под ред. A.A. Красковского.-М.: Наука, 1987.

56. Тьюки Дж. Анализ результатов наблюдений. Разведочный анализ. М.: Мир, 1981.

57. Тюрин Ю.Н., Макаров A.A. Анализ данных на компьютере. М.: ИНФРА-М, Финансы и статистика, 1997.

58. Уоссермен Ф., Нейрокомпьютерная техника. М. Мир, 1992

59. Уэно X., Кояма Т., Окамото Т. и др. Представление и использование знаний. М.: Мир, 1989.

60. Феррари Д. Оценка производительности вычислительных систем. М.: Мир, 1981.

61. Хант Э. Искусственный интеллект. М. Мир, 1978.

62. Хювенен Э., Сеппянен И. Мир ЛИСПА. Методы и системы программирования. М., Мир, 1990.

63. Bishop С.М. Neural Networks and Pattern Recognition. Oxford Press. 1995.

64. Bradley P., Fayyad U., Mangasarian O. Data Mining: Overview and Optimization Opportunity //http://www.research.microsoft.com/datamine/.

65. Cabena P., Hadjinian P., Stadler R., et al. Discovering Data Mining/ From Conceptto Implementation. Prentice Hall PTR, 2000.

66. Codd E., Codd S., Salley C. Providing OLAP (On-line Analytical Processig) to User-Analysts: An IT Mandate // E.F.Codd & Associates, 1993.

67. Fayyad U., Piatetsky-Shapiro G., Smyth P. From Data Mining to Knowledge Discovery: An Overview //Advances in Knowledge Discovery and Data Mining/ Cambridge; Mass: MIT Press, P. 1-34.1996.

68. Funahashi K.I., On the approximate realization of continuos mapping by neural networks. Neural Networks 2,1989.

69. Han J., Kamber M. Data Mining. Concept and Techniques. Morgan Kaufman Publishers, 2000.

70. Harris C.J., Moore C.G., Brown M., Intelligent Control: Aspects of Fuzzy logic and Neural Nets, World Scientific Publishing, 1993.

71. Haykin S., Neural Networks: A Comprehensive Foundation, MacMillan College Publishing Co., New York, 1994.

72. Holland J. Adaptation in natural and artificial systems. Cambridge: MIT Press, MA, 1992.

73. Kohonen Т., "Self-Organizing Maps"(2-nd edition), Springer, 1997.

74. Kohonen Т., "Self-Organizing Maps", Springer, 1995.

75. McDowell D.M., Irwin G.W., McConnell G., Online neural control applied to a bank-to-turn missile autopilot. Control Engineering Research Group, The Queen's University of Belfast, Northern Ireland, UK, 1995.

76. Mueller J.-A., Lemke F. Self-organizing Data Mining. Berlin, Dresden, 1999.82.+Riedmiller M., Braun H. A direct adaptive method for faster backpropagation learning: The RPROP algorithm. San Francisco, 1993.

77. Visual Basic 6.0. СПб.: БХВ - Санкт-Петербург, 2000.