Суперпозиционное линейно-нелинейное нейроструктурное моделирование тема диссертации и автореферата по ВАК РФ 05.13.18, доктор технических наук Сараев, Павел Викторович

• Сараев, Павел Викторович
• доктор технических наук
• 2011

Оглавление диссертации доктор технических наук Сараев, Павел Викторович

Оглавление

Введение

1. Нейронные сети и нейросетевые методы моделирования

1.1. Структура и методика применения нейронных сетей

1.1.1. Искусственный нейрон

1.1.2. Структура нейронных сетей прямого распространения

1.1.3. Методика применения нейронных сетей

1.2. Обучение нейронных сетей

1.2.1. Постановка задачи обучения

1.2.2. Классификация методов обучения

1.2.3. Алгоритм обратного распространения ошибки

1.2.4. Численные методы локальной оптимизации

1.2.5. Оптимизационные свойства псевдообращения

1.2.6. Нелинейный метод наименьших квадратов

1.2.7. Подходы к глобальной оптимизации в обучении

1.2.8. Интервальные методы глобальной оптимизации

1.3. Построение нейронных сетей оптимальной структуры

1.3.1. - Контрастивный подход

1.3.2. Конструктивный подход

1.4. Нейросетевые методы в задачах анализа данных

1.4.1. Прогнозирование

1.4.2. Управление

1.4.3. Классификация

1.4.4. Кластеризация

Постановка задач диссертационного исследования

2. Нейроструктурное моделирование и синтез нейроструктурных моделей

2.1. Нейроструктурное моделирование

2.2. Нейроструктурные методы моделирования динамических систем

2.2.1. Нелинейные нейронные сети Вольтерра

2.2.2. Исследование различных функций активации

2.3. Конструктивное построение нейроструктурных моделей

2.3.1. Общий подход к конструированию моделей

2.3.2. Блочные рекуррентно-итерационные процедуры в конструировании и обучении нейроструктурных моделей

Основные результаты главы 2

3. Класс численных методов обучения на основе декомпозиции весов

и линейно-нелинейного соотношения

3.1. Методы обучения на основе декомпозиции и линейно-нелинейного соотношения

3.1.1. Линейно-нелинейное соотношение

3.1.2. Декомпозиция задачи обучения

3.1.3. Производная псевдообратной матрицы

3.1.4. Модельный пример

3.1.5. Метод вычисления производной взвешенной псевдообратной матрицы

3.1.6. Класс численных методов обучения на основе линейно-нелинейного соотношения

3.2. Тестирование эффективности методов обучения

3.2.1. Программное обеспечение для тестирования

3.2.2. Сравнительный анализ эффективности методов обучения

3.3. Тестирование эффективности алгоритмов псевдообращения для применения в численных методах обучения

3.3.1. Эффективность алгоритмов псевдообращения

3.3.2. Эффективность блочного псевдообращения

Основные результаты главы 3

4. Численные методы гарантированного обучения нейроструктур-ных моделей на основе интервальных методов оптимизации

4.1. Анализ специфики задачи обучения на основе интервальных методов

4.2. Разработка сжимающих операторов на основе учета линейно-нелинейной структуры моделей

4.3. Сжимающий оператор на основе интервального псевдообращения

4.3.1. Интервальное псевдообращение

4.3.2. Сжимающий оператор на основе интервального псевдообращения

4.4. Программа для исследования эффективности гарантированного метода обучения

4.5. Исследование эффективности гарантированных методов обучения моделей

Основные результаты главы 4

5. Комплекс программ для нейроструктурного моделирования и анализа данных

5.1. Структура комплекса программ для информационно-аналитической системы

5.1.1. Технологии построения информационно-аналитических систем

5.1.2. Структура универсального хранилища данных

5.1.3. Программное обеспечение информационно-аналитической системы

5.2. Алгоритмическое обеспечение для нейроструктурного моделирования

5.2.1. Алгоритм оптимального управления динамическими объектами с упреждением на основе нейроструктурных моделей

5.2.2. Алгоритм автоматической кластеризации

5.3. Программное обеспечение для нейроструктурного моделирования

5.4. Методика применения комплекса для нейроструктурного моделирования и анализа данных

Основные результаты главы 5

6. Приложения нейроструктурных методов к решению практических задач

6.1. Прогнозирование дефектов горячекатаной продукции

6.2. Управление тарифной политикой оказания услуг междугородной телефонной связи

6.2.1. Нейроструктурное моделирование экономических систем211

6.2.2. Разработка алгоритма принятия решений по управлению ценовой политикой предприятий

6.2.3. Построение нейроструктурной модели спроса населения на услуги междугородной связи

6.2.4. Оптимизация тарифной политики на услуги междугородной связи

6.3. Анализ эффективности запросов в базах данных

6.4. Нейросетевое прогнозирование добычи сырьевых ресурсов

Заключение

Библиографический список

Приложения

1. Эффективность численных методов обучения на основе декомпозиции весов и линейно-нелинейного соотношения

2. Копии свидетельств регистрации программ

3. Моделирование спроса на услуги телефонной связи

4. Копии актов о внедрении и справок об использовании результатов исследования

БД

БРИП

ВР

ИА

ИС

ИАС

ЛНС

МНЛЗ

мпм нзнк

НС

нслв

НСПР

нпэ нем

НСУ

ОРО

ООП

ОУ

ПО

сок екк

СУБД

УХД

ФА

чм

Используемые сокращения

база данных

блочная рекуррентно-итерацнонная процедура временной ряд интервальный анализ информационная система информационно-аналитическая система линейно-нелинейное соотношение машина непрерывного литья заготовок метод переменной метрики нелинейная задача о наименьших квадратах нейронная сеть

нечеткая система логического вывода нейронная сеть прямого распространения нейроноподобный элемент нейроструктурная модель нейросетевое управление обратное распространение ошибки объектно-ориентированное программирование объект управления программное обеспечение самоорганизующиеся карты (Кохонена) сеть каскадной корреляции (Фальмана) система управления базами данных универсальное хранилище данных функция активации численный метод

Введение диссертации (часть автореферата) на тему «Суперпозиционное линейно-нелинейное нейроструктурное моделирование»

Введение

Актуальность темы. Развитие информационных технологий привело к возможности сбора и хранения значительных объемов данных. В настоящее время актуальной является задача глубокого анализа всей имеющейся информации для принятия оптимальных управленческих решений. Наиболее эффективным методом выявления полезной скрытой информации является математическое моделирование, позволяющее определять зависимости, которые содержатся в анализируемых данных. Основная задача в построении зависимостей - конструирование адекватных моделей, обладающих способностями качественно описывать объекты и явления, для получения достоверных выводов на основе исследования соответствующих моделей. Хотя временные затраты в данном случае играют менее важную роль по сравнению с качеством построения моделей, применение эффективных методов конструирования в большинстве случаев положительно сказывается на адекватности получаемых моделей.

В связи со значительной сложностью объектов и явлений, имеющих практический интерес, наибольший приоритет приобретают методы нейро-структурного моделирования, которые развивают и обобщают нейросетевые методы. Они могут быть использованы для решения широкого круга задач во всех сферах деятельности, в том числе для решения аналитических задач прогнозирования ситуаций и управления развитием моделируемых объектов. Класс нейроструктурных моделей содержит математические модели, состоящие из связанных между собой базовых нейроноподобных элементов и обладающие характерной суперпозиционной линейно-нелинейной по параметрам структурой. К ним могут быть отнесены нейронные сети прямого распространения, в том числе с неклассическими функциями активации, нейронные сети с радиальными базисными функциями, вероятностные нейронные сети, нейронные сети Фальмана, нечеткие системы Такаги-Суджено, нейро-нечеткие модели структуры АЫР18 и другие. Для таких моделей задача

структурной идентификации является частично решенной. Применение ней-роструктурных моделей и методов не требует знания априорной информации о характере зависимостей, поэтому позволяет говорить об универсальности данного математического аппарата.

Центральным этапом построения нейроструктурных моделей является обучение - настройка параметров на основе набора вход-выходных данных. Для построения адекватных моделей должны применяться численные методы обучения, которые в отличие от большинства существующих в максимальной степени учитывают особенности задачи нейроструктурного моделирования. Разработка, реализация и тестирование алгоритмов построения и численных методов обучения моделей на основе технологии вычислительного эксперимента с применением современных компьютерных средств представляет собой как высокий научный, так и практический интерес. Это обосновывает актуальность темы диссертационной работы.

Диссертационная работа выполнена в рамках основных научных направлений Липецкого государственного технического университета «Вычислительная математика», «Алгебраические методы прикладной математики и информатики в моделировании и управлении сложными распределенными системами».

Положения работы поддержаны грантами Российского фонда фундаментальных исследований: № 09-07-97531-р_центр_а «Разработка математического и программного обеспечения нейросетевого моделирования на основе интервальных методов и псевдообращения» (2009-2011), № 09-07-00220-а «Разработка и исследование принципов построения универсальной интеллектуальной информационно-аналитической системы» (2009-2011), № 11-07-00580-а «Разработка математического и программного обеспечения для моделирования, прогнозирования, оптимизации и управления сложными системами на основе методов идемпотентной математики и интервального анализа» (2011-2012), № 11-07-97504-р_центр_а «Разработка и исследование методов нейросетевого моделирования и прогнозирования динамики сложных систем» (2011-2012).

Цель исследования. Целью диссертационной работы является разработка единого нейроструктурного подхода к математическому моделированию сложных систем на основе комплекса алгоритмов конструирования и численных методов обучения моделей, учитывающих их суперпозиционную линейно-нелинейную по параметрам структуру.

Задачи исследования. Для достижения цели были поставлены и решались следующие задачи:

- Разработка теоретических основ описания, функционирования и построения нейроструктурных моделей сложных статических и динамических систем - класса моделей нейросетевого типа, обладающих суперпозиционной линейно-нелинейной по параметрам структурой.

- Разработка, исследование, реализация и тестирование с применением технологии вычислительных экспериментов класса численных методов обучения нейроструктурных моделей на основе декомпозиции параметров на линейные и нелинейные с учетом суперпозиционного характера моделей.

- Разработка, исследование, реализация и тестирование на основе технологии вычислительных экспериментов численного метода гарантированного глобального обучения нейроструктурных моделей, учитывающего суперпозиционный линейно-нелинейный характер моделей.

- Совершенствование алгоритма оптимального нейроструктурного управления для решения аналитических задач, учитывающего динамические свойства моделируемых процессов, а также специфику задачи построения нейроструктурных моделей.

- Разработка структуры и комплекса программ с применением современных информационных технологий для моделирования и анализа данных на основе предложенных методов построения, обучения и применения нейроструктурных моделей, учитывающих их суперпозиционный линейно-нелинейный по параметрам характер.

- Создание методики нейроструктурного моделирования для решения аналитических задач на основе предложенных алгоритмов и численных методов с применением разработанного комплекса программ.

Методы исследования. В работе использовались методы математического моделирования, численные методы, методы искусственного интеллекта, методы оптимизации, теория нейронных сетей, нечеткая логика, теория управления, линейная алгебра, методы интервального анализа, объектно-ориентированное программирование.

Научная новизна. В диссертационной работе получены следующие результаты, характеризующиеся научной новизной и формирующие новый нейроструктурный подход к моделированию сложных систем:

- Теоретические основы функционирования нейроструктурных моделей сложных систем, отличающиеся возможностью описания широкого класса моделей суперпозиционной линейно-нелинейной по параметрам структуры, развивающие и обобщающие нейросетевой подход к моделированию.

- Единый подход к конструктивному построению нейроструктурных моделей, отличающийся монотонностью снижения ошибки обучения при наращивании структуры на основе использования различных функций активации нейроноподобных элементов, позволяющий реализовать универсальные аппроксимационные способности моделей.

- Блочные рекуррентно-итерационные процедуры для конструирования и обучения нейроструктурных моделей, отличающиеся применением формулы блочного псевдообращения Клайна, повышающие эффективность численных методов обучения моделей за счет псевдообращения матриц меньших размеров.

- Класс численных методов обучения нейроструктурных моделей, отличающихся декомпозицией вектора весов и применением линейно-нелинейного соотношения на основе псевдообращения, численного метода дифференцирования обычных и взвешенных псевдообратных матриц и учетом суперпозиционного характера моделей, позволяющих снизить размерность пространства итерационно оцениваемых параметров.

- Модифицированный интервальный алгоритм Гревиля для оценивания интервального псевдообращения матриц, отличающийся возможностью вычисления псевдообратных матриц к интервальным и позволяющий

оценивать устойчивость операции псевдообращения для исходной матрицы в численных методах обучения моделей.

- Численный метод глобального обучения нейроструктурных моделей, отличающийся применением алгоритмов интервального анализа и сжимающих операторов на основе учета суперпозиционного линейно-нелинейного характера моделей, обеспечивающий выполнение универсальных аппроксимационных свойств, а также позволяющий повысить адекватность моделирования.

- Алгоритм оптимального управления сложными системами с упреждением на основе нейроструктурного моделирования, который учитывает динамические свойства систем и суперпозиционный характер моделей и позволяет синтезировать управление с учетом его влияния на поведение объекта в течение нескольких периодов.

- Структура и методика применения комплекса программ для нейроструктурного моделирования и анализа данных в информационных системах, которые отличаются инвариантностью относительно предметной области и позволяют применять разработанные алгоритмы построения и численные методы обучения для принятия оптимальных управленческих решений.

Практическая значимость работы заключается в комплексном исследовании научных проблем математического моделирования на основе нейроструктурного подхода, связанного с разработкой, обоснованием и тестированием численных методов обучения, наиболее полно учитывающих суперпозиционную линейно-нелинейную по параметрам структуру моделей, с применением современных компьютерных технологий. Предложенные алгоритмы и методы для решения технических и экономических прикладных проблем позволяют повысить качество принимаемых решений.

Предложен универсальный подход к анализу данных. Разработан комплекс программ, предназначенный для аналитической обработки данных в информационных системах предприятий и организаций независимо от сферы деятельности. Он отличается наличием средств универсального хранения данных и средств оперативной аналитической обработки информации. Осно-

вой комплекса является система нейроструктурного моделирования на базе разработанных алгоритмов построения и численных методов обучения моделей.

На основе нейроструктурного подхода разработаны алгоритм и программа для анализа эффективности методов доступа к базам данных, отличающиеся использованием объективной информации о времени выполнения запросов и позволяющие оценивать время извлечения информации.

Соответствие паспорту специальности.

На основе нейроструктурного подхода и разработанных и реализованных в виде комплексов проблемно-ориентированных программ численных методов, учитывающих суперпозиционную линейно-нелинейную по параметрам структуру моделей, получены результаты, которые формируют новые методы математического моделирования объектов и явлений. Разработанная система нейроструктурного моделирования, являющаяся основой информационно-аналитического комплекса программ, имеет важное значение для повышения качества принятия управленческих решений в широком классе прикладных областей.

Результаты соответствуют следующим пунктам паспорта специальности 05.13.18 «Математическое моделирование, численные методы и комплексы программ»: п. 1 «Разработка новых математических методов моделирования объектов и явлений»; п. 3 «Разработка, обоснование и тестирование эффективных вычислительных методов с применением современных компьютерных технологий»; п. 4 «Реализация эффективных численных методов и алгоритмов в виде комплексов проблемно-ориентированных программ для проведения вычислительного эксперимента»; п. 8 «Разработка систем компьютерного и имитационного моделирования».

Внедрение результатов работы. Результаты диссертационного исследования прошли апробацию, внедрены или использованы: для прогнозирования дефектов горячекатаного проката в зависимости от технологических параметров разливки стали на машинах непрерывного литья заготовок на основе нейроструктурных моделей в ОАО «НЛМК»; для моделирования спроса населения на услуги междугородной телефонной связи и оптимизации тари-

фов на основе методов нейроструктурного моделирования и разработанного алгоритма оптимального управления в ОАО «Липецкэлектросвязь»; для оценки времени доступа к информационной системе документооборота предприятия на основе нейроструктурного подхода и алгоритма анализа эффективности запросов к базам данных в ОГУП «Липецкоблтехинвентаризация»; для прогнозирования объемов добычи сырьевых ресурсов на основе программы нейросетевого моделирования и прогнозирования в ООО «Липецкое карье-роуправление».

Результаты диссертационной работы использованы в учебном процессе ЛГТУ при изучении студентами специальностей 230401.65 «Прикладная математика», 220501.65 «Управление качеством», направления магистратуры 231300.68 «Прикладная математика» дисциплин «Математическое моделирование», «Численные методы», «Алгоритмы оптимизации», «Интеллектуальные системы», «Оптимальное управление нелинейными системами», в научно-исследовательской работе студентов, при проведении производственных и преддипломных практик, при выполнении курсовых и дипломных работ.

Апробация работы. Теоретические и практические результаты, полученные в процессе исследования, докладывались и обсуждались на международных конференциях: «Теория активных систем» (Москва, 2007), «Идентификация систем и задачи управления» SICPRO'09 (Москва, 2009), «Молодежь в науке-2011» (Республика Беларусь, Минск, 2011), «Управление развитием крупномасштабных систем» MLSD'2011 (Москва, 2011), мультиконфе-ренции «Управление большими системами-2011» (Москва, 2011); на международном симпозиуме: GAMM-IMACS по научным вычислениям, компьютерным арифметикам и доказательным численным методам SCAN-2012 (Новосибирск, 2012); на Всероссийских конференциях: «Управление большими системами» (Воронеж, 2007; Липецк, 2008; Ижевск, 2009; Пермь, 2010; Липецк, 2012); «Нейроинформатика» (Москва, 2008); Молодежной конференции по проблемам управления (Москва, 2008); «Управление, информация и оптимизация» (Переславль-Залесский, 2010; Звенигород, 2012), а также на научных семинарах кафедры прикладной математики Липецкого государственно-

го технического университета и научно-образовательных семинарах «Математическое моделирование, информационные технологии и проблемы управления» Липецкого научно-образовательного центра по проблемам управления.

Научные работы по теме диссертационного исследования были отмечены дипломами победителя на конкурсах: научных работ молодых ученых по теории управления и ее приложениям «Нейросетевая идентификация и оптимальное управление экономическими системами» и «Оптимизационные свойства псевдообратных матриц в алгоритмах идентификации моделей» (Москва, 2007, 2009); на Премию им. С.Л. Коцаря для молодых ученых Липецкой области «Идентификация нейросетевых моделей и управление сложными системами» (Липецк, 2008).

Публикации. Основные научные результаты, полученные в ходе диссертационного исследования, опубликованы в 80 работах. Из 50 наиболее значимых публикаций 2 монографии, 16 статей в изданиях из Перечня российских рецензируемых журналов, в которых должны быть опубликованы основные научные результаты диссертаций на соискание ученых степеней доктора и кандидата наук, 2 свидетельства о регистрации программ для ЭВМ в Роспатенте, 30 публикаций в других периодических научных журналах и трудах международных и всероссийских конференций и симпозиумов.

Структура и объем работы. Диссертация состоит из введения, шести глав, заключения, библиографического списка из 227 наименований, 4 приложений. Работа изложена на 280 страницах машинописного текста, содержит 67 рисунков и 16 таблиц.

Заключение диссертации по теме «Математическое моделирование, численные методы и комплексы программ», Сараев, Павел Викторович

Основные результаты, приведенные в данной главе, опубликованы в периодических изданиях [116,128,140,155], входящих в Перечень российских рецензируемых журналов, в которых должны быть опубликованы основные научные результаты диссертаций на соискание ученых степеней доктора и кандидата наук.

Заключение

Предложен и исследован нейроструктурный подход к моделированию сложных систем с единых позиций учета их суперпозиционной линейно-нелинейной по весам структуры при построении, обучении и применении моделей; разработаны численные методы и алгоритмы для решения задач моделирования и создан комплекс программ для анализа данных на основе нейро структурного моделирования. В результате исследований разработаны теоретические положения, совокупность которых можно квалифицировать как научное достижение в математическом моделировании систем:

1) разработаны теоретические основы функционирования нейроструктур-ных моделей суперпозиционной линейно-нелинейной по весам структуры, развивающие и обобщающие нейросетевой подход к моделированию;

2) предложен алгоритм конструктивного построения нейроструктурных моделей, обеспечивающий монотонность снижения ошибки обучения и предназначенный для повышения адекватности построения моделей;

3) разработаны блочные рекуррентно-итерационные процедуры наращивания структуры и обучения нейроструктурных моделей на основе формулы блочного псевдообращения Клайна, позволяющие использовать вычислительные преимущества при псевдообращении матриц меньших размеров;

4) разработаны численные методы дифференцирования обычной и взвешенной псевдообратных матриц, элементы которых зависят от вектора параметров. Данные методы основаны на тензорном произведении матриц, позволяющем применять стандартные операции линейной алгебры, и могут быть применены для разработки алгоритмов обучения;

5) разработан класс численных методов обучения нейроструктурных моделей на основе декомпозиции вектора весов и линейно-нелинейного соотношения с учетом суперпозиционного характера моделей. Подход позволяет снизить размерность пространства итерационно настраиваемых параметров и определить линейно входящие параметры безытерационно;

6) разработано программное обеспечение для тестирования численных методов обучения на основе декомпозиции вектора весов и линейно-нелинейного соотношения, с помощью которого проведен сравнительный анализ разработанных численных методов с существующими алгоритмами обучения нейронных сетей. Результаты исследования показали более высокое качество работы предложенных методов, а также их высокую эффективность на обучающих множествах небольшого объема;

7) введено понятие и предложен модифицированный интервальный алгоритм Гревиля для оценивания интервального псевдообращения матриц. Интервальное псевдообращение может применяться для оценки устойчивости псевдообращения в численных методах обучения моделей;

8) предложен численный метод гарантированного глобального обучения нейроструктурных моделей на основе интервального анализа и учета специфики задачи обучения и суперпозиционной линейно-нелинейной по весам структуры. Метод включает применение модифицированных функций активации и разработанных сжимающих операторов;

9) разработано программное обеспечение для тестирования численного метода гарантированного глобального обучения на основе интервального анализа, с помощью которого проведен сравнительный анализ с традиционным методом обучения на основе процедуры обратного распространения ошибки. Показано более высокое качество работы предложенного метода;

10) предложен универсальный подход к анализу данных с использованием информации баз данных информационных систем и разработаны структура универсального хранилища данных и структура комплекса программ информационно-аналитической системы. Основным инструментом анализа данных выступает система суперпозиционного линейно-нелинейного нейроструктурного моделирования статических и динамических систем;

11) разработаны структура и комплекс программ моделирования и аналитической обработки данных на основе разработанных алгоритмов построения и численных методов обучения нейроструктурных моделей. Предложена методика применения данного комплекса программ;

12) разработан алгоритм оптимального управления сложными системами с упреждением на основе нейроструктурного моделирования с учетом динамического характера систем и суперпозиционного характера моделей;

13) на основе разработанных алгоритмов построения, численных методов обучения нейроструктурных моделей и комплекса программ решены: задача прогнозирования дефектов горячекатаного проката в зависимости от параметров разливки стали, задача оптимизации тарифов на услуги междугородной телефонной связи, задача прогнозирования эффективности запросов извлечения информации из баз данных предприятий.

Развитие работы может быть осуществлено по ряду направлений. Во-первых, перспективным является разработка и исследование эффективных алгоритмов гарантированного обучения НСМ на основе методов ИА в распределенных и параллельных средах. Во-вторых, перспективно исследование ЧМ обучения НСМ с функционалами качества, отличными от квадратичного. В частности, представляет интерес минимаксный подход к обучению НСМ на основе методов ИА. Третьим направлением развития является разработка алгоритмов интерпретации зависимостей и извлечения знаний из НСМ. Это может быть осуществлено, например, на основе построения эквивалентных НСМ. В частности, представляет интерес разработка алгоритмов преобразования моделей НСПР в нечеткие или нейро-нечеткие модели.

Список литературы диссертационного исследования доктор технических наук Сараев, Павел Викторович, 2011 год

Литература

1. Абаффи И., Спедикато Э. Математические методы для линейных и нелинейных уравнений: проекционные ABS-алгоритмы. - М.: Мир, 1996.-268 с.

2. Аведьян Э. Д. Алгоритмы настройки многослойных нейронных сетей // Автоматика и телемеханика. - 1995. - Т. 4. - С. 106-118.

3. Айвазян С. А., Енюков И. С., Мешалкин J1. Д. Прикладная статистика. Исследование зависимостей. - М.: Финансы и статистика, 1985. - 487 с.

4. Айвазян С. А., Мхитарян В. С. Прикладная статистика и основы эконометрики,- М.: Юнити, 1998.- 1022 с.

5. Алберт А. Регрессия, псевдоинверсия и рекуррентное оценивание. - М.: Наука, 1977.- 224 с.

6. Алефельд Г., Херцбергер Ю. Введение в интервальные вычисления. -М.: Мир, 1987.- 360 с.

7. Асаи К., Тэрано Т., Сугэно М., др. Прикладные нечеткие системы. - М.: Мир, 1993.- 368 с.

8. Аттетков А. В., Галкин С. В., Зарубин В. С. Методы оптимизации.-М.: Изд-во МГТУ им. Н.Э. Баумана, 2001,- T. XIV из Математика в техническом университете. - 440 с.

9. Ащепков JI. Т., Давыдов Д. В. Универсальные решения интервальных задач оптимизации и управления, - М.: Наука, 2006.- 151 с.

10. Баканов М. И., Шеремет А. Д. Теория экономического анализа,- М.: Финансы и статистика, 1997. - 416 с.

11. Барсегян А. А., Куприянов М. С., Степаненко В. В., Холод И. Технология анализа данных: Data Mining, Visual Mining, Text Mining, OLAP. -СПб.: БХВ-Петербург, 2007. - 384 с.

12. Барский А. Б. Нейронные сети: распознавание, управление, принятие решений, - М.: Финансы и статистика, 2004,- 176 с.

13. Башмаков А. И., Башмаков И. А. Интеллектуальные информационные технологии: Учеб. пособие,- М.: Изд-во МГТУ им. Н.Э. Баумана, 2005.- 384 с.

14. Белов В. С. Информационно-аналитические системы. Основы проектирования и применения: учеб. пособие. - М.: МЭСИ, 2005. - 111 с.

15. Бережной Е. В., Бережная В. И. Математические методы моделирования экономических систем. - М.: Финансы и статистика, 2001. - 368 с.

16. Бибердорф Э. А., Попова Н. И. Гарантированная точность современных алгоритмов линейной алгебры. - Новосибирск: Изд-во СО РАН, 2006. -320 с.

17. Блюмин С. JI. Примеры линейно-нелинейного моделирования: обучение искусственных нейронных сетей, выявление скрытых периодичностей // Новые технологии в образовании. - 2005. - № 1(10). - С. 63-64.

18. Блюмин С. JL, Миловидов С. П. Псевдообращение: учебное пособие.-Воронеж: ВорПИ-ЛипПИ, 1990.- 72 с.

19. Блюмин С. Л., Миловидов С. П. Взвешенное псевдообращение: учебное пособие. - Воронеж: ВорПИ-ЛипПИ, 1991. - 64 с.

20. Блюмин С. Л., Миловидов С. П., Погодаев А. К. Нелинейный метод наименьших квадратов и псевдообращение: учебное пособие. - Липецк: ЛипПИ, 1992.- 80 с.

21. Блюмин С. Л., Погодаев А. К. Блочные рекуррентно-итерационные процедуры решения нелинейной задачи о наименьших квадратах // Журнал вычислительной математики и математической физики, - 1992.- Т. 32, № 8.-С. 1180-1186.

22. Блюмин С. Л., Погодаев А. К. Суперпозиционная регрессия // Журнал вычислительной математики и математической физики, - 1995,- Т. 35, № 10,- С. 1576-1581.

23. Блюмин С. Л., Погодаев А. К., Сараев П. В. Нейросетевой подход к оценке эффективности seleet-запросов в сложных информационных системах // Сборник трудов Международной научной конференции «Сложные системы управления и менеджмент качества CCSQM'2007».- Т. 1,- Старый Оскол: ООО «ТНТ», 2007,- С. 11-13.

24. Блюмин С. Д., Погодаев А. К., Сараев П. В. Базовые алгебраические структуры универсальных интеллектуальных информационно-аналитических систем // Международная научно-практическая конференция «Теория активных систем»: Труды.- Т. 1,- М.: ИПУ РАН, 2009. - С. 42-45.

25. Блюмин С. Д., Погодаев А. К., Сараев П. В. Информационно-логическое обеспечение аналитических систем информационных сред крупномасштабных производств // Третья международная конференция «Управление развитием крупномасштабных систем» (MLSD'2009): Материалы. -Т. 2.-М.: ИПУ РАН, 2009. - С. 209-212.

26. Блюмин С. Д., Погодаев А. К., Сараев П. В. Перспективное математическое обеспечение автоматизированных систем управления энергосбережением // IX Международная научно-практическая Интернет-конференция «Энерго- и ресурсосбережение - XXI век»: Сборник материалов. - Орел: ООО ПФ «Картуш», 2011. - С. 262-265.

27. Блюмин С. Д., Погодаев А. К., Сараев П. В. Направления развития нейросетевого теоретико-графового моделирования крупномасштабных систем // «Управление развитием крупномасштабных систем MLSD'2012»: Материалы шестой международной конференции. - Т. 1. -М.: ИПУ РАН, 2012. - С. 287-289.

28. Блюмин С. Д., Самордин П. В. Рандомизированное моделирование технологических зависимостей: Учебное пособие. - Липецк: ЛГТУ, 1995. -67 с.

29. Блюмин С. Д., Сараев П. В. Алгоритм Голуба-Перейры в обучении искусственных нейронных сетей // Нейроинформатика и ее приложения: Материалы VIII Всероссийского семинара. - Красноярск: ИПЦ КГТУ, 2000.-С. 18-19.

30. Блюмин С. Д., Сараев П. В. Псевдообращение в обучении искусственных нейронных сетей // Современные проблемы информатизации в непромышленной сфере и экономике: Труды V Международной электронной научной конференции. - Воронеж: Центрально-Черноземное книжное издательство, 2000.- С. 112-113.

31. Блюмин С. JL, Сараев П. В. Адаптивное рекуррентно-итерационное обучение искусственных нейронных сетей // Современные проблемы информатизации в технике и технологиях: Труды VI Международной открытой научной конференции. - Воронеж: ВЭГТИ, 2001. - С. 87-88.

32. Блюмин С. Л., Сараев П. В. Рекуррентно-итерационные процедуры для адаптивного конструирования нейронных сетей // Нейроинформатика и ее приложения: Материалы IX Всероссийского семинара. - Красноярск: ИПЦ КГТУ, 2001. - С. 20-21.

33. Блюмин С. Л., Сараев П. В. Преобразование качественной информации с целью использования ее в нейросетевых моделях // Современные проблемы информатизации в технике и технологиях: Сборник трудов VII международной открытой научной конференции. - Воронеж: Центрально-Черноземное книжное издательство, 2002,- С. 82-83.

34. Блюмин С. Л., Сараев П. В. Программный модуль «Оптимизация ценовой политики на основе использования нейросетевых моделей», - М.: ФАП ВНТИЦ, 2003. - № 50200300024 от 21.01.2003.

35. Блюмин С. Л., Сараев П. В. Программный модуль «Сравнительный анализ алгоритмов обучения нейронных сетей прямого распространения». - М.: ФАП ВНТИЦ, 2003. - № 50200300023 от 21.01.2003.

36. Блюмин С. Л., Сараев П. В. Выявление периодичностей в нейросетевом прогнозировании динамики активных систем // Международная научно-практическая конференция «Теория активных систем - 2011»: Труды.-Т. 1.-М.: ИПУ РАН, 2011,-С. 15-18.

37. Блюмин С. Л., Шуйкова И. А., Сараев П. В., Черпаков И. В. Нечеткая логика: алгебраические основы и приложения: Монография. - Липецк: ЛЭГИ, 2002,- 111 с.

38. Буцев А. В., Первозванский А. А. Локальная аппроксимация на искусственных нейросетях // Автоматика и телемеханика,- 1995,- № 9,-С. 127-136.

39. Васильев А. Н., Тархов Д. А. Нейросетевое моделирование. Принципы. Алгоритмы. Приложения. - СПб.: СПбГПУ, 2009. - 528 с.

40. Васильев В. И., Ильясов Б. Г. Интеллектуальные системы управления. Теория и практика: Учебное пособие. - М.: Радиотехника, 2009. - 392 с.

41

42

43

44

45

46

47

48

49

50

51

52

53.

54

55.

Гаврилова Т. А., Хорошевский В. Ф. Базы знаний интеллектуальных систем. - СПб.: Питер, 2001.- 384 с.

Галушкин А. И. Теория нейронных сетей, - М.: ИПРЖР, 2001,- Т. 1,416 с.

Галушкин А. И. Нейронные сети: основы теории. - М.: Горячая линия -Телеком, 2010.-496 с.

Гантмахер Ф. Р. Теория матриц, - М.: Наука, 1988,- 548 с.

Гилл Ф., Мюррей У., Райт М. Практическая оптимизация.- М.: Мир,

1985.- 509 с.

Глова В. И., Аникин И. В., Аджели М. А. Мягкие вычисления (soft computing) и их приложения: Учебное пособие. - Казань: Изд-во КГТУ,

2000.- 98 с.

Головко В. А. Нейронные сети: обучение, организация и применение. -М.: ИПРЖР, 2001.- 256 с.

Голуб Д., Ван Лоун Ч. Матричные вычисления. - М.: Мир, 1999. - 548 с. Горбань А. Н. Обучение нейронных сетей,- М.: Изд. СССР-США СП «Параграф», 1990,- 160 с.

Горбань А. Н. Быстрое дифференцирование сложных функций и обратное распространение ошибки // V Всероссийский семинар «Нейро-информатика и ее приложения»: Тезисы докладов. - Красноярск: Изд. КГТУ, 1997.-С. 54-56.

Горбань А. Н., Дунин-Барковский В. Л., Кирдин А. Н., и др. Нейроин-форматика. - Новосибирск: Наука. Сибирское предприятие РАН, 1998. -296 с.

Горбань А. Н., Россиев Д. А. Нейронные сети на персональном компьютере. - Новосибирск: Наука. Сиб. издат. фирма РАН, 1996.- 276 с. Добронец Б. С. Интервальная математика: Учеб. пособие. - Красноярск: Красноярский гос. ун-т, 2004. - 216 с.

Дэннис Д., Шнабель Р. Численные методы безусловной оптимизации и

решения нелинейных уравнений, - М.: Мир, 1988,- 440 с.

Дюк В., Самойленко A. Data Mining: учебный курс.- СПб.: Питер,

2001.- 368 с.

56. Ежов А. А., Шумский С. А. Нейрокомпьютинг и его применения в экономике и бизнесе. - М.: МИФИ, 1998. - 224 с.

57. Жолен Л., Кифер М., Дидри О., Вальтер Э. Прикладной интервальный анализ. - М.-Ижевск: Институт компьютерных исследований, 2007. -468 с.

58. Загоруйко Н. Г. Прикладные методы анализа данных и знаний, - Новосибирск: Ин-т математики, 1999,- 270 с.

59. Задачи линейной оптимизации с неточными данными / М. Фидлер, Й. Недома, Я. Рамик и др. - М.-Ижевск: НИЦ «Регулярная и хаотическая динамика», 2008. - 288 с.

60. Заенцев И. В. Нейронные сети: основные модели/ Учебное пособие. -Воронеж: ВГУ, 1999. - 76 с.

61. Зарубин В. С. Математическое моделирование в технике. - М.: Изд-во МГТУ им. Н.Э. Баумана, 2001,- Т. XXI из Математика в техническом университете. - 496 с.

62. Измаилов А. Ф., Солодов М. В. Численные методы оптимизации, - М.: ФИЗМАТЛИТ, 2008. - 320 с.

63. Калмыков С. А., Шокин Ю. И., Юлдашев 3. X. Методы интервального анализа. - Новосибирск: Наука, 1986. - 224 с.

64. Карабутов Н. Н. Адаптивная идентификация систем: Информационный синтез. - М.: КомКнига, 2006. - 384 с.

65. Карманов В. Г. Математическое программирование: Учеб. пособие.-М.: Наука, 1986.- 285 с.

66. Карпова Т. С. Базы данных: модели, разработка, реализация,- СПб.: Питер, 2001.- 304 с.

67. Кафаров В. В., Гордеев Л. С., Глебов М. Б., Цзинбяо Г. К вопросу моделирования и управления непрерывными технологическими процессами с помощью нейронных сетей // Теоретические основы химической технологии. - 1995. - Т. 29, № 2. - С. 205-212.

68. Колмогоров А. Н. Представление непрерывных функций нескольких переменных в виде суперпозиций непрерывных функций одного переменного и сложения // Доклады АН СССР - 1957.- Т. 114, № 5,- С. 953956.

69. Коннолли Т., Бегг К. Базы данных. Проектирование, реализация и сопровождение. Теория и практика. - М.: Издательский дом «Вильяме», 2003,- 1436 с.

70. Корнеев В. В., Гарев А. Ф., Васютин С. В., Райх В. В. Базы данных. Интеллектуальная обработка информации. - М.: Нолидж, 2000. - 352 с.

71. Королев А. С., Сараев П. В. Программное обеспечение для распределенной гарантированной параметрической идентификации моделей // Третья международная конференция "Системный анализ и информационные технологии". - М.: ИСА РАН, 2009. - С. 716-721.

72. Кофман А., Хил Алуха X. Введение теории нечетких множеств в управлении предприятиями. - Минск: Выш. шк., 1992. - 224 с.

73. Кохонен Т. Самоорганизующиеся карты, - М.: Бином. Лаборатория баз знаний, 2008. - 655 с.

74. Кравченко Ю. А. Анализ состояния, перспективы и проблемы развития искусственных нейронных сетей // Международных конференций «Искусственные интеллектуальные системы» (IEEE AIS'02) и «Интеллектуальные САПР» (CAD'02): Труды, - М.: Издательство физико-математической литературы, 2002. - С. 68-73.

75. Круг П. Г. Нейронные сети и нейрокомпьютеры. - М.: Московский энергетический институт, 2002,- 176 с.

76. Круглов В. В., Борисов В. В. Искусственные нейронные сети. Теория и практика. - М.: Горячая линия - Телеком, 2001. - 382 с.

77. Круглов В. В., Дли М. И., Годунов Р. Ю. Нечеткая логика и искусственные нейронные сети. - М.: Физматлит, 2001. - 224 с.

78. Крянев А. В., Лукин Г. В. Математические методы обработки неопределенных данных. - М.: Физматлит, 2006. - 216 с.

79. Кудинов Ю. И., Венков А. Г., Келина А. Ю. Моделирование технологических и экологических процессов, - Липецк: ЛЭГИ, 2001,- 131 с.

80. Кузин А. В., Левонисова С. Базы данных: учеб. пособие. - М.: Издательский центр «Академия», 2008. - 320 с.

81. Кулиш У., Рац Д., Хаммер Р., Хокс М. Достоверные вычисления. Базовые численные методы. - М.-Ижевск: НИЦ «Регулярная и хаотическая динамика», 2005. - 496 с.

82

83

84

85

86

87

88

89

90

91

92

93

94

95

96

97

Ланкастер П. Теория матриц. - М.: Наука, 1973. - 280 с.

Лоусон Ч., Хенсон Р. Численное решение задач методом наименьших

квадратов, - М.: Наука. Гл. ред. физ.-мат. лит., 1986.- 232 с.

Мазур И. П. Тепловые процессы в производстве листового проката. -

М.: ОАО «Черметинформация», 2002,- 103 с.

Маркус М., Минк X. Обзор по теории матриц и матричных неравенств. -М.: Книжный дом «ЛИБРОКОМ», 2009. - 232 с.

Методы классической и современной теории автоматического управления: Учебник в 5 тт. / Под ред. К. А. Пупкова, Н. Д. Егупова. - М.: Изд-во МГТУ им. Н.Э. Баумана, 2004. - Т. 5. - 784 с. Методы робастного, нейро-нечеткого и адаптивного управления / Под ред. Н. Д. Егупова. - М.: Изд-во МГТУ им. Н.Э. Баумана, 2001. - 744 с. Мину М. Математическое программирование. - М.: Наука, 1990. - 488 с. Миркес Е. М. Нейрокомпьютер: проект стандарта. - Новосибирск: Наука, 1999.- 337 с.

Миронов М. В., Сараев П. В. Система нейро-нечеткого вывода ANFIS. -М.: ФАП ВНТИЦ, 2011.-№ 50201151409 от 09.11.2011. Назаров А. В., Лоскутов А. И. Нейросетевые алгоритмы прогнозирования и оптимизации систем. - СПб.: Наука и техника, 2003. - 384 с. Нейронные сети, генетические алгоритмы и нечеткие системы / Под ред. Д. Рутковская, М. Пилиниский, Л. Рутковский. - М.: Горячая линия - Телеком, 2006. - 452 с.

Нейронные сети: история развития теории / Под ред. А. И. Галушкина, Я. 3. Цыпкина. - М.: ИПРЖР, 2001. - Т. 5. - 840 с.

Нечеткие множества в моделях управления и искусственного интеллекта / Под ред. Д. А. Поспелов. - М.: Наука, 1986. - 311 с. Николенко С. И., Тулупьев А. Л. Самообучающиеся системы. - М.: МЦ-НМО, 2009. - 288 с.

Омату С., Халид М., Юсоф Р. Нейроуправление и его приложения. - М.: ИПРЖР, 2000. - 272 с.

Орлянская И. В. Современные подходы к построению методов глобальной оптимизации // Исследовано в России.- 2002,- С. 2097—2108. — http://zhurnal.ape.relarn.ru/articles/2002/189.pdf.

98. Осовский С. Нейронные сети для обработки информации. - М.: Финансы и статистика, 2002. - 344 с.

99. Погодаев А. К., Блюмин С. Д., Сараев П. В. Нейроструктурное моделирование: некоторые результаты и направления развития // Вести ВУЗов Черноземья. - 2012. - № 4(30). - С. 30-37.

100. Погодаев А. К., Сараев П. В., Тарнакина М. Н. Псевдообращение и численный метод дифференцирования псевдообратных матриц в обучении нейросетевых моделей // Системы управления и информационные технологии. - 2011.-№ 4.1 (46).-С. 166-170.

101. Погодаев А. К., Сараев П. В., Татаринов Е. П. Универсальное информационное и программное обеспечение для аналитической обработки данных // Информационные технологии моделирования и управления. -2010. - № 4 (63). - С. 543-550.

102. Поляк Б. Т. Введение в оптимизацию. - М.: Наука, 1983. - 384 с.

103. Пупков К. А., Капалин В. И., Ющенко А. С. Функциональные ряды в теории нелинейных систем. - М.: Наука, 1976. - 448 с.

104. Сараев П. В. Алгоритмические реализации метода Голуба-Перейры // Тезисы докладов Молодежной научно-технической конференции вузов центральной России. - Брянск: Издательство БГУ, 2000. - С. 7-8.

105. Сараев П. В. Использование псевдообращения в задачах обучения искусственных нейронных сетей // Электронный журнал «Исследовано в России»,- 2001.- Т. 29.- С. 308-317,-http://zhurnal.ape.relarn.ru/articles/2001/029.pdf.

106. Сараев П. В. Метод Голуба-Перейры для задач снижения размерности // Нейроинформатика и ее приложения: Материалы IX Всероссийского семинара. - Красноярск: ИПЦ КГТУ, 2001. - С. 173-174.

107. Сараев П. В. Принятие решений на основе обученных нейронных сетей прямого распространения // Сборник научных трудов преподавателей и сотрудников, посвященный 45-летию ЛГТУ. - Липецк: ЛГТУ, 2001.-С. 59-61.

108. Сараев П. В. Исследование эффективности алгоритмов обучения нейронных сетей // Нейроинформатика и ее приложения: Материалы X Всероссийского семинара. - Красноярск: ИПЦ КГТУ, 2002. - С. 120-122.

109. Сараев П. В. Моделирование и разработка численных методов обучения нейронных сетей суперпозиционной линейно-нелинейной структуры: Дисс. на соискание ученой степени канд. техн. наук. - Липецк, 2002.- 151 с.

110. Сараев П. В. Обучение искусственных нейронных сетей: учет линейно-нелинейной структуры // Вестник молодых ученых.- 2002.- Т. 12, № 2. - С. 45-51.

111. Сараев П. В. Применение нейронных сетей для управления ценовой политикой предприятия // Сборник трудов V научно-практического семинара «Новые информационный технологии». - М.: МГИЭМ, 2002.-С. 40-48.

112. Сараев П. В. Обучение нейро-нечетких систем структуры ANFIS с учетом линейно-нелинейной по параметрам структуры // Нейроинформати-ка и ее приложения: Материалы XI Всероссийского семинара. - Красноярск: ИПЦ КГТУ, 2003.- С. 146-147.

113. Сараев П. В. Снижение размерности пространства оптимизируемых весов при обучении искусственных нейронных сетей прямого распространения // Перспективные информационные технологии и интеллектуальные системы,- 2003,- Т. 2 (14).- С. 4-8.-http://pitis.tsure.ru/Journall4.htm.

114. Сараев П. В. Теоретические основы конструирования гибридных нейро-нечетких структур // Методы и модели искусственного интеллекта: Сборник научных трудов семинара. - Липецк: ЛГТУ, 2003. - С. 91-104.

115. Сараев П. В. Функциональное наполнение программного комплекса для нейросетевого моделирования // Современные проблемы информатизации в непромышленной сфере и экономике: Сборник трудов (выпуск 8) по итогам VIIT международной открытой научной конференции. - Воронеж: Центрально-Черноземное книжное издательство, 2003. - С. 115116.

116. Сараев П. В. Нейросетевое моделирование и управление ценовой политикой // Системы управления и информационные технологии. - 2004. -№ 1 (13).- С. 37-41.

117. Сараев П. В. Проектирование универсальной структуры реляционного хранилища данных // Сборник трудов VII научно-практического семинара «Новые информационные технологии», - М.: МГИЭМ, 2004,-С. 153-160.

118. Сараев П. В. Понейронное обучение двухслойных нейронных сетей на основе минимизации модифицированного функционала // Нейроинфор-матика и ее приложения: Материалы XIII Всероссийского семинара. -Красноярск: ИПЦ КГТУ, 2005. - С. 101-103.

119. Сараев П. В. Нейросетевое управление в экономической деятельности коммерческих организаций // Управление большими системами. -2006.-Т. 14.-С. 147-158.

120. Сараев П. В. Применение методов интервального анализа в обучении нейронных сетей // Искусственный интеллект. Интеллектуальные и многопроцессорные системы-2006. Материалы Седьмой Международной научно-технической конференции. - Т. 2. - Таганрог: Изд-во ТРТУ, 2006,- С. 216-220.

121. Сараев П. В. Концепция универсального подхода к анализу данных информационных систем // II школа-семинар молодых ученых «Управление большими системами»: Сборник трудов II конференции.- Т. 1.-Воронеж: Научная книга, 2007,- С. 182-189.

122. Сараев П. В. Многошаговое оптимальное управление на основе ней-росетевых моделей динамических систем // Теория активных систем: Труды международной научно-практической конференции. - Т. 1.- М.: ИПУ РАН, 2007. - С. 287-291.

123. Сараев П. В. Нейронные сети: многоэкстремальность и глобальная оптимизация // IX Всероссийская научно-техническая конференция «Нейроинформатика-2007»: Сборник научных трудов. - № 3. - М.: МИФИ, 2007,- С. 144-151.

124. Сараев П. В. Нейросетевые методы искусственного интеллекта: Учебное пособие. - Липецк: ЛГТУ, 2007. - 64 с.

125. Сараев П. В. Глобальное обучение нейронных сетей // III Всероссийская молодежная конференция по проблемам управления (ВМКПУ' 2008): Труды. - М.: ИПУ РАН, 2008. - С. 277-278.

126. Сараев П. В. Исследование эффективности интервальных алгоритмов обучения нейронных сетей // V Всероссийская школа-семинар молодых ученых «Управление большими системами»: Сборник трудов. - № 2. -Липецк: ЛГТУ, 2008,- С. 140-144.

127. Сараев П. В. Комбинирование интервальных методов и псевдообращения в глобальном обучении нейронных сетей // X Всероссийская научно-техническая конференция «Нейроинформатика-2008»: Сборник научных трудов. - № 2. - М.: МИФИ, 2008. - С. 208-215.

128. Сараев П. В. Многошаговое оптимальное нейросетевое управление // Проблемы управления. - 2008. - Т. 5. - С. 14-18.

129. Сараев П. В. Проектирование баз данных: универсальность против предметно-ориентированности // V Всероссийская школа-семинар молодых ученых «Управление большими системами»: Сборник трудов. -№ 2,-Липецк: ЛГТУ, 2008,- С. 118-123.

130. Сараев П. В. Алгоритмы псевдообращения матриц в моделировании: вычислительные аспекты // VI Всероссийская школа-семинар молодых ученых «Управление большими системами»: Сборник трудов. - № 1.-Ижевск: ООО Информационно-издательский центр «Бон Анца», 2009. -С. 306-312.

131. Сараев П. В. Программное обеспечение для исследования методов гарантированной параметрической идентификации // VIII Международная конференция «Идентификация систем и задачи управления» SICPRO'09: Труды. - М.: ИПУ РАН, 2009. - С. 573-577.

132. Сараев П. В. Гарантированная интервальная оптимизация в конструктивном построении нейросетевых моделей // Вторая традиционная всероссийская молодежная летняя школа «Управление, информация и оптимизация». - М.: ИПУ РАН, 2010. - С. 144-151.

133. Сараев П. В. Исследование псевдообращения матриц в математическом пакете Maple // XI Международная научная конференция, посвященная

70-летию профессора В.П. Дьяконова «Системы компьютерной математики и их приложения»: Материалы. - № 11. - Смоленск: Изд-во Смол-ГУ, 2010.-С. 62-65.

134. Сараев П. В. Исследование эффективности рекуррентного алгоритма Клайна блочного псевдообращения матриц // Вести ВУЗов Черноземья. - 2010.- № 3 (21).- С. 48-53.

135. Сараев П. В. Нелинейный метод наименьших квадратов и блочные рекуррентно-итерационные процедуры в обучении нейронных сетей // Управление большими системами. - 2010. - Т. 30. - С. 24-34.

136. Сараев П. В. Обобщающая способность нейронных сетей прямого распространения // VII Всероссийская школа-конфереция молодых ученых «Управление большими системами»: Сборник трудов. - Т. 2. - Пермь: Пермский государственный технический университет, 2010.- С. 346355.

137. Сараев П. В. Обучение нейронных сетей прямого распространения на основе декомпозиции вектора весов и псевдообращения // Нейрокомпьютеры: разработка, применение. - 2010. - Т. 1. - С. 65-74.

138. Сараев П. В. Идентификация нейросетевых моделей: Монография. - Липецк: ЛГТУ, 2011.- 94 с.

139. Сараев П. В. Интеллектуальные методы в оперативной аналитической обработке данных // Современные проблемы информатизации в экономике и обеспечении безопасности: : Сборник трудов. - № 16. - Воронеж: Научная книга, 2011.- С. 120-122.

140. Сараев П. В. Комплекс программ для аналитической обработки информации на основе универсального хранилища данных // Системы управления и информационные технологии. - 2011. - № 3.1 (45). - С. 194-199.

141. Сараев П. В. Система поддержки принятия решений на основе последовательного подхода к анализу данных в крупномасштабных производствах // Пятая международная конференция «Управление развитием крупномасштабных систем» (МЬ8В'2011): Материалы, - Т. 2.- М.: ИПУ РАН, 2011. - С. 287-289.

142. Сараев П. В. Численные методы интервальной оптимизации в нейросе-тевом моделировании // Вести ВУЗов Черноземья. - 2011.- № 2(24).-С. 30-34.

143. Сараев П. В. Глобальное обучение нейроструктурных моделей на основе интервальных методов. - М.: Роспатент, 2012,- № 2012619533 от 22.10.2012.

144. Сараев П. В. Интервальное псевдообращение // Современные проблемы информатизации в анализе и синтезе программных и телекоммуникационных систем: Сборник трудов. - № 17.- Воронеж: Научная книга, 2012,- С. 279-281.

145. Сараев П. В. Интервальный алгоритм Гревиля для оценивания интервальных псевдообратных матриц // Системы управления и информационные технологии. - 2012. - № 2.2 (48). - С. 289-293.

146. Сараев П. В. Конструктивный подход построения нейроструктурных моделей на основе блочного псевдообращения // Вестник ВГТУ. -2012. - Т. 8, № 7-1. - С. 46-49.

147. Сараев П. В. Нейроструктурное моделирование. - М.: Роспатент, 2012. -№ 2012619586 от 24.10.2012.

148. Сараев П. В. Нелинейные нейронные сети Вольтерра в моделировании динамических систем // Современные проблемы информатизации в экономике и обеспечении безопасности: Сборник трудов, - № 17.- Воронеж: Научная книга, 2012,- С. 101-103.

149. Сараев П. В. Оптимальное управление с упреждением на основе методов нейроструктурного моделирования // Материалы IX Всероссийской школы-конференции молодых ученых «Управление большими системами». - Т. 1. - Липецк: Изд-во Першина Р.В., 2012. - С. 88-94.

150. Сараев П. В. Развитие нейросетевого моделирования сложных систем на основе нейроструктурного подхода // Вести ВУЗов Черноземья. — 2012. — № 2(28). - С. 30-35.

151. Сараев П. В. Численные методы оптимизации на основе псевдообращения в нейросетевом моделировании // Молодежь в науке'2011: прил. к журн. «Весщ Нацыянальнай акадэмп навук БеларусЬ). В 5 ч. - 2012. — С. 41-46.

152. Сараев П. В., Горяинов А. А. Нейросетевое моделирование эффективности 8ЕЬЕСТ-запросов в базы данных. - М.: ОФАП ВНТИЦ, 2008.-№ 50200801493 от 24.06.2008.

153. Сараев П. В., Королев А. С. Распределенная гарантированная идентификация нейросетевых моделей // Международной научно-технической конференции «Многопроцессорные вычислительные и управляющие системы» (МВУС-2009): Материалы. - Т. 2. - Таганрог: Изд-во ТТИ ЮФУ, 2009.-С. 130-133.

154. Сараев П. В., Сеньковская И. С. Нейросетевой анализ данных,- М.: ФАП ВНТИЦ, 2011.-№ 50201150612 от 06.05.2011.

155. Сараев П. В., Сяглова Ю. Е. Анализ эффективности выбора функций активации в нейросетевом прогнозировании // Системы управления и информационные технологии. - 2012. - № 3.1 (49). - С. 165-169.

156. Сараев П. В., Сяглова Ю. Е. Система нейросетевого прогнозирования // Современные сложные системы управления X НТС8-2012: Материалы Международной научно-технической конференции. - Старый Оскол: ТНТ, 2012,- С. 161-164.

157. Сараев П. В., Тарнакина М. Н. Численный метод дифференцирования взвешенных псевдообратных матриц // Вести ВУЗов Черноземья. -2012.-№ 3(29).-С. 44^16.

158. Сеньковская И. С., Сараев П. В. Автоматическая кластеризация в анализе данных на основе самоорганизующихся карт Кохонена // Вестник Магнитогорского государственного технического университета им. Г.И. Носова.-2011.-Т. 2.-С. 78-79.

159. Серебренников М. Г., Первозванский А. А. Выявление скрытых перио-дичностей. - М.: Наука, 1965. - 244 с.

160. Сокольских М. Ю., Сараев П. В. Разработка модели распределенного программного обеспечения для выполнения вычислений на заданном интервале на базе архитектуры клиент/сервер // Вторая Международная научно-техническая конференция «Компьютерные науки и технологии»: Сборник трудов. - Белгород: ООО «ГиК», 2011.- С. 127-130.

161. Сяглова Ю. Е., Сараев П. В. Нейросетевое прогнозирование динамических систем, - М.: ФАП ВНТИЦ, 2011. - № 50201151568 от 21.12.2011.

162. Сяглова Ю. Е., Сараев П. В. Функциональное наполнение системы ней-росетевого прогнозирования // Моделирование и анализ информационных систем: Сборник трудов Международной конференции.- Ярославль: Изд-во Ярославского государственного университета им П.Г. Демидова, 2012,- С. 168-170.

163. Тарасевич В. М. Ценовая политика предприятия. - СПб.: Питер, 2001. -272 с.

164. Тарасик В. П. Математическое моделирование технических систем.-Минск: ДизайнПРО, 1997. - 640 с.

165. Татаринов Е. П., Сараев П. В., Погодаев А. К. Система администрирования универсального хранилища данных. Интеллектуальная информационно-аналитическая система.- М.: ФАП ВНТИЦ, 2010. — № 50201000877 от 02.06.2010.

166. Терехов В. А., Ефимов Д. В., Тюкин И. Ю. Нейросетевые системы управления. - М.: Высшая школа, 2002. - 183 с.

167. Трояновский В. М. Математическое моделирование в менеджменте.-М.: Русская деловая литература, 1999. - 240 с.

168. Универсальный искусственный интеллект и экспертные системы / Под ред. В. Н. Ручкин, В. А. Фулин. - СПб.: БХВ-Петербург, 2009. - 240 с.

169. Уоссермен Ф. Нейрокомпьютерная техника, - М.: Мир, 1992.- 184 с.

170. Хайкин С. Нейронные сети: полный курс. - М.: Издательский дом «Вильяме», 2006,- 1104 с.

171. Хехт-Нильсен Р. Нейрокомпьютинг: история, состояние, перспективы // Открытые системы. - 1998. - № 4-5. - С. 11-19.

172. Химмельблау Д. Прикладное нелинейное программирование. - М.: Мир, 1975.- 534 с.

173. Хоббс JL, Хилсон С., Лоуенд Ш. Oracle9i: разработка и эксплуатация хранилищ баз данных. - М.: Кудиц-Образ, 2004. - 592 с.

174. Шарый С. П. Конечномерный интервальный анализ, - 2010.- 603 с.-http://www-sbras.nsc.ru/interval/Library/InterBook/SharyBiik.pdf.

175. Шевцов Г. С., Крюкова О. Г., Мызникова Б. И. Численные методы линейной алгебры: Учебное пособие.- М.: Финансы и статистика, ИНФРА-М, 2008. - 480 с.

176. Шокин Ю. И. Интервальный анализ. - Новосибирск: Сибирское отделение изд-ва «Наука», 1981.- 112 с.

177. Яхъяева Г. Э. Нечеткие множества и нейронные сети, - М.: ИНТУИТ; БИНОМ. Лаборатория знаний, 2011.- 320 с.

178. Ben-Israel A., Greville Т. N. Generalized inverses: theory and applications. -New York: Springer, 2003.- 384 pp.

179. Blyumin S. L., Saraev P. V. Reduction of adjusting weights space dimension in feedforward artificial neural networks training // IEEE International Conference on Artificial Intelligence Systems: Proceedings. - 2002. -Pp. 242-247.

180. Dayan P., Abbott L. F. Theoretical neuroscience; Computational and Mathematical Modeling of Neural Systems. - The MIT Press; Cambridge, Massachusetts; London, England, 2001. - 432 pp.

181. de Weerdt E., Chu Q. P., Mulder J. A. Neural Network Global Optimization Using Interval Analysis // 27th Benelux Meeting on Systems and Control. -Heeze, The Netherlands: Netherlands Organisation for Scientific Research, 2008.-P. 162.

182. de Weerdt E., Chu Q. P., Mulder J. A. Neural Network Output Optimization Using Interval Analysis // IEEE Transacions on Neural Networks. - 2009. -Vol. 20, No. 4.-Pp. 638-653.

183. Decell H. P., Kahng S. W. An Iteratve Method for Computing the Generalized Inverse of a matrix: Tech. Rep. Technical report No D-3464: National Aeronautics and Space Administration, 1966. — http://www.uivt.cas.cz/ics/reports/vl073-10.pdf.

184. Duch W., Korczak J. Optimization and Global Minimization Methods Suitable for Neural Networks: Tech. Rep. KMK UMK Technical Report 1/99: Neural Computing Surveys, 1998.-http://citeseerx.ist.psu.edu/viewdoc/summary?doi=10.1.1.1.6312.

185. Fahlman S. E., Lebiere C. The Cascade-Correlation learning Architecture: Tech. Rep. Technical report CMU-CS-90-100: School of Computer Science, Carnegie Mellon University, 1991.-citeseer.ist.psu.edu/williamson99sample.html.

186. Frank R., Davey N., Hunt S. Time Series Prediction and Neural Networks // Journal of Intelligent and Robotic Systems. - 1999. - Vol. 31. - Pp. 91-103.

187. Fuller R. Introduction to Neuro-Fuzzy Systems.- Berlin/Heildelberg: Springer-Verlag, 2000. - 289 pp.

188. Gay D. M., Kaufman L. Tradeoffs in Algorithms for Separable Nonlinear Least Squares // Proceedings of the 13th World Congress on Computational and Applied Mathematics. - 1991,-Pp. 157-158.

189. Golub G. H., Pereyra V. The Differentiation of Pseudo-Inverses and Nonlinear Least Squares Problems Whose Variables Separate // SIAM J. Num. Anal. - 1973. - Vol. 10. - Pp. 413^132.

190. Golub G. H., Pereyra V. Separable Nonlinear Least Squares: the Variable Projection Method and Its Applications // Inverse Problems.- 2003.-No. 19.-Pp. 1-26.

191. Hansen E., Walster G. W. Global optimization using interval analysis. - New York: Marcel Dekker, 2003.-492 pp.

192. Hansen E. R. Global Optimization Using Interval Analysis: The One-Dimensial Case // Journal of Optimization Theory and Applications. -1979,-Vol. 29, No. 3.-Pp. 331-344.

193. Hansen E. R. Global Optimization Using Interval Analysis - The Multi-Dimensial Case // Numerical Mathematics. - 1980. - Vol. 34. - Pp. 247-270.

194. Hu C. A Parallel Software Package for Nonlinear Global Optimization // Proceedings of the 5th International Conference on Optimization: Techniques and Applications. - Hong Kong: 2001. - Pp. 1030-1037.

195. Hu C., Xu S., Yang X. A Review on Interval Computation - Software and Applications // International Journal of Computational and Numerical Analysis and Applications. - 2002. - Vol. 1, No. 2.- Pp. 149-162.

196. Inmon W. Building the Data Warehouse. - New York: Willey, 2005. - 543 pp.

197. Iwaarden R. J. V. An improved unconstrained global optimization algorithm: PhD thesis. - Denver: University of Colorado, 1996. - 120 pp.

198. Kaufman L. A Variable Projection Method for Solving Separable Nonlinear Least Squares Problems // BIT. - 1975. - Vol. 15. - Pp. 49-57.

199. Kaufman L., Pereyra V. A Method for Separable Nonlinear Least Squares Prolems With Separable Nonlinear Equality Constraints // SIAM J. Num. Anal. - 1978.-Vol. 15.-Pp. 12-20.

200. Kearfott R. B. Rigorous global search: continuous problems.- Dordrecht, Netherlands: Kluwer Academic Publishers, 1996.- 263 pp.

201. Kwok T.-Y., Yeung D.-Y. A Theoretically Sound Learning Algorithm for Constructive Neural Networks: Tech. Rep. Technical report: Hong Kong University of Science and Technology, 1995. — citeseer.ist.psu.edu/williamson99sample.html.

202. Kwok T.-Y., Yeung D.-Y. A Theoretically Sound Learning Algorithm for Constructive Neural Networks: Tech. Rep. Technical report HKUST-CS95-43: Hong Kong University of Science and Technology, 1995. — citeseer.ist.psu.edu/williamson99sample.html.

203. Kwok T.-Y., Yeung D.-Y. Constructive Algorithms for Structure Learning in Feedforward Neural Networks for Regression Problems // IEEE Transactions on Neural Networks. - 1999. - citeseer.ist.psu.edu/williamson99sample.html.

204. Liu M. Interval Standard Neural Network Models for Nonlinear Systems // Journal of Zhejiang University SCIENCE A. - 2006. - No. 7(4). - Pp. 530538.

205. Minakuchi H., Kai H., Shirayanagi K., Noda M.-T. Algorithm stabilization techniques and their application to symbolic computation of generalized inverses // Electronic Proc. of the IMACS Conference on Applications of Computer Algebra (IMACS-ACA'97). - Hong Kong: 1997. -http://citeseerx.ist.psu.edu/viewdoc/summary?doi=10.1.1.137.8604.

206. Moore E. On the Reciprocal of the General Algebraic Matrix // Bulletin of the American Mathematical Society. - 1920. - Vol. 26. - Pp. 394-395.

207. Moore R. E. Methods and Applications of Interval Analysis. - Philadelphia: SIAM, 1979,- 190 pp.

208. Moore R. E., Kearfott R. B., Cloud M. J. Introduction to Interval Analysis. -Philadelphia: SIAM, 2009. - 235 pp.

209. Nauck D. Neuro-fuzzy systems: review and prospects.- fuzzy.cs.uni-magdeburg.de/ nauck.

210. Nirmala T., Datta D., Kushwaha H. S., Ganesan K. Inverse Interval Matrix: A New Approach // Applied Mathematical Sciences. - 2011. - Vol. 5, No. 13. -Pp. 607-624.

211. On Interval Weighted Three-Layer Neural Networks / M. Beheshti, R. Berrached, A. de Korvin et al. // Proceedings of the 31st Annual Simulation Symposium. - Boston, MA, USA: 1998. - Pp. 188-195.

212. Penrose R. A Generalized Inverse of Matrices // Proceedings of the Cambridge Philosophical Society. - 1955.- Vol. 51,- Pp. 406^13.

213. Pereyra V., Schere G., Wong F. Variable Projections Neural Networks Training // Proceedings of the Fifth PanAmerican Workshop «Mathematics and Computers in Simulation». - 2006. - Vol. 73, No. 1-4. - Pp. 231-243.

214. Pseudo Periodic Synthetic Time Series Data Set // UCI Machine Learning Repository. - http://archive.ics.uci.edu/ml/.

215. Ratz D., Csendes T. On the Selection of Subdivision Directions in Interval Branch-and-Bound Methods for Global Optimization // Journal of Global Optimization. - 1995.-Vol. 7.-Pp. 183-207.

216. Rohn J. Inverse Interval Matrix // SIAM J. Num. Anal.- 1993.- Vol. 30, No. 3.-Pp. 864-870.

217. Rohn J. Inverse Interval Matrix: A Survey: Tech. Rep. Technical report No V-1073: Institute of Computer Science, Academy of Science of the Czezh Republic, 2010. - http://www.uivt.cas.cz/ics/reports/vl073-10.pdf.

218. Rossi F., Conan-Guez B. Multilayer Perceptron on Interval Data // Classification, Clustering, and Data Analysis (IFCS 2002) / Ed. by A. S. K. Jajuga, H.-H. Bock.- Cracow, Poland: Springer, 2002. —July. -Pp. 427-434. - http://apiacoa.org/publications/2002/ifcs02.pdf.

219. Sanquing H., Wang J. Global Robust Stability of a Class of Discrete-Time Interval Neural Networks // IEEE Transactions on circuits and systems.-2006,-Vol. 53, No. l.-Pp. 129-138.

220. Saraev P. Interval Pseudo-Inverses: Computation and Applications // 15th GAMM-IMACS International Symposium on Scientific Computing, Computer Arithmetic and Verified Numerics SCAN-2012: Book of abstracts.- Novosibirsk: Institute of Computational Technologies, 2012.-Pp. 153-154.

221. Saraev P. V. Numerical methods of interval analysis in learning neural network // Automation and Remote Control.- 2012.- Vol. 73, No. 11.— Pp. 1865-1876.

222. Shang Y., Wah B. W. Global Optimization for Neural Network Training // IEEE Computer. - 1996. - Vol. 29, No. 3. - Pp. 45-54.

223. Shary S. P. A Surprising Approach in Interval Global Optimization // Reliable Computing. - 2001. - No. 7. - Pp. 497-505.

224. Shinozaki N., Sibuya M., Tanabe K. Numerical algorithms for the Moore-Penrose inverse of a matrix: direct methods // Annals of the Insitute of Statistical Mathematics. - 1972. - Vol. 24, No. 1. - Pp. 193-203.

225. Shinozaki N., Sibuya M., Tanabe K. Numerical algorithms for the Moore -Penrose inverse of a matrix: iterative methods // Annals of the Insitute of Statistical Mathematics. - 1972. - Vol. 24, No. 1. - Pp. 621-629.

226. Tian Y. The Moore-Penrose inverses of m x n block matrices and their applications // Linear Algebra and its Applications.- 1998,- Vol. 283.-Pp. 35-60.

227. Zhang X., Cai J., Wei Y. Interval Iterative Methods for Computing Moore-

Penrose Inverse: Tech. Rep. 1: 2006. Личный вклад автора в работах, опубликованных в соавторстве:

[158] - алгоритмы автоматического определения количества кластеров; [100] -численный метод обучения нейросетевых моделей и исследование эффективности алгоритмов псевдообращения; [157] - алгоритм взвешенного псевдообращения; [155] - алгоритм применения функций активации и конструктивного построения нейросетевых моделей; [99] - анализ нейроструктурного подхода в математическом моделировании; [37] - численный метод идентификации нейро-нечетких систем; [29,30, 106, 179] - класс численных методов обучения на основе линейно-нелинейного соотношения; [32] - блочные рекуррентно-итерационные процедуры для конструктивного построения нейросетевых моделей; [23] - методика анализа эффективности запросов в базах данных на основе нейросетевых моделей; [101, 141] - структура комплекса программ для анализа данных в информационных системах; [24, 25] -структура универсального хранилища данных; [36] - новый класс нейро-структурных моделей; [156] - алгоритмы нейросетевого прогнозирования;

[71,153,160] - алгоритм распределенного метода обучения; [31] - алгоритм адаптации весов моделей; [33] - подход к представлению качественной информации в нейросетевых моделях; [26] - анализ применения нейросетевых моделей в управлении энергоснабжением; [156,162] - алгоритм конструктивного построения моделей; [27] - анализ применимости методов обучения в зависимости от характеристик задач; [34,35,90,152,154,161] - классы, алгоритмы построения и методы обучения нейросетевых моделей; [165] - структура хранилища данных и алгоритм последовательного анализа данных.