Системный анализ, методы и модели построения интеллектуальных систем принятия решений при управлении сложными организационно-техническими комплексами тема диссертации и автореферата по ВАК РФ 05.13.01, кандидат наук Долинина, Ольга Николаевна

• Долинина, Ольга Николаевна
• кандидат наук
• 2017

Оглавление диссертации кандидат наук Долинина, Ольга Николаевна

Введение

Глава 1. Проблема повышения качества программного обеспечения интеллектуальных систем принятия решения при построении сложных

организационно-технических комплексов

1.1 Анализ существующего состояния дел (проблем) в области разработки интеллектуальных систем принятия решения

в сложных организационно-технических комплексах

1.2. Методологические основы повышения качества программного обеспечения интеллектуальных систем принятия решения

1.3 Анализ моделей и методов повышения качества программного обеспечения интеллектуальных систем принятия решения

1.4 Классификация интеллектуальных систем принятия решения

1.4.1 Актуальность продукционной модели знаний

в интеллектуальных системах

1.4.2 Актуальность искусственной нейронной сети, основанной

на трехслойном персептроне, в интеллектуальных системах

1.5. Основные этапы жизненного цикла интеллектуальных систем

принятия решения

1.6 Анализ существующих методов отладки программного обеспечения интеллектуальных систем принятия решения

1.6.1 Анализ существующих методов

статического анализа баз знаний

1.6.2 Анализ существующих методов тестирования баз знаний

1.7. Выводы

Глава 2. Модели и методы повышения качества программного обеспечения

интеллектуальных систем

2.1 Общая постановка задачи повышения эффективности функционирования человеко-машинной системы

по векторному критерию

2.2 Постановка задачи повышения качества программного обеспечения интеллектуальных систем

2.3. Основные этапы решения задачи

2.4 Модели и алгоритмы формирования дерева событий, используемого при анализе качества программного обеспечения интеллектуальных систем

2.5 Модели и алгоритмы проверки выполнимости плана операций по повышению качества программного обеспечения

интеллектуальных систем

2.5.1 Проверка выполнимости плана операций с помощью аппарата булевых функций и продукционных моделей

2.5.2 Определение вероятности выполнения плана операций с помощью дифференциальных уравнений

Колмогорова - Чепмена

2.6. Выводы

Глава 3. Разработка моделей и методов системной динамики для повышения качества программного обеспечения при проектировании и эксплуатации интеллектуальных систем

3.1 Постановка задачи, ограничения и допущения

3.2 Общий подход к решению

3.3 Разработка модели системной динамики для проверки выполнимости плана операций по повышению надежности функционирования программного обеспечения интеллектуальной системы

3.3.1 Определение внешних факторов

3.3.2 Формирование графа причинно-следственных связей

3.3.3 Формирование системы дифференциальных уравнений

3.4. Выводы

Глава 4. Повышение качества программного обеспечения на основе предложенной методологии отладки баз знаний интеллектуальных систем принятия решения

4.1 Общий подход к разработке методологии отладки баз знаний

4.2 Классификация ошибок в продукционных базах знаний

4.2.1 Формальные модели ошибок в продукционных базах знаний

4.3 Модели ошибки продукционной базы знаний, связанные

с противоречивостью предметной области

4.3.1 Ошибки типа «забывание об исключении»

4.3.2 Ошибки типа «критическое сочетание событий»

4.4 Модели ошибок нейросетевых интеллектуальных систем принятия решения

4.5 Методы отладки баз знаний на основе

разработанных моделей ошибок

4.5.1 Метод отладки продукционной базы знаний

4.5.2 Метод отладки нейросетевой базы знаний

4.6 Выводы

Глава 5. Методы тестирования баз знаний интеллектуальных систем принятия решения на основе предложенной методологии

5.1 Разработка метода тестирования продукционных баз знаний

5.1.1 Построение полного множества тестов продукционной базы знаний на основе модернизированного алгоритма PODEM

5.1.2 Алгоритм формирования полного множества тестов продукционной базы знаний

5.1.3 Пример построения тестов

5.2 Разработка метода тестирования нейросетевых базы знаний

5.2.1 Алгоритм преобразования нейросетевой информационной структуры к виду решающих правил

5.2.2 Пример построения тестов нейросетевой базы знаний ИСПР.. 300 5.2.3. Метод генерации полного тестового множества нейросетевой ИСПР, обнаруживающего ошибки

типа «забывание об исключении»

5.3 Оценка эффективности разработанного метода генерации тестов

баз знаний ИСПР

5.3.1 Оценка эксплуатационных характеристик разработанных методов построения тестового множества базы знаний ИСПР

5.4 Выводы

Глава 6. Опыт внедрения результатов исследований на промышленных предприятиях и в организациях

6.1. Постановка задачи разработки ИСПР по обнаружению неисправностей газоперекачивающих агрегатов

6.1.1 Постановка задачи диагностики причин

неисправностей ГПА

6.1.2. Описание экспертной системы определения неисправностей газоперекачивающих агрегатов

6.2. Разработка ИСПР для прогноза комплаентности в офтальмологии

6.2.1 Актуальность решения задачи прогноза компланентности

6.2.2 Особенности реализации нейросетевой ИСПР прогнозирования комплаентности

6.2.3 Структура нейросетевой ИСПР прогнозирования комплаентности

6.2.4 Основные функции нейросетевой ИСПР прогноза комплаентности

6.2.5 Результаты тестирования и внедрения нейросетевой ИСПР прогноза комплаентности

6.3 Разработка интеллектуальной системы принятия решения

в области неотложной кардиологии

6.3.1 Актуальность решения задачи разработки ИСПР

по неотложной кардиологии

6.3.2. Особенности предметной области неотложной кардиологии .... 384 6.3.3 Модель представления знаний в ИСПР по неотложной

кардиологии

6.3.4. Результаты тестирования и внедрения ИСПР

по неотложной кардиологии

6.4 Подтверждение достоверности разработанного математического обеспечения на примере интеллектуальной системы по обнаружению неисправностей газоперекачивающих агрегатов

6.4.1 Общий подход к анализу достоверности разработанного математического обеспечения

6.4.2 Проверка выполнимости плана операций по обеспечению требуемого качества функционирования программного обеспечения

интеллектуальной системы, используемой для обнаружения неисправностей газоперекачивающих агрегатов

6.4.3 Проверка выполнимости плана операций с помощью продукционных моделей

6.4.4 Определение вероятности выполнения плана операций

при критическом сочетании событий

6.5 Использование результатов диссертационной работы в учебно-методическом комплексе высшего образования

Заключение

Список использованной литературы

Приложение

Приложение

Приложение

Приложение

Приложение

Приложение

Приложение

Приложение

Приложение

Введение диссертации (часть автореферата) на тему «Системный анализ, методы и модели построения интеллектуальных систем принятия решений при управлении сложными организационно-техническими комплексами»

ВВЕДЕНИЕ

Актуальность темы. Повышение степени интеллектуализации задач, увеличивающаяся сложность управления современными системами в промышленности, экономике, социальной сфере, их взаимная интеграция, увеличение числа слабоформализуемых задач, использование интеллектуальных систем (ИС) в принятии решения в областях, имеющих повышенные требования к надежности, например в области повышения безопасности авиационных и космических полетов, обеспечения бесперебойной работы приборов и устройств в энергетике, принятия решений в медицине и других важных для народного хозяйства областях, требуют создания методологии повышения качества интеллектуальных систем принятия решения (ИСПР).

Учитывая то, что интеллектуальные системы принятия решения Указом Президента РФ №899 от 8.07.2011 г. относятся к перечню критических технологий приоритетных направлений, можно говорить не только об актуальности диссертационного исследования, направленного на создание теоретического и методологического базиса повышения качества принятия решения интеллектуальными системами, но и о важном хозяйственном значении этой проблематики.

Увеличение роли интеллектуализации ИСПР, и получение тем самым возможности автоматизации принятия решения в слабоформализуемых областях за счет использования экспертных знаний приводит к возрастанию числа ошибок в программном обеспечении и, как следствие, к возрастанию числа всевозможных источников отказов. В литературе приводятся данные о том, что подобные дефекты вызывают до 70 процентов отказов компьютерных систем в критических и бизнес -критических приложениях в энергетике, ракетно-космической техники, управлении транспортом, банковской деятельности [1-4]. Данная тенденция имеет нарастающую динамику во времени. С 2005 года Отраслевые стандарты 50126, 50128, 50129 CENELEC Европейской

Комиссией по электротехнике дополнены ЯЛЫБ-требованиями к программным системам принятия решения, содержащими выполнение комплексного критерия качества, включающего надежность, доступность, поддержку, безопасность и др.

Качество ИСПР является комплексным многокритериальным показателем, учитывающим не только качество работы каждой подсистемы, но и причинно-следственные взаимодействия элементов системы. Общие принципы и подходы к созданию систем управления сложными системами достаточно широко представлены в работах В.М. Буркова, Д.А. Новикова, О.И. Ларичева, В.А. Ирикова, А.П. Еремеева, А.Ф. Резчикова, Р.И. Макарова, А.Д. Цвиркуна, Р.М. Юсупова, Р. Дорфа, Р. Бишопа и ряда других отечественных и зарубежных ученых. Однако возрастающая сложность современных промышленных и организационно-технических объектов вызывает необходимость использования при управлении ими наряду с традиционными методов искусственного интеллекта, основанных на формальных знаниях по выработке управляющих воздействий. При создании интеллектуальных систем наибольшую сложность представляет работа со знаниями. Методы их извлечения и формализации в настоящее время довольно хорошо проработаны, однако методология организации систем поддержки принятия решений, основанных на них, до сих пор остается недостаточно формализованной, базирующейся исключительно на экспертном подходе, требующем больших временных и финансовых затрат, но не гарантирующем отсутствие ошибок в базе знаний. Методы обеспечения качества базы знаний, являющейся центральной частью интеллектуальной системы, до сих пор не формализованы, не существует единого подхода к решению данной проблемы. Сложность решения данной задачи, по мнению многих специалистов в области системного анализа, связана в первую очередь с наличием у ИСПР таких свойств как противоречивость знаний, эмергентность, активность, неидентичность и др. С другой стороны, процесс интеллектуализации систем управления, поддержки принятия решений

сопровождается существенным увеличением объемов баз знаний, что требует создания эффективных методов контроля качества этой важнейшей составляющей интеллектуальной системы принятия решения.

Отсутствие методологии отладки баз знаний привело в конце девяностых годов ХХ века к тенденции снижения использования ИСПР за счет мнения ряда специалистов по искусственному интеллекту о том, что этапы создания ИСПР не подчиняются требованиям программной индустрии, ориентированной на жизненный цикл и стандарты, и о невозможности формализации процесса отладки баз знаний, основанной только на знаниях экспертов, и, как следствие, - отсутствии способов, гарантирующих обеспечение надежности данного класса систем. Необходимо отметить, что этап отладки является завершающим этапом формирования качества ИСПР.

Попытки решения задачи отладки баз знаний предпринимались как в России, так и за рубежом. Среди работ, посвященных классификации ошибок в базах знаний экспертных систем и их отладки, отметим работы Поспелова И.Г., Поспеловой Л.Я., Зыковой С.А., Нариньяни А., Скотта, Сувы, Нгуэна, Перкинса, Тепанди, Крагуна, Стендела и др. Наибольшего успеха добились исследователи, развивающие методы статической отладки, т.е. не требующей запуска ЭС на выполнение. Однако до сих пор не существует единого подхода к формализации т.н. структурных ошибок, выявляемых методами статической отладки: избыточность, неполнота, противоречивость. Статически корректные базы знаний не гарантируют качества принимаемых решений за счет ошибок в самих знаниях, часто связанных со сложностью самой предметной области, допускающей дублирующие системы рассуждений. Наиболее сложными для обнаружения являются ошибки типа «забывание об исключении», «критическое сочетание событий», приводящие к ошибкам в принятии решений, ведущим к большому материальному ущербу и часто к человеческим жертвам. Способом, позволяющим выявить ошибки в знаниях, является тестирование, однако тестирование баз знаний до сих пор

также не формализовано, и существуют лишь отдельные попытки автоматизации построения тестов.

Несмотря на развитие гибридных ИСПР, сочетающих различные виды представления знаний, основу большинства современных систем составляет продукционный подход. Другим развитым способом создания интеллектуальных систем является использование трехслойного персептрона как разновидности искусственных нейронных сетей. Поэтому актуальной проблемой является создание методологии отладки баз знаний, использующих данные формы представления знаний, и таким образом повышения надежности принятия решений интеллектуальными системами.

Среди важных народно-хозяйственных прикладных областей, где объект исследования - сложное многокритериальное техническое устройство, необходимо особо выделить газоперекачивающую отрасль, где ошибки в системе управления могут привести к человеческим жертвам и серьезному материальному ущербу. Системы агрегатной автоматики пока недостаточно точно и достоверно указывают первопричину отказа или возникшей аварийной ситуации. Чаще всего эксплуатационный персонал видит только результат - сработавшую защиту, отклонение параметра, а реальная причина «срабатывания» остается неизвестной. Большое значение, таким образом, имеют человеческий фактор, опытность эксплуатационного персонала, способность анализировать и выявлять потенциально опасные ситуации, обобщать накопленный опыт. В реальных условиях эксплуатации в силу объективных причин рассчитывать на безошибочность действий и принятие решений даже опытным персоналом сложно. Кроме того, целесообразно интегрировать механизмы прогнозирования технического состояния газоперекачивающего агрегата (ГПА) с системой мониторинга, накопленными статистическими данными и опытом эксплуатации, чтобы снизить влияние человеческого фактора и, по возможности, исключить вероятность совершения ошибок. Разработка ИСПР определения причин неисправностей ГПА и представления рекомендаций по устранению причин отказа

оборудования или аварии позволит в значительной мере повысить надежность работы ГПА, сократить простои оборудования.

Все вышеизложенное определяет актуальность темы исследования и позволяет сформулировать цель и задачи исследования.

Целью диссертационной работы является решение важной научно-технической проблемы, заключающейся в разработке математического обеспечения построения интеллектуальных систем принятия решений для сложных организационно-технических комплексов, что позволит обеспечить эффективность и качество их программных средств, корректную работу продукционных и нейросетевых баз знаний, положенных в основу построения этих систем.

Для достижения данной цели необходимо решить следующие задачи:

• выполнить анализ состояния работ в области построения ИСПР, сформировать основные направления исследования в части разработки методологии повышения эффективности и качества их функционирования;

• построить комплекс математических моделей, позволяющих в широком диапазоне интервалов времени получать прогнозные значения основных показателей качества функционирования ИСПР, определить общий подход к построению данного комплекса моделей;

• предложить и обосновать процедуру построения системы нелинейных дифференциальных уравнений, основанную на использовании математического аппарата теории причинно-следственных комплексов и системной динамики Форрестера, для прогнозирования показателей качества программного обеспечения ИСПР;

• разработать модели и алгоритмы формирования плана операций по повышению качества функционирования ПО в виде дерева событий, позволяющие осуществлять построение плана операций для большого множества вершин и дуг;

• выполнить классификацию и формализацию основных типов ошибок в базах знаний ИСПР и установить их связь с надежностью, безопасностью и

другими показателями качества функционирования организационно -технических комплексов;

• разработать подходы к устранению сбоев программного обеспечения ИСПР, включая тестирование их БЗ, позволяющие выявлять сложный класс ошибок - «забывание об исключении»;

• провести апробацию методологии повышения эффективности и качества функционирования ИСПР на примерах реальных объектов.

Реализация разработанных методов и алгоритмов отладки позволит повысить качество интеллектуальных систем принятия решения в сложных организационно-технических комплексах, в том числе для решения проблем диагностики причин неисправностей газоперекачивающих агрегатов, а также в других важных областях.

Научная новизна работы соответствует п. 2, 10, 11, 13 паспорта специальности 05.13.01 «Системный анализ, управление и обработка информации» и заключается в следующем:

1. Выполнена формальная постановка задачи повышения эффективности функционирования ИСПР как задачи векторной оптимизации с ограничениями в виде равенств и неравенств. Установлено, что для ее решения необходимо разработать математические модели, численные методы, алгоритмы и комплексы программ, позволяющие осуществить оптимизацию целевой функции, характеризующей качество программного обеспечения интеллектуальных систем производственного назначения на различных временных интервалах.

2. Установлено, что решение поставленной задачи может быть сведено к синтезу комплексного плана операций по повышению качества программного обеспечения и анализу выполнимости этого плана при различных управляющих воздействиях и состояниях внешней среды. Разработаны модели и алгоритмы синтеза данного плана в виде дерева событий - графа, позволяющего находить пути, приводящие к корневому

событию - вершине дерева и устанавливать минимальное количество комбинаций событий - сечений, которые могут вызвать его.

3. Предложена и обоснована методика проверки выполнимости плана операций с помощью аппарата булевых функций и продукционных моделей, позволяющая представить проверяемый план в виде совокупности дискретных логических структур, единичный сигнал на выходе которых свидетельствует о возможности исполнения плана в заданный момент времени.

4. Разработаны математические модели, позволяющие определить вероятности возникновения неблагоприятных сочетаний событий в процессе реализации плана операций для трех, четырех, пяти и шестиэлементных минимальных сечений, что позволят повысить надежность программного обеспечения интеллектуальных систем. Предложена и обоснована процедура проведения вычислительных экспериментов с математическими моделями минимальных сечений, использованная для подтверждения адекватности разработанного математического обеспечения.

5. На основе использования математического аппарата системной динамики Форрестера, разработана процедура формирования системы нелинейных дифференциальных уравнений, обеспечивающая комплексный учет основных внутренних и внешних факторов и их взаимосвязей, определяющих функционирование интеллектуальных систем принятия решений. Построена система дифференциальных нелинейных уравнений, отражающая изменения характеристик программного обеспечения интеллектуальных систем принятия решений в процессе ее функционирования.

6. Выполнена классификация и формализация основных типов ошибок в продукционных и нейросетевых базах знаний, используемых при построении интеллектуальных систем принятия решений, позволяющая сократить количество моделей ошибок, ограничив его числом выделенных классов. Разработаны подходы к устранению сбоев программного обеспечения интеллектуальных систем принятия решений, а также

тестирования их баз знаний, позволившие выявлять наиболее сложный класс ошибок - «забывание об исключении», приводящих к наибольшему материальному ущербу при функционировании интеллектуальных организационно-технических комплексов.

7. Проведена апробация методологии повышения эффективности и качества функционирования интеллектуальных систем принятия решений на примерах из областей энергетики и медицины.

Основные положения, выносимые на защиту:

1. Формальная постановка задачи повышения эффективности функционирования интеллектуальных систем принятия решений для организационно-технических комплексов, позволяющая выполнить оптимизацию качества программного обеспечения этих систем с учетом взаимосвязи внутренних и внешних факторов, определяющих поведение системы.

2. Подход к решению поставленной задачи, заключающийся в синтезе комплексного плана операций по повышению качества программного обеспечения и анализе реализуемости этого плана при различных управляющих воздействиях и состояниях внешней среды. Построение моделей и алгоритмов синтеза данного плана в виде дерева событий, позволяющего находить пути, приводящие к корневому событию дерева и определять минимальное количество комбинаций событий, которые могут вызвать его.

3. Методика проверки реализуемости плана операций на основе использования аппарата булевых функций и продукционных моделей, позволяющая представить этот план в виде совокупности дискретных логических структур, единичный сигнал на выходе которых указывает на возможность его исполнения.

4. Подход к определению вероятностей возникновения неблагоприятных сочетаний событий на основе решения систем дифференциальных уравнений Колмогорова-Чепмена для трех, четырех, пяти

и шестиэлементных минимальных сечений. Процедура проведения вычислительных экспериментов для подтверждения адекватности разработанного математического обеспечения.

5. Процедура формирования системы нелинейных дифференциальных уравнений, отражающей изменения характеристик программного обеспечения интеллектуальных систем принятия решений в процессе ее функционирования.

6. Классификация и формализация основных типов ошибок в продукционных и нейросетевых базах знаний, позволяющая сократить количество моделей ошибок. Подходы к устранению сбоев программного обеспечения интеллектуальных систем принятия решений, тестирования их баз знаний, обеспечивающие обнаружение наиболее трудного для выявления типа ошибок - «забывание об исключении».

7. Апробация методологии повышения эффективности и качества функционирования интеллектуальных систем принятия решений на примерах из областей энергетики и медицины.

Соответствие работы паспорту специальности

Диссертационная работа вносит вклад в следующие области исследований, перечисленные в паспорте специальности 05.13.01 «Системный анализ, управление и обработка информации»:

1) Формализация и постановка задач системного анализа, оптимизации, управления, принятия решений и обработки информации.

2) Методы и алгоритмы интеллектуальной поддержки при принятии управленческих решений в технических системах.

3) Методы и алгоритмы прогнозирования и оценки эффективности, качества и надежности сложных систем.

4) Методы получения, анализа и обработки экспертной информации.

Теоретическая значимость диссертационного исследования

заключается в разработке концептуальных основ создания интеллектуальных систем принятия решений, а также методов отладки баз знаний ИСПР,

повышающих безотказность функционирования сложных организационно-технических комплексов.

Практическая значимость работы состоит в использовании предложенных методов повышения качества ИСПР для реальных организационно-промышленных комплексов: для интеллектуальных систем диагностики причин неисправностей газоперекачивающих агрегатов компрессорных станций, определения прогноза комплаентности офтальмологических больных, определения прогноза развития неотложных состояний в кардиологии.

Автором диссертации созданы следующие комплексы программ:

• комплекс программ для проведения статической отладки продукционных баз знаний;

• комплекс программ для генерации тестов для продукционных и нейросетевых баз знаний;

• ИСПР GAZDETECT для диагностики неисправностей газоперекачивающих агрегатов компрессорных станций;

• ИСПР для определения прогноза комплаентности офтальмологических больных;

• ИСПР определения прогноза развития неотложных состояний в кардиологии;

• Программа реализации нейросетевого эмулятора NNetwork;

• СВФ-АНАЛИЗ (ЭС прогноза дефектов промышленных изделий).

Автором диссертации были разработаны алгоритмы программ, на

которые получены свидетельства о государственной регистрации программ для ЭВМ, зарегистрированные под № 2016619717, 2014612271, 2014612272, 2011610038, 2013661540, 2007615261.

Разработанные комплексы программ использовались при выполнении исследований госбюджетных НИР Саратовского государственного технического университета (СГТУ) имени Гагарина Ю.А.:

1) Проблема 03В.06. Современные методы обработки многомерных данных и временных рядов (2000-2005 гг.).

2) Проблема 03В.03. Построение методов контроля качества функционирования интеллектуальных систем (2010-2012 гг.).

3) Проект 03В.02. Разработка методов проектирования интеллектуальных систем в слабоформализованных предметных областях для производственных и социально-экономических задач (2013-2015 гг., 20162018 гг.).

4) Федеральная целевая программа «Исследования и разработки по приоритетным направлениям развития научно-технологического комплекса России на 2007-2013 годы», мероприятие 5.3 «Развитие системы демонстрации новых достижений и трансфера передового опыта по проблемам развития науки и инноваций», а также при выполнении исследований по двум международным грантам компании Hewlett Packard. Материалы исследований использованы в учебном процессе при чтении лекций, выполнении курсового и дипломного проектирования студентами кафедры «Прикладные информационные технологии» ФГОУ ВО «СГТУ имени Гагарина Ю.А.», в лекционных курсах Новосибирского государственного университета экономики и управления. Разработанное ПО для тестирования ЭС внедрено и функционирует в СГТУ, ТГТУ, УлГТУ. Созданные ИСПР KORDEX, ЭС Glaukoma Complaint успешно функционируют в клиниках Саратовского государственного медицинского университета им. В.И. Разумовского, НУЗ «Дорожная клиническая больница на станции Саратов-П» ОАО «РЖД»»; ИСПР GASDETECT - на ряде предприятий энергетической отрасли РФ.

Достоверность полученных результатов обеспечивается корректным применением методов исследований, общеизвестных уравнений, методов и подходов, которые строго обоснованы в научной литературе, апробированы и хорошо себя зарекомендовали при проведении научных исследований, и

подтверждается успешным внедрением разработанных алгоритмов, программных средств и ИСПР в различных организациях и предприятиях.

Апробация результатов диссертации

Результаты работы докладывались на международных научных конференциях: «Математические методы в технике и технологиях» - ММТТ-13 (Саратов, 2000); ММТТ-16 (Санкт-Петербург, 2003); ММТТ-17 (Кострома, 2004); ММТТ-21 (Саратов, 2008); ММТТ-22 (Псков, 2009); ММТТ-23 (Саратов, 2010); ММТТ-24 (Саратов, 2011); ММТТ-25 (Харьков, 2012); ММТТ-26 (Н.Новгород, 2013); ММТТ-27 (Саратов, 2014); ММТТ-28 (Саратов, 2015); 4 Международном коллоквиуме IEEE по информационным наукам и технологиям (CIST) (Марокко, 2016); X Международной научно-технической конференции IEEE «Динамика систем, механизмов и машин» (Омск, 2016); Международном совещании UNESCO QED-2016 (Болгария, 2016); Международной научно-технической конференции «Проблемы управления и связи» (Саратов, 2000); международных конференциях по инженерным наукам и образованию ICEE (Чешская Республика, 2004; Венгрия, 2008; Польша, 2010; ЮАР, 2013; Марокко, 2013); III Всероссийской конференции «Инновационные технологии в обучении и производстве» (Камышин, 2005); Всероссийской научной школе-семинаре «Методы компьютерной диагностики в биологии и медицине» (Саратов, 2008); Всероссийской конференции «Проведение научных исследований в области обработки, хранения, передачи данных и защиты информации» (Ульяновск, 2009); Всероссийской научно-практической конференции «Инновации и актуальные проблемы техники и технологий» (Саратов, 2010); Всероссийской конференции «Проблемы управления в социально-экономических и технических системах» (Саратов, 2010-2017); XVIII Всероссийской научно-методической конференции «ТЕЛЕМАТИКА» (С.-Петербург, 2011); Международной конференции «Информационно-коммуникационные технологии в образовании, производстве и научных исследованиях» ICIT (Саратов 2012, 2014, 2016, 2017); Международной конференции по клауд-

вычислениям, обработке больших данных и надежности ICBDT (Индия, 2013); Международной научно-технической конференции «Перспективные информационные технологии (ПИТ)» (Самара, 2014, 2017); Международной конференции по компьютерным наукам CSOC (Жлин, Чешская Республика, 2015, 2017); Международной конференции по компьютерным сетям CN (Брунов, Польша, 2015, 2017); V Международном совещании по компьютерным наукам (Москва, 2015).

Основные публикации

По материалам диссертации опубликовано 56 печатных работ, в том числе 19 статей в ведущих рецензируемых журналах, рекомендованных ВАК РФ, и 7 - в изданиях, индексируемых в международной базе SCOPUS, 2 монографии и 6 свидетельств о государственной регистрации программ для ЭВМ.

Структура и объем диссертации

Диссертация состоит из введения, шести глав, заключения, списка использованной литературы, включающего 339 наименований. Работа изложена на 563 страницах, включая приложения, содержит 205 рисунков и 92 таблицы.

Глава 1. ПРОБЛЕМА ПОВЫШЕНИЯ КАЧЕСТВА ПРОГРАММНОГО ОБЕСПЕЧЕНИЯ ИНТЕЛЛЕКТУАЛЬНЫХ СИСТЕМ ПРИНЯТИЯ РЕШЕНИЯ ПРИ ПОСТРОЕНИИ СЛОЖНЫХ ОРГАНИЗАЦИОННО-ТЕХНИЧЕСКИХ КОМПЛЕКСОВ

1.1 Анализ существующего состояния дел (проблем) в области разработки интеллектуальных систем принятия решения в сложных организационно-технических комплексах

Повышение степени интеллектуализации задач, увеличивающаяся сложность управления современными системами в промышленности, экономике, социальной сфере, их взаимная интеграция, увеличение числа слабоформализуемых задач, повышающиеся требования к качеству принимаемых решений требуют создания методологии повышения качества интеллектуальных систем (ИС) принятия решения (ИСПР). Особое внимание уделяется системам, имеющим повышенные требования к надежности, например в области повышения безопасности авиационных и космических полетов, обеспечения бесперебойной работы приборов и устройств в энергетике, принятия решений в медицине и других важных для народного хозяйства областях.

Учитывая то, что интеллектуальные системы принятия решения Указом Президента РФ №899 от 8.07.2011 г. относятся к перечню критических технологий приоритетных направлений, можно говорить не только об актуальности диссертационного исследования, направленного на создание теоретического и методологического базиса повышения качества принятия решения интеллектуальными системами, но и о важном хозяйственном значении этой проблематики.

Увеличение роли интеллектуализации ИСПР и получение, тем самым, возможности автоматизации принятия решения в слабоформализуемых областях за счет использования экспертных знаний приводит к возрастанию числа ошибок в программном обеспечении и, как следствие, к возрастанию числа всевозможных источников отказов. В

литературе приводятся данные о том, что подобные дефекты вызывают до 70 процентов отказов компьютерных систем в критических и бизнес-критических приложениях в энергетике, ракетно-космической технике, управлении транспортом, банковской деятельности [1-4]. Данная тенденция имеет нарастающую динамику во времени.

Список литературы диссертационного исследования кандидат наук Долинина, Ольга Николаевна, 2017 год

СПИСОК ИСПОЛЬЗОВАННОЙ ЛИТЕРАТУРЫ

1. Besnard D. Structure for Dependability: Computer Based Systems from Interdisciplinary Perspective / D. Besnard, C.Gacek, B. Jones Cliff // Springel Verlag London Limited, 2006. - 304 p.

2. Computer Safety, Reliability and Security. ed. by R. Winther, Biorn A. Gran, G.Dahll // Proc. 24th Intern. Conf. SAFECOMP 2005, Friedrikstadt, Norway, September 28-30, 2005. - 409 p.

3. Бахмач Е.С. Отказобезопасные информационно-управляющие системы на программируемой логике / Е.С. Бахмач, А.Д. Герасименко, В.А. Головир, и др.; под ред. В.С. Харченко, В.В. Скляра. - Национальный аэрокосмический университет «ХАИ», Научно-производственное предприятие «Радий», 2008. -380 с.

4. Laprie J.C. Dependability Handbook / J.C. Laprie // LAAS Report no 98-346. - Toulouse: Laboratory for Dependability Engineering, 1998. - 365 p.

5. Годовые отчеты о деятельности Федеральной службы по экологическому, технологическому и атомному надзору, 2004-2012. - Режим доступа: http://www.gosnadzor.ru/public/annual_reports/ (дата обращения: 06.02.2014).

6. Ревазов А.М. Анализ аварийности на компрессорных станциях магистральных газопроводов / А.М. Ревазов, И.А. Леонович // Проектирование, сооружение и эксплуатация трубопроводного транспорта: труды РГУ нефти и газа имени И.М. Губкина. - 2014. - № 2 (275). - С. 26-32.

7. Дедешко В.Н. Комплексная диагностика и ремонт газопроводов -основа повышения надежности ЕСГ России / В.Н. Дедешко // Одиннадцатая международная деловая встречам «Диагностика 2001». - ИРЦ Газпром, 2001. -С. 9-20.

8. Зарицкий С.П. Автоматизированная система вибромониторинга и диагностики энергомеханического оборудования / С.П. Зарицкий,

Ю.В. Галицкий, А.Н. Стрельченко // Защита: сб. трудов Третьего Международного Конгресса. - ИРЦ Газпром, 1998. - С. 8-13.

9. Острейковский В.А. Развитие теории техногенной безопасности и риска объектов нефтегазовой отрасли / В.А. Острейковский, И.И. Муравьев, Е.Н. Шевченко // Вестник Сургутского государственного университета. Физико-математические науки. - 2014. - Вып. 4 (6). - С. 39-43.

10. Острейковский В.А. Теория надежности / В.А. Острейковский. - М.: Высшая школа, Абрис, 2008. - 463 с.

11. Ларин Е.А. Энергетический комплекс газоперерабатывающих предприятий. Системный анализ, моделирование, нормирование / Е.А. Ларин, Н.В. Долотовская, И.В. Долотовский. - М.: Энергоатомиздат, 2008. - 420 с.

12. Семёнов А.С. Комплексный анализ работоспособности газоперекачивающих агрегатов на основе прогноза остаточного ресурса [Электронный ресурс] / А.С. Семёнов - Тюмень, 2004. - Режим доступа: http://dlib.rsl.ru/01002815278 (дата обращения: 14.11.2016).

13. Еремин Н.В. Компрессорные станции магистральных газопроводов (надежность и качество) / Н.В. Еремин, О.А. Степанов, Е.И. Яковлев. - СПб.: Недра, 1995. - 336 с.

14. Ревазов А.М. Анализ чрезвычайных и аварийных ситуаций на объектах магистрального газопроводного транспорта и меры по предупреждению их возникновения и снижению последствий / А.М. Ревазов // Управление качеством в нефтегазовом комплексе. 2010. № 1. С. 68-70.

15. Гуревич Ю.Е. Особенности электроснабжения промышленных предприятий с непрерывным технологическим процессом / Ю.Е. Гуревич, Д.Л. Файбисович, З.Г. Хвощинская / Электричество. - 1990. - № 1.

16. Лихачев Ф.А. Повышение надежности распределительных сетей 6-10 кВ / Ф.А. Лихачев // Электрические станции. - 1981. - № 1.

17. Методика оценки надёжности электрических схем компрессорных станций магистральных газопроводов. - М.: ВНИИЭ ГАЗПРОМ, 1990.

18. Levenson N.G. An investigation of the Therac-25 Accidents [Электронный ресурс] / N.G. Levenson, C.S. Turner. / Computer, July, 1993. - P.18-41. - Режим доступа: http://www.cs.umd.edu/class/ spring2003/cmsc838p/ Misc/therac.pdf (дата обращения: 17.10.2015).

19. Спектор Л.И. Нарушения в работе АЭС, вызванные системой управления технологическими процессами энергоблока / Л.И. Спектор, О.Н. Бутова, В.В. Инюшев, М.А. Ястребецкий // Ядерная и радиационная безопасность. - 2004. - Т. 7. - № 4. - C. 54-63.

20. Final Report on the August 14, 2003 Blackout in the United States and Canada: Causes and Recommendations [ Электронный ресурс]. - Режим доступа: http://energy.gov/ sites/prod/files/ oeprod/ DocumentsandMedia/ BlackoutFinal-Web.pdf ( дата обращения: 16.08.2015).

21. ARIANE 5. Flight 501 Failure. Report by the Inquiry Board. - Режим доступа: https://www.ima.umn.edu/~arnold/disasters/ariane5rep.html (дата обращения: 15.03.2016).

22. The opening of Heathrow Terminal 5. HC 543. Published on 3 Nov. 2008 by authority of the House of Commons Transport Committee. London: The Stationary Office Limited, 11/2008 [Электронный ресурс]. - Режим доступа: http://www.publications.parliament.uk/pa/cm200708/cmselect/cmtran/543/543.pdf (дата обращения: 14.07.2016).

23. Milmo D. Passengers fume in the chaos of Terminal 5's first day [Электронный ресурс] / D. Milmo. - Режим доступа: http:// www.theguardian.com/ environment/ 2008/ mar/ 28/ travelandtransport.theairlineindustry. (дата обращения: 16.05.2016).

24. S. Schaefer. Knight Capital Trading Disaster Carries $440 Million Price Tag // Forbes. Markets. - Aug 2, 2012. http://www.forbes.com/ sites/ steveschaefer/2012/08/02/ knight-capital-trading-disaster-carries-440-million-price-tag/# 1073fdb714c4.

25. Schmerken. Knight's CEO Admits Software Bug Was Cause of Market Mayhem / Information Week. Wallstreet & Technology, 2012 [Электронный ресурс].

- Режим доступа: http://www.wallstreetandtech.com/electronic-trading/knights-ceo-admits-software-bug-was-cause-of-market-mayhem/d/d-id/1266708? (дата обращения: 12.07.2015).

26. Самое разрушительное землетрясение в истории России. РИА Новости.

- Режим доступа: http://ria.ru/spravka/ 20080528/ 108566368.html#ixzz42DQOnubg (дата обращения: 11.04.2016).

27. Doda L.N. Results and features of seismic forecasting experiments for Kamchatka and Japan regions / L.N. Doda, V.L. Natyganov, S.A. Shopin // 26th IUGG General Assembly 2015 June 22-July 2, 2015, Czech Republic, Prague. - IUGG-4674.

28. Orozco-del-Castillo M.G. Fuzzy logic and image processing techniques for the interpretation of seismic data / M.G. Orozco-del-Castillo, C. Ortiz-Aleman, J. Urrutia-Fucugauchi, A. Rodríguez-Castellanos / Journ. Gephys. - Eng. 8 (2011). -P. 185-194.

29. Новожилов Г.В. Проблемы безопасности авиационно -транспортных и других сложных человеко-машинных систем / Г.В. Новожилов, А.Ф. Резчиков, М.С. Неймарк // Саратов: Наука, 2012. - 200 с.

30. Новожилов Г.В. Человеческий фактор в авиационно -транспортных системах / Г.В. Новожилов, А.Ф. Резчиков, М.С. Неймарк, А.С. Богомолов, Л.Г. Цесарский, Л.Ю. Филимонюк // Общероссийский научно -технический журнал «Полет». - 2013. - № 5. - С. 3-10.

31. Новожилов Г.В. Проблема критических сочетаний событий в системе «экипаж - воздушное судно - диспетчер» / Г.В. Новожилов, А.Ф. Резчиков, М.С. Неймарк, Л.Г. Цесарский, А.С. Богомолов, Л.Ю. Филимонюк // Общероссийский научно-технический журнал «Полет». - 2015. - № 2. - С. 10-16.

32. Новожилов Г.В. Обеспечение безопасности полета пассажирских самолетов. Концепция и технология / Г.В. Новожилов, М.С. Неймарк,

Л.Г. Цесарский // Общероссийский научно-технический журнал «Полет». - 2002. - № 10. - С. 35-47.

33. Информационно-правовой портал гарант, ФЗ-16 «О транспортной безопасности». - Режим доступа: http://base.garant.ru/12151931/ (дата обращения: 05.03.2016).

34. Госавтоинспекции МВД России, Динамика основных показателей аварийности за 7 лет. - Режим доступа: https://www.gibdd.ru/stat/charts/ (дата обращения: 12.03.2016).

35. Mobility and Transport. - Режим доступа: http://ec.europa.eu/ transport/ road_safety/ specialist/ statistics/index_en.htm ( дата обращения: 12.03.2016).

36. Road traffic injuries. - Режим доступа: http://www.who.int/ violence_injury_prevention/ road_traffic/ en ( дата обращения: 12.03.2016).

37. Конкурс годовых отчетов. - Режим доступа: http://kgo.rcb.ru/2015/otchet/rzd-ar2014-rus.pdf (дата обращения: 09.05.2017).

38. Крупные железнодорожные аварии и катастрофы в мире в 2012 -2013 года [Электронный ресурс]. - Режим доступа: http://ria.ru/world/20130723/951459195.html (дата обращения: 16.04.2014).

39. Крупные железнодорожные катастрофы в мире [Электронный ресурс]. -Режим доступа: http://tass.ru/info/546677 (дата обращения: 10.05.2015).

40. Railway Safety Statistics / Eurostat Statistics Explained. - Режим доступа: http:// ec.europa.eu/ eurostat/ statistics -explained/index.php/ Railway_safety_statistics (дата обращения: 05.03.2016).

41. Постановление Правительства РФ от 6 августа 1998 г. № 894 «Об утверждении Правил государственного учета показателей состояния безопасности дорожного движения органами внутренних дел Российской Федерации». - Режим доступа: http://gai.ru/library/rubric8/doc199.htm (дата обращения: 12.03.2016).

42. Липаев В.В. Проблемы обеспечения качества сложных систем [Электронный ресурс] / В.В. Липаев - Режим доступа: http://quality.eup.ru/MATERIALY4/poksps.htm (дата обращения: 11.09.2016).

43. Липаев В.В. Надежность и функциональная безопасность комплексов программ реального времени / В.В. Липаев. - М., 2013. - С. 207.

44. Липаев В.В. Основные понятия, факторы и стандарты, определяющие качество крупномасштабных программных средств / В.В. Липаев. - М.-Берлин: Директ-Медиа, 2015. - 237 с.

45. Боэм Б. Характеристики качества программного обеспечения / Б. Боэм, Д. Браун, Х. Каспар; пер. с англ. Е.К. Масловского. - М.: Мир, 1981. -208 с.

46. DeMarco T. Management Can Make Quality Impossible / Т. DeMarco // Cutter IT Summit, Boston, April, 1999.

47. Mandeville W.A. Software costs of quality / W.A. Mandeville // IEEE Journal on Selected Areas in Communications. - 1990. - № 8(2). - Р. 315-318.

48. Galin D. Towards an inclusive model for the cost of software quality / D. Galin // Software quality Professional. - 2004. - № 6(4). - Р. 25-31.

49. Weinberg G.M. Quality Software Management / G.M. Weinberg // FirstOrder Measurement. - NY: Dorset House Publishing, 1993. - Р. 108.

50. Neumann J. von. Probabilistic logics and the synthesis of reliable organisms from unreliable components / J. von Neumann // In C.E. Shannon and J. McCarthy, editors, Annals of Math Studies, num. 34, Princeton Univ. Press, 1956. - P. 43-98.

51. Moore E.F. Reliable circuits using less reliable relays / E.F. Moore, C.E. Shannon // J. Franklin Institute, 262(3), Oct., 1956. - P. 191-208.

52. Avizienis A. Fundamental Concepts of Dependability / A. Avizienis, J.-C. Laprie, B. Randell // Proc. of the 3rd IEEE Information Survivability Workshop (ISW-2000), Boston, Massachusetts, USA, October 24-26, 2000. - P. 7-12.

53. Теслер Г.С. Концепция построения гарантоспособных вычислительных систем / r.C. Теслер // Математические машины и системы. -Вып. № 1. - Т. 1. - 2006. - С. 134-145.

54. Avizienis A. Dependable Computing From Concepts to Application / A. Avizienis, J.-C. Laprie /// IEEE Trans. On Computers. - 1986. - №74(5). - P. 629638.

55. Dobson I.E. Building Reliable Secure Computing Systems out of Unreliable Insecure Components / I.E. Dobson, B. Randell // Proc. Of the IEEE Conf. on Security & Privacy, Oakland, USA, 1986. - P.187-193.

56. Avizienis A. Basic Concepts and Taxonomy of Dependable and Secure Computing / A. Avizienis, J.-C. Laprie, B. Randell, C. Landwehr. // IEEE Trans. On Dependable and Secure Computing. - 2004. - Vol. 1. - №1 - P. 11-33.

57. Fonseca J.A. CMMI RAMS Extemsion Based on CENELEC Railway Standard / J.A. Fonseca, J.R. de Almeida Junior; eds.: R.Winther, B.A. Gran, G.Dahll // SAFECOMP 2005, LNCS 3688, Springer-Verlag Berlin Heidelberg 2005, 2005. -P. 1-12.

58. ERTMS/ETCS RAMS Requirements Specification. - Режим доступа: www.era.europa.eu/ Document-Register/ Documents/ B1-02s1266-.pdf (дата обращения: 14.12.2016).

59. ГОСТ Р МЭК 6227 / М.: Стандартинформ, 2008.

60. Справочник-словарь терминов АСУ / В.И. Вьюн, А.А. Кобозев, Т.А. Паничевская; под ред. А.А. Морозова. - М.: Радио и связь,1990. - 128 c.

61. IAEA NS-G-1.3 Instrumentation and control systems important to safety nuclear power plants. Safety guide. No. NS-G-1.1. -Vienna, 2002.- Vienna, 2000.

62. ECSS-Q-80-3. Guidelines for software dependability and safety techniques. ECSS Secretariat ESA-ESTEC. Requirements & Standards Division. - Noordwijk: the Netherlands, 1996.

63. ITU-T. Terms and Definitions Related to QoS and Network Performance Including Dependability, Recommendations E800. - Geneva, 1994. - P. 14-20.

64. Бахмач Е.С. Программно-технические комплексы автоматического регулирования, разгрузки и ограничения мощности реактора и ускоренной предупредительной защиты: обеспечение и оценка безопасности / Е.С. Бахмач, С.В. Виноградская, Ю.В. Розен и др. // Ядерная и радиационная безопасность. -2005. - Т. 8. - № 1. - С. 67-90.

65. Искусственный интеллект: в 3 кн. Кн. 1. Системы общения и экспертные системы: справочник / под ред. Э.В. Попова. - М.: Радио и связь, 1990. - 464 с.

66. IT Encyclopedia. - Режим доступа: http://whatis.techtarget.com /definition/intelligent-system (дата обращения: 13.03.2016).

67. Hayes-Roth F. An Overview of expert systems. Building Expert Systems / F. Hayes-Roth, D.A. Waterman, D. Lenat. - Addison-Wesley, 1983. - 201 p.

68. Попов Э.В. Экспертные системы. Решение неформализованных задач в диалоге с ЭВМ / Э.В. Попов. - М.: Наука, 1987. - 288 с.

69. Попов Э.В. Статические и динамические экспертные системы: учеб. пособие / Э.В. Попов, И.Б. Фоминых, Е.Б. Кисель, М.Д. Шапот. - М.: Финансы и статистика, 1996. - 320 с.

70. Nikolopoulos Ch. Expert Systems: Introduction to First and Second Generation and Hybrid Knowledge Based Systems. - N.Y.: Marcel Dekker, 1997. -331 p.

71. Долинина О.Н. Разработка метода тестирования продукционных баз знаний экспертных систем с учетом ошибок типа «забывания об исключении»: дис...канд. техн. наук / О.Н. Долинина. - Саратов, 1999. - 171 с.

72. Хоггер К. Введение в логическое программирование / К. Хоггер: пер. с англ. - М.: Мир, 1988. - 348 с.

73. Davis M. A computing procedure for quantification theory / M. Davis, H.A. Putnam // J. Assoc. Comput. Mach. - 1960. - № 7. - P. 201-215.

74. Gallaire H. Logic and data bases / H. Gallaire, J. Minker. - N.Y.: Plenum Press, 1978. - 458 p.

75. Kowalsky R. Linear resolution with selection function / R. Kowalsky,

D. Kuehner // Artif. Intell. - 1971. - № 2. - P. 227-260.

76. Kowalsky R. Predicate Logic as Programming language / R. Kowalsky // Proc. IFIP Congress, 1974. - P.569-574.

77. Kowalsky R. Agorithm=Logic+Control / R. Kowalsky // ACM. - 1979. Vol.22. - №. 7. - P. 424-436.

78. Minsky M. A framework for representation / M. Minsky // AI Memo №.306, MIT Cambridge, 1974. - 82 p.

79. Quillian M.R. Semantic memory / M.R. Quillian // Semantic Information. -Cambridge: MIT Press, 1968. - P. 227-270.

80. Newell A. Human Problem Solving / A. Newell, H.A. Simon // Englewood Cliffs, New Jersey: Prentice-Hall Inc., 1972. - P. 253.

81. Нариньяни А. Продукционные системы. Представление знаний в человеко-машинных и робототехнических системах / А. Нариньяни, Т. Яхно. -М.: ВЦ АН СССР, ВИНИТИ, 1984. - С. 136-177.

82. Алексеева Е.Ф. Экспертные системы - состояние и перспективы / Е.Ф. Алексеева, В.Л. Стефанюк // Известия АН СССР. Техническая кибернетика. -1984. - № 5. - С.153-167.

83. Микулич Л.И. Проблемы создания экспертных систем / Л.И. Микулич // Ученые записки Тартуского ГУ. - 1985. - Вып. 714. Теория и модели знаний (теория и практика создания систем искусственного интеллекта). - С. 87-114.

84. Поспелов Д.А. О «человеческих» рассуждениях в интеллектуальных системах / Д.А. Поспелов // Вопросы кибернетики. Логика рассуждений и ее моделирование. - М., 1983. - С. 5-37.

85. Братко И. Программирование на языке «Пролог» для искусственного интеллекта / И. Братко: пер. с англ. - М.: Мир, 1990. - 560 с.

86. Heckerman D. From certainty factors to belief networks» / D. Heckerman,

E. Shortliffe / Artificial Intelligence in Medicine. - 1992. - № 4(1). - P. 35-52.

87. Bell P.C. Visual Interactive Modeling in Operational Research: Success and Opportunities / P.C. Bell // J.Operational Research oc. - 1985. - Vol. 36. - № 11. - P. 975-982.

88. Shortliffe E.H. Computer-based medical consultation: MYCIN / E.H. Shortliffe. - N.Y.: Academician Elsevier, 1976. - 264 p.

89. Shortliffe E.H. ONCOCIN: an Expert System for Oncolofy Protocol Management / E.H. Shortliffe, A.C. Scott, M.B. Bischoff, et all // Proc. of the 7th Int. Joint Conf. on artificial Intelligence. - Vancouver: University of British Columbia, 1981. - P. 876-881.

90. Lederberg J. How Dendral Was Conceived and Born / J. Lederberg // ACM Symposium on the History of Medical Informatics, 5 November 1987, Rockefeller University. - N.Y.: National Library of Medicine, 1987.

91. Уотермен Д. Руководство по экспертным системам / Д. Уотермен: пер. с англ. - М.: Мир, 1989. - 388 с.

92. Hart P.E. Computer-Based Consultation System for Mineral Exploration / Hart P.E., R.O. Duda // Int. As. For Math. Geology. - 1977. - Vol. 10. - № 5-6. - P. 2-35.

93. Zadeh L.A. Fuzzy Sets / L.A. Zadeh // Information and Control. - 1965. -Vol. 8. - P. 338-353.

94. Zadeh L.A. The Concept Of A Linguistic Variable And Its Application To Approximate Reasoning / L.A. Zadeh // Information Sciences. - 1975. - Vol. 8. -P. 199-249, 301-357; - Vol. 9. - P. 43-80.

95. Рубанов В.Г. Интеллектуальные системы автоматического управления / В.Г. Рубанов, А.Г. Филатов, И.А. Рыбин // Нечеткое управление в технических системах. - Режим доступа: http://nrsu.bstu.ru/chap27.html] (дата обращения: 03.02.2015).

96. Нечеткие множества в моделях управления и искусственного интеллекта / под. ред. Д.А. Поспелова. - М.: Наука, 1986. - 312 с.

97. Babuska R. Construction of Fuzzy Systems - Interplay between Precission and Transparency / R. Babuska // Proc. of European Symposium on Intelligent Techniques, Aachen (Germany), 2000. - P. 445-452.

98. Roubos H. Learning Fuzzy Classification Rules from Data / H. Roubos, M. Setnes, J. Abonyi // Developments in Soft Computing; eds.: R. John, R. Birkenhead. - Berlin: Springer-Verlag, 2001. - P. 108-115.

99. Paiva R.P. Merging and Constrained Learning for Interpretability in Neuro-Fuzzy Systems / R.P. Paiva, A. Dourado // Proc. of European Symposium on Intelligent Technologies, Hybrid Systems and Their Implementation on Smart Adaptive Systems "EUNITE" - Tenerife (Spain), 2001. - P. 17-21.

100. Ротштейн А.П. Интеллектуальные технологии идентификации: нечеткая логика, генетические алгоритмы, нейронные сети / А.П. Ротштейн. -Винница: УНЮЕРСУМ-Вшниця, 1999. - 320 с.

101. Rotshtein A. Design and Tuning of Fuzzy Rule-Based System for Medical Diagnosis / A. Rotshtein // Fuzzy and Neuro-Fuzzy Systems in Medicine; еds.: N.H. Teodorescu, A. Kandel, L.C. Jain. - USA, Boca-Raton: CRC-Press. -1998. - P. 243289.

102. Штовба С.Д. Введение в теорию нечетких множеств и нечеткую логику. - Режим доступа: http://matlab.exponenta.ru/ fuzzylogic/book1 (дата обращения: 05.04.2015).

103. Штовба С.Д. Обеспечение точности и прозрачности нечеткой модели Мамдани при обучении по экспериментальным данным / С.Д. Штовба // Проблемы управления и информатики. - 2007. - № 4. - С. 102-114.

104. Miller G.A. The Magic Number Seven Plus or Minus Two: Some Limits on Our Capacity for Processing Information / G.A. Miller // Psychological Review. -1956. - № 63. - P. 81-97.

105. Castro J.L. Use of a fuzzy machine learning technique in the knowledge acquisition process / J.L. Castro, J.J. Castro-Schez, J.M. Zurita // Fuzzy Sets and Systems. - 2001. - Vol. 23. - P. 307-320.

106. Mamdani E.H. An Experiment In Linguistic Synthesis With Fuzzy Logic Controller / E.H. Mamdani, S. Assilian // International Journal Of Man-Machine Studies. - 1975. - Vol. 7. - № 1. - Р. 1-13.

107. Tsukamoto Y.: An Approach To Fuzzy Reasoning Method. In: Gupta M.M., Ragade R.K. and Yager R.R. (eds.) Advances In Fuzzy Set Theory And Applications, pp. 137-149 (1979).

108. Takagi T.: Sugeno M., Fuzzy Identification Of Systems And Its Applications To Modeling And Control. IEEE Transactions On Systems, Man, And Cybernetics, vol. 15, No. 1, pp. 116-132 (1985).

109. Larsen P. M.: Industrial Applications Of Fuzzy Logic Control . International Journal Of Man-Machine Studies, vol. 12, pp. 3-10 (1980).

110. Rosenblatt F. Principles of neurodynamics: Perceptrons and the Theory of Brain Mechanisms / F. Rosenblatt. - N.Y.: Spartan Books, 1962. - 176 p.

111. Колмогоров А.Н. О представлении непрерывных функций нескольких переменных суперпозициями непрерывных функций меньшего числа переменных: Докл. АН СССР, 1956 г. - Т. 108. - С. 2-5.

112. Горбань А.Н., Миркес Е.М., Царегородцев В.Г. Нейроинформатика / А.Н. Горбань, Е.М. Миркес, В.Г. Царегородцев. - Новосибирск: Наука, 1998. -296 с.

113. Dayan P. Theoretical neuroscience: computational and mathematical modeling of neural systems / P. Dayan, L. Abbott. - London: The MIT Press, 2004. -460 c.

114. Уоссермен Ф. Нейрокомпьютерная техника: Теория и практика / Ф. Уоссермен; пер. Ю.А. Зуева, В.А. Точенов. - 1992. - 184 с.

115. Hecht-Nielsen R. Theory of the Backpropagation Neural Network / R. Hecht-Nielsen // International Joint Conference on Neural Networks. -Washington, D.C.: Sheraton Washington Hotel, 1989. - Р. 593-606.

116. Rumelhart D. Learning Internal Representations by Error Propagation / D. Rumelhart, G. Hinton, R. Williams // In Parallel Distributed Processing. - Cambridge: MIT Press, 1989. - Р. 318-362.

117. Rumelhart D. Learning Representations by Back-propagating Errors / D. Rumelhart, G. Hinton, R. Williams // Nature. - Cambridge: 1986. - Т. 323. - Р. 533578.

118. Rodvold D.M. A Software Development Process Model for Artificial Neural Networks in Critical Applications / D.M. Rodvold // Proc. of the 1999 Int. Conf. on Neural Networks (IJCNN'99). - Washington, 1999.

119. Rodvold D.M. Validation and Regulation of Medical Neural Networks / D.M. Rodvold // Molecular Urology. - 2011. - №5 (4). - P. 141-145.

120. Zacharias V.. Development and Verification of Rule Based Systems - a Survey of Developers / V. Zacharias // Lecture Notes in Computer Science. - 2008. -Vol. 5321. - Р. 6-16.

121. Рыбина Г.В. Модели, методы и программные средства для построения интегрированных экспертных систем: дис. на соиск. уч. ст. д.т.н.: 05.13.11. / Г.В. Рыбина. - М.: МИФИ, 2004. - С. 363.

122. Davis R. Applications of Meta-Level Knowledge to the Construction, Maintenance, and Use of Large Knowledge Bases: Ph D. diss, Dept of Computer Science / R. Davis. - Stanford Univ., 1976

123. Knox S.T. Modeling the costs of software quality / S.T. Knox // Digital Technical Journal. - 1993. - № 5(4). - Р. 9-16.

124. Санкт-Петербургский государственный университет[Электронный ресурс]. - Режим доступа: http://www.agym.spbu.ru/docs/ phys_oshib_4.pdf (дата обращения: 13.02.2012).

125. Бессмертный И.А. Верификация данных в системах отслеживания задач с помощью продукционных правил / И.А. Бессмертный, Р.С. Катериненко // Научно-технический вестник информационных технологий, механики и оптики. - 2013. - №1 (83). - С. 86-90.

126. Бессмертный И.А. Методы, модели и программные средства для построения интеллектуальных систем на продукционной модели знаний: дис. на соиск. уч. ст. д.т.н.: 05.13.11 / И.А. Бессмертный. - СПб, 2014. - С. 304.

127. Knauf R. A framework for validation of rule-based systems / R. Knauf, A.J. Gonzalez, T. Abel / IEEE Trans Syst Man Cybern B Cybern. - 2002. - № 32(3). - P. 281-295.

128. Miller S.P. Software model checking takes off / S.P. Miller, M.W. Whalen, D.D. Cofer // Commun. ACM. - 2010. - № 53(2). - Р. 58-64.

129. Pira E. Verification of Confliction and Unreachability in Rule-Based Expert Systems with Model Checking / E. Pira, M. Reza Zand Miralvand, F. Soltani. - Режим доступа: https://arxiv.org/abs/1404.2768 (дата обращения: 10.04.2014).

130. Xu D. Model Checking the Inconsistency and Circularity in Rule-Based Expert Systems / D. Xu, X. Kejian, D. Zhang, H. Zhang // Computer and Information Science. - 2009. - Vol. 2. - № 1. - P. 12-17.

131. Cimatti A. Formal Verification and Validation of ERTMS Industrial Railway Train Spacing System / A. Cimatti, R. Corvino, A. Lazzaro, I. Narasamdya, T. Rizzo, M. Roveri, A. Sanseviero, A. Tchaltsev; eds. P. Madhusudan, S.A. Seshia // CAV. - 2012. - Vol. 7358. - P. 378-393.

132. Рыбина Г.В. Методы и алгоритмы верификации баз знаний в интегрированных экспертных системах / Г.В. Рыбина, В.В. Смирнов // Известия РАИ. Теория и системы управления. - 2007. - № 4. - С. 91-102.

133. KES General Description Manual / Software Architecture and Engineering, Inc., Arlington, Va., 1983. - Р. 33.

134. Suwa H. An Approach to Veryfing Consistency and Completeness in a Rule-Based Expert System / H. Suwa, A.C. Scott, A. Shortliffe // Rule-Based Expert Systems. - London: Addison-Wesley, 1984. - P. 159-170.

135. Nguen T. Checking Expert System Knowledge Bases for consistency and completeness / T. Nguen, W. Perkins, T. Laffey, W. Pecora // Proc. of the 9th Int. Joint Conf.on AI, Los.Ang, 1985. - P. 375-378.

136. Cragun B.J. A decision-table-based processor for checking completeness and consistency in rule-based expert systems / B.J. Cragun, H.J. Stendel // Int. J. Man-Mach. Stud. - 1987. - №. 5. - P. 633-648.

137. Ferrante O. Parallel NuSMV: A NuSMV Extension for the Verification of Complex Embedded Systems / O. Ferrante, L. Benvenuti, L. Mangeruca, C. Sofronis, A. Ferrari; eds. F. Ortmeier, P. Daniel // SAFECOMPWorkshops. - 2012. - Vol. 7613. - p. 409-416.

138. Knauf R. A framework for validation of rule-based systems / R. Knauf, A.J. Gonzalez, T. Abel / IEEE Trans Syst Man Cybern B Cybern. - 2002. - № 32(3). - P. 281295.

139. Miller S.P. Software model checking takes off / S.P. Miller, M.W. Whalen, D.D. Cofer / Commun. ACM. - 2010. - № 53(2). - Р. 58-64.

140. Pira E.Verification of Confliction and Unreachability in Rule-Based Expert Systems with Model Checking / E. Pira, M. Reza Zand Miralvand, F. Soltani. - Режим доступа: https://arxiv.org/abs/1404.2768 (дата обращения: 10.04.2014).

141. Xu D. Model Checking the Inconsistency and Circularity in Rule-Based Expert Systems / D. Xu, X. Kejian, D. Zhang, H. Zhang // Computer and Information Science. - 2009. - Vol. 2, № 1. - P. 12-17.

142. Cimatti A. Formal Verification and Validation of ERTMS Industrial Railway Train Spacing System / A. Cimatti, R. Corvino, A. Lazzaro, I. Narasamdya, T. Rizzo, M. Roveri, A. Sanseviero, A. Tchaltsev; eds. P. Madhusudan, S.A. Seshia // CAV. - 2012. - Vol. 7358. - P. 378-393.

143. Nguen T. Checking Expert System Knowledge Bases for consistency and completeness / T. Nguen, W. Perkins, T. Laffey, W. Pecora // Proc. оf the 9th Int. Joint Conf.on AI, Los.Ang, 1985. - P. 375-378.

144. Cragun B.J. A decision-table-based processor for checking completeness and consistency in rule-based expert systems / B.J. Cragun, H.J Stendel // Int. J. Man-Mach. Stud. - 1987. - Vol. 26. - №. 5. - P. 633-648.

145. Nguen T.A. Verifying consistency of Production Systems / T.A. Nguen // Proc. of Conf.on AI Applications (CAIA), 3rd, Kissimmee, Fl, 1987. - P. 4-8.

146. Nazareth D.L. Issues in the verification of knowledge based systems / D.L. Nazareth // Int. J. Man-Machine Studies, 30, 1989. - P. 251-271.

147. Valiente G.A. Knowledge Base Verification using Algebraic transformations / G.A. Valente // Ph.D. dis.Informatics, universitat de Les Illes Baleras, July, 1994. - 201 p.

148. Krishnamurthy C. Methodology for Testing and Validating Knowledge Bases / C. Krishnamurthy, S. Padalkar, J. Sztipanovits // Proc. Of the 3d Conf. on Artificial Intelligence for Space Applications, 1987. - P. 318-326.

149. Tadj C., Laroussi T. Dynamic Verification of an Object-Rule Knowledge Base Using Colored Petri Nets / C. Tadj, T. Laroussi // Systemics, Cybernetics and Informatic. - 2006. - Vol. 4. - № 3. - P. 23-31.

150. Wu P.-H. Knowledge Verification For Fuzzy Expert Systems / P.-H. Wu, G.-H. Hwang, H.-M. Liu, G.-J. Hwang, J.C.R. Tseng, Y.-M. Huang // Journal of the Chinese Institute of Engineers. - 2008. - Vol. 31. - № 6. - Р. 997-1009.

151. Зыкова С.А. Методы и средства верификации знаний в интеллектуальных САПР: дис. ... канд. техн. наук / С.А. Зыкова. - М., 1992. -168 с.

152. Поспелов И.Г. Динамическое описание систем продукций и проверка непротиворечивости продукционных экспертных систем. / И.Г. Поспелов, Л.Я. Поспелова // Известия АН СССР. Техническая кибернетика. - 1987. - № 1. - С. 184-192.

153. Demidenko S. On-Line Testing In Digital Neural Networks / S. Demidenko, V. Piuri // IEEE Journal. - 2003. - Р. 132-136.

154. Бабкин Р.А. Метод построения функционального теста для нейронной сети прямого распространения / Р.А. Бабкин, А.В. Лобанов // Научная сессия МИФИ-2004. - Зеленоград: 2004. - Т. 4. - С. 12-15.

155. Бабкин Р.А. Прямая задача диагностирования нейронных сетей / Р.А. Бабкин, А.В. Лобанов // Научная сессия МИФИ-2004. - ФГУП НИИ «Субмикрон», 2004. - Т. 2. - С. 56-60.

156. Ginsberg A. Knowledge Base Reduction: A new approach to checking knowledge bases for inconsistency & redundancy / A. Ginsberg // Proceedings 7Th Nathional Conf. in Artificial Intelligence (AAAI 88), St.Paul MN, 1988. -vol. 2. -P. 585-589.

157. Pecheur C. Issues in Verification and Validation of Autonomous and Adaptive Systems / C. Pecheur, S. Reid, V. Willem // RIACS Workshop On the Verification and Validation of Autonomous and Adaptive Systems, 2000. - P. 5-7.

158. Rodrigues P. Verifying Properties of Neural Networks. / P. Rodrigues, J.F. Costa, H.T. Siegelmann // IWANN (1), 2001. - С. 158-165.

159. Tickle A.B. The Truth is in There: Directions and Challenges in Extracting Rules from Trained Artificial Neural Networks [ Электронный ресурс] / A.B. Tickle; R. Andrews; M. Golea; J. Diederich. - Режим доступа: www.researchgate.net/publication/2614662_The_Truth_is_in_There_Directions_and _Challenges_in_Extracting_Rules_From_Trained_Artificial_Neural_Networks (дата обращения: 15.02.2016).

160. Toward Reliable Neural Network Software for The Development of Methodologies for the Independent Verification of Neural Networks / Institute for Scientific Research, Inc. (ISR). - 2002.

161. Нариньяни A.C. Модель или алгоритм: новая парадигма информационной технологии / A.C. Нариньяни // Информационные технологии. - 1997. - № 4. - С. 11-16.

162. Нариньяни А.С. НЕ-факторы и инженерия знаний: от наивной формализации к естественной прагматике / А.С. Нариньяни // Сб. «Труды IV Национальной конференции "Искусственный интеллект-94"«. - Т. 1. - Рыбинск, 1994. -С.9-18.

163. Нариньяни А.С. НЕ-факторы State of Art / А.С. Нариньяни // Научная сессия МИФИ-2004. - 2004. - Т. 3. - С. 26-30.

164. Dempster A.P. Upper and Lower Probabilities Induced by a Multivalued Mapping / A.P. Dempster // Annals of Mathematical Statistics 38, 1976. -p.325-329.

165. Shafer G.A. Mathematical Theory of Evidence / G.A. Shafer // Princeton: Princeton University Press, 1976. - p. 297.

166. Нечеткие множества в моделях управления и искусственного интеллекта / под ред. Поспелова Д.А. - М.: Наука, 1986. - 312 с.

167. Averkin A.N. Fuzzy Logic Simulation Technology in General Strategy of Intelligent System Designing / A.N. Averkin // Proceedings of the Second Int. Conf. on Application of Fuzzy Systems and Soft Computing / ed. R.A. Aliev, K.W. Bonfig, F. Aliev, F. Wieland, ICAFS'96. - Siegen, Germany, June 25-27, 1996.

168. Батыршин И.З. Методы представления и обработки нечеткой информации в интеллектуальных системах / И.З. Батыршин // Новости искусственного интеллекта. - 1996. - № 2.

169. Мелихов А.И. Ситуационные советующие системы с нечеткой логикой / А.И. Мелихов, Л.С. Берштейн, С.Л. Коровин. - М.: Наука, 1990. - 272 с.

170. Поспелов Г.С. Проблемы понимания рассуждений, основанных на знаниях / Г.С. Поспелов, Д.А. Поспелов // Материалы IV заседания РГ-22 САИИ. - Переяславль-Залесский, 1987. - С. 15-21.

171. Петров А.А. Представление знаний, содержащихся в математических моделях экономики / Петров А.А., Поспелов И.Г., Поспелова Л.Я // Теория и системы управления, 1995, №5, С.37-59.

172. Поспелов Д.А. О «человеческих» рассуждениях в интеллектуальных системах / Д.А. Поспелов // Вопросы кибернетики. Логика рассуждений и ее моделирование. - М., 1983. - С. 5-37.

173. Долинина О.Н. Алгоритмы и методы разработки и отладки экспертных систем / О.Н. Долинина. - Саратов: Сарат. гос. техн. ун-т, 2015. -226 с.

174. Долинина О.Н. Информационные технологии в управлении современной организацией / О.Н. Долинина. - Саратов: Сарат. гос. техн. ун-т, 2006. - 160 с.

175. Майерс Г. Искусство тестирования программ / Г. Майерс; пер. с англ.; под. ред. Б.А. Позина. - М.: Финансы и статистика, 1982. - 176 с.

176. Tepandi J. Comparison of Expert System Verification Criteria: Redundancy / J. Tepandi // Proc. ECAI 90 Conf. - Stockholm, 1990. - P. 49-62.

177. Marcot B. Testing your knowledge base / B. Marcot // AI Expert, 1987. -P. 43-47.

178. O'Keefe R.M. Validating expert system performance / R.M. O'Keefe, O. Balci, E.P. Smith // IEEE Expert. - 1987. - №4. - P. 81-90.

179. Bertalanffy L. General Systems Theory / L. Bertalanffy. - N.Y.: Fifthe Printing, 1975. - 176 p.

180. Lane N.E. Global Issues in Evaluation of Expert Systems / N.E. Lane // Proc. Int. Conference SMC, 1986. - P. 121-125.

181. Scambos E.T. A Scenario-based Tool for Examining Expert Systems / E.T. Scambos // Proc. Of IEEE Int. Conf. on Systems, Man and Cybernetics, 1986. - P. 131-135.

182. Engin G. Rule-based expert systems for supporting university students / G. Engin, B. Aksoyer, M. Avdagic, D. Bozanli, U. Hanay, D. Maden // Procedia Computer Science, Proc. 2-nd Int. Conf. on IT and Quantative Management, ITQM, 2014. - 2014. - Vol. 31. - Р. 22-31.

183. Mazni O. ETiPs: A Rule-based Team Performance Prediction Model Prototype / O. Mazni, S.-A. Sharifah-Lailee, M.H. Naimah // Proc. First World Conference on Innovation and Computer Sciences (INSODE 2011). - 2012. - Vol. 1. - P. 390-394.

184. Kang T. Intelligent micro blood typing system using a fuzzy algorithm / T. Kang, S.-J. Lee, Y. Kim, et. all // J. of Micromech. & MicroEng, 2010. - P. 1-8.

185. Rebrova O. Expert System And Neural Network For Stroke Diagnosis / Rebrova O. - Moscow: Institute of neurology, Russian Academy of Medical Sciences, 2000. - P. 67-70.

186. Bornstein B. Creation and Testing of an Artificial Neural Network Based Carbonate Detector for Mars Rovers / B. Bornstein. - California: California Institute of Technology. - Р. 22-25.

187. NASA. - Режим доступа: http://aisrp.nasa.gov/ (дата обращения: 21.12.09).

188. ASTER. Advanced Spaceborne Thermal Emission and Reflection Radiometer. - Режим доступа: asterweb.jpl.nasa.gov (дата обращения: 12.04.09).

189. Cannady J. Artificial Neural Networks for Misuse Detection / J. Cannady // School of Computer and Information Sciences. - Nova Southeastern University, 2002. - P. 55-58.

190. Флейшман Е.С. Основы системологии / Е.С. Флейшман. - М.: Радио и связь, 1982. - 288 c.

191. Моисеев Н.Н. Математические задачи системного анализа / Н.Н. Моисеев. - М.: Наука, 1981. - 488 c.

192. Клир Дж. Системология. Автоматизация решения системных задач / Дж. Клир. - М.: Радио и связь, 1990. - 544 с.

193. Баркалов С.А. Модели и механизмы в управлении организационными системами: в 3 т. / С.А. Баркалов, В.Н. Бурков, Д.А. Новиков, Н.А. Шульженко. - М.: Тульский полиграфист, 2003. - Т. 1. - 560 с.; Т. 2. - 380 с.; Т. 3. - 205 с.

194. Бурков В.Н. Основы математической теории активных систем / В.Н. Бурков. - М.: Наука, 1977. - 255 с.

195. ИСО/МЭК 9126 - 93. Информационная технология. Оценка программной продукции. Характеристики качества и руководства по их применению. - М.: Изд-во стандартов, 1994.

196. ГОСТ Р ИСО/МЭК 25010-2015. Информационные технологии. Системная и программная инженерия. Требования и оценка качества систем и программного обеспечения (SQuaRE). Модели качества систем и программных продуктов. - М.: Стандартинформ, 2015.

197. Гермейер Ю.Б. Введение в теорию исследований операций. / Ю.Б. Гермейер. - М.: Наука, 1971. - 384 c.

198. Татха Х. Введение в исследование операций: пер. с англ. / Х. Татха. -6-е изд. - М.: Вильямс, 2001. - 912 с.

199. Фатрелл Р.Т. Управление программными проектами: достижение оптимального качества при минимуме затрат: пер. с англ. / Р.Т. Фатрелл, Д.Ф. Шафер, Л.И. Шафер. - М.: Вильямс, 2003. - 1136 с.

200. Липаев В.В. Программная инженерия. Методологические основы / В.В. Липаев. - М.: ТЕИС, 2006. - 608 с.

201. Майерс Г. Качество программного обеспечения / Г. Майерс - М.: Мир, 1980. - 360 с.

202. Долинина О.Н. Формальные модели структурных ошибок в базах знаний интеллектуальных систем / О.Н. Долинина, А.Ф. Резчиков, Н.К. Сучкова // Современные наукоемкие технологии. - 2017. - № 3. - Режим доступа: http://www.top-technologies.ru/ru/article/view?id=36607 (дата обращения: 13.04.2017).

203. Шлычков Е.И. Анализ выполнимости планов мероприятий при оперативном управлении машиностроительным предприятием / Е.И. Шлычков, М.Ю. Похазников, В.А. Кушников, О.М. Калашникова // Вестник Саратовского государственного технического университета. - 2007. - Т. 1. - № 1(21). - С. 88-95.

204. Склемин А.А. Модели и алгоритмы проверки выполнимости планов мероприятий при управлении промышленным предприятием / А.А. Склемин, В.А. Кушников, А.Ф. Резчиков // Вестник Саратовского государственного технического университета. - 2012. - Т. 3. - № 1(67). - С. 145-152.

205. Острейковский В.А. Безопасность атомных электростанций. Вероятностный анализ / В.А. Острейковский, Ю.В. Шевыряев. - М.: Физматлит, 2008. - 352 с.

206. Kindermann R. Markov Random Fields and Their Applications / R.Kindermann, J.L.Snell // Contemporary Mathematics. - American Mathematical Society, 1980. -p.143.

207. Лозинский А.И. Определение требований к программному обеспечению [Электронный ресурс] / А.И. Лозинский, И.Б. Шубинский. - Режим доступа: http://www.ibtrans.ru/Requirements.pdf (дата обращения: 18.11.2016).

208. Dolinina O. Analysis of Objective Trees in Security Management of Distributed Computer Networks of Enterprises and Organizations / O. Dolinina, V. Kushnikov, E. Kulakova // Proc. of the 22d Int. Conf., CN 2015. Brunow, Poland. June 16-19. Springer, Computer Networks. - 2015. - P. 117-127.

209. Лихачев Ф.А. Повышение надежности распределительных сетей 6-10 кВ / Ф.А. Лихачев // Электрические станции. - 1981. - № 1.

210. Методика оценки надёжности электрических схем компрессорных станций магистральных газопроводов. - М.: ВНИИЭ ГАЗПРОМ, 1990.

211. Лозинский А.И. Определение требований к программному обеспечению [Электронный ресурс] / А.И. Лозинский, И.Б. Шубинский. - Режим доступа: http://www.ibtrans.ru/Requirements.pdf (дата обращения: 14.05.2016).

212. Forrester J.W. Industrial Dynamics / Forrester J.W. - MIT Press, 1961.

213. Meadows D.H. Limits to Growth / D.H. Meadows, D.L. Meadows, J. Randers, W.W. Behrens. - N.Y.: Universe Books, 1972.

214. Sterman J. Business Dynamics / J. Sterman. - Irwin McGraw-Hill, 2000.

215. Goodman M. Study Notes in System Dynamics / M. Goodman. - Pegasus,

1989.

216. Форрестер Д. Мировая динамика / Д. Форрестер. - М.: АСТ; СПб.: Terra Fantastica, 2003. - 379 с.

217. Резчиков А.Ф. Причинно-следственные комплексы взаимодействий в производственных процессах / А.Ф. Резчиков, В.А. Твердохлебов // Проблемы управления. - 2010. - № 3. - С. 51-59.

218. Резчиков А.Ф. Анализ аварий в человеко-машинных системах с использованием моделей причинно-следственных связей / А.Ф. Резчиков, А.С. Иванов, В.С. Домнич // Мехатроника, автоматизация, управление. - 2009. - № 7. - С. 30-35.

219. Резчиков А.Ф. Причинно-следственные модели производственных систем / А.Ф. Резчиков, В.А. Твердохлебов. - Саратов: ООО Изд. Центр «Наука», 2008. - 137 с.

220. Резчиков А.Ф. Причинно-следственные комплексы как модели процессов в сложных системах / А.Ф. Резчиков, В.А. Твердохлебов // Мехатроника, автоматизация, управление. - 2007. - № 7. - С. 1-9.

221. Михайлов Ф.Т. Диалектика / Ф.Т. Михайлов // Новая философская энциклопедия: в 4 т.; пред. науч.-ред. совета В.С. Стёпин; 2-е изд., испр. и доп. - М.: Мысль, 2010.

222. Dolinina O. Method of the Debugging of the Knowledge Bases of Intellectual Decision Making Systems / O. Dolinina // Automation Control Theory Perspectives in Intelligent Systems: Proc. of the 5th Computer Science Conference 2016 (CSOC 2016). Vol. 3. Springer. - 2016. - P. 307-315.

223. Долинина О.Н. Методы отладки баз знаний систем искусственного интеллекта / О.Н. Долинина // Системы управления и информационные технологии. - 2011. - № 2 (44). - С. 75-81.

224. Голембиовский Д.Ю. Тестирование продукционных баз знаний экспертных систем / Д.Ю. Голембиовский, О.Н. Долинина // Тез. Докладов XVIII Межреспубликанской школы-семинара «Техническая диагностика и технология банковских расчетов», февраль, 1994. - Пермь, 1994. - С. 11-12.

225. Флейшман Е.С. Основы системологии / Е.С. Флейшман. - М.: Радио и связь, 1982. - 288 c.

226. Моисеев Н.Н. Математические задачи системного анализа / Н.Н. Моисеев. - М.: Наука, 1981. - 488 c.

227. Dolinina O. The Problem of a Human Factor in Aviation Transport Systems /

A. Rezchikov, O. Dolinina, V. Kushnikov, V. Ivaschenko, K. Kachur, A. Bogomolov, L. Filimonyuk // Indian Journal of Science and Technology. 2016. V. 9. № 46. -Р. 107351.

228. Besem M. Semantic and Consistency of Rule-based Expert Systems / M. Besem // Proc. of the 9th Conf. on Automated Deduction Springer Lecture Nodes in Computer Science. - Berlin: Springer-Verlag, 1997. - Р. 151-161.

229. Nguyen T. Checking Expert System Knowledge Bases for consistency and completeness / T. Nguyen, W. Perkins, T. Laffey, W. Pecora // Proc. оf the 9th Int. Joint Conf.on AI, Los.Ang, 1985. - P. 375-378.

230. Padalkar S. Real-Time Fault Diagnostics / S. Padalkar // IEEE Expert. -1991. - № 3. - Т. 6. - P. 75-84.

231. Godel K. Über formal unentscheidbare Sätze der Principia Mathematica und verwandter Systeme, I. and On formally undecidable propositions of Principia Mathematica and related systems I in Solomon Feferman / K. Godel // Kurt Gödel Collected works. - Oxford University Press, 1986. - Р. 144-195.

232. Долинина О.Н. Методология отладки интеллектуальных информационных систем / О.Н. Долинина // Материалы I Открытого российского статистического конгресса. Новосибирск, 2015. - С. 321-329.

233. Овчинников В.А. Операции над упорядоченными множествами /

B.А. Овчинников // Наука и образование. - 2011. - № 6. - Режим доступа: technomag.edu.ru/doc/188322.html (дата обращения: 30.04.17).

234. Липский В. Комбинаторика для программистов / В. Липский. - М.: МИР, 1988. - С. 92-95.

235. Kavitha T. Cycle Bases in Graphs [Электронный ресурс] / T. Kavitha, C. Liebchen, K. Mehlhorn, D. Michail, R. Rizzi, T. Ueckerdt, K.A. Zweigk // Characterization, Algorithms, Complexity, and Applications. - 2009. - 89 p. - Режим

доступа: https://people.mpi-inf.mpg.de/~mehlhorn/ftp/ SurveyCycleBases.pdf (дата обращения: 20.12.2016).

236. Dolinina O.N. Use of knowledge-based trainers and expert systems in urgent medicine / O.N. Dolinina, J.G. Shwartz // New Media and Telematic Technologies for Education in Eastern European Countries / Ed. by P. Kommers, A. Dovgiallo, Twente Univ. Press, Enschede, 1997. P. 299-304.

237. Долинина О.Н. Проблемы разработки медицинских экспертных систем для неотложной кардиологии. Возможные пути решения / О.Н. Долинина, Р.Н. Каримов, Ю.Г. Шварц // Тез. докл. межрегион. конф. СарНИИ кардиологии. - Саратов, 1992. - С. 151-156.

238. Шварц Ю. Экспертные компьютерные системы для точного краткосрочного прогноза неотложных состояний у кардиологических больных / Ю. Шварц, О. Долинина, Р. Каримов // Современные проблемы медицинской науки: материалы науч.-практ. конф. по законченным научным исследованиям. -Саратов: СГМУ, 1994. - Ч. 2. - С. 28-30.

239. Долинина О.Н. Нейросетевой подход к решению проблемы комплаентности пациентов / О.Н. Долинина, А.К. Кузьмин, В.В. Тарасова // Информатизация и информационная безопасность правоохранительных органов. - М.: 2008. - С. 486-489.

240. Долинина О.Н. Метод генерации тестов для отладки нейросетевых экспертных систем / О.Н. Долинина, А.К. Кузьмин // Вестник Тамбовского государственного технического университета. - 2010. - С. 34-45.

241. Rumelhart D. Learning Internal Representations by Error Propagation / D. Rumelhart, G. Hinton, R. Williams // In Parallel Distributed Processing. - Cambridge: MIT Press, 1989. - Р. 318-362.

242. Rumelhart D. Learning Representations by Back-propagating Errors / D. Rumelhart, G. Hinton, R. Williams // Nature. - Cambridge: 1986. - Т. 323. - Р. 533578.

243. Технологии анализа данных. - Режим доступа: www.basegroup.ru (дата обращения: 28.03.08).

244. Горбань А.Н. Обучение нейронных сетей / А.Н. Горбань. - М.: СПб.: ПараГраф, 1991. - 287 с.

245. Гилев С. Контрастирование, оценка значимости параметров, оптимизация их значений и их интерпретация в нейронных сетях / С. Гилев [и др.] // Нейроинформатика и ее приложения: доклады III Всероссийского семинара. - Красноярск. - С. 34-40.

246. Миркес Е. Нейрокомпьютер: проект стандарта / Е. Миркес. -Новосибирск: Наука, 1999. - 337 с.

247. Towell G. Extracting Refined Rules from Knowledge-Based Neural Networks / G. Towell, J. Shavlik // Working Paper 91-4. - 2000. - 12 p.

248. Towell G. Interpretation of Artificial Neural Networks: Mapping Knowledge-based Neural Networks into Rules / G. Towell, J. Shavlik // Advances in Neural Information Processing Systems 4. - 1992.

249. Setiono R. Extraction of Rules from Artificial Neural Networks for Nonlinear regression / R. Setiono, W. Leow, J. Zurada // IEEE Trans. of Neural Networks. - 2002. - Vol. 13. - Р. 564-577.

250. Ourston D. Theory refinement combining analytical and empirical methods / D. Ourston, R. Mooney // Artificial Intelligence. - 1994. - Р. 273-310.

251. Gupta A. Generalized Analytic Rule Extraction for Feedforward Newrak Networks / A. Gupta, S. Park, S. Lam // IEEE Transactions on Knowledge and Data Ingeneering. - 1999. - Vol. 11. - Р. 60-68.

252. Setiono R. Symbolic presentation of neural networks / R. Setiono, H. Liu // IEEE Computer. - 1996. - Р. 71-77.

253. Bogacz R. A Novel Modular Neural Architecture for Rule-based and Similarity-based Reasoning / R. Bogacz, C. Giraud-Carrier // Hybrid Neural Systems. - 2000. - P. 63-77.

254. Andrews R. Inserting and extracting knowledge from constrained error backpropagation networks / R. Andrews, S. Geva // Proc. of Sixth Australian Conference on Neural Networks. - Sydney, 1995. - P. 56-63.

255. Setiono R. Extracting rules from neural networks by pruning and hidden-unit node splitting / R. Setiono // Neural Computation. - 1997. - Vol. 9. - Р. 205-225.

256. Craven M. Extracting Tree-Structured Representations of Trained Networks / M. Craven, J. Shavlik // Advances in Neural Information Processing Systems. - Cambridge: MIT Press, 1996. - Р. 88-93.

257. Goel P. An implicit enumeration algorithm to generate tests for combinational logic circuits / P. Goel // IEEE Trans. Computers. - 1981. - Vol. 30. -№. 3. - P. 215-222.

258. Goel P. PODEM-X: an automatic test generation system for VISI logic structures / P. Goel, B.C. Rasales // Proc. 18th IEEE Design Automation Conf., 1981. - P. 260-268.

259. Основы технической диагностики: в 2 кн. Кн. 1. Модели объектов, методы и алгоритмы диагноза / под ред. П.П. Пархоменко. - М.: Энергия, 1976. -464 с.

260. Roth J.P. Diagnosis of automata failures: a calculus and a method / J.P. Roth // IBM. J.Res. Develop. - 1966. - Vol. 10. - P. 278-291.

261. Долинина О.Н. Применение методов технической диагностики для отладки баз знаний нейросетевых экспертных систем / О.Н. Долинина, А.К. Кузьмин // Информационные технологии - ежемесячный теоретический и прикладной научно-технический журнал. - 2009. - № 2(150). - С. 34-38.

262. Долинина О.Н. Особенности создания экспертных систем, основанных на нейросетевом представлении знаний / О.Н. Долинина, А.К. Кузьмин // Вестник Саратовского государственного технического университета. - 2008. - № 2(33). - С. 266-272.

263. Долинина О.Н. Метод отладки баз знаний, основанных на правилах, для экспертных систем / О.Н. Долинина // Българско списание за инженерно

проектиране / Машиностроителен факултет, Технически университет. София. Октомври. 2013. № 20. С. 43-51.

264. Грэхам Р. Конкретная математика / Р. Грэхам, Д. Кнут, О. Паташник. -М.: Слово, 1998. - 708 с.

265. Эксплуатация оборудования и объектов газовой промышленности: в 2-х т. / под общ. ред. Ю.Д. Земенкова. - М.: Инфра-Инженерия, 2008. - 608 с.

266. Михаленко С.В. Управление техническим состоянием и риском аварий газоперекачивающих агрегатов компрессорных станций: дис. ... д-ра техн. наук: 05.02.13 / Михаленко С.В. - Тюмень, 2002.

267. Аврамов М.В. Экспертная система диагностики неисправностей газоперекачивающих агрегатов на компрессорных станциях / М.В. Аврамов, П.Г. Антропов, Н.М. Губин, О.Н. Долинина, И.И. Евдакимов, С.В. Пахтусов / Интеллектуальные системы в производстве. - 2017. - Т. 15. - № 1. - С. 20-25.

268. Еремин Н.В. Компрессорные станции магистральных газопроводов (надежность и качество) / Н.В. Еремин, О.А. Степанов, Е.И. Яковлев. - СПб.: Недра, 1995. - 336 с.

269. Микаэлян Э.А. Повышение качества, обеспечение надежности и безопасности газнонефтепроводов для совершенствования эксплуатационной пригодности / Э.А. Микаэлян; под ред. Г.Д. Маргулова. - М.: Топливо и энергетика, 2001. - 640 с.

270. Зарицкий С.П. Диагностика газоперекачивающих агрегатов с газотурбинным приводом / С.П. Зарицкий. - М.: Недра, 1987. - 198 с.

271. Зарицкий С.П. Диагностика газоперекачивающих агрегатов: учеб. пособие / С.П. Зарицкий, А.С. Лопатин. - М.: РГУ нефти и газа им. И.М. Губкина, 2003. - 598 с.

272. Стребков А. Система параметрической диагностики газоперекачивающих агрегатов: современный подход / А. Стребков, М. Басманов, С. Меньшиков, И. Морозов // Деловая Россия: промышленность, транспорт, социальная жизнь. - 2011. - № 7. - С. 42-43.

273. Долинина О.Н. Использование интеллектуальных систем для диагностики неисправностей газоперекачивающих агрегатов [Электронный ресурс] / О.Н. Долинина, П.Г. Антропов, А.К. Кузьмин, А.Ю. Шварц // Современные проблемы науки и образования. - 2013. - № 6. - Режим доступа: http://www.science-education.ru/113-11252 (дата обращения:

29.11.2015).

274. Долинина О.Н. Способ диагностики неисправностей газоперекачивающих агрегатов с использованием гибридных интеллектуальных систем / О.Н. Долинина, П.Г. Антропов, А.К. Кузьмин, А.Ю. Шварц // Вестник Самарского государственного аэрокосмического университета им. академика С.П. Королева (Национального исследовательского университета). - 2014. - № S5-1. - С. 75-84.

275. Губин Н.М. Интеллектуальные технологии для решения проблемы диагностики неисправностей газоперекачивающих агрегатов / Н.М. Губин, О.Н. Долинина / Информационно-коммуникационные технологии в науке, производстве и образовании ICIT-2016: материалы научно-практ. конф., Саратов, 23-28 августа 2016 г. - Саратов: Научная книга, 2016. - С. 137-142.

276. World Health Organization. Adherence to long-term therapies: evidence for action. - Geneva: World Health Organisation, 2003.

277. Tilson H.H. Adherence or compliance? Changes in terminology / H.H. Tilson // Annals of Pharmacotherapy. - 2004. - № 38 (1). - Р. 161-2.

278. Кадыров Р.В. Опросник «Уровня комплаентности» / Р.В. Кадыров, О.Б. Асриян, С.А. Ковальчук. - Владивосток: Мор. гос. ун-т, 2014. - 74 с.

279. Новикова И.А. Комплаентность и качество жизни психосоматических больных [Электронный ресурс] / И.А. Новикова, В.В. Попов // Медицинская психология в России. - 2015. - № 6 (35). - Режим доступа: http://mprj.ru/archiv_global/ 2015_6_35/nomer08.php (дата обращения:

17.03.2016).

280. Шварц Ю. Г. Выполнение больными врачебных назначений и есть ли доказательства: эффективны ли вмешательства, направленные на улучшение этого показателя / Ю.Г. Шварц, Е.А. Наумова // Международный журнал медицинской практики. - 2006. - № 1. - С. 48-54.

281. Rudd P. Clinicians and patients with hypertension: unsettled issues about compliance / P. Rudd // Am. Heart J., 1995. - Р. 572-579.

282. Wilson Px. - Режим доступа: www.wilsonrx.com (дата обращения: 12.12.2010).

283. MEDI.RU - Подробно о лекарствах. - Режим доступа: http://www.medi.ru. — (дата обращения: 21.09.2007).

284. Долинина О.Н. Прогноз комплаентности методом нейронных сетей у кардиологических больных / О.Н. Долинина, А.К. Кузьмин, А.В. Оуграбко // Молодые учёные - науке и производству: материалы конференции молодых учёных; ред. А. А. Слепухин. - Саратов: СГТУ, 2007. - 113-116 с.

285. Долинина О.Н. Применение методов технической диагностики для отладки баз знаний нейросетевых экспертных систем / О.Н. Долинина, А.К. Кузьмин // Информационные технологии - ежемесячный теоретический и прикладной научно-технический журнал. - 2009. - № 2(150). - С. 34-38.

286. Долинина О.Н. Задачи прогноза развития нестабильной стенокардии методом нейронной сети / О.Н. Долинина, А.К. Кузьмин, А.В. Оуграбко, А.О. Юдин // Технологии Интернет - на службу обществу: сб. статей по материалам Всерос. науч.-практ. конф. / Сарат. гос. техн. ун-т. Саратов, 2006. С. 133-137.

287. Долинина О.Н. Метод генерации тестов для отладки нейросетевых экспертных систем / О.Н. Долинина, А.К. Кузьмин // Вестник Тамбовского государственного технического университета. - 2010. - С. 34-45.

288. Долинина О.Н. Отладка искусственной нейросети, основанной на трёхслойном персептроне, на примере экспертной системы для офтальмологии / О.Н. Долинина, А.К. Кузьмин // Вестник Астраханского государственного

технического университета. Управление, вычислительная техника и информатика. - 2011. - С. 80-90.

289. Долинина О.Н. Отладка нейросетевой экспертной системы для офтальмологии / О.Н. Долинина, А.К. Кузьмин // Вестник Саратовского государственного технического университета. - 2011. - №4(62). - Вып. 4. -С. 248-253

290. Всемирная организация здравоохранения. - Режим доступа: http://www.who.int/mediacentre/ factsheets/fs317/ru/ (дата обращения: 19.03.2017).

291. Болезни сердца и сосудов. Руководство для врачей: в 4 -х т. Т. 2 / под ред. Е.И. Чазова. - М.: Медицина, 1993. - 446 с.

292. Falk Е. Coronary plaque disruption / Е. Falk, Р.К. Shan, V. Fuster. // Circul, 1995. - Р. 657-671.

293. VanderWal A.C. Site of intimal rupture or erosion of trombosed coronary atherosclerotic plaques is characterized by an inflammatory process irrespective of the dominant plaque morphology / A.C. VanderWal, A.E. Becker, C.M. Van der Loos, P.K. Das. - Ibid, 1995. - Р. 36-44.

294. Klaboe G. Statistical Analysis of Unstable Angina Syptoms / G. Klaboe, J. OtterStad, T. Winsnes, N. Espeland // Acta Med. Scand. - 1987. - Vol. 222. - № 1. -P. 27-30.

295. Gallaire H. Logic and Data Bases / H. Gallaire, J. Minker. - N.Y.: Plenum Press, 1978. - 458 p.

296. Green C. Theorem Proving by resolution as a basis question - answering system / C. Green // Mach. Intell. - 1969. - Vol. 4. - P. 183-205.

297. Девис М. Устранение лишнего из механических доказательств / М. Девис // Кибернетический сборник; пер. с англ. - М.: Мир, 1970. - С. 160-179.

298. Лозовский В.С. Задание реляционной базы данных в виде мультисети и реализация поиска по образцу / В.С. Лозовский // Информационное и программное обеспечение систем ситуационного управления. - С.13-24.

299. Quillian M.R. Semantic memory / M.R. Quillian // Semantic Information Proc. - Cambridge: MIT Press, 1968. - P. 227-270.

300. Wilcox I. Prognostic significance of a predischarge exercise test in risk stratification after unstable angina pectoris / I. Wilcox, S.B. Freedman, K.C. Allman, F.L. Collins // J-Am-Coll-Cardiol. - 1991. - № 18(3). - P. 677-683.

301. Мерцательная аритмия, симптомы и лечение. - Режим доступа: http://heal-cardio.ru/2015/12/25/mercatelnaja-aritmija-simptomy-i-lechenie/ (дата обращения: 19.03.2017).

302. Дощицин В.Л. Лечение аритмий сердца / В.Л. Дощицин. - М.: Медицина, 1993. - 320 с.

303. Righetti A. Expert systems in the health sector: first in theory, last in practice / A. Righetti // J. Clin. Comp. - 1989. - Vol. 18. - P. 1-5.

304. Hughes C.A. Overcoming deficiencies of the rule-based medical expert system / C.A. Hughes, E.E. Gose, D.L. Roseman // Comput. Methods Programs Biomed. - 1990. - Vol. 32. - P. 63-71.

305. Andreassen S. Medical expert systems based on causal probabilistic networks / S. Andreassen, F.V. Jensen, K.G. Olesen // Int.J.Biomed.Comput. - 1991. -Vol. 28. - P. 1-30.

306. Богословская С.И. Использование ЭВМ для математического индивидуального дозирования антиаритмических средств / С.И. Богословская, Б.М. Каргин, Л.П. Емелина // Актуальные проблемы кардиологии: сб. научных работ. - Саратов, 1995. - С. 137-139.

307. Greenhut S.E. A stochastic network model of the interaction between cardiac rhythm and artificial pacemaker / S.E. Greenhut, J.M. Jenkins, R.S. MacDonald. - IEEE Trans.Biomed.Eng.,1993. - Vol. 40. - P. 845-858.

308. Habashi M.S. Disturbances of impulse formation: an expert system for ECG interpretation / M.S. Habashi, M.A. Abdel-Bary. - Med.Inf.Lond., 1991. - Vol. 16. - P. 29-41.

309. Redman T.C. Arrhythmia analysis with an expert system / T.C. Redman,

A.W. Hahn. - Biomed. Sci. Instrum., 1989. - Vol. 25. - P. 221-225.

310. Valova D. Comparison of discriminant analysis and probabilistic expert system in VCG data classification / D. Valova, Z. Drska, M. Polankova. -Physiol.Res., 1993. - Vol. 42. - P. 91-93.

311. Mars N.J. Tools for knowledge acquisition and verification in medicine / N.J. Mars, P.L. Miller // Proc. of the 10th Annual Symp. on Computer Applications in Medical Care. - 1986. - P. 36-44.

312. Nillson N.J. Problem-Solving Methods in Artificial intelligence / N.J. Nillson. - McCgraw-Hill, 1971. - 269 p.

313. Nillson N.J. Principles of Artificial Intelligence / N.J. Nillson. - Tioga; lso Springer-Verlag, 1980. -476 p.

314. Pearl J. Heuristics: Intelligent Search Strategies for computer Problem Solving / J. Pearl. - Addison-Wesley, 1984.

315. Yu V.L. Antimicrobial Selection by a Computer / V.L. Yu et all // J. Am. Medical ss. - 1979. - Vol. 242. - № 12. - P. 1279-1282.

316. Hickam. The treatment Advice of a Computer Based Canser Chemothcraphy Protocol Adsvisor / Hickam et all // Annals of Internal Medicine. -1985. - Vol. 103. - № 6. - P. 928-936.

317. Chandrasekazam B. On evaluating AI systems for medical diagnosis /

B. Chandrasekazam // AI Mag. - 1983. - Vol. 4. - № 2. - P. 34-37.

318. ONCOCIN: an expert system for oncology protocol management // Proc. of The 7th International Joint Conference on Artificial Intelligence. - Vancouver: University of British Columbia, 1981. - P. 876-881.

319. Долинина О.Н. Проблемы разработки медицинских экспертных систем для неотложной кардиологии. Возможные пути решения / О.Н. Долинина, Р.Н. Каримов, Ю.Г. Шварц // Тез. докл. Межрегион. конф. СарНИИ кардиологии. - Саратов, 1992. - С. 151-156.

320. Шварц Ю.Г. Проблемы разработки медицинских экспертных систем / Ю.Г. Шварц, О.Н. Долинина, Р.Н. Каримов // Здравоохранение РФ. - 1994. -№. 1. - С. 7-9.

321. Шварц Ю.Г. Компьютерная интеллектуальная система-тренажер «Остановка сердца» / Ю.Г. Шварц, О.Н. Долинина, А.А. Бороздюхин // Материалы 4 Всероссийского съезда анестезиологов и реаниматологов 9 -10 июня 1994 г. - М. 1994. - С. 32.

322. Шварц Ю. Экспертные компьютерные системы для точного краткосрочного прогноза неотложных состояний у кардиологических больных / Ю. Шварц, О. Долинина, Р. Каримов // Современные проблемы медицинской науки: материалы науч.-практ. конф. по законченным научным исследованиям. -Саратов: СГМУ, 1994. - Ч. 2. - С. 28-30.

323. Шварц Ю.Г. Системная оценка состояния мембран эритроцитов у больных нестабильной стенокардией и острым инфарктом миокарда / Ю.Г. Шварц, О.Н. Долинина, И.М. Соколов, О.И. Полиевктова // Тез. докладов XVII Международного регионального симпозиума по реологии. Саратов, июль 1994 г. - Саратов, 1994. - С. 225.

324. Долинина О.Н О методе сравнительной оценки параметров для разработки экспертных систем / О.Н. Долинина // Инновационная деятельность. -2011. - № 3 (16). - С. 115-119.

325. Долинина, О.Н. О методе создания экспертных систем / О.Н. Долинина // Научно-технический вестник Поволжья. 2011. № 4. С. 152-156.

326. Большаков А.А. Управление образовательным процессом на основе автоматизированных комбинированных обучающих систем / А.А. Большаков, О.Н. Долинина, В.В. Шатохин // Вестник СГТУ. - 2008. - № 2 (35). - С. 54-62.

327. Borozdukhin A. Method of Dynamic Rout Calculation in the «Smart City» Project / A. Borozdukhin, O. Dolinina, V. Pechenkin / Computer Technology and Application. - 2016. - Vol. 7. - № 4. - Р. 209-215.

328. Borozdukhin А. Approach to the garbage collection in the "Smart Clean City" project / A. Borozdukhin, O. Dolinina, V. Pechenkin // 4th IEEE International Colloquium on Information Science and Technology (CiSt), 2016. - P. 918 -922.

329. Долинина О.Н. Нечеткая интеллектуальная система оценки технического состояния мостовых сооружений / О.Н. Долинина, А.Ю. Шварц // Информационно-коммуникационные технологии в науке, производстве и образовании ICIT-2016: материалы научно-практ. конф., Саратов, 23 -28 августа 2016 г. / под ред. О.Н. Долининой. - Саратов: Научная книга, 2016. - С. 131137.

330. Долинина О.Н. О подходе к управлению сбором бытовых отходов с помощью гибридной интеллектуальной системы проекта «Умный город» / О.Н. Долинина, В.В. Печенкин // Программные системы и вычислительные методы. 2017. № 3. - С. 1-15.

331. Долинина, О.Н. Модифицированный гравитационный «force-directed» метод динамической укладки социальной сети образовательной организации / О.Н. Долинина, В.В. Печенкин, В.В. Тарасова, П.П. Шацких // Вестник Саратовского государственного технического университета. 2010. №2 4(50). Вып. 2. - С. 156-160.

332. Долинина О.Н. Методы обработки многомерных данных объектов числовой и нечисловой природы / О.Н. Долинина, Р.Н. Каримов // Вестник Саратовского государственного технического университета. -2006. -№ 2 (12). -С. 100-110.

333. Dolinina O. Development of Expert System PharmExs for Purchasing of First Aid Medicine against Colds / О. Dolinina, D. Sokolov // Proc. of Int. congress on Inf. Technologies ICIT-12 (Information & Communication technologies in education, manufacturing & Research). 6-9 June. Saratov, Russia. 2012. P. 89-95.

334. Долинина О.Н., Шварц А.Ю. Метод группировки правил в интеллектуальных системах, использующих нечеткий вывод / О.Н. Долинина, Ю.Г. Шварц // Научное обозрение. - 2015. - № 2. - С.109-118.

335. Dolinina O. Algorithms for Increasing of the Making Decisions by Intelligent Fuzzy Systems / O. Dolinina, A. Shvarts / Journal of Electrical Engineering. - 2015. - Vol. 3. - №. 1. - Р. 30-36.

336. Dolinina O. Method of the Visual Information Processing based on Grid-Calculations / O. Dolinina, A. Ermakov, A. Shvarts // Proc. of the 22d Int. Conf., CN 2015, Brunow, Poland. June 16-19. Springer, Computer Networks. -2015. - P. 213-222.

337. Утц С.Р. Инновационные технологии обучения управлением атопическим дерматитом / С.Р. Утц, М.Г. Еремина М.Г., О.Н. Долинина / Саратовский научно-медицинский журнал «Дерматовенерология». - 2016. -№ 3. - Т.12. - С. 495-498.

338. Долинина О.Н. Управление процессом создания программного обеспечения систем принятия решений по критерию качества / О.Н. Долинина, А.Ф. Резчиков // Системы управления и информационные технологии. № 3 (69). -2017. -С. 78-82

339. Ардаматский Н.А. Введение в общую терапию. Аспекты методологии врачебной работы / Н.А. Ардаматский. - Саратов, 1991. - 192 с.

Приложение 1

Основные характеристики надежности газоперекачивающих агрегатов

Надёжность ГПА объединяет такие понятия, как работоспособность, неисправность, наработка на отказ, ремонтопригодность, готовность. Надёжность агрегата в общем случае определяется надёжностью его элементов, систем, его обслуживающих, и характером их взаимодействия.

Работоспособность эксплуатации ГПА - это его способность выполнять заданные функции эксплуатации в пределах, допустимых нормативно-технической документацией и инструкциями по его эксплуатации. Под неисправностью ГПА понимают состояние, при котором агрегат не соответствует хотя бы одному из требований, установленных нормативно-технической документацией, даже в том случае, если эта неисправность и не приводит сразу к отказу в его работе. Отказ -это событие, приводящее к полной или частичной потере работоспособности агрегата. Безотказностью агрегата называется его свойство непрерывно сохранять работоспособность в течение заданного времени эксплуатации.

Основными показателями надежности ГПА являются частота отказов У (£\ вероятность безотказной работы интенсивность отказов среднее время безотказной работы Т, средняя частота отказов наработка на отказ ?ср.

Указанные показатели связаны между собой следующими зависимостями:

Ремонтопригодностью ГПА называется способность агрегата к восстановлению в процессе эксплуатации путем проведения ремонтов и

технического обслуживания. Показателями ремонтопригодности являются вероятность восстановления агрегата за заданное время Рв^), среднее время восстановления в закон распределения времени восстановления интенсивность восстановления ¡л(1).

Вероятность Рв^) - это интервальный показатель, 1в - интегральный, а и /и^) - точечные показатели ремонтопригодности. Обычно для оценки ремонтопригодности ГПА применяется среднее время восстановления, как наиболее важный на практике показатель, определяющий показатель готовности. Среднее время восстановления - интегральный показатель, недостаток которого заключается в том, что он неполно характеризует ремонтопригодность агрегата в случае, если закон распределения времени восстановления многопараметрический и для оценки ремонтопригодности необходимо знание моментов высшего порядка.

Важнейшей характеристикой ремонтопригодности газоперекачивающего агрегата является интенсивность восстановления узлов и элементов ГПА. Это объясняется тем, что в процессе проектирования большинство показателей качества агрегата вычисляются через интенсивности восстановления их устройств.

В общем случае способность ГПА быть готовым к действию в любой момент времени называется готовностью и зависит от ремонтопригодности и надежности устройства. Готовность выше, чем выше ремонтопригодность и надежность. В качестве показателей готовности обычно используют функцию готовности КО и коэффициент готовности Кг, которые определяются следующим образом:

Функция готовности определяется как вероятность того, что ГПА готов к действию в любой момент времени I. Будем считать, что Кг(0)=1, что означает тот факт, что ГПА начинает эксплуатироваться в исправном состоянии. С ростом времени / функция готовности КО убывает и при л —+ со стремится к постоянной, отличной от нуля величине, которая и является результирующей вероятностью и называется коэффициентом готовности ГПА. Между функцией и

коэффициентом готовности существует зависимость ^ = .

Коэффициент готовности рассчитывается, если известны интегральные характеристики ремонтопригодности и надежности

где - наработка на отказ ГПА; ¿в - среднее время восстановления ГПА.

Функция готовности КО обычно возрастающая или колебательная. В случае возрастающей функции при условии, что в начале эксплуатации ГПА имеет неисправные резервные устройства Кг(0)#1 .

В случае, когда анализ готовности ГПА начинается с того момента времени, когда он находится в состоянии неисправности и происходит его ремонт, ^(0) = 0.

Рисунок П 1.1 - Функция готовности газоперекачивающего агрегата

По причинам возникновения будем классифицировать отказы в работе ГПА следующим образом:

• конструктивные отказы (возникающие из-за ошибок в конструкции узла или агрегата),

• технологические отказы (возникающие из-за нарушения правил технологии изготовления или монтажа агрегата на станции),

• эксплуатационные отказы (из-за нарушения правил эксплуатации агрегатов на станции).

Приведем классификацию отказов по степени влияния на функционирование ГПА:

• систематические,

• полные,

• частичные,

• внезапные,

• постепенные.

К систематическим отказам можно отнести отказы элементов, узлов и обслуживающих вспомогательных систем ГПА, долговечность которых во много раз меньше, чем долговечность самого агрегата, например, работа систем уплотнений различного рода, износ масляных и воздушных фильтров и других комплектующих, требующих периодического ремонта и замены; обычно подобные неисправности устраняются на станции силами обслуживающего персонала. Понятие полного отказа включает нарушение работоспособного состояния агрегата в целом, требующее его остановки с последующей заменой или сложным, возможно, долгосрочным ремонтом. Частичный отказ это состояние, после возникновения которого агрегат может продолжать использоваться по назначению, но с меньшей эффективностью, например при разгерметизации регенераторов, утечке масла и т.п. Для внезапного отказа характерно скачкообразное изменение одного или нескольких параметров, определяющих работу ГПА, которое практически мгновенно переводит агрегат из работоспособного состояния в состояние отказа. Постепенный отказ характеризуется монотонным изменением одного или нескольких заданных параметров ГПА, например снижением мощности агрегата из-за износа узлов и деталей.

Качественная зависимость интенсивности отказов ГПА от времени эксплуатации приведена на рисунке П 1.2.

3

1 2

V

А Б В

Тотк

Рисунок П 1.2 - Качественная зависимость интенсивности отказов ГПА от времени эксплуатации

На рисунке П 1.2 используются следующие обозначения: область «1» - время эксплуатации по ресурсу, область «2» - максимально возможное время эксплуатации, область «3» - неиспользованный ресурс, область «А» - область преждевременных отказов (приработки), «Б» - область случайных отказов; «В» -область отказов по износу.

Принято выделять следующие периоды эксплуатации газоперекачивающих агрегатов:

1. Пусконаладочный, который характеризуется мгновенными приработочными отказами.

2. Период нормальной эксплуатации, характеризующийся внезапными отказами, обычно имеющими случайный характер.

3. Завершающий период, для которого характерны износные отказы, влияющих на рост аварийности ГПА.

Причины вынужденных остановок