Клиент-серверная среда динамических экспертных систем тема диссертации и автореферата по ВАК РФ 05.13.01, кандидат наук Семченко, Павел Николаевич

• Семченко, Павел Николаевич
• кандидат наук
• 2013

Оглавление диссертации кандидат наук Семченко, Павел Николаевич

Оглавление

Введение

1. Современные интеллектуальные системы поддержки принятия решений и клиент-серверный подход в вычислительных задачах

1.1. Построение интеллектуальных и экспертных систем с использованием компьютеров

1.2. Решение проблем и поиск решений с помощью эвристики

1.3. Обоснование модели представления знаний

1.4. Обоснование технологии ядра экспертной системы

Выводы по 1-й главе

2. Клиент-серверная среда динамических экспертных систем и её математическая модель

2.1. Многопользовательская технология работы с различными динамическими экспертными системами

2.2. Обоснование математической модели клиент-серверной среды динамических экспертных систем

2.3. Разработка функциональной схема работы клиент-серверной среды динамических экспертных систем

2.4. Численное моделирование клиент-серверной среды динамических экспертных систем на основе марковского процесса с дискретными состояниями и непрерывным временем

Выводы по 2-й главе

3. Реализация клиент-серверной среды динамических экспертных систем с помощью технологии Embarcadero DataSnap

3.1. Взаимодействие компонентов программного обеспечения при использовании многозвенной архитектуры DataSnap

3.2. Технология разработки прототипа клиент-серверной платформы

3.3. Интеграция ядра среды экспертных систем CLIPS и FuzzyCLIPS

3.4. Использование баз данных для хранения листингов экспертных систем с произвольной группировкой в визуальном представлении

Выводы по 3-й главе

4. Разработка экспертных систем в клиент-серверной среде

4.1. Способ хранения данных и интерфейс клиент-серверной среды динамических экспертных систем

4.2. Защита персональных данных как предметная область для работы экспертных систем

4.3. Экспертная система определения уровня защищённости и необходимых мер защиты информационных систем персональных данных

4.4. Применение экспертной системы определения уровня защищённости и необходимых мер защиты информационных систем персональных данных

Выводы по 4-й главе

Заключение

Список литературы Приложение

111

Введение диссертации (часть автореферата) на тему «Клиент-серверная среда динамических экспертных систем»

Введение

Актуальность темы.

В наши дни мы становимся свидетелями и участниками всесторонней информатизации процессов - это и бизнес, и образование, и государственный сектор. Автоматизация затрагивает даже сферу интеллектуальной деятельности - поддержку принятия решений, экспертные заключения[63]. Электронные вычислительные машины поднимаются на более высокую ступень, нежели просто логика «и-или-не»[24]: появились облачные технологии, контентный анализ, таргетированная реклама. Так, при навигации в сети интернет пользователь может вводить поисковой запрос прямо в адресной строке браузера и получить целую выборку уточнённых запросов[42], ориентированных на практику навигации по сети интернет именно у этого пользователя. Современные технологии позволяют предложить пользователю набор музыки и фильмов, ориентированный на его вкус. При использовании мощностей геоинформационных систем (включая GPS и ГЛОНАСС)[71] появляется возможность предлагать пользователю «кафе именно с той кухней, которую он предпочитает».

С другой стороны, при всём потенциале современных технологий, не все бизнес-процессы оптимизированы с точки зрения использования интеллектуальных технологий. Так, например, в сфере оказания услуг по защите информации[35] или построению информационной инфраструктуры достаточно распространено явление так называемых опросных листов. Некоторый набор необходимых по версии одного или нескольких экспертов сведений интерпретируется группой лиц для собственно выбора решения в заданной предметной области, при этом системные интеграторы стараются в целом держать качество своих услуг на высоком уровне и стандартизовать производственный процесс. Наиболее популярной системой стандартов в области менеджмента качества является серия ISO 9000[26], хотя и не га-

рантирующая напрямую качество получаемых услуг или продуктов, но несомненно влияющая на процесс оказания услуг или производства в сторону улучшения качества. В случае же классических, хоть и стандартизованных, опросных листов есть проблема неоднозначности трактовок как входных, так и выходных данных. Например, если экспертам удалось создать действительно качественный опросный лист, гарантирующий движение вперёд по проекту к означенной цели, может возникнуть проблема трактовки сведений этого опросного листа вновь нанятыми сотрудниками по исполнению проекта. Более того, если некоторое экспертное знание с какой-то степенью поддаётся формализации, можно сделать предположение о возможности автоматизации действий, предусмотренных в данном знании. Если само знание формализуемо, то его можно представить, например, с помощью продукционной модели [18].

Простота продукционной модели представления знаний стала базой для создания целого направления в области искусственного интеллекта - экспертных систем на основе правил. Именно экспертные системы позволяют воплотить всю мощь продукционной модели представления знаний в области решения экспертных задач и при поддержке принятия решений.

Хорошо согласуется с продукционной моделью и метод опросных листов -фактически вопросы оператору задаёт уже сам компьютер и тут же анализирует поступающую информацию. Другой проблемой является то, что существующие на данный момент экспертные системы подразумевают текстовый интерфейс взаимодействия (т.е. консольный, в стиле командной строки)[41]. Ныне такой интерфейс активно вытесняется графическим пользовательским интерфейсом, несомненно более удобным. Более того: текстовый консольный стиль взаимодействия подразумевает однопользовательское общение с программным обеспечением экспертной системы, что также не согласуется с активно развивающейся клиент-серверной технологией, переносящей вычисления в мощные центры обработки данных и разгружающей пользовательские персональные компьютеры или же терминалы типа «тонкий клиент». Клиент-серверная технология подразумевает и использование реляционных баз данных[36] для хранения информации, в то время как классические

экспертные системы в лучшем случае могут взаимодействовать с текстовыми файлами.

Если логику работы экспертной системы исполнить в виде серверного приложения, данные располагать на серверах баз данных и реализовать клиентский интерфейс для оператора, то мы получим современную концепцию работы экспертных систем. Более того, исследовать работу такой системы станет возможно с помощью методов теории систем массового обслуживания[25]. Аналитический аппарат этой теории позволит получить вероятности отказов в обслуживании запросов внутри клиент-серверной архитектуры, обслуживающей создание, существование и исполнение экспертных систем. В данном случае основной проблемой будет собственно разработка схемы взаимодействия компонентов изучаемой системы и построение математической модели для численного моделирования.

При синтезе схемы взаимодействия компонентов следует учитывать также и особенности, налагаемые клиент-серверной технологией, - это обеспечит создание максимально эффективной модели работы системы, хорошо описываемой теорией систем массового обслуживания. По результатам построения модели работы системы станет возможным подбор оптимальной реализации клиент-серверной технологии и, как итог, техническая реализация технологии экспертных систем в современном клиент-серверном исполнении с графическим пользовательским интерфейсом.

Учитывая вышеизложенные обстоятельства, на данный момент большой научный и практический интерес представляет реализация логики работы ядра экспертных систем в архитектуре «клиент-сервер». Такая новая технология позволит существенно расширить применение экспертных систем в современных условиях. Очевидны преимущества такой технологии: в целом, экспертное знание можно будет формализовать и делать более доступным, а сама концепция позволяет создавать экспертные системы по различным предметным областям в удобном пользовательском графическом интерфейсе.

Цель диссертационной работы.

Целью диссертационной работы является разработка клиент-серверной среды динамических экспертных систем на основе продукционной модели представления знаний с обоснованием функциональной схемы такой среды и технологии разработки прототипа клиент-серверной платформы.

Задачи диссертационной работы.

Для достижения цели диссертационного исследования необходимо решить следующие задачи:

1. Обоснование модели представления знаний в рамках технологии ядра экспертной системы.

2. Разработка математической модели и функциональной схемы клиент-серверной среды динамических экспертных систем и их анализ.

3. Обоснование способа хранения данных клиент-серверной среды динамических экспертных систем с построением ER-диаграммы.

4. Разработка программного обеспечения клиент-серверной среды динамических экспертных систем.

5. Разработка прототипа экспертной системы на входном языке ядра клиент-серверной платформы для определенной предметной области.

Методы исследований.

В процессе исследования использовались положения теории вероятности и математической статистики, аппарат теории систем массового обслуживания. Для решения дифференциальных уравнений применены численные методы с проверкой математической модели в пакете Mathcad. При программной реализации алгоритмов использовался язык С++ в среде Embarcadero С++ Builder ХЕЗ Architect.

Положения, выносимые на защиту.

1. Многопользовательская технология работы с различными динамическими экспертными системами на базе многозвенной клиент-серверной архитектуры.

2. Функциональная схема порядка взаимодействия тонких клиентов с сервером приложений по типам запросов в клиент-серверной среде динамических экспертных систем и разработанная на её базе математическая модель клиент-серверной среды динамических экспертных систем.

3. Технология разработки прототипа клиент-серверной платформы и проектирование прикладных программных комплексов в современной среде разработки на примере клиент-серверной среды динамических экспертных систем.

Научная новизна.

1. Предложена и обоснована концептуальная схема взаимодействия компонентов клиент-серверной среды динамических экспертных систем на основе многопользовательской клиент-серверной реализации логики работы для создания, хранения и функционирования совокупности разнородных прикладных экспертных систем в распределённой инфраструктуре

2. Представлена оригинальная функциональная схема взаимодействия тонких клиентов с сервером приложений по типам запросов на языке блок-схем на основе принципов работы клиент-серверной архитектуры для клиент-серверной среды динамических экспертных систем.

3. На основании функциональной схемы взаимодействия тонких клиентов с сервером приложений по типам запросов разработана математическая модель клиент-серверной среды динамических экспертных систем с обоснованием и использованием для потока обрабатываемых средой заявок распределения Пуассона, с целью упрощения процесса математического моделирования клиент-серверной среды динамических экспертных систем.

4. Разработан универсальный алгоритм прототипа клиент-серверной платформы, представленный в виде ЦМЬ-диаграммы деятельности, для обеспечения универсальности проектирования в отношении совокупности прикладных клиент-серверных реализаций проектов.

5. Разработан прототип экспертной системы для определения уровня защищённости информационной системы персональных данных на базе входного языка

ядра экспертных систем, подтверждающий практическую значимость основных положений диссертации.

Достоверность научных положений.

Достоверность результатов работы подтверждается обоснованием выбора математического аппарата, результатами численного моделирования на ЭВМ в профессиональном математическом пакете Mathcad, результатами интеграции ядра исполнения экспертных систем в клиент-серверную архитектуру при помощи обоснованных в ходе исследования алгоритмов, использованием современных методик сбора и обработки информации, результатами действия разработанной в рамках исследования экспертной системой по заданной предметной области.

Практическая значимость полученных результатов.

Разработана технология интеграции ядра экспертных систем CLIPS и расширенного нечёткой логикой FuzzyCLIPS в клиент-серверную архитектуру, что существенно облегчает задачу проектирования и использования экспертных систем в современных распределённых вычислительных сетях. Разработанная в рамках диссертационного исследования экспертная система является актуальным средством поддержки принятия решений по современным требованиям законодательства Российской Федерации в области персональных данных.

Программный комплекс внедрён в Хабаровском научно-техническом центре Федерального государственного унитарного предприятия «Научно-производственное предприятие «Гамма».

Апробация результатов диссертации.

Основные положения и результаты диссертационной работы обсуждались на 50-й студенческой научно-технической конференции ТОГУ (Хабаровск, 2010 г.), на международной научно-практической конференции "Суперкомпьютеры: вычислительные и информационные технологии" (Хабаровск, 2010 г.), на международном Российско-Китайском симпозиуме "Современные материалы и технологии" (Хабаровск, 2011 г.), на IV Всероссийской научно-практической конференции с международным участием "Информационные технологии в науке, образовании и экономике" (Якутск, 2012 г.), Всероссийской молодёжной конференции "Теория и

практика системного анализа" (Белгород, 2012 г.), международной научной конференции «Информационные технологии XXI века» (Хабаровск, 2013).Также по общим результатам работы распоряжением Губернатора Хабаровского края № 250-р от 05.06.2013 года автор был удостоен стипендии имени H.H. Муравьёва-Амурского.

Публикации.

По результатам диссертационной работы опубликовано четыре статьи в журналах, рецензируемых Всероссийской аттестационной комиссией: «Информатика и системы управления», «Вестник ТОГУ», «Russian journal of Earth Sciences»; три статьи в сборниках научных конференций; получено свидетельство о государственной регистрации программы для ЭВМ.

Структура диссертации.

Работа состоит из введения, четырёх глав, заключения, библиографии из 99 наименований. Объём диссертации составляет 129 страниц, 19 рисунков, 2 таблицы и одно приложение.

1. Современные интеллектуальные системы поддержки принятия решений и клиент-серверный подход в вычислительных задачах

1.1. Построение интеллектуальных и экспертных систем с

использованием компьютеров

Не так давно исход дискуссии о том, может ли машина мыслить, решался с использованием критерия Тьюринга[96]: когда нельзя было отличить машинное от человеческого, давался положительный ответ. В наши дни можно утверждать, что такие интеллектуальные сложные задачи, как распознавание образов, принятие решений, формирование понятий, решение задач логики, планирование поведения, доказательство теорем, интеллектуальные игры и адаптивное управление вполне реализуются с помощью ЭВМ. Ещё в 1974 г. состоялся международный шахматный турнир, где победила отечественная разработка «Каисса»[15], созданная в Институте управления РАН с участием М. Ботвинника. С оборонной промышленностью связано не только само возникновение кибернетики: в наши дни готовность к ведению боевых действий в цифровом пространстве[52] с точки зрения национальной безопасности важна в той же степени, что и ядерное оружие и контроль в космосе. В США ведутся исследования квантовых информационных технологий[89], несомненно, являющихся стратегическим шагом, ориентированным на будущее.

Одной из самых интересных в интеллектуальном плане является задача по построению алгоритмов, способных обучаться[85]. Её решением продолжают заниматься психологи, физиологи, математики и инженеры, имея конечной целью создание читающих автоматов, реализацию систем искусственного интеллекта, которые ставят медицинские диагнозы, прогнозируют погоду, проводят криминалистическую экспертизу и т.п. В 1957 г. американским физиологом Розенблаттом в

качестве модели распознавания был предложен персептрон[47] - алгоритм, который имитирует распознавание в режиме обучения и собственно распознавания. Сейчас существует множество реализаций этой концепции. Так, автомат может учиться распознавать тактильные, слуховые, зрительные и другие сенсорные ситуации.

Математик Хао Ванг разработал интеллектуальную программу, выведшую всего за три минуты двести двадцать теорем и простых лемм, а после сгенерировавшую доказательства ещё ста тридцати более сложных теорем[98]. Представляет интерес класс называемых гироматами[13] интеллектуальных систем, который был разработан академиком Г.С. Поспеловым. Они, учитывая особенности задачи, строят модель и находят решение. Например, управление пропуском судов на участке канала со шлюзами, управление работой целого морского порта и некоторые другие задачи были разработаны с использованием этих интеллектуальных систем. Сам термин принадлежит польскому писателю С. Лему, а обозначает меняющие структуру при изменении условий поставленной задачи системы. Объединение приборов и машин с компьютерами - одно из приоритетных направлений в развитии техники вследствие процесса миниатюризации. Микропроцессор - это, своего рода, «мозг» компьютера, на одном кристалле его ядра (которых может быть уже несколько) реализованы сотни миллионов транзисторов, а размер ядра не превышает квадрата 5x5 мм.

В мире на данный момент существует огромное множество ЭВМ, многие из которых объединены в локальные, региональные, глобальные сети и Интернет, что открывает широкие возможности для информационного обмена между пользователями, начиная от передачи сообщений и заканчивая сложными телеконференциями и созданием разветвлённых корпоративных распределённых сетей[46]. Очевидно, что Интернет является огромным пространством сродни космосу с особой структурой, со своими системами обратной связи и высокой скоростью обновления. Мы можем получать почти любую информацию в любом месте и отправлять информацию в иную точку с наличием доступа к сети. Современный компьютер обладает

памятью, способной хранить одну тысячную информации всей национальной библиотеки России. Мозг человека содержит гигантское число нейронов с огромным количеством связей, по своим вычислительным способностям современный компьютер уже приближается к мозгу.

Современный компьютер способен на очень многое: создаёт музыку и сам её воспроизводит, создаёт и редактирует изображения, с помощью компьютера рождаются мультипликация, клипы и целые фильмы, происходит общение с передачей звука и изображения в реальном времени и т.д.

В последней трети XX века в Японии появились первые музыкальные компьютеры, впрочем, ещё с 50-х годов того же века используются программы алгоритмической композиции. На машине «Урал» отечественный математик Р. Зарипов сочинял монофонические музыкальные пьесы[23].

С начала девяностых годов XX века аранжировщики и композиторы используют 1ВМ-совместимые компьютеры, имеющие специальный интерфейс[3]. Целью таких компьютеров является освобождение человека от рутины в работе. Использование соединённых с электронной вычислительной машиной синтезаторов позволяет моментально услышать рождающееся произведение. Разумеется, из процесса творчества композитора исключить полностью невозможно.

Возникла и весьма нежелательная проблема угрозы программно-математических воздействий[22], проще говоря, компьютерные вирусы - специально созданные, достаточно малые по размеру программы, имеющие способность к заражению другого программного обеспечения и данных пользователя, сопряжённую с нанесением вреда информации. Самые известные признаки такого воздействия: некоторые программы начинают работать некорректно, экран пестрит разнообразными посторонними сообщениями об ошибках, в целом работа системы ощутимо замедляется и прочие. Разумеется, разработаны средства противодействия вирусной угрозе, которые способны распознавать тело вируса и следы его воздействия, удалять сам вирус и восстанавливать работоспособное состояние системы, исправляя внесённые им ошибки.

Сегодня проблема диалога человека с компьютером поднимается на качественно новую ступень, а вопрос об информационном обмене между ними получает иной акцент: каков предел увеличения скорости обмена информацией.

Таким образом, в течение последних трёх-четырёх десятков лет сформировался закономерный переход от дискретных вычислений к интеллектуальным информационным системам. Анализ этой тенденции доказывает, что экспертные системы и системы поддержки принятия решений будут всё шире применяться в жизни общества, имея в качестве базы современные информационные технологии.

1.2. Решение проблем и поиск решений с помощью эвристики

На современном рынке специализированных услуг часто возникает проблема анализа входных требований заказчика[86]. При этом желательно иметь автоматизированную методику формирования плана будущих мероприятий. Часто организации, оказывающие разного рода специализированные услуги (например, по защите информации), используют для анализа требований и состояния сетевых систем заказчика опросные листы. В свою очередь, полученные опросные листы обрабатываются вручную специалистом организации, оказывающей услуги. Специалист на основании своего опыта и приобретённых знаний делает выводы о требуемом комплексе мероприятий в отношении конкретного заказчика. При этом возникают проблемы унификации возможных выводов различными специалистами, повышения качества выполняемых работ и ускорения всего производственного процесса в целом. Эти проблемы актуальны даже в случае устранения неоднозначностей в трактовке опросных листов различными специалистами.

Решением проблем является процесс поиска решения, при этом ведущий к решению путь является неочевидным. Даже если мы знакомы с несколькими мето-

дами решения проблем, в реальном мире многие из них не могут быть решены методами, с которыми мы знакомы. Удивительно, но в отношении некоторых сложных проблем никакая прямая техника решения не известна вообще. Для этих задач эвристические методы[91] решения могут быть единственной альтернативой. Эвристика может быть упрощена в качестве стратегии, которая является мощной и общей, но не абсолютно гарантирующей обеспечение наилучшего решения[1]. Эвристические методы используются для решения конкретных проблем. Предыдущий опыт и некоторые общие правила могли бы помочь легче найти хорошие эвристические методы. Люди часто используют именно эвристические методы. Конечно, если один эвристический метод не позволяет решить задачу, необходимо выбрать другой или знать, что целесообразно отказаться от решения. Выбор случайных решений, использование «жадных алгоритмов», развитие основного эвристического метода для того, чтобы найти лучший, являются только некоторыми из популярных подходов, используемых в эвристическом решении задач[1]. Эвристическое решение задачи состоит в нахождении набора правил или процедуры, которые позволяют добиться удовлетворительного решения конкретной задачи. Хорошим примером является нахождение пути через лабиринт. Чтобы пройти путь к конечной цели, необходимо пошаговое движение. Очень часто делаются ложные ходы, но в большинстве случаев мы решаем задачу без особых затруднений. Для задачи лабиринта простое эвристическое правило может быть таким: "выбирать направление, в котором, по-видимому, можно добиться успеха". Другим хорошим примером является задача календарного планирования, заключающаяся в том, чтобы составить график Л независимых заданий п = {1,2, ....ТУ} с использованием Ят различных средств т = {1,2, ...,,М} с целью минимизации времени выполнения всех заданий и эффективного использовании всех средств. Каждое Jn задание имеет технические условия в качестве Р} циклов и средство Я м имеет скорость 51, циклов за единицу времени. Каждое задание Л должно выполняться с использованием средства И.т до своего завершения. Если С, - это время, требующееся на завершение последнего заданиятогда мы полагаем Стах = тах {С] ¿=1,...,Щ как период выполнения задания и ЕС, как время выполнения всего объёма работ. Задача состоит

в том, чтобы найти оптимальное расписание, которое оптимизирует время выполнения всего объёма работ и период выполнения задания. Несколько простых эвристических правил для достижения этой цели - это планирование выполнения самых коротких заданий на самых быстрых средствах (Shortest Job on the Fastest Resource - SJFR)[80], которое сведет к минимуму LC/, или планирование самого долгого задания на самых быстрых средствах (Longest Job on the Fastest Resource - LJFR)[80], которое сведет к минимуму Стах Минимизация ZCj порождает быстрое выполнение заданий средней продолжительности за счёт выполнения долгих заданий, требующих много времени, тогда как сведение к минимуму Стах, порождает то, что никакая задача не занимает слишком много времени, однако в целом выполнение большинства заданий занимает не самое короткое время. Таким образом, минимизация Стах приведёт к максимизации ЕС„ что делает задачу более интересной.

В отличие от эвристических методов, алгоритмы являются простыми процедурами, которые гарантированно работают каждый раз. Например, некоторые ежедневные рутинные задачи могут быть сформулированы в формате алгоритма (например, запуск автомобиля). Однако для "решателя задач", чтобы он был более адаптивным, должны быть введены новые элементы или новые обстоятельства. Многие реальные проблемы, существующие в мире, не могут быть сведены к алгоритмам, что подвигает нас к поискам более эффективных методов.

Перспективным подходом к решению обозначенных выше проблем можно считать использование технологии экспертных систем[88].

Резюмируя, можно сказать, что задача сбора данных с помощью опросных листов и последующего их анализа может быть решена посредством экспертных систем по заданным предметным областям. Представлена и разрешена проблема по выполнению задач без какой-либо известной прямой техники решения с помощью эвристических методов, обоснована более высокая эффективность эвристических методов по сравнению с классическими алгоритмами.

1.3. Обоснование модели представления знаний

Обычные компьютерные программы для решения задач создаются с использованием хорошо структурированных алгоритмов, структур данных и чётких стратегий рассуждений для поиска решений[4]. Для трудных проблем, с которыми связывают экспертные системы, более полезным является использование эвристики: стратегии, которая часто приводит к правильному решению, но также иногда может привести к неверному результату. Обычные системы, основанные на правилах, используют экспертные знания для решения реальных жизненных проблем, которые обычно требуют человеческого интеллекта. Экспертное знание часто представляется в виде правил или как данные в компьютере. В зависимости от требований проблемы эти правила и данные могут повторно использоваться для решения проблем. Экспертные системы на основе правил играют важную роль в современных интеллектуальных системах и их применении в стратегическом целеполагании, планировании, проектировании, распределении средств по задачам, контроле неисправностей, диагностике и так далее. Благодаря техническому прогрессу в последнее десятилетие сегодняшние пользователи могут выбрать из десятков коммерческих пакетов программного обеспечения с дружественным графическим пользовательским интерфейсом. Обычные компьютерные программы решают задачи, используя находящую решения логику, которая содержит очень небольшие знания помимо основного алгоритма для решения данной конкретной проблемы. Базовые знания часто вкладываются как часть программного кода, таким образом, программа должна быть перестроена при изменении знаний. Основанные на знаниях экспертные системы собирают небольшие фрагменты человеческих ноу-хау в базу знаний, чтобы производить рассуждения по проблеме, используя соответствующее знание. Важным преимуществом является то, что в области одной базы знаний различные проблемы могут быть решены с помощью той же программы без затрат на

Список литературы диссертационного исследования кандидат наук Семченко, Павел Николаевич, 2013 год

Список литературы

1. Абрахам, А. Экспертные системы на основе правил / А. Абрахам, П.Н. Семченко // Вестник Тихоокеанского государственного университета.- 2013.- № 3(30).- С. 2940.

2. Амаева, JI.A. Системы искуственного интеллекта / J1.A. Амаева.- Нижнекамск : Нижнекамский химико-технологический институт (филиал) ФГБОУ ВПО "КНИТУ, 2012.

3. Ан, П. Сопряжение ПК с внешними устройствами: Пер. с англ. / П. Ан.- М. : ДМК-Пресс, 2001.

4. Ахо, А.В. Структуры данных и алгоритмы.: Пер. с анг.: Уч. пос. / А.В. Ахо, Д.Э. Хопкрофт, Д.Д. Ульман.- М. : Издательский дом "Вильяме, 2000.

5. Обеспечение защиты персональных данных. Методическое пособие. / И.А. Баймакова, А.И. Новиков, А.И. Рогачев, А.Х. Хыдыров.- 3-е изд.- М. : ООО «1С-Паблишинг», 2011.

6. Бокс, Д. Сущность технологии СОМ. Библиотека программиста / Д. Бокс.- СПб. : Питер, 2001.

7. Свободное программное обеспечение в организации. Сборник материалов. / М. Брауде-Золотарев, Г. Гребнев, П. Протасов[и др.].- М. : INFO-FOSS.RU, 2008.

8. Вентцель, А.Д. Курс теории случайных процессов / А.Д. Вентцель.- М. : Наука, 1996.

9. Воронин, В.В. Алгоритм для построения структуры типа "дерево" в визуальном компоненте интегрированных сред разработки BORLAND, CODEGEAR и EMBARCADERO. / В.В. Воронин, П.Н. Семченко // Суперкомпьютеры: вычислительные и информационные технологии: материалы международной науч.- практ. конф.,, 30 июня - 2 июля 2010 г. - Хабаровск : Изд-во Тихоокеан. гос. ун-та, 2010. С. 177-183.- Хабаровск : Изд-во Тихоокеан. гос. ун-та, 2010.- С. 177— 183.

10. Воронин, В.В. Клиент-серверная технология как среда для динамических экспертных систем / В.В. Воронин, П.Н. Семченко // Материалы секционных заседаний 50-й студенческой научно-технической конференции ТОГУ.- Хабаровск : Изд-во Тихоокеан. гос. ун-та, 2010.- С. 50-55.

11. Воронин, В.В. Концепция клиент-серверной среды динамических экспертных систем /В.В. Воронин, П.Н. Семченко // Информатика и системы управления.-2010.- № 3(25).- С. 95-100.

12. Воронин, В.В. Моделирование клиент-серверной среды динамических экспертных систем / В.В. Воронин, П.Н. Семченко, С.В. Шалобанов // Информатика и системы управления.- 2012.- № 1(31).- С. 48-55.

13. Гаазе-Рапопорт, М.Г. От амебы до робота: модели поведения / М.Г. Гаазе-Рапопорт, Д.А. Поспелов.- М. : Либроком, 2011.

14. Гаврилова, Т.А. Базы знаний интеллектуальных систем / Т.А. Гаврилова, В.Ф. Хорошевский.- СПб. : Питер, 2000.

15. Гик, Е. Шахматы и математика / Е. Гик // Шахматы и математика.- М. : Наука, 1983.

16. Головешкин, В.А. Теория рекурсии для программистов / В.А. Головешкин, М.В. Ульянов.- М. : Физматлит, 2006.

17. Дейт, К.Д. Введение в системы баз данных / К.Д. Дейт.- 8-е изд.- М. : Издательский дом "Вильяме, 2005.

18. Джексон, П. Введение в экспертные системы / П. Джексон.- М. : Изд. Дом "Вильяме, 2001.

19. Дьяконов, В.П. Maple 10/11/12/13/14 в математических расчетах / В.П. Дьяконов,- М. : ДМК-Пресс, 2011.

20. Дьяконов, В.П. Mathematica 5/6/7. Полное руководство / В.П. Дьяконов.- М. : «ДМК Пресс», 2009.

21. Дюбуа, П. MySQL / П. Дюбуа.- М. : Издательский дом "Вильяме, 2007.

22. Жуматий, В.П. Угрозы программно-математического воздействия / В.П. Жуматий, С.А. Будников, Н.В. Паршин.- Воронеж : Воронежская обл. тип.- изд-во им. Е. А. Болховитинова, 2010.

23. Зарипов, Р.Х. Об алгоритмическом описании процесса сочинения музыки / Р.Х. Зарипов // Доклады Академии наук СССР.- I960,- № 6, Т. 132,- С. 1283-1286.

24. Иванов, Б.Н. Дискретная математика. Алгоритмы и программы. Расширенный курс / Б.Н. Иванов.- М. : Известия, 2011.

25. Ивченко, Г.И. Теория массового обслуживания / Г.И. Ивченко, В.А. Каштанов, И.Н. Коваленко.- М. : Высшая школа, 1982.

26. Системы, методы и инструменты менеджмента качества: Учебник для вузов / М.М. Кане, Б.В. Иванов, В.Н. Корешков, А.Г. Схиртладзе ; под ред. М.М. Кане.-СПб. : Питер, 2009.

27. Каханер, Д. Численные методы и программное обеспечение (пер. с англ.) / Д. Каханер, К. Моулер, С. Нэш.- М. : Мир, 2011.

28. Кемени, Д.Д. Конечные цепи Маркова / Д.Д. Кемени, Д.Л. Снелл ; под ред. В.В. Абгарян.- М. : Издательство "Наука, 1970.- 272 с.

29. Кингман, Д. Пуассоновские процессы / Д. Кингман.- М. : МЦНМО, 2007.

30. Клейнрок, Л. Теория массового обслуживания / Л. Клейнрок ; под ред. В.И. Нейман.-М. : Машиностроение, 1979.

31. Козлов, М.В. Элементы теории вероятностей в примерах и задачах / М.В. Козлов.- М. : Изд-во МГУ, 1990,- 344 с.

32. Колесов, Ю.Б. Моделирование систем. Динамические и гибридные системы. / Ю.Б. Колесов, Ю.Б. Сениченков.- СПб. : БХВ-Петербург, 2006.- 224 с.

33. Колесов, Ю.Б. Моделирование систем. Объектно-ориентированный подход. / Ю.Б. Колесов, Ю.Б. Сениченков,- СПб. : БХВ-Петербург, 2006.- 192 с.

34. Комарцова, Л.Г. Материалы международной научно-технической конференции OSTIS-2011 / Л.Г. Комарцова // Эволюционные методы формирования нечетких баз правил.- : Материалы международной научно-технической конференции OSTIS-2011,2011.

35. Королева, H.A. Экспертная система поддержки принятия решений по обеспечению информационной безопасности организации : дис. ... канд. техн. наук : 05.25.05 / H.A. Королева,- Тамбов, 2006,- 198 с.

36. Кузнецов, С.Д. Базы данных / С.Д. Кузнецов.- 1-е изд.- М. : Издательский центр «Академия», 2012.

37. Кузнецов, С.Д. Основы баз данных: учебное пособие / С.Д. Кузнецов.- 2-е изд.-М. : Интернет-Университет Информационных Технологий; Бином. Лаборатория знаний, 2007.

38. Ларичев, О.И. Теория и методы принятия решений / О.И. Ларичев.- 2-е изд.- М. : Логос, 2002.

39. Ларичев, О.И. Системы поддержки принятия решений. Современное состояние и перспективы их развития. / О.И. Ларичев, A.B. Петровский // Итоги науки и техники. Сер. Техническая кибернетика.- 1987,- Т. 21.- С. 131—164.

40. Макаров, Е. Инженерные расчеты в MathCad 15. Учебный курс / Е. Макаров,-СПб. : Питер, 2011.

41. Мандел, Т. Разработка пользовательского интерфейса / Т. Мандел.- М. : ДМК Пресс, 2001.

42. Маннинг, К.Д. Введение в информационный поиск. : Пер. с англ. / К.Д. Маннинг, П. Рагхаван, X. Шютце.- М. : ООО "И.Д. Вильяме, 2011.- 528 с.

43. Минский, М. Фреймы для представления знаний: Пер. с англ. / М. Минский,-М. : Энергия, 1979.- 152 с.

44. Нечаев, Ю.И. База знаний и механизм логического вывода / Ю.И. Нечаев, О.Н. Петров // Информационно-измерительные и управляющие системы.- 2006.- № 9.

45. Новиков, Ф.А. Дискретная математика для программистов: Учебник для вузов. / Ф.А. Новиков.- 3-е изд.- СПб. : Питер, 2009.

46. Олифер, В.Г. Компьютерные сети. Принципы, технологии, протоколы: Учебник для вузов. / В.Г. Олифер, H.A. Олифер.- 4-е изд.- СПб. : Питер, 2010.- 944 с.

47. Павлов, С.Н. Системы искусственного интеллекта : учеб. пособие. В 2-х частях. / С.Н. Павлов.- Томск : Эль Контент, 2011.

48. Паронджанов, В.Д. Дружелюбные алгоритмы, понятные каждому (Как улучшить работу ума без лишних хлопот). / В.Д. Паронджанов.- М. : ДМК-пресс, 2010.

49. Поршнев, C.B. MATLAB 7. Основы работы и программирования. Учебник. / C.B. Поршнев.- : ООО «Бином-Пресс», 2011.

50. Радченко, Т.А. Методы анализа систем массового обслуживания: учебное пособие для вузов / Т.А. Радченко, A.B. Дылевский.- Воронеж : ЛОП ВГУ, 2007.

51. Рассел, С. Искусственный интеллект: современный подход, 2-е изд.: Пер. с англ. / С. Рассел, П. Норвиг.- М. : Издательский дом "Вильяме, 2006.- 1408 с.

52. Расторгуев, С.П. Информационная война / С.П. Расторгуев.- М. : Радио и связь, 1999.

53. Рутковская, Д. Нейронные сети, генетические алгоритмы и нечеткие системы / Д. Рутковская, М. Пилиньский, Л. Рутковский.- М. : Горячая линия - Телеком, 2006.

54. Свирин, И.С. Представление информации в базе знаний адаптивной экспертной системы и оценка ее аппроксимирующих свойств : дис.... канд. техн. наук : 05.13.17 / И.С. Свирин,- М., 2002. - 254 с. - Библиогр.: с. 244-254.

55. Семченко, П.Н. Алгоритм разработки прототипа многозвенной платформы / П.Н. Семченко // Russian journal of Earth Sciences.- 2012.- № 12(12).- С. 105-112.

56. Семченко, П.Н. Кроссплатформенная клиент-серверная среда динамических экспертных систем / П.Н. Семченко // Теория и практика системного анализа: сборник трудов Всерос. молодеж. конф., Белгород, 1-3 октября 2012.- Белгород : ИД «Белгород», 2012,- С. 376-380.

57. П. Н. Семченко. Клиент-серверная среда динамических экспертных систем «SPN Study». Заявка на рассмотрение регистрации программы для ЭВМ №2013619168 от 14.10.2013.

58. П. Н. Семченко. Среда разработки интерактивных мультимедийных учебных пособий «Система SPN Study». Свидетельство о государственной регистрации программы для ЭВМ №2010613191 от 14.05.2010.

59. П. Н. Семченко. Экспертная система определения уровня защищённости информационной системы персональных данных. Заявка на рассмотрение регистрации программы для ЭВМ №2013619169 от 14.10.2013.

60. Семченко, П.Н. Экспертные системы в задачах проектирования решений в области защиты персональных данных / П.Н. Семченко // Информационные технологии в науке, образовании и экономике : IV Всероссийская научно-практическая конференция с международным участием : тезисы докладов. 6-9 июня 2012 г. 4.1.- Якутск : Издательский дом СВФУ, 2012,- С. 224-226.

61. Смагин, A.A. Интеллектуальные информационные системы : учебное пособие / A.A. Смагин, C.B. Липатова, A.C. Мельниченко.- Ульяновск : УлГУ, 2010.- 136 с.

62. Архитектура информационных систем: учебник для студ. учреждений высш. проф. образования / Б.Я. Советов, А.И. Водяхо, В.А. Дубенецкий, В.В. Цехановский.- М. : Издательский центр «Академия», 2012.

63. Трахтенгерц, Э.А. Компьютерная поддержка принятия решений / Э.А. Трахтенгерц.- М. : СИНТЕГ, 1998.

64. Фаулер, M. UML. Основы. / М. Фаулер, К. Скотт.- СПб. : Символ-Плюс, 2002,192 с.

65. Фейт, С. TCP/IP: Архитектура, протоколы, реализация (включая IP версии 6 и IP Security) / С. Фейт,- М. : Издательство "Лори, 2000.

66. Хартман, Ф. Обыкновенные дифференциальные уравнения / Ф. Хартман ; под ред. В.М. Алексеев.- М. : Издательство "МИР, 1970.

67. Частиков, А.П. Разработка экспертных систем. Среда CLIPS. Серия "Учебное пособие". / А.П. Частиков, Т.А. Гаврилова, Д.Л. Белов.- СПб. : БХВ-Петербург, 2003.

68. Штовба, С.Д. Проектирование нечетких систем средствами MATLAB / С.Д. Штовба.- М. : Горячая линия - Телеком, 2007.

69. Эндрюс, Г.Р. Основы многопоточного, параллельного и распределенного программирования / Г.Р. Эндрюс.- М. : Издательский дом "Вильяме, 2003.

70. Янаева, М.В. Разработка и исследование кластерных экспертных систем : дис. ... канд. техн. наук : 05.13.01 / М.В. Янаева.- М., 2006,- 143 с.

71. Яценков, B.C. Основы спутниковой навигации. Системы GPS NAVSTAR и ГЛОНАСС / B.C. Яценков,- М. : Горячая линия-Телеком, 2005.

72. Постановление Правительства Российской Федерации от 1 ноября 2012 г. N 1119 г. Москва.- 2012.- № 5929.

73. Приказ Федеральной службы по техническому и экспортному контролю (ФСТЭК России) от 11 февраля 2013 г. N 17 г. Москва,- 2013,- № 6112.

74. Приказ Федеральной службы по техническому и экспортному контролю (ФСТЭК России) от 18 февраля 2013 г. N 21 г. Москва.- 2013,- № 6083.

75. Федеральный закон Российской Федерации от 19 декабря 2005 г. N 160-ФЗ.-2005,- № 3957.

76. Федеральный закон Российской Федерации от 27 июля 2006 г. N 152-ФЗ.- 2006.-№4131.

77. Abraham, A. Intelligent Systems: Architectures and Perspectives, Recent Advances in Intelligent Paradigms and Applications / A. Abraham // Studies in Fuzziness and Soft Computing.- : Springer Verlag Germany, 2002.- P. 1-35.

78. Abraham, A. Neuro-Fuzzy Systems: State-of-the-Art Modeling Techniques, Connectionist Models of Neurons, Learning Processes, and Artificial Intelligence / A. Abraham // Lecture Notes in Computer Science. Volume. 2084.- Spain : Springer Verlag Germany, 2001,- P. 269-276.

79. Abraham, A. Rule based expert systems / A. Abraham // Handbook for Measurement Systems Design ; ed. P. Sydenham, R. Thorn.- London : John Wiley and Sons Ltd., 2005.

80. Abraham, A. Nature's heuristics for scheduling jobs on computational Grids, Proceedings of the 8th International Conference on Advanced Computing and Communications / A. Abraham, R. Buyya, B. Nath.- Tata, India : McGraw-Hill, 2000.

81. Abraham, A. Neuro-Fuzzy Paradigms for Intelligent Energy Management, Innovations in Intelligent Systems: Design, Management and Applications / A. Abraham, M.R. Khan // Studies in Fuzziness and Soft Computing.- : Springer Verlag Germany, 2003.- P. 285-314.

82. Cordon, O. Genetic Fuzzy Systems: Evolutionary Tuning and Learning of Fuzzy Knowledge Bases / O. Cordon, F. Herrera, F. Hoffmann, L. Magdalena.- Singapore : World Scientific Publishing Company, 2001.

83. Date, C.J. An Introduction to Database Systems / C.J. Date.- Eighth.- Boston, USA : Pearson Addison-Wesley, 2004.

84. Gillam, L. Gillam, Lee. Cloud Computing: Principles, Systems and Applications / L. Gillam ; ed. N. Antonopoulos, L. Gillam.- L. : Springer, 2010.

85. Hastie, T. The Elements of Statistical Learning: Data Mining, Inference, and Prediction. / T. Hastie, R. Tibshirani, J. Friedman.- 2nd.- : Springer-Verlag, 2009.

86. Hull, E. Requirements Engineering / E. Hull, K. Jackson, J. Dick.- 2-nd.- London : Springer, 2005.

87. Klahr, D. Production System Models of Learning and Development. / D. Klahr, P. Langley, R. Neches.- Cambridge, Mass. : The MIT Press, 1987.

88. Leondes, C.T. Expert systems: the technology of knowledge management and decision making for the 21st century. / C.T. Leondes.- : Elsevier, 2002.- 1-22 p.

89. A. M. Steane, E.G.R. Beyond Bits: The Future of Quantum Information Processing / E.G.R. A. M. Steane // IEEE Computer.- January 2000.- P. 38-45.

90. Michalewicz, Z. How to Solve It: Modern Heuristics / Z. Michalewicz, D.B. Fogel.-Germany : Springer Verlag, 1999.

91. Pearl, J. Heuristics: Intelligent Search Strategies for Computer Problem Solving. / J. Pearl.- New York : Addison-Wesley, 1983.

92. Schalkoff, R.J. Intelligent Systems: Principles, Paradigms and Pragmatics / R.J. Schalkoff - : Jones & Bartlett Learning, 2011.

93. Surhone, L.M. FuzzyCLIPS / L.M. Surhone, M.T. Tennoe, S.F. Henssonow.-Mauritius : Betascript Publishing, 2010.

94. Swart, B. Delphi XE DataSnap Development Essentials / B. Swart.- : Bob Swart Training & Consultancy, 2011.- 190 p.

95. Swart, B. Delphi XE Development Essentials / B. Swart.- : Bob Swart Training & Consultancy, 2011,- 290 p.

96. Turing, A. Computing Machinery and Intelligence / A. Turing // Mind.- October 1950.- No. 236, Vol. LIX.- P. 433—460.

97. Voronin, V.V. Modeling of the component interaction network on the basis of Markov chains in the client-server environment of dynamic expert systems. / V.V. Voronin, P.N. Semchenko // Modern materials and technologies 2011: International Russian-Chinese Symposium. Proceedings.- Khabarovsk : Pacific National University, 2011.- P. 381-386.

98. Wang, H. Toward Mechanical Mathematics / H. Wang // IBM Journal of Research and Development.- I960.- No. 4(1).- P. 2-22.

99. Zadeh, L.A. Fuzzy sets / L.A. Zadeh.- 1965.- P. 338-353.