Методология построения, моделирования и комплексной оценки качества человеко-машинных систем управления тема диссертации и автореферата по ВАК РФ 05.13.16, доктор технических наук Калечиц, Ирина Николаевна

• Калечиц, Ирина Николаевна
• доктор технических наук
• 1998

Оглавление диссертации доктор технических наук Калечиц, Ирина Николаевна

ВВЕДЕНИЕ

I. ТЕОРЕТИЧЕСКОЕ ОБОСНОВАНИЕ КОМПЛЕКСНОЙ МЕТОДОЛОГИИ ПРОЕКТИРОВАНИЯ И МОДЕЛИРОВАНИЯ ИНТЕЛЛЕКТУАЛЬНЫХ ЧЕЛОВЕКО-МАШИННЫХ СИСТЕМ (ЧМС) УПРАВЛЕНИЯ

1.1. Основные направления развития имитационного моделирования человеко-машинных систем

1.2. Постановка задачи и цели имитационного моделирования систем с групповым управлением

1.3. Сравнительный анализ средств представления данных и знаний для описания предметной области

1.4. Требования к структуре интеллектуальной системы моделирования многокомпонентной среды функционирования ЧМС управления

1.5. Выводы.

II. ПРОЕКТИРОВАНИЕ МАТЕМАТИЧЕСКОЙ МОДЕЛИ ИМИТАЦИОННОГО МОДЕЛИРОВАНИЯ

МНОГОКОМПОНЕНТНЫХ ЧМС УПРАВЛЕНИЯ

2.1. Описание процессов генерации событий и ситуаций с помощью продукционных систем

2.2. Недетерминированная модель процессов генерации событий и ситуаций в системе моделирования

2.3. Динамическая модель генерации событий и ситуаций в системе имитационного моделирования

2.4. Выводы к главе II

III. ПОСТРОЕНИЕ И РЕАЛИЗАЦИЯ ИМИТАЦИОННОЙ МОДЕЛИ

МНОГОКОМПОНЕНТНОЙ СРЕДЫ В ИС УПРАВЛЕНИЯ

РАСПРЕДЕЛЕННЫМИ ТЕХНИЧЕСКИМИ ОБЪЕКТАМИ

3.1. Формализация базовых элементов внешней обстановки

3.2. Оптимизация информационной базы в модели знаний ИС.

3.3. Разработка модели идентификации ситуаций в процессе динамической генерации событий и ситуаций внешней среды.

3.4. Управление информационным взаимодействием подсистем моделирования ситуаций внешней среды

3.5. Реализация имитационного моделирования внешних ситуаций многокомпонентной среды в ИС управления

3.6. Описание структуры процесса моделирования внешней обстановки

3.7. Выводы к главе III

IV. ОБОСНОВАНИЕ И РАЗРАБОТКА КОМПЛЕКСНОЙ

МЕТОДОЛОГИИ ПРОЕКТИРОВАНИЯ И ОЦЕНКИ КАЧЕСТВА ИНТЕЛЛЕКТУАЛЬНЫХ ЧМС УПРАВЛЕНИЯ

-44.1. Определение требований к качеству проектирования и эксплуатации интеллектуальных систем управления для распределенных технических объектов

4.2. Анализ и классификация внутренних и внешних факторов, влияющих на функционирование интеллектуальных систем

4.3. Выводы к главе IV

V. СИНТЕЗ ЭМПИРИЧЕСКИХ МОДЕЛЕЙ И МЕТОДОВ ОЦЕНКИ КАЧЕСТВА ИНФОРМАЦИОННОЙ БАЗЫ

ИНТЕЛЛЕКТУАЛЬНЫХ СИСТЕМ УПРАВЛЕНИЯ

5.1. Построение эмпирической модели оценки достоверности знаний и данных предметных областей в интеллектуальных системах

5.2. Разработка модели и методов оценки адекватности отображения информации в ИС

5.3. Методы определения информационного старения и актуальности данных и знаний

5.4. Оценка дублирования данных и знаний в интеллектуальных и экспертных системах.

5.5. Формирование эмпирической оценки качества информационной базы ИС управления

5.6. Выводы к главе V

VI. ОПРЕДЕЛЕНИЕ ЭКОЛОГИЧЕСКИХ ХАРАКТЕРИСТИК ИНТЕЛЛЕКТУАЛЬНЫХ ЧМС УПРАВЛЕНИЯ

-56.1. Исследование и формализация элементов экологического фактора, влияющего на безопасность эксплуатации систем

6.2. Разработка методов оценки "пессимистического" прогноза в экологическом взаимодействии "человек - ИС - объекты управления - отрасль - внешняя среда"

6.3. Выводы к главе VI

VII. РАЗРАБОТКА ЭКСТРОСПЕКТИВНОГО МЕТОДА

ФОРМАЛИЗАЦИИ И ОЦЕНКИ ОСНОВНЫХ ТРЕБОВАНИЙ К ЧЕЛОВЕЧЕСКОМУ ФАКТОРУ В МНОГОКОМПОНЕНТНЫХ

ЧМС УПРАВЛЕНИЯ

7.1. Анализ и систематизация требований, особенностей медицинской, санитарно-гигиенической, эргономической оценки ИС

7.2. Требования пользователей, ЛПР, предъявляемые к разработчикам интеллектуальных систем управления

7.3. Требования заказчиков и проектировщиков к ИС управления распределенными техническими объектами

7.4. Разработка алгоритмов экстроспективного метода оценки определяющих требований к человеческому фактору в ИС управления

7.5. Выводы к главе VII

VIII. ПОСТРОЕНИЕ КОМПЛЕКСНОГО МЕТОДА ОЦЕНКИ КАЧЕСТВА ИНТЕЛЛЕКТУАЛЬНЫХ ЧМС УПРАВЛЕНИЯ

-68.1. Обобщение экспертных оценок критериев качества с использованием коэффициентов важности и выбор экспертов.

8.2. Описание процесса генерации состояния экспертных оценок качества ИС на продукционной системе

8.3. Выводы к главе VIII

Введение диссертации (часть автореферата) на тему «Методология построения, моделирования и комплексной оценки качества человеко-машинных систем управления»

В современных условиях взаимодействие экономики, техники, науки и политики воспринимается как единое целое. Поэтому стремительное развитие новых информационных технологий заставляет по-другому воспринимать саму компьютерную технику. Говоря об информатике, повсеместной компьютеризации, новых технологиях, как правило, употребляют только хвалебные эпитеты, но редко затрагивают возможные негативные (даже катастрофические) последствия, в том числе и экологические [10,20,100,138,182, 195,332,336].

Вспоминая об экологии, обычно забывают, что экологические проблемы возникли прежде всего из-за высоких, новейших технологий для технологий. Вначале изобретаем автомобиль, затем более скоростной, более комфортабельный, и только потом задумываемся о том, чтобы он был экологически чистым. Очевидно, когда-нибудь создадут и экологически чистую компьютерную технику. А пока компьютерную технику со всеми ее негативными последствиями внедряют в различные новейшие технологии и быт. Нужны ли везде компьютеры? На сегодня в европейских странах и США отмечается перепроизводство компьютерной техники. Поэтому, хотим мы этого или нет, но реклама внедрения и эксплуатации компьютеров повсеместна и у нас в стране. Может быть, нам стоит вовремя остановиться и учесть печальный опыт других стран [ 14,18,35,100,195,331-333,361 ].

Быстрое развитие информатики и вычислительной техники ставило целью решение информационных и технических задач, а эргономические и экологические проблемы оставались в стороне, также как и проблемы безопасности. Здесь полезно привести следующий пример. Вначале создание атомной энергетики было направлено на наращивание мощностей, а таким факторам, как: эргономика, техника безопасности, надежность и влияние на окружающую среду, внимания уделялось недостаточно. К чему все это привело, хорошо известно. Следует заметить, что после длительных попыток создать проекты электростанций, заводов, работающих "на замке", т.е. в режиме полной автоматизации, без присутствия людей, разработчики пришли к выводу, что все производственные системы должны проектироваться как системы "человек -машина - среда". Именно благодаря участию человека системы вообще способны длительно и успешно работать. Это значит, что необходимо видеть и учитывать не только и не столько человеческие факторы возникновения аварий, сколько человеческие факторы успешного функционирования систем. Известно множество случаев, когда операторы спасали самолеты, корабли, электростанции, энергосистемы при чрезвычайно сложных аварийных ситуациях. Но, к сожалению, бывает и так, что операторы умудряются "на ровном месте" создать ситуацию, при которой сводятся на нет все усилия разработчиков [ 54, 102, 250,286,318,319 ].

Комплексный учет надежности человеческих факторов в целях обеспечения безопасности технических систем управления важен для всех отраслей народного хозяйства - начиная с атомной энергетики и кончая медициной. Международной эргономической ассоциацией принято определение человеческого фактора "как комплекс психофизических, психологических и физиологических особенностей поведения человека в производственной среде", в частности, в системах управления [ 21,35,92,100,113,192,195,293 ].

В последние годы резко возросли продолжительность и интенсивность контакта человека с вычислительной техникой, которая стала существенной составляющей среды обитания человека, затрагивая как программирующих специалистов и лиц, принимающих решения по управлению, так и множество разнообразных пользователей. Несколько лет назад "Национальный институт США профессиональных заболеваний и техники безопасности начал включать нервные расстройства в свой перечень профессиональных заболеваний и выдвинул в качестве одной из первоочередных - задачу снижения уровня стрессов в американских учреждениях". В числе профессий, вызывающих наиболее частые расстройства здоровья, оказалась "административная работа, связанная с компьютерами и терминалами с экранным дисплеем. Как установил институт, она создает более высокий уровень напряжений, чем даже работа авиадиспетчеров" [ 18 ].

В современном мире все более и более человека рассматривают как придаток к машине I 20,54,102,138,182,195,293,319,332,336 ]. Но в странах с низкой рождаемостью, высоким жизненным уровнем и сильным военным потенциалом, как, например, в Швеции, Нидерландах, Германии, Франции, США , решают проблемы безопасности человека и его экологии. В этих странах фирмам приходится выплачивать колоссальные суммы компенсаций за профессиональные заболевания, связанные с новыми информационными технологиями. Эти страны интересуются не только новыми технологиями на данном этапе, но также прогнозированием их последствий. Именно поэтому они интересуются всеми негативными явлениями и последствиями, которые несут в себе компьютерные технологии (без которых сейчас немыслима никакая другая современная технология) [ 26,35,192,209,222,331-333,361,362 ] .

Исследование, проведенное Уотсоновским исследовательским центром компании IBM, подтвердило, что "люди пока еще быстрее и точнее считывают информацию с бумаги, чем с любых компьютерных мониторов, используемых в настоящее время". Результаты данного исследования показали, что "для достижения одинаковой производительности операторов необходимы электронно- лучевые трубки, имеющие примерно вдвое большую разрешающую способность по сравнению с тем, что используется сейчас" [ 341, 362 ].

Известно, что отдельные компоненты влияния компьютерной техники на человека носят весьма негативный характер. Это заставляет задуматься не только о влиянии компьютера на экологию внешней среды, которая отрицательно воздействует на здоровье человека, но и как экология компьютерной техники влияет на принятие решений в интеллектуальных системах [ 18,20,95-100,139,222, 245,250,294,307,330,347 ]. Особенно важно учитывать такое экологическое влияние при проектировании и создании экспертных (ЭС) и других интеллектуальных систем (ИС) для таких распределенных технических объектов управления, как системы управления воздушным и водным транспортом; системы атомной энергетики, медицинские системы экстренной помощи; системы управления химическими процессами; космические системы; системы связи, а также военные системы. В таких системах окончательное решение по управлению принимает человек [ 195,222,250,294,296,301,303,308,332,361 ]. Поэтому в данных системах важно не допустить коллективные ошибки в принятии решений, так как от этого зависит не только состояние объектов управления, но и человеческих жизней (особенно в экстремальных ситуациях). То, что человек переложил ответственность по управлению и принятию решений с себя на компьютер, наносит непоправимый ущерб окружающей среде и человеку. Поэтому ИС необходимо рассматривать только как человеко-машинные системы (ЧМС). С экологическими проблемами компьютерной техники неразрывно связаны и информационные. Оттого, насколько адекватно восприятие информации с экранов компьютерной техники, зависит иногда не только состояние динамических объектов управления, но и человеческих жизней [ 294,307 ]. Как свидетельствует пример из американской печати, " в военно-воздушных силах США . даже разработчики будут удивлены, если пилот при опасности доверит свою жизнь кремниевому консультанту". Крис Шпигль (один из разработчиков такой системы) замечает, что " для лучшей концентрации внимания большинство пилотов отключает автоматические системы перед началом атаки " [ 95 ]. Надежность эксплуатации изощренных военных экспертных систем беспокоит не только пилотов. Терри Виноград, "пионер искусственного интеллекта", превратился в его критика. В настоящее время он работает в Стэнфорде, где создал в Пало-Алто группу под названием "Профессионалы-компьютерщики - за социальную ответственность", которая выступает против использования интеллектуальных систем для военных целей. Виноград уверен, что " отстранение экспертов от принятия непредсказуемых решений на основании их сведений - это, возможно, самое коварное и опасное следствие запутанности существующих экспертных систем". Терри Виноград особенно озабочен использованием экспертных систем в стратегической оборонной инициативе, или "звездных войнах". " Еще в 1960 году," замечает Виноград, -"компьютерная система оповестила об "атаке Советов", когда сигналы радаров отразились от Луны, что не было предусмотрено программистом". Виноград утверждает, " что при использовании интеллектуальных экспертных систем возможность подобных ошибок значительно увеличивается" [ 95 1 . Таким образом, там, где есть влияние внешней среды (ВС), надежность экспертных систем не может гарантироваться [ 209,222,245,303 ].

Кроме чисто научных и технических достижений, необходимо думать о нравственных и экологических проблемах. Это особенно явно проступило в эксплуатации интеллектуальных и экспертных систем управления. За ошибки в представлении данных и знаний, в принятии решений , а также в силу недостатка интеллекта некоторого десятка человек расплачиваются иногда тысячи и миллионы пользователей этих систем, а также просто граждане той страны, области, где используются эти системы. Обычно эксплуатация таких систем приводит к повышенному индустриальному риску.

Поэтому в настоящее время актуальными являются задачи разработки, моделирования (испытаний и эксплуатации) многокомпонентных интеллектуальных человеко-машинных систем управления. Создание такого рода человеко-машинных систем позволяет решать сложные информационные и управленческие задачи. Необходимо сделать крупный шаг в интеллектуализации производства, управлении и проектировании. Решению этих задач во многом будут способствовать совершенствование и широкое внедрение в призводство интеллектуальных человеко-машинных систем. Однако, как показывает практика, процесс создания подобных систем носит интерактивный характер; необходимым звеном этого процесса является проведение натурных испытаний разрабатываемых вариантов системы с целью оценки эффективности используемых технических средств и качества структурной организации коллективного управления. В ряде случаев проведение таких натурных испытаний на этапе проектирования системы не представляется возможным или экономически оправданным. Так как ИС управления техническими объектами -это прежде всего ЧМС, то их можно реализовать в основном на имитационных моделях. Поэтому при построении (проектировании) сложных многофункциональных ИС (ЭС) управления особое место занимают подсистемы (системы) имитационного моделирования, которые выделяются в свой особый класс систем, который рассматривается в данной диссертационной работе. В связи с этим проблема моделирования и оценки качества сложных интеллектуальных человеко-машинных систем является весьма актуальным вопросом их создания, внедрения и функционирования.

В данной работе рассматриваются распределенные технические объекты, под которыми понимаются объекты, рассредоточеные в пространстве и во времени: а) они могут быть однородными, иметь тождественные цели (например, средства связи, химические комбинаты, железнодорожные вокзалы); б) они могут быть многокомпонентными и иметь различные цели (например, различные транспортные, медицинские системы: гражданские и военные).

На основании проведенного научного анализа было выявлено, что специфика задачи моделирования сложных ЧМС с групповым управлением распред еденным и техническими объектами заключается в необходимости моделирования поведения объекта управления и управляющего персонала с учетом воздействия на объект и персонал сложной вариативной внешней обстановки, которой свойственна "своя логика поведения", опосредующаяся через причинно-следственные связи.

Данная проблема пока не нашла достаточного отражения в области исследования и моделирования интеллектуальных ЧМС, хотя отдельные фрагменты этих систем глубоко исследованы и внедрены.

Ни одна из создаваемых ИС не может отвечать за свою эффективность и безопасность, так как проходят многие месяиы. а иногда и годы, пока обнаруживаются ошибки в программировании, в информационном представлении и технических решениях. Поэтому необходимо разработать метод, модель определения (оценки) качества системы, как в процессе проектирования, так и на этапе эксплуатации.

Понятие экологии интеллектуальных систем управления имеет более широкий смысл, чем экология в традиционном смысле. Экология ИС включает в себя еще такие составляющие, как адекватность отображения данных и знаний, чистоту и конкретность восприятия ситуаций внешней среды, где функционируют и взаимодействуют многокомпонентные технические объекты управления, а также влияние негативных факторов компьютерных и самих интеллектуальных систем на человека и окружающую среду. Рассматривая ИС управления изнутри и во внешней обстановке выявляется закономерность [ 13,18, 34,35,52,59,237, 250, 252, 268, 293 ], что ее внешние и внутренние составляющие не отделимы друг от друга, и их нельзя рассматривать изолированно, так как даже небольшая корректировка одной из них влечет за собой иногда значительные изменения в других компонентах системы [ 137,145,170,182,192,335 ]. Поэтому проектирование и оценку качества систем необходимо рассматривать комплексно [21].

Для этого, прежде всего, целесообразно исследовать и разработать полную модель интеллектуальной ЧМС, об адекватности которой можно будет судить на основании ее "утилитарной и прогностической ценности, а не только на основе заложенных в нее предложений" [ 78, с. 24 ]. В рамках этих требований к интеллектуальной ЧМС управления и была выполнена данная диссертационная работа.

Таким образом, целью данной диссертационной работы является создание комплексной методологии проектирования и определения оценки качества многокомпонентных интеллектуальных ЧМС управления для распределенных технических объектов.

Объект исследования. Интеллектуальные (экспертные) ЧМС управления распределенными техническими объектами на этапе их проектирования, внедрения и эксплуатации, а также взаимодействие таких систем с человеком, внешней средой, объектами управления.

Методы исследования. В работе использованы среднестатистические и вероятностные методы экспертных оценок, метод имитационного моделирования, принятия решений, ситуационного управления с применением вычислительных комплексов. Теоретической основой при разработке поставленных целей были последние достижения в области новых информационных технологий, искусственного интеллекта, экспертных систем, продукционных систем, фреймового подхода в представлении данных и знаний, теории графов, а также экологии и человеческого фактора в управлении.

Достоверность полученных в диссертации научных результатов, методов и рекомендаций, подтверждается математическими выводами; результатами экспериментальных исследований; методами имитационного моделироавния на ПК, функционированием созданной интеллектуальной ЧМС "КСО-ИС". Данные результаты подтверждены соответствующими актами. В рамках научных исследований данной диссертационной работы с О LOI, 1997 г. была открыта госбюджетная НИР "Экология и человеческий фактор в безопасности функционирования интеллектуальных систем" (т. №100187) под руководством автора.

Научная новизна работы и основные положения, выносимые на защиту.

I. Теоретически обоснованы и практически разработаны комплексный подход, а также метод имитационного моделирования внешних воздействий на распределенные технические объекты управления и человека, что отражает полную интеллектуальную ЧМС управления. Данный подход позволяет моделировать многокомпонентную среду функционирования ИС управления в реальном времени. При этом проведено следующее:

- разработка комплексных требований к проектированию интеллектуальной человеко-машинной системы управления;

- разработка новой математической модели системы моделируемых процессов рассматриваемого класса, основанная на расширенном формальном аппарате продукционных систем; разработка недетерминированных динамических продукций, позволяющих моделировать параллельные процессы генерации событий многокомпонентной внешней обстановки во временной области;

- разработка языка описания моделируемых процессов, обладающих достаточной выразительностью для представления ситуаций и динамических причинно-следственных связей между ними;

- решение задач оптимизации хранения и использования правил генерации событий и ситуаций с помощью модели минимального описания, которая оптимизирует не только хранение информации, но и обеспечивает целенаправленность процесса идентификации ситуаций с эффективным отсечением ветвей перебора.

- решение задачи группового моделирования среды функционирования интеллектуальной ЧМС управления и оценки качества управления.

II. Создан комплексный метод оценки качества интеллектуальных ЧМС управления, который позволяет выявить и устранить недостатки ИС на этапе их проектирования, функционирования, а также выделить полезные или недостающие свойства систем. При этом осуществлены:

- теоретическое обобщение и классификация проблемных факторов проектирования, создания и эксплуатации ИС (ЭС) управления;

- разработка и введение критериев качества, по которым могут оцениваться ИС управления и другие информационные системы, где выработанные критерии актуальны;

- обоснование и классификация внутренних и внешних факторов, влияющих на качество эксплуатации ИС;

-18- разработка и введение коэффициента важности для лиц, тестирующих ИС, а также внутренних и внешних факторов ИС, которые позволят: 1) обеспечить взаимосвязь оценок отдельных функций системы; 2) отслеживать тенденции изменений интеллектуальных ЧМС на этапе их проектирования и эксплуатации;

- обобщение общих требований пользователей, медиков и экологов, заказчиков, экспертов предметных областей и других лиц, принимающих участие в создании и эксплуатации таких систем.

III. Проведено исследование методов, форм представления данных и знаний ИС, выделены критерии информационных особенностей систем. При этом выполнены:

- разработка эмпирической модели оценки достоверности данных и знаний предметных областей;

- разработка моделей и методов оценки адекватности отображения информации; разработка метода определения информационного старения и актуальности данных (знаний);

- разработка метода оценки оптимальности представления данных и эффективности управления.

IV. Проведена научная классификация факторов, влияющих на экологическую безопасность ИС управления и разработаны критерии оценок экологического риска и "пессимистического прогноза"в эксплуатации систем.

V. Осуществлен анализ и введена классификация критериев основных требований к человеческому фактору пользователя ИС. Для этого синтезированы критерии, по которым пользователи, заказчики, медики, экологи, эксперты предметных областей, могут предъявлять соответствующие требования к разработчикам ИС и оценивать данные системы.

VI. Создана комплексная методология описания и подсчета экспертных оценок качества ИС с коэффициентами важности на продукционной системе, что позволяет быстро обработать данные результаты и оценить комплексно качество ИС на этапе построения, эксплуатации ИС управления, а также оценить груповое управление.

Практической ценностью работы является создание комплексной интеллектуальной человеко-машинной системы имитационного моделирования ситуаций многокомпонентной ИС управления во внешней среде и оценки качества ИС управления - "КСО-ИС", которая позволяет: а) исследовать и оценить процесс группового коллективного иерархического управления распределенными объектами в сложной, многокомпонентной динамически меняющейся обстановке, в которой происходят недетерминированные процессы, а также оценивать их состояние, что позволяет решить задачу группового моделирования сложных процессов в многокомпонентной среде; б) определить качество и функциональные возможности ИС управления в зависимости от той или иной оценки, что, в свою очередь, позволит на рынке информационных продуктов сделать быстрый к качественный анализ, и, таким образом, может быть снижен индустриальный, человеческий и экологический риск в управлении; в) созданная система может быть также использована для моделирования широкого класса динамических процессов, происходящих в сложной многокомпонентной среде с групповым управлением и для оценки различных информационных систем. Система является открытой по отношению к настройке на моделирование различных процессов генерации событий и ситуаций во внешней обстановке.

Реализация и внедрение результатов диссертационной работы.

1. Использование результатов докторской диссертации в Государственном научно-исследовательском институте экстремальной медицины, полевой формации и медицинской техники МО РФ,от 23 июля 1996 г.

2. Внедрение и реализация системы "КСО-ИС" в научно-производственном предприятии "САТУРН-ЦЕНТР'; от 11 сентября 1996 г. № 3.

3. Внедрение результатов диссертации в учебном процессе МГИЭМ на кафедре "Управление и информатика в технических системах" от 17 марта 1997г. № 154/УиИТС.

4. Использование результатов докторской диссертации в производственном процессе Центра информатизации Министерства общего и профессионального образования России,от 9 апреля 1997 года.

Апробация работы. Основные результаты данной работы докладывались (с 1983 по 1997 г.) и получили одобрение на многих конгрессах, конференциях, совещаниях, семинарах, научно-технических школах, в том числе и за рубежом, среди них следующие:

Техническое и программное обеспечение полнонатурного моделирования", научно-техническая конференция, г. Гродно, 1988 г.

- "Проблемы проектирования экспертных систем", Всесозн. шк.-сем., п. Суханово, 1988 г.

-21- "Персональные ЭВМ в задачах проектирования и поддержки решения", совещание специалистов стран-членов СЭВ, г. Суздаль, 1989 г.

Искусственный интеллект - промышленное применение, международная конференция, г. Ленинград, 1990 г.

- "Интернациональная информатика", международный конгресс, Куба, г. Гавана, 1990 г.

- "Экспертные системы", всесоюзное совещание, г. Суздаль, 1990 г.

- "Проблемы информатики", конференция с международным участием, г. Тольятти, 1991 г.

- "Современные методы и средства интенсификации производства и обеспечения качества продукции", конференция с международным участием, г. Туапсе, 1991 г.

- "Сложные антенные системы и их компоненты. Теория, применение, экспериментальные исследования", межрегиональная научно-техническая конференция, г. Ленинград, Петродворец, 1991 г.

- "Актуальные проблемы фундаментальных наук", международная научно-техническая конференция, г. Москва, 1991 г.

- "Распределенная обработка информации IV", научно-техническая конференция, г. Новосибирск.

- "Состояние и перспективы развития информатики и кибернетики", научная конференция г. Пушкин, 1992 г.

- "Моделирование и контроль качества в задачах обеспечения надежности радиоэлектронных устройств", международный научно-технический семинар, г. Шауляй, 1992 г.

-22- "Проблемы экоинформатики", международный симпозиум, г. Звенигород,

1992 г.

- "Методы и средства оценки и повышения надежности приборов, устройств и систем", российская научно-техническая конференция, г. Саратов, 1994 г.

- Доклады и обсуждение научных результатов диссертации на секции "Кибернетика" в Московском доме ученых, 1993, 1996 гг.

Публикации. Научные результаты, выводы и рекомендации,представленные в диссертаци, отражены и опубликованы в 47 работах. На основании полученных результатов опубликовано учебное пособие "Методика определения надежности интеллектуальных систем управления". - МГИЭМ, 1996 г. - 54 е., предназначенное для преподавателей в области новых информационных технологий аспирантов, а также студентов-дипломников.

Содержание работы. Во введении рассмотрены проблемы развития новых информационных технологий и компьютерной техники. Показана необходимость и поставлена задача комплексного подхода к проектированию ЭС и их оценке. Для решения поставленной задачи выделены основные области исследований: ИС (ЭС) управления, ЧМС, имитационное моделирование системы принятия решений, человеческий фактор, эргономика, экология, информационная структура данных и знаний, внешняя среда.

В главе I проведен анализ методов и средств имитационного моделирования человеко-машинных систем. Данный анализ позволяет обосновать и поставить задачу создания интеллектуальной ЧМС имитационного моделирования многокомпонентных внешних воздействий для сложных систем с групповым управлением.

-23В главе II данной диссертационной работы рассматриваются математические методы и средства представления знаний и данных в задачах моделирования человеко-машинных систем, функционирующих в многокомпонентной внешней среде.

Управление процессом моделирования в рассматриваемой системе организуется по принципу интерпретации определенных данных об объектах моделирования и среде их функционирования, а также определенных правил, описывающих причинно-следственные последовательности переходов объектов и среды из одного состояния в другое. Подобные данные и правила управляют процессом моделирования. В связи с этим, основным вопросом построения системы моделирования является разработка структур такого рода "управляющих" данных и знаний о моделируемых объектах и среде их функционир ов ания.

Моделирование сложных человеко-машинных систем с групповой деятельностью ЛПР, работающих с несколькими объектами управления в сложной среде, требует разработки логико-алгебраических средств моделирования воздействий объектов друг на друга, а также воздействий внешней обстановки на совокупность объектов с учетом причинных связей. В связи с этим необходимо обеспечить синтез последовательностей ситуаций, описывающих воздействия внешней среды на рассматриваемые объекты, и вывод последствий этих воздействий. При генерации событий учитываются их продолжительность и перекрытия во временной области. Разработана новая недетерминированная математическая модель процессов генерации событий и ситуаций, основанных на использовании продукций нового динамического недетерминированного типа.

В главе III разработана информационная модель имитационного моделирования ЧМС управления с групповой деятельностью ЛПР. Создана модель имитационного описания системы правил генерации событий во внешней среде, в которой функционируют распределенные движущиеся объекты управления. Центральным звеном системы является модель знаний о базовых элементах ситуаций внешней среды, правилах построения ситуаций связей между базовыми элементами и между характерными ситуациями (или их фрагментами) и последствиями воздействий на рассматриваемую группу управляемых объектов. В качестве инструментального средства для представления таких знаний и решения проблемы их оптимизации используется модель минимального описания 8, разработанная О.В. Евсеевым [ 65 ], которая предоставляет возможность получения эффективной процедуры распознавания ситуаций, а также позволяет организовать направленный процесс распознавания с эффективным отсечением ветвей перебора при сопоставлении имеющихся данных. Базовые элементы объектов моделирования описаны ролевыми фреймами [ 66,108 ].

Важным свойством данной системы являются открытость и пополняемость ее модели знаний. Наполнение модели осуществляют эксперты, имеющие опыт эксплуатации рассматриваемых или аналогичных объектов управления. Поэтому система может быть настроена на широкий класс предметных областей. Пользователь системы имеет возможность пополнять и изменять модель знаний, а также управлять процессом синтеза ситуаций. В этом случае процесс моделирования носит диалоговый характер.

В главе IV сформулированы основные требования к этапам и задачам проектирования создания и эксплуатации интеллектуальных ЧМС управления. На основании анализа современного состояния проблемы построения и функционирования ИС было выявлено, что иногда оценивают только отдельные фрагменты данных систем: техническую надежность объектов управления и ПК, а также программную надежность ИС. Были рассмотрены дополнительные факторы оценки ИС, а именно: информационные, экологические, а также требования к человеческому фактору пользователя (ЛПР) и его оценке, поэтому было показано, что целесообразно исследовать проблемы проектирования и эксплуатации данных систем, уделив особое внимание именно проблемным и негативным факторам.

В главе V рассмотрены проблемные факторы информационной структуры ИС (ЭС). На основании этого анализа было выделено семь основных критериев оценки информационного качества системы: Ъ\ - достоверность извлеченных знаний у экспертов предметных областей (ПО); Ъг - критический балл оценки профессиональной адекватности интеллектуальных систем управления по отношению к экспертам предметных областей (адекватность задачам управления); Zз - оценка адекватности отображения информации ПО в ИС и ЭС; Ъа - оценка актуальности знаний и данных ИС и ЭС, Z5 - оценка оптимальности представления данных, знаний и эффективности управления; Ъь - надежность программного обеспечения ИС; Ъ] - непредвиденные информационные факторы. Каждый из этих критериев детализирован. Также в конце главы определена полная оценка информационного качества, которая представлена в виде супеграфа Dz, что позволяет быстро выделить любой критерий информационного качества и его оценку.

Глава VI посвящена исследованию тенденций измененения процессов экологического взаимодействия интеллектуальных ЧМС управления, как внутри системы, так и вокруг нее. В этой главе проведена классификация экологических факторов, влияющих на ИС управления, а также определены 10 критериев оценки экологического риска: Ei, Ею и "пессимистического прогноза" в эксплуатации таких систем. Определен круг лиц, которые принимают участие в оценке качества ИС: эксперты ПО - И, пользователи - Й, ЛПР -Л, заказчики - 3, медицинские работники и специалисты в облати человеческого фактора- В, экологи -Э.

В главе VII рассмотрены проблемы интерфейса в новых компьютерных системах; проведена классификация основных требований к человеческому фактору пользователя (ЛПР). Определны основные критерии экспертных оценок качеств человеческого фактора (ЧФ) пользователя и технического обеспечения ИС. Выделены требования разработчиков и заказчиков ИС управления к ЧФ и ИС, а также определены критерии оценки выделенных требований - F1.F4.

В главе VIII проведено обобщение экспертных оценок критериев качества, которые определяют эффективность функционирования ИС управления. Для того, чтобы обеспечить полную взаимосвязь в оценках отдельных функций систем управления в их эксплуатационном пространстве, были введены коэффициенты важности. Данные коэффициенты позволяют отслеживать тенденции в интеллектуальных ЧМС на этапе их проектирования и эксплуатации. Были выделены основные этапы проектирования ИС и введен комплексный метод описания и подсчета экспертных оценок качества ИС на продукционной системе (гл. II-III), что позволило быстро оценивать качество ИС, а также оценить процесс группового управления распределенными техническими объектами. На основании представленного метода была разработана и реализована под управлением операционной оболочки Windows многокомпонентная интеллектуальная система управления и оценки качества "КСО-ИС".

Составлено алгоритмическое, информационное и программное обеспечение диалоговой системы имитационного моделирования интеллектуальных человеко-машинных систем управления с групповой деятельностью лиц, принимающих решения (ЛИР).

В заключении сформулированы основные результаты работы.

В приложении I представлено руководство по эксплуатации системы "КСО-ИС" на ПК для пользователя (ЛПР, эксперта ПО, эколога и др. лиц), где отражена алгоритмическая модель многокомпонентных ИС управления.

В приложении II представлены анкеты для оценки качества ИС управления и вывод комплексной оценки.

Разработаны рекомендации наполнения и эксплуатации системы моделирования и оценки качества ИС. Материалы данной работы могут быть использованы при разработке широкого класса интеллектуальных систем управления распределенными техническими объектами с групповой деятельностью операторов, что подтверждено актами о внедрении и использовании в Приложении III.

I. ТЕОРЕТИЧЕСКОЕ ОБОСНОВАНИЕ КОМПЛЕКСНОЙ

МЕТОДОЛОГИИ ПРОЕКТИРОВАНИЯ И МОДЕЛИРОВАНИЯ ИНТЕЛЛЕКТУАЛЬНЫХ ЧЕЛОВЕКО-МАШИННЫХ СИСТЕМ (ЧМС) УПРАВЛЕНИЯ

Заключение диссертации по теме «Применение вычислительной техники, математического моделирования и математических методов в научных исследованиях (по отраслям наук)», Калечиц, Ирина Николаевна

15. Результаты работы внедрены и использованы на ряде предприятий и в учебном процессе, что подтверждено соответствующими актами.

ЗАЮПОЧЕНИЕ

В диссертационной работе получены следующие основные результаты.

1. Проведен анализ проблем проектирования, создания и эксплуатации ИС (ЭС) управления. На основании рассмотренных подходов проектирования многокомпонентных ИС управления обоснована необходимость комплексного метода их проектирования и оценки качества таких систем.

Разработана комплексная методология построения сложных ИС управления, которые рассмотрены, как ЧМС. Выделен класс имитационного моделирования ЧМС, а также проведены исследования существующих методов и средств их построения. Сформулирована и обоснована задача построения интеллектуальной системы имитационного моделирования, обладающей, по сравнению с известными системами, более широкими, гибкими и качественно новыми возможностями функционирования ЧМС с групповым управлением в сложной динамической обстановке. Выделены основные требования к построению подобных систем.

2. Разработана новая недетерминированная математическая модель процессов генерации событий и ситуаций, основанных на использовании продукций недетерминированного типа, которая позволяет, в отличие от традиционных методов, рассматривать параллельное и обратное развитие случайных процессов генерации ситуаций. Недетерминированная продукционная модель обобщена на случай описания динамических дискретных процессов генерации событий и ситуаций с учетом фактора времени, что позволяет обеспечить достаточный уровень адекватности моделирования рассматриваемых сложных интеллектуальных ЧМС с групповым управлением.

3. Разработана единая информационная структура для всех базовых элементов системы моделирования, которые представлены ролевыми фреймами, что позволяет описывать разнородные элементы и их состояния общим фреймом, удобным как для эксперта, так и для пользователей. Поставлена и решена задача построения внутренней информационной модели предложенного продукционного языка и обоснована необходимость оптимизации этой модели в связи с большим объемом данных, используемых для описания предметной области. Решена проблема оптимизации хранения и эксплуатации данных в модели знаний системы для чего используется модель минимального описания в виде суперграфов. На основе ее разработана оптимальная процедура идентификации динамических ситуаций с эффективным отсечением ветвей перебора.

4. Введена гибкая структура системы моделирования внешней обстановки, в основу функционирования которой положен принцип интерпретации разработанной математической модели недетерминированных динамических процессов, описываемых с помощью модифицированного языка продукций.

5. Решена задача интерактивного управления процессом моделирования ситуаций на всех его стадиях путем удаления и добавления любых информационных описаний компонентов среды и их реализаций.

Сформулированы комплексные требования к проектированию интеллектуальных человеко-машинных систем управления. Для этого было сделано следующее: введен комплексный метод оценки качества интеллектуальных ЧМС управления, который позволяет: выявить и устранить недостатки ИС на этапе их проектирования, выделить полезные или недостающие свойства систем; проведено теоретическое обобщение и классификация проблемных факторов построения и эксплуатации ИС управления; выделены, обоснованы и классифицированы внутренние и внешние факторы, влияющие на качество эксплуатации ИС; разработаны и введены комплексные критерии качества, по которым могут оцениваться ИС управления и другие информационные системы, где выработанные критерии актуальны; выделены и обобщены общие требования к ИС управления пользователей (ЛПР), медиков, экологов, заказчиков, экспертов предметных областей и других лиц, принимающих участие в создании и эксплуатации таких систем.

6. Проведены исследования методов и форм представления данных и знаний, разработаны критерии качества информации в интеллектуальных системах: выделены проблемные факторы информационной структуры ИС, на основании которых были разработаны критерии оценки информационного качества; разработана эмпирическая модель оценки достоверности знаний предметных областей в ИС (ЭС); разработана модель "счетчик повторов" и метод оценки адекватности отображения информации, позволяющая корректировать функциональные возможности ИС; определены лица: эксперты ПО, заказчики, пользователи, лица, принимающие решения, которые могут и должны оценивать информационное качество ИС; введены критерии оценки актуальности данных и знаний, на основании которых разработан метод определения информационного старения ИС; предложена оценка оптимальности представления данных и знаний, что позволяет определить дублирование или избыток информации; введена оценка управления для ИС, что позволяет оценить эффективность принятия решений; определена полная оценка информационного качества, которая представлена в виде суперграфа Дг , что позволяет быстро выделить любой критерий информационного качества и его оценки.

-2177. Проведена классификация факторов, влияющих на экологическую безопасность ИС управления, определены критерии оценки экологического риска и "пессимистического прогноза" в эксплуатации таких систем.

8. Проведен анализ и классификация основных тербований к человеческому фактору пользователя, а так же эргономические и медицинские требования к ИС: введены критерии экспертной оценки человеческого фактора пользвателя (ЛПР) ИС; определены критерии оценки требований к техническому обеспечению ИС; разработаны критерии, по которым пользователь может предъявлять соответствующие требования к разработчикам ИС и оценивать эти системы; выделены а) требования разработчиков и заказчиков ИС управления к ЧФ и ИС; б) определены критерии оценки выделенных требований.

9. Разработаны конструктивные методы классификации и оценки основных этапов построения ( эксплуатации) ИС управления: а) обобщены экспертные оценки критериев качества ИС управления и введены коэффициенты важности внутренних и внешних факторов ИС, а также для экспертов данных систем, что позволяет: обеспечить взаимосвязь оценок отдельных функций системы управления; отслеживать тенденции изменения интеллектуальных ЧМС на этапе их проектирования и эксплуатации; б) введен комплексный метод описания и подсчета экспертных оценок качества ИС на разработанной продукционной системе, что позволяет: обработать быстро результаты экспертных оценок и оценить комплексный показатель качества ИС; оценить процесс группового управления распределенными техническими объектами.

10. Разработана и реализована комплексная интеллектуальная человекомашинная система имитационного моделирования ситуаций многокомпонентной ИС управления во внешней среде и оценки качества ИС управления - "КСО-ИС", которая позволяет: исследовать и оценить процесс группового коллективного иерархического управления распределенными объектами в сложной, динамически меняющейся обстановке, в которой происходят недетерминированные процессы, а также оценить их состояние, это позволяет решить задачу группового моделирования ситуаций ногокомпонентной среды и определить взаимодействие распределенных объектов; определить комплексный показатель качества и функциональные возможности ИС управления, в зависимости от той или иной оценки, что позволит на рынке информационных продуктов сделать быстрый и качественный анализ, а это, в свою очередь, может снизить индустриальный, человеческий и экологический риск в управлении. Реализация системы осуществлена на следующих языках программирования: Borland С++ 4.1, Borland Pascal 8.0. Инструкция для пользователя реализована при помощи MS FoxPro 2.6.

11. Созданная система может быть также использована для моделирования широкого класса динамических процессов, происходящих в сложной многокомпонентной среде с групповым управлением и их оценки. Система является открытой по отношению к настройке на моделирование различных процессов генерации событий и ситуаций во внешней обстановке.

12. Выделенные оценки различных факторов ИС управления позволяют:

- определять слабые и эффективные стороны не только на этапе эксплуатации данных систем, но и на этапе их проектирования;

- улучшить качество, безопасность и эффективность работы ИС управления;

-219- прогнозировать отдельные негативные экологические, информационные и человеческие последствия от эксплуатации таких систем.

13. На основе анализа целей и задач внутренних и внешних факторов интеллектуальных систем, предложен комплексный подход к проектированию и оценке интеллектуальных систем управления, как метод, дающий обзор всех частей сложного неоднородного целого, что позволяет: проанализировать, классифицировать и оценить проблемы проектирования, создания и эксплуатации ИС управления; обобщить требования лиц, принимающих участие в создании, эксплуатации и оценке таких систем; провести исследование методов и форм представления данных и знаний, выделить информационные особенности ИС управления; классифицировать факторы, влияющие на экологическую безопасность ИС управления, а также провести анализ и классификацию основных требований к человеческому фактору;

14. Разработанная методология оценки качества ИС управления построена таким образом, что она может быть встроена в программное обеспечение практически любой ИС, т.к. форма представления оценок и их отображение (фреймы, продукции и т.п.) вписываются в большое разнообразие уже готовых систем. Эти системы часто представлены на различных языках программирования и такой метод не требует дополнительных затрат на программирование.

Список литературы диссертационного исследования доктор технических наук Калечиц, Ирина Николаевна, 1998 год

1. Абрамов В.Г., Брябрин В.М., Пховенашвили М.Г. и др. - ДИЛОС-диалоговая система для взаимодействия с ЭВМ на естественном языке. - М.:ВЦ АН СССР, 1979. - 79 с.

2. Автоматизация процессов управления воздушным движением. Под ред. д. т.н., проф. Г.А. Крыжановского. Учебное пособие. М.: Транспорт, 1981. -400 с.

3. Автоматизация проектирования АСУ. / Кульба В.В., Мамиконов А.Г., Цвиркун А.Д. // М.: Энергоиздат, 1981 г. 328 с.

4. Айзенберг Н.Б. Защита пользователей ЭВМ от негативных воздействий слабых электромагнитных полей. //Прикладная эргономика. 1992, № 2, С. 16-22.

5. Александров Л.В., Карпова Ю.А., Шепелев Н.П. Роль изобретений в охране окружающей Среды (Учеб. пособие) // ВНИИПИ, М., 1991, -85 с.

6. Андерсон Ю.А., Дрожкин А.И., Лозик П.М. Противовоздушная оборона сухопутных войск. Под ред. П.Г. Левченко. М.: Воениздат, 1979. - 303 с.

7. Андрианов С.Т. Об автоматизации оценки деятельности тренируемых в тренажерниках одного класса. УСиМ, 1985, N 3, с. 16-19.

8. Антонюк В.И., Наппельбаум Э.Л. Информация общества: ожидание возможных воздействий и структурные подвижки : Сб. тр. / ВНИИ систем, исслед. 1989 - № 12. - с. 3-17.

9. Апросян Ю.Д. О поверхностно-семантическом компоненте о модели "смысл —» текст". Ученые записки Тартусского государственного университета. Логино-семантические вопросы искусственного интеллекта. Труды по искусственному интеллекту. Тарту, 1980, с. 5-8.

10. Афанасьев В.Г. Информация как ресурс управления. Кибернетика. Становление информатики. М.: Наука, серия , 1986,№ 117, с. 156-172.

11. Афанасьев В.Н., Данилина А.Н. Алгоритмическое конструирование систем упрявлвния с неполной информацией. М.: МИЭМ, 1985. - 94 с.

12. Ашеров А.Т., Бурд Б.В., Литвер Л.В. Диагностичвская система информирования руководителей. УСиМ, 1985, N 3, с. 12-16.

13. Ашеров А.Т., Мнев O.A. Модель данных об ошибках оператора. // Автоматизированные системы упр. и приборы автом. 1990, №95-с.82-89.

14. Байдун В.В. О реализации языка FRL на ЕС ЭВМ.- В кн.: Представление знаний в системах искусственного интеллекта. -М.: МДНТП, 1985, с. 106-113.

15. Бакланов В.М., Попов Э.В. "Понимание"фраз ограниченного русского языка. Известия АН СССР. Техническая кйбернетика, 1978, N 4, с. 66-70.

16. Батурин Ю.М. Право и политика в компьютерном круге .М.: Наука, 1987. 110 с.

17. Батурин Ю.М. Проблемы компьютерного права М.:Юридич. лит., 1991.272 с.

18. Бойцов Б.В., Крянев Ю.В., Кузнецов М.А. и др. Качество: принципы, структура, управление. /М., МГИЭМ, 1997 г. 219 с.

19. Бонгард М. М., Лосев И. С., Максимов В. В., Смирнов М. С. Формальный язык описания ситуаций, использующий понятие связи.- В кн.: Моделирование обучения и поведения.- М.: Наука , 1975, с. 172-184.

20. Борщ A.M. Автоматизация процесса принятия решения по повышению уровня безопасности полетов.-Л.:Совершенствование летательной деятельности и безопасности полетов, 1982,с.57-59

21. Брод К. Техностресс: человеческая цена компьютерной революции // Перспективы информатизации общества : Реф. сб. 4.1. М., 1990, - с. 178-195.

22. Брябрин В.М., Сенин Г.В. Анализ естественного языка в ограниченном контексте.- В кн.: Вопросы кибернетики. Вып. 61. Проблемы искусственного интеллекта. Подред. Г.С. Поспелова, М., 1980 , с. 111-117.

23. Будущее искусственного интеллекта : Сб. науч. тр./ Под. ред. К.Е. Левитина , Д.А. Поспелова. М.: Наука, 1991 , 302 с.

24. Бургин М.С. , Слюсарь В.И. Структурная организация систем фреймов для построения базы знаний.- В кн.: Представление знаний в системах искусственного интеллекта.-М.: МДНТП, 1980, с. 21-24.

25. Бурков В.Н. (п/р) Имитационное моделирование в задачах синтеза структуры сложных систем. ( Оптимизационно-имитационный подход), М. 1985, 173 с.

26. Бусленко Н.П. Моделирование сложных систем.-М.:Наука, 1978.-400 с.

27. Бушуев С.Д. Система специального математического обеспечения иммитационного моделирования многоуровневых объектов управления. М.: УСиМ, 1982, №3, с. 85-89.

28. Вабищевич П.Н. Численное моделирование.М.:МГУ, 1993,164 с.

29. Вагин В.Н. Дедукция и обобщение в системах принятия решений М.: Наука 1988,- 384 с.

30. Венда В.Ф. Системы гибридного интеллекта: эволюция, психология, информатика. М.: Машиностроение, 1990. 448 с.

31. Вентцель Е.С. Теория вероятностей. М.: Наука, 1964. - 576 с.

32. Виноград Т. Программа, понимающая естественный язык . М.: Мир, 1976 , - 294 с.

33. Виноградов В.А. (п/р) Перспективы информации общества: Реф. ст. ч. 2 //М. 1989 185 с.-22339. Владимиров В., Петров В. Цифрвые системы автоконтроля. Авиация икосмонавтика, 1963, N11.

34. Владимиров В., Петров В. Эволюция радиоэлектронного оборудования. Авиация и космонавтика, 1971, N 3 , с. 46-47.

35. Володарский В.Я.,Литвак И.И. О стандартизации требований, норм, методов измерений и оценки эргономических параметров дисплеев// Прикладная эргономика. 1992, N 2, с. 3-10.

36. Волченков Н.Г., Воскресенсная О.В., Преображенский А.Б., Рыбина Г.В., Хорошевский В.Ф. Анализ входного языка в системе МИВОС. В кн.: Вопросы кибернетики, вып. 61. Проблемы искусственного интеллекта. Под. ред. Г.С. Поспелова, М., 1980,с. 118-126.

37. Вольфенгаген В.Э. Исчисление фреймов и Л -конверсия. В кн.: Проектирование интеллектуальных систем. - М.: Атомиздат, 1980, с. 11-16.

38. Вольфенгаген В.Э., Вязьмин С.А., Рыбина Г.В. Фреймы в системе представления знаний.- В кн.: Информационно-программное обеспечение систем искусственного интеллекта.-М.: МДНТП, 1978, с. 18-26.

39. Воробьев В.И., Ковалев Е.Е. Радиационная безопасность экипажей летательных аппаратов.- М.: Энергоатомиздат, 1983.- 152 с.

40. Вуде В.А. Сетевые грамматики для анализа естественных языков. В кн.: Кибернетический сборник (новая серия). Вып. 13, М., 1976, с. 91-106

41. Гаврилова Т.А. Чем отличается извлечение от приобретения знаний? // Уч. зап. Тарт. гос. ун-та -1990, N 903 с. 37-44.

42. Герасимов Б.М., Тарасов В.А. и др. Человеко-машинные системы принятия решений с элементами искусственного интеллекта. Киев : Наукова думка, 1993, 184 с.

43. Гвида Дж., Сомальвико М. Общение с системами искусственного интеллекта на естественном языке (проект DONAU ).- В кн.:Лингвистические процессоры и представление знаний Новосибирск, 1981, с. 41-651

44. Герберт Лин. Разработка программного обеспечения дня системы противоракетной обороны. В мире науки. Издание на русском языке, 1986, N2, с. 4-16-22451. Глинский Б.А. Социально-экономические проблемы информатики.

45. FO-89: Международный семин. Минск, 1989. Т.1. Ч. 1. Минск, 1989.- с.60-66.

46. Глушков В.Г. Технологические проблемы социально-экономического управления. Кибернетика. Становление информатики. М.: Наука, серия N 117 1986, с. 173-186.

47. Глушков В.М., Каныгин Ю.М. Новая отрасль народного хозяйства -индустрия переработки информации. Кибернетика. Дела практические. Серия "Кибернетика неограниченные возможности и возможные ограничения".-М.гНаука, 1984, с.133-141.

48. Горяинов В.М. Реализация субъективных, неповторимых личностных характеристик человека в условиях информации общества : Сб. тр. / ВНИИ систем исслед.М.,- 1989, -№ 12,е.- 71-81.

49. Гречко В.О., Темперанский В.А., Токарева Г.В. Диалоговая проблемно-ориентированная система анализа сложных объектов. УСиМ, 1982, N6, с. 92-96

50. Григорьев В. Объединенные ВС НАТО в Центральной Европе.-М.:Зарубежное военное обозрение. Красная звезда, 1983, N 1, с.51-57.

51. Гурский Е.И. Теория вероятностей с элементами математической статистики (Учеб. пособие). М., Высшая школа, 1971, 328 с.

52. Данилевская И.М., Дунай В.Р. Пути автоматизации процесса принятия решений в организационных системах управления // Инф. технол. упр. Киев 1989 с. 26-34.

53. ДевисУ. Операционные системы. М.: Мир 1980, - 437 с.

54. Дейт К. Введение в системы баз данных. Д.: Наука, 1980. - 161 с.

55. М.: Радио и связь, 1984. 272 с.

56. Додонов А.Г., Клименко В.Г., Полищук А.В., Шифчук Ю.Б., Ярмоленко A.M. Система моделирования ДИСИМ.- Киев: ИПМЭ АН УССР , препринт-56, 1986,с. 40.

57. Евсеев О.В. Суперграфы для представления знаний в моделях минимального описания.- В кн.: Проблемы искусственного интеллекта и распознавания образов: Тезисы докладов. Секция 1.- Киев: ИК АН УССР, 1984, с. 66-67.

58. Евсеев О.В. , Калечиц И.Н. Представление знаний в экспертной системе для моделированния групповой деятельности операторов / Сб.; Автоматическое регулирование.//М.; ВЗМИ, 1985, с. 70-75.

59. Евсеев О.В., Калечиц И.Н. Диалоговая система моделирования групповой деятельности операторов / Сб.; Автоматическое регулирование и управление. // Математическое моделирование нестационарных процессов САУ.-М., ВЗМИ,-1986.-с. 119-123.

60. Евсеев О.В. , Калечиц И.Н. Экспертная система для моделирования и исследования сложных человеко-машинных систем управления / Сб,: Вопросы передачи и обработки информациионных и управляющих систем.//Рязань, РРТИ,- 1986.- с.45-51.

61. Евсеев О.В. Калечиц И.Н. Экспертная система СИМС для моделирования ситуаций внешней среды и обучения групп операторов / "Проблемы проектирования экспертных систем"-шк.-сем. 22 -30 апреля 1988. // Тез. докл. 1 ч. , М.,-1988.- с. 94-95.

62. Жуков Ю.М., Моргунов Е.Б. В поисках достойного ответа.Чем могут помочь отечественной промышленности специалисты по человеческим факторам // Прикладная эргономика. 1993. N 1. С. 25-28.

63. Журавль В.И. Использование моделирующих алгоритмов при проектировании человеко-машинных процедур. Изв. АН СССР, Техническая кибернетика, 1985, N 2, с. 48-52.

64. Загадскяя Л.С. Семантическая модель управления морским портом. -В кн.: Науковедение, прогнозирование и информатика. Киев: ИК АН УССР, 1970, вып. 3, с. 17-30.

65. Зайцев В.Г., Гутман Д.Л., Лунина Т.В., Мелещук И.В., Мараули Г.В. Принципы построения моделей внешней среды одного класса. УСиМ,1985, N6, с. 95-98.

66. Зигель А. и Вольф Дж. Модели группового поведения в системе человек-машина. М .: Мир, 1 975 . - 264 с . 2.89.

67. Зинченко В.П. Геном культурного развития человека./ / Прикладная эргономика. 1993. N 1. С. 69-70.

68. Зуев К.А. Компьютер и общество М.,Политиздат, 1990, 315 с.

69. Имитационное моделирование производственных систем. Под общ. ред. чл.-корр. АН СССР А.А.Вавилова. М.: Машиностроение; Берлин: Техника, 1985. - 416 с.

70. Инженерная психология в военном деле. Под ред. Б.Ф. Ломова.- М.: Воениздат, 1983. 224 с.

71. Калечиц И.Н. Управление процессом группового моделирования многокомпонентных динамических ситуаций в системе СИМС. / ЭВМ новыхпоколений и перспективы их использования в народном хозяйстве, / МДНТП им. Ф.Э. Дзержинского.,- М.: 1989.- с. 97-103.

72. Калечиц И.Н. "Управление процессом группового моделирования многокомпонентных динамических ситуаций в системе СИМС" .-/Материалы семинара "ЭВМ новых поколений и перспективы их использования в народном хозяйстве".- МДНТП, Москва, 1989 г., с.97-103.

73. Калечиц И.Н. "Восприятие нечеткой информации ситуаций внешней среды экспертной системы СИМС".-/"Экспертные системы". Всесоюзное совещание, г.Суздаль, декабрь,- Москва, 1990г., с. 104-105.

74. Калечиц И.Н. "Адекватное восприятие информации в интеллектуальных динамических системах"/"Новые информационные технологии в планировании, управлении и в производстве".-МДНТП,Москва, 1991г.,-с. 53-55.

75. Калечиц И.Н. "Показания экологических параметров для компьютерной техники7"Датчики и преобразователи информационных систем измерения контроля и управления".- Всесоюзное совещание, Москва, 1991г., с. 61.

76. Калечиц И.Н. "Экологическое влияние компьютерной техники на человека и объекты управления"/"Актуальные проблемы фундаментальных наук".-Международная конференция, сб. докладов, т. 12, изд. МГТУ, Москва, 1991г., с.13-15.

77. Калечиц И.Н. "Информационная модель экспертной системы СИМС".-/ "Новые информационные технологии в системотехнике".-Сб. трудов, Москва "Радио и связь", 1990 г., с.88-93.

78. Калечиц И.Н. Экологическая безопасность функционирования систем управления с повышенной ответственностью // Прикладная эргономика 1992 г. ,№2„ с. 59.

79. Калечиц И.Н. Человеческий фактор в использовании компьютерной техники.//"Мы и компьютер", 1992г., №3, с.2-4.

80. Калечиц И.Н. Экологическая надежность в эксплуатации экспертных систем/ "Проблемы экоинфортатики", Звенигород, 1992 г., материалы международного симпозиума, Москва, 1992г., с. 183-184.

81. Калечиц И.Н. Методика определения надежности интеллектуальных систем управления / Учебное пособие// М., МГИЭМ, 1996 г., 54 с.

82. Калечиц И.Н. Негативные последствия новых информационных технологий / Автоматизация и современные технологии. М. 1996 г. , №12, с. 39-41

83. Калечиц И.Н. Комплексные методы проектирования и оценка информационного качества интеллектуальных систем // Информационные технологии и проектирование 1996 г., № 3-4, с. 19-34

84. Калечиц И.Н. Безопасность и надежность интеллектуальных систем управления. / Автоматизация и современные технологии. М., 1997 г., №6, с.33-42

85. Карачев B.C. Разветвленно-иерархический метод отображения информации на экранах индикатора. Труды НИИ гражданской авиации, 1983, N220, с. 117-120.

86. Карпенко A.B. Проблема контроля текущей умственной работоспособности операторов // Гигиена труда и профессиональные заболевания. М.: Медицина. 1992- № 1- с. 12-14.

87. Карпухин Е.Л., Кирий В.Г., Подкорытов В.И., Свинин М.М. Диалоговая система автоматизации имитационного моделирования. УСиМ, 1982., №2

88. Кархо М. И. , Калья А.П., Тыугу Э.Х. Инструментальная система программирования ЕС ЭВМ (ПРИЗ). М.: Финансы и статистика, 1981.- 158 с.- 229105. Катенин В. Некоторые особенности навигационного обеспечения

89. ВМС в 90-е годы. ЗВО, 1986, N 10, с. 56-58.

90. Киркова Р. Применение аппарата экспертных систем для описания административно-управленческих процессов. //Проблемы инф. систем. / МЦНТИ. 1990.-N8, С. 16- 18.

91. Кирсанов B.C., Преображенский А.Б. Организация вычислительного процесса на основе системы представления знаний .- В кн.: Прикладные и экспериментальные лингвистические процессоры. Новосибирск, 1982, с.76-86.

92. Клещев A.C. Фреймы. В кн.: Представление знаний в человеко-машинных и робототехнических системах. Фундаментальные исследования в области представления знаний. ВЦ АН СССР.- М . : ВИНИТИ, 1984, с. 122-135.

93. Клещев A.C., Черняховская М.Ю. Системы представления проблемно-ориентированных знаний. Изв. АН СССР. Техническая кибернетика, .1982, N 5, с. 43-69.

94. Клыков Ю.И. Ситуационное управление большими системами.- М.: Энергия, 1974,- 135 с.

95. Клыков Ю.И. Язык ситуационного управления.- В кн. : Семиотические методы управления в больших системах.- М.: МДНТП ,1971, с. 67-81.

96. Клыков Ю.И., Осадчиев A.A. Семиотические системы принятия решений.-В кн.:информационно-программное обеспечение систем искусственного интеллекта .- М.: МДНТП , 1978 , с. 84-87.

97. Ковалев С.М. Метод построения модели, имитирующей алгоритм поиска управляющих решений оператором. Техническая кибернетика, АН СССР, 1983, N 5.

98. Ковригин О.В., Смольянинов Н.Р., Чмырь А .Я. Экспертные медицинские диагностирующие системы.- Изв. АН СССР, Техническая кибернетика, 1982, N 5, с. 199-216.

99. Козарчук В.В., Щепилов Ю.Н. Временные показатели соответствия тренажера воздушному судну (в кн. см. N 53) ,1984 г. , с. 27-30.

100. Корнилова Т. В., Тихомиров O.K. Принятие интеллектуальных решений в диалоге с компьютером. М.: Изд-во МГУ, 1990. -192 с.-230117. Краснов А. Развитие тактики разведывательной авиации в борьбе с

101. ПВО. ЗВО, N 9, 1986, с. 29-35.

102. Крейн И.М. "Разумные" системы в стационарных случайных средах различных типов. Киев: АН УССР Ордена Ленина ин-т кибернетики. Препринт-81 -14, 1981. - 23 с.

103. Крыжановский Г.А. , Солодухин В.А. Методы оптимизации процессов управления воздушным движением.- М.: Транспорт , 1978.- 152 с. .

104. Крымов А.Б., Хагорова И.Е., Чубиков В.Н. Цифровые алгоритмы получения информации о воздушно-скоростных параметрах самолетов. -Синтез информационно-измерительных систем управления, 1983, с. 16-20.

105. Кузин Л.Т. Особенности систем представления знаний.- В кн.: Представление знаний в системах искусственного интеллекта .- М.: МДНТП, 1980, с. 3-7.

106. Кульба В.В., Сомов С.С., Шелков А.Б./ Резервирование данных в сетях ЭВМ // Изд-во Казанского университета, 1987 г., 175 с.

107. Лавров С.С. Синтез программ.- Кибернетика 1982, N 6, с. 11-16.

108. Лаврухин А.Н. Информационное общество: надежды и результаты информатизации: Сб. тр. / ВНИИ систем. исслед. 1989. - N 12. - С. 42-52.

109. Ларичев О.И., Мечитов А.И., Мошкович Е.М., и др.Влияние экспертных знаний М. Наука, 1989. 128 с.

110. Лейбин В.М. Социокультурные последствия компьютеризации общества.: Сб. тр. /ВНИИ систем, исслед. 1989. № 12. - с. 37-42. .

111. Лепский В.Е. Проблема активности пользователей компьютерных систем и технологий. Основные тенденции. // Прикладная эргономика. 1993, № 1, С. 33-40.

112. Литвак ИИ. Эргономические проблемы проектирования и эксплуатации средств отображения. // Прикладная эргономика. 1993, N 1, С. 29-32.

113. Литвак И.И., Володарский В.Я. Общие эргономические требования к дисплеям на одноцветных и многоцветных ЭЛТ /Аналитический обзор отечественных и зарубежных нормативно-технических документов // Вып. 1, НИИ МЭИИТ, НИЦЭ СОИ, М., 1992,- 41 с.

114. Литвинчук Н., Козлов В. Какая информация главная. Авиация и космонавтика, 1983, N9, с. 18-19.

115. Лопухин М.М. Паттерн метод планирования и прогнозирования научных работ. М.: Сов. радио, 1971, - 160 с.

116. Лукьянов В.Л. Робот против человека? М.: Профиздат, 1990. 192 с.

117. Лютый A.A., Агоян Д.С., Комедчиков H.H. и др. Экологическая информация и глобальное атласное картографирование // Материалы международного симпозиума / Проблемы экоинформатики, М., 1992 г., с. 106

118. Малый Б.Д. Совершенствование летной деятельности и безопао-ности полетов. В кн.: Влияние некоторых эксплуатационных факторов на безопасность полета ВС. - Л.: 1982, с. 78-80.

119. Мальковский М.Г., Волкова И.А. Анализатор системы. Морфологический уровень. Вестник МГУ, сер. 15, Вычислительная математика и кибернетика, 1981, N 1 , с.70-76.

120. Мальковский М.Г. Анализатор системы TULIPS-2. Синтаксический уровень.-В сб.: Механизмы вывода и обработка знаний в системах понимания текста. Труды по искусственному интеллекту. Ученые записки ТГУ. Тарту, 1983, вып. 621,с. 74-85.

121. Мальцева О.М., Барабаш О.Н., Терентьев О.Н. и др.Охрана здоровья лиц, работающих с видеотерминалами //Оздоровление труда в условиях современного производства: Сб. научных работ институтов охраны труда ЦСПС. М., 1990, С. 62-67.

122. Марчук Г.И. Математическое моделирование и охрана природы. Кибернетика, ионосфера и проблемы мира. М.: Наука, серия N 117, 1986, с. 33-40.

123. Марьянович Г.П., Колосовский И.Г., Шваб Н.Д. Система имитационного моделирования дискретных процессов на ЕС ЭВМ ДИОСИМ.-УСиМ, 1982, N 6,с.55-57.

124. Маслов С.Ю. Обратный метод установления выводимости в классическом исчислении предикатов. Доклады АН СССР. Т. 159, 1964, с. I 7-20.

125. Материаллы 9-го Всесоюзнонго симпозиума по кибернетике. Т. 1. Представление знаний. М.,1981 .- 216 с.

126. Мелещук И.В., Гутман Д.Л. Алгоритмы управления вычислительным процессом в системе моделирования внешней среды.- В кн.: Модели и алгоритмы автоматизированных систем в промышленности.Сб. научн. трудов ИК АН УССР 1982, с. 23-27. .

127. Метод построения модели предметной области человеко-машинного диалога в АСУ. Изв. АН СССР, Техническая кибернетика, 1983, N3, с.112- 119.

128. Миков A.M. Оценка сложности иерархического моделирования В кн.:Системное моделирование в информатике. П/у М.И. Начепуренко. АН СССР, Сибирское отделение ВЦ, г.Новосибирск, 1985, с. 62-77.

129. Микулич Л.И., Червоненкис А .Я. Специализированная диалоговая система.- В кн.: Вопросы разработки прикладных систем.- Новосибирск, 1979, с. 111-129.

130. Микулич Л.И., Червоненкис А.Я. Лингвистический процосоор системы ДИСПУТ.- В кн.:Информационно-программное обеспечение систем искусственного интеллекта.- М.: МДНТП, 1978, с.51-56.

131. Миллер A.A. Концептуальная схема разработки сенсорнодеятельностных моделей поведения систем человек -машина -среда.//Прикладная эргономика, 1992, .N2, С.47-56.

132. Минский M. Фреймы для представления знаний.- М.: Энергия, 1979. -152 с.

133. Мириманова М.С. Экспертные системы: извлечение экспертных знаний // Теория и практ. обществ, научн. инф. 1989. N1.с. 138-151.

134. Михайлов Б.М., Кравченко В. А. Евсеев О.В. Общесистемные характеристики и принципы развития гибких проиводстввнных систем. Автоматизация, роботизация, интеллектуация производства. Межвузовский сборник. М.: МИЭМ, 1985, с. 3-10.

135. Мичи Д., Джонстон Р. Компьютер-творец.М.: Мир, 1987. -255 с.

136. Монмолен М. Системы "человек и машина" . М., Мир, 1973, с. 256

137. Нариньяни А., Яхно Т. Продукционные системы. В кн.: Представление знаний в человеко-машинных и робототехнических системах. Т. А. Фундаментальные исследования в области представления знания. ВЦ АН СССР.- М.: ВИНИТИ 1984, с. 136-177. 221.126.

138. Нильсон Н. Искусственный интеллект. М.: Мир, 1973.- 270 с.

139. Новик И.Б. Проконтровый подход к информатизации и пути ее оптимизации.//Философские аспекты информатизации. :Тр. семин. / ВНИИ систем, исслед. М., 1989.-е. 18-22.

140. Новик И.Б., Абдуллаев А.Ш. Введение в информационный мир. М.: Наука, 1991. 22 с.

141. Ньюэлл А., Саймон Г. GPS- моделирующая процесс человеческого мышления. В кн.: Вычислительные машины и мышление.- М.: Мир, 1967, с. 283-300.

142. Олимпов В., Иринин Г. Управление спутниками.- М.: Авиация и космонавтика, 1982, N 6, с. 44-45.

143. Орлова Г., Шафанский В. Гибкая диалоговая система планирования для коллективной работы пользователей. ("Дискор-2").- В кн.: Прикладные человеко-машинные системы, ориентированные на знания.ВЦ АН СССР ВИНИТИ.-М., 1984, с. 103-208.

144. ОсугаС. Обработка знаний . М.: Мир, 1989. 292 с. 69.151.

145. Петров В.В. Экологическое право России: Учебник для вузов. М.: Издательство БЕК, 1995. 557 с.-234165. Порус В.Н. Актуальные проблемы анализа научных революций /

146. Аналит. обзоры заруб, литературы. ИФАИ.М., 1983 11с. 42.134.

147. Плесневич Г.С. Методы дедукции в ассоциативных сетях.- Материалы 9-го Всесоюзного симпозиума по кибернетике, т. 2. Методы математической логики в задачах планирования и поведения, М., 1981 , с. 37-39.

148. Плесневич Г.С., Саперов М.С. Алгоритмы и теории графов ( отв. ред. Ейсов Ю.Б. ) А.: Ылым,1981. - 312 с.

149. Подготовка летного состава ВМС Великобритании. (Галкин И.) // ЗВО, N 9, 1986, с.45-50.

150. Покровский Б.И., Родин В.Е., Слирежев Ю.М., Тихненко Е.В. Человеко-машинное Моделирование в задачах анализа методов эксплуатации морских биоресурсов УСиМ, 1983, N 5(67), с. 98- 99.

151. Поспелов Г.С. Системный анализ и искусственный интеллект для планирования и управления. Кибернетика. Дела практические. Серия "Кибернетика неограниченные возможности и возможные ограничения"-М.: Наука, 1984, с. 141-151.

152. Поспелов Г.С., Вен В.Л., Солодов В.Я., Шафранский В.В.,Эрлих А.И. Проблемы программно-целевого планирования и управления. М.: Наука, 1981.- 464 с.

153. Поспелов Д.А. Большие системы. Ситуационное управление. М.: Знание, 1975. -64с.

154. Поспелов Д. А. Логико-лингвистические модели в системах управления. М.: Энергоиздат, 1981. - 232 с.

155. Поспелов Д.А. Принципы ситуационного управления.- Известия АН СССР. Техническая кибернетика , 1971, N 2 , с. 10-17. 191.168.

156. Поспелов Д.А. Семиотические модели в управлении. Кибернетика. Дела практические. Серия "Кибернетика неограниченные возможности и возможные ограничения"- М.: Наука, 1984, с.70-87.

157. Поспелов Д.А. Ситуационное управление (итоги и перспективы). В кн. : Семиотические методы управления в больших системах. - М.: МДНТП, 1971, с. 61-66.-235177. Представление и использование знаний / Под. ред. УэноХ., Исидзука

158. М. М.: Мир, 1989. 220 с. .

159. Представление знаний и экспертные системы: Сб. науч. тр. / Под, ред. Александрова В.В. // АН СССР. Ленингр. ин-т информат. и автоматиз. 1989.-194с.

160. Преображенский А.Б., Рыбина Г.В., Хорошевский В.Ф. Генерация многоцелевых интеллектуальных вопрос-ответных систем.- Известия АН СССР. Техническая кибернетика, 1979, N6, с. 142-151.

161. Применение автоматизированных систем для управления воздушным движением. Под ред. д.т.н. С.М. Федорова . М.: Транспорт, 1979. - 397 с.

162. Приобретение знаний / Под. ред. Осуги С., Саэки Ю.М.:Мир,1990.304с.

163. Прошубин В. Л.Влияние экстремальных факторов на пато- и танатогенез при массовой гибели людей //Современные вопросы судебной медицины и экспертной практики. Выпуск V. Ижевск: Удмуртия, 1991, С. 57-58.

164. Пупков К.А., Евсеев О.В. Системы адаптивного управления промышленными роботами. М.: Машиностроение, 1985. - 60 с. 66

165. Родионова И.А. Глобальные проблемы человечества. // Пособие для учащихся и студентов. Изд. 2-е испр. и доп. - М.: Аспект Пресс, 1995-159с. .

166. Руднев Ю.Н., Кмельянов A.A., Корнейчук H.A. Система коллективного управления процессом моделирования. / УСиМ, 1983, N 3, с. 38-43

167. Рэймерс Н.Ф., Экология. Теория, законы, правила, принципы и гипотезы. М.: Россия молодая. 1994, - 367 с.

168. Саати Т. Принятие решений. Метод анализа иерархий: Пер. с англ. М.: Радио и связь, 1993, 320 с.-236190. Саломатин H.A., Беляев Г.В., Петроченко В.Ф., Прошлякова Е.В.

169. Имитационное моделирование в оперативном управлении производством. М.:

170. Машиностроение, 1984. 208 с. .

171. Самсонова Е. Как мы принимаем решение? / Энергия: экон., техн., экол. М.: 1993 -№ 4-с. 24-27.

172. Синчев В.П., Бурлаченко Н.И. Эргономические подходы к повышению эффективности и качества военно-медицинской техники // Военно-медицинский журнал. 1991, N 12. с.51-58.

173. Севастьянов Б.А. Ветвящиеся процессы. М.: Наука, 1971. - 436 с.

174. Сильдмя Э.И. Искусственный интеллект знания и мышления. Когнитология. // Тарту: Университет, 1989. 240 с. .

175. Системы автоматизированного проектирования: Сб. науч. тр. / Под. ред. Дж.Аллам // Главная редакция физико-математической литературы.М.: Наука, 1985 376 с.

176. Скороходько Э.Ф. Информационный язык для технических наук . Математическая и структурная лингвистика.- Киев, ИК АН УССР, вып. 1, 1962.50 с.

177. Славин Б.Ф., Чесноков B.C. О системах принципах моделирования тенденций войны и мира в условиях становления ноосферы. Кибернетика, ноосфера и проблемы мира. - М.: Наука, серия N 117, 1986, с. 48-58. .

178. Соловьева Г.М.Представление знаний в системах альтернатив. -Препринт. Кишинев, 1985. - 23 с.

179. Солодов В.М. Модели развития комплекса отраслей. Диалоговый процесс планирования. В кн.: Проблемы программно-целевого планирования и управления. Под ред. Г.С. Поспелова. - М.: Наука, 1981, с. 191-245. .

180. Степанов A.M. Экспериментальная система программирования. -Препринт ВЦ СО АН СССР. Новосибирск, 1987, с. 34.-237202. Сухоручкин В.К., Гавришин А.Н. Анализ методологических аспектовисследований риска // Институт атомной энергии. Москва, 1984. 48 с.

181. Тейяр де Шарден П. Феномен человека // М.: Наука, 1987,-240с.

182. Тиори Т., Дж. Фрай. Проектирование Структур баз данньх. В 2-х кн. Кн. 1. -М.:Мир, 1985. 287 с.

183. Тиори Т., Дж. Фрай. Проектирование структур баз данных. В 2-х кн. 2.-М.: Мир, 1985.-320 с.

184. Тыугу Э. X. Программы и системы программирования . Система программирования ПРИЗ. / Инструкция разработки пакетов.- Таллин: Изд. Таллинского политехнического ин-та, 1978. 36 с.

185. Уинстон П. Искусственный интеллект (пер. с англ. Стефанюка В. Л. под ред. Д.А. Поспелова) М.:Мир, 1980 - 520 с.

186. Уолрэнд Дж., Введение в теорию массового обслуживания М.,Мир, 1993, 336 е.

187. Уотерман Д. Руководство по экспертным системам . М.: Мир, 1989.,388с.

188. Файкс Р., Нильсон Н. Система STRIPS новый подход к применению методов доказательства теорем при решении задач. - В кн.: Интегральные работы.- М.: Мир, 1973, с. 382-403.

189. Ферма П. Исследования по теории чисел и диофантову анализу: Перевод текстов и комментарии. М. : Наука, 1992,-320 с.

190. Хант Э.,Марин Дж.,Стоун Ф. Моделирование процесса формирования понятий на вычислительной машине. Под ред. A.B. Напалкова.-М.: Мир, 1970. -301 с. .

191. Хорошевский В.Ф. ATNL язык представления лингвистических знаний в естественноязыковых системах. - В кн.: Вопросы кибернетики. Вып. 55. Интеллектуальные банки данных. - М.: Научный совет по комплексной проблеме "кибернетика" АН СССР, 1979, с. 158-167.

192. Хорошевский В.Ф. Разработка и реализация экспертных систем -инструментальный подход. Изв. АН СССР. Техн. кибернетика, 1986, N 5. с. 104-114.-238215. Цикритзис Д., Лоховски Ф. Модели данных (пер. с англ.). М.:

193. Финансы и статистика, 1985, 344 с.

194. Цой Э.В., Юдин Д.Б. Прямая задача синтеза знаний в теории принятия решений. // Изв. АН СССР техн. кибернет. 1990 - N I. с. 130-139.

195. Чачко А.Г., Кот Г.М. Основы построения диалоговой системы, тренирующей операторов атомных энергоблоков. УСиМ, 1983, N 6, с. 111-116.

196. Человеческий фактор / Под ред. Салвенди Г. //ТЛИ. Ч. 1. М.: Мир, 1991-487с.

197. Чернаенко Т.К. Психограмма диспетчера УВД. Методы и модели анализа процессов УВД. Под ред. д.т.н., проф. Г. А. Крыжановского. Межвузовский сборник научных трудов. Л.: 1981. - 119 с. 45.185.

198. Черняховсная М.Ю. Фреймовое представление понятий структуры как метод формализации медицинского знания для диагностических систем, основанных на принципах искусственного интеллекта Препринт, ДНВЦ АН СССР.- Владивосток, 1982. - 62 с.

199. Шалютин С.М. Искусственный интеллект: Гносеологический аспект .-М.:Мысль, 1985,с; 59-65.

200. Шапиро Д.И., Вознесенский А.К. Специфика человека и компьютеризация//INFO-89: Междунар. семинар. Минск. 1989. Т. 1, Ч. 1 -Минск, 1989, -с.78-80.

201. Шеннон Р. Имитационное моделирование систем искусство и наука. -М.: Мир, 1978, с. 418.

202. Шепетуха Ю.М. Вопросы отображения нформации в эргатических системах предупреждения столкновения судов Киев:Автоматика , 1985, N 6, с.51-55.

203. Шмат А.Н. Психофизиологическое состояние человека-оператор а и параметры его биополя / Науч. конф.Сверхслабые взаимодействия в технике, природе и обществе // Москва, апрель 1993 / Сб. Тез. докл. М. 1993 С. 16-17.

204. Шрамченко А.Ф. Вопросы психологии в управлении войсками. М.: Воениздат, 1973. 196 с.

205. Эндрю А. Искусственный интеллект (пер. с англ. под ред. и с предисл. Д.А. Поспелова). -М. Мир, 1985. 264 с. .-239228. Яглом A.M., Яглом И.М. Вероятность и информация //Госуд. изд-вотехнико-теоретической литературы, М.1957, 160 с.

206. Яковлев К. Внедрение методов искусственного интеллекта для повышения эффективности систем и оружия ВМС в США. ЗВО, N 9, 1986, с. 54-56.

207. Янко А.К. К вопросу об управлении надежностью авиационной техники. -Киев перспективные методы обслуживания и управления надежностью А и РЭО воздушных судов, 1982, с. 3-11.

208. Яхно Т. М. Системы продукций в логике поведения и средства их спецификации. Новосибирск, 1985. - 31 с.

209. Abriol J.R. Data semantics In: Data Base Management (Klimble J.W.Koffeman K.L.,eds), North-Holland Amsterdam, I 974,p. 1-59.

210. Adams Ed. A. S. et. al. Ergonomics International'88: Proc, 10th longr. Int. Ergon. Assoc., Sydney 1-5 Aug., 1988 // London ete.: Taylor and Francis, 1988 XXII -pp.772.

211. Aiken Milan, Sheng Olivia R. Liw NEXPERT OBJECT // Expert syst. -1990. -7, N1, pp. 47-54.

212. Bachman C.W., Williams S.B. A general purpose programming sistem for random access memories. Proc. AFIPS Fall Joint Comput. Conf, 1964., 26, p. 411-422.

213. Data Bases, 1979 p . 262-272

214. Bermigham Jean de L-"utilisation des systemes experts dans la sécurité informatique. Ann. mines. 1989. oct-nov., N 11, V, VIII, X - pp. 93-95.24

215. Bobrow D.G., Kaplan R.M., Kay M., Norman D.A., Thompson H., Winograd T. GUS, a Frame Driven Dialog System.- Artificial Intelligence, 1977.v.8, N2 .p.612-629.

216. Boose John H. A survey of knowledge acquisition techniques and tools. // Kjlowl. Aeguis. 1989. - 1 N 1 , pp. 3-37.

217. Brachman R.J. On the epistemological status of semantic networks.- In: Associative Network (Findler N, ed), Academic Press, New York, 1979, p. 3-50.

218. Brown J.S., Burton R.R., Zdyhel F. A Model-Driven Question-Ansvering System for Mixed-Initiative Computer-Assisted Instruction IEEE Transactions on System 1 Man and Cybernetics, Vol SHC-3, N1, 1973, p. 248-257.

219. Buck Leslie Human operators and real time expert systems // Expert syst. -1989. - 6., N4. pp. 227-232.

220. Budenko J.A., Jr. Information modelmg in the context of system development. Proc. IFIP Congr. 80, 1980, p. 395-411.

221. Byrd Terry Anthony Implementation and use of expert systems in organizations: Perceptions of knowledge engineers //J. Manag. lnf Syst. 1992 - 8, N 4. -pp. 97-116.

222. Cardenas A.F. Analysis and performance of inverted data base structures Conunun. ACM, 1975, 18. p. 253-263.

223. Chamberlin D.D. et al. SEQUEL 2 :A unified approach to data definition and control. IBM J. Res. Dev., 1976,2, p. 560-575.

224. Chen P.P. , Yao S.B. Design and performance tools for database systems. Proc. 3rd Int. Conf. Very large Data Bases, I 977, p.3-15.

225. Chen P.P. Applications of the Entity-Relationship Model, NYU Symp. Database Design, May 1978, p. 25-30.

226. Chen P.P. The entity-relationship model: A basis for enterprise view of data. Proc. AFIPS NCC, 1977, 46, p. 77-84.258 . Chen P.P. The entity-relationship model: Toward a unified view of data. ACM Trans. Database Syst., 1976,1, p. 9-36.

227. CODASYL The Stored- Data Definition and Translation task Group, Stored - Data Description and Data Translation : A Model and Language, Inf Syst., 2,3, 1977, p. 95-148.

228. Codd E.F. Seven steps to RENDEZVOUS with the causal user. In : Data Base Managment (Klibie J.W. and Koffeman K.L., eds.), North-Holland, Amsterdam, p. 179-199.

229. Codd E.F. A data base sublanguage founded on the relational calculus. Proc. ACM SIGFIDET Workshop on data Description Access and Control, 1971, p. 35-68.

230. Codd E.F. Arelational model of data for large shared data banks. Conunun. ACM., 1970, 13,6, p. 377-387.

231. Codd E.F. Extending the database relational model to capture more meaning ACM Trans. Database Syst, 4, 1979, p. 397-434.

232. Codd E.F. Futher normalization on the data base relational model.- In: Data Base Systems. Courant Comput. Sei. Symp. 6th (Rustin R., ed.), Prentice-Hall, Englewood Cliffs, NJ, 1972, p. 33-64.

233. Codd E.F. Normalized Data Base structure: A brief tutorial. Proc. ACM. SIGFIDET Workshop on Data Description, Access and Control, 1971.p. 1-17.

234. Codd E.F. Relational completeness of data base sublanguages.- In: Data Base systems, Courant Comput. Sei. Simp. 6th ( rustin R., ed. ) , Prentice-Hall, Englewood Cliffs, NJ, 1972, p. 65-98.

235. Atlanta, Ga. Oct.12-16 1992. Vol 2 Santa Monica (Calif) 1992. -pp. 1254-1258.

236. Curtice R.M. Data Base Design Using a CODASYL Sistem Free. 1974 Natl. Conf. (ACM) ,v. 43, AFIPS Press, Myngton, VA, 1974, p.473-480.

237. Czarnik B. , Schuster S., Tsichritzis D.C. ZETA: Arelational data base management system. Proc. ACM Pacific 75, 1975, p. 21-25.

238. Davis Randel Expert Systems: How far can they go? //AI Mag. 1989. 10. №2 pp. 65-76

239. Deheneffe C. , Hennebert H. NUL: A navigational user's language for a network structured data base. Proc. ACM SIGMOD, 1976.p. 135-142.

240. Deheneffe C., Hennebert H., Paulus W. Relational model for a database. Proc. IPIP Congr. 74.North-Holland, Amsterdam, 1974, p. 1022-1025.

241. Dodhiawala Rajendra, SridharanN.S., Raulefs Peter, Pickermg Cynthia Real-time AI Systems: A Defimtion and An Arhcitecture // IJCAI-89: Proc. 11th Jomt Conf. Artif. Intell., Detroit, Mich, Aug. 20-25, 1989. Vol. I. -Son Mateo (Calif) 1989, pp. 256-261.

242. Duersch R.R., Layman M.A., A graphic workflow simulator "Proc Summer Comput. Simul. Conf, Vancouver.July 11-13, 1983, vol.1", rla Jolla, Calif, 1983 , p. 141-144.

243. Edwards P.(ed) (1967). Models and analogy in science.- In: The Encyclopedia of Philosophy, 5, The Maemillan Company and the Free Press, New York, p.354-359.

244. Evaristo Joao Roberto, Karahanna Elena. An empirical investigation of the difference between North American and European MIS research // Proc. Int. Conf Organ, and Inf Syst.: Effi Effic. Humamz., Bled, Sept. 13-15.1989.YoI.2-kranj.1989 -pp.786-792.

245. Falkenberg E. Signafications: The key to unity data base management., tot. Syst. 1976, 2,p. 19-28.

246. Gupta J.PP., Chm D.C.W. Expert systems and thier applications in production and operations management. // Comput. and Oper. Res. 1989, - 16, N 6 pp. 567-582.

247. Hainaut J.L., Lecharlier B. An extensible semantic model of database and its data language. Proc. IFIP Congr.74, North-Holland, Amsterdam. 1974, p. 1026-1030.

248. Hammer John M., Rouse William B. Design of intelligent computer-aided cocpit. IEEE Proc. Jnt. Conf Cybern. and soc., Seattle, Wash,, Oct. 28-30.1982.p 449453.

249. Helbing H., Bottger H., Srmg P., Wicar R., Zanker F., Koch D.HeickmgW. FAS-80 ein naturlichspachiges Auskufts-systemVEB RobotenZFI, WIT Nr. 18 , 1983,97 p.205

250. Heslinga G., Stassen H.G. The prediction of human performace safety with event trees. // IEEE Trans. Syst., Man and Cybern. 1992. - 22, N 5. - pp. 1178-1182.

251. Holtham Olive Information texnology management into the 1990 s: A position paper. //J. hlfTechnol. 1989, - 4, N 4. - pp. 179-196.

252. Jeffrey Francois Les recommandations en ergonomie du logiciel. // Genie log. 1992. -N29, pp.40-46.

253. Jorgensen Sven Erik. "Appl. Ecol . Model Environ. Manag., Pta." , Amsterdam e.a., 1983, p. 5-15.

254. K.ahn B.K. A structured logical database design metodology. Proc. NYU Simp, of Database Design ,1978, p. 15-24.

255. Kahn B.K. A method for describing information required by the database design process. Proc. ACM SIGMOD, 1976, p. 53-64.

256. Kaletchich I.N. Información distribuda de los proctsos de modelación de los medies eksternos //SegundoCongreso Internacional de Informatika, resúmenes, tamo 2, 19 al 25 defebrero de 1990, la Habana, Cuba.- ss. 331-332.

257. Kaletchich I.N. Group simulation expert system. Industrial applications of artifical intelligence Proceedings of the IFIP TC5/WG 5.3 International Conference on

258. Artifical Intelligence in CIM, Leningrad, 16-18 Apr., 1990. North-Holland, 1991.-pp. 342-343.

259. Kantowitz Barry H. Interfacing human and machine intelligence. // Intell. Interfaces: Theory Res and Des.-Amsterdam ete., 1989. pp. 49-67.

260. Klumpp Bruno Augenribungen gegen stress am Bildschirm // Online (BRD) -1991 № 8 - ss.60.64.

261. Langefors B. Control structure and formalized information analysis in an organization.- In: Information Systems and Organizational Structure ( Grochla E. Szyperski N., eds), Walter de Gruyter, New York, 1975, p. 31 1-322.

262. Langefors B. Information systems Proc.IFIP Congr.74, North-Holland, Amsterdam, 1974, p. 937-945.

263. Langefors B. Information systems theory Inf Syst. 1977.2, p. 207-219.

264. Langefors B. Management information system design. IAG Quart,, 1969, 2(4), p. 7-17.

265. Langefors B. Some approaches to the theory of information systems, BIT, 1963,3, p. 229-254.

266. Lecomte Jacques Informations exactes, conclusions absurdes // Sei et vie. -1992. -N894-s.68-73.

267. Lee Daniel T. Overview of intelligent Decision Systems. // J. Inf Technol. -1989. 4, N3, pp. 123-135.

268. Leith Philip. The problem with law in books arid law in computers: The oral nature of law. // Artiflntell Rev. 1992 - 6, .N's 2 - pp. 227-235.

269. Levent Orman Information cost as a determinant of system architecture. // Infand soft ware Technol. 1994 - 36, N 3. pp. 165-172.

270. Lexington Anne User complamfs can be curbed with YDT scums. // Office. -1989 1 10. N6. pp. 36,38.

271. Levesque H.J. Mylopolilos J. A procedural semantics for semantic network.-In: Ass. Networks, Acad. Press, New York, 1979. p. 93-120.

272. Liebowitz Jay How much artifical stupidity do expert systems posses? // Alf Age.-1989.- 1 1 N 4, pp. 225- 228.

273. Liebowitz Jay. Possible impacts of artifical intelligence, // Inf Age. 1989, -//, M3, - pp. 155-159.

274. Lin Jimming The pregnant workers and vdt's radiation risk. // Proc. Int. Conf organ and Inf Syst: Efs- Efsie. Humaniz., Bled, Sept. 13-15, 1989. Vol - I -Kranj. 1989 -pp.521-528.

275. Lundeberg M., Goldkuhl G.Nillson A. A systematic approach to information systems development.-1 Introduction Inf Syst. 1979.4.p. 1-12.

276. Manola F. A review of the 1978 CODASYL database specifications. Proc. 4th Int. Conf. Very Large Data Bases, 1978, p.232-242.

277. Manola F. The CODAS YL data description language: Status and activities, April, 1976.- In : The ANSI / SPARC DBMS Model (Jardine D.A., éd.), North-Holland, Amsterdam, 1977, p. 101-129.114

278. Maranda Rierre // Imagination: A necessary input to artifical intelligence // Semiotica 1989 - 77, No 1-3, - pp. 225-238.

279. McGee W.C. , Young S.W., Sibley E.H., Taylor R.W. CODASYL-SSDLTG of CODASYL Systems Committee. Proc. ACM-SIGFIDET, New York, Nov. 1970, p. 368-380.

280. McGee W.C. The Information management sistem IMS/VS; IBM Sist. J., 1977,16, p. 84-168.

281. Meyer Mary A., Mniszewski Susan M., Peaslec Alfred T (Jr) Using three minimally blasmg elicltation technigues for knowledge acquisition. // Knowl. Aeguls.-1989, I, N I, pp. 59-71.

282. Meyer March, Curley Kathleen F. Expert system success models // Datamation 1989 - 35, № 17 - pp. 35-36,38.

283. Mockler Roberts Using knowledgehased systems, for estimating risks Inherent In a proposed KBS project // Expert. Syst. 1990. - 7, N I , - pp. 27-41.

284. Mostert D.N.J., EloffJ.H.PP., Solms S.H. Von. A methodology for measuring user satisfaction // Inf. Process and Manag. 1989. 25, N 5, pp. 545-556.

285. Mylopoulos J. An Overview of Knowledge Representation. In: ACM Procudlngs of Work Shop on Data Abstraction, Jun 23-26, 1980 Pingree Park Colorado, I 980, p. 5-12.

286. Nickerson Raymond S. What does human factors research have to do with environmental mangement?// Free. Hum. Fact. Soc. 36th Arum. Meet,, Atlanta, Ga. Oct. 12-16 1992. Vol. I Santa Monica (Calif) 1992. pp.636-639.

287. Niwa Kiyoshi/ New-category knowledge systems for human computer cooperation. // IEEE Int. Conf. Syst., Man., and Cybern., Los Angeles, Calif, Nov. 47, 1990: Conf Proc. - New York (N.F.), 1990, - pp.254-255.

288. Norton Bob, Peel Malcolm. Information: the key to effective management.// Libr. Manhag. 1989. - 10, N 2-3, - pp. 1-5,

289. Pritsker A.A.B. Introduction to simulation and slam 2. 2nd ed. New York: Willey, 1984, 612 p.

290. Quillian M.R. Word Concepts : a Theory and Simulation of Some Busic Semantic Capabilities.- Behavioral Science, vol 12, N5, Sept. 1967, p. 410-430.184

291. Quillian M.R. Semantic memory- In: Semantic Information Processing ( Mmsky M., ed.). MIT Press, Cambridge, M A , 1968, p.227-270.

292. Ramamoorthy C.V., Wan Benjamin W. Knowledge and Data Engineering U IEEE Trails. Knowledge arid Data Eng.- 1 989.-1, N1, pp.9- 16.

293. Roussopoulos N., Mylopoulos J. Using semantic network for data base management. Proc. 1st Int. Conf Very Large Data Bases, 1975 , p. 144-172.

294. Ruckriegel Werner. Start zur unvorletzlichen Informationsgesellschaft? // Online (BRD) 1991 № I, -s. 45.

295. Schuler W., Bocklisch St Ein Lernalgorithmus zum Anlernen undAktualisieren von Wissensbasen in Expertensistemen. 11 Dpk./lnf: Schrlftenr. Inst. Informationswiss. Erfindungswund Recht Techn.Hochsch. Ilmenau. 1990. - N 77, s. 126-134.

296. Schultz Alan C. Artificial intelligence and security: An overview II AFIPS Conf. Proc. Vol. 56. Nat. Comput. Conf. Chicago, III june, 15-18, 1987. Reston (Va), 1987, pp. 73-76.

297. Senko M.E. Information systems, record, relations, set, entities, and things. Inf. Sys., 1975,1, p. 3-13.

298. Senko M.E. DIAM as a detailed example of the ANSI SPARK, architecture.- In: Modelling in Data Base Management Systems ( Nijssen G.M.,ed ), North-Holland, Amsterdam, 1976, p. 73-94.

299. Senko M.E. Data structures and data accessing In database system past present and future JBM Syst.,J., 1977,16,p.206-257.

300. Siekman Jorg H. Kunstliche intelligenz: Von den Anfangen in die Zukunft // Handb. mod. Datenverarb. 1989. - 26, N 150, s. 110-135.

301. Smith J.M., Smith D.C.P. Principles of database conceptual design. Proc.NYU Symp. on Database Design, 1978, p. 35-49.

302. Stamberer A. Dynamische simulations-verfahren- anwendungsgebiete und trends "Elektroniker" (Schweiz), 1984, 23,N 14, p. 85-87.

303. Stewart Tom. Current developments in IT ergonomics Stewart Tom // Inf. Manag. Yearbook, London, 1989, pp.68-73.

304. Stonebraker M.R., Wong E., Kreps P. The design and implementation of INGRES . ACM Trans. Database Syst., 1975,1, p. 189-222.

305. Suh Sunduck, Kiln Moonja Park, Kiln Jshangho John ESMAN: an expert system for manafacturing site selection. // Comput., environ and Urban Syst.-. 1988.-12,N4,-p.p. 239.252.

306. Taylor R.W., Frank R.L. CODASYL data-base management systems. ACM Comput. Surv., 1976, 8, p. 67-103.

307. Telchroew D., Hershey E.A., 3. PSL/PSA: A computer- aided technique for structured documentation and analysis of Information processing systems. IEEE Trans. Software eng,, 1973,3, p. 41-48.

308. Tsichritam D.C., Wladiwsky I. Staging large data bases in memoryhierarchies.- In: A panache of DBMS Ideas 2 (Lochovsky F.H.ed. ) ,tech. rep. CSRG-IOI, Comput. Syst. Res. Group, Univ of Toronto, Toronto, I 979, pp. 180-197.

309. Tsichritzis D. C., Lochovsky F.N. Designmg the database. Datamation, 24(8), 1978, p. 147-151.

310. Tsichritzis D.C.Lochovsky F.N. Hierarchical data-base management: A survey. ACM Comput. Surv., 1976,8 , pp. 67-103.

311. Tsichritzis D.S., Klug A.(eds) The ANSI/X3/SPARC DBMS framework report of the study group on database management systems. InfSyst., 1978.3.p. 173191.

312. Yander Vaart H.R. Some examples of mathematical models for the dynamics of several-species ecosystems "Life Sei. Models" New York, a., 1976, p. 78-160.-249358. Vinograd T. Language as a Congitive Process, vl : Syntax, Addison-Wesley

313. Publishing Company. 1983, p. 357-401.

314. Yinze Ajay S., Vogel Donglas R., Nunamaker Jay F. Performance evaluation of a knowledgebased system: A alidation study a Alf and Manag., 1991 . -21 ., N 4. - pp. 225-235.

315. Vollmer Raimund Das Ende der Computer Industrie a Onlme (BRD) -1991, -№I, -ss. 33-37.

316. Watson Hugh J., Lipp Astrid, Zackson Pamela Z., Dahmani Abdelhafid, Fredenberger William B. Organizational support for decision support systems // J. Manag.lnf Syst.-1989.-5-N4.-pp.87- 109.

317. Winter M. Das Verhahaltals von kunstlicher und naturlicher Intelligenz als erkenntnistheoretisches Problem // 34 tat Wiss. Kollog. Illnenan, 23-27 Oct., 1989. Heft 5. Vottragsr. cl, c2, c3, c4. llmenanu, 1989. - s.139- 140.

318. Wognum PP.M., Llppolt B.J. Wat bepaalt het succes van een Rennissysteem? // Informatle 1991 - 33, N 10, - s. 668-674.

319. Yao S.B., Navathe S.B., Weldon J.-L. An Integrated approach to logical database design. Proc. NYU Symp. on Database Design, 1978,p. 1-14.

320. Zaniolo C. Multimodel external schemas for CODASYL data base management systems. In: Data Base Architectur ( Bracchi G.Nijssen G.M., eds.), North-Holland, Amsterdam, 1979, p. 157-176.

321. Zeng X. M., Powers A.R., Luca S. J. A knowledge elicitation method for process control using expert system shells -//Trans Inst. Meas. and Contr. 1993., N 4. -pp. 199-206.

322. Zloof M.M. Query by example. Proc. AFIPS NCC.44.1975, p.431-438.

323. Zolezzi del Rio Beatriz, Calve Pomander Rodolfo. Sistemas expertos conceptos generales YSU aplication comerclal. // Technol. marcha. 1989. - 9, N 9. - s. 16- 24.