Вычислительные и эволюционные методы в стохастических системах с обнаружением и адаптацией тема диссертации и автореферата по ВАК РФ 01.01.09, кандидат физико-математических наук Федорова, Мария Анатольевна

• Федорова, Мария Анатольевна
• кандидат физико-математических наук
• 2007

Оглавление диссертации кандидат физико-математических наук Федорова, Мария Анатольевна

Введение

Глава 1 Постановка задачи

1.1 Линейная дискретная стохастическая система

1.2 Стохастическая следящая система.

1.3 Фильтр Калмана.

1.4 Уровни неопределенности.

1.5 Обнаружение и необходимость адаптации.

Глава 2 Обнаружение нарушений

2.1 Обнаружение как переключение систем.

2.2 Принцип статистической ортогональности.

2.3 Метод взвешенных квадратов невязок.

2.4 Методы формирования выборки.

2.5 Выводы.

Глава 3 Адаптивная модель и построение вспомогательного функционала качества

3.1 Адаптивная модель.

3.2 Вспомогательный функционал качества.

3.3 Построение ВФК для стохастических следящих систем.

3.4 Выводы.

Глава 4 Численные алгоритмы идентификации

4.1 Модель чувствительности.

4.2 Условия и скорость сходимости вероятностных беспоисковых итеративных методов

4.3 Многомерная процедура стохастической аппроксимации Роббинса-Монро

4.4 Метод наименьших квадратов

4.5 Контроль устойчивости.

4.6 Выводы.

Глава 5 Эволюционные методы

5.1 Краткий обзор.

5.2 Структура генетического алгоритма.

5.3 Разновидности генетических операторов.

5.4 Вычислительная эффективность.

5.5 Выводы.

Глава 6 Математическое моделирование и вычислительные эксперименты

6.1 Создание программного продукта.

6.2 Описание моделируемой системы.

6.3 Реализация генетического алгоритма.

6.4 Вычислительные эксперименты.

6.5 Выводы.

Введение диссертации (часть автореферата) на тему «Вычислительные и эволюционные методы в стохастических системах с обнаружением и адаптацией»

Решение многих практических задач в ряде технических областей - навигации и радиолокации [8, 94, 105], связи и телекоммуникациях [92, 74], а также в экономике [98] и промышленности [97, 104, 101], в биологии, медицине [1, 64, 29] и сейсмологии [57], приводит к применению систем фильтрации и управления с линейными стохастическими моделями. Теория таких систем хорошо разработана для условий, когда все свойства моделей полностью известны. Если же эти свойства не известны или подвержены резким, непредвиденным изменениям, приемлемое решение могут дать адаптивные системы [52, 54, 32], при этом адаптация включает как обнаружение [90, 67, 21, 110, 57, 82], так и идентификацию [6, 11, 53] изменений в моделях с целью ре-оптимизации системы.

Такое усложнение системы влечет необходимость обоснованного ответа, на вопрос: Каким образом гарантировать хорошие результаты - надежное обнаружение изменений и быстродействующую адаптацию к новым условиям при низкой вычислительной стоимости? Теоретически, для полноценного ответа должен быть исследован весь спектр возможных методов - от традиционных до альтернативных, возможно, пришедших из других областей знания. В задачах параметрической оптимизации к числу альтернативных можно отнести методы, берущие свое начало из науки об эволюционном отборе и развитии организмов в биологии, - так называемые эволюционные методы [7,12, 62]. Эти исследования тесно связаны с другими «неклассическими» направлениями - теорией нейронных сетей, теорией нечетких множеств, теорией «возможностей» и др., которые вместе с методами эволюционного моделирования составляют основу так называемых «мягких вычислений» (soft computing) [113]. Начиная с 70-х годов прошлого века, эти методы в различных формах применялись ко многим научным и техническим проблемам [84, 95, 79]. Однако возможности указанных нетрадиционных подходов применительно к построению самоорганизующихся (адаптивных) систем изучены пока не в полной мере.

Общее требование, обычно предъявляемое к любой системе, состоит в достоверном и своевременном получении исходной информации. Однако этому препятствуют случайные искажения полезного сигнала, неизбежное наличие разнообразных (внешних и внутренних) помех и техническое несовершенство устройств. Поэтому в литературе но современным системам управления большое внимание уделяется обнаружению и идентификации нарушений в многорежимных системах [39].

Особую роль в системах такого рода играет оценивание вектора состояния по неполным измерениям. Классический подход к проблеме заключается в использовании калмановской фильтрации, однако сфера ее применения ограничена вследствие того, что этот алгоритм предполагает точное знание параметров системы. Кроме того, что это предположение не выполняется, параметры системы могут изменяться в моменты времени, неизвестные априори. При включении в такую систему алгоритмов обнаружения и идентификации система становится адаптивной. Если критерий качества системы доступен для целей идентификации, обычным подходом является использование численных методов оптимизации. Если критерий качества системы недоступен, что типично для стохастических задач, возникает дополнительная проблема формирования некоторого эквивалентного, но доступного критерия. Для последнего случая разработана, теория вспомогательного функционала качества [32]. Кроме указанного адаптивного подхода, применяются робаст-ные алгоритмы [96], приводящие к управлению, некритичному к нарушениям (FTC - Fault Tolerant Control) [78].

Создание систем, априорно ориентируемых для работы в условиях неполноты или нечеткости исходной информации, неопределенности внешних возмущений и среды функционирования, мотивирует привлечение, наряду с классическими методами, также и нетрадиционных подходов к управлению с использованием методов и технологий искусственного интеллекта. В таких случаях высокий уровень автономности, адаптивности и надежности систем управления должен обеспечиваться за счет повышения их интеллектуальных возможностей, основанных на обработке специальных знаний [13].

Целью диссертационной работы является сравнительное исследование применения эволюционных и численных методов для оптимизации сложных взаимосвязанных систем фильтрации и управления в условиях априорной неопределенности. Используемые принципы вспомогательного функционала, статистической ортогональности, метода взвешенных квадратов невязок, а также привлечение нетрадиционных подходов и методов искусственного ителлекта являются фундаментом для построения численных методов и исследования практических задач адаптации и обнаружения в классе стохастических систем управления и оценивания. Благодаря сравнительному методу исследования, эта работа делает очередной шаг к уменьшению разрыва, существующего между стандартными численными методами решения экстремальных задач и более гибкими и простыми в реализации генетическими подходами.

Диссертация объемом 136 страниц состоит из введения, 6 глав, заключения, списка литературы из ИЗ наименований и одного приложения. Работа включает 2 таблицы и 55 иллюстраций.

Заключение диссертации по теме «Дискретная математика и математическая кибернетика», Федорова, Мария Анатольевна

5.5 Выводы

В этой главе, в основном, изложены сложившиеся к настоящему времени общие подходы к созданию генетических алгоритмов. Это сделано для того, чтобы в дальнейшем найти приемлемые способы конкретной реализации этих общих идей в конкретной области, в данном случае — в параметрической оптимизации стохастических систем фильтрации и управления. Следующая Глава б решает эту практическую проблему.

Глава 6 Математическое моделирование и вычислительные эксперименты

В этой главе представлены результаты математического моделирования, в которых исследуются практические особенности предложенных методов. Для этого создан программный продукт, который позволяет определить поведение алгоритмов при различных условиях вычислительного эксперимента. Исследуется влияние ряда факторов (отношение сигнал-шум, количество итераций, интегральная относительная ошибка, оценка параметра и др.). Экспериментально устанавливается практическая значимость и применимость предложенных в работе подходов к задаче обнаружения изменений в системе и адаптации модели к новым условиям ее функционирования. Проводится сравнение между стандартными численными методами оптимизации, описанными в Главе 4, и генетическим алгоритмом, приведенным в Главе 5. Раздел 6.1 посвящен вопросам построения программного продукта для проведения серий вычислительных экспериментов. В Разделе 6.2 дано описание моделируемой системы. Раздел 6.3 содержит реализацию генетического алгоритма для моделируемого трекера. Результаты численных экспериментов для поставленной в этой главе задачи моделирования и определение степени влияния каждого из факторов на качество получаемых оценок, на применимость предложенных в работе методов и алгоритмов представлены в Разделе 6.4.

6.1 Создание программного продукта

В настоящее время существует множество программных средств, позволяющих выполнять инженерные и научные расчеты, например, Matlab,

Maple, Mathcad и др., как правило, в них реализованы разнообразные инструменты для работы с формулами, числами, графиками. Однако для исследований алгоритмов обнаружения нарушений и адаптации в стохастических системах, в том числе и с использованием эволюционных методов, требуется разработка специализированного программного обеспечения.

Отметим, что наиболее известной средой моделирования для систем, рассматриваемых в рамках данного исследования, является Matlab. Но указанный продукт не может быть полностью использован для реализации алгоритмов исследователтской работы, поскольку использует универсальные подходы, без учёта особенностей конкретной задачи. Между тем, оптимизация необходима для вычислительных экспериментов, проводимых в рамках данного (и подобных данному) исследования. Отсутствие учёта особенностей задачи может приводить к неприемлемо большим затратам машинного времени и памяти. В связи с этим необходимо создание программного комплекса с использованием языка программирования высокого уровня. В этом случае можно использовать некоторые преимущества, такие как: достаточно высокая скорость работы, возможность учёта всех особенностей исследуемой задачи и, соответственно, возможность оптимизации вычислений, организации экономного хранения данных и эффективных способов их обработки. Возможности внутреннего языка в средах, подобных Matlab, хоть и велики, но всё же ограничены, в то время как языки высокого уровня такого недостатка лишены и рассчитаны на реализацию алгоритмов любой сложности. Это особенно важно при проверке на практике новых теоретических результатов, реализовать которые стандартными средствами весьма сложно или в принципе невозможно. Однако при программировании на языке высокого уровня у разработчика возникает необходимость создания собственных программных модулей для визуализация данных и последующего экспорта в другие программные продукты, поскольку готовые модули и визуальные компоненты для выполнения этих операций, как правило, существенно уступают разработанным в Matlab с точки зрения функциональности и необходимость реализации всех математических операций, включая операции матриц и алгоритма генерации белого шума. В этом случае естественным решением представляется комбинированный подход, который сочетает в себе преимущества программного средства, нанисанного на языке высокого уровня, среды Matlab и стандартных средств управления базами данных для хранения результатов экспериментов.

В рамках данного исследования создана программная разработка MASSS (Modeling of Adaptive Stochastic Servo System) [44], предназначенная для моделирования процессов адаптивной стохастической следящей системы. Программа состоит из нескольких модулей, которые обеспечивают ввод начальных условий, определение режима работы, проведение серий экспериментов, реализацию алгоритмов обнаружения и адаптации, сохранение результатов экспериментов и визуализацию данных. Алгоритмы, предложенные в предыдущих главах полностью реализованы в программе MASSS. В указанном приложении доступны следующие функции:

• выбор моделируемых систем (управляемый объект, опорная модель, управляемый объект и опорная модель)

• выбор алгоритмов идентификации (простая стохастическая аппроксимация, метод наименьших квадратов, генетический алгоритм)

• изменение параметров модели

• изменение параметров алгоритмов

• построение графиков

• ручное масштабирование

• дружественная рабочая область с возможностью сохранения графиков в bmp-файл

• просмотр данных в табличном виде

• сохранение полной истории экспериментов

6.2 Описание моделируемой системы

Для моделирования процессов обнаружения и адаптации, а также для проведения вычислительных экспериментов взят пример из области навигационных комплексов в авиации [88].

Рассмотрим систему, изображенную на Рис. 6.1 — угловую следящую систему для гиростабилизированной платформы в карданном подвесе.

Динамика угла кардана n(t) описывается уравнениями: k{t) = ~n{t) + jrKam{t) + wc(t) (6.1)

Lp где заданный угол KCom{t) генерируется некоторым регулятором:

Kcom{t) - Ксom(ti) W е [ti,ti+1] (6.2)

Передаточная функция между заданным командным углом Kcom(t) и достигнутым углом /ф) выражается как ф) 1 1 /Тр w(s) TPS + 1 s + 1 /Tv

Переобозначим xp(t) =f n(t)

U{t) = Kcom(t)

6.3)

6.4)

Тогда имеем инвариантную во времени линейную модель

Xp{t) = FpXp(t) + ypcu{t) + wpc{t), (6.5) где Fp = —jr, Фрс = у, Wpc — гауссов белый шум с нулевым средним и дисперсией Qpc.

Дискретная модель описывыается соедующим образом: xp(U+i) = ФрХр{и) + VPu(ti) + wp(ti), (6.6) At М где Фр = е тр , Фр ~ I ~ е тр , wp — дискретный гауссов белый шум с

1 — 2— нулевым средним и дисперсией Qp = \QvcTp{l — е тр) , At — U+i — U. В этом примере предполагается, что

Тр = 0.5 сек. At = 0.\ сек. Фр = 0.82 Фр = 0.18 Qp = 0.084Qpc

Опорная модель описывается следующим процессом 1 r(t) = -^xr(t) +wrc(t), ir

6.7) где wrc — гауссов белый шум с нулевым средним и Qrc = ^ , хг ~ Л/"(0, aj). Г

Соответствующая дискретная модель для данного объекта выглядит следующим образом: ®rXr{ti) + wr{U), (6.8)

At где Фг = е , wr — дискретный гауссов белый шум с нулевым средним и

Qr = <7г2[1 - е Здесь

-2%

6.9)

Тт = 0.2 сек. Фг = 0.61 Qr = О.бЗа^

Таким образом имеем следующую следящую систему: Управляемый объект xp{tM) = 0.82 xp(U) + 0.18u(tj) + wp(tj); yP{ti) = хр{и) + vv(U);

Опорная модель xr{ti+i) = 0mxr(ti) + wr(U); yr(U) = ®r(ti) + vr(ti); Здесь v и vr — дискретные белые гауссовы шумы с нулевым средним и дисперсиями Rp = 1 и = 1 соответственно.

Тогда общая модель моделируемой системы записывается как

6.10)

Xp(ti+1) 0.82 0 Xp(ti) 0.18 u{U) + Wp(ti)

0 0.61 Xr(ti) 0 Wr(ti)

1 0 Xp(ti) + Vp(fi) l/r(<i) 0 1 (i j)

Управление описывается следующим законом u(ti) = -0.36xp(ti) + 0.19xr(ti). (6.11) где вместо хр'и хг, поскольку эти величины недоступны, используются их оценки, полученные соответствующим фильтром, либо фильтром Калмана, либо адаптивным.

6.3 Реализация генетического алгоритма

Учитывая особенности моделируемой системы, описанной в Разделе 6.2, конкретизируем генетический алгоритм.

Кодирование. В данной задаче заранее известно, что идентифицируемый параметр адаптивного фильтра D(p r) находится в интервале (0; 1). Для проведения экспериментов воспользуемся следующими тремя способами кодирования на основе двоичного алфавита, каждый из которых реализован в программном продукте MASSS:

1. Двоичное кодирование дробной части. В этом случае особи с хромосомой ф = (</?i (р2 . . . (рь) соответствует число, которое находится но l формуле J2 Vi^'1 • Например, хромосома ф = (1011) представляет чис-i=i ло 1 ■ 2"1 + 0 • 2~2 +1 • 2~3 + 1 • 2~4 = 0.6875

2. Интервальное кодирование согласно схеме, описанной в Разделе 5.3, с интервалом (0; 1)

3. Интервальное кодирование с кодом Грея согласно схеме, описанной в разделе 5.3, с интервалом (0; 1)

Фитнес-функция. Разработка фитнес-функции представляет наибольшую трудность для исследователя при решении задач подобного типа. Сложно дать рекомендации по построению целевой функции в общем случае, так как вид ее зависит от конкретной решаемой проблемы. В данном случае фитнес-функция основана на принципе статистической ортогональности, описанного в Разделе 2.2.

Построим фитнес-функцию fh — 1{Фп), h = I, - • • ,Р следующим образом:

1. Для каждой особи ф^, h = 1, • • • , Р вычислим 6h = 10.5 — \, где щ — количество отрицательных выбросов процесса Q(U) (4.5) в адаптивном фильтре с параметром, который представляет хромосома фн, М — размер выборки.

2. А = max дь h

3. fh = Hh + А + 0.1] х 10

Другие генетические операторы, которые необходимы для работы алгоритма, такие как Селекция, Скрещивание, Мутация, Элитизм, будем использовать в том виде, как они описаны в Главе 5.

6.4 Вычислительные эксперименты

Важной особенностью программной разработки (не только используемой в данной работе, но и, по-видимому, всех подобных разработок) для проведения вычислительных экспериментов является тот факт, что моделируется не только адаптивная модель, но также исходная система и исходный фильтр (так называемый «подыгрыш»). Эта особенность позволяет исследователю проанализировать качество получаемых оценок путем их прямого сопоставления с оптимальным (истинным) значением параметра (задача с известным решением). Моделирование в таких идеальных условиях является обязательным подготовительным этапом к применению теоретических результатов, полученных в данной работе, в реальной прикладной задаче.

При проведении вычислительных экспериментов будем использовать следующие основные параметры моделирования и их возможные варианты:

Количество итераций для накопления сглаженных оценок 150

Блок обнаружения: метод взвешенных квадратов невязок Блок адаптации: простая стохастическая аппроксимация, метод наименьших квадратов, генетический алгоритм

Параметры генетического алгоритма:

Длина хромосомы 7

Размер популяции 50

Оператор кодирования: двоичный, интервальный, интервальный с кодом Грея Оператор селекции: «колесо рулетки», остаточный отбор, турнирный отбор Вероятность скрещивания 0.8

Оператор скрещивания: одноточечный, двуточечный, маскированный Вероятность мутации 0.1 Коэффициент элитизма 1

Процедура адаптации. Цель численного моделирования не только исследование влияния условий задач на качество получаемых оценок, но и испытание различных модификаций алгоритмов адаптации. Проводилось сравнение между тремя алгоритмами: SSA - простая стохастическая аппроксимация, LS - метод наименьших квадратов, GA - генетический алгоритм. Результаты экспериментов приведены на графиках Рис. А.1 - Рис. А.32 в Приложении А.

Для исследования методов необходимо знать, к чему должен сходиться коэффициент D(ptr), для этого достаточно рассчитать новое оптимальное

Количество экспериментов в серии

Максимальное количество итераций (модельное время)

Итерация изменения параметров

1,10, 100, 1000

5000

300 значение K^pr). При этом должно быть К(р,г) ■ \/(1 ~ ф(р,г) + rsnr)2 + *ЪпгФ 1Т) - (1 - Ф2М + Rsnr)

Щр,г) Щ~ ,

Р,Г) где Rsnr = Cjrhrl — отношение сигнал-шум.

Л(р.г)

Важным моментом является исследование поведения генетического алгоритма для данной задачи и его сравнение с методами простой стохастической аппроксимации и наименьших квадратов, поскольку исследование поведения стандартных численных методов при различных условиях вычислительных экспериментов проводилось во многих работах, например в [9, 41].

Некоторые усредненные результаты настройки параметров управляемого объекта и опорной модели исследуемыми алгоритмами приведены ниже. Назовем фазу эксперимента до нарушения на 300 итерации «до», а после 300 итерации «после».

Управляемый объект Опорная модель до» «после» SSA LS GA «до» «после» SSA LS GA

0.161 0.9 0.847 0.936 0.857 0.258 0.962 0.981 0.937 0.845

0.023 0.547 0.513 0.531 0.529 0.087 0.868 0.965 0.938 0.806

0.9 0.161 0.085 0.087 0.111 0.962 0.258 0.127 0.193 0.211

0.547 0.023 0.096 0.073 0.114 0.868 0.087 0.3 0.019 0.137

0.547 0.9 0.887 0.912 0.874 0.736 0.258 0.131 0.156 0.192

0.9 0.547 0.52 0.529 0.537 0.442 0.868 0.936 0.912 0.821

Согласно результатам экспериментов, перенастройка параметров при помощи ГА происходит лучше для замкнутой, чем для разомкнутой системы. Вероятно, это обусловлено тем, что общее примущество систем с обратой связью - уменьшение чувствительности системы к возмущениям параметра в системе. Также стоит отметить, что индивидуальное поведение генетического алгоритма более непостоянно, чем индивидуальное поведение стандартных численных методов. Проведенные серии экспериментов позволяют сделать вывод о применимости генетического алгоритма к решению задачи идени-тификации адаптивного фильтра в условия априорной неопределенности. Однако стоит отметить, что указанный алгоритм не всегда сходится, но при этом может отыскать достаточно хорошее решение достаточно быстро. Этот факт может быть использован при дальнейших исследованиях, например, при проведении моделирования с комбинацией численных и эволюционных методов, где на первых стадиях используется генетический алгоритм, а затем для продолжения идентификации применить стандартные методы.

Отношение «сигнал/шум». Отношение «сигнал/шум» Rsnr является одной из главных характеристик постановки задачи, от которой во многом зависит качество получаемых оценок. Исследование влияния степени присутствия сигнала на фоне помех, которое определяет количественно отношение «сигнал/шум», не может быть проведено изолировано - без принятия в расчет ряда остальных факторов, играющих столь же значительную роль как в поведении оценок, так и в определении места итерационного алгоритма в иерархии существующих практических подходов и методов. Результаты экспериментов для различных уровней сигнал-шум приведены на графиках в Приложении А. Рассматриваемые значения «сигнал-шум» Rsnr выбраны равными 0.01,0.1,10,100. Наиболее сложными для идентификации оказались случаи, когда при нарушении происходит резкое уменьшение Rsnr.

Интегральная относительная ошибка. Для проведения сравнительного анализа различных алгоритмов идентификации использована интегральная относительная ошибка (IPE), pipe, где Ргре(Ц) == 100%, усредненная по результатам серии экспериментов. Графики изменения интегральной относительной ошибки простой стохастической аппроксимации, метода наименьших квадратов и генетического алгоритма в зависимости от номера итерации представлены на Рис. А.33 - Рис. А.41 в Приложении А, а некоторые усредненные результаты интегральной относительной ошибки представлены ниже. Здесь происходит резкое изменение отношения «сигнал/шум» на 300 итерации.

Управляемый объект Опорная модель сигнал/шум» SSA LS GA «сигнал/шум» SSA LS GA увеличивается в 100 раз 6.04 3.5 3.95 увеличивается в 100 раз 7.8 5.7 9.5 увеличивается в 10 раз 1.44 1.33 2.8 увеличивается в 10 раз 6.4 5.1 5.4 уменьшается в 100 раз 47 45 31 уменьшается в 100 раз 73 51.5 37.5 уменьшается в 10 раз 4.9 3.2 1.8 уменьшается в 10 раз 49 39 25

Как показывают результаты экспериментов, при внезапном уменьшении отношения «сигнал/шум», когда условия функционирования системы ухудшаются, в большинстве случаев усредненное поведение генетического алгоритма дает меньший уровень интегральной относительной ошибки, чем процедура простой стохастической аппроксимации или метод наименьших квадратов. Однако при внезапном увеличении отношения «сигнал/шум» стандартные численные методы дают меньший уровень интегральной относительной ошибки, чем генетический алгоритм. Это подтверждает тот факт, что эволюционные методы выгоднее использовать для решения задач, которые затруднительно решить стандартными методами. В целом, анализируя усредненные данные интегральной относительной ошибки для всех проведенных серий экспериментов как для опорной модели так и для управляемого объекта, можно сделать вывод о том, что интегральная относительная ошибка при идентификации генетическим алгоритмом отли-чатеся от интегральной относительной ошибки при идентификации методом наименьших квадратов не более чем на 5 %.

Количество итераций. Важным параметром работы итерационных алгоритмов является количество итераций, требуемых для достижения заданного уровня качества оценок. Были получены экспериментальные зависимости, усредненные по количеству реализаций, приведенные на Рис. А.42 - Рис. А.44 в Приложении A. Ha. основе представленных графиков, очевидно, что количество итераций необходимое для достижения требуемого уровня оценок, зависит от уровня «сигнал-шум» Rsnr, как было замечено выше. В среднем, интегральная относительная ошибка входит в 10 % коридор при идентификации методом простой стохастической аппроксимации за 2000 итераций, при идентификации методом наименьших квадратов за 1000 итераций, а при идентификации генетическим алгоритмом за 750 итераций. Однако стоит сказать, что при резком ухудшении условий функционирования этот уровень не всегда достигается.

Обнаружение нарушений и адаптация. Некоторые результаты совместного моделирование процессов обнаружения и адаптации представлены в Приложении А на Рис. А.45 - Рис. А.50. Как показывают проведенные серии экспериментов в среднем задержка обнаружения составляет 135-140 итераций, а срабатывание решающего правила позже 3000 итерации составляет не более 0.5 % случаев. Также можно сделать вывод, что при включении в систему блока обнаружения наружений адаптация при помощи генетического алгоритма дает лучший результат, чем адаптация с использованием стандартных численных методов. Возможно это связано с тем, что использование метода взвешенных квадратов невязок в качестве правила «останова» алгоритмов идентификации требует более гибкой настройки порога для каждого метода адаптации в отдельности. Значение порога для каждого метода можно определить экспериментально, в том числе с привлечением методов искусственного интеллекта. 6.5 Выводы

В данной главе представлены результаты математического моделирования. Описаны особенности создания программного продукта, приведена моделируемая система и реализация нетрадиционного подхода - генетического алгоритма. Проведены серии вычислительных экспериментов и сравнение между стандартными численными методами оптимизации, описанными в Главе 4, и генетическим алгоритмом, приведенным в Главе 5. Существенное отличие между этими двумя типами методов заключается, как и ожидалось, в самом механизме их работы. Численные методы последовательны в своих операциях, в то время как генетический алгоритм - параллелен. Последний алгоритм требует наличия множества индивидов, формирующих текущую популяцию адаптивных фильтров. Результаты экспериментов показали, что не всегда генетический алгоритм работает так эффективно, как ожидалось, но в целом можно дать положительной заключение о применимости данного метода к указанной проблеме. Несмотря на все сложности, генетические алгоритмы представляют собой красивый и мощный аппарат оптимизации, особенно для задач, которые не могут быть решены стандартными методами. Нетрадиционные подходы к управлению с использованием методов и технологий искусственного интеллекта открывают новые возможности и позволяют использовать творческий подход к решению задач.

Заключение

В диссертационной работе получены следующие результаты:

1. Построен вспомогательный функционал качества для стохастической следящей системы.

2. Доказана теорема, позволяющая проводить раздельную настройку в контуре управляемого объекта и в схеме онорной модели трекера по методу вспомогательного функционала качества независимо друг от друга.

3. Разработан и испытан генетический алгоритм для решения задачи идентификации адаптивных фильтров с использованием метода вспомогательного функционала качества и принципа статистической ортогональности.

4. Создан программный продукт для моделирования исследуемых процессов и изучения поведения различных алгоритмов обнаружения и адаптации, включая численные и генетические алгоритмы.

5. Детально проанализированы и обобщены многочисленные реализации методов обнаружения и адаптации в классе линейных стохастических систем при различных условиях проведения экспериментов.

6. На основе экспериментальных данных проведено сравнение стандартных численных (простая стохастическая аппроксимация, метод наименьших квадратов) и эволюционных (генетический алгоритм) методов идентификации.

В целом, в работе исследованы методы обнаружения нарушений, идентификации и адаптации моделей дискретных линейных стохастических систем для различных уровней априорной неопределенности, использующие идею вспомогательного функциоанала качества, метод взвешенных квадратов невязок и принцип статистической ортогональности.

Проделанная работа и полученные результаты позволяют сформулировать следующие основные выводы:

1. Создание систем адаптивного управления в условиях априорной неопределенности основано на совместных операциях обнаружения нарушений и адаптацию системы к вновь возникшему режиму работы, осуществляемых в соответствии с принципом активной адаптации.

2. Возможность применения метода вспомогательного функционала для стохастической следящей систмы теоретически доказана, что позволяет проводить настройку в контуре управляемого объекта и в схеме опорной модели стохастического трекера независимо друг от друга. Этот факт, в свою очередь, позволяет сократить размерность задачи и одновременно проследить процессы, происходящие как в системах замкнутого типа, так и разомкнутого.

3. Предложенный и испытанный генетический алгоритм представляет собой простое (в вычислительном отношении) средство, способное на практике решать задачу идентификации адаптивного фильтра. Несмотря на эвристический - в определенной степени - характер примененных генетических алгоритмов, можно считать, что общий вывод о пригодности этих эволюционных методов к решению указанной проблемы оптимизации проведенными здесь экспериментами обоснован.

4. Исследование особенностей предложенных численных алгоритмов методами математического моделирования позволяет выделить группу факторов и исследовать их совместное влияние на качество получаемых оценок и на функционирование системы в целом, что в свою очередь, позволяет определить условия применимости предлагаемых подходов.

5. Сравнительный анализ эволюционных и численных методов показывает, что при резком ухудшении условия функционирования системы выгоднее использовать генетические алгоритмы в качестве метода идентификации, тогда как при улучшении условий функционирования стандартные методы дают лучший результат.

6. Предлагаемые в работе подходы и методы решения теоретически обоснованы и являются практически значимыми для широкого спектра задач в классе линейных дискретных стохастических систем с обнаружением и адаптацией.

Основной целью разработанных методов и алгоритмов для линейных дискретных стохастических систем является доказательство возможности решения задач адаптации при помощи идеи вспомогательного функционала качества с использованием вычислительных и эволюционных методов и обнаружения при помощи метода взвешенных квадратов невязок, что позволяет системе достигнуть, в соответствии с ее функционалом, области наилучшего качества функционирования с учетом возможных нарушений. Научная значимость и практическая ценность работы состоят в решении совокупности вопросов новыми научными подходами в классе линейных стохастических систем. Принципы вспомогательного функционала качества, статистической ортогональности и метода взвешенных квадратов невязок, ранее использовавшиеся лишь для построения численных методов адаптации и обнаружения в этом классе систем, теперь могут быть применены также и для построения генетических алгоритмов и привлечения других нетрадиционных подходов из широкой области, обозначаемой термином «искусственный (или вычислительный) интеллект». Благодаря сравнительному методу исследования, эта работа делает очередной шаг к уменьшению разрыва, существующего между стандартными численными методами решения экстремальных задач и более гибкими и простыми в реализации генетическими подходами. Практическая ценность работы заключается в том, что специалисты-практики получают обоснованные рекомендации о тех условиях, при которых им следует отдавать предпочтение либо стандартным численным методам, либо нетрадиционным генетическим алгоритмам при создании систем обработки информации и управления с адаптацией. Эта ценность подкреплена наличием зарегистрированного программного продукта, который как отлаженный инструментарий исследователя или студента полезен для изучения указанных систем по технологии численного моделирования и вычислительного эксперимента.

Вместе с тем настоящая работа не претендует на исчерпывающий охват всех аспектов поставленных проблем. В ходе теоретических и практических исследований в работе сформулированы вопросы, требующие, на взгляд автора, дальнейшего анализа, в том числе:

1. Разработка альтернативной фитнес-функции генетического алгоритма для идентификации адаптивного фильтра.

2. Построение комбинированного алгоритма с использованием стандартных численных методов и эволюционного подхода с целью повышения эффективности работы алгоритмов идентификации.

3. Привлечение методов и технологий искусственного интеллекта для решения задачи обнаружения нарушений.

Список литературы диссертационного исследования кандидат физико-математических наук Федорова, Мария Анатольевна, 2007 год

1. Александров А.Г. Оптимальные и адаптивные системы. — М.: Высш. шк., 1989. 263 с.

2. Антонью А. Цифровые фильтры: анализ и проектирование. — М.: Радио и связь, 1983. — 320 с.

3. Бородкин Л.И., Моттль В.В. Алгоритмы обнаружения моментов изменения параметров уравнения случайного процесса. // Автоматика и телемеханика, 1976, № 6, с. 23-31.

4. Будущее искусственного интеллекта /Под ред. К.Е. Левитина и Д.А. Поспелова. — М.: Наука, 1991. — 302 с.

5. Вазан М. Стохастическая аппроксимация. — М.: Мир, 1972. — 295 с.

6. Вороновский Г.К., Махотило К.В., Петрашев С.Н., Сергеев С.А. Генетические алгоритмы, искусственные нейронные сети и проблемы виртуальной реальности. — Харьков: ОСНОВА, 1997. — 112 с.

7. Глован А.А. Алгоритмический контроль фильтра Калмана. // Автоматика и телемеханика, 1993, № 7. — с. 173-185

8. Горохов О.Ю. Исследование совместно выполняемых операций обнаружения, идентификации и адаптации в дискретных стохастическихсистемах.: Дис. канд. ф.-м. наук: 01.01.09 / Ульяновский государственный университет. — Ульяновск, 2002. — 136 с.

9. Граничин О.Н. Введение в методы стохастической оптимизации и оценивания: Учеб. пособие. — СПб.: Издательство С.-Петербургского университета, 2003. — 131 с.

10. Гроп Д. Методы идентификации систем. — М.: Мир, 1979. — 302 с.

11. Емельянов В.В., Курейчик В.В., Курейчик В.М. Теория и практика эволюционного моделирования. — М.: ФИЗМАТЛИТ, 2003. — 432 с.

12. Интеллектуальные системы автоматического управления. / Под ред. И.М. Макарова, В.М. Лохина. М.: ФИЗМАТЛИТ, 2001. - 576 с.

13. Искусственный интеллект. Кн. 2. Модели и методы. /Под ред. Д. А. Поспелова — М.: Радио и связь, 1990. — 304 с.

14. Калиткин Н.Н. Численные методы. — М.: Наука, 1978. — 512 с.

15. Кондратьев А.Е. Методы диагностики нарушений для построения стохастических адаптивных систем.: Дис. канд. ф.-м. наук: 05.13.18 / Ульяновский государственный университет. — Ульяновск, 2006. — 135 с.

16. Курейчик В.В., Куречик В.М. Генетический алгоритм размещения графа. // Известия Академии Наук. Теория и системы управления, 2000. № 5, с. 67-74

17. Курейчик В. М. Генетические алгоритмы. — Таганрог: Изд-во ТРТУ, 1998. 242 с.

18. Ли Р. Оптимальные оценки, определение характеристик и управление. М.: Наука, 1966. - 176 с.

19. Лидбеттер М., Линдгрен Г., Ротсен X. Экстремумы случайных последовательностей и процессов. — М.: Мир, 1989. — 392 с.

20. Никифоров И.В. Последовательное обнаружение изменения свойств временных рядов. — М.: Наука, 1983. — 199 с.

21. Острем К.Ю. Введение в стохастическую теорию управления. — М.: Мир, 1973. 322 с.

22. Понырко С. А., Семушин И. В. Использование активного принципа при построении самонастраивающихся фильтров. // Изв. АН СССР. Техническая кибернетика, 1971, № 1. — с. 223-227

23. Понырко С. А., Семушин И. В. Построение обучающихся винеровских фильтров при ограниченном объеме априорной информации. // Изв. АН СССР. Техническая кибернетика, 1971, № 5. с. 215-220

24. Понырко С.А., Семушин И.В. О выборе алгоритма начала-остановки при минимизации среднеквадратического критерия качества. // Автометрия, 1973, № 2. с. 68-74

25. Растригин Л.А. Адаптация сложных систем. — Рига: Зинатне, 1981. — 375 с.

26. Растригин Л.А. Статистические методы поиска. — М.: Наука, 1968. — 378 с.

27. Рудкевич М.В. Стохастическая имитационная модель одного механизма пульмо-кардиальной системы.: Дис. канд. ф.-м. наук: 05.13.18 / Ульяновский государственный университет. — Ульяновск, 2005. — 103 с.

28. Саридис Дж. Самоорганизующиеся стохастические системы управления. М.: Наука, 1980. - 400 с.

29. Сейдж Э.П., Мелса Д.Л. Идентификация систем управления. — М.: Наука, 1974. 284 с.

30. Семушин И.В. Адаптивные схемы идентификации и контроля при обработке случайных сигналов. — Саратов: Саратовский университет, 1985. 180 с.

31. Семушин И.В. Идентификация линейных стохастических объектов по неполным зашумлённым измерениям вектора состояния. // Автоматика и телемеханика, 1985, JV2 8. — с. 61-71

32. Семушин И.В. Контроль оптимальности адаптивного фильтра Калмана по реализации скалярного процесса // Известия академии наук СССР. Техническая кибернетика, 1979, № 6. с. 195-198.

33. Срагович В.Г. Адаптивное управление. — М.: Наука, 1981. — 384 с.

34. Справочник по теории автоматического управления Под редакцией А. А. Красовского. — М.: Наука, 1987. — 712 с.

35. Терехов В.А., Тюкин И.Ю. Адаптивные системы управления: проблемы и тенденции. // Управление и информационные технологии. СПб.: ЛЭТИ, 2003, т. 1. с. 146-154.

36. Тихонов В.И., Харисов В.Н. Статистический анализ и синтез радиотехнических устройств и систем: Учеб. пособие для вузов. — М.: Радио и связь, 2004. — 608 с.

37. Уидроу Б., Стирнз с. Адаптивная обработка сигналов. — М.: Радио и связь, 1989. 440 с.

38. Фатьянова О.А. Вспомогательные функционалы качества и контроль устойчивости В задачах стохастической идентификации.: Дис. канд. ф.-м. наук: 05.13.18 / Ульяновский государственный университет. — Ульяновск, 2006. — 135 с.

39. Федорова М.А. Моделирование адаптивной стохастической системы MASSS. // Москва: ВНТИЦ. Программное и информационное обеспечение поддержки научно-исследовательских работ, 2007. — ЕСПД .03524577.01880-01

40. Федорова М.А. Моделирование адаптивной стохастической системы MASSS. // Инновации в науке и образовании, издание ФГНУ «Государственный координационный центр информационных технологий», февраль 2007, №2 (25). с. 38.

41. Федорова М.А. Оптимизация стохастической следящей системы с использованием численных и эволюционных методов. // Вестник Самарского государственного аэрокосмического университета имени академика С.П. Королева Самара: СГАУ, 2007. Вып. 1 (12).

42. Фильтрация и стохастическое управление в динамических системах, подред. Леондеса К.Т. М.: Наука, 1980. - 512 с.

43. Фомин С.И., Фрадков А.Л., Якубович В.А. Адаптивное управление динамическими объектами. — М.: Наука, 1981. — 448 с.

44. Фомин В.Н. Рекуррентное оценивание и адаптивная фильтрация. — М.: Наука, 1984. 287 с.

45. Цыпкин Я.З. Адаптация и обучение в автоматических системах. — М.: Наука, 1968. 400 с.

46. Цыпкин Я.З. Оптимальная идентификация динамических объектов. // Измерения, контроль, автоматизация. Научн.-техн. сб. обзоров. М.: ЦНИИТЭИ приборостроения, 1983, вып. 3(47). - с. 47-60

47. Шульце К.П., Реберг К.Ю. Инженерный анализ адаптивных систем. М.: Мир, 1992. - 280 с.

48. Эйкхофф П. Основы идентификации систем управления. — М.: Мир, 1975. 684 с.

49. Ярушкина Н.Г. Основы теории нечетких и гибридных систем: Учеб. пособие. — М.: Финансы и статистика, 2004. — 320 с.

50. Basseville М., Nikiforov I.V. Detection of Abrupt Changes: Theory and Application. Englewood Cliffs, N.J.: PTR Prentice-Hall, 1993. - 469 p.

51. Basseville M., On-board Component Fault Detection and Isolation Using the Statistical Local Approach // Automatica, 1998, 34, No. 11, p. 1391-1415

52. Beasley D., Bull D.R., Martin R.R. An overview of genetic algorithms: Part 1, Fundamentals. // UK, University Computing, 1993, 15(2), p. 58-69

53. Beasley D., Bull D.R., Martin R.R. An overview of genetic algorithms: Part 2, Research topics. // UK, University Computing, 1993, 15(1), p. 170-181

54. Bertsekas D.P., Tsitsiklis J.N. Gradient convergence in gradient methods. // SIAM Journal on Optimization, vol.10, 2000. p. 627-642

55. Blickle T. Theory of evolutionary algorithms and application to system synthesis.: Diss. ETH No. 11894, University of Saarbrucken, Germany, 1996. 272 p.

56. Bohm W., Hackl P. Improved bounds for average run length of control charts based on finite weighted sums. // Ann. Probab., 1990, vol.18. — p. 18951899

57. Butov A.A., Volkov M.A., Anisimov V.N., Sehl M.E., Yashin A.I. A model of accelerating aging induced by 5-bromdexyuridine. // Biogerontology, 2002, vol. 3(3). p. 175-182

58. Cao Y.J., Wu Q.H. Convergence analysis of adaptive genetic algorithms. // Genetic Algorithms in Engineering Systems: Innovations and Applications, 2-4 September 1997, p. 85-89

59. Chaiyaratana N., Zalzala M.S. Recent development in evolutionary and genetic algorithms: theory and applications. // Genetic Akgorithms in Engineering Systems: Innovations and Applications, 2-4 September 1997, p. 270-277

60. Chow E.Y., Willsky A.S. Issues in the development of a general design algorithm for reliable failure detection. // Proc. 19-th IEEE Conf. Decis. and Contr. Albuquerque, 1980. p. 1006-1012

61. Devis L. Handbook of genetic algorithms — Van Nostrand Reinhold, 1991. — 385 p.

62. Goldberg D.E. Genetic Algorithms in search, optimization and machine learning. — Addison-Wesley Publishing Company, Inc., 1989. — 412 p.

63. Goldberg D.E. Genetic Algorithms in search, optimization and machine learning.// Chapters. Computer fmplemenation of a Genetic Algorithm. — Addison Wesley Longman, Inc., 2002. — p. 62-65.

64. Grewal M.S. , Angus P. Andrews. Kalman Filtering: Theory and Practice Using MATLAB, Second Edition — New York, Chichester, Weinheim, Brisbane, Singapore, Toronto: John Wiley & Sons Inc, 2001. — 410 p.

65. Gustafsson F. Adaptive filtering and change detection — John Wiley&Sons, LTD, 2000. 500 p.75. llines W.G.S. A simple monitor of a system with sudden parameter changes. // IEEE Trans., Information Theory, 1976, vol.IT-22, no 2. -p. 210-216

66. Hines W.G.S. Improving a simple monitor of a system with sudden parameter changes. // IEEE Trans., Information Theory, 1976, vol.IT-22, no 4. p. 496-499

67. Holland J. Adaptation in nature and artifical life — Ann Arbor, University of Michigan Press, 1975. 210 p.

68. Izadi-Zamanabadi R., Blanke M. A ship propulsion system as a benchmark for fault-tolerant control. // Proceedings of IFAC Safeproeess'97, Hull, United Kingdom, 1997. p. 1074-1082

69. Jin Y., Branke J. Evolutionary optimization in uncertain environments // IEEE transactions on Evolutionary Computation, 2005, Vol. 9, № 3. — p. 303-317

70. Jones R.H., Crowell D.H., Kapuniai L.E. Change detection model for serially correlated multivariate data. // Biometrics, 1970, 26(2). — p. 269-280.

71. Jury E.I. Theory and Application of the z-Transform Method. — New York: Wiley, 1964. 330 p.

72. Kehagias A., Petridis V. Time Series Segmentation using predictive modular neural networks. // Neural Computation, 1997, vol.9, №8. — p. 1691-1709

73. Kobir A., Tasic J.F. Genetic algorithms and filtering. / / Genetic Algorithms in Engineering Systems: Innovations and Applications, 12-14 September 1995, Conference Publication No. 414, p. 343-348

74. Kristinsson К., Dumont G.A. System identification and contorol using genetic algorithms, j/ IEEE Transactions on System, Man, and Cybernetics, Vol. 22, No. 5, 1992. p. 1033-1046

75. Lai T.L. Control charts based on weighted sums, // Ann. Statist., 1974, vol.2. p. 134-147

76. Lai T.L. Gaussian processes, moving averages and quick detection problems. // Ann. Probab., 1973, vol.1. p. 825-837

77. Ljung L. Convergence analisis of parametric identification methods, j/ IEEE Transactions on Automatic Control, 1978, V. AC-23. p. 770-783

78. Maybeck P., Stochastic Models, Estimation and Control. Vol. 1. — New-York: Academic Press, 1979. 423 p.

79. Maybeck P., Stochastic Models, Estimation and Control. Vol. 3. — New-York: Academic Press, 1982. 291 p.

80. Mehra R.K., Peschon J. An innovations approach to fault detection and diagnosis in dynamic systems, // Automat.ica, 1971, №7. — p. 637-640

81. Mitchell M. An introduction to genetic algorithms. — MIT Press, 1998. — 221 p.

82. Murgu A. Optimization of Telecommunication Networks. — Lecture Notes, University of Jyvaa, 1999.

83. Neubauer A. The circular schema theorem for genetic algorithms and two-point crossover. // Genetic Akgorithms in Engineering Systems: Innovations and Applications, 2-4 September 1997, Conference Publication No. 446, p. 209-214

84. Nikiforov I., Varava V., Kireichikov V. Application of statistical fault detection algorithms for navigation systems monitoring. // Proc. IFAC/IMACS Symp. SAFEPROCESS'91, Baden-Baden, 1991, vol. 2. -p. 351-356

85. Perneel C. et al. Optimization of fuzzy expert systems using genetic algorithms and neural networks // IEEE Transactions on Fuzzy Systems, 1995,- Vol. 3, № 3. p. 332-341

86. Pilishkin V.N. Robust Control Algorithms for Intelligent Systems // "Vestnik"(the news) of BMSTU, No. 1,1998. p. 23-34

87. Pouliezos A.D., Stavrakakis G.S. Real Time Fault Monitoring of Industrial Processes. — Dordrecht: Kluver Academic Publishers, 1994. — 542 p.

88. Rao C.R. Linear Models (Least Squares and Alternatives). — Springer, 1999. 439 p.

89. Reeves C.R., Wright C.C. Genetic algorithms and statistical methods: a comparison. // Genetic Algorithms in Engineering Systems: Innovations and Applications, 12-14 September 1995, Conference Publication No. 414, p. 137-140

90. Roberts S.W. A comparison of some control charts procedures. // Technometrics, 1966, vol.8. p. 411-430

91. Romberg T.M., Black J.L., Ledwidge T.J. Signal Processing for Industrial Diagnostics. — Chichester: John Wiley & Sons, 1996. — 317 p.

92. Sami Fadali M., Zhang Y., Louis S.J. Robust stability analisis od descrete-time systems using genetic algorihms. // IEEE Transactions on System, Man, and Cybernetics, Vol. 29, No. 5, 1999

93. Segen J., Sanderson A.C. Detecting changes in a time series. // IEEE Transactions on Information Theory, 1980, IT-26(2), p. 249-255.

94. Seborg D.E. A perspective on advanced strategies for process control (revisited). // In. Advances in control: highlights of ECC'99. London: Springer-Verlag London Limited, 1999. — p. 103-134

95. Semoushin I.V., Yurjev A., Nikonorov A. Built-in selection of the best adaptation mechanism for INS error model identification. // ECCOMAS 2004, Jyvaskyla, Finland, 2004, part 2. p. 427-427

96. Shuthaharan S., Zhang Z., Sathananthan S. An improved Wiener filter using genetic algorithm. // Genetic Akgorithms in Engineering Systems: Innovations and Applications, 2-4 September 1997, Conference Publication No. 446, p. 75-78

97. Sorsa Т., Koivo H.N. Application of artificial neural network in process fault diagnosis. // Automatica 1993, №29. — p. 815-825

98. VarSek A., UrbanEii Т., Filipii B. Genetic algorithms in controller design and tuning. // IEEE Transactions on System, Man, and Cybernetics, Vol. 23, No. 5, 1993, p. 1330-1339

99. Whintley D. A genetic algorithm tutorial // Statistics and computing, 1994. p. 65-85

100. Zadeh L. Fuzzy logic, neural network and soft computing // Communications of the ACM.- 1994,- v.37, № 3. p. 65-83.