Алгоритмы оценивания моделей нестационарных сигналов при наличии ограничений тема диссертации и автореферата по ВАК РФ 05.13.17, кандидат физико-математических наук Красоткина, Ольга Вячеславовна

• Красоткина, Ольга Вячеславовна
• кандидат физико-математических наук
• 2003

Оглавление диссертации кандидат физико-математических наук Красоткина, Ольга Вячеславовна

Введение.

1 Проблема оценивания нестационарной модели сигнала и основные задачи исследования.

1.1 Задачи оценивания нестационарной модели сигнала с ограничениями на значения параметров.

1.1.1 Задача сглаживания знакопостоянного и монотонного сигнала . I

1.1.2 Задачи авторегрессионного и спектрально-временного анализа .21 ц 1.1.3 Задача оценивания портфеля инвестиционной компании.

1.1.4 Задача оценивания нестационарной регрессии как обобщенная задача оценивания нестационарной модели сигнала.

1.2 Задача оценивания нестационарной регрессии с ограничениями на значения коэффициентов как задача парно-сепарабельного квадратичного программирования.

1.3 Существующие методы оценивания нестационарной регрессии.

1.4 Вычислительная сложность задачи квадратичного программирования.

1.5 Основные задачи исследования.

2 Асимптотически точный итерационный метод наискорейшего спуска для решения задачи парно-сепарабельного квадратичного программирования.

2.1 Двойственная форма задачи парно-сепарабельного квадратичного программирования.

2.2 Градиент двойственной целевой функции по вектору множителей Лагранжа.

2.3 Метод прогонки для вычисления градиента двойственной целевой функции.

2.4 Допустимо^ направление t.i^-ска и выбор тага наискорейшего спу.гка.

2.5 Итерационный алгоритм парно-сепарабельного квадратичного программирования.

3 Безитерационный алгоритм динамического программирования для приближенного решения задачи парно-сепарабельного квадратичного программирования.

3.1 Общая структура процедуры динамического программирования для оптимизации парно-сепарабельной целевой функции.

3.2 Алгоритм динамического программирования «вперед и навстречу».

3.3 Неквадратичность функций Беллмана.

3.4 Квадратичная аппроксимация функций Беллмана.

3.5 Приближенный алгоритм динамического программирования.

4 Алгоритмы оценивания нестационарной регрессии.

4.1 Алгоритм оценивания дисперсии аддитивного шума.

4.2 Выбор скрытой модели динамики последовательности коэффициентов регрессии.

4.3 Сохранение локальных особенностей последовательности коэффициентов регрессии.

5 Экспериментальное исследование алгоритмов парно-сепарабельного -квадратичного программирования.

5.1 Сравнительное исследование точности алгоритмов.

5.2 Сравнение быстродействия алгоритмов.

Введение диссертации (часть автореферата) на тему «Алгоритмы оценивания моделей нестационарных сигналов при наличии ограничений»

Сигналы являются, пожалуй, наиболее распространенными видами информации, ставшими в последние два десятилетия типовыми объектами применения компьютеров для анализа данных. Широко известны системы распознавания речевых команд и даже слитной речи, анализа экономических трендов, а что касается программ автоматического чтения печатного текста, то их использование стало массовым.

Особый интерес к компьютерной обработке именно сигналов в значительной мере определяется тем фактом, что это естественные виды организации потоков информации о внешнем мире, получаемой человеком и другими высшими животными через органы чувств, главным образом, посредством осязания, обоняния, слуха и зрения, и играющей фундаментальную роль в формировании их поведения.

Под сигналом принято понимать любую физическую величину, изменение которой во времени несет информацию о мире, внешнем по отношению к тому объекту, который эту информацию воспринимает. С точки зрения организации компьютерной обработки, когда время вынужденно рассматривается как дискретная переменная, сигнал представляет собой упорядоченную последовательность либо чисел, либо символов, если физическая величина, несущая информацию, сама имеет дискретный характер. Впрочем, роль оси, упорядочивающей отдельные единицы информации в массив данных, не обязательно должно играть время, это может быть и любая другая ось, например, пространственная координата.

Конечной целью анализа сигнала или изображения, как правило, является принятие того или иного решения об их источнике, например, какой слово произнесено, если анализируется сигнал речи, либо какое слово написано, если к анализу предъявлено изображение фрагмента рукописного либо печеного текста. Задачи такого рода относятся к области компетенции теории распознавания образов, в свою очередь, входящей в круг проблем, обычно называемых проблемами моделирования интеллектуального поведения. Эти вопросы привлекали основное внимание теоретиков, и в результате именно теория распознавания достигла в последние десятилетия наибольших успехов.

Теория распознавания образов разрабатывает методы построения формальных правил соотнесения поступающего сигнала или изображения с одним из источников. Для того, чтобы можно было применить данную теорию, необходимо прежде указать, какие свойства сигнала или изображения существенны для принятия решения о его источнике и в каких единицах эти свойства должны измеряться. После того, как такие свойства выбраны, каждый конкретный сигнал характеризуется конкретным набором их значений или, как говорят, оказывается представленным в виде точки в пространстве полезных признаков.

Таким образом, прежде чем обратиться к теории построения правил распознавания в некотором уже зафиксированном пространстве признаков, необходимо решить несравненно более сложную проблему их выбора, то есть представления исходного массива данных в виде, удобном для принятия окончательного решения. К тому же, в очень многих прикладных задачах результат предварительной обработки массива данных имеет самостоятельную ценность.

В то же время вопросы предварительной обработки сигналов и изображений теоретически разработаны существенно слабее. Несмотря на тот факт, что разнообразным задачам и алгоритмам первичного анализа посвящена обширная литература [1, 2, 3, 4, 5, 6, 7, 8, 9, 10], каждая из таких задач рассматривалась отдельно от других независимыми исследователями для решения конкретных прикладных задач. Методы обработки сигналов и изображений, разработанные для каждой частной задачи, используют специфические системы понятий и специфический математический аппарат [11, 12, 13, 14. 15, 16]. В публикациях, посвященных этим методам, как базовые теоретические положения, так и результирующие алгоритмы излагаются с использованием специальной терминологии, часто не пересекающейся с терминологией, используемой для изложения подходов к решению других задач.

Понимание аналогичности алгоритмических проблем, всегда или, по крайней мере, очень часто возникающих в самых, казалось бы, разных задачах, и изложение этих проблем в общих терминах некоторого единого формального языка позволило бы объединить разрозненные фрагменты опыта, накопленного при решении каждой из них, и существенно сэкономить усилия при построении алгоритмов решения новых задач.

Тема настоящего диссертационного исследования находится в русле но-^ вого научного направления в методологии анализа данных, ориентированного на преодоление этого противоречия [17, 18, 19, 20, 21, 22].

Необходимость обработки массивов данных У -{у,, / = 1,.,Л0, упорядоченных вдоль оси некоторого дискретного аргумента t - времени, частоты, пространственной координаты, -типична для практики технических и естественно-научных исследований. Мы будем называть такие массивы данных сигналами, несколько расширяя традиционное значение этого термина, изначально ориентированного на обозначение функций времени в теории связи.

В последние годы интенсивно разрабатывается единый подход если не ко всем, то, во всяком случае, к большинству из чрезвычайно широкого разнообразия задач анализа массивов упорядоченных данных, использующий так называемый вариационный принцип, уже давно нашедший широкое применение во многих других областях науки [19, 20, 21]. Данная диссертационная работа представляет собой составную часть этого цикла исследований, направленную на дальнейшее развитие вариационного подхода к построению алгоритмов анализа сигналов. Мы начнем с краткого изложения этой концепции и возникающих в связи с ней алгоритмических проблем, решение которых и составляет цель настоящего диссертационного исследования.

Задачу анализа предъявленного массива данных, в данном случае, сигнала ^t - AO, определенного на оси некоторого дискретного аргумента, практически всегда можно понимать как задачу выбора его модели X из не6 которого класса моделей ХеХ. Применительно к сигналам, естественно различать стационарные модели, передающие общую форму предъявленного сигнала в пределах всей области определения t еТ = {1,., 7V}, и нестационарные модели, призванные отражать изменение некоторого локального свойства сигнала вдоль его дискретной оси. Например, постоянное среднее значение сигнала или его спектр в виде совокупности коэффициентов представления по заданному базису с этой точки зрения следует рассматривать как стационарные модели, в то время как типичными представителями нестационарных моделей являются изменяющееся локальное среднее значение сигнала или последовательность его локальных спектров, полученные путем усреднения соответствующего свойства сигнала в некотором скользящем окне. Нестационарную модель сигнала следует искать в виде последовательности локальных моделей либо значений изменяющегося параметра некоторой общей локальной модели в каждой точке оси сигнала X = (х,, t = 1,.,/V). В качестве априорной информации естественно принять предположение, что локальная модель изменяется, в основном, достаточно плавно, так что смежные локальные модели х;, и х,, скорее всего, близки друг к другу за исключением, быть может, относительно редких скачков, кроме того возможно, что векторные переменные х,, выражающие собой локальные модели, в разных точках оси сигнала могут иметь разную размерность.

Универсальный подход к оцениванию моделей массивов данных, в частности моделей нестационарных сигналов, дает вариационный принцип, заключающийся в поиске модели X из заданного семейства ХеХ путем минимизации подходящего критерия несоответствия между массивом и моделью X = argmin VeX J(X | У). Выбор множества X, возможных значений целевых переменных х; еХ, , вытекающий из их характера, определяет область варьирования обобщенной переменной X в вариационной постановке, конкретной задачи обработки данных.

Использование вариационного принципа позволяет ставить исходные прикладные задачи анализа данных как формальные задачи минимизации вполне определенных целевых функций J(X | У), то есть функций, формально выражающих цель обработки, и переводить, таким образом, проблему эвристического конструирования алгоритмов в точные термины теории оптимизации.

Важно лишь так выбрать класс целевых функций, чтобы было гарантировано существование эффективного достаточно быстрого алгоритма поиска точки минимума X = X(Y), выступающей в качестве результата обработки. Алгоритм минимизации целевых функций из выбранного класса и будет играть роль универсального обобщенного алгоритма обработки массивов данных определенного вида [21, 23].

В данной диссертационной работе рассматривается ряд примеров типовых задач анализа нестационарных сигналов: задача сглаживания сигнала, задача спектрально-временного и авторегрессионого анализа, задача анализа портфеля инвестиционной компании. Показано, что все эти задачи являются частными случаями задачи оценивания нестационарной регрессии, адекватнй многим приложениям [24, 25]. В работах [21, 23, 26,] обнаружено, что задача оценивания нестационарной регрессии естественным образом сводится к задаче квадратичной оптимизации относительно последовательности действительных векторных аргументов Аг = (х( eR", t = \,.,N)

Л .V

7(х,,.,хЛ,)= Y(x, - х")' Q°(x, - х")+ У (А,х,, -х,)7 U,(A,X,, - х,)-> min .

ТТ 71 Vl v являющейся частным случаем задачи минимизации парно-сепарабельной целевой функции

J(xn.,x л. ) = ) + ) с зависящими от данных квадратичными узловыми функциями vj/,(x;), оценивающими степень несогласованности значения каждого локального параметра модели х, с формой сигнала в некоторой малой окрестности текущей точки t, и квадратичными функциями связи уДх,рх,), выражающими несогласованность значений каждой пары соседних локальных параметров с априорными представлениями об искомой нестационарной модели.

Вообще говоря, задача парно-сепарабельной квадратичной оптимизации эквивалентна системе линейных уравнений с блочно-трехдиагональной матрицей коэффициентов при неизвестных х,,.,хл,, которая легко решается методом прогонки за число операций, пропорциональное числу векторных переменных /V . В данном диссертационном исследовании предложена интерпретация метода прогонки, как варианта более общего метода динамического программирования, предложенного около сорока лет назад американским математиком Ричардом Беллманом [27, 28, 48] и заключающегося в замене исходной задачи поиска минимума функции многих аргументов последовательностью существенно более простых задач минимизации промежуточных функций одного аргумента, называемых функциями Беллмана [29, 30]. Хотя основная процедура динамического программирования принципиально основана на предположении, что целевые переменные принимают лишь конечное множество значений, она распространяется в [20, 21] на случай непрерывных переменных для квадратичных парно-сепарабельных целевых функций путем введения понятия параметрического семейства функций Беллмана, которые также оказываются квадратичными. Получающаяся при этом процедура оптимизации, заключающаяся в рекуррентном пересчете и запоминании параметров квадратичных функций Беллмана, есть ни что иное как метод прогонки для решения соответствующей блочно-трехдиагональной системы линейных уравнений.

На основе такой интерпретации метода прогонки в работе [31] предложены алгоритмы решения ряда типовых задач анализа сигналов, сводящихся к задаче оценивания нестационарной регрессии. Разработанные алгоритмы опираются на процедуру динамического программирования «вперед ;и навстречу», основанную на понятиях левой и правой функций Беллмана и альтернативную по отношению к традиционной процедуре «вперед и обратно».

Раздельное вычисление левой и правой функций Беллмана позволило построить эффективную в вычислительном отношении процедуру скользящего контроля для верификации нестационарной модели путем последовательного сравнения экспериментального значения каждого элемента сигнала с его предсказанным значением по модели, построенной без участия этого элемента. Понятие двухсторонних функций Беллмана позволило также построить критерий обнаружения нарушений гладкости изменения оцениваемого параметра нестационарного сигнала.

В данной работе рассматривается задача оценивания нестационарной регрессии в случае, когда по условию решаемой прикладной задачи на искомую последовательность векторных параметров нестационарной модели сигнала X = (х,,( = 1,.,/V) наложены линейные ограничения в виде линейных равенств и неравенств.

Вообще говоря, задача минимизации квадратичной целевой функции с линейными ограничениями, охватывающими сразу все переменные, является классической задачей квадратичного программирования. Для решения общей задачи квадратичного программирования существует множество численных методов - симплекс-метод, метод наискорейшего спуска и др. [32, 33, 34, 47, 52, 53] - имеющих полиномиальную вычислительную сложность относительно числа переменных N.

Заметим, что общая задача квадратичной оптимизации без ограничений также имеет полиномиальную вычислительную сложность относительно числа векторных переменных, которая снижается до линейной в случае парной сепарабельности целевой функции. Однако в обоих случаях наложение линейных ограничений на все переменные в совокупности приводит к задаче квадратичного программирования общего вида, причем нет методов, позволяющих использовать факт парной сепарабельности целевой функции для снижения полиномиальной вычислительной сложности задачи.

В данной работе рассматривается частный случай задачи оценивания' нестационарной регрессии с линейными ограничениями на искомые коэффициенты, характерный для многих приложений, когда ограничения сводятся к последовательности ограничений на отдельные векторные переменные х, eR\ t = 1,.,/V :

A,х, +с, >0,.

B,х,+f,=0

Задачу минимизации квадратичной парно-сепарабельной целевой функции с ограничениями типа в данной работе предлагается называть задачей парно-сепарабельного квадратичного программирования.

Для задач этого типа в диссертации предлагаются два алгоритма решения, обладающие линейной вычислительной сложностью относительно числа векторных переменных N . Оба алгоритма существенно используют процедуру динамического программирования для минимизации парно-сепарабельных квадратичных функций без ограничений, рассмотренную в работах [17, 20, 21, 31] и основанную на рекуррентном пересчете параметров квадратичных функций Беллмана.

Теоретически, линейная вычислительная сложность алгоритма оптимизации по числу переменных квадратичной парно-сепарабельной целевой функции при наличии индивидуальных ограничений на переменные обеспечивается прямым применением процедуры динамического программирования. Однако численная реализация такой процедуры для непрерывных переменных оказывается затруднительной, поскольку, как показано в диссертации наличие неравенств в ограничениях выводит очередную функцию Беллмана из конечно-параметрического семейства квадратичных функций, даже если предположить, что предыдущая функция Беллмана квадратична.

Первый алгоритм, предлагаемый в данной работе, построен по итерационному принципу и реализует метод наискорейшего спуска, применяемый для решения двойственной задачи. Наиболее сложным в вычислительном отношении шагом такого алгоритма является вычисление на каждой итерации очередного градиента двойственной целевой функции. Алгоритм эксплуатирует тот факт, что искомый градиент определяется точкой минимума функции Лагранжа по целевым переменным Х = (хп t = \,.:,N) без ограничений при фиксированных значениях множителей Лагранжа, полученных на предыдущей итерации, причем функция Лагранжа квадратична и парно-сепарабельна. В силу этого обстоятельства точка ее минимума может быть найдена процедурой квадратичного динамического программирования, эквивалентной процедуре прогонки, за число операций, пропорциональное числу переменных А . Таким образом, по своей вычислительной сложности итерационный алгоритм решения задачи минимизации парно-сепарабельной функции с индивидуальными ограничениями на векторные переменные сводится к многократному применению процедуры динамического программирования с линейной вычислительной сложностью для решения аналогичной задачи без ограничений, причем число повторений равно числу итераций.

Однако существует класс вариационных задач анализа нестационарных сигналов, алгоритмическое решение которых связано с необходимостью многократного определения оптимального значения целевой переменной в отдельно взятой точке оси аргумента при разных моделях сигнала без пересчета оптимальных значений в других точках. Это такие задачи, как, например, задача обнаружения нарушений гладкости изменения оцениваемого параметра, задача оценивания дисперсии шума наблюдения в модели нестационарной регрессии, задача подбора класса нестационарной модели и т.д. [35, 36, 37, 38] Таким образом, объем вычислений возрастает пропорционально квадрату длины сигнала /V2, в то время как оценивание последовательности векторов коэффициентов регрессии с помощью метода наискорейшего спуска требует объема вычислений, пропорционального лишь длине сигнала N . Эффективные алгоритмы решения таких задач не могут быть построены в рамках метода наискорейшего спуска.

Второй алгоритм, предлагаемый в данной работе, представляет собой приближенную реализацию процедуры динамического программирования вперед и навстречу» для случая с ограничениями, позволяющую решать обозначенные выше задачи за два прохода сигнала с числом операций, про

12 порциональным его длине N. Этот алгоритм не является итерационным и эквивалентен однократному применению процедуры динамического программирования, имеющей линейную вычислительную сложность, но на каждом шаге рекуррентного пересчета вместо точной функции Беллмана, не являющейся квадратичной, он использует квадратичное приближение к ней в малой окрестности точки ее минимума. В силу такой эвристической замены алгоритм не дает, строго говоря, точного решения задачи парно-сепарабельного квадратичного программирования, но многочисленные эксперименты свидетельствуют о достижении хорошего приближения к точке минимума целевой функции.

Разработанные вариационные алгоритмы восстановления нестационарной регрессии использованы в диссертации для построения программно-алгоритмического комплекса анализа экономических данных восстановления структуры портфеля инвестиционной компании.

Диссертация состоит из шести глав. В первой главе рассмотрены примеры типовых задач анализ сигналов, являющие частными случаями задачи восстановления нестационарной регрессии и приводящие к необходимости решения задачи парно-сепарабельного квадратичного программирования с ограничениями, сформулированы основные задачи исследования. Во второй главе предлагается процедура решения задачи парно-сепарабельного квадратичного программирования, линейная по числу векторных переменных и опирающаяся на известный метод решения задач квадратичного программирования - метод наискорейшего спуска. В третьей главе показывается невозможность непосредственного применения метода прогонки и процедуры динамического программирования для решения задачи парно-сепарабельного квадратичного программирования. Предлагается приближенная реализация процедуры динамического программирования «вперед и навстречу» для случая с ограничениями, основанная на замене в каждый момент времени неквадратичных фикций Беллмана квадратичными. В четвертой главе разработанный. приближенный алгоритм применяется для построения алгоритма сглаживания сигналов с автоматическим подбором степени сглаживания и сохранением локальных особенностей исходного сигнала. В пятой главе проводится экспериментальное исследование предложенных алгоритмов на предмет точности и быстродействия. Показывается, что при применении приближенного метода динамического программирования не происходит сколько-нибудь существенной потери качества. Кроме того, показано, что этот метод обеспечивает более высокое быстродействие по сравнению с методом наискорейшего спуска, т.к. находит решение задачи за один цикл работы процедуры «вперед и навстречу». В то время, как в методе наискорейшего спуска количество применений процедуры «вперед и навстречу» пропорционально числу итераций

Заключение диссертации по теме «Теоретические основы информатики», Красоткина, Ольга Вячеславовна

6 Основные выводы

1. Дана формальная постановка обобщенной задачи анализа широкого класса нестационарных сигналов как задачи парно-сепарабельного квадратичного программирования.

2. Разработан асимптотически точный итерационный метод решения задачи парно-сепарабельного квадратичного программирования, основанный на методе наискорейшего спуска, использующий на каждой итерации метод прогонки и имеющий линейную вычислительную сложность относительно числа векторных переменных.

3. Разработан неитерационный алгоритм решения задачи парно-сепарабельного квадратичного программирования, на основе приближенной реализации процедуры динамического программирования.

4. Разработан алгоритм оценивания параметров нестационарной модели сигнала с сохранением его локальных особенностей с помощью применение приближенной процедуры динамического программирования.

5. Разработан алгоритм определения требуемой степени сглаживания при оценивании нестационарной модели сигнала на основе метода скользящего контроля с применением приближенной процедуры динамического программирования.

6. Исследована вычислительная сложность предложенных алгоритмов анализа нестационарных сигналов и показана, что она является линейной относительно длины сигнала.

7. Экспериментально исследована точность приближенной реализации метода динамического программирования при оценивании нестационарных моделей сигналов. Показано, что не происходит сколько-нибудь существенной потери точности при применении приближенного метода динамического программирования по сравнению с точными методами квадратичного программирования.

Список литературы диссертационного исследования кандидат физико-математических наук Красоткина, Ольга Вячеславовна, 2003 год

1. Яковлев В.Г. Алгоритм выделения всплесков на физиологических кривых.

2. Автоматика и телемеханика. 1977. №12. С. 94-105

3. Джайн А.К. Успехи в области математических моделей для обработки изображений. // ТИИЭР. 1981. Т.69. №5, С. 9-39.

4. Кокс Дж. Р., Нолл Ф.М., Артур Р.М, Анализ электроэнцефалограмм, кривых кровяного давления и электрокардиограмм на цифровой вычислительной машине.//ТИИЭР. 1972. Т. 60. № 10. С. 36-73.

5. Савараги Е., Соэда Т., Накамизо Т. «Классические» методы и оцениваниевременных рядов. /7 В кн.: Современные методы идентификации систем. / Под ред. П. Эйкхоффа. М.: Мир,1983.

6. Bellman R. On the approximation of curves be line segments using dynamic programming. //Comm. ACM. 1961. V. 4. №6. P.284.

7. Моттль В.В., Яковлев В.Г. Оценивание повторяющихся значений параметров случайного процесса с многократно изменяющимися свойствами. // Статистические проблемы управления. // Вып. 65. Вильнюс: Институт математики и кибернетики АН ЛитССР, 1984. С. 135-145.

8. Rabiner L. Juang D.Y. Fundamentals of Speech Recognition. N. Y. 1993.

9. Hamilton J. Time Series Analysis. // Princeton University Press, 1994.1 1 Дрейпер H.A., Смит Г. Прикладной регрессионный анализ. М.: Статистика, 1973.

10. Моттль В.В., Мучник И.Б. Лингвистический анализ экспериментальных кривых. // ТИИЭР. 1979. Т. 67. № 5. С. 12-39

11. Мучник И.Б., Мучник Р.Б. Алгоритмы формирования языка для описания экспериментальных кривых. // Автоматика и телемеханика. 1973. №3. С 86-96.

12. Рабинер Л. Скрытые марковские модели и их применение в избранных приложениях при распознавании речи: Обзор. // ТИИЭР. 1989. Т. 77. № 2. С. 86-120.

13. Page Е. S. Continuous inspection schemes. // Biometrica, 1954. V. 41. P. 100114.

14. Pavlidis T. Linguistic analysis of waveforms. // In: Software Engineering. /Ed. J.T. Tou. V.2.-NY: Academic Press, 1971. P. 203-225.

15. Mottl V.V., Blinov А.В., Kopylov A.V., Kostin A.A. Computer-aided signal and image processing: A universal variational approach. Journal of Journals: Review of Global Scientific Achievements, 1998, Vol. 2, No. 1, pp. 23-30.

16. Буробин H.B., Моттль В,В, Алгоритмы оптимальной регистрации событий в реальном времени.//Автоматика и телемеханика. 1987. №2, С. 119-128.

17. Mottl V., Blinov A., Kopylov A., Kostin A., Muchnik I. Variational methods in signal and image analysis. Proceedings of the 14th International Conference on Pattern Recognition. Brisbane, Australia, August 16-20, 1998. Volume 1, pp. 525-527.

18. Винцюк Т.К. Анализ, распознавание и интерпретация речевых сигналов. Киев: Наукова думка, 1987. 262 С.

19. Немирко А.П. Цифровая обработка биологических сигналов. М.: Наука,1984.- 145С

20. Mottl V., Kopylov A., Kostin A. Edge-preserving in generalized smoothing of signals and images. Proceedings of the 14th International Conference on Pal-tern Recognition. Brisbane, Australia, August 16-20, 1998. Volume Ii, pp. 1579-1581

21. Беллман P., Калаба P. Динамическое программирование и современная теория управления. М.: Наука, 1969, -1 18.

22. Sniedovich М. Dynamic Programming. Marcel Dekker, NY, 1991

23. Коган И.А. Оптимальная сегментация структурных кривых на основе метода динамического профаммирования. // Автоматика и телемеханика, 1988, № 7, с. 146-156.

24. Моттль В.В., Мучник И.Б. Сегментация структурных кривых на основе метода динамического программирования. // Автоматика и телемеханика. 1985, №1, с. 101-108.

25. Моттль В.В., Костин А.А., Красоткина О.В., Копылов А.В. Алгоритмы динамического программирования для оценивания моделей нестационарных сигналов. Доклады X Всероссийской конференции ММРО-Ю, Вычислительный центр РАН, Москва, 2001г.

26. Поляк Б.Т. Введение в оптимизацию. М.: Наука, 1983

27. Сеа Ж. Оптимизация. Теория и алгоритмы. М.: Мир, 1973.

28. Зангвилл У. Нелинейное программирование. Единый подход. М.: Сов. радио, 1973.

29. Вапник В.Н. Восстановление зависимостей по эмпирическим данным. -М.: Наука,1976.

30. Никифоров И.В. Последовательное обнаружение изменения свойств временных рядов. М: Нука, 1983. 199 с.

31. Basseville V. Espiau В. Edge detection using sequential methods for change in level. Parts I, II. // IEEE Trans, on ASSP 1981 V.ASSP-29 №1

32. Яковлев В.Г. О выборе порогов для разладочного алгоритма сегментации экспериментальных кривых. // Автоматика и телемеханика. 1983. №9, С.95-101.

33. G. Box and G. Jenkins. Time Series Analysis. Forecasting and Control. Hol-den-Day, 1970.

34. Бокс Дж., Дженкинс Г. Анализ временных рядов. Прогноз и управление. Вып. 1,2. М.: Мир, 1974.

35. Harry М. Markowitz, Portfolio Selection, Journal of Finance, 7, no. 1 (March1952), pp. 77-91

36. Уильям Ф. Шарп, Гордон Дж. Александер, Джеффри В. Бейли, Инвестиции: Пер. с ан'л. М.: ИНФРА-М, 2003.

37. Алберт А. Регрессия, псевдоинверсия и рекуррентное оценивание. М.: Наука, 1977.

38. R. Fletcher. Practical Methods of Optimizations. John Wiley and Sons Inc. 2nd edition, 1987.

39. Базара M., LLk ти К. Нелинейное программирование. Теория и алгоритмы. М.: Мир, 1982

40. Mikael Adlers. Sparse Least Squares Problems with Box Constraints. Division on Numerical Analysis. Department of Mathematics. Linkopings universitet.

41. Численные jui поды условной оптимизации, под ред. Ф Гилл, У. Мюрей, М.: Мир, 1977.

42. R. Bellman. Dynamic Programming. Princeton University Press, Princeton, N.J., 1957.

43. Robert Kalaba, Leigh Tesfatsion. A Multicriteria Approach To Model Specification and Estim. tion. 1SU Economic Report №28. 6 January 1995

44. N.D. Sidiropou'os and R.Bro Mathematical Programming Algorithms for Re-gression-based Nonlinear Filtering in R' .

45. Бахвалов H.C., Жидков Н.П., Кобельков Г.М. Численные методы М.: Лаборатория Разовых Знаний, 2001.

46. Васильев Ф.П. Численные методы решения экстремальных задач. М.: Наука, 1988г.

47. Алексеев О.Г., Алексеев А.О., Киселев В.Д., Мировицкий ГюПю Применение двойст енности для повышения эффективности метода встречного решения фун циональных уравнений динамического программирования. // Кибернетика. 1990. №1.

48. Киселев В.Д., Алексеев А.О. Упорядочение ограничений в методе встречного решенш функциональных уравнений динамического программирования.//Эко! (мико-математические методы. 1994. №4.

49. Киселев В.Д., Сукманов С.А. Применение двойственности для решения задача целочисленного квадратичного программирования о ранце. Журнал вычислительной математики и математической физики. 1993. Т. 33. №2.

50. Pitas I., Venebanopoulos A.N. Nonlinear Digital Filters. Principles and Applications. Boston: Kluwer Academic Publishers, 1990.

51. Niedzwiecki M., Sethares W.A. Smoothing of discontinuous signals: The competitive a' oroach. IEEE Trans, on Signal Processing, Vol. 43, No. 1, January 1995, ,>p. 1-13.

52. Andersen E. L ., Ye Y. A computational study of the homogeneous algorithm for large-scale convex optimization. Computational Optimization and Applications, 10:243-269, 1998.

53. Список публикаций по теме диссертации

54. Моттль В.В., Копылов А.В., Костин А.А. Красоткина О.В. Алгоритмы динамического программирования для оценивания моделей нестационарных сигналов. Доклады X Всероссийской конференции ММРО-Ю. Вычислител чый центр РАН, Москва, 2001 г,-С. 345-349.

55. Красоткина О.В. Алгоритмы парносепарабельного программирования взадачах анализа нестационарных сигналов. Доклады X Всероссийской конференции ММРО-Ю, Вычислительный центр РАН, Москва, 2001 г.

56. Mottl V.V., Kopylov А.V., Krasotkina O.V. A quadratic programming problem for elastic image matching. Proceedings of IASTED international conference Automation, Control and Information Technology, June 10-13, 2002, Novosibirsk.

57. Krasotkina O. 7., Mottl V. V., and Kopylov A. V. Algorithms of Estimation of

58. Nonstationar Regression in Signal Analysis. Pattern Recognition and Image Analysis, Vol. 13, No. 1,2003, pp. 127-131.