Метод построения процедуры локальной обработки изображений на основе иерархической регрессии тема диссертации и автореферата по ВАК РФ 05.13.17, кандидат технических наук Копенков, Василий Николаевич

• Копенков, Василий Николаевич
• кандидат технических наук
• 2011

Оглавление диссертации кандидат технических наук Копенков, Василий Николаевич

Введение.

Раздел 1. Задачи локальной обработки изображений и методы их решения.

1.1 Классы задач локальной нелинейной обработки сигналов и изображений.

1.1.1 Классы задач с линейной локальной функцией регрессии.

1.1.2 Классы задач с нелинейной локальной регрессионной зависимостью

1.1.3 Классы задач с дискретной локальной регрессионной зависимостью

1.2 Локальная нелинейная обработка изображений с использованием дерева регрессии.

1.2.1 Схема локальной обработки изображений.

1.2.2 Классификация деревьев регрессии по типу преобразования, используемого в терминальных вершинах.

1.2.3 Общее описание информационной технологии построения процедуры обработки на основе иерархических структур.

1.3 Существующие подходы к реализации «универсальной» схемы преобразования.

1.3.1 Основные группы признаков.

1.3.2 Общие параметры построения древовидных структур.

1.3.2 Структура данных в узлах дерева.

1.4 Основные проблемы, возникающие при использовании «универсальной» схемы преобразования.

1.4.1 Выбор признаков.

1.4.2 Выбор окна локального преобразования.

1.4.3 Выбор модели регрессии.

1.4.4 Проблемы недообучения и переобучения.

1.4.5 Объемы выборочных данных при обучении.

1.4.6 Вычислительная сложность «универсального» преобразования.

1.4.7 Предлагаемые методы решения обозначенных проблем.

1.5 Выводы и результаты.

Раздел 2. Эффективные локальные признаки на основе локальных дискретных вейвлет-преобразований.

2.1 Эффективный расчет признаков на основе дискретного локального вейвлет-преобразования.

2.1.1 Эффективные алгоритмы расчета локального дискретного вейвлет-преобразования одномерного сигнала на примере вейвлет-базиса Хаара.

2.1.2 Эффективный расчет локального дискретного 2-х мерного вейвлет-преобразования на примере вейвлет-базиса Хаара.

2.3.3 Использование базиса Хаара с масштабирующим коэффициентом «3»

2.1.4 Сравнение вычислительной сложности модифицированного и эффективного алгоритмов вычисления локального дискретного вейвлетпреобразования.

2.3.4 Эффективное вычисление биортогональных полиномиальных сплайн-вейвлетов с конечными носителями.

2.2 Параметрическая настройка признаков.

2.3 Определение оптимального размера окна обработки при вычислении признаков.

2.4 Выводы и результаты.

Раздел 3. Разработка алгоритма автоматического построения процедуры локальной обработки изображений на основе иерархической регрессии.

3.2 Анализ обобщающей способности древовидной модели.

3.2.1 Статистический подход.

3.2.2 Комбинаторный подход.

3.2.3 Остановка процесса перебора различных сочетаний обучающей и контрольной выборок.

3.3 Особенности построения дерева регрессии.

3.3.1 Особенности построения элементарной регрессии в узлах.

3.3.2 Зависимость древовидной модели от алгоритмов локального дискретного вейвлет-преобразования.ЮО

3.4 Анализ вычислительной сложности «универсального» алгоритма с признаками на основе дискретного локального вейвлет-преобразования.

3.4.1 Расчет признаков.

3.4.2 Иерархическая регрессия.Ю

3.5 Алгоритм автоматического построения «универсального» преобразования с ограничениями по сложности и качеству исполнения.

3.6 Тестирование алгоритма построения процедуры локальной обработки с ограничениями.

3.7 Выводы и результаты.

Раздел 4. Исследование эффективности вычислительной процедуры локальной обработки изображений на основе иерархической регрессии.

4.1 Определение достаточного объема выборки.ИЗ

4.2 Фильтрация изображений.

4.2.1 Зависимость эффективности фильтрации от соотношения «сигнал/шум».

4.2.2 Сравнение различных типов аппроксимации в терминальных вершинах при фильтрации изображений.

4.2.3 Сравнение метода иерархической регрессии с нейронной сетью в задачах фильтрации изображений.

4.3 Восстановление изображений.

4.4 Задачи классификации отсчетов изображения.

4.5 Задачи выделения контуров.

4.6 Выводы и результаты.12В

Введение диссертации (часть автореферата) на тему «Метод построения процедуры локальной обработки изображений на основе иерархической регрессии»

Диссертация посвящена разработке и исследованию метода автоматического построения (синтеза) вычислительной процедуры локальной обработки изображений по эмпирическим данным на основе иерархической регрессии и алгоритмов локального вейвлет-преобразования.

Актуальность темы

Локальная обработка цифровых изображений - одно из наиболее востребованных преобразований в теории и практике цифровой обработки изображений-и в теории компьютерного зрения. Под локальной обработкой-обычно понимают такое преобразование изображения, в котором каждый отсчет выходного изображения формируется на основании однозначного преобразования множества отсчетов входного изображения, попавших в некоторую его окрестность (по координатам). Исторически, первыми для- обработки использовались линейные локальные методы, допускающие построение оптимальных в некотором* смысле процедур обработки. Математические методы построения! и реализации таких вычислительных процедур рассматривались такими российскими, и зарубежными учеными, как: R. Gonzales, D. Forsyth, A. Oppenheim, R. Schafer, R. Mersereau, W. Pratt, R. Woods, Л.М. Гольденберг, В.Г. Лабунец, B.B! Сергеев, B.A. Сойфер, Л.П. Ярославский. Однако появление новых задач обработки цифровых сигналов (обработка видеоинформации, звука, космических снимков и т.п.), задач обработки больших объемов информации в режиме реального времени, а также требование повышения эффективности обработки привели к необходимости использования i нелинейных преобразований. Вопросам построения и реализации локальных нелинейных процедур обработки посвящены работы таких ученых, как: С. Cowan, S. Geiser, Е. Glaser, P. Grant, R. Lucky, S. Haiken, С. Jakowatz, W. Masenten, В. Widrow,

А.Н. Горбань, И.С. Грузман, A.A. Ланнэ, В.В: Сергеев, Л.П. Ярославский и др. Один из наиболее распространенных на настоящий момент подходов заключается в реализации кибернетического принципа «черного ящика» (термины других авторов: обработка через распознавание, обработка по прецедентам), когда само преобразование и его параметры определяются на основании анализа входных и выходных сигналов или изображений. Несмотря на обилие в рамках этого подхода i частных решений, формализованный регулярный подход к построению вычислительных процедур для конкретной практической задачи до настоящего времени отсутствует. Это позволяет утверждать об актуальности выбранной темы диссертационной работы.

Одним из известных подходов к построению относительно универсальных вычислительных процедур локальной адаптивной обработки цифровых сигналов и изображений, реализующих принцип «черного ящика», является использование аппарата нейронных сетей (S. Grossberg, К. Fukushima, S. Haykin, Т. Kohonen, F. Rosenblatt, В. Widrow, N. Wiener, Ф. Уоссермен, А.И. Галушкин, Г.С. Осипов): Альтернативным, но существенно менее развитым подходом является использование иерархических вычислительных конструкций (далее* - иерархической регрессии), таких как дерево-решений и дерево* регрессии (H.Ahn, L. Breiman, J.Friedman, R. Olshen, С. Stone, J. Quinlan, B.B. Сергеев, A.B. Чернов). Настоящая работа лежит в русле последнего из обозначенных подходов, развивая идею разработки универсального механизма построения локальных нелинейных вычислительных процедур обработки, основанных на* иерархической конструкции и обеспечивающих максимум качества при заданной вычислительной сложности обработки. i

Цель работы

Целью работы является разработка- и исследование метода автоматического построения вычислительной процедуры локальной обработки изображений по эмпирическим данным на основе иерархической регрессии и алгоритмов локального дискретного вейвлет-преобразования.

Задачи диссертационной работы

Для достижения указанной цели решаются следующие задачи:

1) Анализ современного состояния в области локальной нелинейной обработки изображений, обзор существующих ¡методов и алгоритмов, используемых для построения вычислительно эффективных процедур обработки.

2) Разработка, и исследование алгоритмов вычислительно эффективного формирования локального описания цифрового изображения (расчета локального дискретного вейвлетупреобразования), обоснование выбора описания в зависимости от решаемой задачи. Анализ вычислительной сложности построения локального описания, выработка рекомендаций по выбору оптимального алгоритма в зависимости от глубины рассчитываемых уровней вейвлетов и от типа решаемой задачи.

3) Разработка вычислительной процедуры локальной обработки изображений на основе дерева регрессии/классификации. Выбор модели регрессии, используемой в терминальных вершинах, параметров процесса разбиения признакового пространства, правила остановки процесса разбиения и оценка достаточного объема обучающих данных. Анализ вычислительной сложности, показателей качества и обобщающей способности конструируемой процедуры; обработки.

4) Разработка алгоритма;автоматического построения вычислительной процедуры локальной обработки изображений; на':' основе иерархической^ регрессии и алгоритмов • локального дискретного вейвлет-преобразования с ограничением по сложности обработки и максимизацией качества и обобщающей • ■ ■ - 1 . способности.

5) Экспериментальные исследования разработанного алгоритма и входящих в его ' I : ' • состав, методов, сравнение алгоритма с традиционными подходами (нейросетевой подход и др.) по критериям качества и вычислительной эффективности, выработка рекомендаций: по: использованию- результатов диссертации.

Перечисленные задачи определяют структуру работы и содержание отдельных разделов. 1

Методы исследований !

В диссертационной работе используются методы линейной' алгебры и математического анализа, теории вероятностей и статистического анализа, теории информации, теории цифровой обработки сигналов и изображений, распознавания образов.

Нау чная новизна работы

Предложены новые алгоритмы вычисления локального дискретного вейвлет-преобразования в режиме скользящего окна для одномерных и двумерных сигналов. Приведена адаптация разработанных алгоритмов для базиса Хаара и биортогональных полиномиальных сплайн-вейвлетов. Получены области вычислительной «компетентности» для разработанных алгоритмов.

Предложен новый метод настройки параметров элементарной регрессии в терминальных вершинах дерева регрессии, основанный на регуляризации задачи с использованием информации из локальной окрестности вершины.

Предложен алгоритм автоматического построения вычислительной процедуры локальной обработки изображений по эмпирическим' данным на основе иерархической регрессии- и признаков в виде локального дискретного вейвлет-разложения изображения,, позволяющий избежать, проблем перебора признаков,, переобучения и недообучения. .

Предложена методика остановки; процесса построения процедуры; локальной обработки на основе интервальной» оценки функционала скользящего контроля; качества.

Получены оценки вычислительной сложности разработанных алгоритмов:

Практическая ценность работы ,

Предложенные в диссертационной 1 работе методы и алгоритмы; локальной; обработки сигналов и изображений?; могут быть использованы, в системах оперативного дистанционного зондирования^ системах классификации и; тематического анализа космических снимков; в геоинформационных системах, базах: данных изображений и в других компьютерных системах обработки визуальной, информации;. г

Предложенный: в диссертационной работе метод построения процедуры локальной обработки; изображений; позволяет, с одной- стороны, улучшить качество обработки изображений и. многомерных сигналов за счет адаптации« к: локальным свойствам и более полного использования!, априорных данных, и, с другой стороны-, при заданном качестве радикально снизить ¡вычислительную сложность обработки. Разработанные; алгоритмы быстрого расчета локального дискретного вейвлетпреобразования могут быть.использованы для решения задач распознавания образов.

Реализация результатов работы (

Результаты диссертации использованы при выполнении» 17 госбюджетных и хоздоговорных НИР в Самарском Государственном Аэрокосмическом Университете, Институте систем обработки изображений РАН, Некоммерческом партнерстве «Поволжский центр космической геоинформатики» и ОАО «Самара

Информспутник».

Апробация работы

Основные результаты диссертации были представлены на следующих конференциях:

- на 6-й международной конференции «Распознавание образов и анализ изображений: новые информационные технологии» (РОАИ-6), Великий Новгород, 2002;

- на 7-й международной конференции «Распознавание образов и анализ изображений: новые информационные, технологии»" (РОАИ-7), Россия, Санкт-Петербург, 2004;

- на 2-й международной* конференции «Automation, control, and Information technology - Signal and image processing (ACIT-SIP)», Новосибирск, 20-24 июня 2005;

- на Всероссийском семинаре по моделированию, дифракционной оптике и обработке изображений, Самара, 3-7 июля 2006; I

- на Научно-технической конференции с международным участием «Перспективные I информационные технологии в научных исследованиях, проектировании и обучении «ПИТ-2006»», Самара, 2006;

- на 13-й Всероссийской конференции. «Математические методы распознавания образов», Ленинградская обл., г. Зеленогорск, 30 сентября - 6 октября 2007; на 8-й международной конференции «Распознавание образов и анализ изображений: новые информационные технологии» (РОАИ-8), Россия, Йошкар-Ола, 2007; на 9-й международной конференции «Распознавание образов и анализ изображений: новые информационные технологии» (РОАИ-9), Россия, Нижний-Новгород, 2008; на 7-й всероссийской открытой ежегодной конференции «Современные проблемы дистанционного зондирования Земли из космоса» Москва, ИКИ РАН, 16-20 ноября 2009; I на 3-й международной конференции «Automation, Control and Information Technology» (ACIT-2010), Новосибирск, 15-18 июня 2010, на 20-й международной Конференции Распознавания Образов (ICPR-2010),

Турция, Стамбул, 23-26 августа 2010;

- на Международной конференции с элементами научной школы для молодежи "Перспективные информационные технологии для авиации и космоса «ПИТ-2010»", Самара, 2010;

- на 8-й международной конференции «Интеллектуализация обработки информации» (ИОИ-2010), Республика Кипр, г. Пафос, 17-24 октября 2010;

- на 10-й международной конференции «Распознавание образов и анализ изображений: новые информационные технологии» (РОЛИ-10), Россия, Санкт-Петербург, 5-12 декабря 2010;

- на Региональной научно-практической конференции, посвященной 50-летию первого полета человека в космос, Самара, 14-15 апреля 2011.

Публикации

По теме диссертации опубликовано 26 работ, из них 10 в изданиях, определенных в перечне ведущих рецензируемых научных журналов и изданий-ВАК Минобрнауки России, 4 работы выполнены без соавторов. При участии автора, написано 17 отчетов по НИР.

Краткое содержание диссертации

Диссертация состоит из* введения, четырех разделов, заключения, списка литературы и одного приложения. Она изложена на 139 страницах машинописного текста (без приложений), содержит 43 рисунка, 11 таблиц, список использованных источников из 82 наименований.

Заключение диссертации по теме «Теоретические основы информатики», Копенков, Василий Николаевич

4.6 Выводы и результаты

Четвертый раздел диссертации посвящен исследованию эффективности использования метода локальной обработки изображений на основе ИР для решения задач обработки космических изображений и использования в геоинформатике. Приведены примеры решения задач фильтрации и восстановления изображений, выделения контуров на изображении, поэлементной классификации изображений, а также решение задачи аппроксимации многомерных функций произвольного вида (Приложение 1).

На реальных изображениях космических снимков выполнено сравнение предлагаемого подхода и получаемого с его помощью решения с другими нелинейными методами обработки (в частности, нейронными сетями) с точки зрения вычислительной сложности и по качеству обработки. Даны рекомендации по практическому применению методов. Представленные результаты экспериментальных исследований позволяют сделать следующие выводы:

- конструируемая вычислительная процедура локальной обработки обладает существенно более высокой эффективностью при решении задач фильтрации и восстановления изображений по сравнению с известным фильтром Винера как по скорости, так и по качеству обработки;

- конструируемая вычислительная процедура локальной обработки и метод ее построения демонстрируют преимущества по сравнению с методом обработки и построения, основанном на использовании аппарата искусственных нейронных сетей. В плане вычислительной сложности выигрыш - на порядки; - при решении задач аппроксимации многомерных функций произвольного вида (см. приложение 1) разработанный алгоритм сравним по качеству с нейронными сетями, но превосходит последний на несколько порядков в плане вычислительной эффективности.

Полученные результаты подтверждают работоспособность и эффективность разработанного подхода к построению вычислительной процедуры локальной обработки. Наиболее предпочтительным является использование метода иерархической регрессии в системах, работающих в режиме «реального времени», где требуется высокая скорость обработки и малые требования к ресурсам, и при обработке больших объемов данных.

Заключение

В диссертационной работе разработан и исследован метод автоматического построения вычислительной процедуры локальной обработки изображений по эмпирическим данным на основе иерархической регрессии и алгоритмов локального дискретного вейвлет-преобразования. В рамках выполнения работы были решены задачи:

1) Разработаны новые - модифицированный быстрый и рекурсивный - алгоритмы вычисления локального ДВП цифровых сигналов и изображений в режиме скользящего окна. Приведена конкретизация разработанных алгоритмов для базиса Хаара с масштабирующими коэффициентами «2» и «3», а также для биортогональных полиномиальных сплайн-вейвлетов.

2) Получены выражения для вычислительной сложности разработанных алгоритмов локального ДВП. Определены зоны «вычислительной компетентности» алгоритмов локального ДВП на основе базиса Хаара, позволяющие выбрать наилучший алгоритм в зависимости от параметров рассчитываемого локального ДВП и типа решаемой задачи.

3) Предложена вычислительная процедура локальной обработки цифрового сигнала/изображения, построенная на основе алгоритмов локального ДВП изображения и иерархической регрессии. Получены оценки вычислительной сложности составляющих элементов и процедуры в целом. Предложен метод регуляризированной настройки элементарной регрессии в терминальных вершинах.

4) Разработан алгоритм автоматического построения (конструирования) вычислительной процедуры локальной обработки на основе прецедентов обработки с ограничением по сложности конструируемого правила и максимизацией качества обработки и обобщающей способности.

5) Предложена оригинальная методика остановки процесса построения процедуры локальной обработки на основе интервальной оценки функционала скользящего контроля.

6) Проведены экспериментальные исследования предложенных в работе методов и алгоритмов, подтвердившие их работоспособность и эффективность по сравнению с существующими решениями. По результатам работы можно сделать выводы о целесообразности использования предложенного подхода для решения практических задач локальной обработки изображений.

Список литературы диссертационного исследования кандидат технических наук Копенков, Василий Николаевич, 2011 год

1. Вапник, В.Н. Теория распознавания образов Текст. / В.Н. Вапник, A.B. Червоненкис// -М.: Наука, 1974.

2. Вапник, В. Н. Восстановление зависимостей по эмпирическим данным Текст. / В.Н. Вапник//-М.: Наука, 1979.

3. Воронцов, К.В. Комбинаторные обоснования обучаемых алгоритмов Текст. / К.В. Воронцов // ЖВ-МиМФ. 2004; Т. 44, № 11. С. 2099-2112.

4. Глумов, H.H. Применение полиномиальных базисов для обработки изображений в скользящем окне Текст. / Н.И. Глумов, В.В. Мясников, В.В. Сергеев // Компьютерная оптика. 1995. - Выпуск 14-15, Часть 1. - С. 55-68.

5. Даджион, Д. Цифровая обработка многомерных сигналов Текст. / Д. Даджион, Р. Мерсеро // М.: Мир, - 1998.

6. Демиденко, Е.З. Линейная и нелинейная регрессии Текст. / Е.З. Демиденко// М.: Финансы и статистика. - 1991.

7. Журавлев, Ю.И. Корректные алгебры над множеством некорректных эвристических алгоритмов Текст. / Ю.И. Журавлев// Кибернетика, 1977. № 4. с. 14-21; - 1977. № 6. с. 21-27;- 1978. №2. с. 35-43.

8. Журавлев, Ю.И. Распознавание образов и распознавание изображений Текст. / Ю.И. Журавлев, И.Б. Гуревич// Распознавание, классификация, прогноз: математические методы и их применение. М.:Наука, - 1989; Выпуск 2. с.5-72.

9. Копенков, В.Н. Современные информационные технологии анализа и обработки данных. Лабораторный практикум: учебное пособие. Текст. / В.Н. Копенков, В.В. Сергеев // Изд-во Самар. гос. аэрокосм, ун-та. — Самара. — 2007. 96 С.

10. Копенков, В.Н. Эффективные алгоритмы локального дискретного вейвлет-преобразования с базисом Хаара Текст. / В.Н. Копенков // Компьютерная оптика. -2008. Выпуск 32, № 1. - С. 78-85.

11. Короткий, С., Нейронные сети: алгоритм обратного распространения Электр. // С. Короткий/ 14 С.

12. Лоусон, Ч. Численное решение задач метода наименьших квадратов Текст.// Ч. Лоусон, Р. Хенсон / М. : Наука, - 1986.

13. Майтра, С. Моментные инварианты // С. Майтра / ТИИЭР 1979. № 4 - с. 297-99.

14. Методы компьютерной обработки изображений. Под редакцией В.А. Сойфера / М.В. Гашников, Н.И. Глумов, Н.Ю.Ильясова, В.В. Мясников и др., под общей редакцией В.А. Сойфера. 2-е изд., испр. - М.: Физматлит, 2003. - 784 с.

15. Мясников, В.В. Эффективный алгоритм над множеством алгоритмов вычисления свертки Текст. / В.В. Мясников // Компьютерная оптика. 2006. - Выпуск 29. - С. 78117.

16. Мясников, В.В. Эффективные алгоритмы вычисления локального дискретного вейвлет-преобразования Текст. / В.В. Мясников // Компьютерная оптика. 2007. - Том 31, № 4.- С. 86-94.

17. Мясников, В.В. Сплайны как средство построения эффективных алгоритмов локального линейного преобразования Текст. / В.В. Мясников // Компьютерная оптика. 2007. - Том 31, № 2. - С. 52-68.

18. Оппенгейм, A.B. Цифровая обработка сигналов Текст. / A.B. Оппенгейм, Р.В. Шафер //- М.: Мир. 1979.-416 с.

19. Подкур, П.Н. О построении некоторых типов вейвлетов с коэффициентом масштабирования N Текст./ П.Н. Подкур // Электронный научный журнал «Исследовано в России». 2006. - с. 965-974.

20. Прэтт, У. Цифровая обработка изображений Текст./ У. Прэтт // М.: Мир, т. 1-2, -1982.

21. Сергеев, В.В. Параллельно-рекурсивные КИХ-фильтры для обработки изображений Текст. / В.В. Сергеев // Компьютерная оптика М.: МЦНТИ. - 1992. - Вып.10-11. -с. 186-201.

22. Сергеев, B.B. Применение методологии распознавания образов в задачах цифровой обработки изображений Текст. /В.В. Сергеев // Автометрия. 1998. № 2.

23. Сергеев, В.В. Сравнительный анализ методов аппроксимации функций в задачах обработки изображений Текст. / В.В. Сергеев, В.Н. Копенков, A.B. Чернов // Компьютерная оптика. 2004. - Выпуск 26. - С. 118-122.

24. Сергеев, В.В. Сравнительный анализ методов нейронных сетей и иерархической аппроксимации в- задачах фильтрации изображений Текст. / В.В. Сергеев, В.Н. Копенков, A.B. Чернов // Научный журнал «Автометрия». 2006. Том 42, №2. - С. 100-106.

25. Фукунага К. Введение в статистическую теорию распознавания образов Текст. / К. Фукунага : Пер. с англ //- М.: Наука. 1979. - 368 с.

26. Уоссермен, Ф. Нейрокомпьютерная техника: Теория и практика = Neural Computing. Theory and Practice. Текст. / Ф. Уоссермен»// М.: Мир. - 1992. - 240 с.

27. Цифровая обработка изображений Текст. / Р. Вудс, Р.Гонсалес // М.: Техносфера, -2005.- 1072 с.

28. Чернов, A.B. Быстрое рекурсивное вычисление одномерных и двумерных конечных свертокТекст. / A.B. Чернов // Компьютерная оптика. 2003. Вып. 25. - С. 190-197.

29. Чуй, К. Введение в вейвлеты. Текст. /К. Чуй// М.: Мир. - 2001.

30. Ярославский, Л.П. Введение в цифровую обработку изображений. Текст. / Л.П. Ярославский //-М: Сов. Радио. 1979.

31. Ярославский, Л.П. О возможности параллельной и рекурсивной организации цифровых фильтров Текст. / Л.П. Ярославский // Радиотехника. 1984. - N 3. - С. 8791.

32. Яхъяева, Г.Э. Нечеткие множества и нейронные сети БИНОМ Текст. /Г.Э. Яхъяева// Лаборатория знаний. Интернет-университет информационных технологий ИНТУИТ.ру. 2008.

33. Ahn, Н. Tree-structured exponential regression modeling Текст. / H. Ahn // Biomedical Journal. -2007. Vol. 36. pp. 43-61.

34. Breiman, L. Classification and regression trees Текст. / Breiman, L., J. H. Friedman, R. A. Olshen, and C. J. Stone.// Monterey, Calif., U.S.A.: Wadsworth, Inc. 1984.

35. Beucher, S. The Watershed Transformation Applied to Image Segmentation Текст. / Beucher, S. // Scanning Microscopy International. 1992. Vol 6, - pp. 299-314.

36. Comaniciu, D. Mean Shift Analysis and Applications Текст. / Comaniciu D. and Meer P.// In Proc. Of IEEE Conf. on Comput. Vis. 1999. - pp. 1197-1203.

37. Chan, K.Y. LOTUS: An algorithm for building accurate and comprehensible logistic regression trees. Текст. / Chan K.-Y. and Loh. W.-Y. // Journal of Computational and Graphical Statistics, 2004. Vol. 13. - pp. 826-852.

38. Chernov, A.V. Fast Method for Local Image Processing and Analysis Текст. / A.V.Chernov, V.V.Myasnikov, V.V.Sergeyev // Pattern Recognition and Image Analysis. 1999. - Vol.9, No. 4. - pp.572-577.

39. Chernov, A.V. Image Reconstruction Methods Based on the Principles of Pattern Recognition Theory Текст. / A.V. Chernov, V.V. Sergeev // Pattern Recognition and Image Analysis. -1997. Vol. 6. No.4 - pp. 474-479.

40. Daubechies, I. Ten Lectures on Wavelets Текст. / I. Daubechies // CBMS-NSF Lecture

41. Notes. SIAM. 1992. - 377 p.

42. Ivo, M. Simultaneous determination of relative humidity and ammonia in air employing an optical fibre sensor and artificial neural network. Текст. / Ivo M. Raimundo Jr., R. Narayanaswamy // Sensors and Actuators. 2001. B. 74 - p. 60-68.

43. Glumov, N. I. Detection of the Objects on the Image Using a Sliding Windows Mode. Текст. /N.I. Glemov, E.I. Kolomiec, V.V. Sergeyev// Optic and Laser Technology, 1995. No.4, -pp. 241-249.

44. Glumov, N.I. Recursive Filters with Even Polynomial Impulse Responses for Processing Images by a Sliding Window Текст. / N.I. Glumov, V.V. Myasnikov, V.V. Sergeyev // Pattern Recognition and Image Analysis. 1996. - Vol. 6, No. 1. - pp. 122-123.

45. Kohonen, T. Self-Organizing Maps / T. Kohonen // Berlin — New York: Springer-Verlag. Third extended edition-2001. ISBN 0-387-51387-6, ISBN 3-540-67921-9.

46. Kopenkov, V. Effecient algorithms of local discrete wavelet transform with HAAR-like bases Текст. / V.N. Kopenkov // Pattern Recognition and Image Analysis. 2008. - Vol. 18, No. 4 -pp. 654-661.

47. Kopenkov, V.N. Regression restoration methods as applied to solve the problem of multidimensional indirect measurements Текст. / V.N. Kopenkov, V.V. Sergeev, E.I. Timbai// Pattern Recognition and Image Analysis. 2011. - Vol. 21, No. 2 - pp. 480483.

48. Li, B.C. Fast computation of moment" invariants Текст./ B.C. Li, J. Shen// Pattern Recognition, 1991. Vol.24, No. 8, - pp. 807-813.

49. Mallat, S. A wavelet tour of signal processing Текст. / S. Mallat S. // M.:Academic Press. -1999.-637 p.

50. Myasnikov, V.V. Methods for Designing Recursive FIR Filters Текст. / V.V. Myasnikov // International Conference "Computer Vision and Graphics" (ICCVG 2004): proceedings / Springer. Warsaw, Poland, 2004. - pp. 845-850.

51. Sergeev, V.V. Comparative analysis of the function approximation methods in image processing tasks Текст. / V.V. Sergeev, V.N. Kopenkov, A.V. Chernov // Pattern

52. Recognition and Image Analysis. 2005. Vol. 15. - pp. 308-311.

53. Sergeev, V.V. Comparison of the function approximation methods applied to image processing Текст. / V.V. Sergeev, V.N. Kopenkov, A.V. Chernov// Pattern Recognition and Image Analysis. 2007. Vol. 17, No.2 - pp. 217-221.

54. Widrow, B. 30 Years of Adaptive Neural Networks: Perceptron, Madaline, and Backpropagation Текст. /Bernard Widrow, Michael A. Lehr // Artificial Neural Networks: Concepts and Theory, IEEE Computer Society Press. 1992. - p. 327-354.

55. Werbos, P.J. Backpropagation Through Time: What It Does and How to Do It Текст. / Paul J. Werbos //Artificial Neural Networks: Concepts and Theory, IEEE Computer Society Press. -1992.-p. 309-319.