Аппроксимативный анализ законов распределения ортогональными полиномами и нейросетевыми моделями тема диссертации и автореферата по ВАК РФ 05.13.18, кандидат технических наук Лёзина, Ирина Викторовна

• Лёзина, Ирина Викторовна
• кандидат технических наук
• 2007

Оглавление диссертации кандидат технических наук Лёзина, Ирина Викторовна

Перечень условных обозначений и сокращений.

Введение.

1 Анализ методов аппроксимации законов распределения ортогональными многочленами и нейронными сетями.

1.1 Методы аппроксимации законов распределения.

1.2 Методы аппроксимации законов распределения ортогональными полиномами.

1.3 Методы аппроксимации законов распределения нейронными сетями.

Выводы и результаты.

2 Аппроксимация функций распределения и плотностей вероятности ортогональными рядами.

2.1 Построение сплайн-модели аппроксимируемой характеристики.

2.2 Гистограммно-аппроксимативные оценки плотности вероятности и функции распределения.

2.3 Метод повышения точности аппроксимации сведением концов аппроксимируемой функции к нулю.

2.4 Метод двусторонней аппроксимации функций распределения и плотности вероятности.

2.5 Степенное представление аппроксимируемых характеристик и нормировка.

2.6 Состоятельность и несмещенность оценки погрешности.

Выводы и результаты.

3 Аппроксимация функций нейронными сетями.

3.1 Математическое обоснование возможности аппроксимации функций нейронными сетями.

3.2 Аппроксимация многослойным персептроном.

3.3 Аппроксимация радиально-базисной сетью.

3.4 Состоятельность и несмещенность оценки погрешности.

Выводы и результаты.

4 Программный комплекс аппроксимативного анализа законов распределения ортогональными полиномами и нейронными сетями.

4.1 Описание программного комплекса.

4.2 Подсистема задания входных воздействий.

4.3 Подсистема аппроксимативного анализа.

4.4 Подсистема интерполяции.

4.5 Подсистема статистической обработки.

4.6 Подсистема информационного обеспечения.

Выводы и результаты.

5 Исследование качества аппроксимации и апробация программного комплекса.

5.1 Исследование аппроксимативных возможностей ортогональных базисов.

5.2 Исследование аппроксимативных возможностей MLP-сетей.

5.3 Исследование аппроксимативных возможностей RBF-сетей.

5.4 Исследование погрешности аппроксимации от объема выборки и числа дифференциальных коридоров.

5.5 Применение комплекса программ для обработки результатов экспериментальных исследований.

Выводы и результаты.

Введение диссертации (часть автореферата) на тему «Аппроксимативный анализ законов распределения ортогональными полиномами и нейросетевыми моделями»

При проведении различного рода исследований зачастую приходится прибегать к обработке больших массивов однородной информации. При этом объем выборки может достигать огромных размеров, и оперировать им становится не очень удобно. Кроме того, любые результаты несут в себе некоторую долю погрешности, вносимую по различным причинам. Если в условиях конкретной задачи можно исходить из предположения о том, что данная выборка распределена по какому-либо закону, пусть даже нам неизвестному, то в таком случае можно перейти от хранения информации в виде числовых массивов к хранению закона распределения числового ряда. Помимо удобства в хранении это позволит: а) избавиться от необходимости повторных исследований, зачастую длительных и дорогостоящих, для получения альтернативной выборки, ее можно будет сгенерировать по имеющемуся закону распределения, б) уменьшить влияние случайных погрешностей при получении данных на реальных объектах, это так называемая операция сглаживания, в) упростить получение вероятностных характеристик числовых выборок.

Аппроксимация законов распределения (ЗР) методом моментов или параметрическими методами имеет ряд недостатков, который делает их неприменимыми в ряде случаев. Во-первых, мы не всегда можем предположить, какому именно закону подчинена имеющаяся у нас выборка, а во-вторых, исследуемые ЗР могут существенно отличаться от имеющегося набора стандартных законов.

По этим причинам в качестве альтернативного метода можно предложить аппроксимацию ЗР ортогональными рядами. Этот метод аппроксимации инвариантен к виду распределения, что расширяет область его применимости.

Предлагаемый метод основан на аппроксимации гистограммы, полученной при анализе исследуемой выборки, и построении непрерывной функ6 ции, сглаживающей гистограмму. В дальнейшем полученная гладкая функция может использоваться для нахождения моментных и функциональных характеристик.

Кроме аппроксимации функций многочленами в последнее время все больше внимания уделяется приближению функций многих переменных с помощью линейных операций и суперпозиций функций одного переменного. Такое приближение осуществляется специальными формальными «устройствами» - нейронными сетями. Нейрон получает на входе вектор сигналов х, вычисляет его скалярное произведение на вектор весов w и некоторую функцию одного переменного cp(x,w). Результат пересылается на входы других нейронов или передается на выход. Таким образом, нейронные сети вычисляют суперпозиции простых функций одного переменного и их линейных комбинаций.

Для решения задачи аппроксимации с применением нейронной сети следует спроектировать структуру сети, адекватную поставленной задаче. В данной работе используется многослойный персептрон с одним скрытым слоем и радиально-базисная сеть.

Вопросы разработки аппроксимативных методов и алгоритмов, а также вопросы, посвященные теории нейронных сетей, в разное время исследовали Л.Деврой, Л.Дьерфи, В.Н.Вапник, Э.А.Надарая, С.А.Прохоров, Ф.П.Тарасенко, Н.Н.Ченцов, У.Мак-Каллок, У. Питц, Ф.Розенблатт, Д.Хопфилд, С. Гроссберг, Т.Кохонен, М.Минский, А.И.Галушкин, Н.М.Амосов, А.Н.Горбань, С.А.Терехов, С.Хайкин, С.Осовский и другие ученые.

Анализ существующих современных автоматизированных комплексов математических расчетов (Statistica, Mathematica, MatLab, Mathcad) показал, что они позволяют использовать ортогональные функции, однако в большинстве из них отсутствуют алгоритмы аппроксимации, использующие в качестве аппроксимирующих выражений ортогональные полиномы. Также эти комплексы требуют дополнительной настройки или программирования для решения определенных задач.

Существует довольно много универсальных программных пакетов для работы с нейронными сетями (Statistica Neural Networks, NeuroShell, Matlab Neural Network Toolbox, NeuroSolutions, BrainMaker). Однако для решения задач с помощью этих комплексов пользователь должен выполнить настройки нейронной сети - выбрать ее структуру, алгоритм обучения и т.д., подходящие именно для конкретной решаемой задачи. Это, в свою очередь, требует от пользователя владения знаниями по теории нейронных сетей.

В связи с этим актуальной представляется задача разработки алгоритмов аппроксимации законов распределения ортогональными полиномами (Лагерра, Лежандра, Чебышева первого и второго рода, Эрмита) и нейросете-выми моделями (многослойным персептроном и радиально-базисной сетью), а также построения комплекса программ, реализующего эти алгоритмы.

Целью работы является разработка алгоритмов и комплекса программ для аппроксимативного анализа законов распределения в ортогональных базисах, а также с использованием нейронных сетей.

В соответствии с поставленной целью в диссертационной работе решаются следующие задачи исследования:

1. Разработка алгоритмов аппроксимации законов распределения с использованием ортогональных базисов и нейронных сетей.

2. Оценка результатов аппроксимации с помощью максимума и верхней границы доверительного интервала по «правилу трёх сигма» для среднего квадратического отклонения, а также с помощью критериев Пирсона и Колмогорова.

3. Исследование и сравнительный анализ результатов аппроксимации ортогональными полиномами и нейронными сетями.

4. Разработка программного комплекса, реализующего разработанные алгоритмы.

5. Проведение экспериментальных исследований по обработке реальных данных с целью апробации комплекса программ.

Методы исследования, используемые в диссертации, основаны на положениях теории вероятностей и математической статистики, теории оптимизации и аппроксимации, методах имитационного моделирования, численных методах, теории нейронных сетей.

Научная новизна работы заключается в следующих положениях:

1. Предложена методика аппроксимации законов распределения ортогональными полиномами с разбиением закона распределения на две ветви относительно точки экстремума.

2. Предложена методика аппроксимации законов распределения ортогональными полиномами со сведением концов аппроксимируемой функции к нулю.

3. Предложена методика аппроксимации законов распределения многослойным персептроном. Многослойный персептрон используется не для построения сетевой модели, аппроксимирующей заданную функцию, а для обучения сети с целью получения неизвестных коэффициентов разложения на выходе.

4. Предложена методика аппроксимации законов распределения ра-диально-базисной сетью. В качестве узлов радиально-базисной сети используются не только классические радиально-базисные функции, но и сигмоидальные функции, степенные функции, а также ортогональные полиномы Лежандра, Чебышева I и II рода, Лагерра и Эрмита.

5. Исследованы алгоритмы аппроксимации законов распределения ортогональными полиномами и нейронными сетями.

Практическая ценность работы заключается в разработке алгоритмического и программного обеспечения автоматизированного программного комплекса аппроксимативного анализа, позволяющего решать следующие задачи:

1. Моделирования случайных последовательностей с заданным законом распределения.

2. Аппроксимации законов распределения ортогональными полиномами.

3. Аппроксимации законов распределения нейронными сетями.

4. Обработка данных натурного эксперимента.

Положения, выносимые на защиту:

1. Методика и алгоритмы аппроксимации законов распределения ортогональными полиномами Лежандра, Чебышева первого и второго рода, JTareppa, Эрмита с выделением точки экстремума и со сведением концов аппроксимируемой функции к нулю.

2. Методика и алгоритмы аппроксимации законов распределения многослойным персептроном и радиально-базисной сетью. Многослойный персептрон используется не для построения сетевой модели, аппроксимирующей заданную функцию, а для обучения сети с целью получения неизвестных коэффициентов разложения на выходе. Помимо классических радиально-базисных функций в качестве узлов радиально-базисной сети используются сигмои-дальные и степенные функции, а также ортогональные полиномы Лежандра, Чебышева I и II рода, Лагерра и Эрмита.

3. Программный комплекс аппроксимативного анализа законов распределения ортогональными базисами, а также нейронными сетями.

Внедрение результатов работы

Результаты работы внедрены в учебном процессе кафедры ИСТ СГАУ при подготовке студентов по специальности 230102 и на ФГУП ГНП РКЦ «ЦСКБ-Прогресс».

Апробация работы

Основные положения и результаты работы докладывались и обсуждались на XXX Юбилейной Самарской областной студенческой научной конференции (Самара, 2004), международном симпозиуме «Надежность и качество» (Пенза, 2004), международной научно-технической конференции «Информационные, измерительные и управляющие системы (ИИУС - 2005)» (Самара, 2005), международной научно-технической конференции, посвященной 110-летию изобретения радио и 75-летию Саратовского государственного технического университета «Радиотехника и связь» (Саратов, 2005), Всероссийской молодежной научной конференции с международным участием «VIII Королевские чтения» (Самара, 2005), Всероссийской межвузовской научно-практической конференции «Компьютерные технологии в науке, практике и образовании» (Самара 2005), третьей международной научно-технической конференции «Радиотехника и связь» (Саратов, 2006), научно-технической конференции с международным участием «Перспективные информационные технологии в научных исследованиях, проектировании и обучении» (ПИТ-2006) (Самара, 2006), Всероссийской научной конференции «Инновационные технологии в управлении, образовании, промышленности» («АСТИНТЕХ-2007») (Астрахань, 2007), международной научно-технической конференции «Проблемы автоматизации и управления в технических системах» (Пенза, 2007), II межрегиональной научно-практической конференции «Информационные технологии в высшем профессиональном образовании» (Тольятти-Самара, 2007), четвертой международной научно-технической конференции «Радиотехника и связь» (Саратов, 2007).

Публикации

Соискатель имеет 15 опубликованных работ, в том числе по теме диссертации 15 работ, из них опубликованы в ведущих рецензируемых научных журналах и изданиях, определенных Высшей аттестационной комиссией, 2.

Объем и структура работы

Диссертация состоит из введения, пяти глав и заключения. Основное содержание работы изложено на 108 страницах, включая 32 рисунка и 22 таблицы. Список использованных источников включает 62 наименования, 2 приложения размещены на 5 страницах.

Заключение диссертации по теме «Математическое моделирование, численные методы и комплексы программ», Лёзина, Ирина Викторовна

Выводы и результаты

1. Проведено исследование аппроксимативных свойств ортогональных полиномов Лежандра, Чебышева I и II рода, Лагерра, Эрмита на выборках, полученных методом имитационного моделирования. Метод сведения концов аппроксимируемой функции к нулю в большинстве случаев повышает точность аппроксимации, это особенно заметно на малом количестве полиномов (меньше 10). Метод аппроксимации, основанный на разбиении плотности вероятности на две ветви, в ряде случаев значительно повышает точность аппроксимации, это хорошо выражено при наличии явно выраженного пика, например, у выборок, распределенных по закону Лапласа и подобным. Для различных плотностей вероятности лучшими оказываются оценки в различных базисах, то есть нельзя однозначно рекомендовать тот или иной базис для оценивания плотности вероятности.

2. Проведено исследование аппроксимативных свойств MLP-сети, которая обучалась для нахождения коэффициентов разложения в различных аппроксимативных базисах: степенные функции, ортогональные полиномы Лежандра, Чебышева I и II рода, Эрмита, Лагерра. Исследование проводилось методом имитационного моделирования. При аппроксимации MLP-сетъ в большинстве случаев показывает схожие результаты с предыдущим подходом, однако иногда дает меньшее значение среднего квадратического отклонения плотности вероятности, чем при аппроксимации ортогональными полиномами, это характерно при использовании базисов Лагерра и Эрмита. Главное преимущество аппроксимации MLP-сетями заключается в том, что этот подход не ограничивает выбор аппроксимативного базиса только семействами ортогональных функций. Это продемонстрировано использованием семейства степенных функций, которое дает схожие результаты.

3. Проведено исследование аппроксимативных свойств RBF-сеш, в которых в качестве узлов использовались сигмоидальные, радиальные, степенные функции, а также ортогональные полиномы Лежандра, Чебышева I и II рода, Лагерра, Эрмита. Исследования показали, что использование RBF-cqtqu оправдано в случае малой длины ряда разложения (меньше 10). В остальных случаях они показывают схожие результаты с предыдущими подходами.

4. Исследование зависимости погрешности от увеличения объема выборки показало, что погрешность неуклонно падает с увеличением числа отсчетов в выборке. Исследование зависимости погрешности от числа дифференциальных коридоров показало, что оптимальным является выбор количества коридоров в интервале 15-25.

5. Разработанный программный комплекс применен для аппроксимации плотности вероятности, построенной на основе выборки измерений параметров углового положения КА, представленной тремя независимыми каналами крен, рыскание, тангаж.

Заключение

В ходе выполнения диссертационной работы были получены следующие основные результаты и выводы:

1. Разработан алгоритм получения гистограммно-аппроксимативной оценки плотности вероятности и функции распределения ортогональными полиномами Лежандра, Чебышева I и II рода, Лагерра и Эрмита со сведением концов аппроксимируемой функции к нулю.

2. Разработан алгоритм получения гистограммно-аппроксимативной оценки плотности вероятности ортогональными полиномами Лежандра, Чебышева I и II рода, Лагерра и Эрмита с разделением на две ветви.

3. Разработана модель MLP-сети для расчета коэффициентов ряда разложения. Нейронная сеть используется не для построения сетевой модели, аппроксимирующей заданную функцию, а для обучения сети с целью получения неизвестных коэффициентов разложения на выходе.

4. Разработана сетевая структура на основе RBF-сети для моделирования аппроксимирующего выражения. В качестве узлов сети используются не только классические радиально-базисные функции, но и сигмоидальные функции, степенные функции, а также ортогональные полиномы Лежандра, Чебышева I и II рода, Лагерра и Эрмита.

5. Полученные оценки погрешности аппроксимации исследованы на состоятельность и несмещенность. Расчеты показали, что полученные оценки погрешности являются состоятельными и смещенными.

6. Разработан программный комплекс аппроксимативного анализа законов распределения ортогональными полиномами и нейронными сетями.

7. Проведен сравнительный анализ результатов аппроксимации плотности вероятности ортогональными полиномами и нейронными сетями. Результаты аппроксимации проверялись с помощью максимума и верхней границы доверительного интервала по «правилу трёх сигма» для среднего квадратического отклонения. В качестве тестовых примеров использовались данные, полученные методом имитационного моделирования.

8. Проведена аппроксимация плотности вероятности, построенной на основе выборки измерений параметров углового положения КА представленной тремя независимыми каналами: крен, рыскание, тангаж программным комплексом, разработанным в рамках данной диссертационной работы. Результаты аппроксимации проверялись по критериям Пирсона и Колмогорова. Полученные данные использовались в имитационном моделировании для определения величины микроускорений при компенсации внешних и внутренних возмущений.

Список литературы диссертационного исследования кандидат технических наук Лёзина, Ирина Викторовна, 2007 год

1. Айвазян, С.А. Прикладная статистика: основы моделирования и первичная обработка данных Текст. : справочное издание / Айвазян С.А., Еню-ков И.С., Мешалкин Л.Д. М.: Финансы и статистика, 1983. - 471 с. -17000 экз.

2. Алгоритмы и программы восстановления зависимостей Текст. / В.Н. Вапник, Т.Г. Глазкова, В.А. Кощеев, А.И. Михальский, А.Я. Червоненкис. Под ред. В.Н. Вапника. -М.: Наука, 1984.-816с. 24000 экз.

3. Ахметшина, О.Р. Исследование метода построения плотности распределения с помощью проекционного оценивания Электронный ресурс. 2005. http://nit.miem.edu.ru/2005/sectionl/3.1 l(m).htm.

4. Ахметшина, О.Р. Разработка методов оценки плотности методом вейвлет-анализа с учетом цензурированной информации Электронный ресурс. -2004. http://www.polar.mephi.ru/con£/2004/tez2004/bez.htm

5. Бендат, Дж. Прикладной анализ случайных данных Текст. / Бендат Дж., Пирсол А. Пер. с англ. М.: Мир, 1989. - 540 е., ил. - 19000 экз. - ISBN 5-03-001071-8.

6. Бенткус, Р. Оптимальные статистические оценки плотности распределения в присутствие априорной информации Текст. / Бенткус Р., Казбарас А. // Литовский математический сборник. T.XXII- 1982. -№3. С.29-40.

7. Богданов, Ю.И. Информация Фишера и непараметрическая аппроксимация плотности распределения Текст. // Заводская лаборатория. Диагностика материалов, т. 64. 1998. - N 7. С. 54-60.

8. Боровков, А.А. Курс теории вероятностей Текст. : для мат. и физ. специальностей вузов / М.: Наука, 1972. 287 с. - 75000 экз.

9. Ю.Боровков, А.А. Математическая статистика: Оценка параметров. Провека гипотез Текст. : учебное пособие для мат. и физ. спец. вузов / М.: Наука, 1984.-472 с.-23000 экз.

10. Вапник, В.Н. Восстановление зависимостей по эмпирическим д^^ым Текст. / М.: Наука, 1979. 5500 экз.

11. Вапник, В.Н. Непараметрические методы восстановления плотности вероятности Текст. / Вапник В.Н., Стефанюк А.Р. // Автоматика и телемеханика -1978. №8. С.38-52.

12. Вентцель, Е.С. Задачи и упражнения по теории вероятностей Текст. : Учеб.пособие для втузов / Е.С. Вентцель, JI.A. Овчаров. 4-е изд., пере-раб. и доп. - М.: Высш. шк., 2002. - 448 е.: ил. - 6000 экз. - ISBN 5-06004221-9.

13. Гольцов, Н.А. Некоторые обобщения методов конструирования алгоритмов прикладного численного анализа Текст. / М.: МГУ леса, 2001.- 64с.

14. Горбань, А.Н. Обобщенная аппроксимационная теорема и вычислительные возможности нейронных сетей Текст. / Сибирский журнал вычислительной математики. 1998. - Т.1, №1. С. 12-24.

15. Деврой, JI. Непараметрическое оценивание плотности. L. подход Текст]. / Деврой Л., Дьерфи Л. Пер. с англ. - М.: Мир, 1988. - 408 с. -4500 экз. - ISBN 5-03-000475-0.

16. Коварцев, А.Н. Численные методы Текст.: курс лекций / Самарский государственный аэрокосмический университет, 2000. 177 с. - 200 экз. -ISBN 5-7883-0116-5.

17. Комарцова, Л.Г. Нейрокомпьютеры Текст.: учеб. пособие для вузов / Ко-марцова Л.Г., Максимов А.В. М.: Изд-во МГТУ им. Н.Э. Баумана, 2002. - 320 е., ил. (Сер. Информатика в техническом университете). - 3000 экз. -ISBN 5-7038-1908-3.

18. Крамер, Г. Математические методы статистики Текст. / Пер. с англ. А.С. Монина и А.А. Петрова, под ред. академика А.Н. Колмогорова. Изд. 2-е, стереотипное. М: Мир, 1975. - 648 с.

19. Кулаичев, А.П. Полное собрание сочинений Текст. В трех томах. Том 1. Методы и средства анализа данных в среде Windows. STADIA. / Изд. 3-е, перераб и доп. М.: Информатика и компьютеры, 1999. - 341 е., ил. -ISBN 5-279-1082-0.

20. Левин, Б.Р. Теоретические основы статистической радиотехники Текст. / 3-изд. перераб. и доп. М.: «Радио и связь», 1989. - 656 е.: ил. - 11000 экз. -ISBN 5-256-00264-3.

21. Надарая, Э.А. Непараметрическое оценивание плотности вероятности и кривой регрессии Текст. / Тбилиси: ТГУ, 1983. 194 с.

22. Надарая, Э.А. Об оценке плотности распределения случайных величин Текст. / Сообщ. АН ГССР. 1964. - Т.34. - № 2. - С. 277-280.

23. Прохоров, А.В. Задачи по теории вероятностей: Основные понятия. Предельные теоремы. Случайные процессы Текст.: учебное пособие / Прохоров А.В., Ушаков В.Г., Ушаков Н.Г. М.: Наука, 1986. - 328 с.

24. Прохоров, С.А. Аппроксимативный анализ случайных процессов Текст. / Самара: СГАУ, 2001. 329 е.: ил. - 1000 экз. - ISBN 9965-01-958-4.

25. Прохоров, С.А. Математическое описание и моделирование случайных процессов Текст. / Самара: СГАУ, 2001. 329 с.

26. Прохоров, С.А. Программный комплекс корреляционно-спектрального анализа в ортогональных базисах Текст. / Прохоров С.А., Графкин А.В. -Самара: СНЦ РАН, 2005. 198 е.,ил. - 500 экз. - ISBN 5-93424-184-2.

27. Рытов, С.Н. Введение в статистическую радиофизику Текст. Часть 1. Случайные процессы / Изд. 2-е, перераб. и доп. М.: Наука, 1976. - 496 с. с илл. - 16000 экз.

28. Саратовский государственный технический университет Саратов, 2005.- С 30-34. Библиогр.: с.ЗЗ.

29. Солодянников, Ю. В. Математическая статистика Текст.: учебное пособие к спецкурсу. /4 1. Куйбышевский государственный университет, 1982.- 106 с.

30. Суетин, П.К. Классические ортогональные многочлены Текст. / Изд. 2-е, доп. -М.: Наука. Гл. ред. физ.-мат. лит-ры, 1979. 416 с. - 8000 экз.

31. Суетин, П.К. Ортогональные многочлены по двум переменным Текст. / М.: Наука. Гл. ред. физ.-мат. лит-ры, 1988. 384 с. - 3000 экз. - ISBN 502-13 757-Х.

32. Тебякин, В.П. Вероятностные методы в радиотехнике Текст.: учебное пособие / Куйбышевский авиационный институт, 1977. 152 с.

33. Терехов, В.А. Нейросетевые системы управления Текст.: учеб. пособие для вузов / Терехов В.А., Ефимов Д.В., Тюкин И.Ю. М.: Высш. шк. 2002.- 183 е.: ил. 5000 экз. - ISBN 5-06-004094-1.

34. Терехов, С.А. Нейросетевые аппроксимации плотности в задачах информационного моделирования Электронный ресурс. / Снежинск, 1998, http://alife.narod.ru/lectures/neural/Neu.htm.

35. Терехов, С.А. Лекции по теории и приложениям искусственных нейронных сетей Электронный ресурс. / Снежинск, 1994=1998, http://alife.narod.ru/lectures/neural/Neu index.htm.

36. Тихонов, А.Н. Методы решения некорректных задач Текст.: учебное пособие для вузов / Тихонов А.Н. Арсенин В.Я. Изд 3-е, исправленное. М.: Наука, 1986.-288 с.

37. Фаронов, В. Delphi 5 Текст.: учебный курс / М.: «Нолидж», 2001. 608 е., ил. - 5000 экз. - ISBN 5-89251-070-0.

38. Хайкин, С. Нейронные сети Текст.: полный курс / 2-е издание.: Пер с англ. М.: Издательский дом «Вильяме», 2006. - 1104 с.: ил. - Парал. тит. англ. - 2000 экз. - ISBN 5-8459-0890-6 (рус.).

39. Zeevi, A.J. Density Estimation Through Convex Combination of Densities: Approximation and Estimation Bounds Text. / Zeevi A.J., Meir R. // Neural Networks. 1996, v. 10, p.99-109.