Программный комплекс аппроксимации двумерных плотностей вероятности тема диссертации и автореферата по ВАК РФ 05.13.18, кандидат технических наук Лёзин, Илья Александрович

• Лёзин, Илья Александрович
• кандидат технических наук
• 2009

Оглавление диссертации кандидат технических наук Лёзин, Илья Александрович

Перечень условных обозначений и сокращений.

Введение.

1 Анализ методов аппроксимации двумерных плотностей вероятности

1.1 Методы аппроксимации двумерных плотностей вероятности ортогональными функциями.

1.2 Методы аппроксимации двумерных плотностей вероятности нейронными сетями.

Выводы и результаты.

2 Аппроксимация двумерной плотности вероятности.

2.1 Аппроксимация плотности вероятности ортогональными полиномами и функциями.

2.1.1 Двумерные ортогональные базисы.

2.1.2 Построение первичного приближения двумерным сплайном.

2.1.3 Вычисление коэффициентов разложения.

2.1.4 Вычисление оптимальных значений коэффициентов масштаба.

2.1.5 Компенсация отрицательных областей.

2.1.6 Нормализация выражения плотности вероятности.

2.2 Аппроксимация плотности вероятности нейронными сетями.

2.2.1 Подготовка сетки значений.

2.2.2 Построение аппроксимирующей модели.

2.2.3 Обучение нейронной сети.

2.3 Оценка результатов аппроксимации.

2.3.1 Оценка погрешности аппроксимации.

2.3.2 Проверка аппроксимирующего выражения с помощью величины погрешности и критериев согласия.

Результаты.

3 Программный комплекс аппроксимации двумерных плотностей вероятности.

3.1 Описание программного комплекса.

3.2 Исследование зависимости погрешности от параметров аппроксимации.

3.2.1 Задание оптимального числа коридоров.

3.2.2 Выбор аппроксимирующей модели.

3.3 Практическое внедрение программного комплекса.

3.3.1 Анализ погрешности измерения геометрических размеров лопаток газотурбинных двигателей.

3.3.2 Оценка качества смесей углеводородных топлив.

3.3.3 Декомпозиция законов распределения.

Выводы.

Введение диссертации (часть автореферата) на тему «Программный комплекс аппроксимации двумерных плотностей вероятности»

Исследование параметров различных объектов зачастую дает результат в виде больших массивов однородной информации, являющихся результатом многократных повторений измерений либо с целью повышения достоверности результата, либо с целью накопления большого количества опытных данных об исследуемом предмете. При этом объем выборки может достигать огромных размеров, и оперировать им становится не очень удобно. Кроме того, любые результаты несут в себе некоторую долю погрешности, вносимую по различным причинам. Если в условиях конкретной задачи можно исходить из предположения о том, что данная выборка распределена по какому-либо закону, пусть даже нам неизвестному, то в таком случае можно перейти от хранения информации в виде числовых массивов к хранению закона распределения числового ряда [4, 7, 8]. Помимо удобства в хранении это позволит: а) использовать аналитическое выражение закона распределения для дальнейшего анализа, б) уменьшить влияние случайных погрешностей при получении данных на реальных объектах, сглаживая результаты, в) упростить получение вероятностных характеристик числовых выборок и прочие характеристики законов распределения, например, моду, вероятность попадания отсчета в заданную область, минимальные границы области с заданной вероятностью попадания, условные вероятности и т.д., а также разбиение на отдельные составляющие в случае декомпозиции законов.

Аппроксимация плотностей вероятности методом моментов или параметрическими методами имеет некоторые недостатки, которые делают их неприменимыми в ряде случаев. Во-первых, мы не всегда можем предположить, какому именно закону подчинена имеющаяся у нас выборка, а во-вторых, исследуемые плотности вероятности могут существенно отличаться от имеющегося набора стандартных законов.

По этим причинам в качестве универсального метода восстановления аналитического выражения плотности вероятности можно предложить представление неизвестной плотности в виде суперпозиции базисных функций некоторого семейства с неизвестными коэффициентами. Такой подход нечувствителен к виду распределения входных данных, что расширяет область его применимости.

Предлагаемый метод основан на анализе исследуемой выборки, построении на ее основе двумерной гистограммы и вычислении некоторой непрерывной функции, проходящей через точки, вычисленные по столбцам гистограммы. В дальнейшем полученная гладкая функция может использоваться для нахождения числовых и функциональных характеристик выборки, а также для других видов анализа, оперирующих аналитическими выражениями плотности вероятности.

Данный метод может быть реализован с помощью аппроксимации плотности вероятности в некотором ортогональном базисе. Таким образом, неизвестная функция плотности вероятности будет представлена в виде конечной суммы ортогональных функций.

Кроме аппроксимации функций ортогональными рядами в последнее время все больше внимания уделяется приближению функций многих переменных с помощью линейных операций и суперпозиций функций одного переменного. Такое приближение осуществляется специальными формальными «устройствами» - нейронными сетями. Нейрон получает на входе вектор сигналов л:, вычисляет его скалярное произведение на вектор весов w и некоторую функцию одного переменного. Результат пересылается на входы других нейронов или передается на выход. Таким образом, нейронные сети вычисляют суперпозиции простых функций одного переменного и их линейных комбинаций. Для решения задачи аппроксимации с применением нейронной сети следует спроектировать структуру сети, адекватную поставленной задаче. В данной работе используется радиально-базисная сеть, являющаяся универсальным аппроксиматором.

Разработке методов аппроксимации неизвестной плотности вероятности ортогональными рядами и нейронными сетями, решению сопутствующих проблем и сравнению двух способов аппроксимации посвящена данная работа.

Вопросы разработки аппроксимативных методов и алгоритмов, а также вопросы, посвященные теории нейронных сетей в разное время исследовали Л.Деврой, Л.Дьерфи, В.Н.Вапник, Э.А.Надарая, С.А.Прохоров, Ф.П.Тарасенко, Н.Н.Ченцов, М.Розенблатт, А.Н.Горбань, С.Хайкин, С.Осовский и другие ученые [14, 15, 16, 17, 30, 46, 47, 48, 50, 54].

Анализ существующих современных автоматизированных комплексов математических расчетов (Statistica, SPSS, MathLab, MathCad) показал, что они позволяют работать с одномерными ортогональными полиномами, однако в них отсутствуют алгоритмы представления функций, заданных в табличном виде, ортогональными рядами. При этом аппроксимация двумерных функций вообще не рассматривается. Также эти комплексы требуют дополнительной настройки или программирования для решения конкретных задач.

Существует довольно много универсальных программных пакетов для работы с нейронными сетями (Statistica Neural Networks, NeuroShell, Matlab Neural Network Toolbox, NeuroSolutions, BrainMaker). Однако для решения задач с помощью этих комплексов пользователь должен выполнить настройки нейронной сети (выбрать ее структуру, задать алгоритм обучения, подать на вход обучающие данные и т.д.), подходящие именно для конкретной решаемой задачи. Это, в свою очередь, требует от пользователя владения знаниями по теории нейронных сетей и умение программировать на языке используемого пакета.

В связи с этим актуальной представляется задача разработки алгоритмов аппроксимации двумерных плотностей вероятности ортогональными функциями и нейросетевыми моделями, а также построения комплекса программ, реализующего эти алгоритмы.

Целью работы является разработка алгоритмов и комплекса программ для аппроксимативного анализа двумерных плотностей вероятности в ортогональных базисах, представленных произведениями одномерных функций Лежандра, Чебышева, JIareppa и Эрмита, а также с помощью аппроксимации радиально-базисными сетями.

В соответствии с поставленной целью в диссертационной работе решаются следующие задачи исследования:

1. Анализ и сравнение имеющихся материалов в области аппроксимации двумерных функций и восстановления двумерных плотностей вероятности.

2. Разработка алгоритмов аппроксимации двумерных законов распределения с использованием ортогональных базисов и нейронных сетей.

3. Оценка результатов аппроксимации с помощью критерия Пирсона и величины погрешности.

4. Создание программного комплекса, реализующего разработанные алгоритмы.

5. Исследование и сравнительный анализ результатов аппроксимации ортогональными функциями и нейронными сетями.

6. Проведение экспериментальных исследований по обработке реальных данных с целью практического внедрения комплекса программ.

Методы исследования, используемые в диссертации, основаны на положениях теории вероятности и математической статистики, теории оптимизации и аппроксимации, методах имитационного моделирования, численных методах, теории нейронных сетей.

Научная новизна работы заключается в следующих положениях:

1. Предложены модифицированные формулы расчета рекомендуемого числа коридоров в гистограмме по правилу Стёрджеса, методу Фридмана-Диакониса и методу Скотта для двумерного случая, а также выработаны рекомендации по выбору оптимального числа коридоров по осям.

2. Предложена методика аппроксимации двумерных плотностей вероятности семействами двумерных ортогональных функций, являющихся произведением одномерных ортогональных функций, с расчетом оптимальных значений коэффициентов масштаба для достижения минимума погрешности аппроксимации, а также предложена методика аппроксимации двумерных плотностей вероятности радиаль-но-базисной сетью.

3. Предложена методика определения областей отрицательности полученных выражений и разработан ускоренный алгоритм нахождения базиса Грёбнера для решения систем двух полиномиальных уравнений с двумя неизвестными, а также разработана методика компенсации областей отрицательности функциями Гаусса через локализацию минимумов.

4. Выработаны рекомендации по применению предложенных моделей и выбору значений настраиваемых параметров для решения конкретных задач.

Практическая ценность заключается в разработке алгоритмического и программного обеспечения автоматизированного программного комплекса аппроксимативного анализа, позволяющего решать следующие задачи:

1. Моделирование двумерных случайных последовательностей с заданным законом распределения, являющимся произведением стандартных одномерных законов.

2. Аппроксимация двумерных плотностей вероятности ортогональными функциями, являющимися произведениями одномерных ортогональных базисов Лежандра, Чебышева, Лагерра и Эрмита.

3. Аппроксимация двумерных плотностей вероятности радиально-базисными сетями.

4. Обеспечение условий неотрицательности и нормировки полученных выражений.

5. Обработка данных натурного эксперимента.

Положения, выносимые на защиту:

1. Двумерная модификация правил Стёрджеса, Скотта и Фридмана-Диакониса для определения оптимального числа коридоров по осям гистограммы.

2. Методика и алгоритмы аппроксимации двумерных плотностей вероятности ортогональными функциями, являющимися произведениями одномерных ортогональных функций Лежандра, Чебышева, Лагерра и Эрмита, с использованием первичного приближения сплайнами.

3. Методика определения оптимальных значений коэффициентов масштаба при аппроксимации функциями Лагерра и Эрмита.

4. Ускоренный алгоритм нахождения базиса Грёбнера для решения системы двух полиномиальных уравнений с двумя неизвестными.

5. Методика нахождения и компенсации отрицательно определенных областей полученного аппроксимирующего выражения.

6. Методика и алгоритмы аппроксимации двумерных плотностей вероятности радиально-базисной сетью.

7. Программный комплекс аппроксимативного анализа двумерных плотностей вероятности ортогональными базисами и радиально-базисными сетями.

Внедрение результатов работы

Результаты работы внедрены в учебном процессе кафедры «Информационных систем и технологий» СГАУ при подготовке студентов по специальности 230102, а также в ООО «НТФ Протон» для исследования оптимальных пропорций компонентов при компаундировании бензинов.

Апробация работы

Основные положения и результаты работы докладывались и обсуждались на XXX Юбилейной Самарской областной студенческой научной конференции (Самара, 2004), международном симпозиуме «Надежность и качество» (Пенза, 2004), международной научно-технической конференции «Информационные, измерительные и управляющие системы (ИИУС-2005)» (Самара, 2005), международной научно-технической конференции, посвященной , 110-летию изобретения радио и 75-летию Саратовского государственного технического университета «Радиотехника и связь» (Саратов, 2005), Всероссийской молодежной научной конференции с международным участием «VIII Королевские чтения» (Самара, 2005), Всероссийской межвузовской научно-практической конференции «Компьютерные технологии в науке, практике и образовании» (Самара, 2005), третьей международной научно-технической конференции «Радиотехника и связь» (Саратов, 2006), научно-технической конференции с международным участием «Перспективные информационные технологии в научных исследованиях, проектировании и обучении» (ПИТ-2006) (Самара, 2006), Всероссийской научной конференции «Инновационные технологии в управлении, образовании, промышленности» («АСТИНТЕХ-2007») (Астрахань, 2007), международной научно-технической конференции «Проблемы автоматизации и управления в технических системах» (Пенза, 2007), II межрегиональной научно-практической конференции «Информационные технологии в высшем профессиональном образовании» (Тольятти-Самара, 2007), четвертой международной научно-технической конференции «Радиотехника и связь» (Саратов, 2007), международном симпозиуме «Надежность и качество» (Пенза, 2009), международной научно-технической конференции «Проблемы и перспективы развития дви-гателестроения» (Самара, 2009).

Публикации

По результатам исследований опубликовано 18 печатных работ, в том числе 1 монография, 15 статей, из них 3 — в изданиях, определенных Высшей аттестационной комиссией Российской Федерации.

Объем и структура работы

Диссертация состоит из введения, трех глав и заключения. Основное содержание работы изложено на 112 страницах, включая 20 рисунков и 18 таблиц. Список использованных источников включает 67 наименований, 1 приложение размещено на 4 страницах.

Заключение диссертации по теме «Математическое моделирование, численные методы и комплексы программ», Лёзин, Илья Александрович

Основные результаты работы состоят в следующем:

1. Исследованы имеющиеся материалы в области аппроксимации двумерных функций и восстановления двумерных плотностей вероятности;

2. Разработаны двумерные модификации правил Стёрджеса, Скотта и Фридмана-Диакониса и предложен численный метод расчета оптимального числа коридоров гистограммы согласно данных правил;

3. Разработана методика и алгоритмы аппроксимации двумерных плотностей вероятности на прямоугольных областях ортогональными функциями, являющимися произведениями функций Лежандра, Чебышева, Лагерра и Эрмита, с использованием первичного приближения сплайн-моделью;

4. Разработан ускоренный алгоритм нахождения базисов Грёбнера при решении систем из двух полиномиальных уравнений с двумя неизвестными;

5. Разработана методика компенсации отрицательно определенных областей двумерными функциями Гаусса;

6. Предложена методика аппроксимации двумерных плотностей вероятности радиально-базисными сетями;

7. Разработана структура, программное и методическое обеспечение программного комплекса, реализованного на языке Object Pascal в среде визуального проектирования Delphi;

8. Произведен анализ результатов аппроксимации различными ортогональными функциями и нейросетевыми моделями;

9. Получены рекомендации по использованию и настройке аппроксимативных моделей в зависимости от вида аппроксимируемой характеристики;

10. Разработанные методы, алгоритмы и комплекс программ внедрены в учебном процессе СГАУ, что подтверждается соответствующим актом о внедрении, а также использованы при обработке данных натурного эксперимента.

Заключение

В диссертации решена актуальная задача по разработке алгоритмов и комплекса программ для восстановления аналитических выражений двумерных плотностей вероятности по выборочным данным методом аппроксимативного анализа с использованием ортогональных базисов и радиально-базисных сетей. Комплекс является системой, открытой для добавления новых алгоритмов и для последующего развития.

Список литературы диссертационного исследования кандидат технических наук Лёзин, Илья Александрович, 2009 год

1. Айвазян, С.А. Прикладная статистика: основы моделирования и первичная обработка данных Текст. : справочное издание / Айвазян С.А., Енюков И.С., Мешалкин Л.Д. -М.: Финансы и статистика, 1983. 471 с. — 17000 экз.

2. Алексеев, В.Б. Теорема Абеля в задачах и решениях Текст. / М.: МЦНМО, 2001. 192 е., ил. - 3000 экз. - ISBN 5-900916-86-3.

3. Ахметшина, О.Р. Исследование метода построения плотности распределения с помощью проекционного оценивания Электронный ресурс. 2005. http://nit.miem.edu.ru/2005/sectionl/3.11 (m).htm.

4. Бендат, Дж. Прикладной анализ случайных данных Текст. / Бендат Дж., Пирсол А. Пер. с англ. М.: Мир, 1989. - 540 е., ил. - 19000 экз. - ISBN 503-001071-8.

5. Боровков, А.А. Курс теории вероятностей Текст. : для мат. и физ. специальностей вузов / М.: Наука, 1972. — 287 с. 75000 экз.

6. Боровков, А.А. Математическая статистика: Оценка параметров. Проверка гипотез Текст. : учебное пособие для мат. и физ. спец. вузов / М.: Наука, 1984.-472 с.-23000 экз.

7. Вапник, В.Н. Восстановление зависимостей по эмпирическим данным Текст. / М.: Наука, 1979. 815 с. - 5500 экз.

8. Вапник, В.Н. Непараметрические методы восстановления плотности вероятности Текст. / Вапник В.Н., Стефанюк А.Р. // Автоматика и телемеханика -1978.-№8. С.38-52.

9. Вентцель, Е.С. Теория вероятностей Текст. / Учеб. для вузов. 7-е изд. стер. - М.: Высш. шк., 2001. - 576 е.: ил. - 10000 экз. - ISBN 5-06-003650-2.

10. Вентцель Е.С. Теория вероятностей и ее инженерные приложения Текст. / Вентцель Е.С., Овчаров JI.A. // М.: Наука, 1988. 416 с.

11. Гмурман B.E. Теория вероятностей и математическая статистика Текст. / М.: Высш. шк., 1977. 479 с.

12. Горбань, А.Н. Обобщенная аппроксимационная теорема и вычислительные возможности нейронных сетей Текст. / Сибирский журнал вычислительной математики. 1998. - Т.1, №1. С. 12-24.

13. Горбань, А.Н. Функции многих переменных и нейронные сети Текст. / Соросовский образовательный журнал. 1998. -№12. С. 105-113.

14. Деврой, Л. Непараметрическое оценивание плотности. Li — подход Текст. / Деврой Л., Дьерфи Л. Пер. с англ. М.: Мир, 1988. - 408 с. - 4500 экз. - ISBN 5-03-000475-0.

15. Доррер, М.Г. Аппроксимация многомерных функций полутораслойным предиктором с произвольными преобразователями Электронный ресурс. / http://neuroschool.narod.ru.

16. Дьяконов, В.П. MATLAB: Соврем, средство мат. моделирования процессов Текст. / Учебный курс. Спб. : Питер : Питер бук 2001. - 553 с. — ISBN 5-272-00276-8.

17. Коварцев, А.Н. Численные методы Текст.: курс лекций / Самарский государственный аэрокосмический университет, 2000. 177 с. - 200 экз. -ISBN 5-7883-0116-5.

18. Комарцова, Л.Г. Нейрокомпьютеры Текст.: учеб. пособие для вузов / Комарцова Л.Г., Максимов А.В. М.: Изд-во МГТУ им. Н.Э. Баумана, 2002. - 320 е., ил. (Сер. Информатика в техническом университете). —'3000 экз. — ISBN 5-7038-1908-3.

19. Крамер, Г. Математические методы статистики Текст. / Пер. с англ. А.С. Монина и А.А. Петрова, под ред. академика А.Н. Колмогорова. Изд. 2-е, стереотипное. М: Мир, 1975. — 648 с.

20. Кулаичев, А.П. Полное собрание сочинений Текст. В трех томах. Том 1. Методы и средства анализа данных в среде Windows. STADIA. / Изд. 3-е, пе-рераб и доп. М.: Информатика и компьютеры, 1999. — 341 е., ил. - ISBN 5279-1082-0.

21. Лёзин И.А. Подбор оптимальных значений коэффициентов масштабирования при аппроксимации двухмерных функций Текст. / Лёзин И.А. // Радиотехника и связь: сборник научных трудов Саратов: СГТУ, 2008. С. 8-13.

22. Муха, B.C. Анализ многомерных данных Текст. / Монография // Мн.: УП «Технопринт», 2004. 368 с. -250 экз. - ISBN 985-464-676-9.

23. Надарая, Э.А. Непараметрическое оценивание плотности вероятности и кривой регрессии Текст. / Тбилиси: ТГУ, 1983. — 194 с.

24. Никифоров, А.Ф. Классические ортогональные полиномы дискретной переменной Текст. / Никифоров А.Ф., Суслов С.К., Уваров В.Б. — М.: Наука, 1985.- 1900 экз.

25. Осовский, С. Нейронные сети для обработки информации Текст. / Пер. с польского И.Д. Рудинского. М.: Финансы и статистика, 2002. - 344 е.: ил. -3000 экз. - ISBN 5-279-02567-4.

26. Прасолов, В.В. Многочлены. — 2-е изд., стереотипное Текст. / М.: МЦНМО, 2001.-336 с: ил. 1000 экз.-ISBN 5-900916-73-1.

27. Прохоров, С.А. Аппроксимативный анализ случайных процессов Текст. / Самара: СГАУ, 2001.-329 е.: ил. 1000 экз. - ISBN 9965-01-958-4.

28. Прохоров, С.А. Математическое описание и моделирование случайных процессов Текст. / Самара: СГАУ, 2001. — 329 с.

29. Роджерс, Д. Математические основы машинной графики Текст. / Роджерс Д., Адаме Дж. // М.: Мир, 2001. 604 с. - ISBN 5-03-002143-4

30. Скворцов, Б.В. Электрофизические устройства контроля качества углеводородных топлив Текст. / Самарский государственный аэрокосмический университет имени академика С.П. Королева. Самара, 2000. — 264 с. — ISBN 5-7883-0127-0.

31. Солодянников, Ю. В. Математическая статистика Текст.: учебное пособие к спецкурсу. /4 1. Куйбышевский государственный университет, 1982. -106 с.

32. Суетин, П.К. Классические ортогональные многочлены Текст. / Изд. 2-е, доп. -М.: Наука. Гл. ред. физ.-мат. лит-ры, 1979. 416 с. - 8000 экз.

33. Суетин, П.К. Ортогональные многочлены по двум переменным Текст. / М.: Наука. Гл. ред. физ.-мат. лит-ры, 1988. 384 с. - 3000 экз. - ISBN 5-0213757-Х.

34. Терехов, В.А. Нейросетевые системы управления Текст.: учеб. пособие для вузов / Терехов В.А., Ефимов Д.В., Тюкин И.Ю. — М.: Высш. шк. 2002. — 183 е.: ил. 5000 экз. - ISBN 5-06-004094-1.

35. Терехов, С.А. Нейросетевые аппроксимации плотности в задачах информационного моделирования Электронный ресурс. / Снежинск, 1998, http://alife.narod.ru/lectures/neural/Neu.htm.

36. Терехов, С.А. Лекции по теории и приложениям искусственных нейронных сетей Электронный ресурс. / Снежинск, 1994-1998, http://alife.narod.ru/lectures/neural/Neuindex.htm.

37. Тихонов, А.Н. Методы решения некорректных задач Текст.: учебное пособие для вузов / Тихонов А.Н. Арсенин В.Я. Изд 3-е, исправленное. М.: Наука, 1986.-288 с.

38. Фаронов, В. Delphi 5 Текст.: учебный курс / М.: «Нолидж», 2001. 608 е., ил. - 5000 экз. - ISBN 5-89251-070-0.

39. Фихтенгольц, Г.М. Курс дифференциального и интегрального исчисления, том I Текст. / Под ред. Акилова Г.П., Невельсона М.Б. / М.: Издательство «Наука», 1970. 608 с. с илл. - 50000 экз.

40. Хайкин, С. Нейронные сети Текст.: полный курс / 2-е издание.: Пер с англ. — М.: Издательский дом «Вильяме», 2006. — 1104 с. : ил. — Парал. тит. англ. 2000 экз. - ISBN 5-8459-0890-6 (рус.).

41. Чистяков, В.П. Курс теории вероятностей Текст. / М.: Наука, 1978. 224 с.

42. Bicubic interpolation Electronic source. / http://en.wikipedia.org/wiki/Bicubicinterpolation.

43. Bosch, S. Algebra. 6 Text. / Bosch, S. // Auflage. Springer 2006.

44. Buchberger, B. Grobner Bases: an Algorithmic Method in Polynomial Ideal Theory Text. / Recent trends in multidimensional system theory, Reidel, Ed. Bose, 1985.

45. Buchberger's algorithm Electronic source. / 2001, http://www.geocities.com/famancin/buchberger.html.

46. Cubic Hermite spline Electronic source. / http://en.wikipedia.org/wiki/CubicHermitespline.

47. Durand-Kerner method Electronic source. / http://en.wikipedia.org/wiki/Durand-Kernermethod.

48. Faugere, J.C. A new efficient algorithm for computing Grobner bases (F4) Text. / Journal of Pure and Applied Algebra 139, 1-3 (June 1999), pp. 61-88.

49. Freedman, D. On the histogram as a density estimator: L2 theory Text. / Freedman, D. Diaconis, P. // Zeitschrift fur Wahrscheinlichkeitstheorie und verwandte Gebiet- 1981.

50. Properties of Groebner bases Electronic source. / 2001, http://www.geocities.com/famancin/gbproperties.html

51. Scott, David W. On optimal and data-based histograms Text. / Scott, David W. // Biometrika — 1979.

52. Sturges, H.A. The Choice of a Class Interval Text. / Sturges, H.A. // J. Amer. Statist. Assoc 1926.

53. Zeevi, A.J. Density Estimation Through Convex Combination of Densities: Approximation and Estimation Bounds Text. / Zeevi A.J., Meir R. // Neural Networks. 1996, v. 10, p.99-109.