Однородные алгоритмы многоэкстремальной оптимизации и модели липшицевых целевых функций тема диссертации и автореферата по ВАК РФ 05.13.18, кандидат физико-математических наук Елсаков, Сергей Михайлович

• Елсаков, Сергей Михайлович
• кандидат физико-математических наук
• 2011

Оглавление диссертации кандидат физико-математических наук Елсаков, Сергей Михайлович

Введение

Глава . 1. Алгоритмы безусловной многоэкстремальной оптимизации для липшицевых целевых функций.И

1.1. Задачи многоэкстремальной липшицевой оптимизации.

1.2. Модели целевых функций и алгоритмы безусловной многоэкстремальной оптимизации.

1.2.1. Алгоритмы многоэкстремальной оптимизации с декомпозицией допустимого множества

1.2.2. Алгоритмы многоэкстремалыюй оптимизации без декомпозиции допустимого множества.

1.3. Программные комплексы для решения задач многоэкстремальной оптимизации.

1.4. Постановка задачи.

Глава 2. Класс однородных алгоритмов многоэкстремальной оптимизации: алгоритмы и модели целевых функций

2.1. Класс однородных алгоритмов многоэкстремальной оптимизации.

2.1.1. Условия сходимости однородных алгоритмов многоэкстремальной оптимизации

2.1.2. Снижение трудоемкости однородных алгоритмов без потери сходимости.

2.2. Модели целевых функций для однородных алгоритмов многоэкстремальной оптимизации.

2.2.1. Оценивание значений целевой функции.

2.2.2. Погрешность оценивания значений целевой функции . . 57 2.3. Определение области применения алгоритма многоэкстремальной оптимизации с существенными вспомогательными вычислениями.

Глава 3. Вычислительные эксперименты по сравнению однородных алгоритмов многоэкстремальной оптимизации 65 3.1. Тестирование алгоритмов оптимизации.

3.2. Сравнение моделей целевых функций для использования в однородном алгоритме многоэкстремальной оптимизации

3.3. Сравнение алгоритма ОАКР с алгоритмами многоэкстремальной оптимизации на основе множественных оценок константы Липшица.

3.4. Сравнение алгоритма ОАКР с алгоритмами многоэкстремальной оптимизации на основе методологии поверхностей отклика

3.5. Сравнение алгоритма ОАКР с алгоритмами программных комплексов IOSO и LGO.

3.6. Сравнение алгоритма ОАКР с алгоритмами программных комплексов IOSO и OPTIMUM при решении задач размещения радиомаяков и идентификации нелинейной модели.

3.7. Тестирование алгоритма ОАКР на задачах оптимизации конфигурации атомного кластера.

3.8. Тестирование параллельной версии алгоритма ОАКР

Глава 4. Программный комплекс HAGO.

4.1. Описание программного комплекса.

4.2. Пример использования ПК HAGO

Введение диссертации (часть автореферата) на тему «Однородные алгоритмы многоэкстремальной оптимизации и модели липшицевых целевых функций»

Актуальность темы диссертационной работы. В настоящее время многие задачи принятия решений можно сформулировать как задачи оптимизации. Такие задачи возникают в самых разных областях науки и техники: проектирование различных систем и материалов [1, 89, 90, 95, 98, 99, 104], идентификация нелинейных моделей [28, 57, 103] и т.д. Трудности численного решения таких задач связаны с отсутствие аналитического описания целевой функции — функции часто задаются алгоритмически. Целевая функция может быть невыпуклой, негладкой, а также может иметь несколько существенных экстремумов, допустимое множество также может быть невыпуклым и, возможно, несвязным. Кроме того, однократное вычисление целевой функции может требовать значительных вычислительных ресурсов.

Для решения подобных задач применяются специальные алгоритмы — алгоритмы многоэкстремальной оптимизации. Исследованиям алгоритмов многоэкстремальной оптимизации посвящены работы К. А. Баркалова, Д. И. Батищева, В. П. Булатова, В. П. Гергеля, А. И. Голикова, С. Ю. Городецкого, В. А. Гришагина, X. М. Гутмана (Н.-М. Gutmann), Д. Р. Джонса (D. R. Jones), Ю. Г. Евтушенко, В. Г. Жадана, А. А. Жиглявского, А. Г. Жи-линскаса, Д. Е. Квасова, А. Г. Коротченко, А. В. Орлова, П. М. Пардалоса (Р. М. Pardalos), Я. Пинтера (J. D. Pintér), С. А. Пиявского, М. А. Посыпки-на, JI. А. Растригина, А. И. Рубана, Я. Д. Сергеева, А. С. Стрекаловского, Р. Г. Стронгина, А. Г. Сухарева, X. Туя (Н. Тиу), К. Флудаса (С. Floudas), Р. Хорста (R. Horst) и многих других. Алгоритмы многоэкстремальной оптимизации, в отличии от алгоритмов локальной оптимизации, способны находить глобальный экстремум целевой функции, но при этом, как правило, характеризуются более высокой вычислительной трудоемкостью. В ряде случаев целесообразно предсталять целевую функцию в виде "черного ящика", когда на вход подается некоторый аргумент, а на выходе наблюдается соответствующее значение целевой функции. Такая постановка задачи является достаточно распространненой на практике и позволяет записывать в этой форме задачи из различных предметных областей, но при этом при решении таких задач требуется, как правило, использовать специальные модели — модели целевых функций, которые содержат некоторые дополнительные предположения о целевой функции, позволяющие построить эффективный алгоритм решения задачи многоэкстремальной оптимизации.

Широкое распространение в рамках многоэкстремальной оптимизации получило предположение о липшицевости целевой функции Это предположение, как правило, выполняется для практических задач, поскольку предполагает, что все изменения в системе требуют некоторой конечной энергии [37], и позволяет построить эффективные алгоритмы для решения многоэкстремальных задач.

Актуальность диссертации также обусловлена тем, что, в соответствии с современными тенденциями развития вычислительных систем, наряду с последовательными алгоритмами для решения задач многоэкстремальной оптимизации рассматривается параллельный алгоритм, способный работать на сотнях процессорах.

Цель и задачи работы. Целью работы является разработка, исследование и реализация численных методов решения задач многоэкстремальной оптимизации с использованием моделей целевых функций. Целевые функции предполагаются липшицевыми, определенными на единичном гиперкубе, многоэкстремальными, недифференцируемыми, время вычисления значения в заданной точке является существенным.

В соответствии с поставленной целью решались следующие задачи:

1. Построить класс однородных алгоритмов многоэкстремальной оптимизации.

2. Построить и сравнить различные модели липшицевых целевых функций для однородных алгоритмов многоэкстремальной оптимизации.

3. Разработать численный метод для решения задач многоэкстремальной оптимизации и сравнить его с существующими алгоритмами многоэкстремальной оптимизации при решении тестовых задач и задач оптимизации размещения радиомаяков и идентификации нелинейной модели.

4. Спроектировать и реализовать программный комплекс для решения задач многоэкстремальной оптимизации и проведения вычислительных экспериментов с алгоритмами многоэкстремальной оптимизации и моделями целевых функций.

Методы исследования. При выполнении исследования применялись теория алгоритмов, теория локальной оптимизации, теория многоэкстремальной оптимизации, методы интерполяции, объектно-ориентированное программирование.

Научная новизна.

1. Построены модели липшицевых целевых функций для класса однородных алгоритмов, которые используются для построения новых однородных алгоритмов многоэкстремальной оптимизации.

2. Предложен новый класс алгоритмов многоэкстремальной оптимизации — однородные алгоритмы многоэкстремальной оптимизации. В рамках этого класса возможно создание новых численных методов и алгоритмов для решения задач многоэкстремальной оптимизации с помощью выбора соответствующих моделей целевых функций.

3. Доказаны теоремы, устанавливающие: вид функции-характеристики в подклассе однородных алгоритмов многоэкстремальной оптимизации, достаточные условия сходимости численного метода, условие останова алгоритма.

4. Разработаны методы, снижающие трудоемкость решения вспомогательных задач в однородных алгоритмах многоэкстремальной оптимизации.

Доказаны теоремы об условиях сходимости алгоритмов при использовании методов снижения трудоемкости.

5. Предложен эффективный однородный алгоритм многоэкстремальной оптимизации для липшицевых функций с большим временем вычисления значения.

Теоретическая значимость работы. В работе предложен класс однородных алгоритмов многоэкстремальной оптимизации, который позволяет выполнять анализ многих существующих численных методов решения задач многоэкстремальной оптимизации с единых позиций. Также в рамках этого класса сформулированы требования к модели целевой функции и предложены новые модели целевых функций, позволяющие построить новые алгоритмы многоэкстремальной оптимизации. Разработаны методы снижения трудоемкости решения вспомогательных задач в алгоритмах многоэкстремальной оптимизации.

Практическая значимость работы. Предложенные алгоритмы могут быть использованы для решения задач многоэкстремальной оптимизации при проектировании систем, идентификации нелинейных моделей и т.д. В рамках работы создан программный комплекс, реализующий разработанные алгоритмы и позволяющий тестировать однородные алгоритмы с различными моделями целевых функций. На программный комплекс получено свидетельство о государственной регистрации программы для ЭВМ №2010616850 от 14.10.2010. Исследования выполнялись при поддержке грантов губернатора Челябинской области (115.07.06-05.АХ, 065.07.06-08.БХ), гранта г. Челябинска «Лучшая инновационная идея года» 2010 г.

Апробация работы. Результаты работы докладывались на международных и всероссийских конференциях: XII 1-й и Х1У-Й Всероссийских конференциях «Математическое программирование и приложения»(г. Екатеринбург, 2007, 2011), международной конференции «Алгоритмический анализ неустойчивых задач», посвященной 100-летию со дня рождения В. К. Иванова (г. Екатринбург, 2008), международной конференции «Оптимизация и приложения (OPTIMA-2009)» (Черногория, г. Петровац, 2009), VI Московской международной конференции по исследованию операций (г. Москва, 2010), а также на конференциях: 38 молодежной школ е-конференции «Проблемы теоретической и прикладной математики» (г. Екатеринбург, 2007), «Технологии Microsoft в теории и практике программирования» (г. Нижний Новгород, 2007, 2010), XXVI конф. памяти H.H. Острякова (г. Санкт-Петербург, 2008), I и II научной конференции аспирантов и докторантов ЮУрГУ (г. Челябинск, 2009, 2010). Результаты работы также докладывались на семинаре под руководством акад. Евтушенко Ю. Г. (ВЦ РАН, г. Москва, 2011) и на семинаре под руководством проф. Гергеля В. П. (ННГУ, г. Нижний Новгород, 2011). Публикации. Основные результаты диссертации опубликованы в 28 научных работах [89-116], в том числе 4 — в изданиях, рекомендованных ВАК [89, 103, 108, 113].

Структура и объем работы. Работа состоит из введения, четырех глав, заключения, библиографии и одного приложения. Объем диссертации 123 страницы, объем библиографии 116 источников.

Заключение диссертации по теме «Математическое моделирование, численные методы и комплексы программ», Елсаков, Сергей Михайлович

Основные результаты диссертационной работы:

1. Предложен класс однородных алгоритмов многоэкстремальной оптимизации, в рамках которого представимы многие существующие численные методы для решения задач многоэкстремальной оптимизации. Для построение новых численных методов и алгоритмов решения задач многоэкстремальной оптимизации в классе однородных алгоритмов достаточно выбрать модель липшицевой целевой функции, которая должна удовлетворять сформулированным требованиям. Доказаны достаточные условия сходимости однородных алгоритмов к глобальному минимуму, обосновано условие останова алгоритма. Разработаны методы снижения трудоемкости решения вспомогательных задач: построения моделей целевых функций и решения вспомогательной задачи оптимизации, что позволяет решать задачи с десятками тысяч испытаний целевой функции.

2. Для однородных алгоритмов многоэкстремальной оптимизации предложены модели липшицевых целевых функций. Доказано, что их использование позволяет построить алгоритмы, удовлетворяющие условиям сходимости к глобальному минимуму. По результатам вычислительного эксперимента в качестве модели целевой функции рекомендуется использовать для функции тк(%) ~~ кубический 11ВР-сплайн, а для функции зк(х) — расстояние до ближайшего испытания.

3. Разработан однородный алгоритм многоэкстремальной оптимизации. Сравнение его с различными алгоритмами многоэкстремальной оптимизации на различных тестовых функциях, задаче размещения радиомаяков в раз-ностно-дальномерной системе навигации и задаче идентификации нелинейной модели подтвердило высокую эффективность предложенного алгоритма. По результатам вычислительного эксперимента установлено, что область применения предложенного алгоритма — многомерные (размерность до 6) задачи многоэкстремальной оптимизации с целевой функцией, время вычисления которой превышает 327 мс (« 3,9-109 операций с плавающей запятой). Предложены две модификации алгоритма: для задач высокой размерности (решена задача 45 размерности) и для многоядерных вычислительных систем (продемонстрирована работа на 512 ядрах).

4. Спроектирован и реализован программный комплекс (свидетельство о государственной регистрации программы для ЭВМ №2010616850 от 14.10.2010) для решения задач многоэкстремальной оптимизации и проведения вычислительного эксперимента с однородными алгоритмами многоэкстремальной оптимизации и моделями липшицевых целевых функций.

ЗАКЛЮЧЕНИЕ

Список литературы диссертационного исследования кандидат физико-математических наук Елсаков, Сергей Михайлович, 2011 год

1. Ананченко А. Г. Разработка алгоритмов и программных комплексов для глобальной оптимизации химико-технологических систем: дис. . канд. техн. наук: 05.13.18. СПб, 2004.

2. Беневоленский С.В., Жадан В.Г., Жадан И.В., Спыну С.К. Применение технологии распределенных вычислений при решении задач методом половинных делений для глобальной оптимизации функции многих переменных // Изв. ВУЗов. Электроника 2006. №3. С. 44-49.

3. Бердышев В.И., Петрак Л.В. Аппроксимация функций, сжатие численной информации, приложения. Екатеринбург: УрО РАН, 1999. 296 с.

4. Булатов В. П., Хамисов О. В. Метод отсечения в Еп+г для решения задач глобальной оптимизации на одном классе функций // Ж. вычисл. матем. и матем. физ. 2007. №11. С. 1830-1842.

5. Гергель В.П. Об одном способе учета значений производных при минимизации многоэкстремальных функции // Ж. вычисл. матем. и матем. физ. 1996. т. С. 51-67.

6. Гергель В.П., Стронгин Р.Г. АБСОЛЮТ. Программная система для исследований и изучения методов глобальной оптимизации. Н. Новгород:

7. Изд-во Нижегородского университета, 1998. 141 с.

8. Городецкий С.Ю. Сходимость и асимптотические оценки поведения для одного класса методов поиска // Динамика систем. Динамика и управление / Горький: ГГУ, 1984. С. 24.

9. Городецкий С.Ю. Многоэкстремальная оптимизация на основе триангуляции области // Вестник Нижегородского университета им. Н.И. Лобачевского. Серия: Математическое моделирование и оптимальное управление. 1999. №2. С. 249-269.

10. И. Гришагин В. A. V.A.Grishagin's class of test functions. URL: http://si.deis.unical.it/~yaro/Grishaginweb.zip. Дата обращения:0505.2010.

11. Гришагин B.A. Операционные характеристики некоторых алгоритмов глобального поиска // Проблемы случайного поиска. Рига: Зинатне 1978. №7. С. 198-206.

12. Гришагин В. А. Исследование одного класса численных методов решения задач многоэкстремальной оптимизации: автореф. дис. . канд. физ.-мат. наук: 05.13.02. Горький, 1983.

13. Евтушенко Ю.Г. Численный метод поиска глобального экстремума функций (перебор на неравномерной сетке) //Ж. вычисл. матем. и ма-тем. физ. 1971. №6. С. 1390-1400.

14. Евтушенко Ю.Г. Численный метод отыскания наилучших гарантированных оценок // Ж. вычисл. матем. и матем. физ. 1972. №1. С. 89-104.

15. Евтушенко Ю. Г., Ратькин В. А. Метод половинных делений для глобальной оптимизации функции многих переменных // Изв. АН СССР. Техн. кибернетика. 1987. №1. С. 119-127.

16. Евтушенко Ю. Г., Малкова В. У., Станевичюс А. А. Параллельный поиск глобального экстремума функций многих переменных // Ж. вычисл. матем. и матем. физ. 2009. №2. С. 255-269.

17. Жиглявский А. А. Математическая теория глобального случайного поиска. Л.: Изд-во ЛГУ, 1985. 293 с.

18. Жиглявский А. А., Жилинскас А. Г. Методы поиска глобального экстремума. М.: Наука, 1991. 247 с.

19. Жилинскас А. Г. Глобальная оптимизация. Аксиоматика статистических моделей, алгоритмы, применение. Вильнюс: Мокслас, 1986. 165 с.

20. Жолен Л., Кифер М., Дидри О., Вальтер Э. Прикладной интервальный анализ. Москва-Ижевск: РХД, 2007. 468 с.

21. Карпенко А. П., Селиверстов Е. Ю. Глобальная оптимизация методом роя частиц. Обзор // Информационные технологии. 2010. №2. С. 25-34.

22. Квасов Д.Е., Сергеев Я.Д. Многомерный алгоритм глобальной оптимизации на основе адаптивных диагональных кривых // Ж. вычисл. ма-тем. и матем. физ. 2003. №. С. 42-59.

23. Квасов Д. Е. Диагональные алгоритмы решения задач липшицевой глобальной оптимизации: дис. . канд. физ.-мат. наук: 05.13.18. Н. Новгород, 2006.

24. Кормен Т., Лейзерсон Ч., Ривест Р., Штайн К. Алгоритмы: построение и анализ. М.: Вильяме, 2005. 1296 с.

25. Кузнецов А. В. Алгоритмы глобальной оптимизации функций в пространстве непрерывных переменных при наличии ограничений-неравенств: дис. . канд. техн. наук: 05.13.01. Красноярск, 2006.

26. Кушербаева В. Т., Сушков Ю. А. Статистическое исследование алгоритма случайного поиска // Стохастическая оптимизация в информатике 2007. т. С. 21-36.

27. Оленев H.H., Фетинина А.И. Моделирование экономики Кировской области с применением технологий параллельного программирования // Научно-технический вестник СПбГУ ИТМО. 2010. №1. С. 108-113.

28. Химмельблау Д. Прикладное нелинейное программирование. М.: Мир 1975. 534 с.

29. Abakarov A., Sushkov Yu., Almonacid S., Simpson R. Thermal processing optimization through a modified adaptive random search // Journal of Food Engineering. 2009. №2. R 200-209.

30. Bjorkman M., Holmstrom K. Global Optimization of Costly Nonconvex Functions Using Radial Basis Functions // Optimization and Engineering. 2000. №. R 373-397.

31. Box G. E. P., Wilson К. B. On the Experimental Attainment of Optimum Conditions // Journal of the Royal Statistical Society. 1951. №1. P. 1-45.

32. Clausen J., Zilinskas A. Subdivision, Sampling, and Initialization Strategies for Simplical Branch and Bound in Global Optimization // Computers and Mathematics with Applications. 2002. №7. P. 943-955.

33. Dreo J., Petrowski A., Siarry P., Taillard E. Metaheuristics for Hard Optimization: Methods and Case Studies. Paris: Springer, 2005. 369 p.

34. Egorov I.N., Kretinin G.V., Leshchenko I.A. Robust Design Optimization Strategy of IOSO Technology // Fifth World Congress on Computational Mechanics / Vienna, Austria., 2002. P. 8.

35. Finkel D. E. Global optimization with the direct algorithm: PhD thesis. Raleighh, NC, 2005.

36. Forrester A., Keane A. J. Recent advances in surrogate-based optimization // Progress in Aerospace Sciences. 2009. №1-3. P. 50 79.

37. Gablonsky J. M., Kelley С. T. A Locally-Biased Form Of The Direct Algorithm // J. of Global Optimization. 2001. №. P. 27-37.

38. Gaviano M., Kvasov D. E., Lera D., Sergeyev Ya. D. Generation of Classes of Test Functions with Known Local Minima // ACM Trans. Math. Soft. 2003. №4. P. 469-480.

39. Gergel V.P. A Global Optimization Algorithm for Multivariate Functionswith Lipschitzian First Derivatives // J. of Global Optimization. 1997. №10. P. 257-281.

40. Gergel V.P., Sergeyev Ya.D. Sequential and parallel global optimization algorithms using derivatives // Computers and Mathematics with Applications. 1999. №4/5. P. 163-180.

41. Grishagin V. A., Sergeyev Ya. D., Strongin R. G. Parallel Characteristical Algorithms for Solving Problems of Global Optimization // J. of Global Optimization. 1997. №2. P. 185-206.

42. Gutmann H. M. A Radial Basis Function Method for Global Optimization // J. of Global Optimization. 2001. №3. P. 201-227.

43. Hellstrom Т., Holmstrom K. Global Optimization of Costly Nonconvex Functions, with Financial Applications // Theory of Stochastic Processes. 2001. №7. P. 121-141.

44. Holmstrom К. An adaptive radial basis algorithm (ARBF) for expensive black-box global optimization // J. of Global Optimization. 2008. №3. P. 447-464.

45. Horst R., Tuy H. Global Optimization: Deterministic Approaches. Berlin: Springer-Verlag, 1996. 748 p.

46. Jakobsson S., Patriksson M., Rudholm J., Wojciechowski A. A method for simulation based optimization using radial basis functions // Optimization and Engineering. 2009. №3. P. 409-426.

47. Jones D. R., Perttunen C. D., Stuckman В. E. Lipschitzian optimization without the Lipschitz constant // J. Optim. Theory Appl. 1993. №1. P.157.181.

48. Jones D. R., Schonlau M., Welch W. J. Efficient Global Optimization of Expensive Black-Box Functions // J. of Global Optimization. 1998. №4. P. 455-492.

49. Jones D. R. A Taxonomy of Global Optimization Methods Based on Response Surfaces // J. of Global Optimization. 2001. №4. P. 345-383.

50. Kushner M. J. A new method of locating the maximum point of an arbitrary multipeak curve in the presence of noise // Journal of Basic Engineering. 1964. №86. P. 97-106.

51. Levy A. V., Montalvo A. The Tunneling Algorithm for the Global Minimization of Functions // SIAM Journal on Scientific and Statistical Computing. 1985. №. P. 15-29.

52. Locatelli M. Bayesian Algorithms for One-Dimensional Global Optimization // J. of Global Optimization. 1997. №10. P. 57-76.

53. Locatelli M. On the multilevel structure of global optimization problems // Comput. Optim. Appl. 2005. M. P. 5-22.

54. Neumaier A., Shcherbina O., Huyer W., Vinko T. A comparison of complete global optimization solvers // Math. Programming. 2005. №2. P. 335-356.

55. Paulavicius R., Zilinskas J. Global optimization using the branch-and-bound algorithm with a combination of lipschitz bounds over simplices // Baltic Journal on Sustainability. 2009. №2. P. 310-325.

56. Pinter J. D. Convergence qualification of adaptive partition algorithms in global optimization // Math. Programming. 1992. №3. P. 343-360.

57. Pinter J. D. Global Optimization in Action. Dordrecht Boston - London:

58. Kluwer Academic Publishers, 1996. 512 p.

59. Pinter J. D. Nonlinear optimization with GAMS/LGO // J. of Global Optimization. 2007. №1. P. 79-101.

60. Regis R. G. Global optimization of computationally expensive functions using serial and parallel radial basis function algorithms: PhD thesis. Ithaca, NY, USA, 2004.

61. Regis R. G., Shoemaker C. A. Improved Strategies for Radial basis Function Methods for Global Optimization // J. of Global Optimization. 2007. №1. P. 113-135.

62. Regis R. G., Shoemaker C. A. Parallel radial basis function methods for the global optimization of expensive functions // European Journal of Operational Research. 2007. №2. P. 514 535.

63. Sergeyev Ya.D. On convergence of "Divide the Best" global optimization algorithms // Optimization. 1998. №2. P. 303-325.

64. Sergeyev Y. D., Kvasov D. E. Global Search Based on Efficient Diagonal Partitions and a Set of Lipschitz Constants // SIAM J. on Optimization. 2006. №. P. 910-937.

65. Simpson T. W., Mauery T. M., Korte J. J., Mistree F. Kriging Models for Global Approximation in Simulation-Based Multidisciplinary Design Optimization // AIAA Journal. 2001. №12. P. 2233-2241.

66. Sobester A., Leary S. J., Keane A. J. On the Design of Optimization Strategies Based on Global Response Surface Approximation Models // J. of Global Optimization. 2005. №1. P. 31-59.

67. Strekalovsky A. S. Global Optimality Conditions for Nonconvex Optimization // J. of Global Optimization. 1998. №4. P. 415-434.

68. Strongin R. G., Sergeyev Ya. D. Global Optimization with Non-Convex Constraints Sequential and Parallel Algorithms. Secaucus, NJ, USA: Springer-Verlag New York, Inc., 2000. 728 p.

69. Tobor I., Reuter P., Schlick C. Efficient reconstruction of large scattered geometric datasets using the partition of unity and radial basis functions // Journal of WSCG 2004. 2004. №3. P. 467-474.

70. Torn A., Zilinskas A. Global optimization. New York, NY, USA: Springer-Verlag, 1989. 350 p.

71. Towards global optimisation / eds. G.P. Szego, L.C.W. Dixon. New York: North-Holland Pub. Co., 1978. 363 p.

72. Villemonteix J., Vazquez E., Walter E. An informational approach to the global optimization of expensive-to-evaluate functions // J. of Global Optimization. 2009. №4. P. 509-534.

73. Zhigljavsky A., Zilinskas A. Stochastic Global Optimization. Berlin: Springer, 2008. 262 p.

74. Антонов M. О., Елсаков С. M., Ширяев В. И. Нахождение оптимального расположения радиомаяков в разностно-дальномерной системе посадки летательного аппарата // Авиакосмическое приборостроение 2005. №11. С. 41-45.

75. Ел саков С. М., Ширяев В. И. Однородные алгоритмы глобальной оптимизации // ПРОБЛЕМЫ ТЕОРЕТИЧЕСКОЙ И ПРИКЛАДНОЙ МАТЕМАТИКИ: Тр. 38-й Региональной молодеж. конф. / Екатеринбург: УрО РАН, 2007. С. 326-329.

76. Елсаков С. М., Ширяев В. И. Однородные алгоритмы глобальной оптимизации и модели целевых функций // Матер, конф. «Технологии Microsoft в теории и практике программирования» / Н. Новгород: Изд-во Нижегородского гос. ун-та, 2007. С. 83-87.

77. Елсаков С. М. Многомерные однородные алгоритмы глобальной оптимизации // Научный поиск: Матер, первой науч. конф. аспирантов и докторантов. Социально-гуманитарные и естественные науки / Челябинск: Изд. центр ЮУрГУ, 2009. С. 27-31.

78. Елсаков С. М., Ширяев В. И. О многоэкстремальности в задачах оценивания состояния систем детерминированного хаоса // Вестник ЮУрГУ. Сер. Компьютерные технологии, управление, радиоэлектроника 2009. т. С. 37-41.

79. Елсаков С. М., Ширяев В. И. Разностно-дальномерная система ближней навигации для мобильных роботов // Мобильные роботы и мехатронные системы// Матер, научн. школы-конф. Москва, 24-29 марта 2008 г. / М.:

80. Изд-во Моск. ун-та, 2009. С. 135-142.

81. Елсаков С. М., Ширяев В. И. Алгоритмы многомерной глобальной оптимизации на основе RBF-сплайнов // Забабахинские научные чтения: сб. матер. X Междунар. конф. 15-19 марта 2010 / Снежинск: Изд-во РФЯЦ-ВНИИТФ, 2010. С. 292-294.

82. Елсаков С. М., Ширяев В. И. Однородные алгоритмы многоэкстремальной оптимизации // Ж. вычисл. матем. и матем. фиа 2010. №10. С. 1727-1740.

83. Елсаков С. М., Ширяев В. И. Однородный алгоритм глобальной оптимизации с использованием вспомогательной модели для целевой функции //VI Московская Междунар. конф. по исследованию операций (ORM2010) / М.: МАКС Пресс, 2010. С. 230-232.