Быстрое автоматическое дифференцирование в задачах оптимального управления тема диссертации и автореферата по ВАК РФ 01.01.09, кандидат физико-математических наук Засухина, Елена Семеновна

• Засухина, Елена Семеновна
• кандидат физико-математических наук
• 2007

Оглавление диссертации кандидат физико-математических наук Засухина, Елена Семеновна

Введение

1 Основные соотношения

1.1 Вычисление градиента с помощью обобщенной

Б АД-методологии

1.2 Вывод формул для вторых производных

1.3 Случай многошаговых процессов.

2 Задача оптимального управления

2.1 Схема Эйлера.

2.2 Модифицированная схема Эйлера.

2.3 Метод Рунге-Кутты.

3 Результаты численных расчетов

3.1 Описание расчетных задач.

3.2 Выбор шага.

3.3 Поиск "хорошего" начального приближения.

3.4 Анализ результатов расчетов.

3.5 Интерполяция с помощью кубической параболы.

Введение диссертации (часть автореферата) на тему «Быстрое автоматическое дифференцирование в задачах оптимального управления»

Развитие общества, бурный научно-технический прогресс, активное взаимодействие человека и природы, хозяйственная деятельность в условиях нарастающей нехватки ресурсов ставят нас перед необходимостью создания все более сложных моделей процессов, происходящих в природе и обществе. Возникающие в рамках создаваемых моделей научные и технические задачи, естественно, также усложняются.

В то же время, наблюдаемый нами в течение последних десятилетий прогресс в вычислительной технике, появление высокоэффективных, быстродействующих компьютеров позволяет рассматривать и решать такие задачи.

Среди упомянутых задач обширный класс составляют оптимизационные задачи, значительную часть которых представляют задачи оптимального управления. Среди подходов к решению задач оптимального управления (см., например, работы [1]-[10]) одним из самых распространенных и плодотворных является сведение исходной задачи к задаче нелинейного программирования (см., например, работы [1], [3], [5]). Численное решение таких задач находится с помощью стандартных или адаптированных методов нелинейного программирования (методов штрафных функций, модифицированной функции Лагранжа, проекции градиента, линеаризации, внутренней точки и т.д.; см., например, [1]). Среди них градиентные методы часто оказываются наиболее эффективными. Еще более привлекательными в смысле нахождения оптимального решения являются методы, использующие вторые производные. Тут, однако, возникают серьезные трудности в случае задач большой размерности. Поэтому разработка способа вычисления производных сложной функции играет очень важную роль при создании алгоритмов численной оптимизации. При этом следует учесть, что точность и время вычисления производных существенно влияют на эффективность алгоритмов оптимизации в целом.

Все эти обстоятельства способствовали появлению в последние годы в научной литературе большого количества работ, посвященных проблеме получения производных сложных функций. Среди них большое число составляют работы, в которых дифференцируемая функция задается алгоритмически, или значение функции получается в результате выполнения компьютерной программы. Эти работы оформили целое направление в вычислительной математике, получившее название быстрого автоматического дифференцирования (Б АД). Как показала практика, Б АД оказался эффективнее методов вычисления производных с помощью конечных разностей и символьного дифференцирования.

В теории БАД можно выделить два подхода к дифференцированию алгоритмов. Первый их них, получивший название "прямого"дифференцирования, характеризуется тем, что продвижения по вычислительному графу при вычислении производных функции и при вычислении самой функции совпадают. При применении второго подхода, называемого "обратным"дифференцированием, при вычислениях функции и ее производных направления перемещений по вычислительному графу противоположны друг другу.

К числу ранних работ, касающихся техники прямого дифференцирования, относятся работы [11]-[14]. Они представляют собой первые шаги в этом направлении и получили свое продолжение в работах [15] и [16]. Среди работ, более ориентированных на практическое применение, следует упомянуть работы [17]—[19]. Наиболее полно техника прямого дифференцирования алгоритмов излагается в основополагающих публикациях [20] и [21].

Что касается обратного дифференцирования, то очень похожий подход был использован при конструировании электрических цепей (см. [22], [23]). Многие авторы независимо друг от друга использовали возможности техники обратного дифференцирования при решении широкого класса задач. Среди них особого внимания заслуживают работы [24]-[32].

Важному вопросу оценивания трудоёмкости вычисления градиента функции посвящен ряд статей (см., например, работы [10], [33]—[34]) среди которых, безусловно, следует выделить работу наших соотечественников Кима К. В., Нестерова Ю.Е., Черкасского Б. В. [33]. Авторы этой работы показали, как по заданному алгоритму вычисления функции можно построить алгоритм вычисления её градиента такой, что отношение его трудоемкости к трудоемкости исходного алгоритма не будет превышать константы, не зависящей от числа переменных.

Вопросу дальнейшего совершенствования алгоритмов вычисления производных функции, использующих технику БАД, в целях снижения их трудоемкости и размеров требуемой памяти посвящены многие работы (см., например, [35]-[43]).

В течение ряда лет прилагаются усилия по созданию пакетов компьютерных программ, вычисляющих производные сложных функций с помощью БАД-методологии (см., например, работы [44]—[52]). Цель таких пакетов состоит в том, чтобы по функции, заданной математической формулой, или по функции, значение которой вычисляется в результате выполнения компьютерной программы на языке ФОРТРАН, С++ или другом современном языке программирования, сгенерировать компьютерную программу, вычисляющую производные исходной функции. Один из таких пакетов ADOL-C (см. работу [48]) был создан в Аргонской Национальной Лаборатории (США) под руководством А. Гриванка. Там же, в Аргонской Национальной Лаборатории, был разработан широко используемый пакет ADIFOR (см. работы [49]-[50]), в создание которого большой вклад внес Бишоф. В Японии под руководством М. Ири и К. Ку-бота (см., например, работы [53]—[54]) был разработан пакет PADRE. Решение практических задач с помощью этих пакетов показало, что основным их недостатком является необходимость использования большой компьютерной памяти. Поэтому в настоящее время ведутся работы по сокращению требуемой памяти.

Сейчас разработчики подобных пакетов идут по пути гибкого сочетания всех имеющихся в арсенале средств автоматического дифференцирования, сочетания техник прямого и обратного дифференцирования при вычислении производных более высокого порядка, включения в пакет блоков обработки текста.

Среди работ, посвященных автоматическому дифференцированию, особое место занимает разработанная Ю. Г. Евтушенко и его сотрудниками БАД-методология, рассматривающая означенную проблему в ином ракурсе. Она берет своё начало в проводимых с 1970 года в ВЦ РАН под руководством Ю. Г. Евтушенко работах по созданию и совершенствованию методов решения задач оптимального управления, редуцированных к задачам нелинейного программирования. Формулы дифференцирования функций, возникающих в этих задачах, оказались очень близкими к формулам, используемым в работах, посвященных технике БАД.

В статьях [7]-[9] был сформулирован общий подход к вычислению градиента сложной функции, основанный на теореме о неявной функции и методе множителей Лагранжа. Его важной особенностью является то, что он позволяет с единых позиций определять градиенты не только функций, заданных в явном виде, но и функций, не имеющих явного аналитического представления. Примером могут служить функции, возникающие в результате дискретной аппроксимации задач оптимального управления процессами, описываемыми обыкновенными дифференциальными уравнениями и уравнениями с частными производными.

Следует отметить, что для выбранной дискретной аппроксимации исходной задачи вычисленный с помощью БАД-методологии градиент функционала является точным.

Описываемый подход обобщает технику БАД и в своих частных случаях явно заданных элементарных функций и многошаговых процессов приводит к формулам БАД. Он был успешно применен при решении ряда задач оптимального управления, например, в задаче оптимального управления решением уравнения Бюргерса [55], в задачах оптимального управления процессом плавления и кристаллизации вещества [56]-[60], при решении обратной задачи для уравнения Бюргерса и других (см., например, [61], [62]).

Однако, с ужесточением требований на точность нахождения решения, а также, как хорошо известно, в случае 11 овражного11 вида минимизируемой функции возникает настоятельная необходимость применения в вычислительном процессе метода Ньютона.

В диссертационной работе с помощью обобщенной БАД-методологии, развитой в ВЦ РАН, получены точные формулы для вычисления вторых производных сложных функций с функциональными связями. Количество сопряженных скалярных уравнений, которые необходимо решить для определения вторых производных целевой функции, есть линейная функция от размерности независимой переменной. Эти формулы были применены в конечномерной задаче оптимизации, получаемой в результате дискретной аппроксимации с привлечением метода Рунге-Кутты произвольного порядка общей задачи оптимального управления процессами, описываемыми обыкновенными дифференциальными уравнениями. Для этой конечномерной задачи оптимизации установлен вид сопряженных систем, указан путь их решения. Формулы для вычисления вторых производных целевой функции детализированы и приведены в окончательном виде, пригодном для практического использования.

В результате дискретной аппроксимации конкретной задачи оптимального управления с помощью метода Рунге-Кутты 1-го, 2-го, 3-го и 4-го порядка построены 5 расчетных конечномерных задач оптимизации (было использовано 2 варианта дискретизации с помощью метода Рунге-Кутты 2-го порядка). Расчеты этих задач были проведены методом Ньютона с применением полученных формул для вычисления вторых производных, а также градиентным методом с целью оценить эффективность предлагаемого подхода. Сравнение результатов расчетов показало, что по точности получаемого решения, по количеству итераций и даже по времени метод Ньютона оказывается предпочтительнее.

Были проведены расчеты трех дискретизированных по схеме Эйлера задач оптимального управления процессами, описываемыми системами обыкновенных дифференциальных уравнений. В ходе расчетов проводились замеры времен, затрачиваемых на вычисление целевой функции и гессиана, исследовалось поведение их отношения в зависимости от размерности управления и при переходе от одной задачи к другой.

Были также проведены расчеты задачи оптимального управления решением уравнения Бюргерса с использованием метода сопряженных градиентов. При их проведении градиент функционала вычислялся с помощью БАД-методологии, а также с использованием следующей техники: для непрерывной прямой задачи строилась ей сопряженная непрерывная задача, определялся градиент функционала, а затем обе задачи и градиент функционала дискретизировались. Результаты расчетов показали, что в отличие от БАД-методологии применение описанной выше техники приводит к успеху только в том случае, когда дискретные аппроксимации прямой задачи, сопряженной задачи и градиента функционала являются согласованными. БАД-методология автоматически обеспечивает согласованность дискретных аппроксимаций прямой и сопряженных задач и функционала. Подробно эти вопросы обсуждаются в [55], [66].

Диссертация состоит из введения, трех глав, заключения, списка используемых источников и приложения, состоящего из рисунков и таблиц.

Заключение диссертации по теме «Дискретная математика и математическая кибернетика», Засухина, Елена Семеновна

Основные результаты, полученные в диссертационной работе.

1. Обобщенная БАД-методология распространена на случай вычисления вторых производных сложной функции.

2. Получены точные формулы для вычисления вторых производных сложной функции. В эти формулы входят сопряженные переменные - множители Лагранжа, которые определяются в результате решения сопряженного линейного матричного уравнения.

3. Установлено важное свойство предлагаемого подхода: после вычисления градиента функции решение сопряженного уравнения для определения множителей Лагранжа, связанных с вычислением вторых производных, не представляет трудности, т. к. основная матрица этого уравнения и основная матрица сопряженной системы, уже решенной при определении градиента функции, являются транспонированными друг другу.

4. Количество скалярных уравнений, которые необходимо решить для определения вторых производных сложной функции зависит от размерности независимой переменной линейным образом.

5. Полученные формулы для нахождения вторых производных сложной функции адаптированы к случаю многошаговых процессов.

6. Рассмотрена в общем виде задача оптимального управления процессом, описываемым обыкновенными дифференциальными уравнениями. Для конечномерной задачи оптимизации, полученной в результате дискретной аппроксимации этой задачи с помощью метода Рунге-Кутты произвольного порядка, установлен вид сопряженных уравнений и структура их основных матриц. Установлено, что сопряженные уравнения имеют простой вид и могут быть решены методом "бегущего счета". Анализ связи организации многошаговых процессов с видом сопряженных систем, структур основных матриц сопряженных систем позволяет сделать заключение о том, что использование другого метода дискретной аппроксимации не приведет к принципиальным изменениям вида сопряженных систем и способа их решения.

7. Для указанной конечномерной задачи оптимизации установлена структура всех матриц, входящих в формулу для вычисления матрицы вторых производных функции. Указан рациональный путь вычислений по этой формуле. Анализ связи организации многошаговых процессов с видом матриц, входящих в формулу для вычисления матрицы вторых производных целевой функции, позволяет сделать заключение о том, что использование другого метода дискретной аппроксимации не приведет к принципиальным изменениям структуры этих матриц.

8. Формулы для вычисления матрицы вторых производных целевой функции в этой задаче приведены в окончательном виде, пригодном для практического использования.

9. В ходе численных экспериментов установлено, что отношение времени вычисления вторых производных функционала ко времени вычисления самого функционала, деленное на размерность управления, незначительно изменяется в зависимости от размерности управления, но существенно зависит от конкретной задачи.

10. Расчеты 5 задач, полученных в результате дискретной аппроксимации конкретной задачи оптимального управления с помощью метода Рунге-Кутты различного порядка, методом Ньютона (с применением предлагаемого алгоритма вычисления вторых производных) и градиентным методом показали, что по скорости сходимости к решению, по точности получаемого решения, по количеству итераций, приводящих к решению, и, по времени, затрачиваемому на нахождение решения, — по всем этим показателям метод Ньютона оказывается предпочтительнее градиентного метода.

11. Показано, что метод Ньютона демонстрирует преимущество по всем перечисленным выше показателям перед градиентным методом даже в том случае, когда поиск решения начинается с произвольного приближения, не являющегося хорошим для метода Ньютона.

Анализ результатов проведенных расчетов позволяет сделать вывод об эффективности предлагаемого подхода.

На основе созданного алгоритма вычисления вторых производных сложных функций разработан комплекс компьютерных программ, позволяющий решать методом Ньютона задачу оптимального управления процессом, описываемым обыкновенными дифференциальными уравнениями, заданную в стандартной форме, с произвольной правой частью и дис-кретизированную методом Рунге-Кутты произвольного порядка.

Заключение

Список литературы диссертационного исследования кандидат физико-математических наук Засухина, Елена Семеновна, 2007 год

1. Евтушенко Ю. Г. Методы решения экстремальных задач и их применение в системах оптимизации. М: Наука, 1982.

2. Васильев Ф. П. Численные методы решения экстремальных задач. М: Наука, 1988.

3. Пропой А. Я. Элементы теории оптимальных дискретных процессов. М: Наука, 1973.

4. Кротов В. Ф., Гурман В. И. Методы и задачи оптимального управления. М: Наука, 1973.

5. Полак Э. Численные методы оптимизации. М.: Мир, 1974.

6. Алексеев В. М., Тихомиров В. М., Фомин С. В. Оптимальное управление. М: Физматгиз, 1979.

7. Айда-Заде К. Р., Евтушенко Ю. Г. Быстрое автоматическое дифференцирование на ЭВМ // Матем. моделирование. 1989. Т. 1. С. 121-139.

8. Евтушенко Ю. Г., Мазурик В. П. Программное обеспечение систем оптимизации. М: Знание, 1989.

9. Evtushenko Yu. G. Automatic differentiation viewed from optimal control theory // Automatic differentiation of algorithms: Theory, Implementation and Application, SIAM, Philadelphia, 1991, pp. 25-30.

10. Evtushenko Yu. G. Computation of exact gradients in distributed dynamic systems // Optimizat. Meth. and Software. 1998. V. 9. pp. 4575.

11. Beda L. M., Korolev L. N., Sukkick N. V., Frolova T. S. Programs for Automatic Differentiation for the machine BESM // Technical Report, Institute for Precise Mechanics and Computation Technique, Academy of Science, Moscow, USSR, 1959. (In Russian)

12. Wengart R. E. A simple automatic derivative evaluation program // Comm. ACM, 7 (1964), pp. 463-464.

13. Wanner G. Integration gewohnlicher differentialgleichnugen, Lie Reihen, Runge-Kutta-Methoden // Vol. XI, B.I-Hochschulskripten, no. 831/831a, Bibliographisches Institut, Mannheim-Zurich, Germany, 1969.

14. Warner D. D. A partial derivative generator // Computing Science Technical Report, Bell Laboratories, 1975.

15. Kedem G. Automatic differentiation of computer programs // ACM Trans. Math. Software 6 (1980), pp. 150-165.

16. Rail L. B. Differentiation in Pascal-SC: Type GRADIENT // ACM Trans. Math. Software 10 (1984), pp. 161-184.

17. Sargent R. W. H., Sullivan G. R. The development of an efficient optimal control package // Proceedings of the 8th IFIP Conference on Optimization Technology 2, 1977.

18. Pfeiffer F. W. Some advances related to nonlinear programming // Tech. Report 28, SIGMAP Bulletin, New York, 1980.

19. Ponton J. W. The numerical evaluation of analytical derivatives. If Comput. Chem. Eng. 6 (1982), pp. 331-333.

20. Rail L. B. Automatic Differentiation: Techniques and Applications // Lecture Notes in Computer Sci. 120, Springer Verlag, Berlin, 1981.

21. Kagiwada H., Kalaba R., Rasakhoo N., Spingarn K. Numerical derivatives and nonlinear analysis // Math. Concepts Methods Sci. Engrg., Plenum Press, New York, London, 1986.

22. Director S. W., Rohrer R. A. Automatic network design — the frequency-domain case // IEEE Trans. Circuit Theory CT-16(1969), pp. 330-337, reprinted by permission.

23. Hachtel G. D., Bryton R. K., Gustavson F. G. The sparse tableau approach to network analysis and design // IEEE Trans. Circuit Theory CT-18(1971), pp. 101-113.

24. Ostrovskii G. M., Volin Yu. M, Borisov W. W. Uber die Berechnung von Ableitungen // Wiss. Z. Tech. Hochschule fur Chemie 13 (1971), pp. 382-384.

25. Linnainmaa S. Taylor expansion of the accumulated rounding error // BIT 16 (1976), pp. 146-160.

26. Speelpenning B. Compiling fast partial derivatives of functions given by algorithms: Ph.D thesis, University of Illinois of Urbana-Champaign, 1980.

27. Cacuci D. G., Weber C. F., Oblow E. M., Marable J. H. Sensitivity theory for general systems of nonlinear equations // Nuclear Sci. Engrg. 88 (1980), pp. 88-110.

28. Baur W., Strassen V. The complexity of partial derivatives // Theoret. Comput. Sci. 22 (1983), pp. 317-330.

29. Ким К. В., Нестеров Ю. Е., Черкасский Б. В. Эффективный алгоритм дифференцирования и экстремальные задачи // Экономика и математические методы. 1984. Т. 20. С. 309-318.

30. Iri М., Tsuchiya Т., Hoshi М. Automatic computation of partial derivatives and rounding error estimates with application to large-scale systems of nonlinear equations // Comput. Appl. Math. 24 (1988), pp. 365-392.

31. Griewank A. On automatic differentiation // Mathematical Programming: Recent Developments and Applications, by eds. M. Iri and K. Tanabe, Kluwer, Dordrecht, the Netherlands, 1989, pp. 83108.

32. Ким К. В., Нестеров Ю. Е., Черкасский Б. В. Оценка трудоёмкости вычисления градиента // ДАН. 1984. Т. 275. М. С. 1306-1309.

33. Griewank A., Reddien G. W. Computation of cusp singularities for operator equations and their discretizations // J. Comput. Appl. Math. 26 (1989), pp. 133-153.

34. Griewank A., Corliss G. F. (eds.) Automatic differentiation of algorithms: Theory, Implementation and Application, SIAM, Philadelphia, 1991.

35. Griewank A., Reese S. On the calculation of Jacobian matrices by the Markowitz rule // Automatic differentiation of algorithms: Theory, Implementation and Application, SIAM, Philadelphia, 1991, pp. 126135.

36. Griewank A. Achieving logarithmic growth of temporal and spatial complexity in reverse automatic differentiation // Optimization Methods and Software, 1992. V. 1. pp. 35-54.

37. Griewank A. Some bounds on the complexity of gradients, Jacobians, and Hessians // Complexity in Nonlinear Optimization, by ed. P.M. Pardaros, World Scientific, River Edge, NJ, 1993, pp. 128-161.

38. Averick В. M., More J. J., Bishof С. H., Carle A., Griewank A. Computing large sparse jacobian matrices using automatic differentiation // SIAM J. Scientific Computing 15(1994), pp. 285-294.

39. Bischof С. H., Corliss G., Griewank A. Structured second- and higher-order derivatives through univariate Taylor series // Optim. Methods Softw. 2 (1993), pp. 211-232.

40. BerzM., Bischof С. H., Corliss G., Griewank A. (eds). Computational differentiation techniques, applications, tools, SIAM, Philadelphia, 1996.

41. Fisher H., Fander H. A minimal code list // Tech. Report, 1999.

42. Griewank A. Evaluating derivatives, SIAM, Philadelphia, 2000.

43. Rostaing N., Dalmas S., Galligo A. Automatic differentiation in Odissee // Tellus 45A (1993), pp. 558-568.

44. Averick В. M., Carter R. G., More J. J, Xue G.-L. The MINPACK-2 test problem collection, Preprint MCS-P153-0692, ANL/MCS-TM-150, Rev. 1, Mathematics and Computer Science Division, Argonne National Laboratory, Argonne IL, 1992.

45. Bartholomew-Biggs M. C., Bartholomew-Biggs L., Christianson B. Optimization and automatic differentiation in Ada: Some Practical Experience // Optim. Methods Softw. 4 (1994), pp. 47-73.

46. Czyzyk J., Mesner M. P., More J. J. The network-enabled optimization server, Preprint ANL/MCS-P615-1096, Mathematics and Computer Science Division, Argonne National Laboratory, Argonne, IL, 1997.

47. Griewank A., Juedes D., Utke J. ADOL-C, a package for the automatic differentiation of algorithms written in C/C++ // ACM Trans. Math. Software 22 (1996), pp. 131-167.

48. Bischof С. H., Griewank A. ADIFOR: A FORTRAN system for portable automatic differentiation, Preprint MCS-P317-0792, Mathematic and Computer Science Division, Argonne National Laboratory, Argonne, Illinois, 1992.

49. Bischof С. H., Carle A., Khademi P. M., Mauer A. The ADIFOR 2.0 system for the automatic differentiation of FORTRAN 77 programs // IEEE Computational Sci. Engrg. 3 (1996), MCS-P481-1194.

50. Bischof С. H., Corliss G. F., Green L., Griewank A., Haigler K., Newman P. Automatic differentiation of advanced CFD codes for multidisciplinary design // Journal of Computing Systems in Engineering 3 (1992), pp. 625-638.

51. Bischof С. H., Dilley F. A compilation of automatic differentiation tools: Presented at the 1995 international convention on industrial and applied mathematics // SIGNUM Newsletter 30 (1995), 3, pp. 2-20.

52. Iri M. Simultaneous computation of functions, partial derivatives and estimates of rounding errors Complexity and practicality // Japan Journal of Applied Mathematics. 1984. V. 1. pp. 223-252.

53. Iri M., Kubota K. Methods of fast automatic differentiation and applications, Research memorandum RMI 87-02, Department of Mathematical Engineering and Instrumental Physics, Faculty of Engineering, University of Tokyo, 1987.

54. Евтушенко Ю. Г., Засухша E. С., Зубов В. И. О численном подходе к оптимизации решения задачи Бюргерса с помощью граничных условий // Ж. вычисл. матем. и матем. физ. 1997. Т. 37. Я5 12. С. 1406-1414.

55. Албу А. Ф., Горбунов В. И., Зубов В. И. Оптимальное управление процессом плавления // Ж. вычисл. матем. и матем. физ. 2000. Т. 40. № 4. С. 517-531.

56. Албу А. Ф., Горбунов В. ИЗубов В. И. Об оптимальном управлении процессом плавления // Матем. моделирование. 2000. Т. 12. № 5. С. 114-118.

57. Албу А. Ф., Зубов В. И. О процессе плавления с ограничением на скорость остывания // Матем. моделирование. 2002. Т. 14. № 8. С. 119-123.

58. Албу А. Ф., Зубов В. И. Оптимальное управление процессом кристаллизации вещества // Ж. вычисл. матем. и матем. физ. 2004. Т. 44. № 1. С. 38-50.

59. Албу А. Ф., Зубов В. И. Оптимизация процесса плавления и кристаллизации вещества. М: ВЦ РАН, 2004.

60. Birgin E. G. Automatic differentiation and application, PhD Thesis. Applied Mathematic Department, IMECC-UNICAMP, Brasil, 1998. (in Portuguese)

61. Birgin E. G., Evtushenko Yu. G. Automatic differentiation and spectral projected gradient methods for optimal control problems // Optimizat. Meth. and Software. 1998. V. 10. pp. 125-146.

62. Евтушенко Ю. Г., Засухина E. С., Зубов В. И. Вычисление вторых производных сложной функции с помощью обобщенной БАД-методологии. М: ВЦ РАН, 2005.

63. Засухина Е. С. Применение быстрого автоматического дифференцирования для вычисления вторых производных сложных функций // Ж. вычисл. матем. и матем. физ. 2006. Т. 46. № 11. С. 1923-1949.

64. Lellouche J.-M., Devenon J.-L., Dekeyser I. Boundary Control of Burgers' Equation A Numerical Approach // Computers Math. Applic. 1994. V. 28. № 5. pp. 33-44.

65. Грачев H. И., Филъков A. H. Решение задач оптимального управления в системе ДИСО. М: Вычислительный центр АН СССР, 1986.1. Таблицы и рисункив =