Применение алгоритмов искусственных нейронных сетей для краткосрочного метеопрогноза тема диссертации и автореферата по ВАК РФ 25.00.30, кандидат физико-математических наук Грибин, Алексей Сергеевич

• Грибин, Алексей Сергеевич
• кандидат физико-математических наук
• 2005

Оглавление диссертации кандидат физико-математических наук Грибин, Алексей Сергеевич

Введение.

1 Прогнозирующие системы в метеорологии: состояние проблемы.

1.1 Метеорологический прогноз и цели его использования.

1.2 Основные понятия и определения проблемы прогнозирования.

1.3 Методы прогнозирования синоптических параметров

1.4 Модели временных последовательностей, регрессионный анализ.

1.5 Традиционные методы краткосрочного прогноза: оценка точности на примере прогноза температуры.

2" Нейронные сети: состояние проблемы.

2.1 Основные понятия и определения.

2.2 Модели нейронных сетей.

2.3 Подготовка исходных данных и обучение нейронных сетей

2.4 Задачи, решаемые на основе нейронных сетей. ф 2.5 Опыт применения нейронных сетей.

3 Прогнозирование на основе нейронных сетей.

3.1 Общий подход к прогнозированию с помощью нейронных сетей.

3.2 Опыт применения нейронных сетей для анализа временных рядов в финансовой сфере.

3.3 Сравнительные характеристики современных нейропакетов ф 3.4 Обоснование выбора пакета STATISTICA Neural

Networks(SNN), как основы для проведения исследований.

4 Прогноз по временным рядам метеовеличин с применением стандартных алгоритмов нейронных сетей (SNN).

4.1 Описание использованной базы исходных данных

4.2 Методика прогнозирования на основе временных рядов по нескольким синоптическим параметрам

4.3 Результаты численных экспериментов по построению нейронных сетей.

4.4 Результаты метеопрогнозов получаемых по нейросетям.

4.5 Критический анализ полученных результатов.

5 Разработка альтернативной методики для краткосрочного метеопрогноза.

5.1 "Сценарный" подход к интерпретации длинных временных рядов метеорологических величин.

5.2 Методика близких синоптических ситуаций (БСС): формализация.

5.3 Методика обработки и анализа временных рядов для дальнейшего использования в нейросетевых ф алгоритмах БСС.

5.4 Разработка специализированных программных средств.

5.5 Особенности процесса обучения и качество работы получаемых нейронных сетей.

6 Применение методики БСС для получения краткосрочного метеопрогноза. ф 6.1 Отобранные конфигурации нейросетей и методика проведения численных экспериментов.

6.2 Ансамбли метеопрогнозов и их вероятностная интерпретация.

6.3 Применение разработанной методики для анализа метеорологической ситуации на 22 июля 2001 г.

6.4 Результаты расчетов, оценка быстродействия методики для оперативного проведения прогнозов

6.5 Статистический анализ качества получаемых прогнозов на примере прогноза температуры воздуха.

6.6 Разработка рекомендаций по использованию и дальнейшему развитию предложенной методики краткосрочного прогноза.

Введение диссертации (часть автореферата) на тему «Применение алгоритмов искусственных нейронных сетей для краткосрочного метеопрогноза»

Повышение эффективности методов прогноза метеорологической обстановки было и остается актуальной задачей науки. Это объясняется как чрезвычайной сложностью проблемы, которая требует привлечения методик развитых в рамках самых различных направлений научного знания, так и постоянным совершенствованием инструментария, который может быть использован в этих целях [1,2].

В настоящее время можно констатировать существование достаточно развитой системы глобального прогноза, которая входит в гидрометеорологическую службу страны [1,3]. Система включает в себя единую, хотя и недостаточно развитую, сеть станций наблюдения за метеорологическими величинами. Метеопрогноз опирается на крупномасштабную интерпретацию синхронных данных имеющихся станций наблюдения и производится на основе методов синоптической и динамической метеорологии [1-7]. Этим и определяется заблаговременность и реальная точность выполняемого прогноза.

Более высокие требования предъявляются к точности краткосрочных (на срок в пределах одних суток) прогнозов, что требует наличия в данном районе локальной станции наблюдений метеорологических величин [7]. В последнее время, в связи с появлением автономных портативных метеостанций [8], проблема локального прогноза вновь становится объектом пристального внимания исследователей.

Интерес к локальному краткосрочному прогнозированию погодных явлений имеет очевидную практическую основу. Это, в первую очередь, существование опасных метеорологических явлений, способных нанести значительный ущерб промышленности, сельскохозяйственным объектам и транспорту. К их числу относятся явления погоды, связанные с ветром (шквалы, смерчи, метели), гололед и гололедица, ограничение видимости из-за туманов и осадков и т.д. [9-10].

Если локальные прогнозы по временным рядам производятся на базе результатов наблюдений на конкретной метеостанции, то на сегодняшний день используются, как правило, традиционные методы одномерной метеорологии' (регрессионный анализ, ARIMA, фильтрация данных, расчет средних многолетних величин и т.д. [11-15]).

В последнее время укрепилось ясное понимание того, что для оптимизации метеопрогноза необходимо предоставление специалистам-синоптикам не одного, а целого ансамбля возможных метеопрогнозов [3]. Достигнут значительный прогресс в развитии систем прогнозирования по ансамблям. Основой прогресса стало не только быстрое развитие вычислительной техники, но и понимание того, что детерминированные прогнозы не являются "научными" в полном смысле этого слова, так как не сопровождают результат прогноза оценкой возможной ошибки [16].

Поэтому вновь актуальными становятся методы одномерной метеорологии, которая в состоянии предложить альтернативный прогноз. Представляется, что эти методы еще далеко не исчерпаны и могут быть существенно дополнены за счет совершенствования используемых алгоритмов и вычислительных средств. При этом одним из перспективных направлений исследований является изучение и анализ алгоритмов искусственных нейронных сетей. Этому кругу вопросов и посвящена данная диссертация.

Целью настоящего диссертационного исследования является решение следующих задач: анализ эффективности применения стандартных алгоритмов нейронных сетей, разработанных для экстраполяции временных рядов, в целях краткосрочного прогноза метеорологических величин; поиск возможностей использования для этих целей альтернативных алгоритмов нейронных сетей, предназначенных для целей классификации (алгоритмов экспертных систем). ф Для решения этих задач в работе выбраны следующие направления проведения исследований:

Осуществить литературный поиск с целью получения статистически обоснованных оценок точности традиционных методов краткосрочного прогноза.

Произвести сравнительный анализ основных существующих нейропакетов - программ построения нейросетей. и выбрать на этой основе пакет наиболее подходящий для целей настоящей работы. На основе сбора материалов зарегистрированных на метеостанциях единой сети создать достаточно объемную базу данных, включающих временные ряды, охватывающие не менее 4- 5 лет регулярных наблюдений.

На конкретных примерах метеорологических величин, выполнить расчеты с применением стандартных алгоритмов нейронных сетей, разработанных для экстраполяции временных рядов, в целях краткосрочного прогноза метеорологических величин. Получить статистические оценки точности результатов проведенных численных экспериментов.

Сформулировать новый подход к интерпретации метеорологических наблюдений, опирающийся на наличие достаточно длинных рядов значимых метеовеличин. Это позволило бы свести задачу локального прогноза к экспертной оценке степени соответствия •щ текущей метеорологической ситуации и некоторой ситуации, имевшей место в прошлом и зарегистрированной в базе данных. Разработать соответствующее программное обеспечение. По результатам численных экспериментов получить статистические оценки точности предлагаемой методики при краткосрочном прогнозе. Ф

Методы исследования

При решении задач, связанных с формированием нейросетевых алгоритмов, использовался нейропакет STATISTICA Neural Networks (SNN) или его отдельные DLL-библиотеки. Специализированное программное обеспечение разрабатывалось на языке Visual Basic5 с дополнительным использованием библиотек пакета STATISTICA 5.0 (Visual Basic). В разделах работы, посвященных обработке результатов расчетов, а также оценке погрешностей измерений, применялись методы математической статистики. Широко использовались методы графического анализа и обобщения расчетных данных.

Обоснованность и достоверность результатов исследований Научная обоснованность и достоверность положений и выводов работы подтверждается результатами подробного статистического . анализа многочисленных рядов данных, а также совпадением на достаточно высоком уровне статистической значимости прогнозируемых и зарегистрированных метеорологических величин.

Исходные данные зарегистрированы на метеопостах единой наблюдательной сети (Санкт-Петербург, Омск) и являются официальными. Кроме того, они были подвергнуты тщательному анализу и цензурированию на специально созданном программном комплексе. Использованное базовое программное обеспечение является лицензионным и многократно тестировалось.

Научная новизна.

1. На примерах реальных временных рядов метеорологических величин, выполнен анализ эффективности применения стандартных алгоритмов нейронных сетей в целях получения метеопрогноза. Даны статистические оценки точности получаемых при этом результатов.

2. Предложен новый подход к интерпретации рядов метеорологических наблюдений, сводящий задачу метеопрогноза к экспертной оценке локальной метеорологической ситуации. Разработано специализированное программное обеспечение. По результатам численных экспериментов получены статистические оценки точности предлагаемой методики при краткосрочном прогнозе.

3. Разработана методика вероятностной интерпретации прогноза метеорологических величин.

Научная и практическая ценность.

Показана работоспособность и дана оценка эффективности предложенной методики краткосрочного прогноза с использованием искусственных нейронных сетей. На примерах рядов метеорологических величин зарегистрированных на двух станциях единой метеорологической сети, в районах с различными климатическими условиями, показана ее устойчивость и перспективность.

Предложенная методика краткосрочного прогноза не требует значительных материальных затрат при внедрении, проста и удобна в применении, скорость обработки данных определяется возможностями вычислительных средств, которые постоянно возрастают. Она может быть использована при построении автономных локальных систем краткосрочного прогнозирования на базе стандартной или портативной метеостанции.

Вероятностная интерпретация предложенной методики дает специалистам дополнительный инструмент для получения ансамбля прогнозов погоды с указанием вероятности реализации каждого из его представителей.

Реализация результатов

Реализация результатов работы планируется в учебном и научно-исследовательском процессе на кафедре Экспериментальной физики атмосферы Российского государственного гидрометеорологического университета. Результаты работы могут быть использованы при разработке систем автоматизации процесса получения прогноза погоды.

Апробация работы

Результаты диссертационного исследования докладывались на научном семинаре кафедры ЭФА в 2005г, на итоговой сессии Ученого совета РГГМУ в январе 2005г, а также на международной школе - конференции молодых ученых "Изменение климата и окружающая среда" в декабре 2005г. Тезисы докладов опубликованы в соответствующих сборниках тезисов и информационных материалов.

На защиту выносятся:

1. Результаты исследования эффективности применения стандартных алгоритмов искусственных нейронных сетей, разработанных для анализа временных рядов, в целях краткосрочного прогноза метеорологических величин.

2. Методика экспертной оценки (с помощью ПЭВМ) метеорологической ситуации, позволяющая оперативно предоставить в руки специалистов вероятностный ансамбль прогнозов для осуществления локального предсказания погоды.

Структура и объем диссертации

Диссертация состоит из введения, шести глав, заключения, списка литературы и приложения. Общий объем работы без приложения составляет 130 страниц машинописного текста, включая 64 рисунка и 12 таблиц. Список литературы содержит 73 наименования.

Заключение диссертации по теме «Метеорология, климатология, агрометеорология», Грибин, Алексей Сергеевич

Заключение

Диссертационная работа посвящена исследованию эффективности различных методов применения алгоритмов искусственных нейронных сетей для краткосрочного метеопрогноза.

В результате проведенного исследования были поставлены и успешно решены следующие задачи:

1. Проанализированы возможности традиционных методов краткосрочного прогноза метеорологических величин и на основе численных экспериментов получены оценки их эффективности.

2. Выполнен обзор зарубежного и отечественного опыта применения аппарата искусственных нейронных сетей для проведения анализа поведения временных рядов.

3. Проведен сравнительный анализ основных существующих на рынке программ построения искусственных нейросетей. Представлено подробное обоснование выбора пакета STATISTICA Neural Networks (SNN) как основы для проведения исследований.

4. Произведен анализ эффективности применения стандартных алгоритмов нейронных сетей, разработанных для экстраполяции временных рядов, в целях краткосрочного прогноза метеорологических величин. Получены статистические оценки точности результатов численных экспериментов.

5. Разработан и реализован новый подход к интерпретации данных метеорологических наблюдений, сводящий задачу прогноза к экспертной оценке локальной метеорологической ситуации, для проведения которой используются алгоритмы нейронных сетей.

6. Вероятностная интерпретация предложенной методики дает специалистам- синоптикам дополнительный инструмент для получения ансамбля прогнозов погоды с указанием вероятности реализации каждого из его представителей.

7. Разработано специализированное программное обеспечение, включающее средства графического просмотра, цензурирования и корректировки исходных данных в базе и средства, реализующие краткосрочный прогноз на основе нейросетей.

8. Показана работоспособность и дана оценка эффективности предложенной методики краткосрочного прогноза. По результатам численных экспериментов получены статистические оценки точности предлагаемой методики при краткосрочном прогнозе.

9. На примерах рядов метеорологических величин, зарегистрированных на двух станциях единой метеорологической сети в районах с различными климатическими условиями (Санкт-Петербург, Омск) в различные временные периоды, показана устойчивость альтернативной методики и ее перспективность.

10. Предложены рекомендации по дальнейшему развитию и использованию предложенной методики краткосрочного прогноза метеорологических величин.

Список литературы диссертационного исследования кандидат физико-математических наук Грибин, Алексей Сергеевич, 2005 год

1. Матвеев JI.T. Курс общей метеорологии. Физика атмосферы. JL: Гидрометеоиздат, 1976.-677 с.

2. Хргиан А.Х. Физика атмосферы. JL: Гидрометеоиздат, 1969.- 640 с.

3. Муравьев А. В., Кузнецова И.А. Ансамбли прогнозов: методы, проблемы, перспективы. Метеорология и гидрология. // 2005.-3. с. 3246.

4. Адамов П.Н. Служба погоды. JL: Гидрометеоиздат, 1968.- 40 с.

5. Вайсберг Дж. С. Метеорология. Погода на Земле. JL: Гидрометеоиздат, 1980.- 248 с.

6. Рубинштейн К.Г. и др. Воспроизведение приземной температуры воздуха и ее изменчивости. // Метеорология и гидрология. 2004.- 12.

7. Русин И.И., Тараканов Г. Г., Сверхкраткосрочные прогнозы погоды.-СП-б: РГГМИ, 1996.-308 с.

8. Метеостанция с беспроводной передачей сигнала датчика. Best. Nr. 12- 02-70. фирма Conrad Electronic/InterSystem. 1941214 С-Пб.- 42 с.

9. Кислов А.В. Климат в прошлом, настоящем и будущем. М.: МАИК "Наука-Интерпериодика", 2001.

10. Хандожко JI.A. Региональная оценка успешностии экономической полезности метеорологических прогнозов. Спб.: РГГМИ, 1994.- 231 с.

11. Бокс Дж, Дженкинс Г. Анализ временных рядов. Прогноз и управление. М.: Мир, Вып.1, Вып.2., 1974.

12. Андерсен Т. Статистический анализ временных рядов. М.: Мир, 1976. -475 с.

13. Бриллинджер Д. Временные ряды. М.: Мир, 1980. - 623 с.

14. Тюрин Ю.Н., Макаров А.А. Статистический анализ данных на компьютере/ Под ред. В.Э.Фигурнова. М.: ИНФРА-М, 1988. - 528 с.

15. STATISTIC А. Искусство анализа данных на компьютере. 2-е издание.-М.: Питер, 2003.- 631 с.

16. Tennekes H. Karl Propper and the accountability of numerical forecasting. / In New Developments in Predictabibility. ECMWF Workshop Proceedings,1991.- 127 p.

17. Силов Б.В. Принятие стратегических решений в нечеткой обстановке.-М.: ИНПРО-РЕС, 1995.-297 с.

18. Прикладные нечеткие системы./ Под редакцией Т.Тэрано. М.: Мир, 1993.-411 с.

19. Бакулин П.И,.и др. Курс общей астрономии. М.: Наука, 1966. -692с.

20. Калитин Н. Н., Актинометрия, JL: Гидрометеоиздат, 1938.- 397 с.

21. Розенблатт Ф. Принципы нейродинамики: Персептроны и теория механизмов мозга. М.: Мир, 1965. - 164 с.

22. Минский М., ПейпертС. Персептроны. М.: МИР, 1971. - 261 с.

23. Rosenblatt F. The peseptron: a probabilistic model for information storage and organization in the brain//Psychol. Rev. 1958. V. 65. P. 386.

24. Маккалох Дж., Питтс У. Логические исчисления идей, относящихся к нервной деятельности. // Автоматы. М.: ИЛ, 1956.- 211 с.

25. Уоссермен Ф. Нейрокомпьютерная техника. М.: Мир, 1992.- 361 с.

26. Горбань А.Н. Обучение нейронных сетей. М.: СП Пара Граф, 1991.-235с.

27. Нечеткие множества в моделях управления и искусственного интеллекта/ Под редакцией Поспелова. — М.: Наука, 1986.- 183 с.

28. Джеффри Е. Хинтон. Как обучаются нейронные сети.// В мире науки ,1992. -N 11 -N 12 -с. 103-107.

29. Spect D.F. Probablistic Neural Networks. Neural Networks3(l), 1990. -129p.

30. Haykin S. Neural Networks: A Comprehensive Foundation. New Yoork: Macmillan Publishing, 1994. - 478 p.

31. Bishop C. Neural Networks for Pattern Recognition. Oxford: University Press, 1995.-P. 671-679.

32. Иванченко А.Г. Персептрон системы распознавания образов. - К.: Наукова думка, 1972.- 142с.

33. Соколов Е.Н., Вайтнявичус Г.Г. Нейроинтеллект: от нейрона к нейрокомпьютеру.- М.: Наука, 1989. 283 с.

34. Тэнк Д.У., Хопфилд Д.Д. Коллективные вычисления в нейроноподобных электронных схемах. //В мире науки. 1988. - N 2. -С. 44-53.

35. Трикоз Д.В. Нейронные сети: как это делается?// Компьютеры + программы. 1993. - N 4(5). - С. 14-20.

36. Lippman R.P. An introduction to computing with neural nets. IEEE ISSP Magazine. Apr. 1987.- P.4-22

37. Aarts E.H.L., Korst J.H.M. Boltzmann machines for travelling salesman problem//European J. Oper. Res. 1989. V. 39. - P. 79-95.

38. Abu-Mostafa Y.S., Jaques J.N.St. Information capacity of the Hopfield model/ЯЕЕЕ Trans. Inform. Theory. 1985. V. 31. - P.461.

39. Amari S. Field theory of self-organizing neural networks//IEEE Trans. Syst., Man, Cybern. 1983. V. 13. - P. 741.

40. Athale R., Stirk C.W. Compact architectures for adaptive neural nets//Ibid. 1989. V. 28.

41. Cohen M.A., Grossberg S. Absolute stability of global pattern formation and parallel memory storage by competitive neural networks/ЯЕЕЕ Trans. Syst., Man, Cybern. 1983. V. 13. - N 5. - P. 815-826.

42. Hopfield J.J., Feinstein D.I., Palmer F.G. Unlearning has a stabilizing effect in collective memories//Nature. 1983. V. 304. - P. 141-152.

43. Hopfield J.J. Neural networks and physical systems with emergent collective computational abilities.//Proc. Natl. Acad. Sci. 1984. V. 9. - P. 147-169.

44. Hopfield J.J., Tank D.W. Neural computation of decision in optimization problems.//Biol. Cybernet. 1985. V. 52. - P. 397-426.

45. Jeffery W., Rosner R. Neural network processing as a tool for friction optimization.//Neuronet Comput. Conf., Snowbird, Utah, Apr. 13-16, 1986. New York, N.Y., 1986 P. 241-246.

46. Kuzewski Robert M., Myers Michael H., Grawford William J. Exploration of fourword error propagation as self organization structure.//IEEE 1st. Int. Conf. Neural Networks, San Diego, Calif., June 21-24, 1987. V. 2. - San Diego, Calif., 1987. - P. 89-95.

47. Lippmann Richard P. Gold Ben Neuronet classifiers useful for speech recognition // IEEE 1st. Conf. Neural Networks, San Diego, (Calif), 1987. -P. 417-425.

48. Rumelhart B.E., Minton G.E., Williams R.J. Learning representations by back propagating error// Wature, 1986. V. 323. - P. 1016-1028.

49. GrossG., Galiana F.D. Short Term Load Forecasting // Procs IEEE, 1987, v. —75. N12. - P.1558—1573.

50. Ranman S., Bhatnagar R. An Expert System Based Algorithm for Short Term Load Forecast // IEEE Trans, on Power Systems, 1988. v.3. - N 2. -P.392—399.

51. Liu K., et al. Comparison of Short-Term Load Forecasting Techniques // IEEE Trans, on Power Systems, 1996. v.ll.- N2.- P.877—882.

52. Нейронные сети и компактные волны. 2001 г http://alife.narod.ru/lectures/wavelets2001/part3.html

53. Картавцев В.В. Нейронная сеть предсказывает курс доллара?// Компьютеры + программы. 1993. - N 6(7). - с. 10-13.

54. Цуприков С. Нейронные вычисления берутся на вооружение финансистами.// Computerworld Moscow. - 1985. - N 7. - с. 57-58.

55. Чертков М., Грималюк А. Методика валютного прогнозирования// Одесские деловые новости. 1995 - май N 16 - с. 4.

56. Athale R., Stirk C.W. Compact architectures for adaptive neuraal nets//Ibid. 1989. V. 28. N4.

57. Bardcev S.I., Okhonin V.A. The algorithm of dual functioning (back-propagation): general approach, vesions and applications. Krasnojarsk: Inst, of biophysics SB AS USSA. 1989.

58. Carpenter G.A., Grossberg S. A massively parallel architecture for a self-organizing neural pattern recognition machine.//Comput. Vision Graphics Image Process. 1986. -V. 37. - P. 54-115.

59. Cohen M.A., Grossberg S. Absolute stability of global pattern formation and parallel memory storage by competitive neural networks//IEEE Trans. Syst., Man, Cybern. 1983. - V. 13. - N 5. - P. 815-826.

60. Dayhoff J. Neural network architectures //New-York:Van Nostrand reinhold, 1991.- 532p.

61. Fox G.C., Koller J.G. Code generation by a generalized neural networks: general principles and elementary examples.//.!. Parallel Distributed Comput. 1989.-V. 6.-N2.-P. 388-410.

62. Логовской M.A. Зарубежные нейропакеты: современное состояние и сравнительные характеристики. Нейрокомпьютер. N 1-2.1998.- С. 125141.

63. Медведев В.,.Потемкин В. Нейронные сети: MATLAB 6. М.: Диалог-МИФИ, 2002. - 496 с.

64. Нейронные сети. Statistica Neural Networks. М.: Горячая линия -Телеком: Грааль, 2001.- 316с.

65. Круглов, В.В. Искусственные нейронные сети. Теория и практика. М.: Горячая линия —Телеком: Грааль. 2001.- 127 с.

66. Вороновский Г.К. и др. Генетические алгоритмы, искусственные нейронные сети и проблемы виртуальной реальности.— X.: ОСНОВА, 1997.- 483 с.

67. М.А.Назаренко, Р.Е.Письменный, Д.Г.Серов. Распознавание среднего гауссовой случайной величины двухслойным персептроном при наличии шума. Дубна: ОЯИИ, 1996.- 471 с.

68. KohonenT. Self-organized formation of topologically correct feature maps. Biological Cybernetics, 43, 1982, p. 59-69

69. Kirkpatrick S. Optimization by simulated annealing. Sience, 1983,220, p.671-680.

70. KohonenT. Improved versions of learning vector quantization. International Joint Conference on NeuralNetworks 1, 545-550. San-Diego, CA.