Вероятностный подход к построению функции принадлежности нечеткого множества по результатам наблюдений в системах принятия решений тема диссертации и автореферата по ВАК РФ 05.13.01, кандидат технических наук Тамер Омар Мохамед Диаб Ел-Марсафави

• Тамер Омар Мохамед Диаб Ел-Марсафави
• кандидат технических наук
• 2005

Оглавление диссертации кандидат технических наук Тамер Омар Мохамед Диаб Ел-Марсафави

ВВЕДНИЕ.

ГЛАВА 1. ОБЗОР МЕТОДОВ ВЫЯВЛЕНИЯ СТАТИСТИЧЕСКИХ

ЗАВИСИМОСТЕЙ В СИСТЕМАХ ПРИНЯТИЯ РЕШЕНИЙ.

1.1. Методы построения функции принадлежности нечетких множеств.

1.2 Использование аппарата нечеткой логики в задачах управления и моделирования.

1.3. Аппроксимация регрессионных зависимостей.

1.4. Критерии выбора оптимальных аппроксимирующих функций.

1.5. Аппроксимация плотности вероятности.

1.6. Выводы по главе.

ГЛАВА 2. ОЦЕНИВАНИЕ ПАРАМЕТРОВ ЛОГИСТИЧЕСКОЙ

РЕГРЕССИИ.

2.1. Постановка задачи оценивания параметров логистической регрессии.

2.2. Метод максимального правдоподобия.

2.3. Параметрическая аппроксимация логита условной вероятности.

2.4. Сравнительный анализ методов параметрической аппроксимации логита условной вероятности.

2.5. Непараметрическая аппроксимация логита условной вероятности.

2.6. Выводы по главе.

ГЛАВА 3. ПОСТРОЕНИЕ ФУНКЦИИ ПРИНАДЛЕЖНОСТИ НА ОСНОВЕ АППРОКСИМАЦИИ ЛОГИТА УСЛОВНОЙ ВЕРОЯТНОСТИ.

3.1. Постановка задачи построение функций принадлежности.

3.2. Применение метода аппроксимации логита условной вероятности для построения функций принадлежности.

3.3. Иллюстративные примеры построения функций принадлежности.

3.4. Выводы по главе.

ГЛАВА 4. ЭКСПЕРИМЕНТАЛЬНЫЕ ИССЛЕДОВАНИЯ НА РЕАЛЬНЫХ

ДАННЫХ.

4.1 Анализ влияния точности аппроксимации функции принадлежности на качество нечеткого управления.

4.2 Исследование зависимости вероятности прогорания кольцевого уплотнения от температуры воздуха.

4.3 Нечеткая модель регулирования промышленным объектом.

4.3. Выводы по главе.!.Ill

Введение диссертации (часть автореферата) на тему «Вероятностный подход к построению функции принадлежности нечеткого множества по результатам наблюдений в системах принятия решений»

Современная информационная технология сегодня стала основным инструментальным средством, используемым при создании систем интеллектуального управления, разрабатываемых в рамках теории, появившейся в последние годы на стыке двух теоретических дисциплин — традиционной теории автоматического управления и теории искусственного интеллекта.

Выделение методов и средств обработки нечеткой информации в отдельное направление современной информационной технологии оправдано тем, что эта технология является базой для построения все возможных интеллектуальных программных систем, получивших название нечетких систем или нечетких множеств. Понятие нечеткого множества основывается на предположении о том, что любой элемент лишь в некоторой степени принадлежит данному множеству, поэтому одним из основных способов математического описания нечеткого множества является определение степени такой принадлежности некоторым числом, например, из интервала [0,1]. При этом границы интервала, т.е. 1 и 0, означают, соответственно, «принадлежит» и «не принадлежит».

В числе основных промышленных применений теории нечетких множеств можно назвать управление, диагностику неисправностей, распознавание образов, обработку изображений, анализ надежности, проектирование систем, компьютеры и т.д. В последнее время нечеткое управление является одной из самых активных и результативных областей исследований применения теории нечетких множеств. Нечеткое управление оказывается особенно полезным, когда технологические процессы являются слишком сложными для анализа с помощью общепринятых количественных методов, или когда доступные источники информации интерпретируются качественно или с большой погрешностью. В этих условиях нечеткое управление может дать лучшие результаты, по сравнению с общепринятыми алгоритмами управления.

Основной трудностью, мешающей интенсивному применению теории нечетких множеств при решении практических задач, является то, что функция принадлежности должна быть задана вне самой теории и, следовательно, ее адекватность не может быть проверена непосредственно средствами теории.

Для использования в моделях принятия решений информации, формализованной на основе теории нечетких множеств, необходимы процедуры построения соответствующих функций принадлежности. Построение функций принадлежности нечетких множеств является важным компонентом в задачах принятия решений. От того на сколько адекватно построенная функция отражает знания эксперта или экспертов зависит качество принимаемых решений. Для сла-боформализованных задач существуют два способа получения исходных данных - непосредственный, и как результат обработки четких данных. В основе обоих способов лежит необходимость субъективной оценки функций принадлежности нечетких множеств.

При решении многих задач анализа сложных систем в условиях неопределенности широко используются методы теории вероятности и математической статистики. Эти методы предполагают вероятностную интерпретацию обрабатываемых данных и полученных статистических выводов. В данной работе предлагается реализация вероятностного подхода, значительно снижающая субъективность оценивания функции принадлежности.

Заключение диссертации по теме «Системный анализ, управление и обработка информации (по отраслям)», Тамер Омар Мохамед Диаб Ел-Марсафави

4.3. Выводы по главе

В этой главе получены следующие результаты Исследовано влияние точности аппроксимации функции принадлежности на качество нечеткого управления и показано, что повышение качества нечеткого управления в значительной степени определяется качеством построения функции принадлежности нечетких множеств.

2. Выполнен сравнительный анализ для двух методов параметрического оценивания логистической регрессии в условиях, близких к встречающимся на практике, который показал целесообразность использования метода аппроксимации логита условной вероятности в определенных условиях.

3. Проведено исследование влияния округления исходных данных на качество параметрического оценивания логистической регрессии различными методами, которое показало что результаты аппроксимации логита условной вероятности в случае отсутствие округления исходных данных имеют меньшую погрешность, чем в случае наличия округления исходных данных.

4. Показана возможность использования аппроксимации функции принадлежности по экспериментальным данным в задаче регулирования промышленным объектом.

ЗАКЛЮЧЕНИЕ

В данной диссертационной работе получены следующие основные результаты:

1. Разработан вероятный подход к построению функции принадлежности нечетких множеств на основе аппроксимации логита условной вероятности.

2. Получены математические зависимости для оценивания параметров трапецеидальных, треугольных и гауссовых функций принадлежности по экспериментальным данным, которые позволяют уменьшить субъективность при решении практических задач, связанных с нечеткой логикой.

3. Выполнен сравнительный анализ точности оценивания параметров логистической регрессии различными методами, который показал целесообразность использования метода аппроксимации логита условной вероятности в определенных условиях.

4. Разработано алгоритмическое и программное обеспечение оценивания параметров логистической регрессии и функций принадлежности, которое используется для решения практических задач, исследования алгоритмов и в учебных целях.

5. Проведено исследование точности параметрического оценивания логистической регрессии различными методами для решения практической задачи, показавшее более высокую точность метода аппроксимации логита условной вероятности при анализе зависимости дефектов конструкции космического аппарата от температуры воздуха.

Список литературы диссертационного исследования кандидат технических наук Тамер Омар Мохамед Диаб Ел-Марсафави, 2005 год

1. Айзерман М.А. Алескеров A.A. Выбор вариантов: основы теории. М.: Наука, 1990. 236 с.

2. Алексеев A.B. Интерпретация и определение функций нечетких множеств // методы и системы принятие решений, s Рига: Риж. Политех Н. ин-т, 1979. С. 42-50.

3. Алексеев A.B., Борисов А.Н. Модели принятия решений на основе лингвистической переменной. Рига: Зинатне, 1982. 256с.

4. Бендлер Дж. У. и др. Диагностика неисправностей в аналоговых цепях. ТИИЭР, N 8, т.73, 1985, с.35-87.

5. Берг А. И., Бирюков Б. В., Геллер Е. С., Попоров Г. Н. Управление, информация, интеллект. М.: Мысль, 1986.—383 с

6. Берышев В.И., Петрок Л.В. Аппроксимация функций. Сжатие численной информации. Приложения. Екатеринбург, 1999.

7. Борисов А. Н., Осис Я. Я. Методика оценки функций принадлежности элементов размытого множества.— В кн.: Кибернетика и диагностика, Рига: РПИ. 1970, с. 125—134.

8. Боровков A.A., Могульский A.A. Большие уклонения и проверка статистических гипотез. Новосибирск: Наука, 1992. 222 с.

9. Бородюк В.П. Регрессионные модели с нестандартной ошибкой в задачах идентификации сложных объектов. М., МЭИ, 1981. 91с.

10. Буцев A.B., ПервозванскийА.А. Локальная аппроксимация с помощью ИНС// Автоматика и телемеханика, 1995, N9, С. 127-136.

11. Вапник В.Н. Восстановление зависимостей по эмпирическим данным. М.: Наука, 1979.-447 с.

12. Венцель Е.С. Теория вероятностей. М.: Вещая Школа, 2001

13. Воинов В.Г., Никулин М.С. Несмещенные оценки и их применение. М.: Наука, 1989. 436 с.

14. Воинов В.Г., Никулин М.С. Несмещенные оценки и их применение. М.: Наука, 1989.-436 с.

15. Гаврилов H.A., Гаврилова Н.С. Биология продолжительности жизни. М.: Наука, 1991.-280 с.

16. Глотов В. А., Павельев В. В. Экспертные методы определения весовых коэффициентов.— Автоматика и телемеханика, 1976, № 12, с. 95-108.

17. Горбань А. Н. Обучение нейронных сетей. М.: СП ПараГраф, 1990. с.

18. Горбань А.Н., Россиев Д.А. Нейронные сети на персональном компьютере. Наука, 1996, 275с.

19. Гордиенко Е.К., Лукьяница A.A. Искусственные нейронные сети. Основные определения и модели // Техническая кибернетика. 1994, № 5. С. 79-92.

20. Гудмен И. Нечеткие множества как классы эквивалентности случайных множеств. В сб.: Нечеткие множества и теория возможностей. М: Радио и связь, 1986, с.241-264.

21. Гусев Л.А., Смирнова И.М. Размытые множества. Теория и приложения (обзор). Автоматика и телемеханика, N 5, 1973, с.66-85.

22. Деврой Л., Дьерфи Л. Непараметрическое оценивание плотности LI подход. М.: Мир, 1988. 408 с.

23. Дрейпер Н., Смит Г. Прикладной регрессионный анализ: В 2-х кн. Кн. 1/Пер. с англ.— 2-е изд., перераб. и доп. М., ФиС, 1986. - 267 с.

24. Дрейпер Н., Смит Г. Прикладной регрессионный анализ: В 2-х кн. Кн. 2/Пер. с англ.- 2-е изд., перераб. и доп. М., ФиС, 1987. 248 с.

25. Дубов И.Р. Аппроксимация вероятностных законов в системах мониторинга. В ладим, гос. ун-т. Владимир, 2001. 137с

26. Дубов И.Р. Формирование наблюдений и аппроксимация функций плотности распределения непрерывной случайной величины // Автоматика и телемеханика. № 4. 1998. С. 84-93.

27. Дубов Р. И. Количественные исследования геохимических полей для поисков рудных месторождений. Новосибирск : Наука. 1974.

28. Жуковин В. Е., Оганесян Н. А., Бурштеин Ф. В., Корелов Э. С. Об одном подходе к задачам принятия решений с позиций теории нечетких множеств.— В кн.: Методы принятия решений в условиях неопределенности. Рига: РПИ, 1980, с. 12—16.

29. Заде JI. А. Основы нового подхода к анализу сложных систем и процессов принятия решений.-— В кн.: Математика сегодня/Сост. А. В. Шилейко, М.: Знание, 1974, с. 5—48.

30. Заде JI.A. Понятие лингвистической переменной и его применение к принятию приближенных решений. М: Мир, 1976, 165с.

31. Заде JI. А. Размытые множества и их применение в распознавании образов и кластер-анализе. В сб.: Классификация и кластер. М: Мир, 1980, с.208-247.

32. Зырянов Б.А. и др. Методы и алгоритмы обработки случайных и детерминированных периодических процессов. Свердловск: Урал, 1990. 115 с.

33. Ивахненко А.Г. Индуктивный метод самоорганизации моделей сложных систем. — Киев: Наукова Думка, 1982. 180 с.

34. Ивахненко А.Г. Индуктивный метод самоорганизации моделей сложных систем. — Киев: Наукова Думка, 1982. 180 с.

35. Ивахненко А.Г. Мюллер И.А. Самоорганизация прогнозирующихмоде-лей. Киев: Техника, 1985. 169 с.

36. Каменскии В. С. Методы и модели неметрического шкалирования (обзор).— Автоматика и телемеханика, 1977, № 8, с. 118—152.

37. Кандель А., Байатт У.Дж. Нечеткие множества, нечеткая алгебра, нечеткая статистика. Труды американского общества инженеров-радиоэлектроников, т. 66, 1978, N12, с.37-61.

38. Катковник В. Я. Непараметрическая идентификация и сглаживание данных. М.: Наука, 1985. 312 с.

39. Киселев П.JI. Разработка эффективных методов планирования и стабилизации режимов работы МГ с целью снижения энергозатрат. Автореф. канд. дисс., М: МИНГ, 1987, 22с.

40. Кокс Д. Р., Сенелл Э. Дж. Прикладная статистика: Принципы и примеры. М.: Мир, 1984. 420 с.

41. Кокс Д., Хинкли Д. Теоретическая статистика. М.: Мир, 1978. 560 с.

42. Круглов В. В., Борисов Н. Н. Искусственные нейронные сети. Теория и практика. М.: Горячая линия - Телеком, 2001, 382с.

43. Крянев A.B. Применение современных методов параметрической и непараметрической статистики при обработке данных экспериментов на ЭВМ. -М.: МИФИ, 1987.-80 с.

44. Кузнецов В.П. Интервальные статистические модели. М.: РиС, 1991. -247 с.

45. Леонков А. В. Нечеткое моделирование в среде MATLAB и fuzzyTECH. СПб.: БХВ- Петербург, 2003, 736с.

46. Логинов В. И. О вероятностной трактовке функций принадлежности Заде и их применение для распознавания образов.— Изв. АН СССР: Техническая кибернетика, 1966, № 2, с. 72—73.

47. Мучник И.Б., Снегирев П.М. Алгоритм оценки точности аппроксимации эмпирической зависимости // Автоматика и телемеханика. 1986. №8. С. 109-118.

48. Орлов А.И. Устойчивость в социально-экономических моделях. М: Наука, 1979.

49. Пугачев B.C. Теория вероятностей и математическая статистика. М.: Наука, 1979.-496 с.

50. Терехов С.А., А.Н. Горбант, А.Н. Кирдин, Е.М. Миркес, А.Ю. Ново-ходько, Д.А. Россиев, С.А. Tepe // Сб. Нейроинформатика. Новосибирск, Наука, 1998, С.101-136,

51. Ягер Р. Р. Нечеткие множества и теория возможностей. Последние достижения. М: Радио и связь, 1986, 408с.

52. Ягер P.P. Множества уровня для оценки принадлежности нечетких подмножеств. В сб.: Нечеткие множества и теория возможностей. М: Радио и связь, 1986, с.71-78.

53. Bellman R., Giertz М. On analytic formalism of the theory of fuzzy sets, Information Sciences 5, 1973, p. 149-156.

54. Bilgic Т., Turks I. Measurement theoretic justification of fuzzy set connectives, Fuzzy Sets and Systems 76(3), 1995, p.289-308.

55. Bishop С. M. Neural networks for pattern recognition. Oxford: Clarendon Press, 1995.

56. Bremermann H. Pattern recognition. In: Systems theory in the social sciences/Ed, by H. Bossel et al. Stuttgart: Binkhauser Verlag, 1976, p. 116—159.

57. Chameau J. L. , Santamarina J. C. Membership functions part II: Trends in fuzziness and implications, International Journal of Approximate Reasoning 1, 1987, p. 303-317.

58. Chameau J. L., Santamarina J. C. Membership functions part I: Comparing method of measurement, International Journal of Approximate Reasoning 1, 1987, p. 287-301.

59. Cheng В., Titterington D. M. Neural networks: A review from statistical perspective, Statistical Science, 1994 Vol 9, No.l, p.2-54.

60. Cox D.R., Snell E.J. Analysis of binary data. London: Chapman and hall, 1989.

61. Denning, Peter J. Neural networks. American Scientist, v. 80, № 5, p.426429.

62. Diederich G. W., Messick S. G., Tucker L. R. A general least squares solution for successive intervals.— Psychometrika, 1975, v. 22, p. 159—173.

63. Dubois D., Prade H. Fuzzy sets and systems: Theory and applications. -New York: Acad. Press, 1980, 394c.

64. Fine T.L. Theories of Probability: An Examination of Foundations, Academic Press, New York, 1973.

65. Flondor P. An example a fuzzy system, Kybernetes, 1977, p.229-230.

66. Hall P. and Marron J. S., Variable window width kernel estimates // Probability Theory and related Fields. 1988. V. 80, P. 31-49.

67. Hastie, T.J. , Tibshirani, R.J. Generalized Additive Models, New York: Chapman Hall. 1990.

68. Hemmerle, W. J., & Hartley, H., O. Computing maximum likelihood estimates for the mixed A.O.V. model using the W transformation. Technometrics, 15, 1973,819-831.

69. Hosmer D.W., Lemshow S. Applied logistic regression: New York: Wiley 1989.

70. Kalaba R. E., Spingarn J. A comparison of two methods for determining the weights of belonging to fuzzy sets.— Journal of Optimization Theory and Applications, 1979, v. 27, p. 531—538.

71. Kim, J., Seo, J. & Ki, G. C. Estimating membership functions in a fuzzy network model for part-of-speech tagging. Journal of Intelligent and Fuzzy Systems Vol. 4, No.4, 1996, p.309-320.

72. Klonias V.K. On a class of nonparametric density and regression estimators // Annals of statistics. 1984. V. 12. No 4. P. 1263-1284.

73. Kreinovich V., "Random Sets Unify, Explain, and Aid Known Uncertainty Methods in Expert Systems, In: J. Goutsias, R. P. S. Mahler, and H. T. Nguyen (eds.)". Random Sets: Theory and Applications, Springer-Verlag, New York, pp. 321-345, 1997.

74. Lippmann R.P. An introduction to computing with neural nets // IEEE ASSP Magazin, April, 1987. P.4-20.

75. Loginov V.I., "Probability Treatment of Zadeh Membership Functions and Their Use in Pattern Recognition". Eng. Cyber., pp. 68-69, 1966.

76. Mallows C.L. Some comments on Cp. Technometrics, 1973, v 15, p. 651

77. More, J. J., "The Levenberg-Marquardt Algorithm: Implementation and Theory," Numerical Analysis, ed. G. A. Watson, Lecture Notes in Mathematics 630, Springer Verlag, pp. 105-116, 1977.

78. Nguyen H. T. and B. Wu., An Introduction to Fuzzy Logic for Statistics. Wu Nan Book Company, Taipei., 2000.

79. Nguyen H. T. and Goodman I. R., Fundamentals of Uncertainty Calculi with Applications to Fuzzy Inference. Kluwer, Dordrecht, 1994.

80. Nguyen H. T., "Some Mathematical Tools for Linguistic Probabilities". Fuzzy Sets and Systems, vol. 2, pp. 53-65, 1979.

81. Nguyen, D.H. and B. Widrow Neural Networks for Self-Learning Control Systems// IEEE Control System Magazine, 1990, vol.10, no.3, pp.18-23.

82. Pedrycz W. Why triangular membership functions, Fuzzy Sets and Systems, 1994, v. 64, p.21-30.

83. Ripley B.D. Neural networks and related methods for classification, Journal of the Royal Statistical Society B, 1994, 56, No.3, pp.409-456.

84. Ripley, B. D., Hjort N. L. Pattern Recognition and Neural Networks, A Statistical Approach, Cambridge Universityh Press 1996.

85. Ross T. J. Fuzzy logic with engineering applications. McGraw-Hill, 1995, 600p.

86. Saaty T. L. Scaling the membership function, European Journal of Operational Research 25, 1986, p. 320-329.

87. Saaty T. L. Exploring the interface between hierarchies, multiple objectives and fuzzy sets.— Fuzzy Sets and Systems, 1978, v. 1, p. 57—69.

88. Saaty T. L. Measuring the fuzziness of sets.— Journal of Cybernetics, 1974, v. 4, p. 53—61.

89. Sager T.W. Nonparametric maximum Likelihood estimation of spatial patterns. "The Annals of Statist.", 1982, N4, p. 1125-1136.

90. Sanchez E. Inverses of fuzzy relations. Application to possibility distribution and medical diagnosis.— Fuzzy Sets and Systems, 1979, v. 2, p. 75-—86.

91. Schumacher M., Robner R., Vach W. Neural networks and logistic regression: Part I and II, Computational Statistics and Data Analysis, 1996, 21, p.661-701.

92. Silverman, B.W. Density Estimation for Statistics and Data Analysis. New York: Chapman and Hall.

93. Skala H. J. On many-valued logics, fuzzy sets, fuzzy logics and their applications.— Fuzzy Sets and Systems, 1978, v. 1, p. 129—149.

94. Teukolsky S.A., Vetterling W.T. Numerical Recipes in C. Cambridge: Cambridge university press, 1994. 965 c.

95. Thole U., Zimmermann H. J., Zysno P. On the suitability of minimum and products operators for the intersection of fuzzy sets.— Fuzzy Sets and Systems, 1979, v. 2, p. 167—180.

96. Turks I. B. Measurement of membership functions and their assessment , Fuzzy Sets and Systems 40, 1991, p. 5-38.

97. Warner B., Misra M. Understanding neural networks as statistical tools, The American Statistician, Nov 1996, Vol 50, No.4, p.284-293.

98. Zadeh L. A. Calculus of fuzzy restrictions. In: Fuzzy Sets and Their Applications to Cognitive and Decision Processes/Ed, by L. A. Zadeh et al. New York: Academic Press, 1975, p. 1—41.

99. Zimmerman H. J. Fuzzy set theory and its applications. Kluwer Academic Publishers, Massachusetts, USA, 5th edn, 1992.

100. Zimmermann H.J., Zysno P. Quantifying vagueness in decision models. "European Journal of Operational Research", N22, 1985, p.148-158.