Методы идентификации видов модуляции на основе искусственной нейронной сети с использованием кумулянтных признаков тема диссертации и автореферата по ВАК РФ 00.00.00, кандидат наук Нгуен Ван Минь

  • Нгуен Ван Минь
  • кандидат науккандидат наук
  • 2023, ФГБОУ ВО «МИРЭА - Российский технологический университет»
  • Специальность ВАК РФ00.00.00
  • Количество страниц 112
Нгуен Ван Минь. Методы идентификации видов модуляции на основе искусственной нейронной сети с использованием кумулянтных признаков: дис. кандидат наук: 00.00.00 - Другие cпециальности. ФГБОУ ВО «МИРЭА - Российский технологический университет». 2023. 112 с.

Оглавление диссертации кандидат наук Нгуен Ван Минь

ВВЕДЕНИЕ

ГЛАВА 1. ПРИМЕНЕНИЕ ИНТЕЛЛЕКТУАЛЬНЫХ МЕТОДОВ АНАЛИЗА ДАННЫХ В ЗАДАЧЕ РАСПОЗНАВАНИЯ ВИДОВ ЦИФРОВОЙ МОДУЛЯЦИИ СИГНАЛА

1.1 Методы анализа данных в задаче распознавания видов цифровой модуляции сигналов

1.2 Анализ информационных признаков, использующихся в ИНС

1.3 Постановка задач диссертационного исследования

1.4 Выводы по главе

ГЛАВА 2. СПОСОБЫ ВЫЧИСЛЕНИЯ КУМУЛЯНТОВ. ВЫБОР ИНФОРМАТИВНЫХ КУМУЛЯНТНЫХ ПРИЗНАКОВ

2.1 Описание используемых видов цифровой модуляции

2.2 Кумулянтные признаки и их вычисление

2.3 Вычисление информационных признаков для полностью известных сигналов

2.4 Выводы по главе

ГЛАВА 3. РАСПОЗНАВАНИЕ ВИДОВ ЦИФРОВОЙ МОДУЛЯЦИИ СИГНАЛОВ С ИСПОЛЬЗОВАНИЕМ МНОГОСЛОЙНОГО ПЕРЦЕПТРОНА

3.1 Структура многослойного перцептрона

3.2 Обучение многослойного перцептрона и алгоритм обратного распространения ошибки

3.3 Алгоритм распознавания видов цифровой модуляции и оценки значения ОСШ принимаемого сигнала при синхронизации приёмника

3.3.1 Исследование различных структур многослойного перцептрона в

задаче распознавания видов цифровой модуляции

3.3.2 Исследование алгоритма распознавания видов цифровой модуляции и оценки значения ОСШ с использованием многослойного перцептрона

3.4 Вывод по главе

ГЛАВА 4 РАСПОЗНАВАНИЕ ВИДОВ ЦИФРОВОЙ МОДУЛЯЦИИ ПРИНИМАЕМОГО СИГНАЛА В УСЛОВИЯХ ПАРАМЕТРИЧЕСКОЙ АПРИОРНОЙ НЕОПРЕДЕЛЁННОСТИ

4.1 Алгоритм распознавания видов цифровой модуляции при параметрической априорной неопределённости

4.2 Многослойный перцептрон в задаче распознавания QAM и PSK модуляции в условии параметрической априорной неопределённости

4.3 Вывод по главе

ЗАКЛЮЧЕНИЕ

СПИСОК ЛИТЕРАТУРЫ

ПРИЛОЖЕНИЕ А - Акты внедрения результатов диссертации

ПРИЛОЖЕНИЕ Б - Диплом

СПИСОК ИСПОЛЬЗУЕМЫХ СОКРАЩЕНИЙ

ИНС - Искусственная нейронная сеть

ОСШ - Отношение сигнал/шум

QAM - Квадратурная амплитудная модуляция

PSK - Фазовая манипуляция

FSK - Частотная манипуляция

ASK - Амплитудная манипуляция

APSK - Амплитудно-фазовая модуляция

GMSK - Гауссовская частотная модуляция с минимальным сдвигом

BPSK - Binary Phase Shift Keying (двоичная фазовая манипуляция)

QPSK - Quadrature Phase Shift Keying (квадратурная фазовая

манипуляция)

КР - Когнитивное радио

MLP - Многослойный перцептрон

FCM - Fuzzy c-means (алгоритм кластеризации в нечёткой логике)

SOM - Самоорганизующиеся карты Кохонена

ВВЕДЕНИЕ

Введение диссертации (часть автореферата) на тему «Методы идентификации видов модуляции на основе искусственной нейронной сети с использованием кумулянтных признаков»

Актуальность темы исследования

Телекоммуникационная сфера в последние десятилетия испытывает колоссальные изменения. Это обусловлено развитием технологий и постоянно увеличивающимся спросом на беспроводные услуги, от традиционных звонков и сообщений до стриминга видео и машинного обучения. Все это приводит к увеличению спроса на радиочастотный спектр, который является ограниченным ресурсом. Эти условия способствуют развитию концепции когнитивного радио, которая предполагает использование методов искусственного интеллекта для оптимизации использования радиочастотного спектра. Важным свойством современных и перспективных телекоммуникационных сетей и систем является их адаптивность, т.е. способность динамически изменять свою конфигурацию и характеристики в зависимости от целого ряда факторов, к числу которых относится и знание характеристик радиоизлучений посторонних источников в зоне действия этих сетей и систем. Характер этих радиоизлучений может определяющим образом влиять на достоверность передачи информации и эффективность использования частотного диапазона. Поэтому актуальна задача получения максимального объема информации об этих излучениях, в частности, о виде их модуляции. Одной из важных задач когнитивного радио является распознавание видов цифровой модуляции, что позволит системе передачи автоматически адаптироваться к окружающему радиочастотному окружению, обеспечивая оптимальное использование отведённых для неё радиочастот. В конечном счёте, это приводит к более эффективному управлению использованием всего радиочастотного спектра. Распознавание видов цифровой модуляции сигнала - сложная задача, которая требует применения сложных алгоритмов и мощных вычислительных ресурсов. Однако с развитием технологий машинного обучения и искусственных нейронных сетей появилась возможность разработки и реализации эффективных методов решения этой задачи.

Автоматическое распознавание или идентификация видов модуляции сигналов важно не только при построении адаптивных телекоммуникационных сетей и систем передачи информации, но является также важной задачей для систем радиоконтроля и радиомониторинга, идентификации помех и источников радиоизлучения и т.д. Знание параметров излучаемых радиосигналов позволяет идентифицировать передающее устройство, восстановить передаваемую информацию, а также даёт при необходимости возможность введения помеховых воздействий и наведение активных помех для подавления работы различных радиосистем.

При решении задач распознавания видов модуляции нужно принимать во внимание наличие в настоящее время большого числа методов модуляции сигнала и появление все новых методов, так как именно вид модуляции сигнала обеспечивает высокую скорость передачи данных, надёжность этой передачи и эффективное использование радиочастотного спектра.

Разнообразие видов цифровой модуляции делает далеко не тривиальной задачу распознавания видов модуляции и требует разработки новых методов и технологий для анализа и классификации модулированных радиосигналов. Существующие методы распознавания видов модуляции, основанные на классических статистических и спектральных методах, часто имеют ограничения в точности, скорости и устойчивости к изменению параметров сигналов и канала передачи.

В последнее время достигнуты заметные успехи в применении нейронных сетей для решения задач распознавания лиц, голоса и других объектов, что объясняется их большими возможностями при обработке сложных нелинейных зависимостей. Имеются положительные результаты применения нейронных сетей и для решения задачи распознавания видов модуляции, доказывающие, что искусственные нейронные сети (ИНС) представляют собой мощный инструмент для распознавания видов цифровой модуляции радиосигналов, обладающий большими возможностями и способный к дальнейшему развитию. Однако применение искусственных нейронных сетей для распознавания видов модуляции

требует разработки эффективных алгоритмов, определения наиболее информативных признаков сигналов, по которым осуществляется распознавание, а также анализа влияния различных параметров сигналов на результаты распознавания.

Выбор информационных признаков имеет решающее значение для обучения ИНС и последующего распознавания видов модуляции. В диссертационной работе предлагается использовать кумулянты в качестве информационных признаков, так как они могут детально описывать статистические свойства сигналов и имеют устойчивость к различным видам шума.

Важность исследования также обусловлена необходимостью распознавания видов модуляции как при полностью известных параметрах сигналов, так и при их неопределённости, включая расстройки несущей частоты и начальной фазы. Способность работать при таких расстройках характеризует эффективность предлагаемых методов в реальных условиях функционирования радиосистем.

Таким образом, тематика исследования обусловлена растущими требованиями к эффективности использования радиоспектра, сложностью и разнообразием видов цифровой модуляции, а также потенциалом искусственных нейронных сетей и кумулянтов как информационных признаков для распознавания видов модуляции. Поэтому тематика диссертации, заключающаяся в разработке и исследовании метода идентификации радиосигналов цифровых систем передачи информации на основе искусственной нейронной сети, представляется актуальной.

Степень разработанности темы

В литературе описаны и проанализированы различные алгоритмы и методы распознавания модуляции, включая классические методы, такие как статистический анализ и циклические спектры, а также более новые методы, использующие машинное обучение и нейронные сети. Тем не менее, исследования в этой области активно продолжаются, так как многие вопросы ещё открыты. Например, как обеспечить надёжное и быстрое распознавание модуляции в условиях шума и помех, как реализовать обучение и адаптацию ИНС к новым ситуациям и как справиться с неизвестными или новыми типами модуляции и т.д.

В общем, это активно развивающаяся область исследований с многими интересными проблемами.

Выполненные в научно-квалификационной работе исследования опираются на труды в области автоматического распознавания видов цифровой модуляции радиосигналов российских и зарубежных учёных, среди которых З.Д. Авеьдян, С.С. Аджемов, П.С. Гришин, О.В. Караван, Н.В. Кленов, В.Д. Набилков, Л.А. Приоров, А.А. Стогов, М.В. Терешонок, Д.С. Чиров, П.П. Чураков, E.E. Azzouz, S. De Fina, M. Elgendy, El-Khoribi, S. Finlay, M.A. Khan, A.G.A. Mohammed, A.K. Nandi, A. Swami, A.F. Young и др.

Цель и задачи диссертационного исследования

Цель диссертационной работы - разработка и исследование эффективных методов распознавания видов цифровой модуляции радиосигналов на основе искусственной нейронной сети с использованием кумулянтных признаков.

Для достижения поставленной цели в работе решаются следующие задачи:

1. Выбор кумулянтных признаков и методов вычисления кумулянтов для извлечения информации о следующих видах модуляции: GMSK, QAM-S, QAM-16, QAM-64, APSK-16, APSK-32, BPSK, QPSK, PSK-S, FSK-2 .

2. Разработка архитектуры искусственной нейронной сети, способной обучаться на основе анализа кумулянтных признаков.

3. Обучение нейронной сети на наборе радиосигналов с полностью известными параметрами с различными видами модуляции и исследование качества алгоритма идентификации видов модуляции.

4. Исследование качества разработанного алгоритма при одновременном распознавании видов цифровой модуляции и оценке ОСШ принимаемых сигналов с известными параметрами.

5. Разработка и исследование алгоритма одновременного распознавания видов цифровой модуляции и оценки значений отстроек от несущей частоты или начальной фазы в условиях параметрической априорной неопределённости.

Научная новизна

1. Предложены критерии отбора кумулянтных признаков для идентификации вида модуляции и по этим критериям выполнен практический отбор кумулянтов для десяти видов модуляции. Исследование демонстрирует возможность дальнейшего продвижения в этом направлении с использованием формального метода, связанного с переходом от одномерных к двухмерным кумулянтам, что открывает путь для исследования и применения кумулянтов, превышающих 9-й порядок.

2. Разработана структура многослойной нейронной сети для распознавания видов цифровой модуляции радиосигналов на основе минимизации функции ошибки путём использования методов Адама и стандартизации баз данных (StandardScaler).

3. Предложен нейросетевой алгоритм оценки значений отношения сигнал/шум (ОСШ) и распознавания видов цифровой модуляции радиосигналов в условиях параметрической априорной определённости.

4. Предложен нейросетевой алгоритм оценки значений расстройки несущей частоты и начальной фазы, и распознавания видов цифровой модуляции радиосигналов в условиях параметрической априорной неопределённости. Показано, что предложенный алгоритм позволяет выполнить с высокой точностью одновременно не только оценивание расстроек несущей частоты и начальной фазы, но и распознавание видов модуляции радиосигналов.

Теоретическая и практическая значимость

1. Показана целесообразность кумулянтного подхода для решения проблемы распознавания видов цифровой модуляции радиосигналов, а также продемонстрирована возможность дальнейшего развития этого подхода путём исследования кумулянтов порядка выше девятого через моменты высокого уровня.

2. Создана база данных по кумулянтам, используемым как классификационные признаки для десяти видов цифровой модуляции. Эта база может дополняться произвольным количеством других видов модуляции.

3. Разработан алгоритм автоматического определения видов цифровой модуляции с использованием многослойной нейронной сети на основе кумулянтных характеристик при известных параметрах сигналов или при априорной неопределённости ряда параметров сигналов, включая несущую частоту и начальную фазу.

4. Разработано программное обеспечение для автоматического распознавания видов цифровой модуляции в среде Python с помощью Блокнота Colab на основе предложенных методов и алгоритмов.

5. Результаты диссертации нашли применение в работах ОАО «МНИИРС» и в учебном процессе РТУ МИРЭА. Они могут также иметь практическое применение в адаптивных сетях и системах передачи информации, системах мониторинга радиоэфира и анализа характеристик источников радиоизлучений.

Положения, выносимые на защиту

1. Действительные части кумулянтов сигналов обладают высокой информативностью о виде модуляции и поэтому могут быть использованы как классификационные признаки при решении задач распознавания видов цифровой модуляции.

2. Многослойная нейронная сеть с использованием кумулянтов в качестве информационного признака позволяет не только выполнить распознавание видов цифровой модуляции, но и определить значения ОСШ принимаемого радиосигналов с известными параметрами с высокой точностью.

3. Предложенный нейросетевой алгоритм оценки значения отстройки от несущей частоты или начальной фазы обеспечивает высокую точность, достаточную для работы алгоритма распознавания видов цифровой модуляции принимаемого сигнала.

4. Предложенный метод распознавания видов цифровой модуляции QAM-8, APSK-8, QAM-64 и PSK-8 в случае неточного знания несущей частоты и начальной фазы позволяет выполнить не только распознавание этих видов

цифровой модуляции с высокой достоверностью, но и оценить несущую частоту и начальную фазу.

Апробация

Основные результаты научно-квалификационной работы представлены на следующих научных конференциях:

1. V Международная научно-практическая конференция «Актуальные проблемы и перспективы развития радиотехнических и инфокоммуникационных систем» «РАДИОИНФОКОМ-2021», г. Москва. 2021.

2. XXIII Международная научная конференция «Системы компьютерной математики и их приложения» (СКМП-2022), г. Смоленск, 2022.

3. VI Международная научно-практическая конференция «Актуальные проблемы и перспективы развития радиотехнических и инфокоммуникационных систем» «РАДИОИНФОКОМ-2022», г. Москва. 2022.

4. VII Научно-техническая конференция студентов и аспирантов, РТУ МИРЭА, 2022.

5. Семинар «Современные радиотехнические и телекоммуникационные системы», РТУ МИРЭА 2022.

6. XXIX Международная научно-практическая конференция «Радиолокация, навигация, связь» «RNLC-2023», г. Воронеж, 2023.

7. XIV Международная научно-техническая конференция, посвященная 100-летию отечественной гражданской авиации «МНТК-2023», МГТУ ГА 2023.

8. VIII Научно-техническая конференция студентов и аспирантов, РТУ МИРЭА, 2023.

Публикации по теме диссертации

По результатам научно-квалификационной работы были опубликованы 9 работ, из которых 3 работы в рецензируемых журналах из Перечня ВАК и 6 работ в сборниках трудов российских и международных конференций с 2021 по 2023 гг.

Методы исследования

Использованы теория вероятностей и математическая статистика, теория радиотехнических сигналов, цифровой обработки сигналов (ЦОС), теория

искусственных нейронных сетей, методы математического и статистического имитационного моделирования.

Достоверность

Достоверность полученных в работе результатов подтверждается их совпадением для ряда частных случаев с результатами, представленными в научной литературе, их непротиворечивостью известным физическим представлениям, компьютерным моделированием, апробацией основных результатов исследования на конференциях.

Структура диссертации

Диссертация состоит из введения, четырёх глав, заключения, списка литературы из 89 наименований и приложения и содержит 112 страниц, 8 таблиц, 63 рисунка.

Во введении приводятся основные сведения о диссертационном исследовании: краткое обоснование важности выбранной темы, формулировки цели и задач исследования, научной и практической значимости работы, изложение основных положений, выносимых на защиту, а также информация об апробации работы, внедрении её результатов и публикациях автора.

В первой главе рассмотрены методы интеллектуального анализа данных в задаче распознавания видов цифровой модуляции сигнала. Проанализированы информационные признаки модулированных радиосигналов, используемые для входа ИНС, и подробно сформулированы задачи исследования.

Во второй главе рассмотрены основные виды цифровой модуляции и кумулянты модулированных радиосигналов. Проведено исследование методов вычисления совместных моментов и кумулянтов прямым преобразованием или с использованием формальной процедуры. По результатам вычисления кумулянтов до девятого порядка установлено, что наиболее информативными являются действительные части кумулянтов и именно они рассматриваются в дальнейшем как кумулянтные признаки. Кумулянтные признаки обладают хорошо выраженным разделительным свойством (существенно различны) для разных видов модуляции, что позволяет их принять в качестве информационных

признаков, использующихся для входа искусственной нейронной сети. Так как на практике распознавание видов модуляции всегда происходит для сигналов, зашумлённых гауссовым шумом, характеризующимся только первым (среднее значение) и вторым (дисперсия) кумулянтами (кумулянты выше второго порядка равны нулю), применение кумулянтов высокого порядка в качестве информационных признаков для входа ИНС оказывается удобным при решении задачи распознавания видов цифровой модуляции сигнала.

В третьей главе проведено исследование распознавания видов цифровой модуляции и оценки значения ОСШ принимаемого сигнала при идеальной синхронизации приёмника. Разработана структура многослойного перцептрона с методом Adam в качестве функции минимизации ошибки. Выполнено исследование влияния количества скрытых слоёв ИНС на точность распознавания видов цифровой модуляции. Исследованы алгоритм и результаты оценивания значения ОСШ и качество распознавания видов модуляции принимаемого сигнала с различными значениями ОСШ.

В четвертой главе проведено исследование распознавания видов цифровой модуляции сигналов в случае неточного знания параметров сигнала, в том числе -значения несущей частоты и начальной фазы. Рассмотрен метод распознавания видов цифровой модуляции (QAM-8, APSK-8, QAM-64 и PSK-8) в случае неточного знания несущей частоты и начальной фазы сигнала. С использованием алгоритма стандартизации (StandardScaler) данных построена многослойная нейронная сеть. С помощью компьютерного моделирования оценено качество распознавания видов цифровой модуляции при разных значениях ОСШ, расстройках частоты и фазы.

В заключении приведены основные результаты диссертационного исследования.

В приложении приведены акты внедрения, полученный на конференции диплом.

ГЛАВА 1. ПРИМЕНЕНИЕ ИНТЕЛЛЕКТУАЛЬНЫХ МЕТОДОВ АНАЛИЗА ДАННЫХ В ЗАДАЧЕ РАСПОЗНАВАНИЯ ВИДОВ ЦИФРОВОЙ МОДУЛЯЦИИ СИГНАЛА

1.1 Методы анализа данных в задаче распознавания видов цифровой модуляции сигналов

Применение интеллектуальных методов анализа данных является неотъемлемой чертой когнитивного радио (КР). Этот термин впервые был предложен Джозефом Митолой III (Joseph Mitola III) в 2000 году [1]. Под КР принято понимать интеллектуальную беспроводную коммуникационную систему, которая способна адаптироваться к окружающим условиям и оптимизировать свою работу, включая выбор рабочих частот, мощность передачи и другие параметры, с целью повышения эффективности использования радиочастотного спектра и обеспечения высокого качества связи.

КР основано на принципах искусственного интеллекта и машинного обучения, что позволяет ему динамически обрабатывать информацию о канале передачи, принимать решения и настраивать свою работу в соответствии с изменяющимися условиями. Это особенно полезно в условиях ограниченного доступа к радиочастотному спектру и перегруженных сетей, так как когнитивное радио может искать свободные частоты для передачи данных, минимизируя интерференцию с другими пользователями и улучшая производительность сети. В КР одним из важных этапов процесса адаптации является распознавание видов цифровой модуляции радиосигналов, что позволяет определить, каким образом информация передаётся в радиосигнале, а это, в свою очередь, способствует оптимизации работы радиосистемы и улучшению эффективности использования радиочастотного спектра.

Однако применение интеллектуальных методов анализа данных, таких как машинное обучение и искусственный интеллект, в задачах распознавания видов цифровой модуляции радиосигналов, целесообразно и во многих радиосистемах,

не относящихся, строго говоря, к области КР - в системах радиоконтроля и радиомониторинга, идентификации помех и источников радиоизлучения и др. В настоящее время существует множество различных методов, позволяющих проводить интеллектуальный анализ данных и эффективно решать задачи распознавания [2,3], но наиболее эффективными считаются метод построения деревьев решений [4,5], метод иерархической кластерной классификации объектов [6], метод кластерной классификации и идентификации объектов на основе искусственной нейронной сети (ИНС) [7].

Метод построения деревьев решений

Метод построения деревьев решений является одним из популярных подходов к машинному обучению, применяемых для решения задач классификации и регрессии. Деревья решений представляют собой иерархическую структуру, состоящую из узлов и ветвей, которые выражают условия и решения на основе признаков входных данных. Вершина дерева является корневым узлом, а листьями дерева являются конечные решения.

Процесс построения деревьев решений состоит из следующих основных этапов:

1. Выбор критерия разделения: для определения оптимального разделения данных на каждом узле дерева используются различные критерии, такие как индекс Джини, энтропия или среднеквадратичная ошибка. Критерий разделения определяет, какой признак и какое значение признака будут использованы для разделения данных на подгруппы.

В машинном обучении энтропия часто используется для определения наилучшего разделения данных на подгруппы. Энтропия вычисляется на основе распределения классов в данных, и чем более равномерно распределены классы, тем выше энтропия. Энтропия Шеннона определяется следующим образом для дискретного распределения вероятностей [14]:

Н (х ) = -! Р ( * )* ^2 [р (*)_,

где Н(Х) - энтропия случайной переменой X,

р(х) - вероятность возникновения события х.

2. Рекурсивное разделение данных: на основе выбранного критерия разделения данные рекурсивно разделяются на подгруппы, начиная с корневого узла дерева. В каждом узле данные разделяются на две или более подгруппы в соответствии с принятыми условиями разделения по признакам.

3. Остановка роста дерева: Рост дерева может быть остановлен, когда достигнуты определенные критерии, такие как максимальная глубина дерева, минимальное количество образцов в узле или достижение заданной точности.

4. Обрезка дерева: после построения дерева может быть выполнена процедура обрезки, чтобы уменьшить его сложность и избежать переобучения. Обрезка заключается в удалении некоторых узлов или ветвей дерева на основе критериев, таких как улучшение точности на валидационной выборке или снижение сложности модели.

5. Оценка и валидация дерева решений: построенное дерево решений оценивается на тестовых данных с использованием различных метрик, таких как точность, чувствительность, специфичность или среднеквадратичная ошибка. Валидация дерева решений может быть выполнена с использованием кросс-валидации, отложенной выборки или других методов оценки модели.

6. Применение дерева решений для предсказаний: после оценки и валидации дерево решений может быть использовано для предсказания классов или значений целевой переменной на новых данных. На каждом этапе, начиная с корневого узла, новый образец будет проходить через дерево в соответствии с условиями на признаках в узлах, пока не достигнет листового узла, который содержит предсказанное значение или класс. Пример дерева решений применительно к задаче распознавания видов модуляции представлен на рисунке 1.1 [8].

Расчёт С

Рисунок 1.1 Дерево решений распознавания видов модуляции

В данном простом примере авторы предлагали использовать кумулянты 4-го порядка (С4 0) в качестве информационных признаков для распознавания четырёх

видов модуляции: РБК-8, рЛМ-16, РАМ-4 и БРБК. Результаты показали, что при ОСШ=10 дБ и сигнала длительностью 100 символов точность распознавания составила более 95%. При наличии расстройки по несущей частоте, которая составляла около 8%, данный алгоритм не позволяет различать сигналы с модуляцией РБК-8, ОАМ-16 и БРБК.

Общими недостатками данного метода являются:

1. Тенденция к переобучению: деревья решений могут легко переобучаться, особенно если их глубина не ограничена. Переобученное дерево может плохо обобщаться на новые данные, что снижает его производительность.

2. Нестабильность: деревья решений могут быть нестабильными, так как небольшие изменения в данных могут привести к существенным изменениям в структуре дерева.

3. Вычислительная сложность: построение оптимального дерева решений является полной задачей, и реализация эффективных алгоритмов для больших наборов данных может быть сложной [5].

Метод иерархической кластерной классификации объектов

Суть данного метода заключается в том, что он объединяет объекты или кластеры на основе их близости, создавая иерархическую структуру кластеров, где на каждом уровне объекты становятся более похожими друг на друга. Иерархическая кластеризация подразделяется на две основные стратегии [6]:

1. Агломеративная иерархическая кластеризация: В этом подходе каждый объект начинает как отдельный кластер, и затем на каждом шаге два наиболее близких кластера объединяются в один, пока все объекты не будут объединены в один кластер. Этот процесс создает дерево кластеров, называемое дендрограммой.

2. Дивизивная иерархическая кластеризация: В этом подходе все объекты изначально составляют один кластер, а затем на каждом шаге кластер делится на подкластеры на основе некоторого критерия разделения. Процесс продолжается до тех пор, пока каждый объект не станет отдельным кластером.

Иерархическая кластеризация основана на измерении расстояния (или близости) между объектами или кластерами, для чего могут использоваться различные метрики расстояния, такие как евклидово расстояние, манхэттенское расстояние, косинусное расстояние и другие [9-11]. Иерархическая кластеризация предлагает следующие основные этапы:

1. Выбор меры расстояния: определение меры расстояния или сходства между объектами, такой как евклидово, манхэттенское, косинусное расстояние и т.д.

2. Выбор критерия связывания: определение критерия связывания, который будет использоваться для объединения или разделения кластеров, например, одиночная, полная, средняя связь и т.д.

3. Построение дендрограммы: в результате кластеризации создается дендрограмма, т.е. иерархическое дерево, отображающее последовательное объединение или разделение кластеров.

Похожие диссертационные работы по специальности «Другие cпециальности», 00.00.00 шифр ВАК

Список литературы диссертационного исследования кандидат наук Нгуен Ван Минь, 2023 год

СПИСОК ЛИТЕРАТУРЫ

1. Mitola J.I. Cognitive Radio an Integrated Agent Architecture for Software Defined Radio // Dissertation Doctor of Technology, Royal Institute of Technology (KTH), Sweden, 2000.

2. Дюк В., Самойленко А. Data Mining. СПб.: Питер, 2001. - 368 с.

3. Барсегян А. А. и др. Методы и модели анализа данных / Барсегян А. А., Куприянов М.С., Степаненко В.В., Холод И.И. / OLAP и Data Mining СПб.: БХВ-Петербург, 2004. - 336 с.

4. Джексон П. Введение в экспертные системы. Пер. с англ.: Уч. пос. - М.: Издательский дом "Вильямс", 2001. - 624 с.

5. Quinlan J.R. Programs for Machine learning. San Mateo, CA: Morgan Kaufmann, 1993. - 302 p.

6. Мандель И.Д. Кластерный анализ. М.: Финансы и статистика, 1988. - 176 с.

7. Хайкин С. Нейронные сети: полный курс. Изд. 2-е. М.: Издательский дом «Вильямс», 2006. - 1101 с.

8. Аджемов С.С. и др. Методы распознавания видов цифровой модуляции сигналов в когнитивных радиосистемах / Аджемов С.С, Кленов Н.В., Терешонок М.В., Чиров Д.С. // Вестник Московского университета. Серия 3. Физика. Астрономия. 2015. №6. С. 19-27.

9. Dudczyk J., Kawalec A. Identification of emitter sources in the aspect of their fractal features // Bulletin of the Polish Academy of Sciences: Technical Sciences, vol. 61, no. 3, 2013. pp. 623-628.

10. Dudczyk J. Applying the radiated emission to the radio-electronic devices identification // Dissertation thesis, Department of Electrical, Military University of Technology, 2004 (Polish).

11. Dudczyk J. Radar emission sources identification based on hierarchical agglomerative clustering for large data sets // Journal of Sensors, 2016. pp. 1-9.

12. Velampalli, C. Hierarchical blind modulation classification in the presence of carrier frequency offset // Master's Thesis. Communications Research Center, May 2010. pp. 1-39.

13. Аджемов С.С., Чиров Д.С., Терешонок М.В. Распознавание видов цифровой модуляции сигналов в системах когнитивного радио М: МТУСИ, 2018. - 223 с.

14. Набилков В.Д., Приоров А.Л., Дубо М.А. Анализ методов автоматического определения видов модуляции радиосигналов с использованием искусственной нейронной сети // Перспективные технологии в средствах передачи информации -ПТСПИ-2019: Материалы XIII международной научно-технической конференции, т.1. Владимир, 03-05 июля 2019 года Владимир: Владимирский государственный университет имени Александра Григорьевича и Николая Григорьевича Столетовых, 2019. - c. 259-263.

15. Мартин Н., Ингленд Дж. Математическая теория энтропии. Пер. с англ. -М.: Мир, 1988. - 350 с.

16. Шитиков В. К., Мастицкий С. Э. Классификация, регрессия и другие алгоритмы Data Mining с использованием R //https: //github .com/ranalytics/data-mining, 2017. - 351 с.

17. Goodftllow I., Bengio Y., Courville A. Deep Learning // The MIT Press, 2016, 800 P.

18. Charu C. A. Neural Networks and Deep Learning. Publisher: Springer, 1st - edi., 2018, 520 P.

19. Nagy P.A.J. Analysis of a method for classification of analogue modulated radio signals // in Proc. EUSIPCO 94, vol. II, Edinburg, U.K., 1994. pp. 1015-1018.

20. Azzouz E.E, Nandi A. K. Automatic modulation recognition of communication signals. Kluwer Academic Publishers, Netherlands, 1996. pp.182-217.

21. Simon H. Neural Networks / A comprehensive Foundation. Maxwell Macmillan Canada, Inc. 1994, 696 P.

22. Azzouz E.E., Nandi A.K. Algorithms for automatic modulation recognition of communication signals // IEEE Transactions on communications, vol. 46, No. 4, Apr 1998. pp. 431-436.

23. Azzouz E.E., Nandi A.K. Automatic identification of digital modulations // Signal Processing, vol. 47, no. 1, Nov. 1995. pp. 55-69.

24. Нгуен М.В. Методы идентификации радиосигналов цифровых систем передачи информации // Актуальные проблемы и перспективы развития радиотехнических и инфокоммуникационных систем "РАДИ0ИНФ0К0М-2021": Сборник научных статей V Международной научно-практической конференции, Москва, 11-15 ноября 2021 года. - Москва: МИРЭА - Российский технологический университет, 2021. - c. 182-186.

25. Парамонов А.А. и др. Сравнительный анализ методов идентификации вида манипуляции радиосигнала при решении задач радиомониторинга / Парамонов А.А., Нгуен М.В., Милорадов Г.А., Авдеев К.В. // Актуальные проблемы и перспективы развития радиотехнических и инфокоммуникационных систем "РАДИ0ИНФ0К0М-2022": Сборник научных статей VI Международной научно-практической конференции, Москва, 06 июня 2022 года. - Москва: МИРЭА -Российский технологический университет, 2022. - c. 176-179.

26. Taira S. Automatic classification of QAM signals by neural networks //Acoustics, Speech, and Signal Processing (ICASSP '01), Vol. 2, 2001. pp. 1309-1312.

27. Khan M.A., Bangash Y.A. Automatic modulation recognition of communication signals // Master's thesis of Electrical Engineering, 04/2012. pp. 1 - 60.

28. El-Khoribi R.A., Shoman M.A.I., Mohammed A.G.A. Automatic digital modulation recognition using artificial neural network in cognitive radio // International Journal of Emerging Trends of Technology in Computer Science (IJETTCS), May - June 2014, Vol. 3. - Issue 3. pp. 132-136.

29. Marko M.R., Aleksandar M.N., Natasa J.N. Application of artificial neural networks in classification of digital modulations for software defined radio // IEEE EUROCON, 2009. pp. 1700-1706.

30. Iversen A. Classification of digital modulation schemes using multi-layered perceptrons // Report, School of Mathematical and Computer Sciences, Heriot-Watt University, 2004. P. 41

31. Shahnaz A., Moniri M.R. Automatic modulation recognition and classification for digital modulated signals based on ANN algorithms // Journal of Multidisciplinary Engineering Science and Technology (JMEST), 2016, Vol. 3, Issue 12. pp. 6230-6235.

32. Azarbad M., Hakimi S., Ebrahimzadeh A. Automatic recognition of digital communication signal // International Journal of Energy, Information and Communications, November 2012, Vol. 3, Issue 4. pp. 21-34.

33. Bijan M. Digital modulation classification using constellation shape // Signal Processing 80 (2), February 2000, pp. 251-277.

34. James C. B. Pattern Recognition With Fuzzy Objective Function Algorithms // Publisher: Plenum, 1981. P. - 272.

35. Ahmadi N., Berangi R. Symbol Based Modulation Classification using Combination of Fuzzy Clustering and Hierarchical Clustering // Signal Processing - An International Journal (SPIJ), Vol. (4): Issue (2), pp. 123-137.

36. Prakasam P., Madheswaran M. Digital Modulation Identification Model Using Wavelet Transform and Statistical Parameters // Journal of Computer Systems, Networks, and Communications, vol, 2008. P. 8.

37. Prakasam P., Madheswaran M. Digital Modulation Identification Algorithm for Adaptive Demodulator in Software Defined Radios Using Wavelet Transform // International Scholarly and Scientific Research & Innovation 3(11) 2009. pp. 544-551.

38. Кендалл М., Стьюарт А. Теория распределений // Пер. с англ. - М. «Наука», 1966. - 588 c.

39. Приоров А.Л., Набилков В.Д., Дубов М.А., Поелуев С.С. Анализ алгоритмов автоматического определения типов модуляции радиосигналов // Цифровая обработка сигналов и её применение - DSPA-2019: Доклады 21-й Международной конференции, Москва, 27-29 марта 2019 года. Том Выпуск: XXI. Книга 2(2). - М.: МНТОРЭС им. А.С. Попова, 2019. - c. 223-228.

40. Vladimir D.O., Miroslav L.D. Automatic modulation classification: Sixth -order cumulant features as a solution for real - world challenges // 20th Telecommunications forum TELFOR 2012, Serbia. November 20-22, 2012. pp. 392-399.

41. Liu M. I. etc. Research on recognition algorithm of digital modulation by higher order cumulants / Liu M., Zhao Y., Shi L., Dong J. // 4-th International Conference on Instrumentation and Measurement, Computer, Communication and Control, 2014. pp. 686-690.

42. Peng L. Li Z. Apparatus and method for classifying modulation in multipath environments // Patent No: US8385473B2. 2010.

43. Парамонов А.А. и др. Сверточная нейронная сеть в задаче распознавания цифровой модуляции радиосигналов / Парамонов А.А., Нгуен М.В., Милорадов Г.А. // Актуальные проблемы и перспективы развития радиотехнических и инфокоммуникационных систем" "РАДИ0ИНФ0К0М-2022": Сборник научных статей VI Международной научно-практической конференции, Москва, 06 июня 2022 года. - Москва: МИРЭА - Российский технологический университет, 2022. -c. 181-184.

44. Парамонов А. А. Распознавание видов цифровой модуляции радиосигналов с использованием многослойной нейронной сети по кумулянтным признакам / Парамонов А. А., Тихонова О. В., Нгуен М. В. // Материалы XXIII международной научной конференции: СКМП-2022. - Смоленск: Изд-во СмолГУ, 2022. Вып. 23 Ч.1 c. 23-29.

45. Wong M.L.D., Nandi A. K. Automatic digital modulation recognition using artificial neural network and genetic algorithm- // Signal Processing, Volume 84, Issue 2, 2004. pp. 351-365.

46. Su W., John A. K. Higher-Order Blind Signal Feature Separation: An Enabling Technology for Battlefield Awareness // Computer Science, 2006. pp.1-7.

47. Peng L., Li Z. Apparatus and method for classifying modulations in multipath environments// Patent No.: US 8,385.473 B2, 26.02.2013.

48. Караван О.В. Различие созвездий сигналов с квадратурной амплитудной модуляцией в условиях параметрической априорной неопределённости: Дис. канд. физ.-мат. наук: 01.04.03 / Караван Олег Валерьевич. - Воронеж, 2010. - 120 с.

49. Скляр Б. Цифровая связь. Теоретические основы и практические применение. - М.: Вильямс. 2003. - 1104 с.

50. Larry W. All of Statistics: A Concise Course in Statistical Inference // Springer Texts In Statistics, 2010. 462 P.

51. Аведьян Э.Д., Дам В.Н. К выбору кумулянтных признаков в задаче распознавания видов цифровой модуляции радиосигналов // Информатизация и связь, 2015, № 4. c. 11-15.

52. Парамонов А.А., Нгуен М.В. Распознавание видов цифровой модуляции радиосигналов с использованием многозадачной нейронной сети // Вестник воздушно-космической обороны. - 2022. - № 4(36). - c. 91-97.

53. Токмачев М.С. Вычисление кумулянтов и моментов распределения Майкснера // Вестник Новгородского государственного университета им. Ярослава Мудрого, Т. 2, №. 75, 2013. pp. 47-51.

54. Баврин И.И. Теория вероятности и математическая статистика // М.: Высшая школа, 2005. - 160 c.

55. Балдин К.В., Башлыков В.Н. Теория вероятностей и математическая статистика: Учебник // М.: Дашков и К, 2016. - 472 c.

56. Дмитриев Е.А. Математическая статистика в почвоведении // М.: КД Либроком, 2010. - 336 c.

57. Лагутин М.Б. Наглядная математическая статистика: Учебное пособие // М.: Бином, 2013. - 472 c.

58. Кричевец А.Н. Математическая статистика для психологов // М.: Academia, 2015. - 384 c.

59. Галушкин А.И. Многослойные системы распознавания образов // М., МИЭМ, 1970. - 167 с.

6G. Галушкин А.И. О методах настройки многослойных нейронных сетей // XII Всероссийское совещание по проблемам управления (ВСПУ - 2014), Москва. - C. 3936-3947.

61. Галушкин А.И. Нейронные сети: основные теории. М.: Горячая линия -Телеком, 2010. - 480 с.

62. Галушкин, А.И. Синтез многослойных нейронных систем распознавания образов. М.: Энергия, 1974. - 368 с.

63. Stefanidi A. etc. Application of convolution neural networks for multimodal identification task / Stefanidi A., Topnikov A., Tupitsin G., Priorov A. // 26th Conference of Open Innovations Association (FRUCT). - IEEE, 2G2G. - C. 423-42S.

64. Khryashchev V.V. Deep learning for region detection in high-resolution aerial images / Khryashchev V.V., Pavlov V.A., Priorov A., Ostrovskays A.A. // IEEE East-West Design & Test Symposium (EWDTS). - IEEE, 2G1S. - C. 1-5.

65. Парамонов А.А., Нгуен М.В., Нгуен М.Т. Распознавание видов цифровой модуляции радиосигналов с использованием многозадачной нейронной сети в условиях параметрической априорной неопределённости // Вестник воздушно-космической обороны. - 2G23. - № 2(38). С. 81-S7.

66. Парамонов А.А., Нгуен М.В. Применение искусственной нейронной сети в задаче распознавания видов цифровой модуляции // XIV Международная научно-техническая конференция, посвященная 100-летию отечественной гражданской авиации «МНТК-2023», МГТУ ГА 2023.(принята к печати)

67. Люгер Дж.О. Искусственный интеллект: стратегии и методы решения сложных проблем // М.: Диалектика, 2G16. - S64 c.

6S. Нильсон Н. Принципы искусственного интеллекта / Н. Нильсон // М.: Радио и связь, 2015. - 373 c.

69. Рассел С., Норвиг П. Искусственный интеллект: современный подход // М.: Вильямс, 2016. - 57S c.

7G. Слэйгл Дж. Искусственный интеллект // М.: Мир, 2G16. - 32G c.

71. Тей А., Грибомон П. Логический подход к искусственному интеллекту // М.: Мир, 2015. - 432 с.

72. Quoc V. Le., etc. On optimization methods for deep learning / Quoc V. Le, Jiquan N., Adam C., Abhik L., Bobby P., Andrew Y. Ng. // In Proceedings of the 28th -International Conference on International Conference on Machine Learning (ICML'11). Omnipress, Madison, WI, 2011, USA. pp. 265-272.

73. Domhan T., Jost T.S., Frank H. Speeding up automatic hyperparameter optimization of deep neural networks by extrapolation of learning curves // Twenty-fourth international joint conference on artificial intelligence. 2015. pp. 3-33.

74. Maclaurin D., Duvenaud D., Adams R. Gradient-based hyperparameter optimization through reversible learning // In: International conference on machine learning. PMLR, 2015. pp. 2113-2122.

75. James B., etc. Hyperopt: a Python library for model selection and hyperparameter optimization / James B., Brent K., Chris E., Dan Y., David D. C. // 2015 Comput. Sci. Discov. 8 014008.

76. Remi B., etc. Collaborative hyperparameter tuning / Remi B., Matyas B., Balazs K., Michele S. // Proceedings of the 30th International Conference on Machine Learning, PMLR 28(2), 2013, pp. 199-207.

77. Michal K. Deep learning for image recognition // Ing. Michal Hradis, BRNO 2025, P. - 36.

78. Kingma D.P., Jimmy L.B. Adam: A method for stochastic optimization // arXiv preprint arXiv:1412.6980, 2014, https://doi.org/10.48550/arXiv.1412.6980

79. Thara D.K., Premasudha B.G., Xiong F. Auto-detection of epileptic seizure events using deep neural network with different feature scaling techniques // Pattern Recognition Letters, 2019, pp. 544-550.

80. Khairul N.A.H, Abdul S.M.J., Ahmad F.A.F. Data pre-processing algorithm for neural network binary classification model in bank tele-Marketing // International Journal of Innovative Technology and Exploring Engineering (IJITEE), 2020, № 9(3), pp. 272277.

81. Jais I.K.M., Ismail A.R., Nisa S.Q. Adam optimization algorithm for wide and deep neural network / // Knowledge Engineering and Data Science, 2019, pp. 41-46.

82. Шапошникова Н.В. Исследование влияния предварительной обработки данных и параметров настройки нейронной сети на эффективность её работы / Шапошникова Н.В., Ганжа Я.С. // Решетневские чтения 2 (2018), pp. 177-179.

83. Козадаев А.С. Предварительная обработка данных для искусственных нейронных сетей в задачах прогнозирования временных рядов. Вейвлет-преобразование" // Вестник российских университетов. Математика, vol. 13, no. 1, 2008, pp. 98-99.

84. Немчинова Е.А., Плотникова Н.П., Федосин С.А. Подготовка и обработка нормативно-справочной текстовой информации для классификации с помощью искусственных нейронных сетей // Нелинейный мир. - 2019. - Т. 17, № 2. С. 27-33.

85. Пащенко Д.Э. Технологии анализа данных: классификация, предварительная обработка, эксперименты с моделями // Искусственный интеллект в решении актуальных социальных и экономических проблем XXI века: сб. ст. по материалам Четвертой всерос. науч.-практ. конф.(г. Пермь, 21-23 мая 2019 г.) Ч. II. / Перм. гос. нац. исслед. ун-т.-Пермь, 2019. - 179 с.

86. Шапошникова Н.В., Ганжа Я.С. Методы предварительной обработки параметров при настройке нейронной сети // VIII Всероссийская молодежная научная конференция "Актуальные проблемы современной механики сплошных сред и небесной механики-2018", 2019, С. 260-264.

87. Рахимов А.М., Мухаметзянов М.Ф., Халитов И.Р. Нейросети и обработка текста // СОВРЕМЕННАЯ НАУКА: АКТУАЛЬНЫЕ ВОПРОСЫ, ДОСТИЖЕНИЯ и ИННОВАЦИИ: сборник статей XVII Международной научно-практической конференции: в 2 ч., Пенза, 05 февраля 2021 года. Том Часть 1. - Пенза: "Наука и Просвещение" (ИП Гуляев Г.Ю.), 2021. С. 109-111.

88. Нгуен М.В. Автоматическое определение вида и параметров принимаемого сигнала в условиях параметрической априорной неопределённости // XXIX Международная научно-практическая конференция «Радиолокация,

навигация, связь» «RNLC-2023»,18-20 апреля 2023 года. Воронеж: Воронежский государственный университет, АО «Концерн «Созвездие», 2023. С. 217-226.

89. Парамонов А.А., Нгуен М.В., Нгуен М.Т. Многозадачная нейронная сеть в задаче распознавания вида QAM и PSK модуляции в условиях параметрической априорной неопределённости // Российский технологический журнал. - 2023, №4. (принята к печати)

ПРИЛОЖЕНИЕ А - Акты внедрения результатов диссертации

ПРИЛОЖЕНИЕ Б - Диплом

Обратите внимание, представленные выше научные тексты размещены для ознакомления и получены посредством распознавания оригинальных текстов диссертаций (OCR). В связи с чем, в них могут содержаться ошибки, связанные с несовершенством алгоритмов распознавания. В PDF файлах диссертаций и авторефератов, которые мы доставляем, подобных ошибок нет.