Моделирование процессов коррекции ошибок в массивах информации на основе искусственных нейронных сетей тема диссертации и автореферата по ВАК РФ 05.13.18, кандидат наук Бутов Владислав Вячеславович
- Специальность ВАК РФ05.13.18
- Количество страниц 118
Оглавление диссертации кандидат наук Бутов Владислав Вячеславович
ВВЕДЕНИЕ
1. АНАЛИЗ СУЩЕСТВУЮЩИХ АЛГОРИТМОВ ПОМЕХОУСТОЙЧИВОГО КОДИРОВАНИЯ В ИНТЕРЕСАХ ВЫЯВЛЕНИЯ ВОЗМОЖНОСТИ ИХ МОДЕЛИРОВАНИЯ НА ОСНОВЕ ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ
1.1. Основные подходы к моделированию корректирующих кодов
1.2. Анализ нейросетевых моделей помехоустойчивого кодирования
1.3. Постановка частных задач и общая схема проведения исследования
Выводы по первой главе
2. РАЗРАБОТКА МОДЕЛИ ИСКУССТВЕННОЙ НЕЙРОННОЙ СЕТИ, ОСУЩЕСТВЛЯЮЩЕЙ ПОМЕХОУСТОЙЧИВОЕ КОДИРОВАНИЕ
И ДЕКОДИРОВАНИЕ МАССИВОВ ИНФОРМАЦИИ
2.1. Разработка модели нейросетевого декодера блоковых кодов, исправляющих 1=1 ошибку
2.2. Разработка модели нейросетевого декодера блоковых кодов, исправляющих 1>1 ошибок
2.3. Разработка модели нейросетевого декодера кода Рида-Соломона
Выводы по второй главе
3. ЧИСЛЕННЫЕ МЕТОДЫ И АЛГОРИТМЫ РАСЧЕТА ВЕСОВ СИНАПТИЧЕСКИХ СВЯЗЕЙ МОДЕЛЕЙ НЕЙРОСЕТЕВЫХ ДЕКОДЕРОВ
3.1. Численный метод и алгоритм вычисления весовых коэффициентов
для двухслойного нейросетевого О-декодера
3.2. Численный метод и алгоритм вычисления весовых коэффициентов
для двухслойного нейросетевого Булева декодера
3.3. Численный метод и алгоритм вычисления весовых коэффициентов
для четырехслойного нейросетевого Н-декодера
3.4. Численный метод и алгоритм вычисления весовых коэффициентов
для пятислойного нейросетевого Н-декодера для кода Рида-Соломона
Выводы по третьей главе
4.РАЗРАБОТКА КОМПЛЕКСА ПРОГРАММ ДЛЯ ПРОВЕДЕНИЯ ВЫЧИСЛИТЕЛЬНЫХ ЭКСПЕРИМЕНТОВ, РЕАЛИЗУЮЩЕГО ПРЕДЛОЖЕННЫЕ ЧИСЛЕННЫЕ МЕТОДЫ И АЛГОРИТМЫ
4.1. Программа вычисления весовых коэффициентов для нейросетевого декодера кода Хэмминга
4.2. Программа вычисления весовых коэффициентов для нейросетевого декодера кода Рида-Соломона
4.3. Результаты вычислительного эксперимента
Выводы по четвертой главе
ЗАКЛЮЧЕНИЕ
СПИСОК ИСПОЛЬЗОВАННОЙ ЛИТЕРАТУРЫ
Приложение
Рекомендованный список диссертаций по специальности «Математическое моделирование, численные методы и комплексы программ», 05.13.18 шифр ВАК
Модели и методы декодирования помехоустойчивых кодов на основе нейросетевого базиса2009 год, кандидат технических наук Березкин, Александр Александрович
Исследование и разработка высокоскоростных устройств помехоустойчивого кодирования с регулируемой корректирующей способностью на основе модифицированных блочных кодов2017 год, кандидат наук Поперечный Павел Сергеевич
Программно - аппаратная реализация оптимального алгоритма декодирования каскадных кодов на базе кодов Рида - Соломона в адаптивных системах обмена данными2017 год, кандидат наук Тамразян Георгий Михайлович
Элементы помехоустойчивого кодирования нециклического типа субмикронных КМОП оперативных запоминающих устройств2015 год, кандидат наук Петров, Константин Александрович
Методы и алгоритмы повышения и исследования эффективности многопороговых декодеров помехоустойчивых кодов в высокодостоверных системах передачи информации2016 год, кандидат наук Демидов, Дмитрий Сергеевич
Введение диссертации (часть автореферата) на тему «Моделирование процессов коррекции ошибок в массивах информации на основе искусственных нейронных сетей»
ВВЕДЕНИЕ
Актуальность темы исследования. Одной из важнейших задач, которые необходимо решать при проектировании современных систем телекоммуникаций, является обеспечение достоверности передаваемой информации. К наиболее эффективным методам обеспечения достоверности передачи информации в условиях возможности возникновения ошибок относится использование корректирующих кодов. Вместе с тем на практике при увеличении параметров кодов увеличивается трудоемкость процессов их декодирования. Таким образом, весьма важным становится вопрос о поиске новых, легко реализуемых универсальных схем помехоустойчивого кодирования и декодирования, сложность реализации которых с ростом длины кода увеличивалась бы как можно медленнее, что привело бы к снижению вычислительной сложности декодирующего устройства.
В настоящее время поиск альтернативных существующим методам декодирования все дальше уходит в смежные с теорией кодирования области знаний, основные достижения которых можно использовать для построения эффективных схем кодирования и декодирования. В настоящее время для построения и изучения модели декодирующего устройства используются методы математического моделирования. Разрабатываемые методы и алгоритмы могут являться альтернативой зарекомендовавшим себя методам коррекции ошибок и наделять существующую систему новыми свойствами.
Одним из таких методов математического моделирования является метод кодирования и декодирования, основанный на элементах теории искусственных нейронных сетей (ИНС).
В ходе проведенного анализа основных существующих подходов и методов к моделированию процессов коррекции ошибок в массивах информации на основе искусственных нейронных сетей было выяснено, что попытки моделирования нейросетевых декодеров не прекращаются в течение последних
30 лет. На сегодняшний день отечественными и зарубежными исследователями (А. А. Берёзкин, G. Zeng, D. Hush, N. Ahmed, J. Wu, Y. Theng, Y. Huang, E. Nachmani, E. Marciano, D. Burshtein, Y. Be'ery и др.) предложено множество различных нейросетевых моделей, в том числе решающих задачи декодирования помехоустойчивых кодов. Однако до сих пор не разработана единая концепция их обучения или настройки. Это влечет за собой увеличение структурной избыточности и сложности обучения нейросетевых декодеров.
Решение задачи построения нейросетевых декодеров упирается в ряд трудностей вычислительного характера и в необходимость привлечения больших компьютерных мощностей. Последнее в свою очередь является следствием недостаточной проработанности вопроса разработки моделей и алгоритмов, позволяющих адекватно описать систему помехоустойчивого кодирования на языке нейросетевых вычислений.
Таким образом, актуальность диссертационного исследования заключается в необходимости решения научной задачи разработки математических моделей, численных методов, алгоритмов и комплекса программ нейросетевого моделирования процессов восстановления данных, которые позволят создать общую методологическую основу для разработки нейросетевых декодеров, получить качественные и количественных оценки для определения количества необходимых слоев и нейронов каждого слоя нейронной сети, реализующей декодирующее устройство.
Объектом исследования диссертационной работы являются процессы коррекции ошибок, возникающих при хранении и передаче массивов информации.
Предметом исследования являются нейросетевые модели, численные методы и алгоритмы обнаружения и коррекции случайных ошибок в информационных массивах.
Цели и задачи исследования. Целью диссертации является разработка математических моделей, численных методов, алгоритмов и комплекса программ
нейросетевого моделирования в интересах снижения трудоемкости процессов коррекции ошибок.
Достижение поставленной цели предполагает оценку современного состояния задачи, анализ научных публикаций по рассматриваемой теме и решение следующих частных научных задач:
1) анализ существующих алгоритмов помехоустойчивого кодирования в интересах выявления возможности их моделирования на основе искусственных нейронных сетей;
2) разработка математической модели искусственной нейронной сети, осуществляющей помехоустойчивое кодирование и декодирование массивов информации;
3) разработка алгоритмов и численных методов настройки искусственных нейронных сетей для кодирования и декодирования массивов информации;
4) разработка проблемно-ориентированного комплекса программ для проведения вычислительного эксперимента, реализующего предложенные численные методы и алгоритмы.
Методология и методы исследования. При решении поставленных задач использовались методы алгебры, теории чисел, нейронных сетей, параллельного и объектно-ориентированного программирования. Общей методологической основой является системный подход.
Научная новизна полученных в ходе исследования результатов заключается в следующем:
1. На основе анализа алгоритмов помехоустойчивого кодирования разработана геометрическая модель двоичных ошибок в виде точек на поверхности гиперсферы, отличающаяся от существующих моделей возможностью кластеризации кодовых слов с использованием гиперплоскостей [10, 25].
2. Разработана математическая модель нейросетевого декодера, отличающаяся от известных меньшим количеством слоев и нейронов [62].
3. Разработаны численные методы и алгоритмы аналитической настройки нейронной сети, отличающиеся значительно меньшим временем обучения системы [53].
Теоретическая значимость диссертации заключается в том, что в ней предложен новый способ аналитической настройки весовых коэффициентов нейросетевых декодеров. Разработанная в диссертации модель дополняет существующие модели нейросетевых классификаторов. Значимым теоретическим результатом является обоснование критерия выбора типа нейросетевого классификатора в зависимости от параметров схемы кодирования.
Практическая значимость заключается в разработке комплекса программ, позволяющего осуществить выбор типа нейросетевого классификатора с простым алгоритмом настройки.
Достоверность результатов подтверждается использованием при разработке моделей известных математических методов и результатами вычислительных экспериментов.
Положения, выносимые на защиту:
1. Геометрическая модель двоичных ошибок позволяет обосновать применимость использования нейросетевых алгоритмов в задаче построения помехоустойчивых кодов [10, 25].
2. Математическая модель нейросетевого декодера позволяет реализовать класс блоковых кодов (Хемминга, БЧХ, Рида-Соломона, LDPC, Рида-Маллера) в виде единой нейронной сети прямого распространения [62].
3. Численные методы и алгоритмы позволяют аналитически рассчитывать количество нейронов в слоях искусственной нейронной сети, реализующей декодирующее устройство, необходимых для ее полной настройки [53].
4. Комплекс программ для проведения вычислительного эксперимента реализует численные методы и алгоритмы настройки нейросетевых моделей [36, 37].
Личный вклад автора. Основные результаты исследований по теме диссертации были получены лично автором и опубликованы в соавторстве с
научным руководителем. Научным руководителем определены основные направления исследования.
Реализация и внедрение результатов работы. Результаты исследования использованы в научно-исследовательских работах: «Математические алгоритмы решения задач естествознания» (п. 71 раздела I Плана научной деятельности Воронежского института МВД России на 2018 год), «Нейросетевые декодеры» (п. 72 раздела I Плана научной деятельности Воронежского института МВД России на 2018 год), «Методы и алгоритмы криптографической защиты информации» (п. 20 раздела I Плана научной деятельности Воронежского института МВД России на 2019 год). Результаты исследования внедрены в практическую деятельность АО «Концерн «Созвездие», ООО «Воронежское конструкторское бюро средств связи», ООО «Воронежский центр микроэлектроники», а также в учебный процесс Воронежского института МВД России.
Соответствие паспорту специальности. Содержание диссертации соответствует следующим пунктам паспорта специальности 05.13.18 -Математическое моделирование, численные методы и комплексы программ:
- п. 2 «Развитие качественных и приближенных аналитических методов исследования математических моделей»;
- п. 3 «Разработка, обоснование и тестирование эффективных вычислительных методов с применением современных компьютерных технологий»;
- п. 4 «Реализация эффективных численных методов и алгоритмов в виде комплексов проблемно-ориентированных программ для проведения вычислительного эксперимента».
Апробация результатов. Основные положения и результаты диссертации докладывались и обсуждались на следующих конференциях и семинарах: Международная научно-практическая конференция «Охрана, безопасность и связь - 2016» (г. Воронеж, Воронежский институт МВД России, 24 ноября 2016 года); Международный молодёжный симпозиум «Современные проблемы
математики. Методы, модели, приложения» (г. Воронеж, Воронежский государственный лесотехнический университет имени Г. Ф. Морозова, 21-24 ноября 2017 года); Международная конференция, посвященная 100-летию со дня рождения Селима Григорьевича Крейна (г. Воронеж, 13-19 ноября 2017 года); Международная научно-практическая конференция «Охрана, безопасность и связь - 2017» (г. Воронеж, Воронежский институт МВД России, 16 ноября 2017 года); Международная конференция - Воронежская зимняя математическая школа «Современные методы теории функций и смежные проблемы» (г. Воронеж, 26 января - 1 февраля 2017 года); Межведомственный семинар «Вопросы математики, математического моделирования и истории математики» (г. Воронеж, Воронежский государственный университет, 18 апреля 2017 года); Всероссийская научно-практическая конференция «Актуальные вопросы эксплуатации систем охраны и защищенных телекоммуникационных систем» (г. Воронеж, Воронежский институт МВД России, 1 июня 2017 года); Всероссийская научно-практическая конференция курсантов, слушателей и адъюнктов «Актуальные вопросы эксплуатации систем охранного мониторинга и защищенных телекоммуникационных систем» (г. Воронеж, Воронежский институт МВД России, 7 июня 2018 года); Международная научно-практическая конференция «Общественная безопасность, законность и правопорядок в III тысячелетии» (г. Воронеж, Воронежский институт МВД России, 21 июня 2018 года); Международная научно-практическая конференция «Охрана, безопасность и связь - 2018» (г. Воронеж, Воронежский институт МВД России, 22 ноября 2018 года); Международная конференция «Актуальные проблемы прикладной математики, информатики и механики» (г. Воронеж, Воронежский государственный университет, 17-19 декабря 2018 года); Международная конференция - Воронежская зимняя математическая школа «Современные методы теории функций и смежные проблемы» (г. Воронеж, Воронежский государственный университет, 28 января - 2 февраля 2019 г); Всероссийская научно-практическая конференция молодых ученых «Актуальные вопросы эксплуатации систем охранного мониторинга и защищенных
телекоммуникационных систем» (г. Воронеж, Воронежский институт МВД России, 6 июня 2019 года).
Публикации. По материалам диссертационного исследования опубликовано 17 печатных работ (4 статьи, 12 материалов научных конференций, 1 учебно-методическое пособие), в том числе 8 работ опубликовано без соавторов. Разработано 2 вычислительных программных средства, зарегистрированных в Федеральной службе по интеллектуальной собственности, а также результаты исследования использованы в 3 отчетах о НИР. Работы [53, 62] опубликованы в изданиях, включенных в Международные базы данных «Scopus» и «Web of Science (Emerging Sources Citation Index)». Работы [10, 25] опубликованы в изданиях, рекомендованных ВАК Минобрнауки России. В работах, выполненных в соавторстве, автором лично выполнены: разработка модели нейросетевого декодера, построенного на основе порождающей матрицы линейного блокового кода [62]; разработка численного метода и алгоритма аналитической настройки модели нейросетевого декодера, построенного на основе проверочной матрицы [53]; проведение вычислительного эксперимента [10, 25]; описание алгоритмов вычисления весовых коэффициентов нейронной сети [4, 5, 9, 34].
Структура работы и объем работы. Диссертация состоит из введения, четырех глав, заключения, списка литературы из 107 наименований и приложения. Работа изложена на 118 страницах машинописного текста (основной текст занимает 102 страницы, содержит 34 рисунка и 9 таблиц).
1. АНАЛИЗ СУЩЕСТВУЮЩИХ АЛГОРИТМОВ ПОМЕХОУСТОЙЧИВОГО КОДИРОВАНИЯ В ИНТЕРЕСАХ ВЫЯВЛЕНИЯ ВОЗМОЖНОСТИ ИХ МОДЕЛИРОВАНИЯ НА ОСНОВЕ ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ
1.1. Основные подходы к моделированию корректирующих кодов
В процессе хранения данных и передачи информации по сетям связи неизбежно возникают ошибки. Для их обнаружения и исправления применяют корректирующие коды [90, 98, 100]. Построение корректирующего кода осуществляется добавлением к полезным данным специальным образом структурированной избыточной информации. При приёме её используют для того, чтобы обнаружить или исправить ошибки. Естественно, что число ошибок, которое можно исправить, ограничено и зависит от конкретного применяемого кода. Далее полезную информацию, записанную в виде двоичного вектора, мы будем называть информационным словом и обозначать через а = (ах,а2,...,ак). Двоичный вектор, содержащий избыточную информацию (контрольную сумму), будем называть проверочным и обозначать как е = (ех,е2,..,ег). Как правило, закодированное сообщение формируется в виде прямой конкатенации информационных и проверочных бит:
т = (а | е) = (а1,а2,...,ак,е1,е2,...,ег) = (т1,т2,...,тп). (1)
Кодовое слово, допускающее отделение информационных и проверочных бит, называется записанным в систематическом виде [2]. По способу работы с данными коды, исправляющие ошибки, делятся на блоковые, делящие информацию на фрагменты постоянной длины и обрабатывающие каждый из них в отдельности, и сверточные, работающие с данными как с непрерывным потоком [20, 21]. Пусть кодируемая информация делится на фрагменты длиной к бит,
которые преобразуются в кодовые слова длиной п бит. Тогда соответствующий
блоковый код обычно обозначают (п, к). При этом число Я =к называется
п
скоростью кода.
Линейный блоковый код - такой код, что множество его кодовых слов образует ^-мерное линейное подпространство (назовём его С) в п-мерном линейном пространстве, изоморфное пространству ^-битных векторов. Это значит, что операция кодирования соответствует умножению исходного ^-битного вектора на невырожденную матрицу С, называемую порождающей матрицей [22, 23, 26].
Пусть Сх - ортогональное подпространство по отношению к С, а Н -матрица, задающая базис этого подпространства. Тогда для любого вектора V е С справедливо
НУ = 0. (2)
Кодовое слово, в котором при передаче возникла ошибка, будем называть искаженным кодовым словом. Тогда множество кодовых комбинаций можно разбить на два подмножества:
> подмножество разрешенных комбинаций;
> подмножество запрещенных комбинаций.
Если в результате ошибки исходная комбинация перешла в множество запрещенных, то ошибку можно обнаружить [39, 40]. Однако, возможно, что совокупность ошибок переведет передаваемую кодовую комбинацию в другую разрешенную. Тогда ошибка не будет обнаружена, и мы декодируем неправильное сообщение.
Для того чтобы обнаруживать и исправлять ошибки, разрешенные комбинации должны как можно больше отличаться друг от друга [27, 29]. Расстояние между двумя комбинациями определяется количеством разрядов, которыми они отличаются. Весом комбинации называется количество в ней единиц. Очевидно, что вес - это расстояние от нулевой комбинации (000...0).
Поскольку сумма комбинаций есть другая комбинация, то по аналогии с векторной алгеброй можно вычислять расстояние d между комбинациями a и b как вес их суммы по модулю 2: d = ^ a © b.
Например, если расстояние между кодовыми комбинациями (000) и (111) равно d=3, то любые единичные ошибки в этих комбинациях остаются в области d < 1. То есть области не пересекаются и ошибки могут быть исправлены. Обозначая число (кратность) исправляемых ошибок через t, а расстояние между разрешенными (передаваемыми) комбинациями через d, заметим, что код исправит ошибки, если d > 2t +1.
Для построения помехоустойчивого кода требуется к к информационных разрядов добавить r проверочных. Количество проверочных разрядов, необходимых для построения кода, исправляющего одну ошибку, вычисляется по формуле [66, 70]:
2r > 1 + к + r. (3)
Общее количество разрядов будет n=k+r, поэтому построенный с такими параметрами код называют (n, k) кодом.
Алгоритмы построения кода Хэмминга
Рассмотрим правила построения кода Хэмминга (7, 4) [18], исправляющего одну ошибку в передаваемой информационной комбинации а = (а, а2, аъ, а). Проверочные разряды е = (е, е2, еъ) восстанавливаются по информационным по следующим правилам:
Ь0 = а1 0 а2 Ф а4,
Ъх = а1 Ф а3 Ф а4, (4)
Ь = а2 Ф аъ Ф ^.
На приемном конце канала связи для проверочных символов строится аналогичная комбинация:
Ь0 = а1 ©а2 ©а4,
Ь1= а1 © а3 ©а4, (5)
Ь2 = а2 © а3 © а4.
Разница между передаваемыми Ь и принимаемыми Ь[ проверочными разрядами позволяет обнаружить и локализовать ошибку. Место ошибки в кодовой комбинации х = (Ь0, Ь, а, Ь, а, а, а ), записанной в несистематической форме, определяется формулой
N = 20 • (b0 © b ) + 21 • (Ь © b ) + 22 • (Ь © b ) •
(6)
Алгоритмы построения циклических кодов
Одним из обобщений кода Хэмминга являются циклические коды [91, 99] (CRC — cyclic redundancy check). В данном коде произвольная кодовая последовательность a = (a, a ) записывается в виде полинома
u(x) = a • xn-1 + a • xn-2+a • xn-3 + •••+a • x° • (7)
В поле Галуа GF(2) (Galous Field) коэффициенты при степенях x могут принимать значения только 0 или 1. Неприводимым называется многочлен, который не может быть представлен как произведение многочленов меньшей степени. Приводимым называется многочлен, который может быть факторизован, то есть представлен как произведение многочленов меньшей степени. Произвольный двучлен xn -1 делится без остатка на неприводимый многочлен.
>( x)
Обозначим остаток R(x) от деления полинома P(x) на полином Q(x) через
Q( x)
тогда
0(х) _ , Я(х)
= С(х) + , то есть
Ох)
Р( х)
= Я( х).
(8)
Р(х) Р(х)
Если информационную последовательность а = (а, а , . ,а„) представить в виде полинома т(х), то передаваемая комбинация F будет иметь вид
¥=РС, (9)
где полином С необходимо найти из выражения
хт( х) = С (х) + Я( х)
(10)
Р( х) Р( х)
Если в передаваемой комбинации возникает ошибка, то ее обнаруживают
сравнением остатков от деления
Р ( х) Р( х)
и
х
Р( х)
Алгоритмы построения кода Рида-Маллера
Коды Рида-Маллера предложены в 1954 г. и обозначаются как ЯМ(г,т), где г - порядок кода, 2т - длина кода [32]. Порождающая матрица кода ЯМ(0,т)
2 т
единиц:
Со,т = (1Д,...1) . Порождающая матрица кода ЯМ(1,3) имеет вид
г 1 1 1 1 1 1 1 1Л
0 0 0 0 1 1 1 1
0 0 1 1 0 0 1 1
ч 0 10 10 10 1,
С1,3 =
Для кодирования информационного сообщения х длиной к=т+1 необходимо подействовать на него оператором С:
У = Сх . (11)
Результатом кодирования будет кодовое слово у длиной п = 2т. Декодирование кода использует матрицу Адамара. Декодирование по принципу максимального правдоподобия означает выбор из всех возможных кодовых слов того слова у, которое находится на минимальном расстоянии Хэмминга от принятого слова. Процесс декодирования выводится из формул
= *0> У? = Х0 Ф Хт. (12)
Алгоритмы построения сверточных кодов
Простейшим сверточным кодом называется автомат, обрабатывающий двоичную последовательность и имеющий 4 состояния § = ($0, ^, , ) [19]:
f ё
0 1 0 1
$0 $0 $2 00 11
$0 $2 11 00
$2 $3 10 01
$3 $1 $3 01 10
0/00
0/11
0/10
0/01\ /1/01
Рис. 1.1. Диаграммы состояний автомата
Работу автомата удобно описывать с помощью развернутой решеточной диаграммы - треллиса (trellis diagram - (англ.) решеточная диаграмма) [28, 38]. Поскольку изначально предполагается, что автомат находился в состоянии sQ, то
любой путь начинается из левого верхнего угла треллиса. На каждом шаге путь вдоль диаграммы может принимать два направления. Если очередной символ информационной последовательности принимает значение
0 - автомат выбирает верхнее ребро;
1 - автомат выбирает нижнее ребро.
Выходная кодовая последовательность автомата равна весу всех ребер выбранного пути.
Алгоритмы построения кодов Боуза-Чоудхури-Хоквингема (БЧХ)
Коды БЧХ являются разновидностью полиномиальных и формируются по тому же принципу. Информационная последовательность а представляется в виде полинома т(х), определяется количество проверочных символов г, после чего для
смещенного полинома хгт(х) находится остаток Я(х) от деления его на примитивный р(х) [1,50]. Передаваемая кодовая последовательность имеет вид Р(х) = хгт(х) Ф Я(х). Поскольку коды БЧХ формируются для работы в полях
ОР(2т ), то полиномы р(х) выбираются из множества
х
2т -1
-1 = ¥О¥\¥2..
(13)
где , к > 1 - примитивные полиномы, степени п>1,^0 (х) = 1 + х.
Сопоставим принятой кодовой комбинации а = (а, а ,...,а ) соответствующий кодовый полином
и(х) = а1 • хп 1 + а2 • хп 2 + а3 • хп 3 +...+ ап • х°
(14)
Значения принятого полинома в нулях порождающего многочлена определяют синдромы
8 = и(21) = а • 2п-1+а • 2п-2+а • 2п-3 +...+а • 20 ^ = и(22) = а • 22( п-1)+а • 22(п-2)+а • 22(п-3)+...+а • 22
(15)
^ = и(22) = а • 22г (п-1)+а • 22г (п-2)+а • 22г (п-3)+...+а • 22"
Для нахождения позиций ошибок нам необходимо решить систему линейных алгебраических уравнений
5*1 ^2 83
82 53
>г+1
8г-1 8г 8г+3 ... 82г - 2
С ^ \ +1
\
V+1
>г+2
2г-1
(16)
V 8г г+1 8г+2 ... 82г-1 ) V 82г )
и найти корни полинома локаторов ошибок ^ ^ х] = 0, или
]=1
г г
=П (1 + 2а х).
]=1 У=1
(17)
Тогда (а,а2,...,а{) являются степенями искаженных разрядов в полиноме кодовой комбинации [3].
0
Л
г
Алгоритмы построения кодов Рида-Соломона
Коды Рида-Соломона являются частным случаем кодов БЧХ и формируются по тому же принципу. Для них порождающий полином в конечном
поле Галуа вЕ (22т ) имеет вид [104]
Ь+2/-1
р(х) = П (х © 2'),
(18)
'=Ь
где 1 - количество исправляемых ошибок, Ь=0,1,...,т-1 - произвольная целая константа.
Локализация ошибок производится аналогично БЧХ, а для определения амплитуды ошибок (Ех, Е2 ,...,Е() необходимо решить систему
РЬ
Ь +1
РЬ
Р.
Ь +1
РЬ
Р
Ь+1
РЬ
Р Р
У ь Еь
Ь +1
Р1Ь Р1Ь
Ь +Г-1
Р3
Ь+ -1 '3
Ь+
Ь + -1 Р2
Ь+ Ь+
Р2 Р3
... Р ... Р
Ь+ -1 Г
Ь+
Е
2
2 Е/-1 Е
уч2
-1
У
(19)
где (Р, Рг ,...,Р) определяются из соотношения
г г
=П (1+РХ = о.
]=1 1=1
(20)
Тогда ошибка величиной Ек находится на ак степени кодового полинома.
Существующие подходы к моделированию процессов коррекции ошибок не являются идеальными, так как при увеличении параметров кода увеличивается и сложность алгоритмов декодирования массивов закодированной информации. Поэтому весьма важным становится вопрос о поиске новых, легко реализуемых универсальных схем кодирования и декодирования, сложность реализации которых с ростом длины кода увеличивалась бы как можно медленнее, что привело бы к снижению сложности функционирования декодирующего устройства.
£
1
£
2
В настоящее время поиск альтернативных методов коррекции ошибок все дальше уходит в смежные с теорией кодирования области знаний, основные достижения которых можно использовать для построения эффективных схем кодирования и декодирования. Разрабатываемые таким образом методы могут являться альтернативой зарекомендовавшим себя методам коррекции ошибок и наделять существующую систему новыми свойствами. Одним из таких методов является метод кодирования и декодирования, основанный на элементах теории искусственных нейронных сетей (ИНС).
Таким образом, задача моделирования процессов коррекции ошибок в массивах информации на основе искусственных нейронных сетей является актуальной с практической точки зрения.
1.2. Анализ нейросетевых моделей помехоустойчивого кодирования
В данном разделе рассматриваются принципы построения нейронных сетей и примеры их использования для решения задач кодирования и декодирования.
Рассмотрим математическую модель искусственного нейрона.
Математически искусственный нейрон описывается передаточной функцией /(х), которая входному значению сигнала х ставит в соответствие некоторый выход у=/(х) [30, 31]. Такая функция называется функцией активации нейрона [35, 73]. Физически функция активации играет роль оператора принятия решения или фильтра для входа х. Простейшей функцией активации является единичная ступенька Хэвисайда [33] у = в( х), которая выдает на выходе 0 или 1 в
зависимости от знака аргумента х. Т.е. принимает решение относительно активации или неактивации выходного сигнала у в зависимости от значения входа х. Очевидно, что входной сигнал, как и выходной, может быть вектором или даже матрицей. Размерность входного сигнала называют размерностью
пространства признаков [42]. Для более гибкой настройки нейронной сети входной сигнал x, как правило, подвергается преобразованию [45, 46, 47], т.е.
y = /(Wx + b). (21)
Здесь W называют матрицей весовых коэффициентов нейронов, b -смещением. Тренировкой нейронной сети называют подбор коэффициентов W и b таким образом, чтобы функция активация выдавала правильные решения y для обучающей выборки x [51, 55]. Если для данной задачи подобрать W и b становится невозможно, то необходимо добавить второй слой нейронов. Тогда выход первого слоя будет являться входом второго. Если второго слоя недостаточно, то добавляют третий, и так далее. В общем случае размерность выхода первого слоя может и не совпадать с выходом всей сети (главное, чтобы она совпадала с входом второго слоя, а выход второго - с входом третьего и так далее). Результатом таких преобразований становится разрастание нейронной сети как в глубину, так и в ширину [56, 57, 58]. Очевидно, что для увеличения скорости работы нейронной сети, быстроты принятия решений, необходимо добиваться уменьшения количества ее слоев и нейронов [60, 65, 67, 71]. Как правило, это и является основной задачей разработчиков искусственного интеллекта на базе нейронных сетей [72, 83, 89, 101, 103, 105].
Похожие диссертационные работы по специальности «Математическое моделирование, численные методы и комплексы программ», 05.13.18 шифр ВАК
Универсальное устройство помехоустойчивого кодирования, адаптивное к изменению условий функционирования радиосистемы передачи информации2013 год, кандидат наук Семин, Дмитрий Сергеевич
Методы построения и декодирования многочленных кодов2018 год, кандидат наук Трифонов, Петр Владимирович
Метод построения комбинированных декодеров кодов Рида-Маллера на основе оперативного мониторинга и побитовой коррекции2009 год, кандидат технических наук Скоробогат, Владимир Романович
Методы, алгоритмы и устройства коррекции аддитивных и синхронизационных ошибок во внешних запоминающих устройствах ЭВМ2009 год, доктор технических наук Егоров, Сергей Иванович
Разработка и моделирование перестановочного декодера недвоичного избыточного кода на базе когнитивной метафоры2019 год, кандидат наук Ал Тамими Таква Флайиих Хасан
Список литературы диссертационного исследования кандидат наук Бутов Владислав Вячеславович, 2019 год
СПИСОК ИСПОЛЬЗОВАННОЙ ЛИТЕРАТУРЫ
1. Берлекэмп Э. Алгебраическая теория кодирования / Э. Берлекэмп. -М. : Мир, 1971. 477 с.
2. Блейхут Р. Быстрые алгоритмы цифровой обработки сигналов / Р. Блейхут. - М. : Мир, 1989. 448 с.
3. Блейхут Р. Теория и практика кодов, контролирующих ошибки / Р. Блейхут. - М. : Мир, 1986. 576 с.
4. Бутов В. В. Базисы Уолша в нейросетевой классификации /
B.В. Бутов, В.Н. Думачев // Современные методы теории функций и смежные проблемы: материалы международной конференции - Воронежской зимней математической школы. - Воронеж : Издательский дом ВГУ, 2019. - 316 с. -
C. 66-67.
5. Бутов В. В. Нейросетевые декодеры двоичных кодов / В.В. Бутов, В.Н. Думачев // Актуальные проблемы прикладной математики, информатики и механики : сборник трудов Международной научной конференции. - Воронеж : Научно-исследовательские публикации, 2019. - 1673 с. - С. 1436-1442.
6. Бутов В. В. Разработка программного комплекса расчета весовых коэффициентов синапсов нейросетевого декодера кода Хэмминга / В. В. Бутов // Охрана, безопасность, связь. - 2019. -Т. 2. -№ 4-2 (4). - С. 110-114.
7. Бутов В. В. Модели построения нейросетевых декодеров двоичных помехоустойчивых кодов / В. В. Бутов // Всероссийская научно-практическая конференция «Актуальные вопросы эксплуатации систем охраны и защищенных телекоммуникационных систем» : сборник материалов. - Воронеж : Воронежский институт МВД России, 2018. - 372 с. - С. 204-205.
8. Бутов В. В. О декодировании в нейросетевом базисе / В. В. Бутов // Современные методы теории функций и смежные проблемы : материалы Международной конференции - Воронежской зимней математической школы. -Воронеж : Издательский дом ВГУ, 2017. - 239 с. - С. 63-64.
9. Бутов В. В. О дополнительных признаках в задаче обучения нейросетевого декодера Хемминга / В. В. Бутов, А. Н. Копылов // Международная конференция, посвященная 100-летию со дня рождения Селима Григорьевича Крейна : сборник материалов. - Воронеж : Издательский дом ВГУ, 2017. - 232 с. -С. 65-66.
10. Бутов В. В. О нейросетевом декодере помехоустойчивого кода Хемминга / В. В. Бутов, В. Н. Думачев // Системы управления и информационные технологии. - 2017. - № 4(70). - С. 8-11.
11. Бутов В. В. О нейросетевых декодерах Хемминга для каналов с помехами / В. В. Бутов // Охрана, безопасность, связь. - 2018. Т. 2. - № 3 (3). -С.127-130.
12. Бутов В. В. Особенности настройки нейросетевых моделей классификации / В. В. Бутов // Современные методы теории краевых задач : материалы международной конференции - Воронежской весенней математической школы «Понтрягинские чтения - XXVIII». - Воронеж : Издательский дом ВГУ, 2017. - 214 с. - С. 50.
13. Бутов В. В. Оценка возможностей почерковедческой экспертизы сквозь призму современных информационных технологий / В. А. Мещеряков, В. В. Бутов // Вестник Воронежского института МВД России. - 2017. - № 2. - С. 40-46.
14. Бутов В. В. Применение алгоритмов нейронных сетей для декодирования цифровых сигналов / В. В. Бутов // Охрана, безопасность, связь. -2017. - № 1-3. - С. 44-48.
15. Бутов В. В. Применение алгоритмов нейронных сетей для построения интеллектуальных декодеров / В. В. Бутов // Актуальные вопросы эксплуатации систем охраны и защищенных телекоммуникационных систем : сборник материалов всероссийской научно-практической конференции. - Воронеж: Воронежский институт МВД России, 2017. - С. 27-31.
16. Бутов В.В. Нейросетевые декодеры : учебно-методическое пособие [Электронный ресурс] / В.В. Бутов, В.Н. Думачев. - Электр. дан. и прогр. -Воронеж : Воронежский институт МВД России, 2018.
17. Васильев А. Н. Python на примерах : практический курс по программированию / А.Н. Васильев. - СПб. : Наука и Техника, 2016. - 432 с.
18. Вернер М. Основы кодирования / М. Вернер. - М. : Техносфера, 2004. - 288 с.
19. Витерби А. Д. Принципы цифровой связи и кодирования /
A. Д. Витерби, Дж. К. Омура. - М. : Радио и связь, 1982. 536 с.
20. Галлагер Р. Теория информации и надежная связь / Р. Галлагер. - М. : Советское радио, 1974. - 720 с.
21. Гаранин М. В. Системы и сети передачи информации / М.В. Галлагер,
B.И. Журавлев, С.В. Кунегин. - М. : Радио и связь, 2001. - 336 с.
22. Гоппа В. Д. Введение в алгебраическую теорию информации. М.: Наука, 1995. 112 с.
23. Горелов Г. В. Теория передачи сигналов на железнодорожном транспорте / Г. В. Горелов [и др.] М. : Транспорт, 2001. - 415 с.
24. Драко А. М. Особенности нейросетевого декодирования линейных блочных кодов / А. М. Драко, А. Д. Романенко // ТРУДЫ БГТУ. Физико-математические науки и информатика. - 2015. - № 6. - С. 166-170.
25. Думачев В. Н. Особенности обучения нейросетевого декодера / В. Н. Думачев, А. Н. Копылов, В. В. Бутов // Системы управления и информационные технологии. - 2017. - № 1(67). - С. 29-33.
26. Емельянов Г. А. Передача дискретной информации / Г. А. Емельянов, В. О. Шварцман - М. : Радио и связь, 1982. - 240 с.
27. Золотарев В. В. Помехоустойчивое кодирование. Методы и алгоритмы / В. В. Золотарев, Г. В. Овечкин. - М. : Телеком, 2004. 126 с.
28. Кларк Дж. Кодирование с исправлением ошибок в системах цифровой связи / Дж. Кларк, Дж. Кейн. - М.: Радио и связь, 1987. - 392 с.
29. Колмогоров А. Н. Теория информации и теория алгоритмов /
A. Н. Колмогоров. - М. : Наука, 1987. - 304 с.
30. Комашинский В. И. Нейронные сети и их применение в системах управления и связи / В. И. Комашинский, Д.А. Смирнов. - М. : Телеком, 2003. -94 с.
31. Круглов В. В. Искусственные нейронные сети / В. В. Круглов,
B. В. Борисов. - М. : Телеком, 2002. 382 с.
32. Мак-Вильямс Ф. Дж. Теория кодов, исправляющих ошибки / Ф. Дж. Мак-Вильямс, Н. Дж. А. Слоэн - М. : Связь, 1979. - 744 с.
33. Минский М. Персептроны / М. Минский, С. Пейперт. - М.: Мир, 1971. - 262 с.
34. Нарушев И. Р. Использование самоорганизующейся нейронной сети для выделения главных компонент / И. Р. Нарушев, В. В. Бутов // Охрана, безопасность, связь. - 2018. - Т. 2. - № 3 (3). С. 188-193.
35. Рутковская Д. Нейронные сети, генетические алгоритмы и нечеткие системы / Д. Рутковская, М. Пилиньский, Л. Рутковский. - М. : Телеком, 2006. -452 с.
36. Свидетельство о государственной регистрации программы для ЭВМ № 2018662862 «№игаШе1Наттт§». Правообладатель: Бутов Владислав Вячеславович (Яи).
37. Свидетельство о государственной регистрации программы для ЭВМ № 2018664033 «Кееё-8о1отоп№игаШеЮоёег». Правообладатель: Бутов Владислав Вячеславович (ЯИ).
38. Скляр Б. Цифровая связь. Теоретические основы и практическое применение / Б. Скляр. -М. : Вильямс, 2003. - 1104 с.
39. Хармут Х. Ф. Передача сигналов ортогональными функциями / Х. Ф. Хармут. - М. : Связь, 1975. - 272 с.
40. Шувалов В. П. Передача дискретных сообщений / [В. П. Шувалов и др.] - М. : Радио и связь, 1990. 464 с.
41. Abdelbaki H., Gelenbe E., El-Khamy S.E. Random Neural Network Decoder for Error Correcting Codes // IEEE Xplore. IJCNN'99. International Joint Conference on Neural Networks. 1999. Vol.5. P.3241-3245.
42. Ablameyko S. Neural Networks for Instrumentation, Measurement and Related Industrial Applications. Amsterdam: IOS Press, 2003. 329 p.
43. Andreas C. Müller, Sarah Guido. Introduction to Machine Learning with Python. Published by O'Reilly Media, Inc., 1005 Gravenstein Highway North, Sebastopol, CA 95472, 2016. 392 p.
44. Ankur Ankan, Abinash Panda. Mastering Probabilistic Graphical Models Using Python. Published by Packt Publishing Ltd., Livery Place, 35 Livery Street, Birmingham B3 2PB, UK, 2015. 284 p.
45. Back T. Evolutionary Algorithms in theory and Practice NY: Oxford University Press, 1996. 314 p.
46. Back T., Fogel D.B., Michalewicz Z. Evolutionary computation I. Amsterdam: IOS Press, 2000. 377.
47. Back T., Fogel D.B., Michalewicz Z. Evolutionary computation II. Amsterdam: IOS Press, 2003. 304 p.
48. Bennatan A., Choukroun Y., Kisilev P. Deep Learning for Decoding of Linear Codes - A Syndrome-Based Approach // IEEE International Symposium on Information Theory, ISIT 2018, Vail, CO, USA, June 17-22, 2018. - Vail, 2018. -P.1595-1599.
49. Berlekamp E., McEliece R., Tilborg H. On the Inherent Intractability of Certain Codiig Problems // IEEE Transactions on Information Theory. 1978. Vol.24. No.3. P.384-386.
50. Berlekamp E.R. Survey of Algebraic Coding Theory. NY: Springer. 1970.
75 p.
51. Bigus J.P. Data mining with neural networks. . NY: McGraw-Hill Education, 1996. 220 p.
52. Brack J., Blaum M. Neural networks, error-correcting codes, and polynomials over the binary n-cube // IEEE Transactions on Information Theory. 1989. Vol.35. No.5. P.976-987.
53. Butov V.V. Neural net decoders of binary codes / V.N. Dumachev, V.V. Butov // IOP Conf. Series: Journal of Physics: Conf. Series, 2019, vol. 1203, con. 1, 012002. DOI:10.1088/1742-6596/1203/1/012002.
54. Butov V. V. About error corrected decoder based on neural nets / V. V. Butov // Modern informatization problems in simulation and social technologies: Proceedings of the XXII-th International Open Science Conference / Editor in Chief O.Ja. Kravets. - Yelm, WA, USA: Science Book Publishing House, 2017. - P. 129-133.
55. Cantu-Paz E. Efficient and Accurate Parallel Genetic Algorithms. Boston: Kluwer, 2000. 162 p.
56. Chambers D.L. Handbook of genetic algorithms. Vol. 1. NY: Chapman & Hall, 2001. 520 p.
57. Chambers D.L. Handbook of genetic algorithms. Vol. 2. NY: Chapman & Hall, 1995. 421 p.
58. Chambers D.L. Vol. 3. Handbook of genetic algorithms. Vol. 3. NY: Chapman & Hall, 1999. 659 p.
59. Clinton Sheppard. Genetic Algorithms with Python.Clinton Sheppard, 2016. 433 p.
60. Coley D. An Introduction to Genetic Algorithms for Scientists and Engineers. Singapore: World Scientific, 1999. 247 p.
61. Dipanjan Sarkar. Text Analytics with Python: A Practical Real-World Approach to Gaining Actionable Insights from Your Data. Bangalore, Karnataka, India, 2016. 397 p.
62. Dumachev V. N. Neural Net Decoders for Linear Block Codes / V. N. Dumachev, A. N. Kopylov, V. V. Butov // Bulletin of the South Ural State University. Ser. Mathematical Modelling, Programming & Computer Software (Bulletin SUSU MMCS), 2019, vol. 12, no. 1, pp. 129-136.
63. Esposito A., Rampone S., Taglaferri R. A Neural Network for Error Correcting Decoding of Binary Linear Codes // Neural Networks. 1994. Vol.7. No.1. P.195-202.
64. Fabio Nelli. Python Data Analytics. Springer Science, 233 Spring Street, 6th Floor, New York, NY 10013, 2015. 350 p.
65. Freeman J.A., Skapura D.M. Neural networks, algorithms, applications, and programming techniques. NY: Addison Wesley, 1991. 401 p.
66. Goertz N. Joint Source-Channel Coding of Discrete-Time Signals with Continous Amolitudes. Singapore: World Scientific Publishing, 2007. 194 p.
67. Gupta M., Jin L., Homma N. Static and dynamic neural networks. NY: John Wiley & Sons, 2003. 722 p.
68. Haddadi O., Abbasi Z., TooToonchy H. The Hamming Code Performance Analysis using RBF Neural Network // Lecture Notes in Engineering and Computer Science: Proceedings of The World Congress on Engineering and Computer Science 2014, WCECS 2014, 22-24 October, 2014, San Francisco, USA. P.741-745.
69. Hadi A. S. Linear block code decoder using neural network // IEEE Xplore. International Joint Conference on Neural Networks. 2008. Vol.1. P.1111-1114.
70. Hamming R. W. Error Detecting and Error Correcting Codes // The Bell System Technical Journal. 1950. Vol.29. No.2. P.147-160.
71. Hand D., Mannila H., Smyth P. Principles of data mining. Massachusetts: MIT Press, 2001. 322 p.
72. Haupt R. L., Haupt S. E. Practical Genetic. NY: John Wiley & Sons, 2004.
253 p.
73. Haykin S. Neural Networks. New Jersey: Prentice Hall, 1999. - 823 p.
74. Hopfield J. J. Learning algorithms and probability distributions in feedforward and feed-back networks // Proc. Natl. Acad. Sci. USA. 1987. Vol.84. P.8429-8433.
75. Hopfield J. J. Neural Networks and Physical Systems with Emergent Collective Computational Abilities // Proc. Natl. Acad. Sci. USA. 1982. Vol.79. P.2554-2558.
76. Hopfield J. J. Neurons with Graded Response Have Collective Computational Properties like Those of Two-State // Proc. Natl. Acad. Sci. USA. 1984. Vol.81. P.3088-3092.
77. Htay M. M. A Computational Framework for Eicient Error Correcting Codes Using an Artificial Neural Network Paradigm: PhD Dissertation. Louisiana State University and Agricultural &Mechanical College, - 1992. - 91 p.
78. Ivan Idris. Python Data Analysis Cookbook. Published by Packt Publishing Ltd. Livery Place 35, Livery Street, Birmingham B3 2PB, UK, 2016. 462 p.
79. Ja-Ling Wu, Yuen-Hsien Tseng, Yuh-Ming Huang, Neural Network Decoders for Linear Block Codes // International Journal of Computational Engineering Science. 2002. Vol.3. No.3. P.235-255.
80. Jason Brownlee. Deep Learning With Python. Melbourne, Australia, 2016.
255 p.
81. Kiran R Karkera. Building Probabilistic Graphical Models with Python. Published by Packt Publishing Ltd. Livery Place 35, Livery Street, Birmingham B3 2PB, UK, 2014. 173 p.
82. Kirthi Raman. Mastering Python Data Visualization. Published by Packt Publishing Ltd. Livery Place 35, Livery Street, Birmingham B3 2PB, UK, 2015. 372 p.
83. Koza J. R. Genetic programming. Massachusetts: MIT Press, 1998. 609 p.
84. Kurt W. Smith. Cython. Published by O'Reilly Media, Inc., 1005 Gravenstein Highway North, Sebastopol, CA 95472, 2015. 253 p.
85. Lippmann P. An Introduction to Computing with Neural Nets // IEEE ASSP Magazine. 1987. Vol.4. P.4-22.
86. Lugosch L., Gross W. J. Neural Offset Min-sum Decoding // IEEE International Symposium on Information Theory, ISIT 2017, Aachen, Germany, June 25-30, 2017, - Aachen, 2017, P.1361-1365.
87. Megan Squire. Mastering Data Mining with Python - Find patterns hidden in your data. Published by Packt Publishing Ltd. Livery Place 35, Livery Street, Birmingham B3 2PB, UK, 2016. 269 p.
88. Michael Bowles. Machine Learning in Python®: Essential Techniques for Predictive Analysis. Published by John Wiley & Sons, Inc. 10475, Crosspoint Boulevard, Indianapolis, IN 46256, 2015. 361 p.
89. Mitchell M. An Introduction to Genetic Algorithms. Massachusetts: MIT Press, 1999. 162 p.
90. Moon T.K. Error Correction Coding: Mathematical Methods and Algorithms. NY: John Wiley@Sons, 800 p.
91. Morelos-Zaragoza R.H. The Art of Error Correcting Coding. NY: John Wiley@Sons, 2002, 221 p.
92. Nachmani E., Be'ery Y., Burshtein D. Learning to Decode Linear Codes Using Deep Learning // IEEE Xplore. 54th Annual Allerton Conference on Communication, Control, and Computing. 2016. P.341-346.
93. Nachmani E., Marciano E., Burshtein D., Be'ery Y. Near Maximum Likelihood Decoding with Deep Learning. 2018. Available at: arXiv 1801.02726.
94. Nachmani E., Marciano E., Burshtein D., Be'ery Y. RNN Decoding of Linear Block Codes. 2017. Available at: arXiv 1702.07560.
95. Nachmani E., Marciano E., Lugosch L., Gross W.J., Burshtein D., Be'ery Y. Deep Learning Methods for Improved Decoding of Linear Codes // IEEE Journal of Selected Topics in Signal Processing. 2018. Vol.2. No.1. P.119-131.
96. Nikhil Ketkar. Deep Learning with Python: A Hands-on Introduction. Bangalore, Karnataka, India, 2017. 169 p.
97. Ortu'o, I., Ortu'o M., Delgado J. Error Correcting Neural Networks for Channels with Gaussian Noise // IJCNN International Joint Conference on Neural Networks. — Baltimore, 1992. Vol. 4, P.295-300.
98. Proakis J. Digital communications. NY: McGraw-Hill Education, 2001. 1024 p.
99. Purser M. Introduction to Error-Correcting Codes. London: Artech House, 1995. 133 p.
100. Robert B. Ash R.B. Information Theory. NY:Dover Publications, 1990.
339 p.
101. Spears W.M. Evolutionary Algorithms: The Role of Mutation and Recombination. Berlin: Springer, 2000. 220 p.
102. Thomas Haslwanter. An Introduction to Statistics with Python. Springer International Publishing, Switzerland, 2016. 285 p.
103. Veelenturf L. P. J. Analysis and applications of artificial neural networks. London: Prentice Hall, 1995. 259 p.
104. Wicker S. B., Bhargava V. K. Reed-Solomon Codes and Their Applications. NY: John Wiley & Sons, 1999. 336 p.
105. Wong M., Leung K. Data Mining Using Grammar Based Genetic Programming and Applications. NY: Kluwer, 2002. 213 p.
106. Yuen-Hsen Tseng, Ja-Ling Wu, Recoding Reed-Muller codes by multilayer perceptrons // International Journal of Electronics. 1993. Vol.75. No.4. P.589-594.
107. Zeng G., Hush D., Ahmed N. An Application of Neural Net in Decoding Error-correcting Codes // IEEE International Symposium on Circuits and Systems. 1989. Vol.2. P.782-785.
Приложение 1
УТВЕРЖДАЮ
Научный руководитель
iQ «Концерн «Созвездие» октор технических наук
!НпкорресЯюндент РАН
В.И. Борисов 2019 г.
АКТ
о реализации в АО «Концерн «Созвездие» результатов диссертации Бутова Владислава Вячеславовича
Комиссия в составе: председателя - научного референта, доктора технических наук, профессора H.H. Толстых, членов - руководителя проекта, доктора физико-математических наук А.Б. Муравника и начальника отдела АО «Концерн «Созвездие» А.Д. Шклярника установила, что результаты диссертационного исследования Бутова Владислава Вячеславовича в части
- математической модели нейросетевого декодера, позволяющего реализовать класс блоковых кодов (Хемминга, БЧХ, Рида-Соломона, LDPC, Рида-Маллера) в виде единой искусственной нейронной сети прямого распространения;
- численных методов и алгоритмов, позволяющих аналитически рассчитывать количество необходимых слоев и нейронов искусственной нейронной сети, реализующей декодирующее устройство, а также определять все числовые характеристики необходимые для ее полной настройки,
использованы в АО «Концерн «Созвездие» применительно к технической основе системы связи и управления при выполнении плановых НИОКР, а также ряда важнейших работ, заданных Решениями Президента и Правительства РФ, в частности, работ по темам, «Кассиопея», «Москва», «Созвездие-М», «Созвездие-М2» и других для определения направлений и путей совершенствования систем связи и пунктов управления специального назначения.
Председатель комиссии:
Члены комиссии:
А.Б. Муравник
H.H. Толстых
А.Д. Шклярник
УТВЕРЖДАЮ
АКТ
ЮО "Воронежское (е^юро средств связи"
. Протопопова
,11
внедрения результатов диссертационного исследования Бутова Владислава Вячеславовича на тему: «Моделирование процессов коррекции ошибок в массивах информации на основе искусственных нейронных сетей»
Комиссия в составе: председателя - технического директора ООО "Воронежское конструкторское бюро средств связи", кандидата технических наук О.В. Николаева; членов комиссии: ведущего инженера ООО "Воронежское конструкторское бюро средств связи" С.Н. Янпольского, технического консультанта В.Г. Лачугина составила акт о том, что при проведении НИОКР в ООО "Воронежское конструкторское бюро средств связи" были использованы результаты диссертационного исследования В.В. Бутова на соискание ученой степени кандидата технических наук на тему: «Моделирование процессов коррекции ошибок в массивах информации на основе искусственных нейронных сетей».
Использование данных результатов позволило повысить качество выполнения НИОКР в части исследования помехоустойчивости систем передачи цифровой информации и разработки требований к информационным системам специального назначения.
Председатель комиссии: технический директор ООО "Воронежское конструкторское бюро средств связи
кандидат технических наук О.Н. Николаев
Члены комиссии: Ведущий инженер ООО "Воронежское конструкторское бюро
средств связи
Технический консультант ООО "Воронежское конструкторское бюро средств связи"
.11
УТВЕРЖДАЮ
Ди] онежский центр
МИ]
до* 1ук, профессор
\JJIDl
« [9 г.
;з-^ольсин
АКТ
о реализации в ООО «Воронежский центр микроэлектроники» результатов диссертационного исследования Бутова Владислава Вячеславовича
Комиссия в составе: председателя - директора, доктора химических наук, профессора ВА. Небольсина, членов - главного инженера В.В.Литвинова и инженера И.В. Русановой установила, что результаты диссертационного исследования Бутова Владислава Вячеславовича в части
- математической модели нейросетевого декодера, позволяющего реализовать класс блоковых кодов в виде единой искусственной нейронной сети прямого распространения;
- численных методов и алгоритмов, позволяющих аналитически рассчитывать количество необходимых слоев и нейронов искусственной нейронной сети, реализующей декодирующее устройство, а также определять все числовые характеристики необходимые для ее полной настройки,
использованы в деятельности ООО «Воронежский центр микроэлектроники» применительно к технической основе цифровых систем передачи информации.
Председатель комиссии:
Члены комиссии:
В.А. Небольсин
В.В.Литвинов
Обратите внимание, представленные выше научные тексты размещены для ознакомления и получены посредством распознавания оригинальных текстов диссертаций (OCR). В связи с чем, в них могут содержаться ошибки, связанные с несовершенством алгоритмов распознавания. В PDF файлах диссертаций и авторефератов, которые мы доставляем, подобных ошибок нет.