Алгоритмы классификации данных дистанционного зондирования Земли для интерпретации спутниковых и аэрофотоснимков тема диссертации и автореферата по ВАК РФ 00.00.00, кандидат наук Ньян Линн Тун

• Ньян Линн Тун
• кандидат наук
• 2023

Оглавление диссертации кандидат наук Ньян Линн Тун

ВВЕДЕНИЕ

ГЛАВА 1. АВТОМАТИЧЕСКОЙ СИСТЕМЫ КЛАССИФИКАЦИИ ГИПЕРСПЕКТРАЛЬНЫХ ИЗОБРАЖЕНИЙ ДОТАЦИОННОГО ЗОНДИРОВАНИЯ ЗЕМЛИ

1.1. Основые методы классификации гиперспектральных изображений

1.2. Методы классификации ГСИ в системах контролируемой классификации

1.2.1. Максимальное правдоподобие классификации

1.2.2. Классификация по минимальному расстоянию

1.2.3. Глубокая сеть доверия

1.2.4. Машина опорных векторов

1.2.5 Сверточные нейронные сети

1.3. Методы классификации гиперспектральных изображений в системах неконтролируемой классификации

1.3.1. Шумоподавляющий автоэнкодер

1.3.2. Классификация методом К-средних

1.3.3. Итеративный метод самоорганизации ISODATA

1.3.4. Метод главных компонент

1.4. Типовая структура и основые принципы для классификаци ГСИ ДЗЗ

1.5. Задача автоматической классификация гиперспектральных изображений дистационного зондирования Земли

1.6. Постановка задачи автоматической классификации гиперспектральных изображений ДЗЗ

Выводы по Главе

ГЛАВА 2. РАЗРАБОТКА И ИССЛЕДОВАНИЕ АЛГОРИТМОВ КЛАССИФИКАЦИИ ГСИ ДЗЗ С ИСПОЛЬЗОВАНИЕМ РАЗЛИЧНЫХ СТУКТРУР СВЕТОЧНЫХ НЕЙРОНЫХ СЕТЕЙ

2.1. Одномерная светочноная нейроная сеть

2.1.1 Пространственный сверточный слой

2.1.2 Слой Primary Caps

2.1.3 Слой 1D-ConvCaps

2.1.4 Слой Class Caps

2.2 Двухмерная сверточная нейроная сеть

2.2.1 Пространственный сверточный слой

2.2.2 Полносвязные слои

2.3 Трёхмерная сверточная нейронная сеть

2.3.1 3D - Пространственно - спектральный сверточный слой

2.3.2 3D - Полностью соединенные слои

2.4 Hybrid-SN Светочноных Нейроных Сетей

2.4.1 3D - Пространственно - спектральные сверточные слои

2.4.2 Пространственные сверточные слои

2.4.3 Полностью соединенные слои

2.5 Комбинированные 3D-2D светочноные нейроные сети

2.5.1 Глубинные 3D- Пространственно - спектральные сверточные слои

2.5.2 Глубинные 3D-2D Пространственно - спектральные сверточные слои

2.5.3 Слои уменьшения пространственной размерности

2.5.4 Полностью соединенные слои

2.6. Регуляризация (Отсев)

2.7. Переобучение

2.8. Основные понятия теории автоматической классификации гиперспектральных изображений Дистационного Зондирования Земли

Выводы по Главе

ГЛАВА 3. РАЗДЕЛ НАБОРОВ ДАННЫХ ДЛЯ ЭКСПЕРИМЕНТАЛЬНОЙ РАБОТЫ

3.1 .. Концепции спектроскопии изображений

3.2 ..Различия между гиперспектральной и мультиспектральной визуализацией

3.2.1 Базы данных Indian Pines (IP)

3.2.2 Базы данных Salinas Scene (SA)

3.2.3 Базы данных University of Pavia (PU)

Выводы по Главе

ГЛАВА 4. РЕАЛИЗАЦИЯ КЛАССЦИФИКАЦИИ ГСИ НА ОСНОВЕ СПЕКТРАЛЬНО-ПРОСТРАНСТВЕННЫХ ИНФОРМАЦИОННЫХ ТЕХНОЛОГИЙ С ИСПОЛЬЗОВАНИЕМ КОМБИНИРОВАННЫХ 3D-2D СВЕРТОЧНЫХ НЕЙРОННЫХ СЕТЕЙ

4.1 Структура и основные принципы функционирования программно-аппаратной системы классцификации ГСИ ДЗЗ

4.2 Подготовление Базы данных (IP, SA, PU)

4.3 Уменьшение размерности гиперспектральных изображений с использованием Python

4.4 Архитектура модели 3D-2D СНС

4.5 Нелинейная функция активации

4.6 Функция окончательной активации

4.7 Размер окна

4.8 Параметры для обучения СНС

4.9 Функция потерь

4.10 Показатели оценки классификации

4.11 Постановка Эксперимента

4.12 Блок-схема алгоритма комбинированных 3D-2D сверточноных нейронных сетей

4.13 Результаты экспериментов

Выводы по Главе

ОБШИЕ ВЫВОДЫ И ЗАКЛЮЧЕНИЕ

СПИСОК ИСПОЛЬЗОВАННОЙ ЛИТЕРАТУРЫ

СПИСОК ОБОЗНАЧЕНИЙ И СОКРАЩЕНИЙ

ГСИ - Гиперспектральное изображение дистационного зондирования Земли

НГСИ - Новое гиперспектральное изображение дистационного зондирования Земли

ГДЗ - Гиперспектральное дистанционное зондирование

СИ - Спектроскопия изображений

ДЗЗ - Дистационное Зондирование Земли

СНС - Cверточная нейронная сеть (Convolutional Neural Network) SVM - Support Vector Machine (Метод Опорных Векккторов) RF - Random Forest

PCA - Метод главных компонент (Principal Component Analysis)

ICA - Независимый компонентный анализ (Independent Component analysis)

LDA - Линейный дискриминантный анализ (Linear Discriminant Analysis)

LLE - Локальное линейное встраивание (Linear discriminant analysis)

ГСД - Глубокая сеть Доверия ( Deep Belief Network - DBN )

ОМБ - Ограниченной машиной Больцмана RNN - Повторяющаяся сеть (Recurrent network)

MLC - Классификатор максимального правдоподобия (Maximum Likehood Classifier)

КМР - Классификатор минимального расстояния (Minimum Distance Classifier

1D CHC - Одномерная сверточная нейронная сеть 2D CHC - Двухмерная сверточная нейронная сеть 3D CHC - Трехмерная сверточная нейронная сеть IP - Indian Pine dataset SA - Salinas Scene dataset

PU - University of Pavia dataset

AVIRIS - Airborne Visible / Infrared Imaging Spectrometer ROSIS - Reflective Optics System Imaging Spectrometer TP - True Positive (Истинно Положительный) FP - False Positive (Ложиный Положительный) TN - True Negative (Истинный Отрицательный) FN - False Negative (Ложный Отрицательный) L - Loss Function

ОТ - Общая точность (Overall accuracy)

СТ - Средная Точность (Average accuracy)

KK - Коэффициент каппа (coefficient Kappa)

API - Интерфейс программирования нейронной сети

CNTK - Microsoft Cognitive Toolkit

CuDNN - NVIDIA CUDA® Deep Neural Network library

ВВЕДЕНИЕ

Актуальность темы исследования. В работе рассматривается задача классификации областей и объектов на земной поверхности с использованием данных гиперспектрального дистанционного зондирования Земли (ДЗЗ). Гиперспектральное зондирование позволяет получать информацию как о составе материала объекта, так и о его форме, текстуре и расположении, что позволяет повысить точность обнаружения, распознавания и анализа характеристик наземных объектов. В силу этого, использование гиперспектральных изображений (ГСИ) можно использовать для решения задач, которые не могут быть решены с применением мультиспектральных или обычных цветных изображений с достаточной точностью.

Благодаря своим преимуществам, гиперспектральное зондирование широко используется в самых разных областях. В сельском хозяйстве ГСИ используются в таких областях, как точное земледелие, мониторинг сельскохозяйственных культур и земельных ресурсов. В сфере охраны окружающей среды ГСИ используется для обнаружения утечек газа, разливов нефти, анализа качества воды, анализа растительного покрова. В биомедицинских приложениях ГСИ используется для тестирования кожи для изучения состояния здоровья человека. Использование данных ДЗЗ для классификации и картографирования растительности позволяют решить эту задачу с минимальными затратами времени и средств. Наличие аэро- и спутниковых гиперспектральных снимков с увеличенным пространственным и спектральным разрешением открывает широкие возможности для классификации и картирования землепользования и растительности. Благодаря большому количеству диапазонов волн, обработка изображений позволяет определять как биохимические, так и структурные свойства растительности.

Задачи автоматической классификации ГСИ с большими наборами входных данных высокой размерности становятся все более распространенными и зачастую сложными для решения. Высокая размерность данных приводит к сложным архитектурным решениям и наличию большого количества настроечных параметров детектора и классификатора, что существенно затрудняет настройку и зачастую делает её невозможной. Одним из решений проблемы является уменьшение размерности входного пространства до приемлемого размера, после чего появляется возможность задействовать сеть глубокого обучения на представлении с существенно меньшим количеством измерений. Предыдущие исследовательские работы по классификации гиперспектральных изображений часто фокусировались в основном на спектральной информации, используя только её для классификации изображений. Для классификации использовались самые разные подходы, такие как метод опорных векторов (Support Vector Machine -SVM), ансамбли решающих деревьев (Random Forest - RF), Метод главных компонент (PCA), Полиномиальная логистическая регрессия (Polynomial logistic regression), искусственные нейронные Сети (ИНС).

Для повышения эффективности классификации необходимо разработать классификатор, который должен использовать как спектральную, так и пространственную информацию. Распознавание ГСИ ДЗЗ содержит такие этапы, как коррекция изображения, фильтрация шума, коррекция ракурса, уменьшение размерности и классификация. Для отдельного извлечения пространственной и спектральной информации используется аппарат сверточных нейронных сетей (СНС). Кроме того, предлагается структура 3D-2D СНС для формирования необходимого набора обучающих данных с использованием множества небольших исправлений, взятых из исходных изображений.

Цель диссертационной работы:

Целью работы является разработка и исследование алгоритмов классификации данных для обработки гиперспектральных данных дистанционного зондирования Земной поверхности.

Основными задачами являются:

1. Анализ способов повышения эффективности классификации данных дистанционного зондирования Земли.

2. Исследование типовых структур систем интерпретации данных дистанционного зондирования земной поверхности и основных процедур обработки данных ДЗЗ.

3. Разработка методики и процедуры автоматической классификации данных ДЗЗ.

4. Разработка алгоритмов и проблемно-ориентированного программного обеспечения на основе разработанных моделей и предварительно обученных моделей, позволяющих повысить точность классификации данных ДЗЗ и сократить время обработки вычислений на моделе обучения.

5. Моделирование системы автоматической классификации данных

ДЗЗ.

6. Сравнение эффективности разработанного подхода с использующимися методами глубокого обучения для классификации данных ДЗЗ.

Объектом исследования диссертационной работы является система компьютерного зрения, автоматическая классификация гиперспектральных изображений ДЗЗ и прогнозирование классификационных карт.

Предметом исследования является комбинированный подход к решению задачи автоматической классификации гиперспектральных изображений ДЗЗ.

Методы исследования. В работе использовались методы цифровой обработки изображений, математической статики, теории глубокого обучения, вероятностных моделей.

Научная новизна

Научная новизна работы заключается в следующем:

1. Разработан новый подход, основанный на глубоком обучении для эффективного использования спектральной и пространственной информации из гиперспектральных данных и оценки оптимальности классификации гиперспектральных данных с использованием наборов данных Indian pines (IP) до 99.95%, University of Pavia (PU) до 99.97%, Salinas Scene (SA) до 99.99%.

2. Проведена оценка оптимальности карты прогнозирования с использованием различных пространственных размеров с определением метки классов от каждого пикселя (более точности 99%).

3. Разработана классификационная карта признаков для решения задачи повышения качества изображений прогнозирования дистанционного зондирования.

4. Разработан новый алгоритм, основанный на применении предложенного комбинированного подхода, дающий возможность классификации на высокоразмерных изображениях и на сокращенных наборах данных для автоматической системы классификации гиперспектральных данных дистанционного зондирования Земли.

Научная ценность

Научная ценность диссертационной работы заключается в предложенном комбинированном способе, основанном на использовании методов классификации данных ДЗЗ, с использованием предварительной обработки и

уменьшении размерности входных данных, извлечения пространственно-спектральных признаков, классификации и оценки её эффективности.

Практическая ценность

Практическая ценность диссертационной работы состоит в том, что разработанные алгоритмы в виде программного обеспечения могут применятся в системах классификации данных дистанционного зондирования земной поверхности.

Достоверность полученных результатов проведённых исследований подтверждается результатами экспериментов с применением модели системы автоматического классификации ГСИ на основе предложенных методов и алгоритмов.

Основные научные положения, выносимые на защиту:

Предлагаемый метод классификации использует не только спектральные сигнатуры, но и пространственную информацию о соседних пикселях для повышения качества распознавания. Основные улучшения в данной работе сводятся к следующему:

1. Комбинированный подход к решению задачи автоматической классификации с использованием существующих моделей для коррекции яркости, уменьшения шума, снижение размерности и классификации признаков, позволяющий повысить эффективность распознавания системы автоматической классификации ДЗЗ.

2. Алгоритм регуляризации для решения проблемы переобучения и повышения качества карты классификации по сравнению с другими современными методами глубокого обучения.

3. Модифицированная модель классификации ГСИ на основе комбинации разработанных моделей, позволяющие идентифицировать каждый пиксель с

эффективностью классификации ГСИ. Для моделирования процесса классификации использовалась среда Python, библиотеки обучения Keras и Tensorflow.

4. Оригинальные структуры и алгоритмы функционирования классификации системы дистанционного зондирования Земли, позволяющие реализовать предложенную методику для стандартных изображений из наборов данных Indian Pines (IP), University of Pavia (PU), Salinas Scene (SA).

Эффективность разработанных методик, процедур и алгоритмов подтверждена результатами моделирования цифровой обработки системы автоматического классификатора на основе комбинированных 3D-2D сверточной нейронной сети на трёх данных наборах гиперспектральных изображений, а именно Indian Pines (IP), University of Pavia (PU), and Salinas Scene (SA).

Апробация

1. Международная научно-техническая конференция «Пром-Инжиниринг», (Сочи, 2020).

2. IEEE Conference of Russia Young Reseachers in Electical and Electronic Engineering (2021 EIConRus), organized by Moscow, National Research University of Electronic Technology «MIET», (Зеленоград, 2021)

3. Всероссийская студенческая конференция «Суденческая научная весна», (Москва, 2018).

Публикации

По результатам исследований опубликовано 8 работ, в числе которых 3 работы в журналах, входящих в список, утвежденный ВАК РФ, 5 в материалах конференций, включенных в базу данных SCOPUS и тезисы доклада на научной конференции.

Введение диссертации (часть автореферата) на тему «Алгоритмы классификации данных дистанционного зондирования Земли для интерпретации спутниковых и аэрофотоснимков»

Структура работы

Диссертация состоит из введения, четырех глав, заключения, списка сокращений, списка литературы, который содержит 140 наименований. Объем диссертации: 130 страниц, включая 42 рисунов, 15 таблиц и 3 листинга.

Личный вклад автора

Личный вклад автора заключается: в постановке основных задач исследования и разработки процедур их решения; в формировании процедур и методики эффективности качества классификации данных дистанционного зондирования земной поверхности, в компьютерном моделировании разработанных алгоритмов на базе современных программно-технических средств.

ГЛАВА 1. АВТОМАТИЧЕСКОЙ СИСТЕМЫ КЛАССИФИКАЦИИ ГИПЕРСПЕКТРАЛЬНЫХ ИЗОБРАЖЕНИЙ ДИСТАЦИОННОГО ЗОНДИРОВАНИЯ ЗЕМЛИ

Гиперспектральное изображение (ГСИ), или спектроскопия изображений (СИ), - это технология, которая позволяет получать подробную спектральную информацию для каждого пикселя изображения. ГСИ - это технология, которая позволяет получить пространственную и спектральную информацию одновременно, и улучшает понимание удаленной среды. Это позволяет точно идентифицировать наблюдаемые цели и явления, поскольку спектральная информация представлена на пространственной, а не точечной (пиксельной) основе. Технология ГСИ часто используется в области дистанционного зондирования как инновационный инструмент для многих практических приложений, таких как геология, экология, почвоведение, лимнология, педология, биология растений и науки об атмосфере, особенно в тех случаях, когда другие средства дистанционного зондирования не работают или неспособны получить дополнительную информацию. Получение гиперспектральных изображений зависит от спектрометров визуализации, установленных в разных положениях. Спектральные изображения начали использоваться с 1980 годов. Они используются для получения изображения электромагнитных волн в ультрафиолетовой, видимой, ближней инфракрасной и средней инфракрасной областях. Визуализация спектрометрии позволяет отображать изображения во многих непрерывных и очень узких диапазонах, поэтому каждый пиксель в используемом диапазоне длин волн может получать полностью отраженный или излучаемый спектр. Таким образом, гиперспектральные изображения обладают характеристиками высокого спектрального разрешения, множеством полос и обилием информации. Методы обработки гиперспектральных изображений дистанционного зондирования в основном включают коррекцию изображения [15], уменьшение шума [16], преобразование [17], уменьшение размерности и классификацию [18].

Компьютерная классификация изображений дистанционного зондирования заключается в идентификации и классификации информации о поверхности Земли и ее окружающей среде на изображениях дистанционного зондирования, с тем чтобы идентифицировать информацию об объектах, соответствующую информации об изображениях, и извлечь необходимую информацию об объектах. Компьютерная классификация изображений дистанционного зондирования - это специфическое применение технологии автоматического распознавания образов в области дистанционного зондирования. Кроме того, с дальнейшим развитием систем гиперспектральной визуализации информация, собираемая с помощью гиперспектральных изображений, будет более подробной и богатой. С одной стороны, пространственное разрешение будет выше, с другой стороны, спектральное разрешение будет значительно улучшено. С дальнейшим развитием гиперспектральных визуализаторов объем информации, содержащейся в гиперспектральных изображениях, станет еще больше, и сфера применения гиперспектральных изображений также будет шире. Расширение области применения и увеличение объема данных также выдвигают более сложные требования к технологии наземного наблюдения гиперспектрального дистанционного зондирования.

По сравнению с многоспектральными изображениями, количество полос изображения в гиперспектральных изображениях больше, а способность разрешать объекты сильнее, то есть выше, чем спектральное разрешение. Однако из-за высоких размерных характеристик гиперспектральных данных, сходства между спектрами и смешанными пикселями технология классификации гиперспектральных изображений по-прежнему сталкивается с рядом проблем, которые необходимо решить [19, 20].

1.1. Основые методы классификации гиперспектральных изображений

Высокая размерность данных гиперспектрального изображения и отсутствие помеченных образцов могут привести к феномену Хьюза [21]. Ранее в исследованиях гиперспектральной классификации изображений люди часто фокусировались на спектральной информации, используя только спектральную информацию для классификации изображений, и разработали множество методов классификации, таких как машина опорных векторов (SVM) [22], Random Forest (RF), нейронные сети [23] и полиномиальная логистическая регрессия [14]. Также были предложены методы уменьшения размеров, такие как извлечение признаков и выбор признаков, такие как метод главных компонент (PCA) [24,25], метод независимых компонент (ICA) [26, 27] и линейный дискриминантный анализ (LDA) [28]. Другой подход связан с нелинейным извлечением признаков. Примером может служить опубликованный в 2000 году алгоритм локального линейного встраивания (ЛЛВ) [29], который проектирует локальные точки данных с высокой размерностью в систему координат с низкой размерностью. Общая информация получается путем наложения локальных окрестностей, поддержания одинаковой топологической взаимосвязи и сохранения общих геометрических свойств. В это же время Tenebaum и др. предложили алгоритм ISOMAP (Isometric Feature Mapping) [30], основанный на классическом MDS [31]. Он использует геодезическое расстояние для встраивания данных высокой размерности в координаты низкой размерности. Структура окрестностей между точками пространственных данных высокой размерности все еще сохраняется в пространстве координат низкой размерности. Белки и Нийоги предложили аналогичный подход к LLE в 2001 году. Собственная карта Лапласа (LE) [32,33], также известная как Спектральная кластеризация (SC); эти методы извлечения нелинейных признаков используются в классификации для практических применений. Поскольку пространственная контекстная информация не учитывается, вышеуказанные методы классификации,

основанные на пространственной информации, не дали хороших результатов классификации. Согласно исследованиям, опубликованным в [34, 35], пространственная контекстная информация играет важную роль в классификации гиперспектральных изображений и может эффективно избегать явления гомологических гиперспектральных явлений или гомологических гетерогенных явлений, вызванных использованием только спектральной информации. В определенной спектральной области два разных объекта могут демонстрировать одни и те же характеристики спектральных линий. Спектр объекта может также совпадать со спектрами посторонних объектов, а также может зависеть от особенностьей грунта в разных состояниях, таких как разные относительные углы к солнечному свету, разная плотность и разное содержание воды, демонстрирующие разные характеристики спектральных линий. Использование гетероспектра одного и того же спектра или одного и того же объекта оказывает определенное влияние на качество классификации, поэтому при классификации необходимо использовать информацию о пространственном контексте. Сочетание пространственной и спектральной информации является еще одной горячей областью в классификации гиперспектральных изображений. Все больше и больше исследователей работают в этом новом направлении. В [36, 37] для извлечения пространственной информации изображения использовался метод расширенного морфологического профиля (EMP). Кроме того, пространственную информацию также могут извлекать совместные модели разреженного представления [38, 39].

1.2. Методы классификации ГСИ в системах контролируемой

классификации

Метод контролируемой классификации является широко используемым методом классификации гиперспектральных изображений. Основной процесс заключается в том, чтобы сначала определить дискриминантные критерии на

основе известной категории выборки и предварительных знаний и рассчитать дискриминантную функцию; Обычно используемые методы контролируемой классификации включают метод машины опорных векторов, метод классификации искусственных нейронных сетей, метод классификации дерева решений и метод классификации с максимальным правдоподобием.

1.2.1. Максимальное правдоподобие классификации

Классификация с максимальным правдоподобим (Maximum Likelihood Classification) - это метод классификации, основанный на байесовском критерии. Классификация с максимальной вероятностью дискриминации, преставляет собой вариант нелинейной классификации. Значения статистических признаков каждого типа обучающих выборок вычисляются во время классификации. Метод предполагает выбор классификационной дискриминантной функции, которая используется для определения вероятности того, что каждый пиксель на гиперспектральном изображении дистанционного зондирования относится к различным типам, и классифицирует тестовый образец в категорию с наибольшей вероятностью. Каждая категория на изображении дистанционного зондирования имеет проекцию в любом направлении пространства признаков, но когда проекции этих разных направлений трудно различить, это означает, что метод линейной дискриминации также не идеален. Для этого требуется создание классификатора с нелинейными границами классификации, который позволяет получить лучшие результаты. Из-за большого объема данных в гиперспектральном изображении дистанционного зондирования сгенерированная ковариационная матрица будет очень большой, и ее будет сложно рассчитать. Таким образом, метод классификации дискриминации с максимальной вероятностью, как правило, может дать лучшие результаты. Когда обучающие выборки распределены нормально, метод классификации, полученный методом классификации с максимальным правдоподобием, лучше. Изображение наземного объекта дистанционного зондирования может

использовать свой вектор спектральных признаков X в качестве меры для нахождения соответствующей характерной точки в пространстве спектральных признаков: и каждая характерная точка из аналогичного объекта сформирует кластер с определенной вероятностью в пространстве признаков. Условная вероятность р(ю \ х) характерной точки, попадающей в определенный кластер (ю), может использоваться в качестве функции принятия решения о категории компонентов, которая называется функцией принятия решения о вероятности. Предполагая, что ^ (х) g является дискриминантной функцией, вероятность

р (ю \ х) того, что пиксель х принадлежит классу юг, может быть выражена как:

gг■( х) = Р(юЛ х) (1Л)

Согласно байесовской формуле, существует функция:

gi(х) = р(ю |х) = Р(х\ю)Р(ю)\Р(х),

где, р(х|ю) - условная вероятность, принадлежащая V, является априорной вероятностью, а р(х) - вероятностью, когда х не имеет ничего общего с категорией. Классификация с максимальным правдоподобием предполагает нормальное распределение гиперспектральных данных, а дискриминантная формула является:

gi(х) = Р(Ю |х) = р(ю)

р(ю)

exp

А у2

(2^)/2 Е

1 "1 --(х - и )т Е(х - и)

(1.2)

где А - количество классов, К - количество признаков, Е ■ - ковариационная матрица А -го класса, ЕА - определитель матрицы Е■, а и -средний вектор.

начало

^ обучающие образцы

Рис. 1.1. Схема классификации максимальным правдоподобием.

1.2.2. Классификация по минимальному расстоянию

Классификатор минимального расстояния (КМР) - это метод контролируемой классификации (классификации с учителем), основанный на расстоянии пикселей в пространстве параметров объектов в качестве основы классификации. Обычно считается, что в пространстве параметров объектов; точки объектов, принадлежащие к одному и тому же классу, сгруппированы в пространстве. Средний вектор, определяемый этими характерными точками, используется в качестве центра категории, а матрица ковариации используется

для описания дисперсии окружающих точек. Баллы аналогично измеряются для каждой категории. Основное предположение о мере сходства состоит в том, что если различия в характеристиках между двумя объектами ниже установленного порога, то два объекта считаются похожими. Метод использует область, образованную набором различных точек обучающей выборки, для представления различных областей принятия решений и использует расстояние в качестве основной основы для измерения сходства выборок. Существует множество форм расчета расстояния, включая расстояние Минга, расстояние Махаланобиса, расстояние по абсолютному значению, евклидово расстояние, расстояние Че и расстояние Барта. Среди них расстояние Махаланобиса и параметрическое расстояние Барта не только учитывают вектор средних значений класса, но также учитывают распределение каждой точки объекта вокруг центра класса, поэтому они имеют более эффективный результат классификации, чем другие критерии расстояния, однако требуют большего объема вычислений, чем у других критериев. Метод сопоставления минимального расстояния работает следующим образом. Выберается тип объекта из спектральной библиотеки; вычисляется расстояние между выбранным объектом и объектом, который необходимо сопоставить. Устанавливается пороговое значение для классификации. Данный метод является одним из самых ранних применяемых методов для исследования классификации изображений. Благодаря своим преимуществам, таким как интуитивность и простота расчета, он все еще широко используется сегодня. Для некоторых задач классификации с недостаточными точками обучающей выборки он может получить лучшие результаты классификации, чем другие сложные классификаторы. На рисунке 2 представлена блок-схема метода классификации минимального расстояния.

1.2.3. Глубокая сеть доверия

Глубокая сеть доверия (Deep Belief Network, DBN) - это вероятностная генеративная модель, состоящая из нескольких скрытых слоев. Её можно

рассматривать как композицию простых обучающих модулей, составляющих каждый слой. Обычно модель использует искусственные нейронные сети. Уровни в этих изученных статистических моделях соответствуют различным уровням концепций, где концепции более высокого уровня определяются на основе концепций более низкого уровня, и одни и те же концепции более низкого уровня могут помочь определить многие концепции более высокого уровня. DBN можно эффективно обучать без учителя, слой за слоем, где слои обычно состоят из ограниченных машин Больцмана (ЯВМ). Машина Больцмана (ВМ), как и сеть Хопфилда, представляет собой сеть блоков с "энергией", определенной для сети. В нем также есть двоичные единицы, но, в отличие от сетей Хопфилда, машинные единицы Больцмана являются стохастическими. Однако полагаться на ВМ не совсем практично. Поэтому разработан RBM, который не позволяет подключать видимые-видимые блоки и скрытые-скрытые блоки (Рис 1.2).

Вероятностные модели, основанные на энергии, определяют распределение вероятностей с помощью энергетической функции следующим образом:

Р(л, И

в~ Е (л>И

9 "ЦП, (13)

в котором нормализующий коэффициент Z называется функцией разбиения по аналогии с физическими системами:

2(9) = 1 еЕ*т (1.4)

v ,и

Глобальная энергия в машине Больцмана идентична по форме сети Хопфилда:

Е (V, И

9 = -! ял-I *Л-II лщи

гУ , (1.5)

I=1 ]=1 I=1 ]=1

где щ. - вес, соединяющий скрытый блок j и i и видимый блок \ и

а,Ь - смещения видимого и скрытого слоев соответственно. в = щ, а, Ь} представляет параметры ГСД. т и п - общее число скрытых и видимых слоев, V и -состояния видимого блока I и скрытого блока у.

Из-за специфической структуры ГСД видимые и скрытые блоки условно независимы друг от друга. Чтобы увеличить возможности представления функцей одной ограниченной машиной Больцмана (ОМБ), несколько ОМБ могут быть сложены одна за другой, что создает DBN, который можно изучить для извлечения глубокого иерархического представления обучающих данных. Ограниченная машина Больцмана (RBM) представляет собой многоуровневую обучающую модель и рассматривается как основной строительный блок DBN [40]. На Рис. 4. показан (ОМБ), состоящий из двухслойной сети с "видимыми" блоками V = {0,1}й и "скрытые" единицы измерения к = {0,1}Ь. Учитывая эти единицы, энергия совместной конфигурации единиц может быть определена с помощью:

й Ь й Ь

е (у, н, в) = -Х- X аА -ЕЕ (1.6)

I=1 у=1 ¿=1 У=1

= -ЬТу - агк - vгwh,

где в = {Ьг,ау&}.

Здесь, & - вес между видимой единицей \ и скрытой единицей у.

Ь и а - смещение видимых и скрытых единиц измерения соответственно.

Вес, & вычисляется с помощью дивергенции [41]. В RBM скрытые слои

условно независимы от видимых и, следовательно, могут получать несмещенную выборку из заданного распределения при заданном векторе данных.

Рис. 1.2. Графическая иллюстрация ограниченной машины Больцмана. Верхний слой представляет скрытые единицы измерения, а нижний слой представляет

видимые единицы измерения.

Рис. 1.3. Спектральный классификатор на основе DBN. Схема классификации, показанная здесь, имеет четыре уровня: один входной уровень, два УОМБ и

один уровень логистической регрессии.

1.2.4. Машина опорных векторов

Машина опорных векторов (Support Vector Machine, SVM) - это метод классификации, основанный на статистической информации изображений дистанционного зондирования. Машина опорных векторов является непараметрическим двоичным классификатором, который находит оптимальную гиперплоскость между двумя классами, чтобы разделить их в новом многомерном пространстве признаков, принимая во внимание только обучающие выборки, которые лежат на границе распределений классов, известных как опорные векторы. SVM - это линейный классификатор,

ассоциативный с функциями ядра и теорией оптимизации, и он обеспечивает многоклассовую классификацию изображений [7]. Основное предложение SVM состоит в том, чтобы найти гиперплоскость, которая максимизирует распределение оценок данных по их потенциальным классам в размерном пространстве. Опорные векторы могут быть определены как точки данных с минимальным расстоянием до гиперплоскости. Математические формулы, лежащие в основе SVM - классификатора, выглядят следующим образом:

где, С определяет расстояние до правильного поля с помощью С > 0, / = 1,...., п ,

С - параметр регуляризации, wгw = 1- средний вектором,

Ь - параметром смещения, уг для , - гк целевое значение.

Функции ядра выполняют прием изображений в качестве входных данных и выполняют их преобразование в необходимые для обработки изображения. Алгоритмы SVM используют различные функции ядра, классифицируемые как обычное линейное ядро импульсов в одномерном нелинейном полиномиальном сигмоидном ядре с радиальной базисной функцией (GRBF). Математическими выражениями функций ядра SVM являются следующие.

• Функция линейного ядра - это простое ядро, которое обычно использует данные в качестве входных данных и преобразует их в требуемую форму. Это определяется следующим уравнением:

(1.7)

у, ^гф( хг) + Ь) > 1 -С ,

(1.8)

к (х, у) = хгу + С

(1.9)

• Функция полиномиального ядра обычно полезна при обработке изображений. Ядро полинома можно использовать с SVM, представляя обучающие выборки в пространстве признаков, позволяющем изучать нелинейную модель. Это уравнение, как показано в следующем:

к(х, х]) = (х * х] +1)* (1.10)

• Радиальная базисная функция Гаусса, используемая в различных алгоритмах обучения с ядрами. Это ядро широко используется в категоризации текста, а также может использоваться в задаче регрессии. Ядро RBF, означающее компоненты функций в определенном месте ввода, определяется как:

2

к(Х , X ) = еХР(~7 X - XJ ) (1.11)

• Сигмоидное ядро популярно для SVM из-за его происхождения из нейронных сетей:

к (х, у) = tanh( ахт у + с) (112)

I ею« 1«пН <»КШ 1опс1

Рис. 1.4. Выражение функций ядра SVM (Линейное ядро, ядро RBF, Полиномиальное ядро и сигмоидальное ядро).

Рис. 1.5. Структура SVM для классификации гиперспектральных изображений.

1.2.5 Сверточные нейронные сети

Сверточные нейронные сети (СНС) ориентированы на извлечении репрезентативных функций для различных форм данных с помощью нескольких архитектур нелинейного преобразования [47]. Признаки, извлеченные СНС, обычно более надежны и эффективны, чем функции, основанные на правилах. Для классификации ГСИ нейронная сеть может реализовать функцию сопоставления входных пикселей ГСИ с метками выходных пикселей. Функция состоит из последовательности простых блоков, которые называются слоями. Основные уровни в СНС следующие.

Математически выход отдельного нейрона вычисляется путем взятия вектора входных данных x и применения к нему оператора с весовым фильтром f и смещением Ь:

а = а(/х+Ь) (1.13)

где а - нелинейная функция, называемая функцией активации.

Для сверточного слоя каждый нейрон связан с пространственным местоположением (/, у) по отношению к входному изображению. Выходные данные а , связанные с входными данными, могут быть определены следующим образом:

а, = а(( ^ ® X), + Ь) (1.14)

где F - функция ядра с изученными весами, X - является ли вход или слой, ® - оператор свертки.

Обычно, по крайней мере, один уровень функции активации реализован в сети. Наиболее часто используемыми функциями активации являются сигмоидная функция и функция ReLU. Функция ReLU считается более эффективной, чем сигмоидальная функция, при сходимости процедуры обучения [29]. Функция ReLU определяется следующим образом:

<т(х) = max(0, x) (1.15)

Еще одним важным типом слоя является слой объединения (pool), которое реализуется как функция понижающей дискретезации. Наиболее распространенными типами объединения являются максимальное объединение и среднее объединение. Функция объединения разбивает входную карту объектов на набор прямоугольников и находит максимальное (либо среднее) значение для каждого субрегиона. Как правило, функция softmax выполняется на верхнем уровне, так что распределение вероятностей в качестве выходных данных может быть получено с каждой единицей, представляющей вероятность принадлежности к классу. Основываясь на вышеуказанном принципе, в этой раюоте различные характеристики необработанного изображения передаются в каждый соответствующий блок СНС, и сеть настраивается с помощью обратного распространения.

1.3. Методы классификации гиперспектральных изображений в системах

неконтролируемой классификации

Метод неконтролируемой классификации (классификация без учителя) относится к классификации, основанной на спектральном сходстве гиперспектральных данных, то есть к методам кластеризации без каких-либо предварительных знаний [42]. Поскольку никакие предварительные знания не

используются, неконтролируемая классификация принимает только начальные параметры, и формирует кластеры путем предварительной обработки классификации, а затем повторяет процесс, пока соответствующие параметры не достигнут допустимого диапазона.

1.3.1. Шумоподавляющий автоэнкодер

Шумоподавляющий АвтоЭнкодер (ЩАК) - это метод уменьшения размерности с неконтролируемым обучением, в котором используются нейронные сети для задачи обучения представлению. Преимущество автоэнкодера заключается в уменьшении высокой размерности гиперспектральных данных, где корреляция приводит к большому количеству избыточности в данных (Демарши и др., 2014). В процессе уменьшения размерности данных автоэнкодер также извлекает объекты с большей репрезентативной силой, чем исходная интенсивность или коэффициент отражения. Признаки, полученные с помощью окончательного автоэнкодера, предложенного в этой главе, могут быть использованы для распознавания различных классов. Они также менее чувствительны к влиянию переменной геометрии сцены на падающее освещение. Обучение представлению выполняется на основе обучения представлений входных данных путем их преобразования, что облегчает выполнение таких задач, как классификация или кластеризация. SAE содержит три части, отвечающие за кодирование и декодирование данных, состоят из скрытых и выходных слоев, и называются энкодер и декодер соответственно. Предположим, что исходные данные х е Я' , где й - размеры данных. ОАЕ(Декодр) сначала создает вектор х, установив некоторые элементы равными нулю или добавив гауссовский шум на x. Количество единиц измерения во входном слое равно d, что равно размеру входных данных х. БАЕ (Экодер) получается с помощью функции нелинейного преобразования:

y = fe (Wx + b)

(1.16)

где у е Rh - вывод скрытого слоя, а также может называться представлением объектов или кодом.

h - количество единиц измерения в скрытом слое.

Ш + Ь - вход скрытого слоя,

/е () - функцией активации скрытого слоя.

В качестве функции активации в этом исследовании, выбрана функция ReLU [17], которая сформулирована как:

Если значение (Wx + b) меньше нуля, выход скрытого слоя будет равен нулю. Таким образом, функция активации ReLU способна создавать разреженное представление объектов, которое может иметь лучшую возможность разделения. Более того, она позволяет обучать нейронную сеть для обработки крупномасштабных данных быстрее и эффективнее, чем другие функции активации. Декодирование или реконструкция DAE получается с помощью функции отображения f ():

где z е Rd - выход вывод ЩАК, которая также является реконструкцией исходных данных x. Выходной слой имеет то же количество узлов, что и входной слой. W' = WT называется привязанным весом.

Список литературы диссертационного исследования кандидат наук Ньян Линн Тун, 2023 год

СПИСОК ИСПОЛЬЗОВАННОЙ ЛИТЕРАТУРЫ

1. G. Camps-Valls, D. Tuia, L. Bruzzone, and J. A. Benediktsson. Advances in hyperspectral image classification: Earth monitoring with statistical learning methods. IEEE Signal Processing Magazine, vol. 31, no. 1, pp. 45-54, Jan, 2014. DOI: 10.1109/MSP.2013.2279179

2. Nyan Linn Tun, Alexander Gavrilov, Naing Min Tun, Do Minh Trieu and Htet Aung. Hyperspectral Remote Sensing Images Classification Using Fully Convolutional Neural Network. IEEE Conf. of Russian Young Researchers in Electrical and Electronic Engineering (ElConRus), 2021. DOI: 10.1109/ElConRus51938.2021.9396673

3. Heming Liang and Qi Li. Hyperspectral Imagery Classification Using Sparse Representations of Convolutional Neural Network Features. Remote Sensing, vol 8, no.2, Dec, 2015. DOI: 10.3390/rs8020099

4. Nyan Linn Tun, Alexander Gavrilov, Naing Min Tun, Do Minh Trieu and Htet Aung. Remote Sensing Data Classification Using Hybrid Pre-Trained VGG16 CNN- SVM Classifier. IEEE Conf. of Russian Young Researchers in Electrical and Electronic Engineering (ElConRus), 2021. DOI: 10.1109/ElConRus51938.2021.9396706

5. Nyan Linn Tun, Alexander Gavrilov, Naing Min Tun. Multi-Classification of Satellite Imagery Using Fully Convolutional Neural Network. IEEE Int. Conf. on Industrial Engineering, Applications and Manufacturing (ICIEAM), 2020. DOI: 10.1109/ICIEAM48468.2020.9111928

6. Shengjie Liu, Haowen Luo, Ying Tu, Zhi He, Jun Li. Wide contextual residual network with active learning for remote sensing image classification. Guangdong Provincial Key Laboratory of Urbanization and Geo-simulation, School of Geography and Planning, Sun Yat-sen University, Guangzhou, 510275, China.

7. Naing Min Tun, Alexander I. Gavrilov, Nyan Linn Tun. Facial Image Denoising Using Convolutional Autoencoder Network. IEEE Int. Conf. Industrial Engineering, Applications and Manufacturing (ICIEAM), 2020.

8. Haitao Zhang, Lingguo Meng, Xian Wei, Xiaoliang Tang, Xuan Tang, Xingping ang, Bo Jin, Wei Yao. lD-Convolutional Capsule Network for Hyperspectral Image Classification. Computer Vision and Pattern Recognition, Cornell University, 2019.

9. Qishuo Gao, Samsung Lim and Xiuping Jia. Hyperspectral Image Classification Using Convolutional Neural Networks and Multiple Feature Learning. Remote Sensing, vol 8, no.2, Feb, 2018.

10.S.K. Roy, S.R. Dubey HybridSN: Exploring 3D-2D CNN Feature Hierarchy for Hyperspectral Image Classification // IEEE Geoscience and Remote Sensing Letters, 2019.

11.Piotr lwo Wojcik, Marcin Kurdziel. Training neural networks on high-dimensional data using random projection. Pattern Analysis and Applications, 2019.

12.M. He, B. Li, and H. Chen. Multi-scale 3d deep convolutional neural network for hyperspectral image classification. IEEE Int. Conf. on Image Processing (ICIP), pp. 3904-3908, 2017.

13.L. Mou, P. Ghamisi, and X. X. Zhu. Unsupervised spectral-spatial feature learning via deep residual conv-deconv network for hyperspectral image classification. IEEE Transactions on Geoscience and Remote Sensing, vol. 56, no. 1, pp. 391-406, Jan, 2018.

14.M. E. Paoletti, J. M. Haut, R. Fernandez-Beltran, J. Plaza, A. Plaza, J. Li, and F. Pla. Capsule networks for hyperspectral image classification. IEEE Transactions on Geoscience and Remote Sensing, vol. 57, no.4, April, 2019.

15. X. Zhang, A. Zhang, and X. Meng, "Automatic fusion of hyperspectral images and laser scans using feature points,"Journal of Sensors, vol. 2015, Article ID 415361, 9 pages, 2015.

16.H. Kwon, X. Hu, J. Theiler, A. Zare, and P. Gurram, "Algorithms for multispectral and hyperspectral image analysis," Journal of Electrical and Computer Engineering, vol. 2013, Article ID 908906, 2 pages, 2013.

17. Y. Ma, R. Li, G. Yang, L. Sun, and J. Wang, "A research on the combination strategies of multiple features for hyperspectral remote sensing image classification," Journal of Sensors, vol. 2018, Article ID 7341973, 14 pages, 2018.

18.H. Binol, "Ensemble learning based multiple kernel principal component analysis for dimensionality reduction and classification of hyperspectral imagery," Mathematical Problems in Engineering, vol. 2018, Article ID 9632569, 14 pages, 2018.

19.G. Camps-Valls and L. Bruzzone, "Kernel-based methods for hyperspectral image classification," IEEE Transactions on Geoscience and Remote Sensing, vol. 43, no. 6, pp. 1351-1362, 2005.

20.G. Camps-Valls, T. V. Bandos Marsheva, and D. Zhou, "Semisupervised graph-based hyperspectral image classification," IEEE Transactions on Geoscience and Remote Sensing, vol. 45, no. 10, pp. 3044-3054, 2007.

21.Hughes, "On the mean accuracy of statistical pattern recognizers," IEEE Transactions on Information Theory, vol. 14, no. 1, pp. 55-63, 1968.

22.X. Wang and Y. Feng, "New method based on support vector machine in classification for hyperspectral data," in 2008 International Symposium on Computational Intelligence and Design, pp. 76-80, Wuhan, China, 2008.

23. A. Fu, X. Ma, and H. Wang, "Classification of hyperspectral image based on hybrid neural networks," in IGARSS 2018-2018 IEEE International Geoscience and Remote Sensing Symposium, pp. 2643-2646, Valencia, Spain, 2018.

24.P. Deepa and K. Thilagavathi, "Feature extraction of hyperspectral image using principal component analysis and folded-principal component analysis," in 2015 2nd International Conference on Electronics and Communication Systems (ICECS), pp. 656-660, Coimbatore, India, 2015.

25.M. Imani and H. Ghassemian, "Principal component discriminant analysis for feature extraction and classification of hyperspectral images," in 2014 Iranian Conference on Intelligent Systems (ICIS), pp. 1-5, Bam, Iran, 2014.

26.C. Jayaprakash, B. B. Damodaran, V. Sowmya, and K. P.Soman, "Dimensionality reduction of hyperspectral images for classification using randomized independent component analysis," in 2018 5th International Conference on Signal Processing and Integrated Networks (SPIN), pp. 492496, Noida,India, 2018.

27.J. Wang and C.-I. Chang, "Independent component analysisbased dimensionality reduction with applications hyperspectral image analysis," IEEE Transactions on Geoscience and Remote Sensing, vol. 44, no. 6.

28.Q. Du, "Modified Fisher's linear discriminant analysis for hyperspectral imagery," IEEE Geoscience and Remote Sensing Letters, vol. 4, no. 4, pp. 503-507, 2007.

29.T. Roweis and L. K. Saul, "Nonlinear dimensionality reduction by locally linear embedding," Science, vol. 290, no. 5500, pp. 2323-2326, 2000.

30.J. B. Tenenbaum, V. D. Silva, and J. C. Langford,"A global geometric framework for nonlinear dimensionality reduction," Science, vol. 290, no. 5500, pp. 2319-2323, 2000.

31. J. D. Carroll, P. Arabie, and L. J. Hubert, "Multidimensional scaling (MDS)," Encyclopedia of Social Measurement, vol. 45,no. 2, pp. 779-784, 2005.

32.Riemannian Geometry and Geometric Analysis, Universitext, Springer, 5th edition, 2008.

33.M. Belkin and P. Niyogi, "Laplacian eigenmaps for dimensionality reduction and data representation," Neural Computation, vol. 15, no. 6, pp. 1373-1396, 2003.

34.Y. Yan, Y. Zhao, H.-f. Xue, X.-d. Kou, and Y. Liu, "Integration of spatial-spectral information for hyperspectral image classification," in 2010 Second IITA International Conference on Geoscience and Remote Sensing, pp. 242245, Qingda.

35.X. Xu, J. Li, Y. Zhang, and S. Li, "A subpixel spatial-spectral feature mining for hyperspectral image classification," in IGARSS 2018 - 2018 IEEE International Geoscience and Remote Sensing Symposium, pp. 8476-8479, Valencia, Spain, 2018.

36.J. Wang, G. Zhang, M. Cao, and N. Jiang, "Semi-supervised classification of hyperspectral image based on spectral and extended morphological profiles," in 2016 8th Workshop on Hyperspectral Image and Signal Processing: Evolution in Remote Sensing (WHISPERS), pp. 1-4, Los Angeles, CA,USA, 2016.

37.X. Zhang, Y. Sun, and W. Qi, "Hyperspectral image classification based on extended morphological attribute profiles and abundance information," in 2018 9th Workshop on Hyperspectral Image and Signal Processing: Evolution in Remote Sensing (WHISPERS), pp. 1-5, Amsterdam, Netherlands, 2018.

38. Y. Chen, N. M. Nasrabadi, and T. D. Tran, "Hyperspectral image classification using dictionary-based sparse representation," IEEE Transactions on Geoscience and Remote Sensing, vol. 49, no. 10, pp. 3973-3985, 2011.

39.L. Fang, S. Li, X. Kang, and J. A. Benediktsson, "Spectral-spatial hyperspectral image classification via multiscale adaptive sparse representation," IEEE Transactions on Geoscience and Remote Sensing, vol. 52, no. 12, pp. 7738-7749, 2014.

40.H. Sima, P. Liu, L. Liu, A. Mi, and J. Wang, "Sparse representation classification based on flexible patches sampling of superpixels for hyperspectral images," Mathematical Problems in Engineering, vol. 2018, Article ID 8264961, 10 pages, 2018.

41. J. P. Zhang, and Y. Zhang,"Classification of hyperspectral image based on deep belief networks," in 2014 IEEE International Conference on Image Processing (ICIP)., pp. 5132-5136, Paris, France, 2014.

42.Muhammad Ahmad. A Fast 3D CNN for Hyperspectral Image Classification. National University of Computer and Emerging Sciences, 2020.

43.S.K. Roy, S.R. Dubey HybridSN: Exploring 3D-2D CNN Feature Hierarchy for Hyperspectral Image Classification // IEEE Geoscience and Remote Sensing Letters, 2019.

44.M. He, B. Li, and H. Chen. Multi-scale 3d deep convolutional neural network for hyperspectral image classification. IEEE Int. Conf. on Image Processing (ICIP), pp. 3904-3908, 2017.

45.L. Mou, P. Ghamisi, and X. X. Zhu. Unsupervised spectral-spatial feature learning via deep residual conv-deconv network for hyperspectral image classification. IEEE Transactions on Geoscience and Remote Sensing, vol. 56, no. 1, pp. 391-406, Jan, 2018.

46.M. E. Paoletti, J. M. Haut, R. Fernandez-Beltran, J. Plaza, A. Plaza, J. Li, and F. Pla. Capsule networks for hyperspectral image classification. IEEE Transactions on Geoscience and Remote Sensing, vol. 57, no.4, April, 2019.

47.S. Ji, W. Xu, M. Yang, and K. Yu. 3d convolutional neural networks for human action recognition. IEEE transactions on pattern analysis and machine intelligence, vol. 35, no. 1, pp. 221-231, 2013.

48.Wenjing Lv and Xiaofei Wang. Overview of Hyperspectral Image Classification. Journal of Sensors, vol. 2020. DOI: 10.1155/2020/4817234

49.W. Song, S. Li, L. Fang, and T. Lu. Hyperspectral image classification with deep feature fusion network. IEEE Transactions on Geoscience and Remote Sensing, vol. 56, no. 6, pp. 3173-3184, 2018.

50.R. G. Congalton and R. A. Mead. A quantitative method to test for consistency and correctness in photointerpretation. Photogrammetric Engineering and Remote Sensing, vol. 49, no. 1, pp. 69-74, 1983.

51.Machine Learning Mastery: Metrics to Evaluate Maching Learning Algorithm in Python. http:// machinelearningmastery.com/metrics-evaluate-machine-learning-algorithms-pythons/.

52.Machine Learning Mastery: A Gentle Introduction to Cross-Entropy for Maching Learning. http:// macinelearnigmastery.com/cross-entropy-for-machine-learning/.

53.Qian, n. (1999). On the momentum term in gradient descent learning algorithms neural networks: The Official Journal oof the International Neural Network Society, 12(1), 145-151.

54.Kingma, D.P, & J.L. (2015). Adam: a method for Stochastic Optimization. International Conference on maching Learning Representations.

55.Zhongling Huaung, Zongxu Pan and Bin Lei .Transfer Learning with Deep Convolutional Neural Network for SAR Target Classification with Limited Labeled Data", Remote sensing MDPI, 2017.

56.Yi Yang and Shawn Newsam. Bag-Of-Visual-Words and Spatial Extensions for Land-Use Classification," ACM SIGSPATIAL International Conference on Advances in Geographic Information Systems (ACM GIS), 2010.

57.K.Simonyan, A. Zisserman. Deep convolutional neural network for large-scale recognition. Arxiv preprint aeXiv: 1409.1556,2014.

58.E. Ayhan, O.Kansu. Analysis of Image Classification Methods for Remote Sensing", developments, applications and tutorial in experimental techniques.

59.Rahul Agarwal. End to end pipeline for setting up multiclass image classification for data scientists. Towards data science.

60.Baumgardner, M.F.; Biehl, L.L.; Landgrebe, D.A. 220 Band AVIRIS Hyperspectral Image Data Set: June 12, 1992 Indian Pine Test Site 3; Purdue University Research Repository: West Lafayette, Indiana, 2015.

61.Plaza, A.; Martínez, P.; Plaza, J.; Pérez, R. Dimensionality reduction and classification of hyperspectral image data using sequences of extended morphological transformations. IEEE Trans. Geosci. Remote Sens. 2005, 43, 466-479.

62.Chaib, Souleyman, Deep Feature Fusion for VHR Remote Sensing Scene Classification, IEEE Transactions on Geoscience and Remote Sensing 2017.

63. Chen, D.; Ying, L.; Yong, X.; Wei, W.; Lei, Z.; Zhang, Y, "Convolutional Neural Networks Based Hyperspectral Image Classification Method with Adaptive Kernels", Remote Sensing journal. 2017, 9, 618.

64. P. Liu, H. Zhang, and K. B. Eom, "Active deep learning for classification of

hyperspectral images," IEEE J. Sel. Topics Apple. Earth Observe. Remote Sens., volume 10, no. 2, pp. 712-724, 2017.

65.W. Zhao and S. Du, "Spectral-spatial feature extraction for hyperspectral image classification: A dimension reduction and deep learning approach," IEEE Trans. Geosci. Remote Sens., vol. 54, no. 8, pp. 4544-4554, 2016.

66.Z. Zhong, J. Li, Z. Luo, and M. Chapman, "Spectral-spatial residual network for hyperspectral image classification: A 3-D deep learning framework," IEEE Trans. Geosci. Remote Sens., vol. PP, no. 99, pp. 1-12, 2017.

67. K. He, X. Zhang, S. Ren, and J. Sun, "Identity mappings in deep residual networks," in ECCV. Springer, 2016, pp. 630-645.

68.H. Lee and H. Kwon, "Going deeper with contextual CNN for hyperspectral image classification," IEEE Trans. Image Process., vol. 26, no. 10, pp. 48434855, 2017.

69.J. Li, J. M. Bioucas-Dias, and A. Plaza, "Hyperspectral image segmentation using a new bayesian approach with active learning," IEEE Trans. Geosci. Remote Sens.vol. 49, no. 10, pp. 3947-3960, 2011.

70. Z. Zhou, J. Shin, L. Zhang, S. Gurudu, M. Gotway, and J. Liang, "Fine -tuning convolutional neural networks for biomedical image analysis: actively and incrementally," in Proc. IEEE Conf. Comput. Vis. Pattern Recognit., 2017, pp. 7340-7349.

71.Gao, Z. Yue, J. Wang, J. Sun, E. Yang, and H. Zhou, "A novel active semisupervised convolutional neural network algorithm for SAR image recognition," Comput. Intell. Neurosci., 2017.

72.S.offe and C. Szegedy, "Batch normalization: Accelerating deep network training by reducing internal covariate shift," in ICML, 2015, pp. 448-456.

73.W. Li, S. Prasad, E. W. Tramel, J. E. Fowler and Q. Du, "Decision fusion for hyperspectral image classification based on minimumdistance classifiers in thewavelet domain," IEEE China Summit & International Conference on Signal and Information Processing, Xi'an, 2014, pp. 162-165.

74.S. Bajpai, H. V. Singh and N. R. Kidwai, "Feature extraction & classification of hyperspectral images using singular spectrum analysis & multinomial logistic regression classifiers," 2017 International Conference on Multimedia, Signal Processing and Communication Technologies (IMPACT), Aligarh, 2017, pp. 97-100.

75.Q. Sun, X. Liu and M. Fu, "Classification of hyperspectral image based on principal component analysis and deep learning," International Conference on Electronics Information and Emergency Communication, 2017, pp. 356-359.

76.Shambulinga M and G. Sadashivappa, "Supervised Hyperspectral Image Classification using SVM and Linear Discriminant Analysis" International Journal of Advanced Computer Science and Applications, Vol. 11(10), 2020.

77.S.Liu, Q.Shi and L.Zhang, "Few-Shot Hyperspectral Image Classification With Unknown Classes Using Multitask Deep Learning," in IEEE Transactions on Geoscience and Remote Sensing, 2020.

78.Erting Pan, Yong Ma, Xiaoguang Mei, Jun Huang. Hyperspectral Image Classification across Different Datasets: A Generalization to Unseen Categories. Remote sensing. MDPI.

79.Li, S.; Song, W.; Fang, L.; Chen, Y.; Ghamisi, P.; Benediktsson, J.A. Deep Learning for Hyperspectral Image Classification: An Overview. IEEE Trans. Geosci. Remote Sens. 2019, 57, 6690-6709.

80.Hu, J.; Peng, J.; Zhou, Y.; Xu, D.; Zhao, R.; Jiang, Q.; Fu, T.; Wang, F.; Shi, Z. Quantitative Estimation of Soil Salinity Using UAV-Borne Hyperspectral and Satellite Multispectral Images. Remote Sens. 2019, 11, 736.

81.Ghamidi, P.; Yokoya, N.; Li, J.; Liao, W.; Liu, S.; Plaza, J.; Rasti, B.; Plaza, A. Advances in hyperspectral image and signal processing: A comprehensive overview of the state of the art. IEEE Geosci. Remote Sens. Mag. 2017, 5, 3778.

82.Fauvel, M.; Benediktsson, J.A.; Chanussot, J.; Sveinsson, J.R. Spectral and spatial classification of hyperspectral data using SVMs and morphological profiles. IEEE Trans. Geosci. Remote Sens. 2008, 46, 3804-3814.

83.Fauvel, M.; Tarabalka, Y.; Benediktsson, J.A.; Chanussot, J.; Tilton, J.C. Advances in Spectral-Spatial Classification of Hyperspectral Images. Proc. IEEE 2012, 101, 652-675.

84.Sung, F.; Yang, Y.; Zhang, L.; Xiang, T.; Torr, P.H.; Hospedales, T.M. Learning to compare: Relation network for few-shot learning. In Proceedings

of the IEEE Conference on Computer Vision and Pattern Recognition, Salt Lake City, UT, USA, 18-22 June 2018; pp. 1199-1208.

85.Zhang, L.; Xiang, T.; Gong, S. Learning a deep embedding model for zero-shot learning. In Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition, Honolulu, HI, USA, 21-26 July 2017; pp. 2021-2030.

86.Weston, J.; Bengio, S.; Usunier, N. Wsabie: Scaling up to large vocabulary image annotation. In Proceedings of the Twenty-Second International Joint Conference on Artificial Intelligence, Barcelona, Catalonia, Spain, 16-22 July 2011; pp. 2764-2770.

87.Mikolov, T.; Sutskever, I.; Chen, K.; Corrado, G.S.; Dean, J. Distributed representations of words and phrases and their compositionality. In Proceedings of the 26th International Conference on Neural Information Processing Systems, Lake Tahoe, NV, USA, 5-8 December 2013; pp. 31113119.

88.Zhong, Z.; Li, J.; Ma, L.; Jiang, H.; Zhao, H. Deep residual networks for hyperspectral image classification. In Proceedings of the IEEE International Geoscience and Remote Sensing Symposium, Fort Worth, TX, USA, 23-28 July 2017; pp. 1824-1827.

89.Li, C.; Ma, Y.; Mei, X.; Liu, C.; Ma, J. Hyperspectral image classification with robust sparse representation. IEEE Geosci. Remote Sens. Lett. 2016, 13, 641645.

90.Zhang, X.; Wei, F.; Zhou, M. HIBBERT: Document Level Pre-training of Hierarchical Bidirectional Transformers for Document Summarization. In Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics, Florence, Italy, 28 July-2 August 2019; pp. 5059-5069.

91.Luan, Y.; Watanabe, S.; Horsham, B. Efficient learning for spoken language understanding tasks with word embedding based pre-training. In Proceedings of the 16th Annual Conference of the International Speech Communication Association, Dresden, Germany, 6-10 September 2015.

92.Chung, Y.A.; Wu, C.C.; Shen, C.H.; Lee, H.Y.; Lee, L.S. Audio word2vec: Unsupervised learning of audio segment representations using sequence-to-sequence autoencoder. arXiv 2016, arXiv:1603.00982.

93.L iang, J.; Zhou, J.; Qian, Y.; Wen, L.; Bai, X.; Gao, Y. On the Sampling Strategy for Evaluation of Spectral-Spatial Methods in Hyperspectral Image Classification. IEEE Trans. Geosci. Remote Sens. 2017, 55, 862-880.

94.Pan, B.; Shi, Z.; Xu, X. MugNet: Deep learning for hyperspectral image classification using limited samples. ISPRS J. Photogramm. Remote Sens. 2018, 145, 108-119.

95.Chang, C.I. Hyperspectral Imaging: Techniques for Spectral Detection and Classification; Springer Science & Business Media: NewYork, NY, USA, 2003; Volume 1.

96.Ghamidi, P.; Yokoya, N.; Li, J.; Liao, W.; Liu, S.; Plaza, J.; Rasti, B.; Plaza, A. Advances in hyperspectral image and signal processing: A comprehensive overview of the state of the art. IEEE Geosci. Remote Sens. Mag. 2017, 5, 3778.

97.Jin, X.; Jia, L.; Wang, S.; Qi, H.J.; Li, S.W. Classifying Wheat Hyperspectral Pixels of Healthy Heads and Fusarium Head Blight Disease Using a Deep Neural Network in the Wild Field. Remote Sens. 2018, 10, 395.

98.B. Waske, S. van der Linden, J. Benediktsson, A. Rabe, and P. Hostert, "Sensitivity of support vector machines to random feature selection in classification of hyperspectral data," IEEE Trans. Geosci. Remote Sens., vol. 48, no. 7, pp. 2880-2889, Jul. 2010.

99.D. H. Hubel, and N. T. Wiesel, "Receptive fields, binocular interaction and functional architecture in the cat's visual cortex," The Journal of physiology, vol. 160, no. 1, pp. 106-154, Jan. 1962.

100. D. J. Field, "Wavelets, vision and the statistics of natural scenes," Phil. Trans. Roy. Soc. London A, Math., Phys. Eng. Sci., vol. 357, no. 1760, pp. 2527-2542, 1999.

101. G. E. Hinton, A. Krizhevsky, and S. D. Wang, "Transforming autoencoders," in Proc. Int. Conf. Artif. Neural Netw., 2011, pp. 4451.

102. J. Acquarelli, E. Marchiori, L. M. C. Buydens, T. N. Tran, and T. van Laarhoven, "Spectral-spatial classification of hyperspectral images: Three tricks and a new supervised learning setting," Remote Sens., vol. 10, no.7, pp. 1156, Jul 2018.

103. H. Gao, S. Lin, C. Li, and Y. Yang, "Application of Hyperspectral Image Classification Based on Overlap Poolings," Neural Process Lett., pp. 1-20, Jun. 2018.