Компрессия цифровых изображений на основе векторного квантования и контекстного кодирования в области дискретных преобразований тема диссертации и автореферата по ВАК РФ 05.13.11, кандидат физико-математических наук Коплович, Дмитрий Михайлович

• Коплович, Дмитрий Михайлович
• кандидат физико-математических наук
• 2011

Оглавление диссертации кандидат физико-математических наук Коплович, Дмитрий Михайлович

Используемые сокращения.

Введение.б

Глава 1. Сжатие изображений: понятия, проблемы, возможные решения.

§ 1.1. Дискретные и цифровые изображения.

§ 1.2. Идеи методов сжатия изображений.

§ 1.3. Межэлементная избыточность.

1.3.1. Дифференциальные методы.

1.3.2. Декоррелирующие преобразования.

§ 1.4. Визуальная избыточность: квантование.

1.4.1. Скалярный квантователь.

1.4.2. Векторный квантователь.

§ 1.5. Кодовая избыточность.

1.5.1. Коды Хаффмана.

1.5.2. Арифметическое кодирование.

§ 1.6. Критерий качества изображения.

§ 1.7. JPEG как пример метода компрессии в области преобразования.

§ 1.8. Постановка задачи диссертационного исследования.

Глава 2. Векторное квантование в области дискретных преобразований.

§ 2.1. Проблема построения векторного квантователя.

§ 2.2. Оптимальный векторный квантователь и его свойства.

§ 2.3. Алгоритм LBG (практическая реализация векторного квантователя).

2.3.1. Недостатки алгоритма LBG.

§ 2.4. Адаптивное векторное квантование.

§ 2.5. Трудности применения векторного квантования.

§ 2.6. Алгоритм кластеризации коррелированных данных.

§ 2.7. Тестирование алгоритма кластеризации.

§ 2.8. Выводы.

Глава 3. Сжатие изображений на основе векторного квантования коэффициентов ДКП.

§ 3.1. Краткий обзор существующих подходов.

§ 3.2. Корреляция между коэффициентами ДКП.

§ 3.3. ШЭ-оптимизация алгоритма кодирования.

§ 3.4. Задание начальной кодовой книги алгоритма ЬВф.

§ 3.5. Общая схема метода сжатия изображений.

3.5.1. Построение кодовых книг по обучающей последовательности векторов.

3.5.2. Сжатие изображения.

Введение диссертации (часть автореферата) на тему «Компрессия цифровых изображений на основе векторного квантования и контекстного кодирования в области дискретных преобразований»

В настоящее время методы сжатия цифровых данных используются повсеместно. Развитие интернет-технологий, распространение широкополосного доступа в Интернет и создание мобильных цифровых устройств для записи, хранения и воспроизведения текстовой и аудиовизуальной информации привело к тому, что количество информации, хранимой на устройствах памяти, увеличивается быстрее, чем происходит совершенствование этих устройств. При этом хранимые данные почти всегда обладают избыточностью.

Избыточность данных означает, что можно многократно уменьшить занимаемый ими на устройстве памяти объем, не уменьшая (или почти не уменьшая) количество содержащейся в них информации. Свойством избыточности обладают практически все используемые человеком виды данных: текст, звукозапись, изображение, видеозапись.

В 60-е годы XX века необходимость сжатия изображений, хранящихся в цифровом представлении, стала очевидной: в то время запоминающие устройства (как оперативные, так и постоянные) обладали малой емкостью, высокой стоимостью и большими габаритами. Появление эффективного инструмента не заставило себя ждать — в 1965 году вышла статья Дж. Кули и Дж. Тьюки [53], в которой был предложен алгоритм быстрого преобразования Фурье.

Вскоре после этого стало понятно, что сжатие цифровых изображений удобно выполнять не в пространственной, а в спектральной области. В большинстве цифровых изображений фотографического характера соседние пикселы коррелирова-ны. В спектральной области этому соответствует концентрация энергии в низкочастотных компонентах. При этом компоненты спектра либо являются слабо коррелированными, что дает возможность обрабатывать их независимо, либо статистические связи между ними существуют, но являются более упорядоченными и предсказуемыми, чем в исходном изображении. К тому же особенности восприятия изображений человеческим глазом позволяют закодировать грубо или даже просто отбросить значительную (высокочастотную) часть спектра без ущерба для воспринимаемого качества.

В качестве подходящих для сжатия изображений рассматривались различные преобразования: Карунена — Лоэва, Адамара, Хаара и др. В конечном счете для изображений стали применять дискретное косинусное преобразование (ДКП), которое по эффективности обработки для марковской статистической модели близко к оптимальному преобразованию Карунена — Лоэва, но, в отличие от него, имеет быстрый алгоритм вычисления и не требует расчета статистических характеристик преобразуемого двумерного сигнала. Именно ДКП используется в методе JPEG, выпущенном в 1992 г. и утвержденном в качестве стандарта ISO 10918-1 [70] в 1994 г.

В 90-х годах XX века начали развиваться методы на основе дискретного вейвлет-преобразования (ДВП). Фундаментальная особенность этого класса преобразований заключается в том, что базисные функции ДВП локализованы как в пространственной, так и в частотной области. Применительно к методам сжатия изображений это означает, помимо прочего, что преобразование может выполняться сразу над всем изображением, а не над его отдельными блоками. Декодированные изображения не имеют характерной для JPEG блочной структуры, снижающей субъективное восприятие качества декодированного изображения.

В 2000 году был принят новый стандарт для .сжатия изображений JPEG-2000 (ISO/IEC 15444), использующий ДВП [74]. Сжатые с его помощью изображения обладают лучшим качеством по сравнению с JPEG, а на низких битовых скоростях — существенно лучшим, однако этот стандарт так и не смог вытеснить свою предыдущую версию по причине значительной сложности реализации и повышенных требований к производительности оборудования, которые в большинстве случаев не оправдывались некоторым увеличением качества сжатия и функциональными улучшениями — поддержкой «вложенного» кодирования, прозрачности, ROI (region of interest, «область интереса»), устойчивостью к ошибкам. Лишь в некоторых отраслевых применениях, подробнее о которых рассказано в § 4.2, стандарту JPEG-2000 и другим основанным на вейвлет-преобразовании методам удалось завоевать рынок.

Поэтому даже при использовании современных методов сжатия по-прежнему актуальными являются исследования, результаты которых позволяют как повысить эффективность известных методов компрессии цифровых изображений, так и получить новые алгоритмы кодирования, которые могут быть успешно использованы в различных мультимедийных программных и аппаратных комплексах.

Одним из инструментов, используемых в различных схемах сжатия данных, является векторное квантование (ВК) — обобщение повсеместно применяемого скалярного квантования на случай, когда кодируемые данные являются многомерными. Известно, что при определенных условиях векторный квантователь может дать более высокую эффективность сжатия данных по сравнению со скалярным [63, 99]. Однако существуют ограничения (см. § 1.4.2), которые затрудняют практическое применение ВК, поэтому данный метод не используется широко. В настоящее время ВК нашлось нишевое применение в аудиокодеках, таких как TwinVQ, Ogg Vorbis, Dolby DTS, а также в семействе голосовых CELP-кодеков и, в частности, в стандартном кодеке ITU (МСЭ) G.729, который применяется в VoIP-приложениях. Кроме того, векторное квантование использовалось в ранних видеокодеках (Cinepak, Indeo).

В литературе были предложены методы сжатия изображений с применением векторного квантования [42, 58, 64, 98, 109, 125], однако стандартных и широко применяемых методов на его основе не существует. Возможности этого вида квантования до сих пор остаются во многом нераскрытыми.

По мере появления все более эффективных методов сжатия данных исследователи убеждались, что дальнейшее развитие этих методов возможно в основном не за счет применения новых видов преобразований или улучшенных алгоритмов квантования, а путем совершенствования применяемых контекстных моделей, использующих статистические связи между кодируемыми элементами. Быстрое увеличение доступных пользователям вычислительных мощностей дало возможность существенно усложнить эти модели, что позволило повысить степень сжатия данных без ухудшения качества.

В настоящее время разработано большое количество методов контекстного моделирования для применения с различными преобразованиями в различных условиях, способных полностью загрузить процессор любой мощности. Однако это направление продолжает быстро развиваться, и исследования в этой области по-прежнему актуальны.

Целью диссертационной работы является разработка новых и совершенствование существующих методов компрессии цифровых изображений на основе контекстного кодирования и векторного квантования в области дискретного косинусного преобразования и дискретного вейвлет-преобразования.

Основные задачи, решение которых требуется для достижения поставленной цели, следующие:

- исследование существующих подходов к сжатию цифровых изображений в области дискретных декоррелирующих преобразований;

- разработка и оптимизация методов и алгоритмов сжатия изображений на основе ДКП и ДВП, применяющих векторное квантование и контекстное кодирование в целях использования остаточной корреляции между коэффициентами указанных преобразований;

- разработка программных инструментов для тестирования, подбор оптимальных параметров, имеющих эмпирический характер, оценка характеристик созданных методов на примере стандартных тестовых изображений.

В ходе работы над диссертацией в качестве методов исследования использовались методы теории вероятностей и математической статистики, теории цифровой обработки и кодирования данных, линейной алгебры. Экспериментальные исследования были проведены путем численного моделирования на персональном компьютере с помощью написанных на языках С и С++ специальных библиотек и пакета MATLAB.

Научная новизна диссертации заключается в создании новых и модификации существующих методов и алгоритмов компрессии цифровых изображений на основе адаптивного векторного квантования коэффициентов дискретного косинусного преобразования, а также контекстного векторного квантования и скалярного кодирования коэффициентов дискретного вейвлет-преобразования.

Практическая значимость полученных в диссертационной работе результатов заключается в том, что разработанные методы компрессии цифровых изображений позволяют повысить эффективность сжатия визуальных данных в мультимедийных системах и, следовательно, удешевить их обработку.

Программная реализация предложенных в работе методов была использована в системе видеонаблюдения «Focus».

Апробация работы. Основные результаты диссертационной работы докладывались и обсуждались на 11-й, 12-й, 13-й и 14-й Всероссийских межвузовских научно-технических конференциях студентов и аспирантов «Микроэлектроника и информатика» (Москва, МИЭТ, 2004, 2005, 2006 и 2007 гг.), на Всероссийской научно-технической конференции «Информационно-телекоммуникационные технологии» (Сочи, 2004 г.), 8-й и 11-й Международных конференциях «Цифровая обработка сигналов и ее применение» (Москва, 2006 и 2009 гг.) а также на 3-й и 4-й Российско-Баварских конференциях по биомедицинской инженерии (Германия, Эрланген, 2007 г.; Москва, МИЭТ, 2008 г.).

Публикации. По теме диссертации опубликовано четырнадцать работ [5-9, 3137, 119, 120], среди которых три статьи [32, 34, 35] в ведущих рецензируемых научных журналах, четыре доклада [9, 33, 119, 120] в трудах международных конференций (из них два [119, 120] — на английском языке), а также две программы для ЭВМ [36, 37], зарегистрированные в установленном порядке (см. прил. 3).

Основные научные положения, выносимые на защиту:

- предложенный метод компрессии цифровых изображений на основе адаптивного векторного квантования коэффициентов ДКП позволяет сократить битовые затраты на кодирование изображения на 6-22 % по сравнению со стандартным методом JPEG;

- модифицированный алгоритм компрессии цифровых изображений на основе контекстного кодирования коэффициентов ДВП позволяет сократить битовые затраты на кодирование изображения на 3-11 % по сравнению со стандартным методом JPEG-2000;

- предложенный метод компрессии цифровых изображений на основе контекстного адаптивного векторного квантования и контекстного кодирования коэффициентов ДВП требует существенно более низких вычислительных затрат по сравнению с модифицированным алгоритмом на основе контекстного кодирования коэффициентов ДВП и показывает результаты на уровне JPEG-2000.

Структура диссертации. Диссертация изложена на 150 страницах, состоит из пяти глав и трех приложений, содержит 52 рисунка и 22 таблицы.

Первая глава диссертации — вводная. В ней приведены основные понятия теории обработки цифровых изображений, проанализированы существующие в них виды избыточности, описаны идеи, которые используются алгоритмами, устраняющими избыточность.

Во второй главе описаны предпосылки и основные идеи, которые легли в основу метода компрессии изображений, предложенного в третьей главе. Рассмотрен алгоритм LBG, строящий кодовые книги для векторного квантования, проанализированы его недостатки. Подробно описан алгоритм адаптивного векторного квантования GTR, а также алгоритм разделения (кластеризации) коррелированных данных на небольшие подмножества, которые можно подвергать векторному квантованию.

Третья глава содержит детальное описание предложенного метода сжатия изображений, основанного на ДКП. Также проведен краткий обзор существующих подходов к задаче сжатия изображений с помощью векторного квантования. Проведено экспериментальное исследование статистических связей внутри блока ДКП, а также связей между ДКП-блоками изображения. Описаны основные принципы теории RD-оптимизации.

В четвертой главе приведено описание методов и алгоритмов компрессии изображений на основе ДВП: модификации существующего алгоритма на основе контекстного кодирования коэффициентов ДВП и метода, использующего не только контекстное кодирование, но и контекстное векторное адаптивное квантование ДВП-коэффициентов.

В пятой главе приведены результаты численного моделирования алгоритмов, разработанных на основе предложенных методов. Проводится их сравнение со стандартным кодеком JPEG (используется версия JPEG с кодером Хаффмана, а также версия с арифметическим кодером) и JPEG-2000 на различных тестовых изображениях.

В заключении сформулированы основные результаты, полученные в ходе выполнения диссертационной работы; обозначены перспективы и направления дальнейших исследований.

В приложениях приведены стандартные тестовые изображения, которые были использованы при проведении экспериментальных исследований, копии свидетельств о государственной регистрации программы для ЭВМ, а также копия акта о внедрении результатов диссертационной работы.

Заключение диссертации по теме «Математическое и программное обеспечение вычислительных машин, комплексов и компьютерных сетей», Коплович, Дмитрий Михайлович

Выводы

Обобщая результаты численного моделирования, можно сказать, что предложенный метод сжатия изображений существенно превосходит по своим характеристикам стандартный JPEG, а также превосходит «улучшенный» JPEG, который использует арифметический кодер вместо кодера Хаффмана.

Особенно хорошие результаты алгоритм показывает на изображениях, имеющих множество мелких высокочастотных деталей и заметно нестационарную статистику, например, Barbara. Можно выделить две основных причины таких результатов: применение векторного квантования, которое является более эффективным, чем скалярное, а также использование корреляционных связей между коэффициентами соседних блоков ДКП.

Немаловажным достоинством предложенного метода сжатия изображений является его способность адаптироваться к конкретным классам изображений. Для этого достаточно «натренировать» алгоритм, построив с помощью описанной в §3.5.1 процедуры соответствующие кодовые книги по набору типовых изображений. Пользователь может выбирать при работе с кодеком класс изображения, которое ему требуется сжать, что существенно повысит эффективность кодирования. Такой подход эффективен для специализированных баз данных, хранящих однотипные изображения (фотографии в личных делах, биометрические данные, медицинские изображения, аэрофотосъемка и спутниковая съемка), а также в устройствах, передающих такие изображения. Его эффективность для таких применений подтверждается сравнением рисунков 41 и 42, на которых наглядно показана разница в выигрыше между кодовыми книгами, построенными с участием изображения, подвергаемого сжатию, и кодовыми книгами, построенными по другим изображениям.

§ 5.2. Модифицированный алгоритм сжатия изображений на основе контекстного кодирования коэффициентов ДВП

В экспериментах использовалось 5-уровневое ДВП с теми же фильтрами (9/7 и [124]), что и в работе [29], реализованными с помощью лифтинг-схемы [54]. В качестве тестовых изображений были взяты Lena, Barbara и Goldhill. Для определения вносимых алгоритмом потерь в качестве изображения применялась метрика PSNR. Результаты численного моделирования в сравнении со стандартным алгоритмом JPEG-2000 приведены ниже.

Ьрр

Рис. 43. Сравнение модифицированного алгоритма (фильтры 9/7) и стандартного JPEG-2000. Изображение Lena

Ьрр

Рис. 44. Сравнение модифицированного алгоритма (фильтры 9/7) и стандартного JPEG-2000. Изображение Barbara bpp

Рис. 45. Сравнение модифицированного алгоритма (фильтры 9/7) и стандартного JPEG-2000. Изображение Goldhill

Предложенная модификация с фильтрами 9/7 дает результаты на 0,1-0,3 дБ лучше алгоритма [29] и на 0,3-0,8 дБ лучше стандартного JPEG-2000. При фиксированном качестве выигрыш по битовым затратам составляет 3-11 % по сравнению с JPEG-2000.

В приведенных результатах для сжатия по методу JPEG-2000 была использована программа ACDSee Pro, версия 8.1.

Заключение и общие выводы

Основным результатом, полученным в ходе выполнения диссертационной работы, стало создание комплекса методов и алгоритмов сжатия изображений на основе векторного квантования и контекстного кодирования в области ДКП и ДВП, который включает следующие компоненты:

- Новый метод сжатия изображений на основе адаптивного векторного квантования коэффициентов ДКП. Для того чтобы обойти недостатки векторного квантования — слишком большую (63 компонента) размерность вектора и неэффективность стандартного алгоритма построения кодовой книги по обучающей последовательности векторов, — применены оригинальные решения, одно из которых (алгоритм кластеризации коррелированных данных) использовано на практике впервые, а второе решение (условное разделение векторов при инициализации с шагом в случайном направлении) предложено автором. Указанные решения позволяют использовать имеющиеся статистические связи между коэффициентами как внутри блока ДКП, так и между блоками, за счет чего повышается эффективность сжатия. В связи с невозможностью построения универсальной кодовой книги использован алгоритм ее адаптации к конкретным входным данным. Проведено численное моделирование созданного алгоритма. На тестовых изображениях выигрыш относительно JPEG с арифметическим кодированием при фиксированном уровне качества составил от 6 до 22 %.

-Модифицированный алгоритм сжатия изображений на основе алгоритма SFQ, использующий контекстное кодирование коэффициентов ДВП. Контекстное моделирование основано на функции прогноза значения вейвлет-коэффициента, которая строится по родительским и соседним с ним коэффициентам. Предложенная модификация заключается в использовании различных форм контекстов для разных типов саббэндов, раздельном кодировании знаков и модулей вейвлет-коэффициентов (причем для знаков тоже применено контекстное кодирование), а также инициализации моделей арифметического кодера экспоненциальным распределением, параметр которого зависит от данных, содержащихся в конкретной модели. Это позволило более полно использовать статистические связи коэффициентов ДВП друг с другом: численное моделирование показало, что предложенная модификация 8БС) превосходит стандартный 1РЕС-2000 на 0,3-0,8 дБ по Р8№1 (311 % по битовым затратам при фиксированном уровне качества).

- Новый метод сжатия изображений на основе контекстного векторного квантования и контекстного скалярного кодирования коэффициентов ДВП. Метод частично использует схему модифицированного 8Б<3 с построением контекстного прогноза по соседним и родительским коэффициентам, но вместо применяемой в ЭБС) вычислительно сложной процедуры оптимизации топологии дерева вейвлет-коэффициентов и подрезания его «незначимых» ветвей для кодирования фоновых областей в нем используется контекстное адаптивное векторное квантование блоков коэффициентов. Реализованный алгоритм, несмотря на свою простоту, показывает результаты, аналогичные стандартному 1РЕв-2000. Таким образом, за счет незначительного ухудшения качества сжатия скорость работы данного метода по сравнению с модификацией ББС) (§ 4.9) увеличилась более чем на порядок.

Результаты тестирования предложенных в настоящей диссертационной работе алгоритмов позволяют сделать следующие выводы:

- полученные характеристики (качество сжатия, скорость работы) находятся на уровне современных методов сжатия изображений, а во многих случаях и превосходят их, что позволяет применять предложенный комплекс на практике;

- несмотря на существующее предубеждение против векторного квантования как медленного и зачастую неэффективного, разработанные алгоритмы, использующие ВК, демонстрируют достаточно высокую производительность и хорошее качество сжатия; причиной этого является тот факт, что универсальные кодовые книги для ВК строятся всего один раз, а при сжатии конкретного изображения происходит лишь их адаптация к статистическим особенностям данного изображения;

- применение алгоритмов ускоренного поиска векторов в кодовой книге (см. § 2.5) позволит дополнительно увеличить производительность алгоритмов, основанных на ВК, что сделает ее сравнимой с производительностью алгоритмов, использующих обычное скалярное квантование;

- метод, основанный на векторном квантовании коэффициентов ДКП, может быть адаптирован для эффективного сжатия определенных классов изображений.

Каждый из предложенных методов имеет свои особенности, которые определяют сферу его практического применения.

Метод, описанный в главе 3, можно со сравнительно небольшими усилиями адаптировать для использования в мобильных приложениях, потому что практически все его основные блоки уже существуют в виде стандартных библиотек для обычных и цифровых сигнальных процессоров (DSP), а во многих случаях эти процессоры имеют и соответствующие аппаратные расширения, которые позволяют во много раз ускорить вычисление, например, поблочного ДКП или модуля разности векторов. Кроме того, важнейшей особенностью этого метода является его способность за счет «тренировки» кодовых книг адаптироваться к определенным классам изображений, что позволит эффективно применять предложенный метод в специализированных базах данных и в устройствах, регистрирующих и передающих изображения определенного типа (медицинские изображения, аэрофотосъемка, спутниковая съемка).

Вейвлет-методы, предложенные в гл. 4, имеет смысл использовать в приложениях, требующих высокого качества сжатия, несмотря на достаточно высокие вычислительные затраты. При этом алгоритм, описанный в § 4.9, эффективнее по качеству сжатия, но значительно медленнее, в то время как метод, описанный в §4.10, — фактически его упрощенная, но гораздо более производительная версия, в которой не используется ни процедура оптимизации топологии дерева вейвлет-коэффициентов, ни большое количество моделей арифметического кодера. Следует также отметить, что свыше 50 % программных модулей, используемых в практической реализации данных алгоритмов, являются для них общими. Такая унификация позволяет существенно сократить время разработки, что крайне важно для коммерческого применения.

Важно отметить, что предложенные методы и алгоритмы не требуют высоких вычислительных затрат в режиме декодирования, что расширяет круг их потенциального использования.

Разработанные методы имеют значительный потенциал для последующего развития. Ниже перечислены некоторые направления, исследование которых представляет интерес.

Наиболее перспективным направлением можно считать улучшение схемы адаптивного ВК коэффициентов ДКП в методе § 3.5, где векторы обновления кодовой книги кодируются простейшим способом, несмотря на то, что их доля в общих битовых затратах может достигать 40 %. Применение более сложных подходов, например, контекстного кодирования, существенно улучшит эффективность сжатия.

Векторное квантование, применяемое в двух методах из трех, используется для кодирования коэффициентов в «чистом» виде, в то время как более обоснованным, как продемонстрировано в § 3.2 (для ДКП) и § 4.6 (для ДВП), является раздельное кодирование модулей коэффициентов и знаков.

Каждый из предложенных в настоящей работе методов использует определенный набор приемов, в числе которых есть и широко известные в литературе (ДКП, скалярное квантование), и малоизвестные (алгоритм кластеризации коррелированных данных), и предложенные автором впервые (условное разделение кодовой книги с шагом в случайном направлении). Некоторые из этих приемов используются только в одном из предложенных методов, тогда как есть принципиальная возможность распространить их и на остальные. Такая «унификация» методов, хотя и требует дополнительных исследований и определенной адаптации применяемых инструментов к условиям конкретного метода, с высокой вероятностью улучшит результаты.

Другой важной идеей, мало исследованной в литературе и заслуживающей дальнейшей работы, является совместное применение векторного квантования и «подрезание ветвей» у дерева вейвлет-коэффициентов.

Наконец, совмещение векторного квантователя с мощной контекстной моделью, применяемой в стандартном методе 1РЕС-2000 для кодирования вейвлет-коэффициентов по битовым слоям, должно дать хорошие результаты.

Список литературы диссертационного исследования кандидат физико-математических наук Коплович, Дмитрий Михайлович, 2011 год

1. Винберг Э. Б. Курс алгебры. — М.: Изд-во «Факториал», 1999. — 528 с.

2. Гонсалес Р., Вудс Р. Цифровая обработка изображений. — М.: Техносфера,2005.—1072 с.

3. Грузман И. С., Киричук В. С. и др. Цифровая обработка изображений в информационных системах: Учеб. Пособие. — Новосибирск: Изд-во НГТУ, 2002. — 352 с.

4. Коплович Е. А., Умняшкин С. В. Контекстное кодирование коэффициентов дискретного косинусного преобразования с учетом межблочной корреляции // Известия вузов. Электроника. — № 6. — 2004. — С. 78-83.

5. Кочетков М.Е., Умняшкин C.B. Многопотоковая реализация алгоритма арифметического кодирования. — М.: МГИЭТ (ТУ), 1998. — 21 с. Депонировано в ВИНИТИ 25.12.98 № 3884-В98.

6. Красильников H. Н. Цифровая обработка изображений. — М.: Вузовская книга, 2001. —320 с.

7. Лебедев Д. С., Гармаш В. А. О возможности увеличения скорости передачи телеграфных сообщений. — М.: Электросвязь, 1958. —№ 1. — С. 68-69.

8. Лесин В. В., Лисовец Ю. П. Основы методов оптимизации: Учеб. пособие.— М.: Изд-во МАИ, 1998. — 344 с.

9. Малла С. Вэйвлеты в обработке сигналов: Пер. с англ.— М.: Мир, 2005.— 671 с.

10. Материалы сайта www.ijg.org

11. Нуссбаумер Г. Быстрое преобразование Фурье и алгоритмы вычисления сверток: Пер. с. англ. — М.: Радио и связь, 1985. — 248 е., ил.

12. ПраттУ. Цифровая обработка изображений, т. 1, 2. —М.: Мир, 1982.

13. Ричардсон Я. Видеокодирование. Н.264 и MPEG-4— стандарты нового поколения. — М.: Техносфера, 2005. — 368 с.

14. Розанов Ю. А. Случайные процессы. — М.: Наука, 1971. — 288 с.

15. Методы компьютерной обработки изображений. Под ред. В. А. Сойфера. — 2-е изд., испр. — М.: ФИЗМАТЛИТ, 2003. — 784 с.

16. Стрелков Ф. В., Умняшкин С. В. Контекстное кодирование коэффициентов дискретного косинусного преобразования (ДКП) в JPEG-подобной схеме компрессии. // Цифровая обработка сигналов. —№ 2 — 2003. — С. 5-10.

17. Сэломон Д. Сжатие данных, изображений и звука. — М.: Техносфера, 2004. — 368 с.

18. Тернер Д. Вероятность, статистика и исследование операций. Под ред. А. А. Рывкина. — М.: Статистика, 1976. — 431 с.

19. Умняшкин С. В. О модификации дискретного косинусного преобразования // Изв. Тул. гос. ун-та. Сер. Математика. Механика. Информатика. Тула: ТулГУ,1998. Т. 4. Вып. 1. С. 143-147.

20. Умняшкин С. В. О кластеризации коррелированных данных. // Информационные технологии в инновационных проектах. Международная конференция (г. Ижевск, 20-22 апреля 1999г.): Материалы докладов. — Ижевск, ИжГТУ,1999.— С. 59-65.

21. Умняшкин С. В. Математические методы и алгоритмы цифровой компрессии изображений с использованием ортогональных преобразований // Дисс. на со-иск. уч. степ, д-ра физ.-мат. наук. — М., 2002. — 382 с.

22. Умняшкин С. В. Теоретические основы цифровой обработки и представления сигналов: учеб. пособие. — М.: ИД «Форум»: ИНФРА-М, 2008. — 304 с.

23. Умняшкин С. В. Вейвлет-компрессия цифровых изображений с прогнозированием статистических моделей // Известия вузов. Электроника. — № 5. — 2001. —С. 86-94.

24. Умняшкин С. В., Безуглова Е. А. Контекстное кодирование коэффициентов дискретного косинусного преобразования на основе межблочной корреляции в .ГРЕв-подобной схеме компрессии // Цифровая обработка сигналов. — № 3. — 2004. —С. 13-17.

25. Умняшкин С. В., Коплович Д. М. Метод компрессии изображений на основе векторного квантования коэффициентов в области дискретных преобразований // Известия вузов. Электроника. — № 4-5. — 2005. — С. 149-155.

26. Умняшкин С. В., Коплович Д. М., Черкасов И. В. Об использовании контекстного векторного квантования в области дискретных вейвлет-преобразований для компрессии изображений // Цифровая обработка сигналов. — №2.-2006. —С. 11-14.

27. Умняшкин С. В., Коплович Д. М., Черкасов И. В., Александров А. А. Алгоритм сжатия изображений на основе контекстного скалярно-векгорного квантования в области дискретного вейвлет-преобразования // Известия вузов. Электроника. — № 6. — 2006. — С. 86-88.

28. Умняшкин С. В., Космач М. В. Оптимизация кодирования цифровых изображений по методу JPEG // Известия вузов. Электроника. — № 4-5. — 2000.1. С. 139-141.

29. Azimifar S.-Z. Image Models for Wavelet Domain Statistics. Ph. D. thesis in Systems Design Engineering, Waterloo, Ontario, Canada, 2005.

30. Berger T. Rate Distortion Theory. Endlewood Cliffs, NJ: Prentice Hall, 1971.

31. Borer T., Davies T., Suraparaju A. Dirac video compression. BBC R&D White Paper WHP124, 2005.

32. Boudraa A.-O., Kanafani Q., Beghdadi A., Zergainoh A. Vector quantization for image compression based on fuzzy clustering. Proceedings of the Fifth International Symposium on Signal Processing and Its Applications, vol. 2, pp. 835-837, 1999.

33. Bradley J. N. Storage and retrieval of large digital images. U. S. Patent 5710835.

34. Bradley J. N., Brislawn C. M. The wavelet/scalar quantization compression standard for digital fingerprint images. IEEE International Symposium on Circuits and Systems, 1994, vol. 3, pp. 205-208.

35. Burrows M., Wheeler D. A block sorting lossless data compression algorithm. SRC Research Report 124, Digital Equipment Corporation, 1994.

36. Chadha N. I., Cuhadar A., Card H. Scalable parallel wavelet transforms for image processing. Electrical and Computer Engineering, 2002. IEEE CCECE 2002. Canadian Conference on. — 2002, pp. 851-856.

37. Cham W.-K. Development of integer cosine transforms by the principle of dyadic symmetry // Communications, Speech and Vision, IEEE Proceedings, Volume 136, Issue 4, Aug 1989. — Page(s): 276-282.

38. Cheng Po-Yuen, Li Jin, Jay Kuo C.-C. Rate control for an embedded wavelet video coder. IEEE Transactions on Circuits and Systems for Video Technology, Aug. 1997, vol. 7, issue 4, pp. 696-702.

39. Ching Yang Wang, Shih Jac Liao, Long Wen Chang. Wavelet Image Coding using variable Blocksize Vector Quantization with Optimal Quadtree Segmentation. ELSEVIER, Journal of Signal Processing: Image Communication, Vol. 15, 2000, pp. 879-890.

40. Chou P. A., Lookabaugh T., Gray R. M. Entropy-constrained vector quantization // IEEE Transactions on ASSP, vol.37, No.l, January 1989, pp. 31-^2.

41. Cohen A., Daubechies I., Feauveau J.-C. Biorthogonal bases of compactly supported wavelets // Comm. Pure and Appl. Math., vol. 45, pp. 485-560, 1992.

42. Comaniciu D., Grisel R. Image coding using transform vector quantization with training set synthesis. Signal Processing — Image and Video Coding beyond Standards, vol. 82, issue 11, Nov. 2002, pp. 1649-1663.

43. Cooley J. W., Tukey J. W. An algorithm for the machine calculation of complex Fourier series. Math. Comput. 19, pp. 297-301, 1965.

44. Daubechies I., Sweldens W. Factoring wavelet transform into lifting steps // Y. Fourier Anal. Appl., 1998, vol. 4, pp. 247-269.

45. Deever A., Hemami S. S. What's your sign?: efficient sign coding forembedded wavelet image coding. Data Compression Conference, 2000. Proceedings, pp. 273282. — 2000.

46. El-Sharkawy M. A., White C. A., Gundrum H. Subband image compression using wavelet transform and vector quantization. IEEE 39th Midwest symposium on Circuits and Systems, 18-21 August 1996, vol. 2, pp. 659-662.

47. Elias P. Universal codeword sets and representations of the integers. IEEE Transactions on Information Theory, Volume 21, Issue 2, pp. 194-203. — 1975.

48. Feng Wu, Xiaoyan Sun. Image Compression by Visual Pattern Vector Quantization (VPVQ). Proceedings of Data Compression Conference, pp. 123-131,2008.

49. Fowler E., Ahalt S. C. Adaptive vector quantization using generalized threshold replenishment // Proceedings of the IEEE Data Compression Conference, J. A. Storer and M. Cohn, Eds., Snowbird, UT, March 1997, pp. 317-326.

50. Gersho A., Gray R. M. Vector Quantization and Signal Compression. Kluwer Academic Publishers, Norwell, MA, 1992. — 760 p.

51. Goldberg M., Boucher P., Shlien S. Image compression using adaptive vector quantization. IEEE Transactions on Communications, vol. 34, no. 2, pp. 180-187, Feb. 1986.

52. Golomb S. Run-length encodings. IEEE Transactions on Information Theory, Volume 12, Issue 3, pp. 399-401. — 1966.

53. Gray R. M. Vector Quantization // IEEE ASSP Magazine — April 1984, pp. 4-29.

54. Hong Wang, Ling Lu, Da-Shun Que, Xun Luo. Image compression based on wavelet transform and vector quantization. Proceedings of 2002 International Conference on Machine Learning and Cybernetics, vol. 4, pp. 1778-1780, 2002.

55. Hsien-Chung Wei, Pao-Chin Tsai, Jia-Shung Wang. Three-sided side match finite-state vector quantization. IEEE Transactions on Circuits and Systems for Video Technology, Volume 10, Issue 1, pp. 51-58. — 2000.

56. Huang C.-M., Bi Q., Stiles G., Harris R. Fast full search equivalent encoding algorithms for image compression using vector quantization. IEEE Transactions on Image Processing, 1(3):413-416, July 1992.

57. Huang S. S.; Jia-Shung Wang. Finite-state residual vector quantizer for image coding. Proc. of Visual Communications and Image Processing, Vol. 2094, pp. 880-889. — 1993.

58. Huffman D. A. A method for the construction of minimum-redundancy codes // Proceedings of the I.R.E., September 1952, pp. 1098-1102.

59. Ichiro Matsuda, Yukio Nomoto, Kei Wakabayashi and Susumu Itoh. Lossless Re-encoding of JPEG images using block-adaptive intra prediction. Proc. of the 16th European Signal Processing Conference. — 2008.

60. ISO/IEC 10918-1. Information technology— Digital compression and coding of continuous-tone still images: Requirements and guidelines. 1994.

61. ISO/IEC 13818-2. Information technology — Generic coding of moving pictures and associated audio information: Video. 2000.

62. ISO/IEC 14496-2. Information technology — Coding of Audio-Visual Objects — Part 2: Visual (MPEG-4 Video). 2004.

63. ISO/IEC 14495-1. Information technology — Lossless and near-lossless compression of continuous-tone still images. 1999.

64. ISO/IEC 15444-1. Information technology — JPEG 2000 image coding system: Core coding system. 2004.

65. ISO/IEC 15444-3. Information technology — JPEG 2000 image coding system: Motion JPEG 2000. 2007.

66. ISO/IEC 29199-2. JPEG XR image coding system. Part 2: Image coding specification. 2009.

67. ITU-R Recommendation BT.500-11. Methodology for the subjective assessment of the quality of television pictures. — ITU-R, 2002. — 48 p.

68. ITU-T Ree. H.264. Advanced video coding for generic audiovisual services, 2005.

69. Jafarkhani H., Farvardin N. Adaptive image coding using spectral classification. IEEE Transactions on Image Processing, April 1998, vol. 7, pp. 605-610.

70. Jinhua Yu. Advantages of uniform scalar dead-zone quantization in image coding system. International Conference on Communications, Circuits and Systems, vol. 2, pp. 805-808,2004.

71. Jung H.-M. Apparatus for encoding an image signal using vector quantization technique. U. S. Patent 5742342. — 1998.

72. Karlekar J., Desai U. B. SPIHT video coder // TENCON '98. 1998 IEEE Region 10 International Conference on Global Connectivity in Energy, Computer, Communication and Control, Volume 1, 17-19 Dec. 1998. — Page(s): 45^18 vol.1.

73. Karunasekera S. A., Kingsbury N. G. A distortion measure for blocking artifacts in images based on human visual sensitivity. IEEE Transactions on Image Processing, June 1995, Volume 4, Issue 6, pp. 713-724.

74. Kautz W. Fibonacci codes for synchronization control. IEEE Transactions on Information Theory, Volume 11, Issue 2, pp. 284-292. — 1965.

75. Khalifa O. O. Fast Algorithm for VQ-based wavelet coding system. IEEE Transactions on Image Processing, Vol. 1, No. 2, April 1992, pp. 205-220.

76. Knuth D. E. Dynamic Huffman Coding. Journal of Algorithms, Volume 6, pp. 163180.— 1983.

77. Kyoung Won Lim, Kang Wook Chun, Jong Beom Ra. Improvement on image transform coding by reducing interblock correlation. IEEE Transactions on Image Processing, 1995. —Pp. 1146-1150.

78. Lewis A. S., Knowles G. Image compression using the 2-D wavelet transform. IEEE Transactions on Image Processing, April 1992, vol. 1, issue 2, pp. 244-250.

79. Linde Y., Buzo A., Gray R. An Algorithm for Vector Quantizer Design. IEEE Transactions on Communications, vol. 28, pp. 84-94, 1980.

80. Liu J., Moulin P. Information-Theoretic Analysis of Interscale and Intrascale Dependencies Between Image Wavelet Coefficients. IEEE Transactions on Image Processing, 2001, vol. 10, issue 11, pp. 1647-1658.

81. Ma Siwei, Fan Xiaopeng, Gao Wen. Low Complexity Integer Transform and High Definition Coding // Applications of digital image processing. Conference No27, Denver CO, ETATS-UNIS (02/08/2004) 2004, vol. 5558 (2), pp. P2.547-554.

82. Malvar H. S. Low-Complexity length-4 transform and quantization with 16-bit arithmetic//ITU-T SG16, Sept. 2001, Doc. VCEG-N44.

83. Marpe D., Gycon H. L. Very low bit-rate video coding using wavelet-based techniques //Circuits and Systems for Video Technology, IEEE Transactions on, Volume9, Issue I, Feb. 1999. — Page(s): 85-94.

84. Martin G. N. N;.Range encoding: an algorithm for removing redundancy from a digitised message. Presented to the Video & Data Recording Conference, Southampton; July 24-27, 1979.

85. Martucci S. A., Sodagar I., Chiang T., Ya-Qin Zhang. A zerotree wavelet video coder // Circuits and Systems for Video Technology, IEEE Transactions on, Volume 7, Issue 1, Feb. 1997.—Page(s): 109-118.

86. Nasrabadi N. M., Feng Y. Image compression using address-vector quantization. IEEE Transactions on Communications.VoK 38, no. 12, pp. 2166-2173. Dec. 1990;

87. Nasrabadi N. M., King R. A. Image coding using vector quantization: A review // IEEE Trans. On Communication. — 1988. — V. 36. — № 8. - P. 957-971.

88. Nelson M., Gailly J.-E. The Data Compression Book (Second Edition). New York: M&T Books, 1995. — 541 p.

89. Ngan K. N., Koh H. C. Predictive classified vector quantization. IEEE Transactions on Image Processing, July 1992, vol. 1, pp. 269-280.

90. Nixon S. W. Transformation and selective inverse transformation of large digital images. U. S. Patent 6201897.

91. Pennebaker W. B., Mitchell J: L. JPEG Still Image Data Compression Standard. New York: Van Nostrand Reinhold, 1992.

92. Ponomarenko N., Egiazarian K., Lukin V. and Astola J. Additional Lossless Compression of JPEG Images, Proc. of the 4th Intl. Symposium on Image and Signal Processing and Analysis (ISPA 2005), Zagreb, Croatia, pp. 117-120, September 15-17, 2005.

93. Princen J. P., Johnson A. W., Bradley A. B. Subband/transform coding using filter bank designs based on time domain aliasing cancellation. IEEE Proc. Intl. Conf. on Acoustics, Speech, and Signal Processing (ICASSP), 1987, vol. 12, pp. 2161-2164.

94. Qiu G., Varley M. R., Terrell T. J., Image coding based on visual vector quantization. IEEE International Conference on Image Processing and its applications, pp. 301-305, July 1995.

95. Rao K. R., Yip P. Discrete Cosine Transform: Algorithms, Advantages, Applications. — Academic Press, Boston. — 1990).

96. Ramamurthi B., Gersho A. Classified vector quantization of images. IEEE Transactions on Communication, 1986, Vol. COMM-34, No. 11, pp. 1105-1115.

97. Rinaldo R., Calvagno G. Hybrid vector quantization for multiresolution image coding // IEEE Trans. Image Processing, vol. 6, pp. 753-758, May 1997.

98. Riskin E. A., Lookabaugh T., Chou P. A., Gray R. M. Variable rate vector quantization for medical image compression. IEEE Transactions on Medical Imaging, vol. 9, no. 3, pp. Sep. 1992.

99. Said A., Pearlman W. A. A New Fast and Efficient Image Codec Based on Set Partitioning in Hierarchical Trees // IEEE Transactions on Circuits and Systems for Video Technology, vol. 6, pp. 243-250, June 1996.

100. Schelkens P., Skodras A., Ebrahimi T. The JPEG2000 Suite. John Wiley and Sons, 2009.

101. Shapiro J. M. Embedded image coding using zerotrees of wavelet coefficients. IEEE Transactions on Signal Processing, 1993, vol. 41, issue 12, pp. 3445-3462.

102. Stirner M. and Seelmann G. Improved Redundancy Reduction for JPEG Files. Proc. of Picture Coding Symposium, Lisbon, Portugal, November 7-9, 2007.

103. Strom J. Dead Zone Quantization in Wavelet Image Compression. Report for ECE 253 a, May 1996, University of California, San Diego.

104. Taubman D. High performance scalable image compression with EBCOT. IEEE Transactions on Image Processing, 2000, vol. 9, issue 7, pp. 1158-1170.

105. Tu C., Tran T. D. Context-based entropy coding of block transform coefficients for image compression. IEEE Transactions on Image Processing. Volume 11, Issue 11, pp. 1271-1283. —2002.

106. Ueffing C. Wavelet based ECW image compression. Photogrammetric Week 2001, pp. 299-306, Institute for Photogrammetry, University of Stuttgart.

107. Umnyashkin S. V., Koplovich D. M., Pokrovsky A. S., and Alexandrov A.A. Image Compression Algorithm Based on Encoding of Tree-Arranged Wavelet Coefficients.

108. Proceedings of 3rd Russian-Bavarian Conference on Biomedical Engineering. Erlangen, July 2/3,2007, pp. 121-126.

109. Vitter J. S. Design and Analysis of Dynamic Huffman Codes. Journal of the Association for Computing Machinery, Vol. 34, No. 4, pp. 825-845. — 1987.

110. Wallace G. K. The JPEG still-picture compression standard // Communications of the ACM, vol.34, pp. 30-40, April 1991.

111. Wang Z., Bovik A. C., Sheikh H. R. and Simoncelli E. P. Image quality assessment: From error visibility to structural similarity // IEEE Transactions on Image Processing, vol. 13, no. 4, pp. 600-612, Apr. 2004.

112. Wei D., Pai H.-T., Bovik A. C. Antisymmetric Biorthogonal Coiflets for Image Coding. Proceedings of IEEE International Conference on Image Processing, Chicago, IL, Oct. 1998, vol. 2, pp. 282-286.

113. Weiping Li, Ya-Qin Zhang. Vector-based signal processing and quantization for image and video compression. Proceedings of the IEEE, vol. 83, no. 2, pp 317-335, 1995.

114. Wen J., Villasenor J. Reversible variable length codes for efficient and robust image and video coding. Proc. of Data Compression Conference, pp. 471-480. —1998.

115. Witten R. M., Neal J. G. Cleary. Arithmetic coding for data compression // Communications of the ACM, vol.30, no.6, pp. 520-540, June 1987.

116. Xiaohui Xue, Wen Gao. Context-based statistical model for DCT-based image coder. Proceedings of Picture Coding Symposium — 99. Oregon State Univ. 21-23 April 1999, pp.383-385. Corvallis, OR, USA.

117. Xiong Z., Ramchandran K., Orchard M. T. Space-frequency Quantization for Wavelet Image Coding. IEEE Transactions on Image Processing, 1998, vol. 7, issue 6, pp. 892-898.

118. Yamanaka O., Yamaguchi T., Maeda J., Suzuki Y. Image compression using wavelet transform and vector quantization with variable block size. IEEE Conference on Soft Computing in Industrial Applications, 25-27 June 2008, pp. 359-364.

119. Yonghong Zeng, Lizhi Cheng, Guoan Bi, Kot A. C. Integer DCTs and fast algorithms // Signal Processing, IEEE Transactions on, Volume 49, Issue 11, Nov 2001. — Page(s): 2774-2782.

120. Zheng W. X., Quan Z. Y. Image sequence coding using wavelet transform // Digital Signal Processing Workshop Proceedings, 1996., IEEE, Sept. 1996.— Page(s): 97-100.