Численные методы детектирования и исправления геометрических искажений в изображениях текстовых документов тема диссертации и автореферата по ВАК РФ 05.13.17, кандидат физико-математических наук Масалович, Антон Андреевич

• Масалович, Антон Андреевич
• кандидат физико-математических наук
• 2010

Оглавление диссертации кандидат физико-математических наук Масалович, Антон Андреевич

Оглавление.

Введение.

1 Геометрические искажения в изображениях текстовых документов и проблема их исправления.

1.1 Постановка задачи.

1.1.1 Изображение документа.

1.1.2 Текст документа.

1.1.3 Предобработка и нормализация изображения документа.

1.1.4 Функция преобразования изображения.

1.1.5 Математическая постановка задачи распрямления строк текста на изображении документа.

1.1.6 Оценка результата при исправлении искажений.

1.2 Анализ существующих решений.

1.2.1 Выделение на изображении слов и строк текста.

1.2.2 Построение функции искажения вертикальных границ текста.

1.2.3 Построение функции деформации строк текста.

1.2.4 Общие замечания.

1.3 Структура предлагаемого метода.

1.4 Выводы по главе 1.

2 Строковая сегментация и детектирование искажений в изображениях текстовых документов.

2.1 Непрерывное гранично-скелетное представление изображения.

2.1.1 Граница и скелет изображения.

2.1.2 Скелет полигональной области и его свойства.

2.1.3 Скелетный граф полигональной области.

2.1.4 Внешний скелет изображения и его свойства.

2.2 Сегментация изображения текста на основе внешнего скелета.

2.2.1 Предобработка изображения.

2.2.2 Предобработка скелета.

2.3 Выделение межстрочных ветвей скелета.

2.3.1 Определение ветвей скелета и операций с ними.

2.3.2 Кластеризация ребер скелета.

2.4 Постобработка скелета.

2.5 Сегментация отдельных строк текста.

2.6 Аппроксимация строк документа.

2.6.1 Построение аппроксимации ломаной линии кривой Безье.

2.6.2 Аппроксимации строк текста кривыми Безье.

2.7 Итерационная подгонка аппроксимации.

2.7.1 Общее описание метода итерационной подгонки кривой.

2.7.2 Нахождение ближайшей точки на кривой.

2.7.3 Доказательство сходимости метода подгонки.

2.8 Выводы по главе 2.

3 Исправление геометрических искажений на основе аппроксимации их двухмерными патчами Безье.

3.1 Использование метода аппроксимации в работе.

3.2 Изменение параметризации кривой Безье.

3.2.1 Постановка задачи.

3.2.2 Растяжение параметров кривой Безье.

3.2.3 Сдвиг параметров кривой Безье.

3.3 Построение двумерного патча Безье на основе набора одномерных кривых.

3.3.1 Постановка задачи.

3.3.2 Метод аппроксимации семейства кривых патчем Безье.

3.3.3 Аппроксимация набора кривых Безье по опорным точкам.

3.3.4 Метод итерационной подгонки патча Безье.

3.4 Исправление геометрических искажений на изображении текста.

3.4.1 Общая процедура построения распрямленного изображения.

3.4.2 Определение цвета пикселя.

3.5 Выводы по главе 3.

4 Программный комплекс и вычислительные эксперименты.

4.1 Программная реализация алгоритма.

4.1.1 Основные функции программной реализации.

4.1.2 Описание программной реализации.

4.1.3 Шаги алгоритма.

4.1.4 Описание пунктов меню в главном окне.

4.2 Результаты экспериментов.

4.2.1 Основной эксперимент.

4.2.2 Результаты эксперимента.

4.2.3 Сравнение с мировым уровнем.

4.3 Выводы по главе 4.

Введение диссертации (часть автореферата) на тему «Численные методы детектирования и исправления геометрических искажений в изображениях текстовых документов»

Оптическое распознавание символов (англ. Optical Character Recognition, OCR) — конвертация изображений символов и букв в текст, редактируемый на компьютере [7,8]. На вход системы оптического распознания текста приходит цифровое растровое изображение сканированного или сфотографированного документа, на выходе система должна сформировать текст, который содержит это изображение, в виде, пригодном для сохранения в одном из форматов электронных текстовых документов.

Оцифровка документов — это процесс перевода бумажных документов в электронный (цифровой) вид [7,8]. В зависимости от формата сохраняемых в компьютере документов (графического или текстового) различают два подхода к оцифровке:

1) Получение копий страниц в виде графических (обычно растровых) изображений, осуществляемое путём сканирования или фотографирования с последующей обработкой и сохранением в одном из форматов графических файлов. В этом случае полностью сохраняется оригинальная вёрстка документа и исключается появление каких-либо ошибок, связанных с переводом содержимого документа в текстовый формат. Однако при хранении документов в графическом формате невозможен контекстный поиск в архивах, а также извлечение фрагментов текста, например, для цитирования.

2) Оптическое распознавание текста с последующим сохранением полученного текста в одном из форматов электронных текстовых документов. В этом случае становится возможен полномасштабный текстовый поиск по документу и индексация больших массивов электронных книг, однако затрудняется воспроизведение оригинальной вёрстки, изображений, схем и формул, практически неизбежными становятся ошибки распознавания.

В последнее время всё чаще применяется смешанный подход: текст документа распознаётся в автоматическом режиме и сохраняется вместе с оригинальными растровыми изображениями страниц, что позволяет совместить преимущества обоих подходов.

Ранее для получения электронной версии бумажных документов применялся ручной набор текст документа в электронном текстовом редакторе. Однако ручной набор — это очень долгий и дорогостоящий процесс по сравнению с автоматическим распознаванием текста.

Системы автоматического распознавания текста в электронных документах, оцифрованных с помощью сканеров, получили в настоящее время широкое распространение. Качество современных систем распознавания находится примерно на уровне 99% правильно распознанных символов для изображений с нормальным качеством. К сожалению, далеко не всегда документы, предназначенные для распознавания, бывают хорошо и ясно отсканированы. На качество распознавания влияет множество факторов. Среди наиболее важных факторов можно отметить качество печати в исходном документе, загрязненность исходного документа, размер шрифта в исходном документе, разрешающую способность сканирующего устройства, которая определяет размер символов шрифта в точках растрового изображения. Современные коммерческие системы распознавания текстов (такие как FineReader, OmniPage, Readlris) достаточно эффективно могут распознавать большинство изображений, полученных с помощью сканера.

Однако в настоящее время помимо задачи распознавания сканированных документов возникает задача распознавания документов, полученных с помощью цифровых фотокамер. Это связано с тем, что цифровые фотоаппараты получают все большее распространение. В частности, за последние несколько лет появилось достаточно большое количество систем для оцифровки документов, которые основаны на цифровых фотоаппаратах. Система на основе цифрового фотоаппарата работает в несколько раз быстрее обычного сканера, так как в нем не тратится время на физическое передвижение сканирующей планки. Однако использование цифровых фотоаппаратов для оцифровки текста создает много новых трудностей при распознавании текста. К примеру, из-за использования вспышки или плохого освещения часть изображения может быть затемнена, а часть наоборот слишком освещена. В результате использования недорогих камер и объективов («непрофессионального оборудования») или из-за плохих настроек изображение целиком или его часть может быть сильно размыта. Из-за использования слишком большого времени экспозиции изображение может быть смазано. Также одной из главных проблем современных фотоаппаратов является то, что они привносят геометрические искажения в изображения документа.

Нужно заметить, что проблема геометрических искажений на изображении документа существовала еще до начала широкого использования цифровых фотоаппаратов для оцифровки текста. В частности, при сканировании толстых книг очень часто возникают искажения на изображении страницы в области сгиба книги. Однако эти искажения имеют достаточно четко детектируемую и описываемую структуру. Поэтому для исправления искажений на сгибе книге придумано очень много различных методов и систем. Разработаны как методы обработки и удаления искажений в оцифрованном изображении, так и специальные «книжные» сканеры, которые позволяют избежать искажений при сканировании книги (рассчитанные на то, что сканируемая книга раскрыта не полностью).

Однако с появлением и началом повсеместного использования цифровых фотоаппаратов проблема стала более сложной и актуальной. Искажения при фотографировании могут появиться по нескольким независимым друг от друга причинам. Это может быть недостатком используемой оптики - так называемый «эффект бочки». Другая причина состоит в том, что документ при фотографировании расположен не под прямым углом к оси камеры, что порождает перспективные искажения. Искажение также может быть вызвано неровностью исходного документа - к примеру, тем же изгибом в центре книги. Еще одна проблема заключается в том, что эти искажения могут комбинироваться между собой в любом сочетании. Из-за этого невозможно точно описать и предсказать модель искажения сфотографированного документа.

Большинство современных профессиональных систем распознавания текста (таких как FineReader, OmniPage, Readlris) рассчитаны на то, что строки текста на изображении будут прямыми и горизонтальными. Малейшие искажения строк текста приводят к сильному ухудшению качества распознавания. Поэтому в последнее время очень большое внимание уделяется методам, позволяющим устранять геометрические искажения в изображениях документов. В частности, в рамках самой крупной международной конференции по анализу и распознаванию документов ICDAR (International Conference on Document Analysis and Recognition) проводилось сравнительное тестирование методов распрямления текстовых строк на изображениях документов [10]. Метод, описанный в диссертации, также принимал участие в этом тестировании в 2007 году [2]. Также в рамках тестирования впервые была сформирована большая общедоступная база документов с геометрическими искажениями [11]. Создание такой базы позволяет легко сравнивать между собой различные методы распрямления текстовых строк на изображении.

Однако, несмотря на возросший интерес к этой области и наличие большого количества новых методов устранения геометрических искажений ([15-24]), универсального метода для решения этой проблемы, который бы с одинаковой эффективностью устранял искажения на любых типах текстовых изображений, не было изобретено.

Таким образом, задача устранения геометрических искажений в изображениях текстовых документов является весьма актуальной и нуждается в разработке эффективных методов решения с использованием новых идей.

Целью настоящей работы является создание метода аппроксимации и устранения сложных разнообразных геометрических искажений на изображениях документов для повышения качества их распознавания. Сложность данной задачи определяется трудностями детектирования и формального описания разнообразных искажений текстовых документов, необходимостью построения универсального алгоритма коррекции документов, трудностью выбора критерия качества для решения поставленной задачи.

В практическом аспекте целью работы является создание программного комплекса для устранения геометрических искажений текстовых документов. Данный комплекс должен выполнить предобработку предоставленного ему изображения текстового документа с информацией о расположении текстовых блоков в документе и сформировать новое изображение этого документа, в котором текстовые блоки имеют правильную прямоугольную форму, а строки текста расположены вдоль параллельных прямых линий.

Предлагаемый подход к решению задачи основывается на двух новых идеях. Первая идея относится к подзадаче выявления строковой структуры изображения. Предлагается осуществить сегментирование строк изображения путём выявления междустрочных просветов на основе построения и анализа внешнего скелета изображения текста в документе. Вторая идея относится к выбору вида геометрического преобразования изображения. Предлагаемый подход состоит в описании искажения в виде двумерного патча Безье. Эта модель обеспечивает большую гибкость настройки на различные типы сложных искажений.

Научная задача работы состоит в создании метода геометрических преобразований изображений текстовых документов на основе аппроксимации междустрочных просветов с помощью одномерных кривых Безье и общего преобразования изображения в виде двумерного патча Безье.

На защиту выносятся следующие положения.

1) Математическая модель описания искажений в виде непрерывной функции преобразования координат, представленной двухмерным патчем Безье.

2) Метод детектирования междустрочных просветов текста на основе «непрерывного» внешнего скелета изображения текстовых блоков.

3) Метод сегментации строк текста в изображении на основе найденных междустрочных просветов.

4) Метод аппроксимации междустрочных просветов и строк текста кубическими кривыми Безье.

5) Метод аппроксимации искажения всего документа с помощью двумерного патча Безье по набору одномерных кривых Безье, аппроксимирующих искривления отдельных междустрочных просветов.

6) Метод итерационной подгонки аппроксимирующего патча Безье.

7) Метод распрямления изображения документа на основе аппроксимации искажения документа.

Научная новизна работы определяется тем, что в рамках настоящего исследования впервые в интересах устранения геометрических искажений в текстовых электронных документах использованы следующие идеи:

1) Выполнена сегментация междустрочных просветов и строк в изображении текстового документа на основе непрерывного гранично-скелетного представления изображения, в частности, на основе анализа внешнего скелета текста;

2) Выполнена аппроксимация геометрических искажений всего документа в форме двумерного патча Безье;

3) Разработана вычислительная схема построения аппроксимирующего двумерного патча Безье на основе вычисления одномерных аппроксимирующих кривых Безье для междустрочных просветов и дальнейшей итерационной подгонки патча Безье.

Научная значимость работы состоит в описании геометрических искажений в изображениях текстовых документов с помощью математической модели двумерного патча Безье, а также в разработке метода параметрической настройки этой модели для конкретных данных.

Практическая значимость состоит в создании и реализации нового метода аппроксимации и удаления геометрических искажений в изображениях текстовых документов, обеспечивающего существенное повышение качества автоматического распознавания текстов.

Обоснованность и достоверность научных положений, выводов и результатов работы подтверждается корректным использованием математического аппарата непрерывного гранично-скелетного представления изображения, кривых и патчей Безье, строгими математическими доказательствами, программной реализацией и вычислительными экспериментами, а также успешным использованием разработанных моделей и методов при решении практических задач.

Основные результаты работы опубликованы в работах [1-6], в том числе в издании [1], входящем в список ВАК.

Заключение диссертации по теме «Теоретические основы информатики», Масалович, Антон Андреевич

4.3 Выводы по главе 4

1) Поскольку исходное правильное изображение документа с прямолинейными строками не может быть использовано при оценке качества исправления искажений, для получения соответствующих оценок следует использовать результаты сравнительного анализа ошибок распознавания текста при использовании алгоритмов исправления искажений и при их отсутствии.

2) Оценка работоспособности предложенных алгоритмов осуществлена на основе разработки программного обеспечения, реализующего указанные алгоритмы, и вычислительных экспериментов с большими объемами реальных изображений текстовых документов.

3) Проведенные эксперименты показали, что предложенные алгоритмы являются реализуемыми, обеспечивают необходимое качество и вычислительную эффективность.

На основании экспериментов показано, что применение разработанных методов исправления искажений на этапе предобработки перед распознаванием текста позволяет существенно повысить качество распознавания. Уровень ошибок распознавания уменьшается с 20% до 2%, что является весьма существенным для систем этого класса.

4) Эксперименты, проведенные в рамках международного контекста по исправлению искажений документов, показали, что разработанные методы обеспечивают в целом качество предобработки на уровне лучших известных мировых аналогов. При этом выявляется существенное преимущество предлагаемого метода в части гибкости при обработке сильно искажённых изображений документов.

5) Разработанные методы и экспериментальное программное обеспечение могут быть использованы при создании промышленных систем оцифровки тестовых документов.

Заключение

В данной работе описан метод удаления геометрических искажений с изображений текстовых документов. В рамках исследования были получены и обоснованы следующие результаты:

1) сформулирована математическая постановка задача детектирования и исправления геометрических искажений на растровом изображении текстового документа;

2) предложено использовать двумерные кубические патчи Безье в качестве универсального класса функций для аппроксимации искажений документа;

3) сформулирован критерий оценки работы механизма по детектированию и исправлению искажений документа;

4) сформулированы принципы использования ветвей непрерывного гранично-скелетного представления изображения для детектирования и аппроксимации междустрочных просветов в тексте на изображении документа;

5) предложен алгоритм кластеризации и фильтрации ветвей скелета изображения для нахождения ветвей скелета, лежащих между различными строками текста;

6) предложен механизм выделения на изображении областей, содержащих отдельные строки текста, на основе разделения изображения междустрочными ветвями скелета;

7) предложен механизм аппроксимации искажения междустрочных просветов текста на основе аппроксимации междустрочных ветвей скелета кубическими кривыми Безье;

8) предложен механизм аппроксимации искажения строк текста на изображении кривыми Безье;

9) построен механизм итерационной подгонки кривой Безье, аппроксимирующей набор точек;

10) предложен механизм аппроксимации набора кривых Безье с помощью патча Безье;

11) предложен ускоренный алгоритм аппроксимации набора кривых Безье патчем Безье и была доказана правомочность его использования;

12) описан процесс итерационной подгонки построенного патча Безье;

13) построен механизм удаления геометрических искажений с изображения документа. В качестве основы для алгоритма удаления искажений использовалась построенная на предыдущем шаге аппроксимация геометрического искажения изображения.

В работе приведен обзор существующих решений проблемы устранения геометрических искажений, выявлены основные недостатки существующих методов решения. Главной целью данной работы было создание метода, свободного от указанных недостатков. Эта задача была успешно решена, что подтверждается проведенным исследованием.

В ходе исследования была проведена серия экспериментов для оценки качества предлагаемого решения. Эксперименты показали высокую надежность разработанного метода. В качестве оценки качества метода использовалось качество распознавания большого набора документов до и после устранения искажений. Также эксперименты использовались для оптимизации путей реализации некоторых шагов предложенного метода.

Разработанный метод отличается высокой эффективностью, что доказано серией экспериментов. Также разработанный метод обладает большой гибкостью, которая позволяет ему эффективно детектировать и удалять практически любые геометрические искажения, появившиеся на документе в процессе сканирования или фотографирования.

Разработанный метод участвовал в независимом международном тестировании, где показал результаты сравнимые по качеству с альтернативными методами, участвующими в тестировании. Сравнение показало, что уровень предложенного метода соответствует лучшим мировым аналогам, а по некоторым аспектам превосходит их. При этом выявляется существенное преимущество предлагаемого метода в части гибкости при обработке сильно искажённых изображений документов.

Таким образом, поставленная в работе научная задача успешно решена.

Список литературы диссертационного исследования кандидат физико-математических наук Масалович, Антон Андреевич, 2010 год

1. А.А. Масалович, "Численные методы детектирования и удаления геометрических искажений в изображениях текстовых документов", журнал "Информационные технологии", №5, 2009, стр. 57-61.

2. A.A. Масалович, JI.M. Местецкий, "Использование патча Безье для аппроксимации искажения текстовых документов", Труды 17-ой Международной Конференции по Компьютерной Графике и Зрению (Графикон-2007), 2007, Москва, Россия, стр. 239-243.

3. A.A. Масалович, JI.M. Местецкий, "Распрямление текстовых строк на основе непрерывного гранично-скелетного представления изображений", Труды 16-ой Международной Конференции по Компьютерной Графике и Зрению (Графикон-2006), 2006, Новосибирск, Россия.

4. Arms, William Y., "Digital libraries", Cambridge, Massachusetts, USA, MIT Press, 2000, http://www.cs.cornell.edu/wya/DigLib/MS1999/Glossary.html

5. University of Leeds, Leeds Electronic Text Centre, Glossary, http://etext.leeds.ac.uk/glossary.html

6. В. И. Левенштейн. "Двоичные коды с исправлением выпадений, вставок и замещений символов". Доклады Академий Наук СССР, 1965. 163.4:845-848

7. JI.M. Местецкий, "Непрерывная Морфология Бинарных Изображений: Фигуры, Скелеты, Циркуляры", Москва, ФИЗМАТ ЛИТ, 2009.

8. Л.М. Местецкий, "Скелет многосвязной многоугольной фигуры", Труды 15-ой Международной Конференции по Компьютерной Графике и Зрению (Графикон-2005), 2005, Новосибирск, Россия.

9. Л.М. Местецкий, "Непрерывный скелет бинарного растрового изображения", Труды Международной Конференции по Компьютерной Графике и Зрению (Графикон-98), 1998, Новосибирск, Россия.

10. Bin Fu, Minghui Wu, Rongfeng Li, Wenxin Li, Zhuoqun Xu, Chunxu Yang, "A model-based book dewarping method using text line detection",

11. Proceedings of the Second International Workshop on Camera-Based Document Analysis and Recognition (CBDAR-2007), 2007, Curitiba, Brazil, pp. 63-70.

12. D. C. Schneider, M. Block, R. Rojas, "Robust document warping with interpolated vector fields", Proceedings of the 9-th International Conference on Document Analysis and Recognition (ICDAR-2007), 2007, Curitiba, Brazil, pp. 113-117.

13. B. Gatos, I. Pratikakis, K. Ntirogiannis, "Segmentation based recovery of arbitrarily warped document images", Proceedings of the 9-th International Conference on Document Analysis and Recognition (ICDAR-2007), 2007, Curitiba, Brazil, pp. 989-993.

14. H. Ezaki, S. Uchida, A. Asano, H. Sakoe, "Dewarping of document images by global optimization", Proceedings of the 8-th International Conference on Document Analysis and Recognition (ICDAR-2005), 2005, Seoul, South Korea, pp. 302-306.

15. U. Ulges, С. H. Lampert, Т. M. Breuel, "A Fast and Stable Approach for Restoration of Warped Document Images", Proceedings of the 8-th International Conference on Document Analysis and Recognition (ICDAR-2005), 2005, Seoul, South Korea, pp. 384-388.

16. Li Zhang, Chew Lim Tan, "Warped Image Restoration with Application to Digital Libraries", Proceedings of the 8-th International Conference on Document Analysis and Recognition (ICDAR-2005), 2005, Seoul, South Korea, pp. 192- 196.

17. A. Yamashita, A. Kawarago, Т. Kaneko, К.Т. Muira, "Shape reconstruction and image restoration for non-flat surfaces of documents with a stereo vision system", Proceedings of international conference ICPR, 2004, pp 482-485.

18. M.S. Brown, W.B. Seales, "Image Restoration of Arbitrarily Warped Documents", IEEE Transactions on Pattern Analysis and Machine Intelligence, Volume 26, Issue 10, 2004, pp. 1295 — 1306.

19. Graphics Gems, A. Glassner (editor), Academic Press, 1990, ISBN: 0122861663.

20. Graphics Gems II, J. Arvo (editor), Academic Press, 1991, ISBN: 0120644819.

21. Graphics Gems III, D. Kirk (editor), Academic Press, 1992, ISBN: 0124096735.

22. Graphics Gems IV, P. Heckbert (editor), Academic Press, 1994, ISBN: 0123361559.

23. Graphics Gems V, A. Paeth (editor), Academic Press, 1995, ISBN: 0125434553.

24. А. Дж. Роджерс, Математические основы машинной графики. — М.: Мир, 2001.

25. Т. Sederberg, Bezier curves,http://www.tsplines.com/resources/class notes/Bezier curves.pdf

26. J.D. Foley et al.: Computer Graphics: Principles and Practice in C, 2nd ed., Addison Wesley, 1992.

27. R. E. Barnhill and R. F. Riesenfeld (editors), Computer Aided Geometric Design, Academic Press, 1974.

28. G. Farin, Curves and surfaces for computer aided design, Academic Press, 1988.

29. D. E. Knuth, MetaFont: the Program, Addison-Wesley, 1986.

30. R. H. В artels, J. C. Beatty, B. A. Barsky, "Bezier Curves". Ch. 10 in "An Introduction to Splines for Use in Computer Graphics and Geometric Modelling". San Francisco, California, USA: Morgan Kaufmann, pp. 211-245, 1998.

31. С. H. Бернштейн, Собрание сочинений, Москва, 1952.

32. W. Boehm, A. Miiller, "On de Casteljau's algorithm", Computer Aided Geometric Design, Volume 16, Issue 7, August 1999, Pages 587-605.

33. L. Piegl, Fundamental Developments of Computer Aided Geometric Design. San Diego, California, USA: Academic Press, 1993.

34. G. G. Lorentz, Bernstein Polynomials. Toronto: University of Toronto Press, 1953.

35. И.М. Гельфанд Лекции по линейной алгебре. ООО "Добросвет", 1998.

36. В. А. Ильин, Э. Г. Позняк Линейная алгебра, Москва: Наука — Физматлит, 1999.

37. В. А. Ильин, Г. Д. Ким Линейная алгебра и аналитическая геометрия, Москва: ТК Велби, Изд-во Проспект, 2007

38. G. Н. Golub, С. F. Van Loan, "Matrix Computations (3rd ed.)", Johns Hopkins, 1996.

39. K. A. Atkinson, An Introduction to Numerical Analysis (2nd ed.), New York: John Wiley & Sons, 1989.

40. А.А. Самарский, Введение в численные методы, Наука, 1987.

41. А.А. Самарский, А.В. Гулин, Численные методы, Наука, 1989.

42. Х.Д. Икрамов, Численное решение матричных уравнений, Наука, 1984.

43. M. Abramowitz, I. A. Stegun. "Handbook of Mathematical Functions with Formulas, Graphs, and Mathematical Tables, 9th printing". New York: Dover, 1972.

44. P. Deuflhard, Newton Methods for Nonlinear Problems. Affine Invariance and Adaptive Algorithms. Springer Series in Computational Mathematics, Vol. 35. Springer, Berlin, 2004. ISBN 3-540-21099-7.

45. С. T. Kelley, Solving Nonlinear Equations with Newton's Method, no 1 in Fundamentals of Algorithms, SIAM, 2003. ISBN 0-89871-546-6.

46. R.W. Farebrother, (1988), Linear Least Squares Computations, STATISTICS: Textbooks and Monographs, Marcel Dekker, ISBN 978-0-82477661-9.