Преобразование циклических конструкций для многопроцессорных систем кластерного типа с учетом количества вычислительных устройств тема диссертации и автореферата по ВАК РФ 05.13.11, кандидат технических наук Мялицин, Вадим Владимирович

• Мялицин, Вадим Владимирович
• кандидат технических наук
• 2008

Оглавление диссертации кандидат технических наук Мялицин, Вадим Владимирович

Введение.

1 Оптимизация и распараллеливание программного кода.

1.1 Анализ и преобразование алгоритмов решения задач.

1.2 Оптимизация и оптимизирующие преобразования программ

1.3 Оптимизация и параллельная обработка данных.

1.4 Параллельная оптимизация циклов.

1.5 Рекуррентные программные циклы.

1.6 Выводы по главе.

2 Способы преобразования циклических конструкций.

2.1 Циклические конструкции.

2.2 Способ преобразования циклов вычисления рекуррентных последовательностей.

2.3 Способ преобразования циклов с использованием индексных множеств.

2.4 Выводы по главе.

3 Решение задач на кластерных вычислительных системах.

3.1 Объем информации и количество вычислителей.

3.2 Методика определения количества вычислительных устройств, необходимых для решения задачи за минимальное время.

3.3 Оценка эффективности параллельных вычислений для задач обработки информации.

3.4 Выводы по главе.

4 Эффективность методики определения количества вычислительных устройств.

4.1 Использование методики для оценки стандартных пакетов.

4.2 Использование методики для оценки алгоритмов программ.

4.3 Применение методики для экспериментальных данных, полученных на разных кластерных установках и для различных задач.

4.4 Применение методики для разрабатываемых программ.

4.5 Применение методики в практических задачах.

4.6 Выводы по главе.

Введение диссертации (часть автореферата) на тему «Преобразование циклических конструкций для многопроцессорных систем кластерного типа с учетом количества вычислительных устройств»

Актуальность темы. Сокращение времени решения сложных научно-технических задач является стимулом совершенствования вычислительной техники. Оно достигается< применением оптимизирующих преобразований к выявленным "недоброкачественным" участкам прок граммного кода, начиная с оптимизации на уровне исходного языка, заканчивая машинно-зависимой оптимизации.

Наибольшее внимание при преобразовании алгоритмов программ исследователи уделяют оптимизации циклов, так как основное время исполнения большинства программ приходится именно на циклические конструкции.

Преобразованием на- разных уровнях представления алгоритмов занимаются как зарубежные, так и российские специалисты. Среди достижений наших ученых самыми значимыми являются труды Воеводина В.В. и Воеводина Вл.В. [12] по оптимизирующим преобразованиям программного кода для однопроцессорных систем. Кроме того ими разработана система V-Ray [97] для оптимизации выполнения циклических конструкций на многопроцессорных системах. Широко известны статьи и патенты сотрудников ЗАО "Московский Центр SPARC-технологий" (МЦСТ) [68], сотрудничающих с корпорацией Sun MicroSystems в области высокоуровневой оптимизации циклов в перспективных компиляторах. Среди зарубежных ученых выдающиеся работы в области оптимизации программ для многопроцессорных систем опубликовали Lamport L. [94] и Ramamoorthy С. Такие крупнейшие корпорации, как Intel, IBM, Sun MicroSystems, разрабатывают оптимизаторы кода, проводят исследования в области построения многопроцессорных систем и патентуют новые решения в области анализа и оптимизации алгоритмов и программ для различных типов вычислительных систем, в том числе параллельных.

Постоянная нехватка должной аналитической поддержки со стороны языков программирования, компиляторов и операционных систем; в обеспечении эффективности процессов решения задач привела к созданию специализированных программных комплексов по анализу пользовательских программ и их преобразованию в^ соответствии с требованиями конкретных вычислительных систем. Указанные комплексы (некоторого* рода препроцессоры языков программирования высокого уровня), представляя; собой автономные программные системы, оказались удобным инструментом для выполнения; различных работ, когда программы одного вида нужно перевести в эквивалентные программы другого вида [12].

Одним из важнейших преобразований современных компиляторов* является автопараллелизация. Автопараллелизация. — это семейство оптимизирующих преобразований, позволяющих запускать последовательные независимые участки программы параллельно в нескольких потоках управления; Наиболее распространена;автоматическая параллели-зация циклов, в которых нет зависимости данных. Автопараллелизация позволяет эффективно использовать преимущества мультипроцессорных архитектур [68].

Сложности при распараллеливании возникают с циклами, в которых присутствуют различные зависимости данных. Преобразование циклических конструкций с неявной зависимостью данных, например вычисление рекуррентных последовательностей, существующими средствами либо невозможно, либо малоэффективно даже при использовании специальной аппаратной^ поддержки.

Применение специализированных вычислительных комплексов позволяет ускорить решение некоторых классов задач за счет аппаратной реализации операций. Однако специализация резко ограничивает область применения таких систем. Напротив, простая в организации архитектура вычислительной системы кластерного типа оказывает влияние на время решения задач. Накладные расходы, связанные с пересылкой сообщений, могут перекрыть эффект от использования множества вычислительных устройств.

Применение кластерных вычислительных систем связано с рядом проблем. Известно, что на время решения задачи в кластере влияет количество используемых процессоров [16]. При проектировании вычислительного кластера для конкретной прикладной задачи требуется предварительный анализ ресурсной базы и реализации алгоритма: необходимо оценить объем вычислительной работы и определить количество вычислительных устройств, при котором время решения будет наименьшим, что позволит максимально эффективно использовать имеющиеся ресурсы.

Определение оптимального количества вычислительных устройств нетривиально, так как время решения задачи зависит от множества факторов: количества оперативной памяти на узлах кластера, производительности дисков и коммуникационной среды и, наконец, программной реализации алгоритма решения задачи.

Таким образом, актуальными являются исследования, связанные с разработкой способов преобразования циклических конструкций вычисления рекуррентных последовательностей и циклов с использованием индексных множеств для многопроцессорных систем кластерного типа с учетом количества задействованных вычислительных устройств.

Целью диссертационной работы является повышение эффективности использования ресурсов многопроцессорных систем кластерного типа посредством преобразования программного кода, в частности преобразования циклических конструкций, используемых при реализации алгоритмов прикладных задач.

Для достижения поставленной цели в диссертационной работе решаются следующие задачи:

- анализ и исследование существующих преобразований программ для многопроцессорных систем кластерного типа;

- разработка способа преобразования циклических конструкций вычисления рекуррентных последовательностей, так что операторы циклов могут выполняться одновременно и независимо на разных вычислительных устройствах;

- разработка способа преобразования циклических конструкций с использованием индексных множеств для многопроцессорных вычислительных систем;

- определение влияния количества используемых устройств кластерной вычислительной системы на время решения прикладной задачи.

Объект исследования - вычислительные системы кластерного типа и циклические конструкции прикладных программ, представленные на языках программирования высокого уровня. К исследуемым конструкциям относятся циклы вычисления рекуррентных последовательностей и циклы с использованием индексных множеств.

Предмет исследования составляют способы и методики параллели-зации программного кода, в частности циклических конструкций, для вычислительных систем кластерного типа.

На защиту выносятся:

- способ преобразования циклических конструкций вычисления рекуррентных последовательностей;

- способ преобразования циклических конструкций с использованием индексных множеств;

- дополненная формула Амдала с учетом обмена сообщениями между узлами многопроцессорной системы кластерного типа;

- методика определения количества вычислительных устройств, необходимых для решения задачи за минимальное время с учетом обмена сообщениями между узлами многопроцессорной системы кластерного типа.

Методологическая основа работы.

В работе использованы графовые модели программ [12]:

- графы передач управления и информационные графы программ;

- графы зависимостей.

Методологическую и теоретическую базу работы составили научные труды отечественных и зарубежных авторов в области анализа и оптимизации алгоритмов программ, применения параллельных вычислений при решении широкого класса прикладных задач.

Научная новизна работы состоит в следующем:

- предложен способ преобразования циклических конструкций вычисления рекуррентных последовательностей, отличающийся от известных способов тем, что исходную зависимость вычисления элементов последовательности заменяют на совокупность зависимостей так, что циклические конструкции выполняются параллельно как последовательные независимые участки программы в нескольких потоках управления;

- предложен способ преобразования циклических конструкций, с использованием индексных множеств, который позволяет трансформировать исходный алгоритм программы в более эффективный с точки зрения времени его выполнения на вычислительной системе с общей памятью и аппаратной синхронизацией вычислений;

- предложена методика определения количества вычислительных устройств, необходимых для решения задачи на многопроцессорной системе кластерного типа за наименьшее время с учетом дополнения формулы. Амдала, что позволяет оценить влияние количества вычислительных устройств и коммуникационной среды, на время решения задачи.

Практическая ценность работы. Разработанные способы преобразования циклических конструкций при интегрировании их в системы оптимизирующей компиляции или специализированные программные комплексы по анализу и преобразованию пользовательских программ в соответствии с требованиями конкретных вычислительных систем позволят сократить время выполнения ряда программ. Разработанные способы не зависят от аппаратных платформ и языков реализации алгоритмов, что позволяет распространить их использование на максимально широкий класс процессорных архитектур и языков программирования.

На основании предложенной методики с точки зрения прикладных-, свойств задачи оценивается количество используемых вычислительных устройств, при которых достигается максимальное сокращение времени-, решения задачи, с целью выдвижения требований к архитектуре кластерной вычислительной системы.

Решение задачи преобразования циклических конструкций вычисления рекуррентных последовательностей и циклов с использованием индексных множеств, а также задачи определения оптимального с точки зрения времени решения задачи количества вычислительных устройств имеет существенное значение для повышения, эффективности использования ресурсов многопроцессорных систем кластерного типа.

Степень достоверности и обоснованности результатов.

Достоверность и обоснованность теоретических и практических результатов, выводов и рекомендаций подтверждается использованием современных методов исследования, методов обработки и апробацией в лабораторных условиях.

Реализация и внедрение результатов работы.

При проведении исследования было разработано и реализовано программное обеспечение, содержащее алгоритм прикладной задачи преобразования информации, который заключается- в решении систем линейных уравнений и реализован с использованием вложенных циклических конструкций. Результаты работы были внедрены в изделия, разработанные в рамках ОКР на ФГУП "Пензенский научно-исследовательский электротехнический институт", о чем свидетельствует акт о внедрении, приведенный в приложении В. ю

Апробация результатов исследования.

Результаты работы докладывались на:

- VI Международной научно-технической конференции "Новые информационные технологии и системы" ("НИТиС-2004"), которая проводится Международной академией информатизации, Академией информатизации образования и Пензенским государственным университетом совместно с ОАО "ВолгаТелеком" (июнь 2004 г.);

- 5-й Международной конференции молодых ученых и студентов "Актуальные проблемы современной науки", которая проводится по инициативе Самарского государственного технического университета и Поволжской молодежной академии наук (сентябрь 2004 г.);

- X Всероссийской научно-технической конференции студентов, молодых ученых и специалистов "Новые информационные технологии в научных исследованиях и в образовании" (НИТ-2005), которая проводится Рязанской государственной радиотехнической академией-(апрель 2005 г.);

- Всероссийской научной конференции студентов, аспирантов и молодых ученых "Наука. Технологии. Инновации" (НТИ-2005), которая проводится Новосибирским государственным техническим университетом (декабрь 2005 г.);

- XI Международной открытой научной конференции "Современные проблемы информатизации в моделировании и программировании" (ноябрь 2005 г. - январь 2006 г.);

- XII Международной открытой научной конференции "Современные проблемы информатизации в проектировании и телекоммуникациях" (ноябрь 2006 г. - январь 2007 г.);

- V всероссийской научно-практической конференции студентов, аспирантов и молодых ученых "Молодежь и современные информационные технологии", которая проводилась на базе "Кибернетического центра" Томского политехнического университета (февраль - март 2007 г.);

- Седьмой Международной конференции-семинаре "Высокопроизводительные параллельные вычисления на кластерных системах", которая проводится Нижегородским государственным университетом (ноябрь 2007 г.).

Публикации.

По теме диссертации опубликовано 11 печатных работ, в том числе одна статья в издании, рекомендованном ВАК России.

В работах, опубликованных в соавторстве, личное участие автора заключается в определении проблем, постановке задач, разработке теоретических положений и непосредственном участии во всех этапах исследования.

Структура и объем работы.

Диссертация состоит из введения, четырех глав, заключения, списка использованных источников из 101 наименования и трех приложений. Работа содержит 131 страницу основного машинописного текста, 55 рисунков, 10 таблиц, 28 страниц приложений.

Заключение диссертации по теме «Математическое и программное обеспечение вычислительных машин, комплексов и компьютерных сетей», Мялицин, Вадим Владимирович

4.6 Выводы по главе

1. Получены экспериментальные значения времени решения прикладной задачи, заключавшейся в решении систем уравнений, на вычислительных системах кластерного типа, которые подтвердили сокращение времени решения задач пропорционально количеству вычислительных устройств, задействованных в многопроцессорных комплексах. В зависимости от программной реализации задачи и архитектуры вычислительной системы кластерного типа можно достичь сокращения времени вычислений пропорционально количеству вычислительных устройств.

2. Получены экспериментальные результаты, подтверждающие существование такого количества процессорных элементов, при котором время решения задачи наименьшее. В зависимости от объема задачи требуется разное количество вычислителей кластерной системы, причем последующее увеличение вычислительных устройств либо не уменьшает времени решения задачи, либо даже увеличивает его.

3. Спрогнозировано время выполнения алгоритма задачи решения систем уравнений при разных объемах обрабатываемой информации для вычислительных систем кластерного типа и оценены доля последовательных вычислений и доля операций передачи сообщений по коммуникационной среде, что позволило определить количество вычислительных устройств, при котором время решения задачи наименьшее. Время решения системы линейных уравнений из 1024 уравнений методом Га-усса-Жордана на пятнадцати вычислительных устройствах сокращается более чем в 10 раз относительно времени решения той же задачи на одном вычислительном устройстве.

4. Подтвеждена эффективность применения предложенной методики для стандартных и нестандартных программ, а также для специфических задач.

Заключение

В диссертационной работе были получены следующие результаты:

1. Проанализированы существующие преобразования программ, в частности преобразования циклических конструкций, в которых присутствуют зависимости данных, для многопроцессорных систем кластерного типа.

2. Предложен способ преобразования циклических конструкций вычисления рекуррентных последовательностей, то есть циклов вычисления элементов множества из значений предыдущих элементов этого же множества, отличающийся от известных способов тем, что исходную зависимость вычисления элементов последовательности заменяют на совокупность зависимостей, что позволяет ускорить выполнение циклических конструкций на многопроцессорной системе, так как полученные после преобразования независимые участки программы можно выполнять в нескольких потоках управления. Для рассмотренных в работе циклических конструкций время выполнения преобразованного программного кода сокращается пропорционально количеству используемых вычислительных устройств. При использовании двух процессоров одного узла кластерной системы время выполнения преобразованных циклических конструкций сокращается в два раза.

3. Предложен способ преобразования циклов с использованием индексных множеств, который позволяет трансформировать исходный алгоритм программы в более эффективный с точки зрения времени его выполнения на вычислительной системе с общей памятью и аппаратной синхронизацией вычислений. При использовании дополнительного объема памяти время выполнения циклических конструкций) с использованием индексного множества на системе с общей памятью с тремя или более вычислительными устройствами сокращается не менее чем на 20%.

4. Сформулированы основные критерии оценки параллельного вычислительного процесса, описано влияние его составляющих на время решения прикладных задач в параллельных системах, дополнена формула Амдала для многопроцессорных систем кластерного типа с учетом обмена сообщениями между узлами по коммуникационной среде.

5. Предложена методика определения количества вычислительных устройств, необходимых для решения задачи на многопроцессорной системе кластерного типа за наименьшее время с учетом дополненной формулы Амдала, позволяющая оценить влияние количества вычислительных устройств и характеристик коммуникационной среды на время решения задачи, а также долю последовательных операций в алгоритме по результатам экспериментов.

6. Получены экспериментальные значения времени решения прикладной задачи, заключавшейся в решении систем уравнений, на вычис1 лительных системах кластерного типа, которые подтвердили сокращение времени решения задач пропорционально количеству вычислительных устройств, задействованных в многопроцессорных комплексах. Определена зависимость времени выполнения задачи, заключающейся в решении систем уравнений, от ее размера при различном количестве используемых процессорных элементов.

7. Получены экспериментальные результаты, подтверждающие существование такого количества процессорных элементов, при котором время решения задачи наименьшее. Для задачи решения систем уравнений спрогнозировано время выполнения алгоритма при разных объемах обрабатываемой информации для вычислительных систем кластерного типа и оценены доля последовательных вычислений и доля операций передачи сообщений по коммуникационной среде, что позволило определить количество вычислительных устройств, при котором время решения задачи наименьшее. Время решения системы линейных уравнений из 1024 уравнений методом Гаусса-Жордана на пятнадцати вычислительных устройствах сокращается более чем в 10 раз относительно времени решения той же задачи на одном вычислительном устройстве.

Список литературы диссертационного исследования кандидат технических наук Мялицин, Вадим Владимирович, 2008 год

1. Акулов О. А1., Медведев Н. В. Информатика: базовый курс: Учебник для студентов вузов, бакалавров, магистров, обучающихся по направлениям 552800, 65460 "Информатика и вычислительная техника" / O.A. Акулов, Н.В.Медведев. М.:.Омега-Л, 2004. - 552 с.

2. Амстронг (мл.), Дж. Секреты UNIX: 2-е изд.: Пер. с англ.: Уч. пос. -М!: Издательский дом "Вильяме", 2000. 1072 е., ил.

3. Андреев А., Воеводин Вл., Жуматий С. Кластеры и суперкомпьютеры — близнецы или братья? // Открытые системы. 2000. - № 5-6. -С.9-14.

4. Андрианов А.Н., Ефимкин К.Н., Задыхайло И.Б. Язык Норма. //ИПМ АН СССР. 1985. - Препринт № 165 - С. 1-34.

5. Ахо А., Сети Р., Ульман Дж. Компиляторы: принципы, технологиии инструменты. М.: Вильяме, 2001. - 768 с. ■ ,»i *

6. Борзенко А. Суперкомпьютеры // Byte. — 2005. № 12.

7. Боэм Б. и др. Характеристики качества программного обеспечения: Пер. с англ. Е.К.Масловского. -М.: Мир, 1981.

8. Бурков В.Н., Заложнев А.Ю., Новиков Д.А. Теория графов в управлении организационными системами. -М.: Синтег, 2001. 124 с.

9. Вальковский В.А. Распараллеливание алгоритмов и программ. Структурный подход. М:: Радио и связь, 1989. - 176 е., ил.

10. Ю.Валях Е. Последовательно-параллельные вычисления: Пер. с англ. -М.: Мир, 1985.-456 е., ил.

11. Вирт Н. Алгоритмы и структуры данных. М.: Мир, 1989. - 360 с.

12. Воеводин В. В., Воеводин Вл. В. Параллельные вычисления. -СПб.: БХВ-Петербург, 2004. 608 е.: ил.

13. Воеводин В.В. Суперкомпьютерная грань компьютерного мира Электронный ресурс.: http://www.storus.ru/education/parallel super6.htm Загл. с экрана.

14. И.Воеводин Вл. В. Суперкомпьютеры: вчера, сегодня, завтра // Наука и жизнь. 2000. - № 5. - С. 76-83.

15. Волков Д. Не всякая пальма первенства приносит плоды // Открытые системы. 2000. - № 7-8.

16. Лю Лян. Исследование эффективности параллельных вычислений на кластере Московского Энергетического Института (технического университета): автореферат дис. канд. техн. наук. М., 2007. — 20 с.

17. Гнеденко Б.В., Коваленко И.Н. Введение в теорию массового обслуживания. 2-е изд., перераб. и доп. - М.: Наука. Гл. ред. физ.-мат. лит. - 1987.-336 с.

18. Головкин Б.А. Расчет характеристик и планирование параллельных вычислительных процессов. М.: Радио и связь, 1983. - 272 е., ил.

19. Положительное решение на заявку №2006116411. Способ обработки трехкратно принятых комбинаций / Данилов Б.И., Мялицин В.В., Теркин И.М. Заявл. 12.05.2006; опубл. 27.11.2007.

20. Евреинов Э.В., Косарев Ю.Г. Однородные универсальные вычислительные системы высокой производительности. — Новосибирск: Наука, 1966.-308 с.

21. Изосимов A.B., Рыжко A.JI. Метрическая оценка качества программ. -М., МАИ, 1989.

22. Касперски К. Техника оптимизации программ. Эффективное использование памяти. — М.: BHV, 2003. 560 с.

23. Касьянов В.Н. Оптимизирующие преобразования программ. М.: Наука, 1988.-336 с.

24. Кениг Д., Штойян Д. Методы теории массового обслуживания: Пер. с нем. / Под ред. Г.П. Климова. М.: Радио и связь, 1981. - 128 е., ил.

25. Вальковский В.А. Распараллеливание циклов общего вида методом пирамид // Кибернетика. 1985. N 4. - С. 16-21.

26. Коваленко В.Н., Корягин Д.А. Вычислительная инфраструктура будущего // Открытые системы. — 1999. № 11-12. — С. 45-52.

27. Высокоскоростные вычисления. Архитектура, производительность, прикладные алгоритмы и программы суперЭВМ: Пер. с англ. /Под ред. Я.Ковалика. М.: Радио и связь, 1988. - 432 е.: ил.

28. Вальковский В.А. Параллельное выполнение циклов. Метод параллелепипедов // Кибернетика. — 1982. № 2. - С. 51-62.

29. Вальковский В.А. Параллельное выполнение циклов. Метод пирамид // Кибернетика. 1983. -№ 5. - С. 51-55.

30. Кормен Т., Лейзерсон Ч., Ривест Р. Алгоритмы: построение и анализ. М.: Изд-во "МЦНМО", 2001. - 960 с.

31. Кочур А. П. Супер-ЭВМ. М.: Знание, 1978. - 64 с.

32. Крюков В.А. Разработка параллельных программ для вычислительных кластеров и сетей // Информационные технологии и вычислительные системы. 2003. - №'1-2. - С. 42-59.

33. Кузин Л.Т. Основы кибернетики: В 2-х т. Т.2 Основы кибернетических моделей. Учеб. пособие для вузов. М.: Энергия, 1979. - 584 е., ил.

34. Кузьминский М., Волков Д. Современные суперкомпьютеры: состояние и перспективы // Открытые системы. — 1995. — № 6. — С. 33-40.

35. Кузьминский М., Мускатин A. Fast Ethernet в кластерах Beowulf // Открытые системы. 2001. - №7-8. - С. 17.

36. Сапронов А. Обзор некоторых пакетов измерения производительности кластерных систем. Электронный ресурс.: http://www.ixbt.com/cpu/clustering.shtml Загл. с экрана.

37. Легалов А. Построение параллельных алгоритмов // Открытые системы. 2004. - № 9. - С. 64-68.

38. Липаев В.В. Качество программного обеспечения. — М.: Финансы и статистика, 1983.

39. Любченко В. Параллельные сортировки: быстрее, проще. умнее // Открытые системы. 2004. - № 5.

40. Майерс Г. Искусство тестирования программ. — М.: Финансы и статистика, 1982.

41. Малышкин В. От последовательных вычислений к параллельным! Электронный ресурс.: http://www.sbras.nsc.ru/HBC/1999/ пЗ7/12l.html - Загл. с экрана.

42. Мастрюков М. Алгоритмы сжатия информации. Часть 7. Сжатие графической информации. // Монитор. 1994. — № 6. - С. 12-20.

43. Мялицин В.В. Методика определения оптимального количества процессоров кластерной системы: Материалы V всероссийской научно-практической конференции студентов, аспирантов и молодых ученых. Томск: Изд-во ТПУ, 2007. - 468 с. - С. 433^34.

44. Мялицин В.В. Параллельные вычисления в помехоустойчивом кодировании: Материалы всероссийской научно-технической конференции студентов, молодых ученых и специалистов. — Рязань: Изд-во РГРА, 2005.

45. Мялицин В.В. Тенденции развития языковых средств описания задач. Современные проблемы информатизации в моделировании и программировании: Сб. трудов. Вып. 11/ Под ред. д.т.н., проф. О.Я.Кравца.1

46. Мялицин В.В. Эффективность параллельных вычислений в помехоустойчивом кодировании: Материалы всероссийской научной конференции молодых ученых в 7-ми частях. Новосибирск: Изд-во НГТУ, 2006. - Ч. 2. - 250 с., - С. 62-64.

47. Мялицин В.В., Шашков Б.Д. Транспортная среда распределенных вычислений: Труды 5-й Международной конференции молодых ученых и студентов "Актуальные проблемы современной науки" Самара, 2004. -Ч. 18-Б - 108 с. - С. 22-24.

48. Мялицин В.В., Шашков Б.Д. Транспортная среда распределенных вычислений ЯОК8: архитектура и технология работы: Труды VI Международной научно-технической конференции Пенза: Изд-во ПГУ, 2004. - Ч. 1. - 268 е., ил. - С. 62-69.

49. Мялицин В.В., Шашков Б.Д. Эвристика определения оптимального количества процессоров кластерной системы // Научно-технические ведомости СПбГПУ. 2007. - № 3 - С.113—118.

50. Мялицин В.В., Шашков Б.Д. Эффективность параллельной реализации алгоритмов помехоустойчивого кодирования- Рида-Соломона //Прикладная информатика. 2006. - № 3 - С. 120-129.

51. Невдяев JI. Теория и практика цифровой обработки сигналов // Сети. 1998. -№ 7-8.

52. Носов В.А. Основы теории алгоритмов и анализа их сложности: Курс лекций. -М., 1992. 140 с.

53. Осмоловский С.А. Стохастические методы защиты информации. -М.: Радио и связь, 2003. 320 е.: ил.

54. Панкратьев С. Упаковка решает все. // Chip. 2003. - № 1.

55. Вычислительная техника в инженерных и экономических расчетах: Учеб. для вузов. 2-е изд., перераб. и доп. / Петров A.B., Алексеев

56. B.Е., Титов М.А. и др.; Под ред. A.B. Петрова. М.: Высш. шк., 1984 -320 е., ил.

57. Питерсон Дж. Теория сетей Петри и моделирование систем. М.: Мир, 1984.-264 с.

58. Прангишвили И.В. и др. Параллельные вычислительные системы с общим управлением / И.В.Прангишвили, С.Я.Виленкин, И.Л.Медведев. М.: Энергоатомиздат, 1983. - 312 е., ил.

59. Робачевский А. Операционная система UNIX. СПб.: БХВ-Петербург, 2000. - 528с.: ил.

60. Русинович М. Возможности NTFS // Открытые системы. 2001. -№ 8. - С.31—35.

61. Саати Т.Л. Элементы теории массового обслуживания и ее приложения. М.: Изд-во "Советское радио", 1971. - 520 с.

62. Самойленко С.И. Помехоустойчивое кодирование. М.: Наука, 1966-240с.

63. Штейнберг Б .Я. Разбиение циклов для исполнения на суперкомпьютере со структурой перестраиваемого конвейера // Искусственный интеллект. Донецк, ДонДИШИ, Наука и Освита. 2002. - №3.1. C.331-338.

64. Свами М., Тхуласираман К. Графы, сети и алгоритмы. М.: Мир, 1984.-455 е., ил.

65. Серебряный К.С. Методы высокоуровневой оптимизации циклов: дис. канд. техн. наук: 05.13.11 / Серебряный Константин Сергеевич. — М., 2004. 92 с. - Библиогр.: с. 83 - 88.

66. Скляр Б. Цифровая связь. Теоретические основы и практическое применение. Изд. 2-е испр.: Пер. с англ. М.: Издательский дом "Вильяме", 2003. — 1104 е.: ил. - Парал. тит. англ.

67. Спиряев О. Технологии защиты памяти в серверах HP // Byte.2005.-№8.-С. 58-63.

68. Математические модели и оптимизация вычислительных алгоритмов. Сборник трудов факультета вычислительной математики и кибернетики МГУ / Под ред. А.Н.Тихонова, А.А.Самарского М.: Изд-во МГУ, 1993.-254 с.

69. Химич А.Н., Попов A.B., Чистякова Т.В., Рудич О.В., Герасимова Т.А. Исследование блочно-циклических алгоритмов на семействе кластеров СКИТ // Проблемы программирования. Специальный выпуск.2006.-№2.-С. 177-183.

70. Филамофитский М. П. Система поддержки метакомпьютерных расчетов Х-СОМ: архитектура и технология работы // Вычислительные методы и программирование, том 5, N1. М.: Изд-во МГУ, 2004. — С.128—137.

71. Французов Д. Оценка производительности вычислительных систем // Открытые системы. 1996. - № 2. - С. 58-66.

72. Фролов A.B. Оптимизация размещения массивов в Фортран- программах на многопроцессорных вычислительных системах // Программирование. 1998. - № 3. - С. 70-80.

73. Хабибуллин Д. Сравнительный анализ архитектур систем параллельной обработки Электронный ресурс. : http://elics.ras.ru/info/ sei 4daq/ru/ 9.html Загл. с экрана.

74. Черноножкин С. Меры сложности программ (Обзор) // Системная информатика, № 5, Новосибирск: Наука, 1996, Вып. 5. с. 188-227.

75. Штейнберг Б.Я. Распараллеливание рекуррентных циклов с условными операторами // Автоматика и телемеханика1. — 1995. — № 9. — С.176-184.

76. Шнитман В. Системы Exemplar SPP1200 // Открытые системы. -1995.-№6.-С. 42-47.

77. Математическое "моделирование : Пер. с англ. / Под ред. Дж. Энд-рюса и Р.Мак-Лоуна. М.: Мир, 1979. - 277 с.

78. Мультипроцессорные системы и параллельные вычисления : Пер. с англ. / Под ред. Ф.Г. Энслоу. М.: Мир, 1976. - 383 е., ил.

79. Как ИТ-специалисты взяли международный банк, и что из этого вышло // Поиск. 2003. - № 5.

80. Официальный сайт проекта Beowulf Электронный ресурс. : http://www.beowulf.org Загл. с экрана.

81. Развитие архитектур баз данных// Открытые системы-1995.-№5.

82. Разработка оптимизирующих компиляторов для современных суперкомпьютеров Электронный ресурс. : http://parallel.ru/news/ kennedy compilers.html — Загл. с экрана.

83. Фаддеева В.Н., Фаддеев Д.К. Параллельные вычисления в линейной алгебре. Часть 1 // Кибернетика. — 1977. № 6. — С. 28-40.

84. Штейнберг Б.Я. Распараллеливание рекуррентных программных циклов // Информационные технологии. 2004. - № 4. - С. 16-23.

85. Blum W., Doallo R., Eigenmann R. Parallel programming with Polaris // Computer 1992. - Vol.29, N 12. - P. 78-82.

86. Dijkstra E. Go to Statement Considered Harmful//Commun. ACM. -1968. V.l 1, № 3, - p. 147-148.

87. Halstead M. Elements of Software Science/Elsevier, N.Y., 1977. (Русск. перевод: Холстед M.X. Начало науки о программах. М.: Финансы и статистика, 1981).

88. Kuck D.J., Kuhn R.H., Leasure В., Wolfe M. The structure of advanced retargetable vectorizer. Tutorial on Supercomputers: Designs and Applications. / K. Hwang New York: Ed. IEEE Press, 1984. - P. 163-178.

89. Lamport L. The Parallel Execution of DO Loops. // Communications of ACM, Number 2, Volume 17, 1974.

90. Lastovetsky A. mpC a Multi-Paradigm Programming Language for Massively Parallel1 Computers // CACM. - Volume 31, Number 2. - 1996. -P. 13-20.

91. Воеводин В. В. Математические модели и методы в параллельных процессах. — М.: Наука. 1986. - 296 с.

92. Yong Z., Jiahua Q. Dynamic Detection of Parallelism in PASCAL-like Program.

93. Евстигнеев В.А., Спрогис C.B. Векторизация программ // Векторизация программ: теория, методы, реализация. -М.:Мир,1991,- С.246-267.

94. Евстигнеев В.А., Мирзуитова И.А. Анализ циклов: выбор кандидатов на распараллеливание. Препринт № 58, ИСИ РАН, Новосибирск.: 1999.-41 с.

95. McCabe T.J., Butler C.W. Design Complexity Measurement and Testing. // Communications of ACM, Volume 32.