Интернет Университет Суперкомпьютерных технологий Лекция 4 Методы построения параллельных программ (продолжение) Учебный курс Введение в параллельные алгоритмы. - презентация

1 Интернет Университет Суперкомпьютерных технологий Лекция 4 Методы построения параллельных программ (продолжение) Учебный курс Введение в параллельные алгоритмы Якобовский Михаил Владимирович проф., д.ф.-м.н. Институт прикладной математики им. М.В.Келдыша РАН, Москва 1

2 Методы построения параллельных алгоритмов и их свойства: –Статическая балансировка метод сдваивания геометрический параллелизм конвейерный параллелизм –Динамическая балансировка коллективное решение диффузная балансировка загрузки Содержание лекции Москва, 2012 г. 2 Введение в параллельные алгоритмы: Методы построения параллельных программ © Якобовский М.В.

3 Метод сдваивания Москва, 2012 г. Каскадная схема Модифицированная каскадная схема В.П.Гергель Основы параллельных вычислений, лекция 4, слайд 23 В.П.Гергель Основы параллельных вычислений, лекция 4, слайд 23 3 Введение в параллельные алгоритмы: Методы построения параллельных программ © Якобовский М.В.

4 Метод геометрического параллелизма Москва, 2012 г. 4 Введение в параллельные алгоритмы: Методы построения параллельных программ © Якобовский М.В.

5 Метод коллективного решения (укладка паркета) Москва, 2012 г. Число порций Обработка порции Обмен данными r – размер порции 5 Введение в параллельные алгоритмы: Методы построения параллельных программ © Якобовский М.В.

6 Метод конвейерного параллелизма Москва, 2012 г. 6 Введение в параллельные алгоритмы: Методы построения параллельных программ © Якобовский М.В.

7 Метод конвейерного параллелизма Москва, 2012 г. 7 Введение в параллельные алгоритмы: Методы построения параллельных программ © Якобовский М.В.

8 Москва, 2012 г. Введение в параллельные алгоритмы: Методы построения параллельных программ © Якобовский М.В. 8 Метод конвейерного параллелизма for(t=0; t

9 Москва, 2012 г. Введение в параллельные алгоритмы: Методы построения параллельных программ © Якобовский М.В. 9 Метод конвейерного параллелизма процессор 0 процессор 1 процессор 2 процессор 3

10 Москва, 2012 г. Введение в параллельные алгоритмы: Методы построения параллельных программ © Якобовский М.В. 10 Метод конвейерного параллелизма процессор 0 процессор 1 процессор 2 процессор 3

11 Москва, 2012 г. Введение в параллельные алгоритмы: Методы построения параллельных программ © Якобовский М.В. 11 Метод конвейерного параллелизма процессор 0 процессор 1 процессор 2 процессор 3

12 Москва, 2012 г. Введение в параллельные алгоритмы: Методы построения параллельных программ © Якобовский М.В. 12 Метод конвейерного параллелизма процессор 0 процессор 1 процессор 2 процессор 3

13 Москва, 2012 г. Введение в параллельные алгоритмы: Методы построения параллельных программ © Якобовский М.В. 13 Метод конвейерного параллелизма процессор 0 процессор 1 процессор 2 процессор 3

14 Москва, 2012 г. Введение в параллельные алгоритмы: Методы построения параллельных программ © Якобовский М.В. 14 Метод конвейерного параллелизма процессор 0 процессор 1 процессор 2 процессор 3

15 Москва, 2012 г. Введение в параллельные алгоритмы: Методы построения параллельных программ © Якобовский М.В. 15 Метод конвейерного параллелизма процессор 0 процессор 1 процессор 2 процессор 3

16 Москва, 2012 г. Введение в параллельные алгоритмы: Методы построения параллельных программ © Якобовский М.В. 16 Метод конвейерного параллелизма процессор 0 процессор 1 процессор 2 процессор 3

17 Москва, 2012 г. Введение в параллельные алгоритмы: Методы построения параллельных программ © Якобовский М.В. 17 Метод конвейерного параллелизма процессор 0 процессор 1 процессор 2 процессор 3

18 Москва, 2012 г. Введение в параллельные алгоритмы: Методы построения параллельных программ © Якобовский М.В. 18 Метод конвейерного параллелизма процессор 0 процессор 1 процессор 2 процессор 3

19 Москва, 2012 г. Введение в параллельные алгоритмы: Методы построения параллельных программ © Якобовский М.В. 19 Метод конвейерного параллелизма процессор 0 процессор 1 процессор 2 процессор 3

20 Метод конвейерного параллелизма Москва, 2012 г. 20 Введение в параллельные алгоритмы: Методы построения параллельных программ © Якобовский М.В.

21 Москва, 2012 г. Введение в параллельные алгоритмы: Методы построения параллельных программ © Якобовский М.В. 21 Метод конвейерного параллелизма процессор 0 процессор 1 процессор 2 процессор 3

22 Москва, 2012 г. Введение в параллельные алгоритмы: Методы построения параллельных программ © Якобовский М.В. 22 Объём хранимых данных процессор 0 процессор 1 процессор 2 процессор 3

23 Москва, 2012 г. Введение в параллельные алгоритмы: Методы построения параллельных программ © Якобовский М.В. 23 Учет стартовых и финальных затрат процессор 0 процессор 1 процессор 2 процессор 3

24 Москва, 2012 г. Введение в параллельные алгоритмы: Методы построения параллельных программ © Якобовский М.В. 24 Учет стартовых и финальных затрат

25 Москва, 2012 г. Введение в параллельные алгоритмы: Методы построения параллельных программ © Якобовский М.В. 25 Учет стартовых и финальных затрат Метод эффективен при Максимальная степень параллелизма: Максимальное ускорение:

26 Причины дисбаланса вычислительной нагрузки –Разные процессоры –Внешнее воздействие –Разная вычислительная сложность заданий Результат дисбаланса –Эффективная производительность определяется самым медленным процессором Диффузная балансировка Москва, 2012 г. 26 Введение в параллельные алгоритмы: Методы построения параллельных программ © Якобовский М.В.

27 Медленный процессор Москва, 2012 г. Какой объем работ забрать у среднего процессора и кому его передать? 27 Введение в параллельные алгоритмы: Методы построения параллельных программ © Якобовский М.В.

28 Метод геометрического параллелизма Москва, 2012 г. 28 Введение в параллельные алгоритмы: Методы построения параллельных программ © Якобовский М.В.

29 Метод геометрического параллелизма Москва, 2012 г. 29 Введение в параллельные алгоритмы: Методы построения параллельных программ © Якобовский М.В.

30 Диффузная балансировка загрузки Москва, 2012 г. 30 Введение в параллельные алгоритмы: Методы построения параллельных программ © Якобовский М.В.

31 Диффузная балансировка загрузки Москва, 2012 г. 31 Введение в параллельные алгоритмы: Методы построения параллельных программ © Якобовский М.В.

32 Диффузная балансировка загрузки Москва, 2012 г. 32 Введение в параллельные алгоритмы: Методы построения параллельных программ © Якобовский М.В.

33 Статическое распределение Москва, 2012 г. 33 Введение в параллельные алгоритмы: Методы построения параллельных программ © Якобовский М.В.

34 Москва, 2012 г. Постановка задачи диффузной балансировки Дано: Количество точек – N Количество процессоров – p Процессор i обработал n i точек за время t i Требуется: Найти количества точек n i, которое следует обработать процессорам на следующем шаге Определить сколько точек каждый из процессоров должен передать соседним процессорам 34 Введение в параллельные алгоритмы: Методы построения параллельных программ © Якобовский М.В.

35 Москва, 2012 г. 35 Введение в параллельные алгоритмы: Методы построения параллельных программ © Якобовский М.В. Диффузная балансировка В предположении одинаковой трудоёмкости обработки каждой из точек

36 Статическая и динамическая балансировка загрузки процессоров –Статическая балансировка метод сдваивания геометрический параллелизм конвейерный параллелизм –Динамическая балансировка коллективное решение диффузная балансировка Москва, 2012 г. 36 Введение в параллельные алгоритмы: Методы построения параллельных программ © Якобовский М.В. Простые алгоритмы

37 Иные алгоритмы Москва, 2012 г. Замедлить, чтобы выполнить быстрее 37 Введение в параллельные алгоритмы: Методы построения параллельных программ © Якобовский М.В.

38 r=0; for(i=0;i

39 Последовательное распространение разряда переноса на четырёх процессорах «Параллельный» алгоритм Москва, 2012 г. 39 Введение в параллельные алгоритмы: Методы построения параллельных программ © Якобовский М.В.

40 Спекулятивное вычисление двух сумм Спекулятивный алгоритм Москва, 2012 г Введение в параллельные алгоритмы: Методы построения параллельных программ © Якобовский М.В.

41 r1=0; r2=1; for(i=0;i

42 Спекулятивное вычисление двух сумм Спекулятивный алгоритм Москва, 2012 г Введение в параллельные алгоритмы: Методы построения параллельных программ © Якобовский М.В.

43 Общая схема вычислений дополнительные затраты Москва, 2012 г. K = ; шаг_вывода = ; for(шаг=0;шаг

44 Рассмотрены некоторые методы построения параллельных алгоритмов Рассмотрен алгоритм диффузной балансировки загрузки процессоров Представлен масштабируемый параллельный алгоритм, основанный на неэффективном последовательном алгоритме Заключение Москва, 2012 г. 44 Введение в параллельные алгоритмы: Методы построения параллельных программ © Якобовский М.В.

45 Якобовский М.В. проф., д.ф.-м.н., зав. сектором «Программного обеспечения вычислительных систем и сетей» Института прикладной математики им. М.В.Келдыша Российской академии наук mail: web: Контакты Москва, 2012 г. 45 Введение в параллельные алгоритмы: Методы построения параллельных программ © Якобовский М.В.