1 ПОЛИГОН ГРИД В ИПМ РАН И РАЗРАБОТКА МЕТОДОВ УПРАВЛЕНИЯ РЕСУРСАМИ В ГЛОБАЛЬНОЙ СРЕДЕ Коваленко В.Н., Корягин Д.А. Институт прикладной математики им. М.В.Келдыша. - презентация

1 1 ПОЛИГОН ГРИД В ИПМ РАН И РАЗРАБОТКА МЕТОДОВ УПРАВЛЕНИЯ РЕСУРСАМИ В ГЛОБАЛЬНОЙ СРЕДЕ Коваленко В.Н., Корягин Д.А. Институт прикладной математики им. М.В.Келдыша РАН Keldysh Institute of Applied Mathematics Keldysh Institute of Applied Mathematics Russian Academy of Sciences Keldysh Institute of Applied Mathematics Keldysh Institute of Applied Mathematics Russian Academy of Sciences 11

2 2 Catlett, C. and Smarr, L. Metacomputing. Communications of the ACM, 35 (6) Catlett, C. and Smarr, L. Metacomputing. Communications of the ACM, 35 (6) Ian Foster, Carl Kesselman, Globus: A Metacomputing Infrastructure Toolkit, International Journal of Supercomputer Applications, 11(2): , Ian Foster, Carl Kesselman, Globus: A Metacomputing Infrastructure Toolkit, International Journal of Supercomputer Applications, 11(2): , The DataGrid Project, The DataGrid Project, Foster I., Kesselman C., Tuecke S. The Anatomy of the Grid: Enabling Scalable Virtual Organizations. International Journal of High Performance Computing Applications, 15 (3) Foster I., Kesselman C., Tuecke S. The Anatomy of the Grid: Enabling Scalable Virtual Organizations. International Journal of High Performance Computing Applications, 15 (3) Ian Foster, Carl Kesselman, Jeffrey M. Nick, Steven Tuecke. The Physiology of the Grid: An Open Grid Services Architecture for Distributed Systems Integration. Ian Foster, Carl Kesselman, Jeffrey M. Nick, Steven Tuecke. The Physiology of the Grid: An Open Grid Services Architecture for Distributed Systems Integration. Catlett, C. and Smarr, L. Metacomputing. Communications of the ACM, 35 (6) Catlett, C. and Smarr, L. Metacomputing. Communications of the ACM, 35 (6) Ian Foster, Carl Kesselman, Globus: A Metacomputing Infrastructure Toolkit, International Journal of Supercomputer Applications, 11(2): , Ian Foster, Carl Kesselman, Globus: A Metacomputing Infrastructure Toolkit, International Journal of Supercomputer Applications, 11(2): , The DataGrid Project, The DataGrid Project, Foster I., Kesselman C., Tuecke S. The Anatomy of the Grid: Enabling Scalable Virtual Organizations. International Journal of High Performance Computing Applications, 15 (3) Foster I., Kesselman C., Tuecke S. The Anatomy of the Grid: Enabling Scalable Virtual Organizations. International Journal of High Performance Computing Applications, 15 (3) Ian Foster, Carl Kesselman, Jeffrey M. Nick, Steven Tuecke. The Physiology of the Grid: An Open Grid Services Architecture for Distributed Systems Integration. Ian Foster, Carl Kesselman, Jeffrey M. Nick, Steven Tuecke. The Physiology of the Grid: An Open Grid Services Architecture for Distributed Systems Integration. Ключевые точки развития Грид 22

3 3 Вычислительный узел 1 (Миусская площадь Вычислительный узел 1 (Миусская площадь) Глобальная сеть Рабочая станция С-180 Локальный интерфейс Глобальный интерфейс Рабочая станция С-180 CONVEX 1600 D -serverК -server RAID Ленточный робот... Рабочие места пользователей PBS NFS Сетевой кластер... Рабочие места Доступ через Internet Локальная сеть 33

4 4 Вычислительный узел.2 (Калужская) PBS NFS Сетевой кластер... Рабочие места пользователей Доступ через Internet Локальная сеть Рабочая станция Fire (2 CPU) Рабочая станция Fire03 (2 CPU) Рабочая станция Fire02 (2 CPU) Рабочая станция Fire01 (2 CPU) Рабочая станция Fire Локальный интерфейс Глобальный интерфейс... Рабочие места пользователей Глобальная сеть 44

5 5 Пользователь находится в точке А, но может считать на процессорах в точке B и, возможно, С. Программа для счета хранится на файл-сервере в точке E, а данные должны браться из базы, размещенной в точке E1.

6 6 55 Globus Toolkit 2.x Управление заданиями (протокол Gram) Управление заданиями (протокол Gram) Передача файлов (GridFTP) Передача файлов (GridFTP) Информационное обслуживание (GIS) Информационное обслуживание (GIS) Безопасность (SSL) Безопасность (SSL)

7 7 66 Протокол GridFTP: глобальная безопасность, основанная на протоколе SSL глобальная безопасность, основанная на протоколе SSL частичное чтение/запись файлов частичное чтение/запись файлов возобновляемая передача возобновляемая передача параллельная многопотоковая передача параллельная многопотоковая передача

8 8 ИПМ РАН Вычислительный узел.1Вычислительный узел.2 GIIS Russian DataGrid (SINP MSU) I I Многоуровневая распределенная информационная служба GI S GRISGRIS GIS ( CERN ) Информаци- онная база ресурсов 88

9 9 Грид: Грид является согласованной, открытой и стандартизованной средой, которая обеспечивает гибкое, безопасное, скоординированное разделение ресурсов в рамках виртуальной организации – то есть динамически формирующейся совокупности независимых пользователей, учреждений и ресурсов. Среда Грид должна обеспечивать определенный гарантированный уровень обслуживания (QoS) Грид: Грид является согласованной, открытой и стандартизованной средой, которая обеспечивает гибкое, безопасное, скоординированное разделение ресурсов в рамках виртуальной организации – то есть динамически формирующейся совокупности независимых пользователей, учреждений и ресурсов. Среда Грид должна обеспечивать определенный гарантированный уровень обслуживания (QoS) 99

10 10 Архитектура Грид: взамодействующие между собой сетевые службы со стандарти-зированными интерфейсами. Грид становится открытым и расширяемым. Службы Грид строятся на основе Web- сервисов. Архитектура Грид: взамодействующие между собой сетевые службы со стандарти-зированными интерфейсами. Грид становится открытым и расширяемым. Службы Грид строятся на основе Web- сервисов Globus Toolkit 3.0 Open Grid Service Architecture (OGSA):

11 11 Слои архитектуры Grid: Связи Связи Управления ресурсами Управления ресурсами Удаленного доступа к ресурсам Удаленного доступа к ресурсам Кооперации Кооперации Координации Координации Слои архитектуры Grid: Связи Связи Управления ресурсами Управления ресурсами Удаленного доступа к ресурсам Удаленного доступа к ресурсам Кооперации Кооперации Координации Координации 1111

12 12 Запуск заданий через Globus Запуск заданий через Метадиспетчер Broker 1212

13 13 Решается на двух динамических множествах: 1) множестве заданий и 2) множестве ресурсов. Результаты планирования: -Время запуска каждой задачи -Место, где должна выполняться задача Решается на двух динамических множествах: 1) множестве заданий и 2) множестве ресурсов. Результаты планирования: -Время запуска каждой задачи -Место, где должна выполняться задача 1313 Задача планирования для Грид

14 14 - большое количество объектов планирования (заданий и ресурсов); -глобальная распределенность этих объектов; -отсутствие прямого доступа к ресурсам: ими управляют локальные диспетчеры. Кроме того, организация Грид основана на принципе автономии, согласно которому владельцы ресурсов выделяют для использования в Грид только их часть, оставляя остальные для внутренних (локальных) заданий. - большое количество объектов планирования (заданий и ресурсов); -глобальная распределенность этих объектов; -отсутствие прямого доступа к ресурсам: ими управляют локальные диспетчеры. Кроме того, организация Грид основана на принципе автономии, согласно которому владельцы ресурсов выделяют для использования в Грид только их часть, оставляя остальные для внутренних (локальных) заданий Специфика планирования в Грид

15 15 Config.Config. Config. file Два уровня управления – локальный и глобальный, каждый с собственными объектами: задание, очередь, и система управления – Локальный монитор ресурсов (LRM) и Метадиспетчер. Global level LRM Local queue Local level MetaDispatcherMetaDispatcher jobjob jobjob jobjob jobjob Global queue 1515

16 16 РасписаниеРасписание Resource Future Time Future Time Running job priority1priority1 priority2priority2 priority4priority4 priority3priority3 Локальное расписание – это план занятия ресурсов локальными заданиями на определенный период времени в будущем. 1616

17 17 Data Base jobjob jobjob jobjob jobjob Global queue Программная архитектура планирования Agent LRM Agent LRM Agent Queue LRM SchedulerScheduler 1717

18 18 Грид имеет перспективу Грид имеет перспективу Чтобы ее реализовать на практике, можно работать в трех областях: Чтобы ее реализовать на практике, можно работать в трех областях: Определение и разработка сервисов, поддерживающих функционирование ГридОпределение и разработка сервисов, поддерживающих функционирование Грид Применения ГридПрименения Грид Создание адекватной телекоммуникационной инфраструктурыСоздание адекватной телекоммуникационной инфраструктуры Грид имеет перспективу Грид имеет перспективу Чтобы ее реализовать на практике, можно работать в трех областях: Чтобы ее реализовать на практике, можно работать в трех областях: Определение и разработка сервисов, поддерживающих функционирование ГридОпределение и разработка сервисов, поддерживающих функционирование Грид Применения ГридПрименения Грид Создание адекватной телекоммуникационной инфраструктурыСоздание адекватной телекоммуникационной инфраструктуры

19 19 1.Новые типы распределенных приложений 2.Новые способы создания приложений 3.Общие службы – на всех уровнях и, в том числе на уровнях кооперации и координации 4.Активное управление телекоммуникациями 1.Новые типы распределенных приложений 2.Новые способы создания приложений 3.Общие службы – на всех уровнях и, в том числе на уровнях кооперации и координации 4.Активное управление телекоммуникациями Вопрос: Будет ли Грид полезен для Интернет?

20 20 1.Catlett, C. and Smarr, L. Metacomputing. Communications of the ACM, 35 (6) Ian Foster, Carl Kesselman, Globus: A Metacomputing Infrastructure Toolkit, International Journal of Supercomputer Applications, 11(2): , The DataGrid Project: 4.Foster I., Kesselman C., Tuecke S. The Anatomy of the Grid: Enabling Scalable Virtual Organizations. International Journal of High Performance Computing Applications, 15 (3) Ian Foster, Carl Kesselman, Jeffrey M. Nick, Steven Tuecke. The Physiology of the Grid: An Open Grid Services Architecture for Distributed Systems Integration. 6.С.А.Богданов, В.Н.Коваленко, Е.В.Хухлаев, О.Н.Шорин, Метадиспетчер: реализация средствами метакомпьютерной системы Globus. Препринт ИПМ РАН, 30, стр. 1-23, Москва, V.N.Kovalenko, E.I.Kovalenko, D.A.Koryagin, E.Z.Ljubimskii, A.V.Orlov, E.V.Huhlaev, Resource Manager for Grid with global job queue and with planning based on local schedules, VIII International Workshop on Advanced Computing and Analysis Techniques in Physics Research, ACAT2002 Book of Abstracts, June, 2002, Moscow, p Catlett, C. and Smarr, L. Metacomputing. Communications of the ACM, 35 (6) Ian Foster, Carl Kesselman, Globus: A Metacomputing Infrastructure Toolkit, International Journal of Supercomputer Applications, 11(2): , The DataGrid Project: 4.Foster I., Kesselman C., Tuecke S. The Anatomy of the Grid: Enabling Scalable Virtual Organizations. International Journal of High Performance Computing Applications, 15 (3) Ian Foster, Carl Kesselman, Jeffrey M. Nick, Steven Tuecke. The Physiology of the Grid: An Open Grid Services Architecture for Distributed Systems Integration. 6.С.А.Богданов, В.Н.Коваленко, Е.В.Хухлаев, О.Н.Шорин, Метадиспетчер: реализация средствами метакомпьютерной системы Globus. Препринт ИПМ РАН, 30, стр. 1-23, Москва, V.N.Kovalenko, E.I.Kovalenko, D.A.Koryagin, E.Z.Ljubimskii, A.V.Orlov, E.V.Huhlaev, Resource Manager for Grid with global job queue and with planning based on local schedules, VIII International Workshop on Advanced Computing and Analysis Techniques in Physics Research, ACAT2002 Book of Abstracts, June, 2002, Moscow, p. 31. ЛитератураЛитература2020

21 21 1.Коваленко В.Н., Корягин Д.А. Вычислительная инфраструктура будущего. Открытые системы, (1999), стр , 2.Хухлаев Е.В. Metamake – средство подготовки программ в сетевой гетерогенной среде. Препринт ИПМ РАН, 28, стр. 1-32, Москва, Коваленко Коваленко В.Н. Проблемы сетевых файловых систем. Открытые системы, 3 (1999), стр. 9-15, 4.В.Н., Коваленко Е.И. Пакетная обработка заданий в компьютерных сетях. Открытые системы, 7-8 (2000), стр М.К. Валиев, Е.Л. Китаев, М.И.Слепенков. « Служба директорий LDAP как инструментальное средство для создания распределенных информационных систем». Препринт ИПМ РАН, 23, стр. 1-22, Москва, Коваленко В.Н., Корягин Д.А. Вычислительная инфраструктура будущего. Открытые системы, (1999), стр , 2.Хухлаев Е.В. Metamake – средство подготовки программ в сетевой гетерогенной среде. Препринт ИПМ РАН, 28, стр. 1-32, Москва, Коваленко Коваленко В.Н. Проблемы сетевых файловых систем. Открытые системы, 3 (1999), стр. 9-15, 4.В.Н., Коваленко Е.И. Пакетная обработка заданий в компьютерных сетях. Открытые системы, 7-8 (2000), стр М.К. Валиев, Е.Л. Китаев, М.И.Слепенков. « Служба директорий LDAP как инструментальное средство для создания распределенных информационных систем». Препринт ИПМ РАН, 23, стр. 1-22, Москва, 2000 Список трудов 2121

22 22 6.Коваленко В.Н., Коваленко Е.И., Корягин Д.А, Любимский Э.З., Хухлаев Е.В., Управление заданиями в распределенной вычислительной среде. Открытые системы, 5-6 (2001), стр , 7.С.А.Богданов, В.Н.Коваленко, Е.В.Хухлаев, О.Н.Шорин, Метадиспетчер: реализация средствами метакомпьютерной системы Globus. Препринт ИПМ РАН, 30, стр. 1-23, Москва, В.Н.Коваленко, А.В.Орлов, Управление заданиями в распределенной среде и протокол резервирования ресурсов. Препринт ИПМ РАН, 1, стр. 1-25, Москва, В.Н. Коваленко, Е.И. Коваленко, Д.А. Корягин, Э.З. Любимский, А.В. Орлов, Е.В. Хухлаев, Структура и проблемы развития программного обеспечения среды распределенных вычислений Грид. Препринт ИПМ РАН, 22, стр. 1-23, Москва, V.N.Kovalenko, E.I.Kovalenko, D.A.Koryagin, E.Z.Ljubimskii, A.V.Orlov, E.V.Huhlaev, Resource manager for GRID with global job queue and with planning based on local schedules, Nuclear Inst. and Methods in Physics Research, A, vol. 502/2-3, pp 411 – 414, Elsevier Science, Коваленко В.Н., Коваленко Е.И., Корягин Д.А, Любимский Э.З., Хухлаев Е.В., Управление заданиями в распределенной вычислительной среде. Открытые системы, 5-6 (2001), стр , 7.С.А.Богданов, В.Н.Коваленко, Е.В.Хухлаев, О.Н.Шорин, Метадиспетчер: реализация средствами метакомпьютерной системы Globus. Препринт ИПМ РАН, 30, стр. 1-23, Москва, В.Н.Коваленко, А.В.Орлов, Управление заданиями в распределенной среде и протокол резервирования ресурсов. Препринт ИПМ РАН, 1, стр. 1-25, Москва, В.Н. Коваленко, Е.И. Коваленко, Д.А. Корягин, Э.З. Любимский, А.В. Орлов, Е.В. Хухлаев, Структура и проблемы развития программного обеспечения среды распределенных вычислений Грид. Препринт ИПМ РАН, 22, стр. 1-23, Москва, V.N.Kovalenko, E.I.Kovalenko, D.A.Koryagin, E.Z.Ljubimskii, A.V.Orlov, E.V.Huhlaev, Resource manager for GRID with global job queue and with planning based on local schedules, Nuclear Inst. and Methods in Physics Research, A, vol. 502/2-3, pp 411 – 414, Elsevier Science,