ДИНАМИЧЕСКИ ФОРМИРУЕМЫЕ ПАРАЛЛЕЛЬНЫЕ СРЕДЫ В УСЛОВИЯХ ГРИД-ПОЛИГОНОВ, ПРОБЛЕМЫ И РЕШЕНИЯ Варламов Дмитрий Волохов В.М., Пивушков А.В., Сурков Н.Ф., Волохов. - презентация

1 ДИНАМИЧЕСКИ ФОРМИРУЕМЫЕ ПАРАЛЛЕЛЬНЫЕ СРЕДЫ В УСЛОВИЯХ ГРИД-ПОЛИГОНОВ, ПРОБЛЕМЫ И РЕШЕНИЯ Варламов Дмитрий Волохов В.М., Пивушков А.В., Сурков Н.Ф., Волохов А.В. Институт проблем химической физики РАН, г. Черноголовка Отдел вычислительных и информационных ресурсов ИПХФ РАН Сектор вычислительной химии ПаВТ'2011, март 2011, Московский Государственный университет им.М.В.Ломоносова

2 разнородность распределенных вычислительных ресурсов сужение круга доступных ресурсов; необходимость предварительной установки прикладных пакетов (ПП) на ресурсный сайт, часто включая настройку всех расчетных узлов требование наличия специфичных параллельных сред и дополнительных библиотек при запуске ПП на произвольном грид-ресурсе могут отсутствовать; ПаВТ'2011, март 2011, Московский Государственный университет им.М.В.Ломоносова Некоторые проблемы запуска прикладных пакетов в распределенных средах

3 необходимость создания сложной информационной среды из конфигурационных настроек, дополнительных служб, хранилищ данных и прочих компонентов; невозможность /трудоемкость перенастройки работающих ресурсов для нужд распределенных вычислений и под конкретные прикладные пакеты; особенности лицензирования; конфликты приложений Итог – запуск прикладного пакета в Грид-среду, как правило, не будет успешным ПаВТ'2011, март 2011, Московский Государственный университет им.М.В.Ломоносова Некоторые проблемы запуска прикладных пакетов в распределенных средах (часть 2)

4 Конечный Грид пользователь Брокеры ресурсов Грид полигонов Разнородные Linux (и Windows) ластеры Суперкомпьютеры Разнообразие ресурсов и вычислительных сред ПаВТ'2011, март 2011, Московский Государственный университет им.М.В.Ломоносова ???? ???? ????

5 Программа фундаментальных исследований Президиума РАН 13 ( ) «Проблемы создания национальной научной распределенной информационно-вычислительной среды на основе развития грид-технологий и современных телекоммуникационных сетей» Тема: «Исследования по применимости различных методов виртуализации в условиях распределенных сред»: адаптация прикладных квантово-химических пакетов к работе в условиях разных распределенных сред, в том числе с использованием динамически формируемых переносимых параллельных сред – «виртуализация» приложений; создание и применение виртуальных машин в качестве ресурсных узлов распределенных сред для расширения их функциональности – «виртуализация» ресурсов ПаВТ'2011, март 2011, Московский Государственный университет им.М.В.Ломоносова

6 ТЕСТИРУЕМЫЕ ВЫЧИСЛИТЕЛЬНЫЕ ПОЛИГОНЫ ПаВТ'2011, март 2011, Московский Государственный университет им.М.В.Ломоносова Национальная нанотехнологическая сеть (ННС) EGI/RU-NGI Грид-центр ИПХФ РАН объединяет ресурсные сайты и UI нескольких грид- полигонов: Грид middleware – gLite Грид middleware – modified Globus GT4 Грид middleware – Unicore

7 ПаВТ'2011, март 2011, Московский Государственный университет им.М.В.Ломоносова Был проведен анализ процедуры исполнения типичного параллельного задания на ресурсном грид-узле (для сред gLite, Unicore, Globus GT4) была выбрана параллельнаясреда Mpich-2 и сформирован перемещаемый программный пакет MPI-2 была разработана технология создания динамически формируемых образов исполняемых сред, или виртуальных «контейнеров», создан прототип подобных образов Создан «контейнер» для квантово-химического пакета GAMESS-US

8 Окончательные результаты Формирование и запуск виртуального вычислительного «контейнера» User Interface (в том числе в составе WWW портала) Пакет GAMESS Конфигурационные файлы Параллельные библиотеки Данные ГРИД среды Произвольный Linux кластер MPICH-2 «кольцо» GECP портал Виртуальный вычислительный «контейнер» Скрипты настройки и запуска Бинарные файлы GAMESS, скомпилированные с поддержкой MPI-2 Конфигурационные файлы GAMESS Исполняемые файлы и бинарные библиотеки пакета Mpich-2 Скрипты распаковки контейнера, развертывания MPI и GAMESS, настроек удаленного узла Пользовательские данные 114 групп, более 500 параметров Упаковка «контейнера», подготовка задачи распределенной среды Передача задачи на брокер ресурсов распределенной среды Передача задачи на ресурсный сайт распределенной среды Запуск задачи распределенной среды на ресурсном сайте 1.сбор начальной информации о текущем ресурсном узле 2.распаковка модуля в рабочей директории и перемещение библиотек в /tmp на текущем локальном узле (ТЛУ); 3.подготовка файла mpd.conf на ТЛУ для запуска MPI сервера mpd; 4.переопределение на ТЛУ ряда переменных среды окружения для GRID пользователя; 5.запуск сервера mpd (с правами пользователя) на стартовом узле и проведение его runtime тестирования; 6.сбор информации о доступных узлах и их текущем состоянии в файл mpd.hosts Распределение по ssh необходимых библиотек по списку свободных узлов запуск «кольца» серверов mpd и проведение runtime тестирования запуск параллельного GAMESS и работа как распределенного задания удаление всех библиотек и созданных временных файлов со всех узлов Передача результатов расчета на пользовательский интерфейс ПаВТ'2011, март 2011, Московский Государственный университет им.М.В.Ломоносова

9 ПРОБЛЕМЫ И НЕДОСТАТКИ МЕТОДА Ограничения : аппаратные архитектуры x86 и em64t; грид-ресурсы на базе Linux; коммуникации между расчетными узлами используется интерфейс TCP/IP и беспарольный доступ по ssh (включая копирование файлов), поддержка NFS ресурсов; Особенности реализации MPI для различных прикладных пакетов (включая доступ к исходным текстам) Политики безопасности разных кластеров Реализация доступа к общим дисковым ресурсам Возможность передачи файлов между расчетными узлами Особенности запусков низкоуровневых сценариев Некоторые настройки PBS кластеров и др.

10 Метод формирования «виртуального» приложения, которое в виде единого «контейнера» доставляется на ресурсный узел вместе со всеми конфигурационными настройками, относящимися к ОС и ПП, включая поддержку необходимых параллельных протоколов, и не требуя процедуры предварительной установки и настройки – решены проблемы установки и настройки ПП. Частично преодолена разнородность доступных распределенных вычислительных ресурсов; Отсутствует необходимость создания дополнительной системы из конфигурационных настроек, служб, хранилищ данных и прочих компонентов информационно- вычислительной инфраструктуры для конкретного ПП (например, поддержка различных параллельных протоколов); Устранена возможность конфликтов приложений (как между программами, так и экземплярами одного приложения) Результаты и перспективы ПаВТ'2011, март 2011, Московский Государственный университет им.М.В.Ломоносова

11 Создание «контейнеров» для прикладных пакетов с доступным кодом – возможно, для других параллельных сред; Реализация метода в виде запуска виртуальных машин (недостатки – объем трафика и накладные расходы на виртуализацию) Результаты и перспективы ПаВТ'2011, март 2011, Московский Государственный университет им.М.В.Ломоносова