ВМК-20
Computational Aerodynamics & Aeroacoustics Laboratory
Keldysh Institute of Applied Mathematics of RAS
 
4, Miusskaya Sq., Moscow, 125047, Russia, phone: (7 499) 2207218
Main page

Параллельные (высокопроизводительные) вычисления – М1 ВМК

Текущая информация


Обратная связь: This email address is being protected from spambots. You need JavaScript enabled to view it.

Ссылки в прошлое:
http://caa.imamod.ru/vmk19/ – прошлогодняя страница курса 

Доступ к кластерам ВМК:
контакты: This email address is being protected from spambots. You need JavaScript enabled to view it.; This email address is being protected from spambots. You need JavaScript enabled to view it.
http://wiki.cs.msu.ru – инструкция по ssh
http://hpc.cs.msu.ru – мануал от системы очередей

Экзамен


Пересдача:
Время: 12 февр. 2021 03:00 PM Москва
Подключиться к конференции Zoom

https://us02web.zoom.us/j/87149582309?pwd=dWlMcGVBRGpGSVJQZDlxd3dVV2EyZz09
Идентификатор конференции: 871 4958 2309
Код доступа: MSUCMC

Экзамен начнется 12.01.2021 в 11:00 в удаленном режиме по Zoom
Перед началом экзамена на всякий случай посмотрите обновление информации на сайте. 
Перед экзаменом будут консультации. Первая консультация 28.12.2020 в 16:20. 
На экзамене будут обсуждаться отчеты по сделанным заданиям, будут билеты с вопросами, будут заданы дополнительные вопросы и предложены задачи.
Список вопросов и примеры задач (PDF)

Учебные материалы к лекциям 1-6

Задания


Задания будут приниматься удаленно через онлайн систему https://moodle.cs.msu.ru/. После первого входа необходимо зарегистрироваться на курс "Параллельные высокопроизводительные вычисления". В случае возникновения проблем с системой moodle обращайтесь по адресу: parallelprogrammingrus@gmail.com
Отдельные этапы не надо сдавать в систему, сдаваться будет всё задание.  
Пожалуйста, пишите, если обнаружите неточности и ошибки в заданиях, или если возникнут вопросы.

Таблица с результатами проверки заданий

Практическое задание 1
Этап 1.
 Генерация портрета матрицы по модельной сетке.
Этап 2. Заполнение матрицы и правой части СЛАУ.
Этап 3. Решение СЛАУ методом сопряженных градиентов, OpenMP распараллеливание.
Этап 4. Выдача контрольных значений, проверка корректности, выдача результатов таймирования.
Описание задания 1 в формате PDF (обновление от 30.09)
Отчет должен быть представлен по всему заданию в формате pdf.
Прикладывать его необходимо отдельным файлом, не в архиве с остальными материалами.
Срок: 18.10.2020


Практическое задание 1+
Задание выполнять не обязательно, только по желанию.
Реализация Solve-части (решение СЛАУ) задания 1 на OpenCL/CUDA
Если сделаете, пишите на адрес обратной связи (см. выше).
Срок выполнения 07.12

Практическое задание 2 
MPI распараллеливание (распределенная реализация) задания 1. 
Описание задания в формате PDF (от 13.10)
Срок выполнения 29.11

Лекции

Там к лекциям прилагаются черновики учебных материалов, которые еще сильно недоделанные, к сожалению. Но, наверное, лучше, чем ничего, пусть будут. Там попадаются ссылки на литературу, если что, у меня они почти все есть, спрашивайте, вышлю pdf, если надо. 
Объединенные и чуть более доделанные материалы по лекциям 1-6 доступны по ссылке по этой ссылке


Лекция 17 Отказоустойчивые расчеты на экзафлопсных вычислительных системах

Презентация в формате PDF

http://lira.imamod.ru/msu202009/

Лекция 16 Динамическая балансировка загрузки процессоров

Презентация в формате PDF

http://lira.imamod.ru/msu202009/

Лекция 15 Барьерная синхронизация

Презентация в формате PDF

http://lira.imamod.ru/msu202009/

Лекция 14 Псевдослучайные числа для расчетов на многопроцессорных системах

Презентация в формате PDF

http://lira.imamod.ru/msu202009/

Лекция 13  Рациональная декомпозиция сеточных графов

Презентация в формате PDF

http://lira.imamod.ru/msu202009/

Лекция 12  Сортировка данных с точки зрения МВС

Презентация в формате PDF

http://lira.imamod.ru/msu202009/

Лекция 11  Параллельные модели, ускорение, эффективность

Презентация в формате PDF

http://lira.imamod.ru/msu202009/

Лекция 10  Методы построения параллельных алгоритмов и их свойства

Презентация в формате PDF

http://lira.imamod.ru/msu202009/

Лекция 9  Простые параллельные алгоритмы

Презентация в формате PDF

http://lira.imamod.ru/msu202009/

Лекция 8  Архитектура процессора под другим углом

Презентация в формате PDF

http://lira.imamod.ru/msu202009/
 

Лекция 7  И снова введение в параллельные вычисления

Презентация в формате PDF

http://lira.imamod.ru/msu202009/
 

Лекция 6 (19.10.20)  Гетерогенные вычисления на CPU и GPU

 Содержание

  • Гибридная вычислительная система
  • Многоуровневая декомпозиция
  • Совместные вычисления на CPU и ускорителях

Презентация в формате PDF

Недоделанный черновик раздела в учебное пособие в формате PDF

Лекция 5 (12.10.20)  Вычисления общего назначения на GPU. Стандарт OpenCL. Часть 1. 

Содержание

  • Устройство графического процессора GPU, отличия от CPU
  • Понятие потоковой обработки
  • Вычислительный стандарт OpenCL
  • Организация доступа к памяти
  • Примеры

Презентация в формате PDF

Исходный код тестового примера для OpenCL

Недоделанный черновик раздела в учебное пособие в формате PDF

 

Лекция 4 (05.10.20)  MIMD с распределённой памятью. MPI распараллеливание 

Содержание

  • Виды MPI обменов
  • Распределение работы - декомпозиция графа 
  • Организация обмена данными, оптимизация
  • Параллельная эффективность и масштабирование
  • Сокрытие обменов за вычислениями
  • Тестовые примеры по MPI обменам

Презентация в формате PDF

Недоделанный черновик раздела в учебное пособие в формате PDF

Исходный код примера с MPI обменами

 

Лекция 3 (28.09.20)  MIMD с общей памятью. Многопоточное распараллеливание OpenMP

Содержание

  • Основные директивы OpenMP, простейшие примеры
  • Накладные расходы и проблемы
  • Способы устранения конфликтов по доступу к данным на примере сеточного метода
  • NUMA, affinity
  • работа с кластерами ВМК

Презентация в формате PDF

Недоделанный черновик раздела в учебное пособие в формате PDF

Презентация про доступ к кластерам


Лекция 2 (14.09.20)  Внутренний параллелизм процессорного ядра, устройство памяти

Содержание

  • Параллелизм CPU ядра: конвейер, суперскалярность, SIMD расширения
  • Тестовые примеры по работе конвейера и SIMD
  • Принципы работы памяти: RAM, latency, bandwidth, NUMA
  • Тестовые примеры по доступу к памяти
  • Способы организации структуры данных

Презентация в формате PDF

Недоделанный черновик раздела в учебное пособие в формате PDF

Исходный код тестовых примеров

Лекция 1 (07.09.20) Введение

Содержание

  • Обзор суперкомпьютерных приложений
  • Основные понятия по производительности вычислений
  • Суперкомпьютерные бенчмарки
  • Виды параллелизма - MIMD, SIMD, потоковая обработка
  • Гибридная кластерная система и ее характеристики
  • Виды вычислительных устройств и тенденции в их эволюции
  • Уровни параллелизма и средства разработки - MPI, OpenMP, CUDA/OpenCL
  • Удаленная работа с суперкомпьютером

Презентация в формате PDF

Недоделанный черновик раздела в учебное пособие в формате PDF

Main page  |   Contacts
Web-design: Cherepock, dualks