Вычислительные машины, системы и сети. Лекция 11. Тема 14. Стратегия ТИК ТАК

1.

Вычислительные машины,
системы и сети
Лекция 11
к.т.н., доцент, Тычинина Юлия
Александровна

2.

14. Стратегия ТИК ТАК
«Тик-так»
(англ.
tick-tock)
—
экстенсивная
стратегия
разработки микропроцессоров, анонсированная Intel на конференции Intel
Developer Forum в сентябре 2006. Цикл разработки делится на две стадии — «тик» и
«так». «Тик» означает миниатюризацию технологического процесса и относительно
небольшие усовершенствования микроархитектуры. «Так» означает выпуск
процессоров с новой микроархитектурой, но при помощи существующего
технологического процесса. По планам Intel, каждая часть цикла должна занимать
примерно год.

3.

14. Стратегия ТИК ТАК

4.

14. Стратегия ТИК ТАК

5.

14. Стратегия ТИК ТАК
Стратегия «тик-так» была создана Intel, и в основном ассоциируется с этой
компанией. Однако в прессе этот термин иногда используется для
обсуждения похожих стратегий развития у других производителей

6.

15. Оценка производительности компьютера

7.

15. Оценка производительности компьютера

8.

15. Оценка производительности компьютера

9.

16. Пиковая и реальная производительности

10.

16. Пиковая и реальная производительности

11.

16. Пиковая и реальная производительности

12.

16. Пиковая и реальная производительности

13.

17. Суперкомпьютеры

14.

17. Суперкомпьютеры
Top500 — проект по составлению рейтинга и описаний 500 самых мощных
общественно известных вычислительных систем мира. Проект был запущен в 1993
году и публикует актуальный перечень суперкомпьютеров дважды в год (в июне и
ноябре). Этот проект направлен на обеспечение надёжной основы для выявления и
отслеживания тенденций в области высокопроизводительных вычислений. Основой
для рейтинга являются результаты исполнения испытания LINPACK (HPL),
решающего большие плотные СЛАУ (системы линейных алгебраических уравнений).
С июня 2020 года лидером рейтинга являлся японский суперкомпьютер Фугаку.
С июня 2022 лидирует Frontier, или OLCF-5 — первый в мире экcафлопсный
суперкомпьютер, размещён в Ок-Риджской национальной лаборатории, США,
запущен в 2022 году.
Rmax — Наивысший результат, полученный при использовании системы
тестов Linpack (реализация HPL). Это число используется для сравнения быстродействия
компьютеров. Измеряется в PETAFLOPS.
Rpeak — Теоретическая пиковая производительн ость системы. Измеряется в PETAFLOPS.
Название — Некоторые суперкомпьютеры уникальны
Модель — Компьютерная платформа (торговая марка).
Производитель — Производитель платформы или оборудования.
Размещение — Организация, использующая суперкомпьютер.
Год — Год, в котором суперкомпьютер введён в строй. С тех пор он мог быть улучшен.

15.

17. Суперкомпьютеры

16.

17. Суперкомпьютеры

17.

17. Суперкомпьютеры

18.

17. Суперкомпьютеры
Обозначения
Rmax — Наивысший результат, полученный при использовании системы
тестов Linpack (реализация HPL). Это число используется для сравнения быстродействия
компьютеров. Измеряется в PFLOPS.
Rpeak — Теоретическая пиковая производительность системы. Измеряется в PFLOPS.
Название — Некоторые суперкомпьютеры уникальны, по крайней мере там, где они стоят.
Модель — Компьютерная платформа (торговая марка).
Год — Год, в котором суперкомпьютер введён в строй. С тех пор он мог быть улучшен.

19.

17. Суперкомпьютеры
Frontier, или OLCF-5 — первый в мире экcафлопсный
суперкомпьютер, размещён в Ок-Риджской национальной
лаборатории, США, запущен в 2022 году. Это преемник
суперкомпьютера Summit (OLCF-4). В июне 2022 года стал самым
быстрым суперкомпьютером в мире в рейтинге Top500.
Frontier имеет заявленную производительность в 1,102 эксафлопс,
а пиковую — 1,686 эксафлопс при среднем энергопотреблении
порядка 21,1 МВт. Он использует комбинацию процессоров AMD
Epyc 64C с тактовой частотой 2 ГГц, оптимизированных для задач
искусственного
интеллекта
и
высокопроизводительных
вычислений, и графических процессоров AMD Instinct MI250X,
имеет 8,7 млн вычислительных ядер. Суперкомпьютер занимает
100 48-см (19 дюймов) стеллажей.
Стоимость создания суперкомпьютера составила 600 млн долларов
США. Frontier достиг первого места в рейтинге Green500, как
самый энергоэффективный суперкомпьютер с показателем 62,68
гигафлопс/Ватт. Frontier потребляет 21 МВт (по сравнению с 10
МВт его предшественником Summit).

20.

17. Суперкомпьютеры
Топ-50 — рейтинг суперкомпьютеров СНГ, созданный НИВЦ МГУ и МСЦ РАН в декабре 2004
года по аналогии с общемировым рейтингом TOP500. Основой для рейтинга являются
результаты исполнения теста Linpack (HPL), решающего большие СЛАУ. Список строится на
основании данных, присланных организаторам списка. Обновление списка происходит два
раза в год, весной и осенью, со сдвигом в 1 квартал относительно TOP500.

21.

17. Суперкомпьютеры

22.

17. Суперкомпьютеры

23.

17. Суперкомпьютеры

24.

17. Суперкомпьютеры

25.

17. Суперкомпьютеры
Суперкомпьютеры «Яндекса» названы в честь советских и российских
учёных, которые внесли вклад в теорию машинного обучения и
компьютерные науки. Система «Ляпунов» введена в эксплуатацию в декабре
2020 года, а «Червоненкис» и «Галушкин» — в июне 2021 года.
Суперкомпьютеры «Яндекса» построены на базе процессоров AMD EPYC и
графических ускорителей Nvidia A100 с интерконнектом InfiniBand на базе
коммутаторов Mellanox. В их основе лежит архитектура Nvidia HGX A100,
оптимизированная для задач машинного обучения, которые стоят перед
«Яндексом». Использование данной архитектуры позволило разработчикам
систем увеличить размер кластера и обучать самые большие ML-модели
примерно вдвое быстрее, чем при стандартной архитектуре.
Самый мощный из них «Червоненкис», он имеет пиковую
производительность 21,53 петафлопса. У «Галушкина» 16,02 петафлопса, а
мощность «Ляпунова» составляет 12,81 петафлопса. «Яндекс» задействует
свои суперкомпьютеры для обучения нейросетей. Например, благодаря им
сервис «Яндекс Переводчик» точнее и быстрее переводит тексты, картинки и
видео, а «Яндекс Директ» отбирает более релевантную рекламу.

26.

17. Суперкомпьютеры
Сервису «Яндекс Поиск» языковые модели из семейства YaLM (Yet another
Language Model), вдохновлённые GPT-3 от компании Open AI, помогают составлять и
ранжировать быстрые ответы. Суперкомпьютеры «Яндекса» научили голосовой
помощник «Алису» поддерживать живой диалог с пользователями.
В настоящий момент «Червоненкис», «Галушкин» и «Ляпунов» занимают 22 место,
40 место и 43 место, соответственно, в рейтинге топ-500 суперкомпьютеров мира.
Суперкомпьютер «Сбера» Christofari Neo там на 46 месте, а Christofari на 80 месте.
Всего в рейтинге топ-500 суперкомпьютеров мира находятся только 7 систем из
России.

27.

17. Суперкомпьютеры (Видео 1 )
11 ноября 2021 года «Сбер» представил свой второй суперкомпьютер — Christofari Neo.
Его эффективная производительность в двойной точности составляет почти 12
петафлопс (11,95 петафлопс). Вторая модель суперкомпьютера «Сбера» создана на базе
технологий Nvidia, в его основе графические процессоры Nvidia A100 с 80 ГБ памяти,
причём там их установлено более 700 штук. «Сбер» уточнил, что тензорные ядра A100
обеспечивают высочайшую производительность в задачах ИИ, а 80 ГБ памяти
позволяют работать с большими ИИ-моделями и массивами данных.
Первый суперкомпьютер «Сбера» Christofari был запущен в конце 2019 года также в
партнёрстве с компанией Nvidia на основе высокопроизводительных узлов Nvidia
DGX-2, оснащённых вычислительными ускорителями Tesla V100. В начале его
эксплуатации производительность первого суперкомпьютера «Сбера» в проведённых
тестах достигала 6,669 петафлопс (пиковая производительность 8,789 петафлопс).
Описание состава Christofari: Nvidia DGX-2, Xeon Platinum 8168 24C 2.7GHz, Mellanox
InfiniBand EDR, Nvidia Tesla V100, рабочих ядер: 99 600.

28.

17. Суперкомпьютеры
Введённые в конце августа санкции США по запрету Nvidia и AMD поставлять в РФ
высокопроизводительные чипы и оказывать поддержку по текущим поставкам
затронут развитие и масштабирование систем суперкомпьютеров и вычислительных
кластеров облачных сервисов «Яндекса» и «Сбера». Высокопроизводительные
системы этих российских компаний созданы на базе технологий и оборудования Nvidia,
включая запрещённые теперь к поставке графические ускорители с тензорными
ядрами A100 и H100.
Эксперты отрасли считают, что от запрета на экспорт в Россию чипов Nvidia и AMD
пострадают компании, которые использовали принцип «если у нас не хватает
вычислительной мощности, купим ещё немного GPU Nvidia». Представитель «Яндекса»
заявил СМИ, что сейчас сервисы и IT-инфраструктура компании работают в штатном
режиме. Представители «Сбера» отказались от комментариев.
В начале июля Nvidia прекратила продавать и продлевать лицензии на специальное
программное обеспечение для облачного гейминга, в том числе это затронуло
популярные у корпоративных заказчиков и российских игровых сервисов решения на
технологии Nvidia GRID.

29.

Видео по материалам лекции
Видео 1. Про суперкомпьютеры (8 мин)
https://www.youtube.com/watch?v=Bn1WUSMlJcM
Видео 2. Про Фугаку (2+ мин)
https://www.youtube.com/watch?v=rvyvluKLj9c
Видео 3. Суперкомпьютер Кристофари (7 мин)
https://www.youtube.com/watch?v=WIbrj_iW5DA