Суперкомпьютер Meta для задач в области ИИ — крупнейшая на сегодня клиентская система на базе NVIDIA DGX A100
Meta Platforms выбрала технологии NVIDIA, чтобы создать самую мощную на сегодня вычислительную систему для задач ИИ. Анонсированный кластер AI Research SuperCluster (RSC) уже обучает новые модели, продолжая совершенствовать алгоритмы ИИ. Ожидается, что после полного развертывания Meta RSC станет крупнейшей клиентской системой на базе NVIDIA DGX A100. Когда RSC будет полностью построен Meta планирует использовать его для обучения моделей ИИ с более чем триллионом параметров. Это может улучшить такие области, как обработка естественного языка, для таких задач, как выявление вредоносного контента в режиме реального времени.
Помимо масштабируемой производительности в качестве ключевых критериев RSC компания Meta назвала исключительную надежность, безопасность, конфиденциальность и гибкость для работы с «широким спектром моделей ИИ». Кластер RSC от Meta построен на базе сотен систем NVIDIA DGX, объединенных в сеть с помощью коммутаторов NVIDIA Quantum InfiniBand, для ускорения работы команд исследователей.
В качестве вычислительных узлов в новом суперкомпьютере для ИИ используется 760 систем NVIDIA DGX A100. В общей сложности они содержат 6080 графических процессоров NVIDIA A100, объединенных в сеть с помощью NVIDIA Quantum 200 Гбит/с InfiniBand, что обеспечивает производительность TF32 в 1895 петафлопс.
Предварительные тесты Meta показали, что RSC может обучать большие NLP-модели в 3 раза быстрее и выполнять задачи компьютерного зрения в 20 раз быстрее, чем система 2017 года. На втором этапе RSC расширится до 16 000 графических процессоров, которые, по мнению Meta, обеспечат производительность в задачах ИИ в 5 экзафлопс в операциях со смешанной точностью. Также Meta планирует расширить систему хранения RSC до эксабайта при скорости в 16 терабайт в секунду.
Несмотря на проблемы, вызванные COVID-19, потребовалось всего 18 месяцев, чтобы перейти от идеи на бумаге к работающему суперкомпьютеру для ИИ, в том числе благодаря технологиям NVIDIA DGX A100.
