Nvidia расширяет свою линейку аппаратного обеспечения для искусственного интеллекта новым суперчипом Grace Hopper.
Компания Nvidia анонсировала свою платформу AI-чипов следующего поколения, которая использует новый суперчип Grace Hopper с первым в мире процессором HBM3e.
Новая платформа NVIDIA GH200 Grace Hopper предназначена для тяжелых рабочих нагрузок с генеративным искусственным интеллектом, таких как большие языковые модели в виде ChatGPT. Nvidia также упоминает другие приложения искусственного интеллекта, с которыми она может работать, такие как рекомендательные системы и векторные базы данных.
Двойная конфигурация обеспечивает в 3,5 раза больше памяти и в 3 раза большую пропускную способность по сравнению с текущим поколением. Он оснащен одним сервером со 144 ядрами Arm Neoverse, производительностью искусственного интеллекта в восемь петафлопс и технологией Hbm объемом памяти 282 ГБ.
Генеральный директор Nvidia Дженсен Хуан прокомментировал, что обновления «повышают пропускную способность, [добавляют] возможность подключения графических процессоров для повышения производительности без компромиссов и [отличают] серверную конструкцию, которую можно легко развернуть во всем центре обработки данных».
Суперчип Grace Hopper можно подключить к другим суперчипам через Nvidia NVLink, чтобы увеличить вычислительную мощность, необходимую для развертывания крупных моделей генеративного искусственного интеллекта.
При таком подключении графический процессор имеет полный доступ к памяти центрального процессора, что обеспечивает суммарный объем памяти в 1,2 ТБ в режиме двойной конфигурации.
Новая память HBM3e на 50% быстрее, чем HBM3, с общей пропускной способностью 10 ТБАЙТ/сек, поэтому она может работать с моделями, которые в 3,5 раза больше. Производительность также повышается благодаря увеличению пропускной способности в 3 раза.
Новая платформа Grace Hopper Superchip с HBM3e полностью совместима со спецификацией сервера Nvidia MGX, что позволяет любому производителю быстро и экономично добавлять Grace Hopper в более чем сотню вариантов серверов, утверждает компания.
Новость свидетельствует о продолжающемся доминировании Nvidia в области аппаратного обеспечения искусственного интеллекта, поскольку ее графические процессоры A100 использовались для питания машин, стоящих за ChatGPT, печально известным чат-ботом, который положил начало дивному новому миру передовых автоматизированных вычислений. Затем за этим последовал его преемник, H100.
Nvidia также заявляет, что ожидает, что производители систем выпустят первые модели на базе Grace Hopper во втором квартале 2024 года.