Компания Dell добавила сервер на базе AMD в свой ассортимент высокопроизводительных вычислений для рабочих нагрузок с искусственным интеллектом.
Наряду с версией на базе Nvidia клиенты вскоре смогут приобрести новую версию Dell PowerEdge XE9680, оснащенную восемью ускорителями AMD Instinct MI300X. Это помогает компаниям обучать и запускать свои собственные модели large language models (LLM), предлагающие 1,5 ГБ памяти с высокой пропускной способностью (HBM3) и производительность более 21 петаФЛОПС.
Клиенты также могут масштабировать системы, которые они развертывают, с помощью стандарта global memory interconnect (xgmii), и подключать графические процессоры AMD через AI fabric на базе Ethernet с помощью Dell PowerSwitch Z9664F-ON. Это следует за запуском Dell устройства, оснащенного графическими процессорами Nvidia H100, ранее в этом году. — Dell’s launch of the unit fitted with Nvidia H100 GPUs
Dell применяет открытый подход к инфраструктуре искусственного интеллекта
Это происходит вместе с новым стандартом под названием Dell Validated Design for Generative AI совместно с AMD. Это многословно, но по сути является основой для организаций, желающих использовать собственное оборудование и сетевую архитектуру для запуска LLMS.
Клиенты Dell могли бы использовать это решение для создания генерирующих платформ искусственного интеллекта с различными фреймворками, которые управляют интеграцией технологии, а также физической установкой и оптимизацией производительности.
Он также использует AMD ROCm powered AI frameworks, который представляет собой пакет драйверов, инструментариев разработки и API с открытым исходным кодом, совместимый с ускорителями AMD Instinct. Они включают в себя популярные фреймворки, такие как PyTorch, TensorFlow и OpenAI Triton, которые все имеют встроенную поддержку в PowerEdge XE9680, оснащенном ускорителями AMD.
Постоянное стремление Dell к созданию сетей, основанных на стандартах, в качестве члена консорциума Ultra Ethernet (UEC) означает, что компания применяет более открытый подход по сравнению с тем, который применяет Nvidia.
Несмотря на то, что Nvidia является лидером отрасли инфраструктуры искусственного интеллекта, она отличается от AMD тем, что последняя выступает за открытый Ethernet для искусственного интеллекта, в котором коммутаторы разных производителей могут взаимодействовать вместе в одной системе. Аналогичным образом, Dell хочет, чтобы предприятия применяли открытый подход к вычислительной технике, инфраструктуре, а также компонентам хранения данных, необходимым для создания собственных моделей искусственного интеллекта.
Новое оборудование и сервисы, входящие в состав новейшей разработки Dell в области искусственного интеллекта, будут доступны в первой половине следующего года, говорится в сообщении компании.