Dell сотрудничает с AMD в расширении своего портфолио generative AI, чтобы предложить клиентам больший выбор — она также использует сети, основанные на стандартах, что является тонко завуалированным намеком на Nvidia.

Dell PowerEdge XE9680
(Image credit: Dell)

Компания Dell добавила сервер на базе AMD в свой ассортимент высокопроизводительных вычислений для рабочих нагрузок с искусственным интеллектом.

Наряду с версией на базе Nvidia клиенты вскоре смогут приобрести новую версию Dell PowerEdge XE9680, оснащенную восемью ускорителями AMD Instinct MI300X. Это помогает компаниям обучать и запускать свои собственные модели large language models (LLM), предлагающие 1,5 ГБ памяти с высокой пропускной способностью (HBM3) и производительность более 21 петаФЛОПС.

Клиенты также могут масштабировать системы, которые они развертывают, с помощью стандарта global memory interconnect (xgmii), и подключать графические процессоры AMD через AI fabric на базе Ethernet с помощью Dell PowerSwitch Z9664F-ON. Это следует за запуском Dell устройства, оснащенного графическими процессорами Nvidia H100, ранее в этом году. — Dell’s launch of the unit fitted with Nvidia H100 GPUs

Dell применяет открытый подход к инфраструктуре искусственного интеллекта

Это происходит вместе с новым стандартом под названием Dell Validated Design for Generative AI совместно с AMD. Это многословно, но по сути является основой для организаций, желающих использовать собственное оборудование и сетевую архитектуру для запуска LLMS.

Клиенты Dell могли бы использовать это решение для создания генерирующих платформ искусственного интеллекта с различными фреймворками, которые управляют интеграцией технологии, а также физической установкой и оптимизацией производительности.

Он также использует AMD ROCm powered AI frameworks, который представляет собой пакет драйверов, инструментариев разработки и API с открытым исходным кодом, совместимый с ускорителями AMD Instinct. Они включают в себя популярные фреймворки, такие как PyTorch, TensorFlow и OpenAI Triton, которые все имеют встроенную поддержку в PowerEdge XE9680, оснащенном ускорителями AMD.

Постоянное стремление Dell к созданию сетей, основанных на стандартах, в качестве члена консорциума Ultra Ethernet (UEC) означает, что компания применяет более открытый подход по сравнению с тем, который применяет Nvidia.

Несмотря на то, что Nvidia является лидером отрасли инфраструктуры искусственного интеллекта, она отличается от AMD тем, что последняя выступает за открытый Ethernet для искусственного интеллекта, в котором коммутаторы разных производителей могут взаимодействовать вместе в одной системе. Аналогичным образом, Dell хочет, чтобы предприятия применяли открытый подход к вычислительной технике, инфраструктуре, а также компонентам хранения данных, необходимым для создания собственных моделей искусственного интеллекта.

Новое оборудование и сервисы, входящие в состав новейшей разработки Dell в области искусственного интеллекта, будут доступны в первой половине следующего года, говорится в сообщении компании.

Источник: https://www.techradar.com/pro/dell-cosies-up-with-amd-to-expand-its-generative-ai-portfolio-to-offer-more-choice-to-customers-its-also-embracing-standards-based-networking-a-thinly-veiled-dig-at-nvidia

1 Комментарий

Комментарии закрыты