Intel представила Gaudi 3: борьба с Nvidia за превосходство в области ИИ

Построенный по 5-нм техпроцессу, Gaudi 3 обладает большим количеством тензорных ядер и матричных математических движков по сравнению со своим предшественником. Это означает значительный прирост вычислительной мощности, особенно в рабочих нагрузках, связанных с критически важным типом данных BF16.

Новый ускоритель может похвастаться вдвое большей производительностью в FP8 по сравнению с Gaudi 2, достигая 1835 TFLOPS. Хотя конкретные цифры по производительности BF16 не раскрываются, Intel уверяет, что прирост будет значительным. Кроме того, Gaudi 3 оснащен массивной памятью HBMe2 объемом 128 ГБ и высокоскоростными сетевыми возможностями, обеспечивающими эффективную обработку больших массивов данных.

В отличие от проприетарных сетевых решений Nvidia, Gaudi 3 поддерживает открытые стандарты благодаря наличию 24 портов Ethernet 200 Гбит/с. Это способствует повышению гибкости и масштабируемости вычислительных кластеров ИИ, позволяя пользователям избежать привязки к производителю.

Intel утверждает, что Gaudi 3 превзойдет таких конкурентов, как Nvidia H100 и H200, по скорости обучения, пропускной способности выводов и энергоэффективности для различных моделей. В том числе это преимущество в обработке длинных входных и выходных последовательностей во время вывода.