Intel представила Gaudi 3: борьба с Nvidia за превосходство в области ИИ

Intel бросила вызов Nvidia в ИИ-гонке, анонсировав новый мощный ускоритель Gaudi 3. Этот чип нацелен на «доминирование» на рынке обучения и выводов ИИ, обещая значительный прирост производительности и ориентируясь на открытые стандарты. Построенный по 5-нм техпроцессу, Gaudi 3 обладает большим количеством тензорных ядер и матричных математических движков по сравнению со своим предшественником. Это означает значительный прирост вычислительной мощности, особенно в рабочих нагрузках, связанных с критически важным типом данных BF16. Новый ускоритель может похвастаться вдвое большей производительностью в FP8 по сравнению с Gaudi 2, достигая 1835 TFLOPS. Хотя конкретные цифры по производительности BF16 не раскрываются, Intel уверяет, что прирост будет значительным. Кроме того, Gaudi 3 оснащен массивной памятью HBMe2 объемом 128 ГБ и высокоскоростными сетевыми возможностями, обеспечивающими эффективную обработку больших массивов данных. В отличие от проприетарных сетевых решений Nvidia, Gaudi 3 поддерживает открытые стандарты благодаря наличию 24 портов Ethernet 200 Гбит/с. Это способствует повышению гибкости и масштабируемости вычислительных кластеров ИИ, позволяя пользователям избежать привязки к производителю. Intel утверждает, что Gaudi 3 превзойдет таких конкурентов, как Nvidia H100 и H200, по скорости обучения, пропускной способности выводов и энергоэффективности для различных моделей. В том числе это преимущество в обработке длинных входных и выходных последовательностей во время вывода.