Кластер из 100 тыс NVIDIA H100 запустили для обучения самого мощного ИИ от Илона Маска

Новый Memphis Supercluster компании xAI использует 100 000 жидкостных GPU NVIDIA H100, соединенных с помощью RDMA (дистанционного доступа к памяти).

Запуск кластера начался в 4:20 утра по местному времени. Маск также сообщил, что кластер будет обучать самый мощный ИИ по всем показателям к декабрю 2024 года.

В мае Маск анонсировал строительство Gigafactory of Compute к осени 2025 года, однако запуск Memphis Supercluster говорит о том, что проект стартовал раньше.

В новой установке использованы актуальные GPU H100, несмотря на ожидание более мощных H200 и Blackwell GPU к концу 2024-го.

Генеральный директор Supermicro Чарльз Лян отметил, что их команда поставила оборудование для этого проекта, подчеркнув высокую эффективность и экологичность нового центра данных.