AMD в 28,3 раза увеличила энергоэффективность новых ИИ-серверов образца 2024 года

То есть уже сейчас AMD добилась повышения энергоэффективности своих устройств в 28,3 раза по сравнению с образцами 2020 года.

Чтобы добиться необходимых результатов, вендор использовал компьютер с двумя 64-ядерными процессорами EPYC 9575F, восемью ускорителями Instinct MI300X и 2304 ГБ памяти DDR5. Производительность логического вывода была протестирована в ИИ-модели Llama3.1-70B с непрерывной пакетной обработкой. В процессе сложного набора вычислений AMD определила энергоэффективность этой системы и сравнила её с системой 2020 года, обнаружив, что новая машина в 28,3 раза энергоэффективнее старой.

AMD не раскрывает технические характеристики своей системы 2020 года, но предполагается, что машина основана на процессорах EPYC серии 7002, имеющих микроархитектуру Zen 2 с 64 ядрами на процессор и ускорителями Instinct MI100, основанных на архитектуре CDNA 1.

Сам вендор заявляет, что в дополнение к аппаратным улучшениям, достигнутым «грубой силой», более высокая производительность была достигнута «за счёт сочетания архитектурных усовершенствований и оптимизации программного обеспечения».