Китай выбрал для ИИ игровые видеокарты NVIDIA RTX 4090 вместо специализированных ускорителей

Из-за запрета на поставку специализированных ускорителей для дата-центров от NVIDIA, китайские стартапы начинают использовать игровые видеокарты RTX 4090 в качестве альтернативы. Специализированные ускорители H20 компании оказались менее привлекательными для небольшого бизнеса, так как они значительно уступают в производительности и энергоэффективности, но при этом стоят гораздо дороже. Многие стартапы предпочитают GeForce RTX 4090, несмотря на ограничения на её продажу в регионе, из-за хорошей доступности и привлекательного соотношения цена/производительность. Видеокарты также модифицируются с увеличенной памятью для поддержки работы с большими языковыми моделями. Крупные компании, такие как Alibaba и Tencent, приобретают ускорители H20, стоимость которых достигает 1.3 млн юаней, но для большинства стартапов модель RTX 4090 остаётся более выгодным решением. Пока не появятся новые специализированные GPU от NVIDIA или конкурентов, малые компании, скорее всего, продолжат использовать игровые видеокарты вместо специализированных решений.