Российские ученые ускорили нейросети на 40%

Главное преимущество разработки — в ее «легкости». 4,6-битные нейросети не требуют мощных видеокарт и могут работать на обычных процессорах, которые есть в каждом смартфоне или компьютере. Это открывает новые возможности. Например, теперь можно будет запускать сложные чат-боты, вроде ChatGPT, на мобильных устройствах.

Кроме того, 4,6-битные нейросети могут быть использованы для решения задач, которые раньше были недоступны из-за нехватки вычислительных ресурсов. Например, с их помощью можно будет разрабатывать более умные беспилотные автомобили и системы безопасности.

Разработка уже используется в некоторых продуктах Smart Engines, например, в приложениях для распознавания объектов. В будущем компания планирует расширить область применения своих нейросетей.