NVIDIA выпустила улучшенную версию чат-бота ChatRTX с целым набором новых возможностей

Новинка работает непосредственно на локальных устройствах пользователя, используя мощность графических процессоров GeForce RTX.

ChatRTX значительно превосходит свою первоначальную версию — техническую демонстрацию Chat with RTX, представленную в феврале 2024 года.

В ней, например, улучшена стабильность работы, а также расширен набор поддерживаемых моделей языковых LLM, включая такие новинки, как Mistral 7B INT4 и Llama 2 7B INT4 от NVIDIA, а также Gemma от Google.

ChatRTX может похвастаться интеграцией с CLIP — технологией от OpenAI для распознавания изображений, что позволяет ИИ анализировать фото и видео без дополнительных метаданных.

Кроме того, в приложение добавлена поддержка голосового ввода через Whisper, что делает общение с чат-ботом более естественным и удобным.