Американский стартап придумал инструмент для поиска ошибок генеративного ИИ

Чтобы бороться с ошибками и фейками

Американский стартап Patronus AI представил инструмент SimpleSafetyTests для проверки ответов генеративного ИИ (genAI), которые от технологий получают пользователи. Потому что, учитывая темпы развития ИИ, нельзя не столкнуться с некорректными ответами, ошибками и даже фейками.