Наука и технологии1 мин.

Почему ИИ Google Gemini советовал есть камни для пищеварения — отвечают инженеры компании

Получилось вполне логично
Недавно Google столкнулся с неожиданной проблемой: их ИИ, известный как Google Gemini, посоветовал пользователю есть камни для улучшения пищеварения.

Этот инцидент вызвал широкий резонанс и заставил инженеров компании объяснить, как такое могло произойти.

Они объяснили, что AI Overviews, встроенные в поисковик, работают иначе, чем традиционные чат-боты и LLM продукты.

Технология интегрирована с основными системами ранжирования веб-страниц и предназначена для выполнения традиционных задач поиска, таких как выявление релевантных и качественных результатов.

Это позволяет Overviews предоставлять ссылки на проверенные источники, что, по их мнению, должно было снизить вероятность ошибок.

Тем не менее, проблемы возникают в ситуациях с недостатком качественного контента по запросу или с сатирическим содержанием.

В данном случае рекомендация есть камни была вызвана данными из сатирических или некорректных источников, которые случайно попали в результаты поиска.

Инженеры подчеркнули, что проблема была связана с так называемыми «пробелами данных», когда качественная информация по запросу отсутствует или её очень мало.

Источник:Google