Почему ИИ Google Gemini советовал есть камни для пищеварения — отвечают инженеры компании

Этот инцидент вызвал широкий резонанс и заставил инженеров компании объяснить, как такое могло произойти.

Они объяснили, что AI Overviews, встроенные в поисковик, работают иначе, чем традиционные чат-боты и LLM продукты.

Технология интегрирована с основными системами ранжирования веб-страниц и предназначена для выполнения традиционных задач поиска, таких как выявление релевантных и качественных результатов.

Это позволяет Overviews предоставлять ссылки на проверенные источники, что, по их мнению, должно было снизить вероятность ошибок.

Тем не менее, проблемы возникают в ситуациях с недостатком качественного контента по запросу или с сатирическим содержанием.

В данном случае рекомендация есть камни была вызвана данными из сатирических или некорректных источников, которые случайно попали в результаты поиска.

Инженеры подчеркнули, что проблема была связана с так называемыми «пробелами данных», когда качественная информация по запросу отсутствует или её очень мало.