Почему ИИ Google Gemini советовал есть камни для пищеварения — отвечают инженеры компании

Недавно Google столкнулся с неожиданной проблемой: их ИИ, известный как Google Gemini, посоветовал пользователю есть камни для улучшения пищеварения. Этот инцидент вызвал широкий резонанс и заставил инженеров компании объяснить, как такое могло произойти. Они объяснили, что AI Overviews, встроенные в поисковик, работают иначе, чем традиционные чат-боты и LLM продукты. Технология интегрирована с основными системами ранжирования веб-страниц и предназначена для выполнения традиционных задач поиска, таких как выявление релевантных и качественных результатов. Это позволяет Overviews предоставлять ссылки на проверенные источники, что, по их мнению, должно было снизить вероятность ошибок. Тем не менее, проблемы возникают в ситуациях с недостатком качественного контента по запросу или с сатирическим содержанием. В данном случае рекомендация есть камни была вызвана данными из сатирических или некорректных источников, которые случайно попали в результаты поиска. Инженеры подчеркнули, что проблема была связана с так называемыми «пробелами данных», когда качественная информация по запросу отсутствует или её очень мало.