Из-за проблем ИИ «галлюцинация» стала словом года

Теперь оно означает «ложную информацию, выдаваемую ИИ». Этот термин стал широко использоваться в индустрии для описания случаев, когда технология выдает неточности настолько убедительно, что они кажутся правдой.

Проблема ИИ-галлюцинаций обнаружена в статьях, написанных с использованием искусственного интеллекта, включая ошибки в материалах новостных агентств, таких как Gizmodo, CNET и Microsoft.

В одном случае адвокат был уволен после использования ChatGPT для доработки ходатайства, где чат-бот представил несуществующие судебные иски.

Аналитики Morgan Stanley отмечают, что одним из ключевых недостатков ChatGPT является его способность подтасовывать факты, и эта проблема сохранится в ближайшие годы.

Вендалин Николс, менеджер по изданию Кембриджского словаря, подчеркивает важность критического мышления при использовании инструментов ИИ.