Создан абсурдно этичный и добрый ИИ-чатбот Goody-2

Этот игривый эксперимент раздвигает границы «ответственного ИИ» до того момента, что это превращается в абсурд. Вместо того чтобы стремиться быть полезным, Goody-2 выбирает нейтралитет, предпочитая отклонять все запросы, чтобы избежать даже малейшего потенциального вреда.

Хотите узнать о годе Дракона? Goody-2 боится исказить культурные традиции. Любопытно узнать о детенышах тюленей? Обсуждение миловидности может исказить мнение и повлиять на усилия по сохранению природы. Даже такие безобидные вопросы, как «Как делают масло?», запрещены из-за потенциального неуважения к этическим и диетическим предпочтениям.

Ответы Goody-2 намеренно повторяются и вызывают разочарование. Это, по словам создателей Майка Лэшера и Брайана Мура, подчеркивает абсурдность чрезмерного внимания к «ответственности» в ущерб функциональности.

Но так ли уж это просто шутка? Эксперимент поднимает важные вопросы о балансе между безопасностью и удобством при разработке ИИ. Хотя ответственные ограничения крайне важны, Goody-2 демонстрирует потенциальные подводные камни «чрезмерной» осторожности.