OpenAI создала инструмент для обнаружения ИИ, но так и не выпустила его: почему

Инструмент предназначен для выявления текстов, сгенерированных искусственным интеллектом, что становится все более актуальным, поскольку предприятия и учебные заведения борются с плагиатом.

«Колебания» OpenAI, пишет Хекс, обусловлены более широкими последствиями и потенциальным негативным влиянием. Компания выразила опасения по поводу точности инструмента и его потенциального негативного влияния на людей, не являющихся носителями английского языка. Кроме того, инструмент может заставить внести изменения в работу ChatGPT, что может привести к «непредвиденным последствиям».

Существующие инструменты обнаружения ИИ подвергаются критике за неточности, часто отмечая законный контент как созданный ИИ, и наоборот. Это вызвало опасения, что новый инструмент может усугубить эти проблемы, привести к ложным обвинениям и подорвать доверие в образовательном и профессиональном контекстах. Критики также опасаются, что инструмент может быть использован не по назначению или привести к «творческому застою», если люди будут изменять свои работы, чтобы избежать обнаружения.