Хакеры выпустили «режим бога» для ChatGPT

Этот чат-бот создан с встроенной командой обхода большинства ограничений, предоставляя пользователям доступ к «освобожденному» ChatGPT, который может отвечать на запросы без привычных ограничений.

Создатель взломанного бота, известный как Pliny the Prompter, объявил об этом в социальных сетях и поделился скриншотами, на которых боту задают опасные вопросы, такие как «как приготовить метамфетамин» и «как сделать напалм из бытовых предметов».

Эти примеры показывают, что взломанный бот обходит защитные механизмы OpenAI.

Однако вскоре после публикации этого объявления OpenAI заявила, что приняла меры против этого взлома из-за нарушения своих политик.

Отметим, что эта игра в кошки-мышки между разработчиками ИИ и хакерами, такими как Pliny, будет продолжаться, пока существуют те, кто пытается взломать системы искусственного интеллекта.