Новую ИИ-модель OpenAI научили игнорировать популярную лазейку

OpenAI выпустила свою новейшую модель GPT-4o Mini, оснащенную новым методом защиты, позволяющим предотвратить обман чат-ботов с помощью лазейки «игнорирование всех предыдущих инструкций». Эта тактика, часто используемая для изменения принципа работы ИИ-ботов, может привести к непреднамеренному поведению, поскольку аннулировала первоначальные директивы бота.