За последний год генеративный ИИ стал всё более популярным, и многие компании начали активно интегрировать его в свои продукты. Однако злоумышленники также научились использовать эти системы для создания фишинговых писем, дипфейков и других мошеннических действий. Большинство из ИИ-разработок и вовсе оказались уязвимыми. Их вполне можно взломать, обойдя защитные меры. Для выявления уязвимостей в генеративном искусственном интеллекте, разработчики обратились к хакерскому сообществу. В августе в Лас-Вегасе прошла ежегодная конференция DEFCON, где было организовано мероприятие Generative Red Team Challenge. Участники конференции имели возможность протестировать уязвимости в генеративном ИИ и получить за это призы. Мероприятие привлекло около 2200 участников. На конференции были представлены различные задачи, связанные с взломом ИИ, и участникам предоставлялось 50 минут для их выполнения. В результате четыре лучших участника получили в качестве приза графический процессор NVIDIA RTX A6000.