Хакеры научились обходить запрет в нейросети ChatGPT на создание вирусов
И начали на этом зарабатыватьChatGPT достаточно активно начал блокировать запросы на создание потенциально незаконного контента, например вирусов, после огласки такой возможности в СМИ.
Однако хакеры нашли простой способ обойти эти ограничения и используют его для продажи незаконных услуг на подпольном криминальном форуме, сообщили исследователи из компании Check Point Research. Техника работает с использованием интерфейса прикладного программирования ChatGPT, а не веб-интерфейса.
ChatGPT предоставляет API разработчикам, чтобы они могли интегрировать ИИ-бота в свои приложения. Оказалось, что версия API не обеспечивает ограничения на вредоносный контент.
Так, пользователь на одном из форумов сейчас продает услугу по отправлению запросов в “нецензурированный” чат-бот. Первые 20 запросов бесплатны. В дальнейшем за каждые 100 запросов с пользователей взимается плата в размере $5,50.