Хакеры научились обходить запрет в нейросети ChatGPT на создание вирусов

Хакеры придумали способ обойти ограничения ChatGPT и таким образом продают услуги, позволяющие людям создавать вредоносные программы и фишинговые письма через новейшую нейросеть, пишет ArsTechnica. ChatGPT достаточно активно начал блокировать запросы на создание потенциально незаконного контента, например вирусов, после огласки такой возможности в СМИ. Однако хакеры нашли простой способ обойти эти ограничения и используют его для продажи незаконных услуг на подпольном криминальном форуме, сообщили исследователи из компании Check Point Research. Техника работает с использованием интерфейса прикладного программирования ChatGPT, а не веб-интерфейса. ChatGPT предоставляет API разработчикам, чтобы они могли интегрировать ИИ-бота в свои приложения. Оказалось, что версия API не обеспечивает ограничения на вредоносный контент. Так, пользователь на одном из форумов сейчас продает услугу по отправлению запросов в “нецензурированный” чат-бот. Первые 20 запросов бесплатны. В дальнейшем за каждые 100 запросов с пользователей взимается плата в размере $5,50.