Создатели порно-чатботов с ИИ начали воровать аккаунты от облачных сервисов

Эти чат-боты, которые были подвергнуты «jailbreak"-техникам для обхода фильтров контента, часто используются для «ролевых» игр. В отчете сообщается о значительном увеличении атак на инфраструктуру генеративного ИИ, такую как Bedrock от Amazon Web Services, особенно если сотрудники случайно раскрывают облачные учетные данные в сети, например, в общедоступных репозиториях кода.

Во время своего расследования Permiso обнаружила, что многие организации не включили ведение журналов в своих учетных записях AWS, что оставило их в неведении о том, как злоумышленники используют их учетные данные.

Чтобы продемонстрировать проблему, исследователи выложили свои собственные ключи AWS на GitHub, активировав ведение журналов для отслеживания любых злонамеренных действий. В течение нескольких минут их ключ-приманка был использован для доступа к порно-сервису, который сделал более 75 000 вызовов к ИИ-модели AWS.