Генераторы порно и инструменты для мошенничества: что нашли в магазине ИИ ChatGPT
OpenAI сталкивается с проблемами модерацииВ результате расследования, проведенного Gizmodo, выяснилось, что более 100 пользовательских GPT, доступных в магазине GPT Store OpenAI, нарушают контентную политику компании. Среди этих нарушений — распространение откровенных материалов, инструменты для мошенничества, а также непроверенные медицинские и юридические консультации.
Магазин GPT Store, запущенный девять месяцев назад, позволяет пользователям создавать и распространять персонализированные версии ChatGPT. Однако, по имеющимся данным, некоторые GPT, в том числе предлагающие порнографический контент и пособия по мошенничеству, хоть и нарушают правила OpenAI, но присутствуют в магазине.
Несмотря на усилия по устранению нарушений политики с помощью автоматизированных систем, человеческих сил и сообщений пользователей, проблемные GPT продолжают существовать в магазине.