В ИИ-генераторе видео от создателей ChatGPT может появиться обнаженка

Компания OpenAI не исключает возможность того, что их новый видеогенератор Sora может породить неприятные последствия в виде создания обнаженки. В ходе интервью с главным технологом OpenAI Мирой Мурати для Wall Street Journal было высказано предположение о том, что компания пока не нашла оптимального решения в отношении контроля за содержанием, в том числе и неприличным. Мурати заявила, что OpenAI в настоящее время сотрудничает с художниками и творцами из разных областей, чтобы понять, какой уровень гибкости должен быть предоставлен инструментом. Этот аспект вызывает серьезные опасения у некоторых экспертов, которые опасаются возможного появления «порно-шлюзов», если Sora будет позволять творческую неприличность. Даниэль Колсон, основатель Института политики ИИ (AIPI), выразил беспокойство по поводу того, что большая часть спроса на ИИ-генерированное видео может быть связана именно с порнографией, что может создать серьезные проблемы для компаний, не учитывающих это в своих моделях. Опросы общественного мнения показывают, что люди очень серьезно воспринимают использование ИИ для создания дипфейковой порнографии, и считают, что компании, создающие подобные инструменты, должны нести ответственность за свои защитные механизмы.