В ИИ-генераторе видео от создателей ChatGPT может появиться обнаженка

В ходе интервью с главным технологом OpenAI Мирой Мурати для Wall Street Journal было высказано предположение о том, что компания пока не нашла оптимального решения в отношении контроля за содержанием, в том числе и неприличным.

Мурати заявила, что OpenAI в настоящее время сотрудничает с художниками и творцами из разных областей, чтобы понять, какой уровень гибкости должен быть предоставлен инструментом.

Этот аспект вызывает серьезные опасения у некоторых экспертов, которые опасаются возможного появления «порно-шлюзов», если Sora будет позволять творческую неприличность.

Даниэль Колсон, основатель Института политики ИИ (AIPI), выразил беспокойство по поводу того, что большая часть спроса на ИИ-генерированное видео может быть связана именно с порнографией, что может создать серьезные проблемы для компаний, не учитывающих это в своих моделях.

Опросы общественного мнения показывают, что люди очень серьезно воспринимают использование ИИ для создания дипфейковой порнографии, и считают, что компании, создающие подобные инструменты, должны нести ответственность за свои защитные механизмы.