Наука и технологии1 мин.

В ИИ-генераторе видео от создателей ChatGPT может появиться обнаженка

Не совсем понятно, почему это так беспокоит всех вокруг
Компания OpenAI не исключает возможность того, что их новый видеогенератор Sora может породить неприятные последствия в виде создания обнаженки.

В ходе интервью с главным технологом OpenAI Мирой Мурати для Wall Street Journal было высказано предположение о том, что компания пока не нашла оптимального решения в отношении контроля за содержанием, в том числе и неприличным.

Мурати заявила, что OpenAI в настоящее время сотрудничает с художниками и творцами из разных областей, чтобы понять, какой уровень гибкости должен быть предоставлен инструментом.

Этот аспект вызывает серьезные опасения у некоторых экспертов, которые опасаются возможного появления «порно-шлюзов», если Sora будет позволять творческую неприличность.

Даниэль Колсон, основатель Института политики ИИ (AIPI), выразил беспокойство по поводу того, что большая часть спроса на ИИ-генерированное видео может быть связана именно с порнографией, что может создать серьезные проблемы для компаний, не учитывающих это в своих моделях.

Опросы общественного мнения показывают, что люди очень серьезно воспринимают использование ИИ для создания дипфейковой порнографии, и считают, что компании, создающие подобные инструменты, должны нести ответственность за свои защитные механизмы.

Источник:Futurism