В Microsoft нашли уязвимость в генераторе изображений создателей ChatGPT

Джонс, обнаруживший уязвимость самостоятельно в декабре, сообщил о ней в Microsoft, которая поручила ему проинформировать OpenAI. Обеспокоенный риском для «общественной безопасности», Джонс публично призвал некоммерческий совет OpenAI отозвать DALL-E 3. Однако, по его словам, юридический отдел Microsoft потребовал удалить пост без объяснения причин, оставив его последующие запросы без ответа.

Появление откровенных дипфейков, возможно, созданных Microsoft Designer с использованием технологии DALL-E 3, подчеркивает необходимость ответственности за безопасность продуктов ИИ, пишут СМИ. Джонс подчеркивает важность того, чтобы компании несли ответственность за раскрытие информации и обеспечивали заинтересованным сотрудникам возможность высказывать опасения по поводу безопасности «без запугивания».