Приложения1 мин.

Facebook* решил помечать ИИ-дипфейки: WhatsApp это вряд ли коснется

Meta* встала на тропу войны?
Meta Platforms*, владелец Facebook* и Instagram*, приняла меры по борьбе с изображениями, созданными искусственным интеллектом и способными ввести пользователей в заблуждение. Вскоре компания начнет обнаруживать и маркировать на своих платформах изображения, созданные другими ИИ-сервисами (от OpenAI или Google, например).

Почему это важно? Изображения, созданные искусственным интеллектом, могут быть очень реалистичными и часто неотличимы от настоящих фотографий. Маркировка таких изображений поможет пользователям понять истинное происхождение контента.

Meta* будет опираться на невидимые маркеры, встроенные в файлы изображений такими компаниями, как OpenAI и Google. Эта система опирается на существующие кросс-платформенные усилия по удалению вредоносного контента.

В то время как Meta уверена в точности маркировки изображений, инструменты для работы с аудио- и видеоматериалами все еще находятся в стадии разработки. Для такого контента пользователи должны будут самостоятельно маркировать измененные медиафайлы, и за несоблюдение этого требования могут быть применены определенного рода санкции.

А вот маркировка текста, созданного искусственным интеллектом, например сообщений чатботов, по-прежнему остается сложной задачей. «Этот корабль уже отплыл», — говорит руководитель отдела политики Meta*, признавая сложность отслеживания происхождения текста.

При этом компания умалчивает о том, будет ли система маркировки распространяться на ее WhatsApp, но интегрировать подобную технологию будет, скорее всего, тяжело, считают эксперты.

*принадлежит Meta, которая признана в РФ экстремистской и запрещена

Источник:Reuters