ИИ-стартап заблокировал пользователя за создание дипфейка с Байденом

Стартап, специализирующийся на воспроизведении голоса с помощью ИИ на более чем двух десятках языков, серьезно относится к этому делу, подчеркивая свою приверженность предотвращению неправомерного использования инструментов ИИ для работы с аудио. Расследование, проведенное Pindrop и другими инструментами, показало, что фейк, скорее всего, был создан с помощью технологии ElevenLabs

Дипфейк, встревоживший экспертов по дезинформации и представителей избирательных органов, подчеркивает легкость создания подобных подделок и возможность злоумышленников влиять на выборы.

Компания ElevenLabs, стоимость которой недавно оценили в 1,1 миллиарда долларов после раунда финансирования в 80 миллионов долларов, позволяет создавать голосовые клоны общественных деятелей в пародийных целях, но не допускает несанкционированного подражания.