Чем пользователям грозит функция имитации речи искусственным интеллектом, которую Apple скоро внедрит в iPhone

Технология основана на ИИ, Apple — не пионер в этом, но массовое внедрение такой функции может привести к последствиям, к которым люди не готовы ни юридически, ни морально, ни технически.

Чтобы создать имитацию голоса пользователя, технология попросит произнести 150 фраз в тихом помещении. После этого голос будет записан и сгенерирована цифровая копия. По мнению Трухачёва, это приведёт к массовому распространению дипфейков, причём голосовых.

Подобная практика сделает мишенью едва ли не каждого пользователя: мошенники уже активно пользуются ИИ для имитации чужого голоса, чтобы вводить в заблуждение потенциальных жертв.

«Телефонные мошенники, которые обзванивают людей, обычно всячески затягивают разговор. Так они записывают голос, и впоследствии его имитацию могут использовать для звонков вашим родственникам. Как мы знаем, все базы данных давным-давно слиты, и не составит труда найти контакты ваших близких, позвонить им и вашим голосом сказать: дескать, мама, я попал в аварию, сбил человека, нужно решить проблему максимально оперативно… Мало кто сможет распознать обман, особенно, если такой вызов раздастся ночью», — подчеркнул эксперт.