Схема не новая, но масштаб растёт: мошенники используют ИИ-дипфейки знаменитостей, чтобы заманить пользователей TikTok в поддельные программы вознаграждений, сообщает Mashable.
По данным доклада компании Copyleaks, в TikTok участились случаи появления фейковых видео с красных дорожек, где ИИ-версии Ким Кардашьян, Тейлор Свифт и Рианны рекламируют сомнительные сервисы.
В одних роликах Свифт продвигает некую функцию «TikTok Pay», в других Рианна расхваливает программу, якобы платящую за просмотры. При нажатии на видео пользователи попадают на сторонние сайты, где у них запрашивают личные данные.
Дипфейки в этих роликах далеки от совершенства: неестественная мимика, рассинхронизированный звук. Это не мешает схеме работать. Многие ролики используют брендинг TikTok и текстурные фильтры — предположительно, чтобы обойти инструменты автоматического обнаружения ИИ-контента на платформе.
Copyleaks фиксирует рост дипфейк-мошенничеств по всем социальным сетям. Meta недавно стала ответчиком в коллективном иске от имени Consumer Federation of America: компанию обвиняют в получении прибыли от мошеннической рекламы на Facebook.
Голливуд пока не выработал системного ответа на проблему несогласованных дипфейков знаменитостей. Тейлор Свифт, по имеющимся данным, подала заявку на регистрацию товарного знака своего голоса и образа на фоне роста числа ИИ-имитаций. Другие знаменитости делают то же самое.
