TikTok тестирует инструмент для поиска дипфейков с использованием внешности авторов

TikTok начал тестировать новую функцию, которая помогает авторам находить несанкционированные AI-дипфейки с использованием их внешности. Новая функция позволит создателям контента находить AI-видео с их лицом и сообщать о нарушениях.

Чтобы воспользоваться функцией, участникам тестирования необходимо подтвердить личность через сервис Jumio, пройдя проверку документа и селфи в реальном времени. Компания не хранит документы пользователей, а данные о лице используются только для сопоставления внешности и поиска возможных нарушений.

После верификации система автоматически сканирует AI-контент, который может использовать образ автора. Затем пользователь может просмотреть найденные материалы и при необходимости пожаловаться на публикации или аккаунты.

Инструмент призван помочь авторам защитить свою цифровую идентичность на фоне роста числа AI-генерируемых дипфейков. Аналогичную функцию ранее представил YouTube, сделав ее доступной для всех совершеннолетних пользователей.

Источник: The Verge