TikTok запустил поиск дипфейков с изображениями публичных людей

TikTok представил инструмент Likeness Detection Tool, который позволяет публичным людям находить и отмечать контент, созданный искусственным интеллектом с использованием их лиц или внешности без разрешения. Компания рассчитывает, что нововведение поможет сдержать распространение ложной информации перед выборами в Европе в следующем году.

Инструмент для выявления дипфейков постепенно становится доступен публичным людям по всему миру. Политики и аккаунты с большой аудиторией смогут искать видео, созданные с помощью ИИ, в которых без согласия использованы их изображения или лица, и сообщать о таком контенте.

TikTok объясняет запуск инструмента стремлением бороться с распространением недостоверной информации, созданной искусственным интеллектом. В следующем году выборы пройдут, в частности, в Италии, Франции и Греции.

Франческа Скаполо, отвечающая в TikTok за взаимодействие с государственными структурами и вопросы выборов в Европе, выступила на мероприятии компании по безопасности и инновациям в Лондоне в четверг. Она заявила, что защита честности выборов — одна из важнейших обязанностей TikTok. По её словам, инструмент поможет политикам и государственным учреждениям проверять контент, который мог быть создан ИИ и опубликован без согласия человека, чьё изображение использовали.

Дипфейк — это текст, изображение, видео или аудио, которые выглядят подлинными, но созданы или изменены с помощью искусственного интеллекта. Такие материалы могут использовать для распространения ложной информации, подделки личности и искажения фактов.

Нововведение появилось на фоне вступления в силу в Европейском союзе комплексных правил прозрачности в сфере ИИ. С августа дипфейки и другие материалы, созданные искусственным интеллектом, должны обозначаться или сопровождаться уведомлением для зрителей. TikTok уже несколько лет требует от авторов помечать реалистичные изображения, аудио и видео, созданные с помощью ИИ.

Компания ByteDance, которой принадлежит TikTok, заявляет, что искусственный интеллект играет всё более заметную роль в модерации контента в социальных сетях. Компании используют такие технологии, чтобы снизить расходы на проверку недопустимых материалов, включая порнографию, дезинформацию и контент, разжигающий ненависть. В прошлом году TikTok также сообщал, что развитие технологий позволит сократить число сотрудников и рабочих площадок, занимающихся модерацией по всему миру.

YouTube тоже разрабатывает инструменты для выявления неправомерного использования внешности. Они позволят авторам искать видео, созданные с помощью ИИ и имитирующие их самих.

Агентство AFP входит в число более чем 12 организаций по проверке фактов, которым TikTok платит за проверку видео на возможную недостоверную информацию в разных странах.

Related Post