TikTok представил инструмент Likeness Detection Tool, который позволяет публичным людям находить и отмечать контент, созданный искусственным интеллектом с использованием их лиц или внешности без разрешения. Компания рассчитывает, что нововведение поможет сдержать распространение ложной информации перед выборами в Европе в следующем году.
Инструмент для выявления дипфейков постепенно становится доступен публичным людям по всему миру. Политики и аккаунты с большой аудиторией смогут искать видео, созданные с помощью ИИ, в которых без согласия использованы их изображения или лица, и сообщать о таком контенте.
TikTok объясняет запуск инструмента стремлением бороться с распространением недостоверной информации, созданной искусственным интеллектом. В следующем году выборы пройдут, в частности, в Италии, Франции и Греции.
Франческа Скаполо, отвечающая в TikTok за взаимодействие с государственными структурами и вопросы выборов в Европе, выступила на мероприятии компании по безопасности и инновациям в Лондоне в четверг. Она заявила, что защита честности выборов — одна из важнейших обязанностей TikTok. По её словам, инструмент поможет политикам и государственным учреждениям проверять контент, который мог быть создан ИИ и опубликован без согласия человека, чьё изображение использовали.
Дипфейк — это текст, изображение, видео или аудио, которые выглядят подлинными, но созданы или изменены с помощью искусственного интеллекта. Такие материалы могут использовать для распространения ложной информации, подделки личности и искажения фактов.
Нововведение появилось на фоне вступления в силу в Европейском союзе комплексных правил прозрачности в сфере ИИ. С августа дипфейки и другие материалы, созданные искусственным интеллектом, должны обозначаться или сопровождаться уведомлением для зрителей. TikTok уже несколько лет требует от авторов помечать реалистичные изображения, аудио и видео, созданные с помощью ИИ.
Компания ByteDance, которой принадлежит TikTok, заявляет, что искусственный интеллект играет всё более заметную роль в модерации контента в социальных сетях. Компании используют такие технологии, чтобы снизить расходы на проверку недопустимых материалов, включая порнографию, дезинформацию и контент, разжигающий ненависть. В прошлом году TikTok также сообщал, что развитие технологий позволит сократить число сотрудников и рабочих площадок, занимающихся модерацией по всему миру.
YouTube тоже разрабатывает инструменты для выявления неправомерного использования внешности. Они позволят авторам искать видео, созданные с помощью ИИ и имитирующие их самих.
Агентство AFP входит в число более чем 12 организаций по проверке фактов, которым TikTok платит за проверку видео на возможную недостоверную информацию в разных странах.