Сингапурские СМИ разоблачили сеть аккаунтов в TikTok, которые использовали созданных с помощью искусственного интеллекта женщин для распространения искажённой информации о Сингапуре и Малайзии. Журналисты считают, что цель кампании — подорвать доверие и вызвать разногласия в обществе.
Расследование CNA выявило по крайней мере 30 аккаунтов, опубликовавших более 550 роликов. Практически все видео демонстрировали женщин, созданных или изменённых AI, а также повторно использовали одни и те же голоса и сценарии, чтобы создать иллюзию массовой поддержки одной и той же точки зрения.
По данным проверки, более 98% роликов были сгенерированы или подредактированы с помощью AI, и почти 90% содержали ложную или вводящую в заблуждение информацию о событиях в Сингапуре и Малайзии. Совокупное число просмотров превысило 3 млн.
Отметили, что публикации выходили непрерывно с октября 2025 года по июнь 2026 года. При этом авторы микшировали реальные факты с вымыслом и фабриковали истории, чтобы заставить зрителей поверить в несуществующие события.
В одном из примеров видеоролики утверждали, будто министр иностранных дел Сингапура обращался к Китаю и Индонезии с просьбой не открывать новый морской маршрут, обходящий сингапурские порты — событие, которого на самом деле не было.
После того как CNA передала материалы в TikTok, по крайней мере два примера аккаунтов были удалены. В компании объяснили это нарушением политики, касающейся обмана пользователей: манипуляций общественным мнением, выдачи себя за других, спама и фальшивых обзоров.
Исследователи из Технологического университета Наньян (NTU) пояснили, что цель подобных операций не обязательно заключается в том, чтобы заставить людей безусловно поверить во всё, что говорится. Достаточно, чтобы ложные сообщения видели многократно — тогда они становятся знакомыми, и у людей появляется сомнение или недоверие к официальной информации.
Расследование также показало, что частью целевой аудитории была Малайзия: некоторые ролики обвиняли политические курсы в затормаживании развития и в дискриминации малайзийцев китайского происхождения, то есть использовали чувствительные этнические темы для разжигания напряжённости.
Учёные предупреждают, что сейчас методы обнаружения «искусственных» голосов и лиц уже не всегда работают из‑за быстрого прогресса deepfake‑технологий. Важнее обращать внимание на поведение сети: повторяющиеся тексты, одинаковые голоса и лица на разных аккаунтах, синхронные публикации и отсутствие подтверждений со стороны надёжных СМИ.
Эксперты советуют пользователям социальных сетей проверять информацию по нескольким независимым источникам перед тем, как делиться. В эру AI подделать не только картинку и звук, но и целого «ведущего» становится просто, поэтому критическая проверка и источник‑крест‑проверка остаются ключевыми мерами защиты от манипуляций.
Источник: channelnewsasia (https://www.channelnewsasia.com/singapore/tiktok-ai-women-disinformation-deepfake-presenters-6250271)
