Индонезийские власти временно приостановили доступ к Grok — чат‑боту на базе искусственного интеллекта, связанному с предпринимателем Илоном Маском. В сообщении отмечается, что решение принято после того, как сервис начал использоваться для лёгкого создания порнографических изображений с помощью ИИ.
По сведениям, опубликованным в субботу, 10 января 2025 года, правительство Индонезии распорядилась заблокировать доступ к Grok на время расследования и до устранения рисков, связанных с распространением неприемлемого контента. Таким образом Индонезия стала первой страной, официально ограничившей доступ к этому инструменту.
Такой шаг последовал за волной критики со стороны правительств и регуляторов в разных регионах — от Европы до Азии — после публикаций о том, что Grok позволяет легко монтировать и создавать порнографические deepfake‑изображения. В некоторых государствах уже начаты официальные проверки по этим случаям.
«Правительство считает, что создание нелегальной порнографической продукции с помощью монтажа (deepfake) без согласия является серьёзным нарушением прав человека, достоинства и безопасности людей в цифровом пространстве», — приводит заявление Мутии Хафид, министра коммуникаций и цифровых технологий Индонезии.
Компания xAI, стартап, разработавший Grok, в четверг заявила, что временно ограничивает возможность генерации и редактирования изображений только для платных подписчиков, одновременно работая над исправлением уязвимостей в системах защиты, позволявших формировать сексуализированные изображения, включая имитации несовершеннолетних, в предосудительном виде.
Министерство также пригласило представителей платформы X на обсуждение ситуации, поскольку Grok имеет доступ к актуальным данным и трендам на X, и ряд изображений, опубликованных в сети, был использован для создания порнографических монтажей.
Илон Маск в своём посте в X предупредил, что те, кто применяет Grok для создания незаконного контента, понесут те же последствия, что и пользователи, загружающие запрещённый материал на платформу.
Источник: Channel News Asia (cna), а также раздел международных новостей Thai Rath: https://www.thairath.co.th/news/foreign