Платформа X, принадлежащая Илону Маску, объявила о введении дополнительных мер безопасности и приостановке функции чат-бота ИИ «Grok», которая позволяла редактировать изображения реальных людей, делая их обнажёнными или почти раздетыми. Это решение последовало за серьёзной критикой со стороны правительств ряда стран и правозащитных организаций, обнаруживших создание порнографических изображений женщин и детей.
Команда безопасности X сообщила о внедрении технологических ограничений, которые не позволят Grok изменять или генерировать изображения людей в откровенных нарядах — например в бикини, нижнем белье или похожих одеждах. Эти меры распространяются на всех пользователей, включая платных подписчиков.
Радикальная корректировка произошла после того, как режим Grok под названием «Spicy Mode» подвергся жёсткой критике: он якобы допускал простые запросы вроде «надень ей бикини» или «сними с неё одежду», что приводило к созданию дипфейков порнографического характера с изображением реальных людей, включая детей и подростков.
Анализ более 20 000 изображений, проведённый неправительственной организацией AI Forensics в Париже, показал, что более половины полученных изображений представляли людей в минимальной одежде, причём примерно 2% изображений могли изображать несовершеннолетних.
Разработчик Grok, компания xAI, оказался под усиленной проверкой со стороны регуляторов. В США генеральный прокурор штата Калифорния объявил о начале расследования в отношении xAI на предмет возможного нарушения законов штата о создании порнографических изображений без согласия. Губернатор Калифорнии охарактеризовал распространение таких дипфейков как «отвратительное». В то же время Европейская комиссия внимательно отслеживает новые меры X, чтобы оценить их эффективность в защите граждан Евросоюза.
Индонезия первой полностью заблокировала доступ к Grok, за ней последовала Малайзия. В Индии потребовали удаления тысяч постов и аккаунтов, связанных с распространением подобных изображений. Великобритания и Франция начали расследования и передали материалы прокурорам для оценки возможного преследования.
Помимо технических барьеров против редактирования изображений, X также объявила, что ограничит создание и модификацию изображений через Grok только для платных подписчиков, чтобы создать дополнительный уровень контроля и упростить идентификацию пользователей.
Тем не менее более 28 общественных организаций направили открытое письмо генеральным директорам Apple и Google с требованием удалить приложения X и Grok из магазинов приложений, выражая сомнения в том, что объявленные меры будут достаточны для долгосрочной остановки распространения порнографических дипфейков.
Источник: BBC (ссылка на оригинал материала).