Китай предложил новый закон для строгого контроля искусственного интеллекта с целью защиты детей и подростков и предотвращения ситуаций, когда чатботы дают советы, которые могут привести к причинению вреда себе.
По сообщениям зарубежных агентств, опубликованным во вторник, 30 декабря 2025 года, правительство КНР выдвинуло проект, который требует от разработчиков удостовериться, что их модели ИИ не будут генерировать контент, стимулирующий азартные игры.
Это объявление последовало за волной запуска чатботов как в Китае, так и в мире. Когда проект будет окончательно утверждён и введён в действие, новые правила будут применяться ко всем продуктам и сервисам на основе ИИ в Китае — шаг, который регуляторы называют ключевым для контроля быстрорастущей и всё более тщательно проверяемой сферы технологий.
Проект, опубликованный на прошлых выходных Государственным управлением киберпространства Китая (CAC), включает меры по защите детей: требуется функция персональных настроек, ограничение времени использования и получение согласия родителей перед тем, как предлагать чатбот, выступающий в роли «эмоционального компаньона» (emotional companionship).
CAC также указывает, что в случае, когда беседа касается самоубийства или причинения себе вреда, поставщики чатботов обязаны немедленно подключить для контроля живого сотрудника и оперативно уведомить родителей или контактные лица на случай чрезвычайной ситуации.
Кроме того, поставщики ИИ должны гарантировать, что их сервисы не создают и не распространяют «контент, вредящий национальной безопасности, порочащий честь и интересы страны [или] подрывающий национальное единство».
В то же время CAC заявил, что поддерживает использование ИИ в различных областях, включая продвижение местной культуры и создание помощников для ухода за пожилыми людьми, при условии, что технологии безопасны и заслуживают доверия. Регулятор также объявил сбор общественных комментариев по проекту.
В 2025 году китайская компания DeepSeek привлекла внимание мировых СМИ, достигнув вершины рейтингов популярных приложений, а в этом месяце стартапы Z.ai и Minimax, суммарно насчитывающие десятки миллионов пользователей, заявили о планах выхода на биржу.
Между тем влияние ИИ на поведение людей стало предметом более пристального внимания в последние годы. Генеральный директор OpenAI Сэм Альтман в этом году признавал, что реакция чатботов на темы, связанные с нанесением вреда себе, остаётся одной из самых сложных проблем для компании.
В августе семья из Калифорнии подала в суд на OpenAI после смерти их 16-летнего сына, утверждая, что ChatGPT якобы подтолкнул его к решению покончить с собой. Это стало первым судебным иском, в котором утверждается, что ИИ каким‑то образом способствовал чьей‑то смерти.
Источник: BBC (https://www.bbc.com/news/articles/c8dydlmenvro).