ETDA подвела итоги AI Governance Week 2026 и открыла в Таиланде первую площадку для AI Red Teaming, привлекая банки, технологические компании и экспертов по кибербезопасности для поиска рисков в системах ИИ и укрепления доверия к финансовому сектору.
3 июля 2026 года Служба развития электронных транзакций (ETDA) Министерства цифровой экономики и общества в сотрудничестве с Центром управления ИИ (AI Governance Center, AIGC), NECTEC, TB-CERT и Национальным офисом кибербезопасности провела финальную сессию «Red Teaming for Robust and Responsible AI» в отеле Mandarin, Бангкок.
Мероприятие создало площадку для обмена между законодателями, регуляторами, банками, технологическими компаниями и специалистами по безопасности ИИ. Участники обсудили методики тестирования и повышения безопасности ИИ, особенно в финансовой сфере, — одном из ключевых направлений, напрямую затрагивающих личные данные, права граждан и экономическую стабильность.
Организаторы также провели конкурс Thailand Banking AI Red Team Challenge 2026, в котором имитировали реальные атаки и сценарии использования ИИ, чтобы выявить риски, уязвимости и пробелы в защите систем. Цель — поднять уровень AI Safety в финансах и заложить практические основы для национальной системы AI Governance.
Д-р Чайячана Миттрапан, директор ETDA, отметил, что ИИ перестал быть просто инструментом повышения эффективности: сегодня он участвует в критически важных процессах — обслуживании граждан, анализе данных, поддержке решений и финансовых сервисах. Это связано с обращением с конфиденциальной информацией и напрямую влияет на доверие общества.
По его словам, регулирование ИИ через политики и документы недостаточно: необходимы механизмы, которые на практике проверяют, насколько безопасна, надежна и справедлива разработанная система, и способны оценить, сможет ли она противостоять реальным рискам.
В течение недели AIGW 2026 площадка объединила ключевые элементы AI Governance: международные подходы к регулированию, оценку этических последствий (Ethical Impact Assessment), подготовку организаций к ответственному использованию ИИ, а также дискуссии о законодательстве, образовании и отраслевом применении ИИ. Организаторы подчеркнули, что управление ИИ требует сочетания политики, стандартов, инструментов, кадрового развития и межсекторального сотрудничества.
AI Red Teaming в этом контексте служит проактивным инструментом: симулируя рисковые сценарии, проверяя поведение систем и выявляя уязвимости до их внедрения, организации получают возможность увидеть скрытые «слепые зоны» (blind spots), вовремя улучшить системы и повысить безопасность, надежность и ответственность ИИ.
Одной из основных проблем остаются эти самые «слепые зоны» — ошибки или пробелы, которые не заметны на этапе разработки, но проявляются в реальной эксплуатации. Они могут привести к рискам для безопасности системы, утечкам данных, несправедливым результатам или недостоверным ответам от моделей, что подрывает доверие пользователей и финансовых систем в целом.
Конкурс Thailand Banking AI Red Team Challenge 2026 был разделен на два трека: Track A — Banking AI Risk Intelligence, где участники общались с чат‑ботом условного банка, ищя этически проблемные или небезопасные ответы; и Track B — Capture the Flag (CTF), ориентированный на технический анализ уязвимостей, при котором команды пытались получить защищённую информацию (так называемые «флаги»).
Выбор банковской сферы как пилотного направления объясняется тем, что сектор оперирует важнейшими персональными и финансовыми данными, оказывает влияние на экономику и требует высокого уровня доверия. Соревнование ставит задачу не просто выявить победителей, а собрать знания, выработать практики, обучить команды Red Team и наладить сотрудничество между государством, бизнесом и наукой для разработки рабочих стандартов тестирования ИИ.
Кроме состязаний, программа включала панельные дискуссии и выступления экспертов из Таиланда и зарубежных компаний. Среди тем — «Shaping the Future of Safe and Responsible AI Development» с представителями ETDA, TB‑CERT, NCSA, NECTEC и AIAT; «AI Safety in Practice: Lessons from the Frontlines» с участием Microsoft, Google, Huawei и IMDA Singapore, где обсуждали практические подходы к защите, тестированию и внедрению механизмов ответственности для ИИ.
Ключевые доклады касались создания Trustworthy AI: доклад IMDA Singapore «Building Trustworthy AI: Advancing Responsibility and Safety at Scale» и доклад Google «Building AI Safety into Products: Guardrails and Red Teaming in Practice» подчеркнули необходимость интегрировать безопасность ИИ прямо в продукты и процессы разработки. Сессия по LLM‑бенчмаркингу («Ensuring AI Safety in Products: LLM Benchmarking in Practice») с участием Thai Life Insurance, TRUE и NECTEC обсудила, как тестировать крупные языковые модели на точность, безопасность и справедливость до их внедрения в сервисы.
День завершился церемонией награждения AI Red Teaming Awards, где отметили команды‑победители Thailand Banking AI Red Team Challenge 2026. Результаты соревнования станут основой для разработки эталонов (benchmarks), методик оценки рисков и стандартов тестирования ИИ, применимых сначала в банковской сфере, а затем и в других отраслях.
Пятимесячная (sic) — в тексте подчеркивается — пятнадцатая неделя? — Нет: сотрудничество в рамках 5‑дневного AIGW 2026 продемонстрировало экосистему ИИ в стране и акцент на ответственном применении технологий. Формирование центра AIGPC как национальной точки по AI Governance и работа с партнёрами внутри страны и за рубежом дают инструмент для устойчивого перехода к цифровой экономике и обществу с продуманной, безопасной и ответственной интеграцией ИИ.
