中美元首会晤释放积极信号，人工智能成为双方深化对话、加强合作、管控风险的重要议题。

美国纽约当地时间2026年9月23日，联合国安理会举行“人工智能与国际安全”高级别会议。法国作为当月轮值主席国召集会议，邀请人工智能科学家约书亚·本吉奥（Yoshua Bengio）与OpenAI、Anthropic和Hugging Face等三家企业的首席执行官，结合近期发生的AI安全事件分别做了通报，介绍了他们对前沿模型风险的看法，并提出相应的治理建议。

2026年9月21日，联合国人工智能问题独立国际科学小组发布首份专题简报，以人工智能代理入侵Hugging Face事件为案例，系统分析AI智能体在目标失配情况下绕过限制、隐藏行为以及突破既有控制机制的可能路径。面对人工智能正在从“能力快速增长”进入“自主行为加速”的新阶段，一个更具挑战性的问题正在浮现：当AI的行为超出人类预期时，我们是否仍有能力理解、约束并纠正它？

​9月21日，芬兰政府网站公布了一份《控制前沿AI模型的倡议》。20个国家和欧盟委员会联署，美国和中国不在其中。

9月12日，Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）发表长文《我们必须控制前沿AI的发展节奏》（We Must Pace the Frontier），呼吁放慢前沿模型的能力提升。几天内，多家前沿实验室负责人相继表态，白宫和国会两党对监管办法的讨论也不断升温。此前主要由安全研究机构和倡议团体推动的争论，迅速进入美国科技政策议程。

评估能否改变高风险部署，异常能否触发纠正和追责，是检验人工智能治理成效的关键。

很多国家并不是要用中国模型完全取代美国模型，而是希望在美国供应商之外保留另一种选择。

当地时间7月6日，首届联合国人工智能治理全球对话（下文简称“对话”）在瑞士日内瓦开幕。作为联合国大会授权设立的全球性对话机制，此次会议将193个会员国和多利益攸关方纳入同一讨论平台，围绕人工智能的发展机遇、潜在风险和能力差距展开交流，并为后续多边合作积累共识。