访谈摘要
人工智能并非生态安全和平等，承载巨大希望的同时也伴随重大潜在风险。人工智能治理因此尤为必要，科学、安全与可及性是AI治理的三大基石。尽管AI治理已经取得如《全球数字契约》等里程碑式进展，但仍存在地缘政治扰动、治理意见分歧和能力建设不足等挑战。未来，应坚持多边主义路径，提升治理透明度，充分运用官方发展援助（ODA）等金融工具，强化联合国等多边机构的作用。
访谈对象简介
马克西姆·斯托弗（Maxime Stauffer），日内瓦西蒙长期治理研究所联合创始人兼联合首席执行官
访谈整理
孝泽慧，全球人工智能创新治理中心研究助理
访谈正文
人工智能并非安全技术，亦非平等技术。它承载着巨大希望，但同时也具有重大潜在风险。正因如此，我认为人工智能治理绝对必要。我们正在构建的治理架构需要三大基石：科学、安全与可及性。
首先，需要建立追踪和评估人工智能发展状况的机制。联合国近期同意设立一个独立的国际人工智能科学专家组——类似于政府间气候变化专门委员会（IPCC），该专家组将定期报告技术发展状况与社会影响，为各国政府、企业和公民社会的决策提供基础。尽管目前仍处于早期实施阶段，这确是迈向建立全球人工智能科学共识的重要第一步。
其次，需要建立全球安全与核查机制。除了双重用途的隐患，人工智能更存在失控风险。当前既缺乏一个可靠系统来确保开发者遵守安全协议，也缺乏监测或验证技术合规性的稳定机制。
第三，需要建立利益共享与能力建设机制来纠正人工智能的分配失衡。短期而言，必须制定相应的机制重新分配人工智能创造的价值——否则这些价值很可能集中于少数群体手中。长期来看，发展中国家需要加大对数字基础设施、能源系统和教育的投入，以确保其能够部署人工智能系统并有意义地参与新兴的全球人工智能经济。
我们开始看到一些要素逐渐显现——尽管进展缓慢且不均衡。去年联合国会员国通过的《全球数字契约》标志着里程碑式的成就，其中包含专门针对人工智能的章节。该章节提出了三项重要推进措施：其一，成立人工智能科学专家组（如前所述），负责持续向世界更新技术发展状况及其影响；其二，建立全球人工智能治理对话机制，为规范谈判和能力建设计划协调提供平台；其三，探索设立全球人工智能基金，旨在为基础设施项目——特别是资源匮乏地区——提供资金支持。
这一方向至关重要，因为此前大多数倡议（如英国人工智能安全峰会、G7广岛进程、经合组织人工智能工作或全球人工智能伙伴关系）主要由全球北方国家主导，未能创建我们所需的那种普惠、公平的生态系统。联合国主导的努力提供了更具合法性和代表性的路径。
然而，当前全球治理状况远未达到应有水平。联合国系统仅发布了约2%的科学技术领域成果，且大多数成员国缺乏先进技术治理的传统经验。因此尽管《全球数字契约》提供了前景广阔的框架，实际执行机制仍需进一步加强。
若要在全球人工智能治理方面取得实质进展，我们必须应对若干相互关联的挑战。首先，人工智能正成为地缘政治中的不确定性要素。我并非指其在核指挥控制系统中的潜在应用，而是指它正以不可预测的方式改变经济结构和全球力量平衡。无人具备管理这种变革的经验。随着不确定性增加，误判和误算风险亦随之上升。各国行动可能不再基于事实，而是基于对他国意图的错误假设——这将增加贸易战、制裁甚至更严重冲突的升级风险。
其次，存在分歧时更需对话。各国日益将对话视建立在共识基础上，这种认知有失偏颇。正是在信任匮乏时最需要对话。我们需要重新学习如何在存异前提下开展交流。迄今大国间人工智能对话屡遇困境：去年中美日内瓦会谈成果有限，表明推动大国间人工智能合作需要持续努力。
第三，能力建设构成另一挑战。《上海宣言》和联合国决议虽突出强调该议题且初衷正确，但讨论缺乏深度——特别是关于人工智能相关能力建设如何区别于传统基础设施项目。无论是否存在人工智能，建设互联网基础设施都具价值。人工智能领域的特殊性在于如何确保发展中国家不被永久排除于技术红利之外。同时我们缺乏严肃的成本评估——若无此类评估，难以动员私营部门支持。
开源人工智能发展增加了复杂性。开源模型有助于促进人工智能开发民主化并使收益更广泛普及。然而并非所有模型都应该开源，某些模型——特别是具有生物武器或恐怖主义滥用风险的模型——不应开放。我们需要更精确界定公开与保密范畴。
全球南方国家的处境尤为令人担忧。我认为存在三大风险：其一，国际不平等——能开发先进模型与不能开发的国家间差距将持续扩大；其二，国内不平等——在埃及或肯尼亚等国，即使开发出本土人工智能系统，其收益很可能流向精英阶层而非广大民众；其三，地缘政治依附——多数全球南方国家无法自主研发前沿模型，必须依赖技术领先国的系统，这意味着不安全的人工智能模型可能随着技术依附关系而扩散。
展望未来，提高透明度是切实可行的举措之一。若各国政府能更多分享其技术战略层面的行动，误解将显著减少。
我们还需要金融工具以支持治理与包容性。方案之一是重新定义官方发展援助（ODA）：当前数字基础设施和人工智能被排除于多数ODA框架之外，意味着世界银行或中国开发银行等机构无法为人工智能相关项目融资。将数字技术纳入ODA范畴将释放巨额投资潜力。
最后，维护联合国等强有力的多边机构至关重要。短期内应推动多利益相关方参与治理。日内瓦可发挥重要支撑作用——并非作为政府行为体，而是作为对话平台。日内瓦汇聚众多受信任的国际组织，大多数国家在此设有代表机构，这为对话提供了相对中立的平台，是实现沟通的理想场所。
前路依然充满不确定性，政治风向转变与利益博弈构成重重障碍。但通过联合国科学专家组、新对话机制和新兴金融框架，全球人工智能治理的基础正在奠定。尽管基于小多边和双边的治理工作进展可能缓慢且不均衡，但放弃国际合作的代价远甚于此。我们绝不能抛弃多边主义路径。
