访谈摘要
随着全球人工智能治理阶段的演进，人工智能发展不平衡问题日益突出。中国与联合国在主权AI能力建设方面发挥着关键作用。目前全球人工智能治理呈现三大趋势：其一，地缘政治将持续影响技术发展；其二，人工智能的科学争议性质可能长期存在并影响政策结果；其三，一些国家将成为示范，推动促进与全球南方国家的合作和红利分享。各治理主体需以更具包容性和多边性的方式，着力解决不同治理规则的互操作性问题。
访谈对象简介
休·罗伯茨（Huw Roberts），牛津大学互联网研究所博士研究员
访谈整理
张书言，全球人工智能创新治理中心研究助理
访谈正文
全球人工智能治理大致经历了三个阶段。第一阶段是2018年至2022年末，以联合国教科文组织、经合组织为代表的国际机构制定了一些高级别框架，但这些框架缺乏实在的可操作性。第二个阶段始于2022年11月ChatGPT的发布，这加速了人们围绕人工智能风险的讨论和治理尝试。其中，布莱切利峰会标志着国际合作的一个高峰，许多学术机构和智库提出了雄心勃勃的想法，比如建立类似国际原子能机构（IAEA）的新机构。在2024年秋季，第三阶段拉开序幕，大家根据当前的国际关系状况，对全球人工智能治理的必要性和可能性进行了更现实的评估。
有三个因素促成了这种现实的转变。一是地缘政治，尤其是特朗普时期“减少治理、鼓励创新”的叙事对合作构成障碍；二是制度方面的障碍，许多治理机构是在二战后建立的，如今面对当前的人工智能问题可能不够有效；三是人工智能在科学层面存在争议，对于该聚焦哪些政策问题，各方达成的共识较少，巴黎人工智能峰会上的讨论就从人工智能安全风险转向了更广泛的一系列问题。
从上一年开始，我见证了全球人工智能治理的三个关键里程碑。首先是《上海宣言》以及关于能力建设的联合国决议，还有中国的能力建设倡议，这表明中国在全球人工智能治理中的态度和立场正趋于成熟。二是制度性障碍，因为经常面临僵局在传统国际机构中进行合作是困难的，而由于政治和意识形态的差异，发展新的全球包容性机构同样如是。第三是德拉吉报告（The Draghi Report on EU Competitiveness），该报告强调欧盟必须构建自身能力。这对欧盟的政策讨论产生了影响，尤其是在特朗普总统第二任期下，欧盟政策路线的不确定性也会加剧。我认为，这三起事件反映了中国、美国、英国和欧盟对人工智能治理的不同态度和根本立场差异。
首先，《上海宣言》和德拉吉报告反映了美国和欧洲国家在人工智能能力建设方面的不同态度。美国对中国人工智能能力建设表现出兴趣，但可能是出于错误的原因。此前，在拜登时期，美国限制了中国获取先进人工智能技术。而最近，美国国内出现了两种观点：一种是希望实施更多技术限制；另一种则认为美国应将其技术在全球推广。像OpenAI这样的私人实体已显示出这样的意图。很可能，美国的政策将转向面向全球的技术推广。而英国和欧盟则更多地关注国内问题。比如英国在正在酝酿中的《前沿人工智能法案》（Frontier AI Bill）里高度关注人工智能安全。欧盟则聚焦于治理框架，围绕创新和数字主权展开辩论。我期待在能力建设方面看到更多合作，但目前尚不确定如何实现。
2024年世界人工智能大会发布《上海宣言》
图片来源：新华网
其次，泰德·克鲁兹的信件表明，欧洲和美国在人工智能安全问题上的分歧不断扩大。美国将不断扩大人工智能创新，而欧盟则正在开启新一轮关于加强人工智能监管的辩论。在未来，还不清楚这两种发展模式之间是否能够达成合作。此外，我想补充的是，英国在人工智能安全方面的治理方式与欧盟也存在差异。欧盟正在制定技术标准和一般行为准则，目标于明年出台一个全面的框架。英国则设立了人工智能安全研究所，并依赖现有的监管机构。英国还正在尝试颁布《前沿人工智能法案》，但该法案可能面临延迟和不确定性。早在2023年，欧盟并不认为人工智能安全很重要，但随着讨论的升温，欧盟开始认真对待此事，与英国保持一致。然而，在巴黎人工智能峰会上，马克龙总统几乎关注了除人工智能安全以外的所有问题。虽然目前尚不确定这是否代表更广泛的欧洲国家的态度，但似乎对人工智能安全（safety）和安全保护（security）的强烈关注可能会有所减弱。
目前，在全球人工智能治理方面，我认为最显著的趋势是“主权人工智能”的兴起。
现在，人工智能的崛起导致高质量的工作和高端价值链集中在少数AI领先者国家，这引起了不满。对于全球南方国家而言，围绕发展主权人工智能所需的基础设施和基本要素，仍存在诸多问题。例如，在最近的一次会议上，一位肯尼亚代表指出，对于该地区超过百万人所使用的一种非洲语言，根本不存在数据集。没有这些基础数据输入到本地模型中，实现文化人工智能主权就变得极为困难。有趣的是，即使在北方国家，也存在类似的问题。例如，英国在追求主权人工智能的过程中也面临某些依赖性障碍。
我认为，中国的能力建设项目以及联合国在这一方面应发挥更大的作用。中国的能力建设对主权人工智能至关重要，尤其是其开源模型。在世界排名前十二的模型中，大约有三分之一来自中国，其中75%是开源的，这为全球南方国家提供了发展合适技术的机会。此外，联合国是国际事务中最具合法性的主体，因此能力建设理应是联合国机构的重要职责。
主权人工智能对北方国家同样重要。欧盟人工智能法案（AI Act）的技术标准虽无法律约束力，但被高度建议遵守。这些标准可能会产生“布鲁塞尔效应”，即使非欧盟实体也会因欧盟市场法规而遵循这些标准。尽管存在怀疑，但它们在实践中产生的影响却难以避免。大约三分之二的欧洲标准与国际标准一致，在人工智能管理等关键领域，欧洲标准可能会产生更广泛的影响，由于全球互联互通，这将限制第三国制定自身规则的能力。
展望未来，全球人工智能治理有三个特点或趋势。首先，我看到了地缘政治对技术讨论的限制作用。例如，一年前讨论的人工智能安全验证机制，由于地缘政治条件和与国家安全的限制，在国际化方面面临困难。相反，具有普遍共识且争议较少的议题，即使在制度障碍存在的情况下，也可能会取得进展。《全球数字契约》（Global Digital Compact）中的人工智能国际科学委员会就是一个例子，尽管存在议程设置和达成共识等制度方面的障碍，但仍有可能取得进展。由于我们正处于全球AI治理的第三阶段，各方都正在从过度的乐观主义转向更务实的态度。即使缺乏国家之间直接的对话，我们仍然应该将焦点放在评估现有倡议、识别改进领域，以及增强国际机构之间的合作上。
全球数字契约政策简报
图片来源：联合国
其次，人工智能的科学争议性质可能持续存在，从而影响政策结果。对何时可能实现通用人工智能（AGI）的看法不一，导致不同的政策需求。我们可能会看到因重大事件或技术突破而引发的第四个阶段，这可能会改变当前的范式并克服地缘政治障碍。但在这些事件发生之前，由于科学上的不确定性，对人工智能治理的优先问题存在分歧。
第三，某些国家将作为规范企业家，正在促进与全球南方进行国际合作和红利分享。对于先进的人工智能实体来说，通过共同的标准或一致的框架优先考虑安全保障，是防止监管水平下降到最低点的关键。尽管国际合作存在挑战，但英国可以弥合差距，促成不同发展阶段的人工智能生产者之间开展安全治理对话。英国在对中国的政策方面发生了巨大转变：英国在2017-2018年之前与中国积极接触，此后进入了一段对话的停滞期，现在又重新开始接触，包括在人工智能领域的对话和合作，比如最近的世界人工智能大会等活动。此外，中国在能力建设方面的领导地位至关重要，应继续发挥作用。尽管面临美国的挑战，使这些努力更具包容性和多边性，有希望解决不同治理规则的互操作性问题。
