人工智能正在重新定义战争形态。如果人工智能武器确实代表着未来战争的发展方向，那么针对人工智能武器的军备控制就将变得极为迫切。然而，许多观察者认为，传统军备控制方法并不适用于人工智能武器。一些研究指出，核武器军备控制与人工智能武器军备控制之间存在根本差异，并强调后者面临巨大障碍。
这些怀疑性观点固然具有一定合理性，但人工智能军备控制真正面临的挑战，是政治意愿的缺失。对此，可以从可核查性、法律和伦理“红线”、军民两用性，以及未来可能的制度安排几个方面加以考察。
首先，在可核查性问题上，一些人认为，人工智能算法和数据集根本无法接受核查，因为它们缺乏物理形态。然而，即便是美国和俄罗斯的《新削减战略武器条约》（New START），也始终被不少人怀疑能否实现可信核查，从而避免被对方欺骗。该条约在2026年2月到期之前，曾要求美俄双方就核武器开展现场核查和数据交换。然而，这类机制并非自动形成，而是数十年谈判、沟通和信任建立的结果。
此外，与很多人设想的不同，事实上整个核武库也并不能被完全、透明地核查。相反，美俄双方只是选择其中部分最重要的战略核武器进行核查。该核查机制建立在特定数据交换和部分开放检查的基础之上，并由不断更新的技术手段加以支持。如果美国和俄罗斯不愿意公开其部分核武库，那么以核查为基础的核军控仍将极其困难。
近年来，美俄之间军备控制的核查机制也受到乌克兰危机等地缘政治冲突的负面影响。这表明，核武器核查本身也存在前提条件，尤其需要政治氛围。核武器并不必然因为其具有物理形态且可以计数，就更容易被核查。
人工智能算法和数据集的核查当然面临技术障碍，但这并不意味着它们完全不可核查。事实上，我们并不需要核查所有模型和数据集。相关国家只需提供那些最可能带来安全风险的前沿模型及其相关数据集，以便进行测试和评估。人工智能安全测试面临的挑战，与网络安全治理面临的挑战类似。从理论上看，国际社会可以建立独立实验室，用于评估网络安全漏洞，并建立漏洞数据库和病毒数据库。此外，也可以邀请独立实验室对关键数字基础设施和供应链重要环节开展网络安全评估。这一理想模式之所以未能付诸实践，是因为大国之间存在严重互不信任，并且在网络安全领域有利益分歧。
从根本上说，缺乏合作的政治意愿和互信，比技术问题构成更大的障碍。一个具有启发性的例子出现在2018年。当时，华为为了进入英国5G市场，同意接受英国安全机构的技术审查，并在布鲁塞尔建立网络安全透明中心，提供其源代码和测试环境。然而，出于政治原因，许多欧洲国家最终仍然拒绝采用华为的5G技术。
其次，一些人认为，与核武器相关的法律和伦理“红线”十分清晰。因此，相比人工智能规制，国际社会更容易围绕核军备控制形成共识。然而，与核武器相关的“红线”和“禁忌”同样包含许多模糊之处，并已导致大量争议。例如，根据国际法院1994年的一项意见，至今仍无法明确判断，在保卫本国的情况下使用核武器是否合法。而《不扩散核武器条约》在涉及在其他国家使用核武器的问题上，也不够精确。
第三，一些人认为，核技术是一种特定技术，其军事应用与民用应用较容易区分，因此可以围绕其军事应用建立独立的军备控制体系。相比之下，人工智能是一种广泛传播、具有通用用途的技术，其军事应用与民用应用之间不存在清晰界限。然而，这种观点忽视了一个基本事实：核技术革命在第二次世界大战后的全球经济复苏中发挥了关键作用，“和平利用原子能”计划便说明了这一点。除此之外，核领域的军备控制体系也从来没有被完全限定在军事领域，而是建立了覆盖军事和民用应用的全面防扩散机制。
核技术可以较容易地区分军事用途和民用用途这一认知，源于《不扩散核武器条约》数十年来的影响，是各国在大半个世纪里共同努力的结果。防扩散、核裁军以及和平利用核能这三大支柱，已经深深嵌入人们的观念之中。美国通过外交压力、经济制裁，甚至军事手段等多种方式阻止核扩散。核禁忌规范也为大多数国家提供了清晰指引，告诉它们哪些事情可以做，哪些事情不应做。
与此同时，许多国家也曾试图通过发展民用核能来获取核武器。直到今天，伊朗核问题仍未得到解决，原因之一就在于，对于什么是可接受的铀浓缩水平仍然存在严重的模糊性。一些国家则通过发展强大的民用核技术能力，并储备敏感核材料，成为所谓“核门槛国家”。
人工智能技术的军民两用性质，并不是人工智能军备控制机制面临的主要障碍；事实上，军备控制机制所针对的对象几乎总是军民两用技术。最大的问题在于，我们尚未就哪些人工智能技术和应用是不可接受的达成共识。从这个意义上说，我们似乎仍生活在1945年以前的时代。大国围绕一项颠覆性技术展开激烈竞争，但没有人真正知道这项技术最终会呈现出何种形态并如何影响我们。
第一个获得通用人工智能或人工超级智能的国家，很可能会试图建立垄断。这类技术可能具有压倒性力量，而我们目前尚未完全理解这种力量。如果其他国家随后逐步获得通用人工智能或人工超级智能，它们很可能会尝试建立新的防扩散机制和国际安全机制。
届时，其他国家也许能够使用人工智能技术，但可能被禁止完全获得通用人工智能或人工超级智能。这与《不扩散核武器条约》的限制颇为相似。相应的防扩散机制可能围绕算力、数据集和电力资源来建立。大国也可能通过获得通用人工智能或人工超级智能，形成一种新的相互脆弱性和战略稳定。
当然，发展中国家和全球南方不会欢迎另一种歧视性国际安排的出现。因为这种安排将扩大人工智能领域的差距，并损害它们的发展权。一种替代性的未来制度安排，是在东亚、南亚、中东、欧洲、非洲和美洲建立区域性算力与电力中心，并在既有区域一体化机制基础上建立合作组织，由这些组织负责开展超级智能研究和识别安全风险。
原文链接：
https://www.ipg-journal.de/ipg/autorinnen-und-autoren/autor/tianjiao-jiang/
