访谈摘要
过去一年，AI治理进入关键转折期，亟需扩大全球协作实现包容性发展。当前AI治理主要面临四大挑战：智能鸿沟扩大、数据安全与主权、AI可解释性不足以及伦理风险。全球合作的核心张力在于如何平衡监管与创新，而联合国的重要作用在于推动推动包容性、多方参与的对话。展望未来，唯有持续合作方能有效应对挑战。《上海宣言》和联合国决议已提供关键起点，表明国际社会在一定程度上达成共识，其成效取决于能否将对话转化为具体规范和可操作标准。
访谈对象简介
郑允甫（JungYounbo），新加坡南洋理工大学黄金辉传播与信息学院副教授
访谈整理
杨昭，全球人工智能创新治理中心研究助理
访谈正文
过去一年标志着人工智能治理的关键转折，需要我们拓展全球合作，促进包容性AI发展。随着私营部门推进技术加速进步，全球范围内的倡议相继涌现，以应对AI对社会产生的深远影响。诸如发布《全球上海宣言》和联合国大会通过“加强人工智能能力建设国际合作”决议等里程碑事件，表明了一个重要转变，即认识到引导AI发展需要超越技术本身的跨学科协作。从历史来看，新技术往往遵循这样的模式，即最初的技术突破需要更广泛的社会框架来实现负责任的应用。AI已达关键节点，其快速融入日常生活，迫切需要具有包容性的国际对话，以确保其造福全人类，而不仅仅是提升技术能力。尽管未来具有挑战性，但在相互竞争的国家利益和企业雄心中，这些新兴的治理努力是确定共同合作的重要开端。
《上海宣言》和联合国决议是基础性步骤。《上海宣言》强调合作、发展、治理与能力建设，确立了必要的话语框架。联合国因其包容性在这一进程中具有独特的重要性，能够使发展中国家和地区能够参与其中。这种包容性至关重要，因为AI的影响超越国界，且由个别公司推动的技术发展具有国际后果。然而，这些倡议仅处于初始阶段。它们的真正影响取决于是否能通过持续的跨学科努力形成可操作的指导方针，不仅需工程师的参与，还需社会科学和人文学科专家的共同努力。虽然制定普适标准难度较大且企业可能抵制合规，但尽早启动这一包容性对话对引领AI向善发展至关重要。
2024年7月4日，2024WAIC发表《人工智能全球治理上海宣言》
图源：新华网
当前有四大关键治理挑战。首先是数字鸿沟。由于AI具有前所未有的速度和生产力提升潜力，智能鸿沟正在急剧扩大，尤其是在全球南方国家。发展中国家缺乏昂贵的网络资源和专业人才。如果不加以解决，这些国家可能会“越落越后”，无法“迎头赶上”。需要采取积极措施，或借鉴普遍服务理念，以确保AI的发展利益不会局限于技术先进的地区。其次是数据安全与主权。AI对大量高质量数据的需求与对隐私、误用和泄露的合理担忧发生冲突。公司如何处理敏感或机密用户数据仍存在不确定性。这就需要探索区块链技术的保护作用。区块链的“共享账本”具有不可篡改性和抵御黑客攻击的能力。将其与AI结合可以增强数据安全，并通过算法协议来确保交易安全，例如在不需昂贵中介的情况下减少商业欺诈。不过，企业的采用依赖政策推动，因为企业可能因成本和对自由数据获取的需求而抵制。第三是可解释AI（XAI）。先进AI系统的“黑箱”特性掩盖了决策过程。目前的XAI方法通过一个AI模型来解释原先的模型，本质上具有局限性，它们更多地是猜测而非真正的解释。开发强健的XAI对于实现问责、建立信任以及在关键应用中识别偏见至关重要。最后是伦理困境。AI的部署带来了持续的伦理难题，特别是有关有害内容扩散的问题，例如社交媒体算法推送不健康信息。尚未解决的问题是诸如TikTok或YouTube等公司在内容推荐和用户保护方面的责任界定。治理必须明确伦理边界和共同问责机制。
全球AI治理合作的核心紧张点在于在监管与创新之间取得平衡。数据访问和使用的管理对于安全至关重要，但也可能因为AI高度依赖数据的数量和质量而放缓进展。同样，数字主权问题必须得到解决，但不能在AI“初期”过度限制发展。解决方案并非非此即彼。从技术角度看，集成区块链可以在不限制数据效用的前提下降低安全风险。从政治角度看，国际组织必须提供指导方针，迫使企业采用此类保障措施。当前由私营企业出于商业目标驱动的开发，自然抗拒透明化和高成本的合规。然而，潜在危害的规模决定了需要激励或强制实行负责任实践的治理框架。
2025年9月25日，联合国秘书长古特雷斯在启动“人工智能治理全球对话”机制高级别会议上发言。
图源：新华网
联合国的主要职能是推动包容性、多方参与的对话。其广泛的会员数量使其能够消除对治理方向仅由主导AI的大国为自身利益制定的认知。通过吸纳包括亚洲、非洲及其他发展中地区在内的多元国家参与，联合国有助于确保以全球视角塑造规范。展望未来，治理必须发展以应对AI实际实施的挑战。随着自动驾驶等技术成熟，围绕责任归属的复杂问题，如制造商、软件公司与保险公司在事故责任中的界定，需要政策制定者、法律专家和产业界利益攸关方共同提出整体解决方案。这意味着多层级治理：国际组织确定宏观方向，区域参与者（如《上海宣言》签署国）促进深度合作，国家政府在本地调整框架。私营部门的领导地位将持续，但协调一致的监督对于应对伦理和安全风险至关重要。
未来应对AI挑战需要持续的全球合作。尽管这一过程充满固有困难，各国力图争夺领导地位，企业则保护自身竞争优势。然而，从数据流动到经济扰动，AI影响的跨国特性要求我们加强集体行动。《上海宣言》和联合国决议是关键的起点，证明了共识的存在，其成功取决于能否将对话转化为具体的规范和标准。虽然完美协议难以实现，但包容性讨论本身就能产生影响。讨论加速了可及性，纳入了多元观点，并最终将AI引向造福全人类的正确方向。全球AI治理之旅已然开启，这一过程植根于过去一年里程碑事件所体现的多学科和包容性精神，是人类负责任地驾驭这一变革力量的最优解。
联合国
图源：新华网
