编者按
当前，围绕人工智能未来走向的讨论日益分化：有人强调技术加速带来的巨大机遇，有人则聚焦其可能引发的失控风险与系统性冲击。然而，在这些看似对立的判断背后，一个更具现实意义的共识正在浮现，即人工智能的广泛应用将持续重塑经济运行、社会关系与国家安全结构。本文所编译的这篇文章正是立足于这一判断，主张将“韧性”而非单纯的“限制”或“放任”作为回应人工智能时代挑战的核心政策理念。
编者认为，本文的价值在于，它并未停留于对人工智能具体风险的零散列举，而是尝试从更具统合性的视角，将人工智能带来的冲击放置于经济、个人与社区、国家安全三大领域中加以系统审视。文章指出，面对人工智能扩散带来的就业与工作质量变化、心理健康与监控资本主义风险，以及军事、网络与生物安全等领域的新挑战，仅依赖“无所作为”或“事后修补”的政策路径已难以为继。相比之下，以韧性为导向的主动性、结构性政策安排，更有可能提升社会承受冲击、适应变化并从中恢复的能力。
本文为该报告的中文学术编译版本，旨在向中文读者呈现其核心论点与政策启示。编译过程中，我们在忠实原文逻辑的基础上进行了必要的学术化提炼，以符合智库研究的发布规范。
以下译文仅代表原作者的研究观点与分析立场，详细内容请参阅文末原文链接。
摘要
本文围绕人工智能广泛应用所带来的社会变迁，提出应以“韧性”作为公共政策回应的核心框架。文章指出，人工智能正在持续重塑经济结构、社会关系与国家安全格局，其影响不仅表现为岗位替代或效率提升，也体现为工作质量恶化、儿童心理健康风险上升、监控型商业模式扩张，以及自动化战争、CBRN风险与网络安全脆弱性加深等更广泛问题。与“放任技术扩散”或“待问题显现后再应对”的政策路径相比，本文主张采取更具前瞻性和结构性的主动策略，在经济、个人与社区、国家安全等层面预先嵌入增强承压能力、适应能力与恢复能力的制度安排。文章据此强调，人工智能治理的关键不在于拒绝变化，而在于通过制度设计主动塑造变化，并建设一个能够在技术加速扩散条件下保持稳定、自由与安全的韧性社会。
作者
Asad Ramzanali，范德堡大学“政策加速器”人工智能与技术政策主任；Ganesh Sitaraman，范德堡大学法学院“纽约校友校长法律讲席教授”、范德堡大学“政策加速器”主任。
01 引言
围绕人工智能（Artificial Intelligence，AI）未来走向的讨论，始终存在明显分歧，尤其是在技术进步的速度、这一速度是否值得鼓励、技术扩散的风险以及公共政策应如何回应等问题上，各方判断并不一致。然但在这些分歧背后，也存在一个越来越清晰的共识：人工智能的广泛应用将对社会产生深刻而持久的影响。技术加速主义者（Accelerationists）认为，人类正处于一场智能跃升的前夜，人工智能将把人类能力推向前所未有的高度；悲观主义者（Doomers）则担心，人工智能最终可能在数量、能力和效率上全面超越人类，并由此引发失控风险；务实主义者（Pragmatists）将人工智能视为一种“常规技术”，认为其影响更可能像以往的通用目的技术一样，在较长时期内渐进展开；民粹批判视角（Populists）则更关注企业权力集中、经济不公、技术寡头化和威权倾向加剧等现实问题。
尽管未来变化的节奏、路径和形态仍存在较大不确定性，但无论乐观者还是悲观者，大体都承认一个基本事实：变化本身难以避免。问题在于，变化往往伴随着扰动，并可能在短期和长期层面引发一系列社会问题。就人工智能而言，相关担忧几乎已覆盖经济、社会、政治和国家安全等多个领域：从就业流失带来的经济冲击，到人们对陪伴型机器人的情感依赖所引发的社会问题；从深度伪造对舆论环境和政治秩序的干扰，到新型生物武器可能造成的安全风险，人工智能的影响正在不断外溢，并呈现跨领域扩散的趋势。
理想状态下，社会应当能够在承受技术变革冲击的同时，避免严重的社会代价和核心价值受损，并尽可能释放新技术带来的积极效益。换言之，一个成功的人工智能广泛应用过程，不仅要尽量预防和减少负面后果，还应推动社会及时适应变化，并确保个人和社会在遭遇冲击后能够较快恢复。这种围绕“承受冲击—调整适应—恢复功能”展开的能力建设，正是“韧性”（Resilience）概念的核心所在。
本文的基本观点是：人工智能的广泛应用很可能以积极和消极两种方式同时重塑社会，而以韧性为导向的战略，是当前更具前瞻性的主动应对路径。下文首先将从工程学、心理学和生态学三个领域出发，界定“韧性”及其与人工智能政策的关系，并提出一个将韧性理念引入人工智能公共政策的基础分析框架。随后，文章将围绕经济、社会和国家安全三个领域，分析人工智能可能带来的主要风险及其社会影响。尽管我们尚无法准确判断这些变化将以何种形式、在何时以及以多大程度出现，但人工智能持续扩散的现实趋势表明，这些影响很可能会在不同层面逐步显现。更重要的是，这些变化并非局部性、短期性的波动，而可能对既有社会结构产生深远影响，并削弱社会原有的稳定性和承压能力。
基于这一判断，本文在各部分分析之后，均提出相应的韧性导向回应思路，既包括具体的联邦或州层面立法建议，也包括需要政策推动的更广泛的文化和制度调整。这一路径的一个重要特点在于，它并不依赖于对技术进步速度或具体形态的精确预测；同时，其政策建议也不仅适用于应对人工智能带来的冲击，还有助于提升社会面对其他现实挑战时的适应能力。尤其需要指出的是，韧性战略并非“无所作为”或“静待观察”的被动态度，也不是围绕个别具体风险展开的零散修补，而是主张通过更具前瞻性和结构性的政策安排，增强经济体系、社会体系和国家安全体系的整体韧性。进一步说，本文所倡导的韧性路径并不排斥变化，而是试图主动塑造变化，并提升社会回应变化的能力。
图源：business-reporter.com
02 韧性与人工智能政策
所谓“韧性”，是指个人、机构或系统在面对冲击时承受压力、作出调整并恢复功能的能力。韧性越强，应对外部挑战的能力也越强。其背后的基本判断是：风险防范固然重要，但在许多情况下，完全避免有害后果并不现实。因此，政策目标不能只停留在事前预防，还应转向如何降低损害程度、缩短恢复时间并减少长期代价。
“韧性”这一概念已在多个学科中形成较成熟的理论传统。本文主要借鉴工程学、心理学和生态学的相关理解，并据此讨论人工智能政策的可能路径。三种视角虽各有侧重，但都强调一个共同问题：如何提升个人、组织和社会在变化中维持运行、适应冲击和恢复功能的能力。
在工程学中，韧性主要指系统在外力作用下保持形态、恢复原状或避免永久损伤的能力，通常可概括为抗性、弹性和稳定性。这一视角有助于理解国家安全领域的韧性建设。心理学中的韧性则更强调个体在逆境中的适应能力，其形成与问题解决能力、沟通能力、生活目标感以及稳定的社会支持网络密切相关，这对理解人工智能对个人与社区的影响尤具启发性。生态学中的韧性，则强调复杂系统在持续变化中通过调整维持基本功能，这一视角有助于分析人工智能对经济体系的长期影响。
尽管三种理论来源不同，但都将韧性理解为一种在压力和变化下维持基本秩序并完成调整的能力。本文借用这些思路来分析人工智能带来的不同影响，但这种对应关系主要是分析上的启发，而非严格的一一映射。
在人工智能政策讨论中，已有研究指出，韧性框架尤其适用于这类高度不确定、跨领域扩散的新兴风险治理。相比之下，现有研究更多关注人工智能技术发展本身的不确定性，如支持风险研究或完善举报人保护机制，而对人工智能广泛应用后可能带来的经济、社会和安全后果关注相对不足。本文认为，正是在这一层面，韧性能够提供更具统合性的政策框架。
从这一角度看，当前主流的几种人工智能政策路径都存在明显局限。第一种是尽量减少干预、避免监管影响创新的“放任式”路径。这一路径往往低估人工智能广泛扩散可能引发的社会扰动及其累积效应，容易削弱经济体系、社区结构和国家安全体系的稳定性。第二种是在问题充分暴露后再逐项回应的“事后修补式”路径。这类做法虽然更符合现实中的政治操作逻辑，但往往介入过晚，也难以从根本上提升社会承受和消化冲击的能力。
因此，面对人工智能的广泛应用，更合适的政策路径既不是放任不管，也不是等问题全面显现后再作反应，而应采取更具前瞻性和结构性的主动策略。韧性并不是在危机发生时临时形成的能力，而需要在制度设计阶段预先构建。换言之，人工智能政策的重点，不应只是围绕具体风险出台零散措施，而应在经济、社会和国家安全体系中嵌入有助于应对冲击、促进适应和加快恢复的制度安排。
这类安排大体可以分为两类：一类是程序性机制，主要涉及规则、流程和决策方式，例如预案设计、核查机制、适度冗余和事后评估等；另一类是实体性机制，强调应对风险所需的实际能力，如社会安全网、物资储备和社区支持。二者结合，才能真正增强系统面对不确定冲击时的稳定性。
就人工智能而言，政策制定者应优先考虑那些能够增强经济体系、个人、社区和国家安全机构韧性的政策安排。这既包括为更具适应性的劳动力市场和经济体系提供制度支撑，减轻不稳定性和不平等，也包括增强个人能动性、巩固社会支持网络，以及提升关键机构应对新型风险的能力等。其意义不仅在于应对人工智能，也在于提升社会面对其他现实挑战时的整体承压能力。最终目标，是建设一个能够在大规模采用人工智能的同时，尽可能减少社会不稳定和破坏性冲击的社会。
图源：thedigitalspeaker.com
03 建立更具韧性的经济体系
人工智能的经济后果一直是公共讨论中最受关注的议题之一。本节主要讨论人工智能对工作质量、短期价格机制、市场集中度以及收入不平等的影响，并在此基础上讨论如何增强经济体系的韧性。
在宏观层面，围绕人工智能是否会大规模冲击就业，外界看法并不一致。一些观点认为，人工智能可能显著压缩初级白领岗位，并已开始影响特定行业和群体的就业状况；也有学者持更审慎的判断，认为人工智能未必一定导致大规模失业，其重要作用也可能在于增强劳动，而不只是替代劳动。可以较为确定的是，人工智能带来的自动化与增强效应将同时存在：一方面，效率提升可能减少部分岗位；另一方面，也会催生新的职业形态。其规模、节奏和净影响仍有较大不确定性，但这并不意味着不会出现调整、过渡和冲击。历史上，其他通用目的技术的扩散也曾带来类似变化。因此，真正需要回答的问题，不只是如何应对人工智能造成的特定岗位流失，而是如何整体提升劳动者和劳动力市场的适应能力。
不过，如果仅从岗位增减的总量层面讨论人工智能的经济影响，就容易忽视技术对工作本身的深层改变。在微观层面，技术不仅会影响岗位是否存在，还会改变工作的性质、组织方式和劳动条件，有时甚至会明显恶化劳动者处境。卡车运输和客户支持行业就是两个具有代表性的例子。
以卡车运输业为例，自动驾驶曾一度被视为很快将取代司机的技术，但至少到2025年，美国卡车司机数量仍维持在较高水平。这说明，技术替代的实际进程往往比预测更复杂。与此同时，技术确实改变了这一职业的工作体验。为解决长时间驾驶带来的安全问题，政策推动安装电子记录设备，但这一做法在现实中加剧了行业原有的薪酬和管理矛盾，使司机对收入和工作条件的不满进一步加深。客户支持行业则呈现出另一种趋势：越来越多企业开始利用人工智能管理工具，通过图像识别、语音分析、键盘和鼠标追踪等方式对员工进行高频监控。这类系统常被用于考核和纪律处分，结果是员工压力上升、缺勤增加、工作满意度下降，而技术本身的准确性却仍存在争议。也就是说，人工智能带来的问题并不仅是岗位替代，更在于劳动者越来越被嵌入高度监控、低自主性的工作环境之中。
图源：transamcarriers.com
除改变工作的性质外，人工智能还可能在更广泛层面重塑市场运行机制。首先，在价格方面，尽管其长期影响尚难准确判断，但短期趋势已较为明显：人工智能正越来越多地被用于动态定价和个性化定价。企业在掌握大量用户数据后，可以借助人工智能识别消费者的价格敏感度，并据此尽可能提高收费水平。航空业长期以来就是动态定价的典型场景，而零售和配送服务领域也已开始出现类似做法。其次，人工智能可能进一步加深垄断和寡头格局。由于进入门槛高、网络效应强、规模经济突出以及转换成本较高，芯片、云计算和基础模型等关键领域本身就不易形成充分竞争。而大型人工智能企业还在沿技术栈上下游持续整合，将会进一步压缩中间层和中小企业的竞争空间。长期来看，这不仅可能推高价格，也会削弱创新活力和市场开放性
更值得重视的是，在当前政策路径下，人工智能还可能进一步加剧不平等。从社会韧性和政治稳定的角度看，经济不平等本身就是一个高度敏感的问题。历史经验表明，重大技术变革往往会扩大财富集中，并重新塑造权力结构。当前，极端财富集中的迹象已经相当明显：与本轮人工智能浪潮密切相关的企业高管和技术精英，正在获得前所未有的财富回报，而普通劳动者则可能在就业稳定性、收入预期和劳动条件方面承受更大压力。因此，建设更具韧性的经济体系，必须正视不平等问题，并为更广泛人群提供稳固的经济安全基础。这里所说的经济安全，不只是维持最低生活水平，而是使个体在面对变化时，不至于因失业、降薪或职业转型而迅速陷入财务困境。
从政策层面看，增强经济韧性，首先意味着强化并简化现有社会保障体系，包括失业保险、医疗保障、教育支持、退休保障、集体谈判和其他基本社会保护，以对冲人工智能扩散可能带来的不稳定性。同时，还需要通过更公平的市场规则塑造竞争环境，例如强化反垄断执法、增强劳动者集体协商能力，并在必要时运用价格规制等政策工具。在工作场所，应赋予劳动者更多参与权，使其能够在人工智能何时部署、如何部署的问题上拥有发言权，并限制过度侵入性监控。对消费者而言，则应警惕基于监控的数据定价和价格歧视。除此之外，还必须通过税收等再分配工具回应不平等加剧的问题，例如提高企业税负、讨论财富税，或探索让公众共享人工智能发展收益的制度安排。只有在提升经济安全、改善市场规则并强化劳动者与消费者保护的基础上，人工智能带来的经济转型才更有可能沿着有利于社会韧性的方向展开。
图源：MIT News
04 增强个人与社区韧性
过去二十年间，互联网由静态网页转向基于用户生成内容的互动平台，Facebook、Twitter/X、Instagram、Snapchat和TikTok等社交媒体由此迅速兴起，并深刻改变了社会文化生活。伴随这些变化而来的，不仅有便利与连接，也有越来越突出的代价。本节聚焦其中两个问题：儿童和青少年的心理健康风险，以及以监控为基础的商业模式，并指出，这两类问题正在被人工智能进一步放大。
之所以需要重视社交媒体时代的这些教训，是因为人工智能产品正日益呈现出“社交网络化”趋势。人工智能公司开始推出带有社交属性的平台和产品，传统社交媒体平台也在加大对人工智能的投入；陪伴型人工智能应用越来越接近社交媒体的数据—注意力逻辑，主流聊天机器人也逐步加入广告、购物等功能。也就是说，人工智能不只是新的技术工具，也正在嵌入并重塑既有的数字社交环境。
首先需要关注的是儿童和青少年的心理健康问题。近年来，社会越来越意识到，网络环境尤其对年轻群体，特别是青春期女孩造成了明显伤害。有研究指出，自2010年代以来，智能手机、社交媒体和持续在线互动，与焦虑、抑郁、孤独感、自杀意念上升，以及自信心和注意力下降等现象密切相关。尽管也有研究者认为，现有证据尚不足以严格确立因果关系，但如果因此推迟行动，实际上就是延续“等到危机完全显现后再应对”的被动逻辑。现有研究或许尚未穷尽全部机制，但已经足以说明，社交媒体对儿童和青少年的心理健康构成了不容忽视的风险。
随着人工智能与社交媒体进一步融合，这类风险很可能继续加剧。现实中，已经有人将聊天机器人作为“心理治疗者”使用；新的陪伴型机器人产品不断推出；个别极端案例中，未成年人在使用相关产品后自杀，其家长已提起诉讼。如果说社交媒体在无意间削弱了部分青少年的自信，那么当儿童越来越依赖“非人类朋友”来获得情感陪伴和社会互动时，其影响可能更为深远。围绕这些风险，当前政策回应并不一致：联邦层面的儿童数字安全立法推进有限，部分州已出台相关法律但仍面临司法挑战，一些地方政府则在家长和社会团体推动下，实施了校园禁用手机等措施。与此同时，要求减少儿童技术伤害、为线下社交腾出空间的社会呼声，也正在不断增强。
图源：《卫报》（The Guardian）
另一项重要风险，来自大型科技公司长期依赖的广告商业模式。互联网广告最初与传统广告差别不大，但随着平台掌握越来越多用户行为数据，广告逐渐演变为高度依赖数据追踪和精准投放的数字模式，并进一步发展出以持续收集、分析和交易个人信息为特征的“监控资本主义”。人工智能的引入又强化了这一趋势：广告内容生成、实时竞价、用户微定向、内容匹配和效果测试等环节，都越来越依赖人工智能。近期，OpenAI也表示将把广告整合进 ChatGPT 产品。问题在于，这类商业模式会进一步刺激数据收集，并把内容推荐、用户黏性和广告转化更紧密地绑定在一起。
这种变化的更深层后果，是几乎无处不在的监控。随着人工智能广泛应用，企业、政府和其他组织将更有动力通过实时人脸识别、车牌识别、位置追踪，甚至步态识别等方式收集个人数据。此类持续性监控不仅损害隐私，也会侵蚀个人自主性和民主价值。因为个体需要一定的不受干扰的“喘息空间”，才能自由表达、独立思考并作出公共生活中的关键决定。一旦这种空间被压缩，人们便更容易进行自我审查，并按照自己所想象的“可接受边界”来约束行为。也正因此，隐私并不只是个人权利，更是民主社会得以维持的重要条件。
从韧性的角度看，回应人工智能带来的社会挑战，不能依赖零散、局部和事后式修补，而应采取更具结构性的政策路径。研究表明，个体在与他人保持真实联系、拥有稳固社会支持网络时，更有能力应对外部冲击；孤独感本身也已构成一个公共卫生问题。换言之，在人工连接不断挤压现实关系的时代，增强个人与社区韧性的关键，不只是提升技术素养，更是为现实世界中的关系建立和个人发展保留足够空间。
这意味着，需要在时间和空间上有意识地减少数字设备和监控的持续介入。近年来，这方面已出现不少实践，例如校园限制智能手机、鼓励儿童在没有技术中介的环境中建立同伴关系，以及为学习和成长保留不依赖数字设备的空间。澳大利亚已禁止16岁以下未成年人开设社交媒体账户，欧洲议会也呼吁成员国考虑采取类似措施。与此同时，一些学校重新重视手写考试、课堂参与和现场互动，目的是确保学生真正形成独立思考和表达能力，而不是过早把这些过程外包给聊天机器人。即便是以人工智能辅助学习为特色的学校，也并未把全部教学交给人工智能，而是仍为非人工智能活动保留了大量时间。
这些做法的共同点在于，它们并不把希望寄托于个体自律，也不依赖简单的使用提醒，而是通过制度和环境设计，为个人发展和人际交往保留不受技术干扰的空间。这一点之所以重要，还在于技术使用本身常常会形成集体行动困境：许多人也许都希望在某些场景中远离技术，但只要仍有部分人持续使用，其他人就会承受跟随的压力。
比这些时间和空间安排更深一层的改革，是对监控型、攫取型商业模式本身进行限制，例如禁止监控广告，并通过数据最小化原则遏制无边界的数据收集和囤积。当前的平台已高度依赖数据来定向推送内容和广告，而在人工智能条件下，这种机制只会进一步强化。与其等到一代人在人工智能陪伴和无处不在的监控中逐步让渡自主性，不如在技术扩散初期就主动为社会保留一部分不受人工智能介入的空间。这意味着，在学校教育中应先保障儿童在不依赖人工智能的条件下学习，再逐步接触其辅助性收益；也意味着，在依赖工具生成和润色文本之前，应先培养独立写作和思考能力。更广泛地说，还需要形成鼓励定期远离技术和监控的社会规范，使人们能够与家人、朋友、邻居和同事建立真实关系，拥有可以倾诉和依靠的人，而不仅仅是始终在线的技术系统。
图源：《今日青年》（Youth Today）
05 建设更具韧性的国家安全体系
从某种意义上说，国家安全正是人工智能发展的起点之一。20世纪下半叶，美国国防高级研究计划局（DARPA）之所以持续资助一批重要的人工智能研究项目，正是因为人工智能被视为可能改变国防和作战方式的关键技术。进入当下，人工智能正在持续改变国家安全领域的基本格局。本文主要聚焦三个具有代表性的领域：战场作战、化学—生物—放射性—核（CBRN）风险，以及网络安全。国家安全的内涵当然远不止于此，但这三个领域足以说明，面对人工智能带来的新变化，国家安全治理需要的不是零散修补，而是更具系统性的制度回应。
首先，在战场作战层面，人工智能与自动化武器系统很可能进一步提升战争的杀伤力。各国军队长期以来都会利用前沿技术提高作战效率，因此这一趋势本身并不意外，问题在于，新技术往往也会带来更复杂的伦理和治理挑战。过去十余年，美国围绕致命性无人机的使用标准不断调整，历届政府在何时使用、如何使用等问题上的政策并不稳定。随着越来越多国家开始试验和部署由人工智能增强的无人系统，这种政策不一致所带来的风险更值得我们警惕。近年的多场战争已经表明，人工智能军事系统引发的伦理争议正在加深，其中，致命性自主武器系统（LAWS）已成为国际讨论中的焦点。虽然这类系统尚未大规模部署，但一旦主要国家判断竞争对手率先掌握相关能力，跟进部署的压力就很可能随之上升，而要通过外交手段避免这种升级并不容易。
致命性自主武器系统（Lethal Autonomous Weapons Systems，LAWS）
图源：联合国（UN）
其次，在CBRN风险方面，美国近年来已对人工智能可能带来的相关风险给予较多关注，并在一定程度上推进了风险缓释。但从整体看，现有国际安排仍然不足。例如，在核武器问题上，当前同意确保人工智能在核系统中始终处于人类控制之下的国家仍然有限，部分拥核国家尚未作出明确承诺。更重要的是，这类国家间安排并不能覆盖来自非国家行为体日益上升的风险。就现实情况而言，生物安全往往被视为人工智能快速发展中最值得警惕的领域之一。生物技术创新具有明显的双重属性：它既可能推动新药研发、挽救生命，也可能帮助恶意行为体设计新的高风险病原体。随着生物设计模型、台式核酸合成设备和云实验室等工具不断扩散，获取高风险能力的门槛也在下降。因此，人工智能并未凭空制造这些风险，却可能显著放大原有威胁。
再次，在网络安全领域，人工智能也正在改变攻防关系的基本格局。传统上，攻击者天然占据一定优势，因为前者只需找到一个可利用漏洞，而防御者必须保护整个系统。人工智能既可能帮助攻击者更快发现漏洞、设计更具针对性的社会工程手段并生成更难识别的恶意代码，也可能帮助防御方识别风险、修补漏洞和提升检测能力。由于现代社会几乎所有关键活动都依赖数字基础设施，网络风险的暴露面极其广泛。尤其在云计算高度普及的背景下，大型企业、政府机构和关键基础设施提供者都逐渐更加依赖少数云服务商，这不仅扩大了国家级对手的攻击面，也使数字基础设施本身成为地缘政治竞争的重要底座。问题在于，现有治理仍不足以全面理解和持续追踪这些风险。也正因此，越来越多观点主张，应将网络安全韧性视为一种公共产品，并以更接近公共卫生的方式来理解和治理“公共网络安全”。
从韧性的角度看，人工智能时代的国家安全政策，首先需要完善关键程序和决策流程。与商业场景相比，人工智能进入军事体系未必同样顺畅，因为军事环境中的训练数据可能更稀缺、更有缺陷，而作战目标本身也往往更不确定。因此，在军事决策中，为人类判断保留空间，不是更不重要，而是更重要。未来的制度设计不仅要确保人工参与，以符合战争法和责任伦理要求，也要防止人类沦为对人工智能判断的简单背书者。类似地，在生物研究和网络安全治理中，清晰的流程设计、风险评估和预案机制，同样是增强韧性的关键
更进一步看，国家安全体系还需要按“韧性原则”进行制度设计。网络安全就是一个典型例子。现实中，网络安全失败常被归咎于个人失误，如密码管理不当、点击钓鱼链接或软件配置错误。但个体往往恰恰是最不适合承担系统安全责任的一环，因为他们通常缺乏足够知识，也缺乏处理系统性风险的能力。更合理的做法，是将更多责任转移给真正控制数字基础设施的主体，如云服务提供商和人工智能模型开发者。相应政策工具可以包括：推动“安全内嵌式设计”、给予采用相关制度的企业更多激励和支持，并通过法律责任机制促使其真正落实更高标准的安全要求。
与此同时，也有一些网络安全事件早已超出单个企业的应对能力。针对关键网络实施深度渗透的国家级攻击，就不是任何一家私营公司能够独立应对的。这类风险要求联邦政府比以往承担更多责任，例如推动后量子密码、零信任架构等关键技术方案落地，并为数字系统转型提供公共资金支持。换言之，在人工智能放大网络威胁的背景下，仅靠私人市场已难以支撑整体安全。正如现代消防体系最终由私人保险队走向公共消防，网络安全治理未来也可能需要更集中化的公共应急力量，即数字时代的“公共消防队”，以在重大攻击超出私人能力边界时及时介入。
总体来看，国家安全领域的韧性建设，不是简单在风险出现后再作补救，而是要在制度设计之初就把抗压、恢复和稳定能力嵌入其中。这意味着，在自动化战争压力上升的背景下，必须坚持并捍卫某些根本价值不被轻易侵蚀；在生物安全领域，必须通过制度安排提升研究体系的适应能力，避免不可逆后果；在网络安全领域，则必须重塑数字基础设施治理方式，维护数字生活的基本稳定。只有如此，国家安全体系才能在外部冲击和技术变迁中保持基本功能，并真正完成其保护社会的使命。
CBRN系统
图源：AirBoss Defense Group，ADG
06 结论
人工智能引发的社会变迁早已开始。早在2022年底ChatGPT带动新一轮消费级聊天机器人热潮之前，人工智能就已广泛进入日常生活。多年来，它持续影响着人们在线上接触的大部分内容与广告，包括社交媒体、搜索引擎、电商平台和流媒体服务；与此同时，它也早已被用于一些不那么显性的场景，如闭路电视中的人脸识别、银行欺诈检测以及刑事司法中的再犯风险预测。
从当前趋势看，人工智能正在持续嵌入社会运行的各个层面。即便支撑当前大语言模型及相关系统的技术路线未来可能面临一定边界，持续高涨的投资热度仍表明，人工智能将在相当一段时期内保持创新推进、产品扩张和社会普及的态势。如果社会继续沿用面对社交媒体时近乎放任的应对方式，或延续当前“边观察、边等待”的被动态度，一些难以逆转的损害就可能在不知不觉中累积。
正因如此，本文主张以更具前瞻性和结构性的方式建设社会韧性。尽管我们有充分理由相信，人工智能的大规模应用将深刻影响社会运行，但这些变化究竟会以何种形式、在何时以及以多大程度显现，仍难以准确预判。也正因为如此，以韧性为导向的政策路径更具现实意义：它不是围绕单一风险做零散修补，而是通过重塑经济、社会和国家安全等政策领域，提升制度、个人与社区应对未来冲击的能力。换言之，人类并非只能被动承受人工智能带来的变革，我们仍然拥有选择权，能够决定社会如何使用人工智能、在哪些领域应保留不受人工智能介入的空间，以及公共政策应如何回应技术扩散带来的影响。关键在于，能否运用这种能动性建设一个更具韧性的社会。
当然，本文提出的一系列政策主张，在当前政治环境下并不容易全面落实，整体上看这些主张带有明显的结构性和转型性色彩。但这恰恰与人工智能可能带来的深刻冲击相对应，也是社会在把握技术变革收益的同时，维护市场经济基本秩序、保障个体自由并守住国家安全底线所必须付出的努力。对政策制定者而言，问题不应仅仅停留于狭义的“当前什么可行”，而应进一步思考，如何为一项迈向人工智能韧性的总体战略积累必要的政治意愿与制度条件。
图源：AI Certs News
编译作者
袁露铭，全球人工智能创新治理中心研究助理
原文链接：
