近日，美国著名智库兰德公司发表了作者迈克尔·S·蔡斯、威廉·马塞利诺的研究报告《人工智能的五个重大国家安全问题的美中冲突、竞争与合作的激励措施》指出：在以战略竞争和相互怀疑为标志的关系中，美国或中国（PRC）——或两者——实现人工智能（AGI）的前景可能会加剧紧张局势，甚至可能增加竞争陷入冲突的风险。
（AGI：一般指通用人工智能Artificial General Intelligence，是指具有高效的学习和泛化能力、能够根据所处的复杂动态环境自主产生并完成任务的通用人工智能体，具备自主的感知、认知、决策、学习、执行和社会协作等能力，且符合人类情感、伦理与道德观念。文章在这里广义地定义了AGI，指在各种任务中具有人类或超人能力的人工智能系统，或者可以通过用自动化代替劳动力来广泛地执行具有经济价值的工作，或者显示新技能和任务的新兴学习属性。）
文章说，这并不奇怪，因为AGI可以重塑全球力量平衡，或产生能够压倒性的情报系统、信息生态系统和网络防御的“神奇武器”。
然而，AGI的出现也可以为降低风险和合作创造激励措施。我们认为，两者都是可能的，而且是必不可少的。美国和中国都希望避免可能导致不必要的战争的误判和误解。两者都无法单独管理AGI滥用的风险——无论是开发新型大规模杀伤性武器（WMD）的流氓行为者、引发危机的自主代理，还是超出国家能力的级联干扰。但在降低风险或合作方面取得的这种进展不会自然地出现。这将需要经过深思熟虑和仔细校准的外交努力，才能使其可行。
中国的选择将是塑造美国决策者在AGI道路上面临的风险和机遇的主要因素，同样，中国官员可能会将美国视为塑造AGI结果的最具后果性的外部行为者。乍一看，华盛顿和北京之间在安全、经济和技术问题上的摩擦加剧，以及双方对对方意图的极度消极的看法，似乎将推动它们在与AGI相关的领域的关系。
然而，2024年11月的领导层协议表明了两国合作以减少与人工智能相关的风险的潜力，即人类，而不是人工智能，应该就使用核武器做出决定。该协议虽然范围不大，但可以作为未来讨论与开发和使用AGI或其他先进人工智能能力有关的潜在相互约束领域的基础。因此，现实可能更加复杂，在冲突、竞争和合作之间做出选择。
我们认为，美国及其盟友和合作伙伴积极主动地与中国合作，以制定人工智能竞争与合作的条款，这一点很重要。未来，无可争议的人工智能升级或计算错误可能会产生任何一方都无法控制的危机，这不符合美国的国家利益，也不符合中国的国家利益。战略性、有计划的参与——平衡竞争与有分寸的、以问题为重点的合作——可能会降低战略意外、大规模毁灭性武器扩散和灾难性冲突的风险，同时保护美国的利益和全球稳定。这反过来将使美国政府能够围绕AGI相关问题建立讨论与合作的机制和规范。
一、美中战略竞争：相互威胁感知和竞争动态
华盛顿的决策者将中国视为美国面临的主要国家安全挑战，美国国防战略家越来越关注如何应对中国人民解放军（PLA）日益增长的能力。特别是，人们越来越担心中国可能会寻求使用武力或胁迫吞并台湾，美国分析家正在密切关注解放军的军事能力发展，旨在利用美国在发生冲突时的潜在弱点。此外，一些美国分析家认为，中国试图在印度洋-太平洋地区取代美国，并最终掩盖美国在全球的影响力。美国也越来越关注与中国的经济和技术竞争，华盛顿试图减少对中国供应链的依赖，并限制被认为威胁到美国经济和安全利益的中国技术进步。
同样，中国的看法是基于对美国意图的深刻怀疑，中国的分析师认为，美国通过安全视角看待其与中国关系的几乎所有方面，并决心削弱中国共产党（CCP），减缓中国的经济和科学技术进步，并最终阻止中国在全球舞台上取得应有的地位。同时，中国领导人公开表示，美国及其盟友和合作伙伴决心加强对中国的“遏制、镇压和包围”。
中国2025年5月的国家安全白皮书描绘了一幅类似的画面，表明中国必须应对其主要归因于美国的外部压力和不稳定，并特别强调美国加强联盟、部署中程导弹和调整其在该地区的军事态势。为了应对这些感知到的挑战，中共领导人旨在促进本土技术发展，加强中国的军事能力，与俄罗斯和其他美国对手更紧密地结盟，并加强中国与全球南方国家的关系。
鉴于这些激烈的竞争动态和相互威胁感知，美国和中国可能会在某些领域面临强烈的竞争激励，甚至可能冲突。然而，与此同时，它们的激励措施可能与其他领域的合作保持一致，而在其他领域，竞争和合作的激励措施可能仍然混合。
二、美国与中国对AGI的五个重大国家安全问题的激励措施
文章探讨了美国和中国在神奇武器、权力的系统性转变、非专家有权开发大规模毁灭性武器、人工智能不受控制的实体、不稳定性等五个领域中每个领域的冲突、竞争和合作的激励措施的组合。
1、神奇武器
想象一下，强大的人工智能突然给了美国或中国一个完全出乎意料的、潜在的决定性武器——例如，能够抵消对手核威慑的导弹防御系统，或完全破坏一个国家关键基础设施的网络能力。这种“神奇武器”的出现可能会改变两国的风险和威慑的计算。在极端情况下，一个拥有神奇武器的国家可能会被诱惑使用它以获得决定性的战略优势；一个没有神奇武器的国家可能会觉得有必要先打击一个即将实现神奇武器的对手国家。
随着美国和中国的军事竞争加剧，神奇武器的发展可能会加速，双方都在竞相实现技术突破，这可以在未来的冲突中提供决定性优势。由于不透明的人工智能决策，神奇武器也可能增加误判和升级的风险。事实上，潜在的军备竞赛动态可能导致战略不稳定，使两国之间发生冲突的可能性更大。然而，任何神奇武器的威慑可能被打破，以及冲突风险的加速，可能是合作的原因，至少在降级和保证方面是这样。以相互协议的形式就先进的人工智能军事技术的约束和透明度进行合作将非常困难，因为美国和中国都在竞相实现潜在的决定性优势。然而，他们可以认为一定程度的相互克制是可取的。例如，有可能在人工智能不应就使用核武器做出决定的协议的基础上再接再厉，两国将如何通过减少支持人工智能的系统可能导致意外或无意的升级的风险而受益。
2、权力的系统性转变
随着其安全、经济和技术竞争的加深，双方解决权力系统性转移问题的方法可能会受到竞争的驱动。美国军方和解放军几乎肯定会以可能导致军事竞争方面重大转变的方式竞争使用人工智能。即使这些用途不能成为神奇武器，军事竞争的转变仍然可能导致竞争加剧，特别是如果一方或双方将这种转变视为推翻了两国军事平衡的关键方面。
例如，中国可以利用先进的人工智能能力来加强其外部宣传和政治影响力行动。解放军已经对使用先进的人工智能能力来提高其“认知领域战争”的有效性表现出兴趣，例如通过创建和分发越来越真实的深度伪造，以及为特定受众定制消息。中国可以利用人工智能能力作为工具来操纵国际舆论，削弱公众在关键国家与美国合作的支持，甚至影响台湾或其他民主国家的选举结果。与此同时，北京可能会担心美国或其他国家可能会试图利用其自己的人工智能能力来支持被认为破坏国内中共控制的努力。
另一个竞争点是人工智能带来重大经济效益和科学突破的潜力，特别是随着安全竞争与经济和技术政策变得更加紧密地交织在一起。生成性人工智能代理已经开始在基础计算机科学方面取得进展，虽然估计各不相同，但可能会为经济增长带来有意义的加速。如果中国或美国能够更有效地在其经济中传播人工智能，并随着时间的推移，国内生产总值获得适度（例如1%）的提高，这对该国来说可能是一个决定性的优势。因此，虽然可能低于国与国的合作潜力（例如，在商业公司层面），但这种优势的国家利害关系如此之高，以至于有可能竞争。
（未来是不确定的，我们可以想象出多种不同的经济优势——例如，一个国家率先传播和采用人工智能，第二个国家追赶。然而，我们考虑了AGI可以提供持久优势的真正可能性。）
然而，有一些潜在的合作领域，科学进步不需要仅仅具有竞争力。例如，在医疗和卫生进步方面的共同利益可以成为各国之间合作的基础。同样，环境科学突破或救灾方面的进步可以产生广泛的全球影响，值得合作。可以肯定的是，更广泛的双边关系日益尖锐的竞争动态导致这些领域合作的前景减弱。两国必须发生一些可能发生巨大变化，才能追求这些潜在的合作领域。事实上，两国可能需要前所未有的全球健康危机或自然灾害才能判断他们有足够的共同激励措施来克服合作障碍。
3、非专家被授权开发大规模杀伤性武器
人工智能的进步，特别是生成模型，可能会降低非专家开发大规模毁灭性武器的障碍，包括核、化学和生物武器。通过降低进入技术知识的障碍，强大的人工智能可能会使个人或非国家行为者能够发展以前仅限于民族国家或高度专业化专家的大规模毁灭性武器能力。
大规模毁灭性武器的扩散对美国和中国构成了共同的威胁，因为这两个国家都不想应对非国家行为者携带此类武器的破坏稳定的风险。这种共同利益为在以下领域开展合作创造了机会：
①监测人工智能应用；
②建立全球共享有关滥用人工智能的情报机构；
③建立防止滥用的保障措施；
④制定国际规范以防止利用人工智能进行大规模毁灭性武器开发。
合作努力可以降低全球风险，同时增进两国之间的信任。
然而，与此同时，战略不信任、竞争的战略优先事项以及不愿意分享敏感情报能力可能会使合作更具挑战性。此外，这也可能是一个竞争的空间。与美国的专有人工智能开发相比，中国目前将自己定位为更广泛的人类利益的开源人工智能的拥护者。因此，虽然两者都可能就滥用人工智能进行合作，但通过开源人工智能“启用滥用”的软实力竞争也可能成为一个新的摩擦领域。
4、人工智能不受控制的实体
当前人工智能系统最具变革性的方面之一是它们表现出代理素质的能力：它们可以以一定程度的自主性计划和执行任务，通常不需要直接的人类监督。例如，大型语言模型可以生成和执行代码，并且在连接到互联网或互联网硬件时，它们可以与外部系统进行交互。这些能力对解决复杂问题和推动创新有很大的希望，但它们也带来了重大风险。
即使没有实现有感或AGI，代理人工智能系统也可能出现故障或不可预测的行为，可能会造成广泛的伤害。例如，想象一下一个由人工智能驱动的空中交通控制系统，由于设计缺陷或不可预见的情况，将飞机引导到全国各地的碰撞中。此类情景突出表明，迫切需要强有力的保障措施和监督机制，以确保这些系统按预期运行。在确保代理人工智能系统的控制和安全方面，美国和中国都可能会分享合作的激励措施。
5、不稳定性
到了最后一个难题——不稳定性——华盛顿和北京将面临竞争动态和不同的激励措施。在某种程度上，这可能是大国竞争不可避免的产物，但如果每个国家都认为自己追求稳定，而另一个国家则采取挑衅性和潜在破坏稳定的步骤，可能会破坏它们之间潜在的脆弱平衡，情况可能会加剧。例如，想象一下，美国对人工智能网络安全的大量投资，由于误解的意图，北京将其解释为实际上是关于进攻性战略网络能力和两国之间日益不稳定的动态。
然而，与此同时，美国和中国也可能有动力至少进行一定程度的合作。他们可能都希望减少他们发展AGI的竞赛将如此破坏稳定，从而导致损害两国利益的结果的风险。无论AGI最终是否实现，随着国家和公司竞相在这种变革性技术中实现主导地位，对AGI的追求都可能助长一个不稳定的时期。这种竞争可能导致紧张局势加剧，让人联想到核军备竞赛，因此追求优势可能会加速而不是威慑冲突。在这种岌岌可危的环境中，各国对AGI的可行性和赋予先机优势的潜力的看法可能与技术本身一样重要。
这提出了误解或沟通不畅可能导致双方都不希望的结果。尽管存在激烈的安全、经济和科技竞争，但两国都有动力避免因追求先进的人工智能能力而可能引起的无意升级或无意冲突。
三、结论
对于与追求AGI或先进人工智能能力相关的一些国家安全问题，美国和中国将面临强烈的竞争激励，甚至可能面临冲突。有充分的理由相信，这些竞争激励措施将在未来几年内加深，特别是如果台湾紧张局势、南海海上争端或其他安全问题继续加剧。然而，其他一些难题，如非专家被授权开发大规模毁灭性武器和具有代理的人工实体的威胁，似乎为华盛顿和北京在通往AGI的道路上提供了一套不同的激励措施。此外，在这些领域中的每一个，至少一定程度的合作可能会使双方处于更好的位置，以避免不良结果——如果他们能够设法实现这一目标，尽管竞争加剧，分歧越来越尖锐。此外，双方可能会从一些与激烈竞争领域相关的话题的讨论中受益，以减少竞争可能因误解或沟通不畅而陷入冲突的风险。
在激励措施一致的情况下进行合作，在激励措施分歧的情况下减少风险所需的沟通渠道，可能需要很长时间才能发展和制度化，如果美中关系进一步下滑，这些渠道可能难以维持。尽管如此，决策者不仅应在必要时专注于与中国竞争，还应在符合美国和中国利益的情况下创造和维持合作机会。即使两国在合作方面的利益一致，官方通信机制的进展也可能缓慢，至少在没有催化事件的情况下。
在不久的将来，美国可以通过广泛的步骤开始建立基础：轨道2或轨道1.5对话，召开术语专家工作组，并就与这些问题有关的问题进行讨论，作为现有政策对话的一部分。可以肯定的是，合作可能存在障碍，包括军事保密的必要性，中国长期以来不愿意与美国进行战略稳定和军备控制讨论，以及美中之间持久的战略不信任。此外，在事件发生之前，合作激励措施可能不会一致。然而，现在迫切需要为未来合作打下基础以及对话，以减少美中竞争蔓延到本可以避免的冲突的风险，这可能对两国造成极大的破坏。
（原创首发，肖志夫翻译，图片源自美国兰德智库网站，侵删）
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】