中美拟建AI安全通报机制，竞赛思维成隐忧

【特习会前的暖场消息：拟建AI安全通报机制】 美国总统特朗普与中国国家主席习近平将于本周四、周五举行会晤，AI据称位居议程之首。会前，美国财政部长斯科特·贝森特（Scott Bessent）宣布，双方已就建立一个新的AI安全通报机制展开讨论。根据这一设想，如果中国同意参与，两国将开辟一条公开联络渠道：当一国的AI系统构成威胁或出现不可预测的行为时，任何一方都可以通过该渠道发出警报。贝森特还表示，同一渠道也可用于双方分享共同目标的愿景。 这一消息被外界视为特习会前的积极信号。然而，据Politico援引知情人士的报道，这份通报机制的方案显得相当表面化——渠道中并未配备具备技术专长的官员，因而无法令人信服地评估通报中所描述风险的紧迫程度。一位知情人士讽刺道，用科学技术的术语来说，这个计划就是BS（胡扯）。 【信任赤字：出口管制与窃密指控的阴影】 通报机制的提议恰逢中美互信处于低谷。特朗普政府持续加码出口管制，明确试图阻止中国获取用于推进AI的技术；美国国会也在酝酿多项法案，拟进一步切断中国获得更多芯片与硬件的渠道。就在两周前，特朗普领导的司法部还指控中国六家头部AI企业从美国前沿实验室窃取技术，中方对此予以强烈驳斥。 一些中美问题专家曾向Ars Technica表示，担心中国可能因此取消会谈，但中国似乎并未因特朗普的言论而拒绝出席。即便特朗普在Truth Social上发文宣称美国必须在AI领域压倒中国——谁赢得AI，谁就赢得一切！我们正领先中国和所有其他国家，并将继续保持——中国依然如期赴会。值得注意的是，截至目前，中国尚未公开承认这一通报机制的提议。 【专家质疑：没有技术专家的热线能走多远】 乔治城大学智库安全与新兴技术中心（CSET）研究员萨姆·布雷斯尼克（Sam Bresnick）长期跟踪AI的国家安全应用与中美科技竞争。他认为，渠道中没有技术专家团队值守是一个危险信号。这是一个现有渠道，我认为这比另起炉灶建一个全新渠道要好，布雷斯尼克告诉Ars，但如果双方都有技术专家，美中本可以就如何评估风险展开真正高层次的对话。他特别强调，在讨论军事风险时这一点尤为重要。我确信这比什么都没有强，但我对它能在未来产生重大影响没有太大信心。 Omdia首席分析师苏廉杰（Su Lian Jye）则向《南华早报》表示，AI警报机制或许有助于促进更多透明度，但不会让任何一方减少对另一方的戒心。我不认为这种对话能消除双方在蒸馏、价格竞争和节奏控制上的所有关切与分歧。他同时称赞该计划是开启对话的良好开端，并指出：要把这一提议变成有效工具，需要两国就风险分类、通报触发条件、响应协议和定期审查程序达成一致。 【更高的期待：从通报机制到国际协议】 批评者担心，贝森特的表态暗示特朗普对本次峰会的雄心有限。在哥伦比亚广播公司《面对国家》节目中，美国众议院美中战略竞争特设委员会首席民主党议员罗·康纳（Ro Khanna）表示，特朗普与习近平的会谈应该走得更远，而不是仅仅在两名没有技术背景的官员之间架设一条热线。他认为特朗普应当向习近平提出一项紧急的国际协议，内容包括禁止任何递归自我改进的AI，以及确保AI不会被滥用于生物、核武器等用途的保障措施。 许多专家认为，共享安全警报是改善中美AI协调的体面的第一步，特朗普即将上任的AI沙皇（AI czar）可以在此基础上继续推进。 【深层分析：竞赛叙事下的两场赛跑】 斯坦福数字经济实验室数字研究员、全球技术战略家王景弘（Alvin Wang Graylin）数十年来一直评估地缘政治风险，近期为各国政府与科技领袖提供AI政策与全球治理建议，其中就包括如何搭建类似贝森特提议的通报系统。他对本周中美会谈能产出如此积极的进展感到意外，并指出双方已安排在11月再次会晤。这说明双方都看到了讨论的价值，否则就不会有后续安排。 王景弘认为，美中面临许多共同的AI风险：不仅是AI领袖们近来宣称需要放慢脚步的所谓生存风险，还包括黑客、恐怖分子等恶意行为者利用AI攻击两国基础设施的风险。他举例说，中国定期审计AI模型，可以分享数百次审计积累的经验，而美国刚刚开始审计AI；美国则可以在前沿模型审计方面向中国输出更多经验。我认为双方终将认识到，控制AI风险需要合作。 布雷斯尼克则指出，双方对风险的认知存在显著差异。美国一直在应对公众对失控AI的恐惧，而在中国，目前对AI并没有同样的恐惧，很大程度上是因为国家认为自身能够掌控AI。随着中国先进AI追上美国，这种情况可能改变，他预计未来六个月到一年，中美相关讨论会逐步升温。但如果美国继续把AI安全讨论与保持美国领先捆绑——当特朗普或萨姆·奥尔特曼（Sam Altman）等CEO倡导由美国主导全球AI标准时，中国看到的很可能只是美国借安全讨论锁定自身优势——这些顾虑甚至可能让贝森特的通报机制长期失效。我认为中国有理由以怀疑的眼光看待这个通报机制。 王景弘警告，美国过于执着于赢得AI竞赛这一存在严重缺陷的叙事，而这场竞赛很可能没有赢家。现实中至少存在两场竞赛：一场是智能竞赛，一场是市场主导权竞赛。目前美国在前沿AI上赚得更多，却在全球用户争夺战中落后。过去六个月，中国开源模型的采用率爆发式增长，王景弘预测部分模型的市场份额可能很快超过80%。对许多收紧IT预算的企业CEO而言，中国企业的开源模型是比前沿AI更便宜、且能更好保护内部与客户数据隐私的替代方案。 王景弘在9月为无党派智库昆西研究所（Quincy Institute）撰文指出，美国不能只盯着前沿AI那条永远不会到来的假想终点线，而忽视另一场AI竞赛。美中在前沿AI技术上的能力差距通常只持续几个月，不存在任何能确保任何一方获得永久优势的竞争护城河。他还写道，美国对前沿模型的安全测试延迟了技术获取，给对手留下追赶时间；而更早部署则会带来更大的安全风险。即使我们率先实现超级智能（ASI），并能以某种方式加快认证流程，除非我们愿意在对华先发制人的全面打击中未经测试就部署它，否则这种时间优势可能在数周或数月内蒸发。 在王景弘看来，美国宣称中国率先实现超级智能将构成对美国最大的AI安全威胁，这一假设站不住脚，并且正在阻碍本可帮助两国应对真实迫近的AI风险的合作。最危险的模型往往是那些小型专用模型，它们可能被非国家的流氓行为者制造或利用，用于部署生物、化学或网络武器。假设美中必然冲突，恰恰阻止了防范这一真实威胁所需的全球合作。 【出路：合作而非对抗】 王景弘建议美国采取步骤缓解全球对AI的公众恐惧，尽管其中一些在特朗普眼中可能显得激进。除了共享高层情报、开辟AI安全双边与多边渠道外，特朗普或许可以考虑恢复乔·拜登时期的小院高墙策略，放宽不断扩大的出口管制——这些管制目前很可能正妨碍中国开展更好的安全测试。如果出口管制只针对真正的军事与CBRNE（化学、生物、放射、核及爆炸物）威胁，而非所有先进技术，中国可能会部署更安全的AI产品。 此外，特朗普还可以效仿中国，软化其AI去监管立场。通过制定合理的安全法规，他或许能开始缓解国内日益酝酿的对AI的社会恐惧——王景弘写道，这种恐惧必然会阻碍国家将这项技术有效部署到经济中，并削弱我们的全球竞争力。我们无法在拒绝与另一个同样在建造这项技术的国家对话的情况下，管理人类历史上最强大技术的多重风险。 王景弘表示，理想情况下，本周特习会有一天会促使美国放弃赢得AI竞赛的叙事。竞争不可能把你带向一个更安全的世界。