美组建“超级智能”工作组 拟与中国相互通报AI事故
特朗普政府正同时推进两项应对“超级智能”(super intelligence,通常称为人工智能或AI)风险的机制:由国家情报总监杰伊·克莱顿(Jay Clayton)领导一个新的“超级智能工作组”,评估美国政府如何接收和处理相关事故报告;财政部长斯科特·贝森特(Scott Bessent)则准备向北京提出正式通报程序,以便美中在发生严重AI事故时保持沟通。
这两项行动显示,华盛顿正尝试建立从国内事故识别到国际危机通报的双层架构。不过,哪些事件必须通报、由哪个部门核实,以及美国愿意与战略竞争对手中国分享多少敏感信息,都尚未确定。美国政府也没有公开说明,克莱顿领导的工作组是否会参与设计或管理对华通报渠道。
克莱顿出任政府AI主管
《华尔街日报》10月3日援引克莱顿及一名白宫高级官员的话报道,特朗普已任命克莱顿兼任政府人工智能主管,领导新设立的“超级智能工作组”(Super Intelligence Force)。
该工作组将在120天内提交报告,评估超级智能带来的风险与机遇,并就联邦政府应在监管和应对这一技术方面发挥什么作用提出建议。
据报道,工作组将审查企业和其他机构向联邦政府报告AI系统泄露、网络攻击及其他事故的现有机制,并评估政府能否利用现有法律权限改善应对能力。
成员包括副总统JD·万斯(JD Vance)、战争部长皮特·海格塞斯(Pete Hegseth)、财政部长斯科特·贝森特(Scott Bessent)以及联邦贸易委员会主席安德鲁·弗格森(Andrew Ferguson)等高级官员。
克莱顿告诉《华尔街日报》,工作组既要确保美国继续在先进人工智能领域保持领先,也要保护美国公众利益。他表示,在这场竞争中,“无法率先抵达的风险很高”。
特朗普政府将人工智能正式称为“超级智能”。唐纳德·特朗普(Donald Trump)总统主张美国必须在与中国的技术竞争中保持优势,并警告过度监管可能阻碍美国企业发展。不过,成立这一高级别工作组也显示,政府开始考虑如何建立比企业自愿承诺更具体的事故报告和联邦响应机制。
截至发稿时,白宫和国家情报总监办公室的网站尚未公布工作组的完整行政命令、章程或120天期限的起算日期。
贝森特拟把峰会共识转化为通报程序
与此同时,贝森特上星期六告诉Axios,他计划向中国提出一套正式程序,让美中在人工智能发生严重事故时相互通报。他表示,相信北京会接受这一提议。
贝森特说,他此前与中国国务院副总理何立峰讨论过失控AI智能体,以及非国家行为者利用人工智能发动网络攻击或制造生物安全威胁的风险。
白宫在9月特朗普与中国国家主席习近平举行峰会后宣布,美中将建立“超级智能对话”,并设立一个处理相关事故的双边沟通渠道。下一轮对话计划在11月前举行。中国发布的峰会成果文件则沿用国际上普遍使用的“人工智能对话”一词。
不过,美方此前称两国已原则上同意设立沟通渠道,而贝森特现在表示准备向中方提出具体的通报程序。这表明双方可能已就建立渠道达成政治共识,但启动门槛、负责机构、核查方法和信息保密规则等操作细节仍有待谈判。
克莱顿工作组的成立可能回应其中一个关键问题:美国政府在向中国通报事故之前,首先必须能够及时获知事故已经发生,并判断其严重性、来源及跨境影响。
但目前没有公开证据显示,克莱顿领导的工作组与贝森特提出的对华通报制度已经被正式纳入同一行政架构。
企业是否必须报告事故?
布鲁金斯学会斯特罗布·塔尔博特安全、战略与技术中心高级研究员梅拉妮·西森(Melanie Sisson)近日接受美国之音(VOA)采访时说,美中可以在不分享各自技术优势的情况下,通过危机沟通降低灾难性风险。
她认为,潜在事故大致可分为两类:一类是AI实验室研发过程中发生的意外或异常事件,另一类是有人利用人工智能蓄意发动的攻击。
不过,西森指出,特朗普政府与主要AI企业达成的自愿安全承诺没有规定企业必须向政府报告事故。
“就我所看到的情况而言,实际上根本没有任何报告义务,”她说,“公共安全是政府的责任。政府要为企业界定哪些公共行为可以接受、哪些不能接受。”
特朗普总统9月29日与六家主要科技企业领导人签署了一项自愿协议,要求企业对先进AI系统实行内部控制、独立审计和董事会监督。但该协议没有建立强制性的联邦事故通报制度。
西森认为,如果政府无法及时从企业获得信息,就难以有效启动对华沟通渠道。她说,发生危机后,美中双方很可能无法立即确认事件原因,因此沟通机制最重要的功能之一,是防止两国过早相互归咎并采取可能导致局势升级的行动。
“我们不希望第一反应就是匆忙下结论、开始指责对方并作出激烈反应,”她说。
如果事故涉及核设施或某些关键基础设施,西森认为,沟通不应只停留在部门层级,而应升级为两国领导人之间的直接联系。
