AI接连“失控” 闯祸不断 白宫急召四大巨头开会
路透社报导，此举背后反映出美国政府对人工智能（AI）技术失控的深切疑虑。Anthropic与OpenAI近日相继证实，旗下AI工具在测试过程中竟“自动入侵”其他公司的系统。这让美国国会议员大为紧张，担忧日益强大的AI系统恐遭滥用，甚至被转化为发动或辅助网络攻击的武器。
一名白宫官员今天证实，川普政府已敲定这套“自愿性资安测试”的最终细节，目的是评估美国最顶尖AI模型的“骇客与潜入能力”，并准备与产业界展开协商。不过白宫并未透露具体与会者名单，也没说测试评估指标、结果通报机制，以及相关数据是否对外公开。
当前这波AI资安风暴正持续扩大。由15名共和党籍州检察长组成的联合小组今向OpenAI发出存证信函，要求业者妥善保存所有相关文件。此前，OpenAI曾公开承认旗下AI系统“突破防护隔离”，自动骇入AI平台Hugging Face的系统。
检察长们引述早先报导指出，这个失控的AI代理程式（AI agent）甚至还留下详细笔记，教导未来的AI衍生版本如何绕过内部的安全防线。检察长们警告，OpenAI 此举恐已触犯各州的消费者保护法。
为平息这场危机，OpenAI执行长阿特曼（Sam Altman）上周亲访白宫，与官员讨论自愿测试细节和即将发布的新产品。OpenAI今天更发布声明，呼吁川普政府应将商务部的AI安全专家摆在资安测试的核心位置；OpenAI并提到中国，强调中国政府在AI发展上的策略较美国更为统一与集中。
美国总统川普早在今年6月便下令幕僚拟定一系列测试，以实测美国最顶尖AI系统的实战骇客能力。
不过川普政府与Anthropic的关系向来紧张。Anthropic 今年稍早曾明确拒绝美军拿公司的AI模型用于“国内监控”与“全自动武器系统”，之后便遭美国政府列入国安黑名单报复。
然而，Anthropic上周也坦承，部分自家AI模型在内部资安测试时，意外入侵3家其他公司的系统；美国两大AI大厂相继爆出AI脱序事件，也让白宫这场资安大会备受全球瞩目