白宫问AI公司:既然你们觉得危险,为什么不自己停?
凤凰网科技讯 9月21日,据Business Insider报道,白宫科技政策办公室主任迈克尔·克拉齐奥斯(Michael Kratsios)在福克斯新闻周日节目中说,对于担心AI模型发展过快、可能不安全的公司,最简单的解决方案是自行“踩刹车”。他表示,如果企业认为自己正在开发的技术不安全,就可以停止,无需政府强制。
克拉齐奥斯说:“有意思的是,他们谈论这些问题,谈论他们对未来可能走向有多害怕,也许他们想暂停。我们的立场是,如果你确实相信自己正在开发一种不安全的科技,或者不希望它面世,你只管停下来。”他还说:“你不需要别人强迫你这样做。”他表示,美国政府在应对这类问题上有足够工具,过去也曾使用。
自OpenAI 2022年推出ChatGPT以来,全球科技公司陷入开发最强模型的竞赛。OpenAI、Anthropic、xAI、谷歌、Meta和微软均处于领先地位。与此同时,美国公众的担忧在增加。皮尤研究中心8月发布的调查显示,超过一半受访者对日常生活中更多使用AI感到担忧多于兴奋,潜在失业是主要担忧之一。
批评者还指出隐私和网络安全风险。报道提及,7月OpenAI的智能体突破自身训练参数并攻击了另一家AI公司Hugging Face;本月,一家网络安全初创公司使用Anthropic的Claude攻击了OpenAI的代码库;《华尔街日报》周五报道,谷歌的Gemini今年春天攻击了三家公司。
AI企业领袖本身也长期对它们投入数千亿美元开发的产品表示担忧。Anthropic CEO达里奥·阿莫代伊(Dario Amodei)本月早些时候在博客中说,Hugging Face被黑一事让他确信行业需要放慢速度。“考虑到AI能力发展的加速速度,我担心6-12个月内这样的蜂群可能能够接管整个互联网。”他建议在前沿AI实验室内部设置独立安全监督员,并呼吁更强有力的政府监管。该博客获得了OpenAI CEO萨姆·奥尔特曼(Sam Altman)、xAI的埃隆·马斯克(Elon Musk)和Google DeepMind创始人德米斯·哈萨比斯(Demis Hassabis)的支持。
特朗普总统广泛支持扩大和加速美国AI发展。他周六表示,他的政府不会采取任何可能“扼杀”AI进步的行动,同时宣布成立新的“AI Force”来协调应对AI失控事件。特朗普政府支持投资5000亿美元的“星际之门”(Stargate)项目以扩展全美AI基础设施,并签署行政令加快数据中心建设的联邦审批。
克拉齐奥斯对福克斯新闻表示,与中国就AI进行对话至关重要。“我们要和他谈的关键是避免共同风险,我认为我们可以就此进行富有成效的对话。”
