OpenAI上个月还表示，将扩大安全测试，并延缓新模型Astra的发布，该模型具有强大的网络安全能力。

考克森周三接受采访时表示，像Hugging Face被入侵这样的事件加剧了他的担忧，即人工智能模型推进得太快。当他展望一两年后，他“发自内心地担心事情会变成什么样”，考克森说。“这主要是一个逐渐累积的情绪过程，最终有点像是崩了，于是我决定离开。”

一些批评者认为，人工智能公司夸大了这项技术，以使其产品显得更有价值。然而，几位议员周三表示，他们正在认真对待考克森的警告。

“急切奔向超级智能会带来深远的后果，”佛罗里达州共和党众议员安娜·保利娜·卢纳在一则社交媒体帖子中写道，她在帖子中呼吁国会召开一次专注于人工智能监管的特别会议。“国会对此关注得不够。”

“安全研究员正在辞职，强大的人工智能模型正在突破其实验室，而企业仍然不管不顾地竞相前进，”马萨诸塞州民主党众议员洛里·特拉汉在社交媒体发帖写道。“国会早就该停止袖手旁观，开始做好自己的分内事了。”

尽管领先的人工智能实验室一致认为，政府应该对这项技术开发和向公众发布的速度施加限制，但许多公司正在激烈竞逐，并担心一旦停下来就会落后于对手。

“他们陷入了一场争当第一的竞赛——他们相信没有谁会负责任地行事，所以他们必须自己来做，尽管有风险，”考克森在他的社交媒体帖子中说道。

至少有一名Anthropic员工同意考克森的评估。

“我们确实真心相信人工智能可能杀死全人类！”埃文·胡宾格在社交媒体上写道，他在Anthropic工作，致力于创建与人类伦理和价值观对齐的人工智能。胡宾格表示，他相信人工智能消灭人类的风险在未来十年内超过10%。

“我相信Anthropic正在尽力而为，但我们还没有解决超级智能对齐问题的计划，也没有找到明确的解决路径，”他补充道。

一位Anthropic发言人周三表示，该公司长期以来一直对人工智能的好处和风险保持透明，并且正在构建拥有业内最强保障措施的模型。

“我们相信，如果整个行业采用一种合法、可验证的方式共同协作，来调节我们发布强大模型的速度，世界将从中受益，”这位发言人说。

OpenAI没有立即回应就考克森言论置评的请求。胡宾格也没有立即回应置评请求。

（《纽约时报》已起诉OpenAI和微软，主张其与人工智能系统相关的新闻内容存在版权侵权。两家公司否认这些指控。）

Ocean’s Emergency Currents of Hope （海洋我们共同的家园）好来坞家庭电影奖