最新警告!Google前研究员:AI可能杀死全人类
▲Google人工智慧DeepMind共同创办人与执行长哈萨比斯(Demis Hassabis)。
Google DeepMind前研究员楚格泰(Bilal Chughtai)14日警告,AI可能杀死全人类,并称避免这种结果的时间可能所剩无几,成为对该技术提出公开警告的最新一名产业研究员。针对这项评论,Google目前尚未回应。
最新警告 AI可能杀死全人类
根据LinkedIn资料,楚格泰原本在Google DeepMind负责通用人工智慧(AGI)的安全与对齐研究(safety and alignment research),但已于今年7月离职。
他在X发文表示,「我真心相信AI有能力杀死我们所有人,而且我们可能已经没有太多时间来避免这种结果了。」
楚格泰认为,安全引导AI是可能做到的,但需要协调与合作,「避免AI公司陷入这种疯狂竞赛」,「我们必须将AI发展速度调整至社会能够承受的程度,让新兴风险在造成极端伤害前获得妥善处理」。

产业频警告 川普驳AI末日论
近期多名产业研究员及科技巨头对AI发展前景提出警告,引发AI末日论的讨论与担忧。
Anthropic前研究员考克森(Jacob Coxon)表示,他离职一部份是因为,「打造AI的人真心认为,这项技术可能在10年内消灭全人类。」同企业科学家胡宾格(Evan Hubinger)也认为,未来10年AI「杀死全人类」的机率超过10%。
Anthropic执行长阿莫戴(Dario Amodei)呼吁业界放慢提升模型能力的速度,争取更多时间建立安全防护措施,获得SpaceXAI创办人马斯克、OpenAI执行长阿特曼(Sam Altman)的支持。
事实上,阿特曼甚至宣布OpenAI今年不会公开上市,因为公司目前将重心放在解决AI相关安全问题上。
不过,美国总统川普已公开反对这些警告,他抨击呼吁监管的说法都是「骗局」,甚至直接致电辉达(NVIDIA)执行长黄仁勋,口径一致驳斥AI末日论。
