美媒:DeepMind CEO卸任前推动成立AI安全机构
哈萨比斯
凤凰网科技讯 北京时间8月13日,据《华尔街日报》报道,知情人士称,在卸任谷歌DeepMind CEO职位之前的几周时间里,戴米斯·哈萨比斯(Demis Hassabis)曾与美国政府官员以及其他AI实验室负责人讨论,筹建一个新的独立AI行业安全机构。
据知情人士透露,作为DeepMind联合创始人,机器学习领域的先驱,哈萨比斯越来越多地将时间投入到推动建立一个为通用人工智能(AGI)开发制定安全机制和最佳实践的组织上。在与同行交流时,哈萨比斯曾将这一拟议中的机构比作国际原子能机构(IAEA),后者是一个促进核能合作的非政府监督机构。
知情人士称,今年夏初,哈萨比斯曾与特朗普政府高级官员讨论其计划的各方面内容,包括美国财政部长斯科特·贝森特(Scott Bessent)、特朗普总统的高级科技顾问之一迈克尔·克拉西奥斯(Michael Kratsios)。
哈萨比斯未回应置评请求。谷歌发言人表示,公司认为确保先进AI模型的安全“对社会至关重要”,而哈萨比斯在推动这一目标方面具有独特优势。
该发言人表示:“戴米斯选择在谷歌担任新的职务,并将更多精力战略性地投入到科学突破以及塑造AGI未来方向上。”
今年7月中旬,哈萨比斯在X上发表了一篇长文,提出美国应该建立一个由行业资助的“标准机构”,以帮助评估AI模型的安全性。
他说,该机构的运作方式可以类似于金融业监管局,后者是在大萧条时期成立的一个自律监管机构,负责监督经纪公司,由金融行业提供资金支持。
根据他的计划,联邦机构以及美国能源部下属的国家实验室将与AI公司合作,在“与国家安全相关的领域”对模型进行测试,并建立一套资格认定体系,若模型达到特定标准,即可获得“前沿级”标签。
上周,谷歌宣布对其AI研究部门DeepMind进行重大管理层调整,哈萨比斯卸任CEO,由副手科雷·卡武库丘奥卢(Koray Kavukcuoglu)接任。哈萨比斯被任命为DeepMind董事长兼Alphabet首席科学家。
