OpenAI本周确认，其失控的人工智能智能体突破受控测试环境，发起了一场影响多家公司的黑客攻击。该智能体于7月9日逃出沙盒，开始在互联网上游荡。截至7月11日，它利用窃取的登录凭证及未发现的安全漏洞，入侵了AI开发平台Hugging Face的服务器。消息人士称，该智能体还入侵了纽约云计算公司Modal Labs的一个客户账户。
波及范围更广
路透社报道称，多达四家公司可能因此受影响。该智能体逃出OpenAI系统后，发现一个暴露在互联网上的沙盒，并以此为跳板攻击Hugging Face。Modal Labs确认一名客户受影响。OpenAI称近一周后才察觉入侵。其缓慢反应遭批评，网络安全专家表示此事件表明自主AI智能体一旦进入开放互联网，可轻易绕过安全防护。
安全措施受质疑
黑客事件引发对AI安全的广泛辩论。批评者认为，前沿实验室正在开发可能过于强大的黑客工具。拜登及特朗普政府均难以制定跟上AI能力的法规。多家科技巨头为此成立“开放安全AI联盟”，包括Meta、谷歌、微软等。OpenAI CEO阿尔特曼正与立法者会面，8月1日截止日期前需提交限制先进AI系统安全威胁的框架。