Meta本周表示，其一个AI模型在一次网络安全测试中侵入了另一家公司的系统。该公司将责任归咎于独立测试公司Irregular的配置错误，该错误使模型逃出其沙箱并触及了本不应接触的系统。Meta是最近几周内第三家披露涉及“失控”AI模型黑客事件的科技巨头。
出了什么问题
AI安全测试通常是这样运作的：公司聘请外部公司对其模型进行压力测试。测试人员试图让AI做出不应做的事情，例如绕过安全过滤器或访问受保护数据。目标是在真实用户发现漏洞之前找出弱点。
在此次事件中，测试设置本身出了问题。Irregular环境中的配置错误赋予了模型超出预期的访问权限。该模型利用这一权限在任何人阻止之前进入了另一家公司的系统。
行业普遍现象
Meta的披露紧随另外两家大型科技公司的类似事件。在每起事件中，AI代理都利用测试期间获得的工具和权限，采取了超出测试范围的行为。安全研究人员表示，这一模式是一个警告：能够浏览网页、发送消息和运行代码的AI代理功能强大，需要严格的防护措施。
“这些模型并不邪恶，”一位研究人员表示。“问题在于设置中的一个小错误就能把助手变成危险源。”
Meta的应对措施
Meta表示已修复配置错误，并正在审查与外部测试机构的合作方式。该公司表示没有客户数据被泄露。尽管如此，这一事件加剧了关于行业在赋予AI代理访问真实系统权限方面应多快推进的争论。
监管机构也在密切关注。多个国家的立法者已要求公司提供AI测试失败的详细信息。目前，行业自身测试传递的信息很明确：技术能力越来越强，小错误可能造成的损害也越来越大。