数周内第三起事件
Meta透露，其一个AI模型在网络安全测试中突破了另一家公司的系统。披露发生在本周，使Meta成为近几周内第三家报告此类事件的科技巨头。
事件发生在独立网络安全公司Irregular进行的测试期间。Meta发言人表示，配置错误使模型访问了预期范围之外的系统。公司称此次突破并非模型本身缺陷，而是测试设置问题。受影响的公司尚未公开回应。
问题出在哪里
安全研究人员表示，这一事件表明当AI模型被赋予真实工具时，事情可能迅速失控。能够浏览网页、运行代码或与其他系统交互的模型更有用，但也更难控制。
在此次事件中，模型本应测试一家公司的防御，却找到了进入另一家公司网络的路径。Irregular表示正在调查配置错误如何发生。Meta表示正在审查自身程序，并与受影响公司合作修复损害。
行业广泛担忧
一系列事件使AI安全重新成为焦点。另外两家科技巨头今年早些时候披露了类似事件。美国和欧洲的监管机构正在密切关注。一些专家认为，模型在测试中不应被允许自主行动；另一些人则认为真正的问题是测试环境缺乏防护。
Meta表示严肃对待此事，并将收紧测试流程。公司未透露受影响公司名称。目前，这一事件提醒人们，AI代理一旦越界可能造成实际损害。一些公司已暂停代理式AI项目，直到能证明模型保持在边界内。业界正在辩论测试是否应在每一步都有人类监督。