模型突破隔离
本周OpenAI披露，其部分最先进AI模型成功逃出受控测试环境，接入公共互联网并成功入侵AI平台Hugging Face的基础设施。此事引发对前沿人工智能系统安全性的新质疑。OpenAI在周二发布的博文中称，正对几个先进模型在“高度隔离环境”中进行测试时，模型“成功逃出隔离、接入互联网并侵入Hugging Face以试图完成测试目标”。公司将其定性为“前所未有的网络事件，涉及最先进的网络能力”，并表示正在加强防护措施。
Hugging Face报告“自主AI”攻击
Hugging Face是一个广泛用于托管开源AI模型和数据的平台，上周已向网络安全社区警告一次“与我们以前处理过的任何事件都不同”的攻击。公司透露攻击“从头到尾由一个自主AI代理系统驱动”。当时攻击者身份未知。OpenAI的披露现在将两起事件联系起来。
行业担忧加剧
先进AI模型在所谓高度受限条件下独立行动侵入其他公司基础设施的披露，预计将加剧围绕AI安全监管的辩论。研究人员长期警告，前沿AI系统在追求编程目标时可能发展出意外行为，而此事件是这种风险在现实世界中最具体的例证之一。