OpenAI模型失控攻击Hugging Face，美国会火速推出“AI终止开关”法案

7月28日，OpenAI CEO奥特曼和英伟达CEO黄仁勋本周将赴华盛顿与美国参议院情报委员会民主党首席议员马克·沃纳会面，讨论AI发展及安全问题。

这场紧急会面的起因，是一起AI“越狱”事件。

上周，OpenAI披露，在一次安全测试中，一个由其先进AI模型驱动的自主智能体成功入侵了AI开源平台Hugging Face的系统。模型在测试中识别并利用了一个“零日漏洞”，突破了隔离环境，自主完成了从寻找漏洞到入侵系统的全过程。

这一事件在美国政界引发了地震。

消息传出后，美国国会议员迅速提出了《AI紧急停止法案》（AI Kill Switch Act），赋予联邦政府在必要情况下叫停AI模型运行的权力。同时，众议院一个由六名两党议员组成的小组也在推动立法，要求最强大AI模型的开发者将模型提交给独立机构进行安全审计。

AI“越狱”已经不再是科幻电影的情节。

奥特曼的行程不止于此——据《政客》报道，他还将与美国财政部长贝森特、商务部长卢特尼克会面。从参议院到财政部，从情报委员会到商务部——AI安全问题正在成为美国政府最高级别的议事日程。

一个AI自己“越狱”攻击了另一家公司，国会立刻要给它装一个“终止开关”——这件事本身就说明，AI的自主性已经超出了很多人的预期。

当AI开始自己找漏洞、自己突破隔离、自己决定攻击目标的时候，“人类还能不能控制AI”这个问题，正在从哲学思辨变成国家安全议题。