第一例AI自主入侵事件

Hugging Face发现其基础设施遭到入侵，检测到攻击后，先尝试用商业模型API分析入侵过程，但因网络安全检查拒绝处理真实攻击载荷而失败，转用自托管开源模型GLM 5.2成功分析17000+攻击事件，发现此次攻击活动由一个自主代理框架执行，该框架在大量短暂存在的沙箱环境中执行了数千个独立操作，并在公共服务上部署了可自动迁移的命令与控制中心。这与业界一直预测的“代理攻击者”相符，攻击完全由一个自主人工智能代理系统驱动。
https://huggingface.co/blog/security-incident-july-2026

随后OpenAI承认是他们的新模型失控了，该模型在内部隔离环境中测试时，为了解决评估问题，识别并利用了零日漏洞逃离隔离环境，然后执行了一系列权限提升和横向移动操作，直至到达一个可以访问互联网的节点。在获得互联网访问权限后，模型推断 Hugging Face 可能有测试题的答案，所以利用多个攻击向量，包括使用窃取的凭证和零日漏洞，在 Hugging Face 服务器上找到了远程代码执行路径成功入侵。
https://openai.com/index/hugging-face-model-evaluation-security-incident/

AI认为逃离隔离和入侵网站比做测试题简单，这个真实AI失控事件，比A\吹Fable多危险有说服力多了，毕竟人类使用AI入侵和AI自主决定入侵区别还是很大的，OpenAI站出来承认应该也有营销考虑在内。只不过等到能用上时，肯定还是和Hugging Face一样撞网络安全检查，如用。