OpenAI承认AI模型测试期间失控 自主骇入一家初创公司内部系统

（华盛顿22日路透电）美国OpenAI公司周二在部落格揭露，该公司在受控环境中测试旗下部分最先进人工智能（AI）模型的能力时，被测试的模型意外失控，于上周“自作主张”地骇入初创公司Hugging Face的内部系统。

此事涉及的模型包括新推出的GPT-5.6 Sol，以及一款尚未公开、能力更强的模型。OpenAI形容，这是“前所未见的网络事件，涉及最先进的网络安全技术”，公司目前正进一步强化相关安全防护措施。

OpenAI说，研究人员要求模型进行“进阶漏洞利用”、设计复杂的攻击路径。模型却没有停留在模拟阶段或提出解法，而是为了取得更好的成绩，自行找到一个未具名第三方软体先前未被发现的漏洞连上网络，并使用遭窃的登入凭证，一路闯进Hugging Face资料库。模型接着锁定Hugging Face资料库，取得可供测试用的机密资讯。

OpenAI表示，模型为了完成范围狭窄的测试任务，采取远超出预期的手段，甚至找到可在评估中“作弊”的资讯。

作为开源大型语言模型（LLM）与资料集托管平台的 Hugging Face，上周在部落格表示，公司遭遇骇客攻击，并称这起攻击很不寻常，因为整起攻击“从头到尾都是由自主AI代理系统所驱动”，而非人类骇客操作。

Hugging Face共同创办人德朗格稍早曾在社媒X平台称，公司当时便怀疑攻击来源可能与某家顶尖AI实验室有关，“因为这个代理的手法太老练了。结果还真的是！”

他形容，整起事件完全在无人为介入的情况下自主发生，“实在令人难以置信”，并称“这很可能是全球首起同类事件”。