阿尔特曼：AI代理失控如科幻事件 真切感受到威胁

（旧金山30日中央电）OpenAI模型入侵Hugging Face事件曝光后，OpenAI首席执行员阿尔特曼近日在podcast节目受访表示，这起事件让他真切感受到威胁，对他来说非常科幻，并呼吁控制AI发展速度、让社会有足够时间建立更强的防护机制。

阿尔特曼在深度访谈节目Invest LikeThe Best中，直球回应近期关于AI的各项争议事件。针对中国的开放权重模型Kimi K3、及中国企业“蒸馏”美国前沿模型，他淡定表示，对OpenAI的进展、及接下来要推出的模型很有信心。

“这起事件并不被列在我最担心的10件事情。”阿特曼接着表示，“我们最近遇到了一起非常科幻的资安事件”，这是第一次有资安事件，让他如此真切地感受到威胁。

不久前，他才在一场AI活动上表示，“任何没有严肃看待这件事，甚至没有感到至少一点害怕或敬畏的人，都还没有真正理解事情的严重性”。他并承认，“我们确实犯了一些重大错误，这点没错。但同时，这些系统能力也已经变得惊人的强大”。

事发当时，OpenAI正在评估一个未发布的模型，它原本应该在一个沙盒环境中运作，但AI发现可以透过作弊来通过测试，于是突破沙盒、连上网路，接着又突破Hugging Face那一端的多个系统，试图取得测试答案，让自己在评估中看起来表现杰出。

在28日上架的Invest Like The Best节目中，阿尔特曼说，“我们已经暂停训练（该模型）。我们必须弄清楚，在模型能够串联多个零日漏洞的情况下，如何确保沙盒环境的安全。”

零日漏洞是指软体存在一个尚未被发现，或已被发现但还没有修补程式的安全漏洞。