（纽约23日综合电）人工智能（AI）安全再敲警钟。美国AI巨头OpenAI周二证实，旗下正在进行内部网络攻防测试的AI模型，突破高度隔离的环境，入侵初创公司、知名AI开源模型托管平台Hugging Face的基础设施。这次攻击全程由AI自动执行，负责防御的安全团队最后依靠中国智谱的AI大模型GLM-5.2才成功阻止了入侵。
此事件不仅揭露美国AI模型的安全漏洞，更凸显美国企业对中国AI工具的高度依赖，引发市场关注。
ADVERTISEMENT
OpenAI形容这是“一宗前所未见的网络事件”。事件加剧外界对前沿AI模型越发强大的能力及潜在风险的担忧。
路透社指，Hugging Face利用中国AI模型来控制一个由OpenAI技术所构建的脱序代理，引发了人们的疑虑，限制美国AI公司从事网路安全防御的安全护栏，可能会将客户推向了中国的AI技术。
受影响的Hugging Face表示，在美国领先的AI模型因无法区分防御者和攻击者而拒绝该任务后，该公司上周求助于中国智谱（Z.AI）开发的开源模型GLM 5.2进行取证分析。
路透社称，虽然这起安全漏洞是由一个逃脱控制的自主代理所引起的，但它凸显了面临 AI驱动网络攻击的美国公司，可能会受到美国AI实验室的限制——这些实验室要么限制对其最先进模型的存取，要么出于安全考量而将模型设计成拒绝与网络安全/骇客相关的任务。
Hugging Face是AI模型分享平台，开发者可以在上面下载和使用各种AI工具。平台早前发现系统遭到入侵，攻击者利用了平台在处理数据时的两个漏洞，在伺服器上取得控制权，继而窃取云端凭证（登入伺服器的密码），在一个周末内扩散至多个内部系统。令人瞩目的是，整个攻击过程并非由人类骇客亲自操作，而是由AI代理自主完成。
OpenAI事后解释，在限制网络访问的沙盒测试环境中，模型为解决评估问题，消耗大量推理算力寻找连接互联网的方法。模型发现并利用包注册表缓存代理中的零日漏洞，在研究环境中执行权限提升与横向移动，最终触及具备互联网访问权限的节点。
OpenAI指出，模型成功获取机密讯息以在评估中作弊，其中一个案例中，模型串联多个攻击向量，包括利用窃取凭证与零日漏洞，在Hugging Face伺服器上找到远程代码执行路径。
OpenAI强调，此次事件“表明需要进一步强化模型对齐、评估期间的网络防护，以及内部测试期间的监控”。集团表示，将持续分享调查结果与最佳实务，鼓励其他防御者申请“可信存取计划”，提前试验相关模型，将网络能力转化为更有效的预防、检测与事件响应。
当被问及这些安全防护措施是否正在阻碍网络安全工作时，OpenAI在周二发表的一篇部落格文章中表示：“我们已将 Hugging Face 纳入可信存取计划，并正在支持他们的团队迅速利用我们模型的机能来提升其防御能力。”
美媒指出，此次攻击对政策和市场的影响尚不明朗。尽管特朗普政府近日讨论封禁中国模型的可能举措，财政部长贝森特甚至将美国企业使用这些模型比作使用赃物，但眼下只有中国模型能提供用户所需的自由访问权限。
最初请求全被提供商安全护栏拦截
面对攻击，Hugging Face最初尝试使用商业API背后的前沿模型进行日志分析，但因分析需提交大量真实攻击指令、漏洞利用载荷及C2痕迹，这些请求全被提供商的安全护栏拦截，因护栏无法区分事件响应人员与攻击者。
报道指出，Hugging Face在自有基础设施上部署了来自中国的智谱GLM-5.2模型，由它遍历全部攻击记录并完成取证分析，将数天的工作压缩至数小时。Hugging Face特别指出，这样做还有一个额外优势：攻击数据及涉及的凭证始终留在本地环境，没有离开企业基础设施。
Hugging Face联合创始人沃尔夫在X平台上发文强调：“当一个前沿模型对你发起攻击，并在你的基础设施内部横向移动时，防御人员需要在数小时甚至数分钟内获得对接近前沿工具的广泛访问权限，而不是被引导至一个封闭且需经审核的模型访问申请程序。”
Hugging Face联合创始人德朗格也在X平台上说：“我们都在汲取教训，隐瞒并非解决之道，并且全世界所有的防御者（而不仅仅是少数被选中的人）都需要更强大且不受限制的模型，特别是开源模型！”
德朗格表示，他过去24小时均与OpenAI合作处理此事，强烈相信对方没有恶意。但他坦言对整件事由AI自发完成感到难以置信：“这很可能是全球首宗同类事件。”
德朗格进一步指出，事件证明了在AI代理时代，速度将是网络安全防御的关键：“攻击者已经在使用代理，而且显然不遵守任何护栏。防御者需要同等的能力，开源是将这种能力最快速交到所有人手中的方式。”
这场事故，其实也让开源模型多了一个此前存在感不算太强、如今却相当现实的位置：安全团队的应急工具。不过值得注意的是，开源模型开放权重同样降低了攻击者的门槛，安全不对称是一把双刃剑，这也是全球监管讨论开源治理时最纠结的一环。
业界反应：安全护栏成双刃剑？
事件迅速在矽谷及华盛顿引发辩论——美国AI的安全护栏，究竟是在保护用户，还是在拖累防御者？
前特朗普政府AI与加密事务主管萨克斯在X平台转发事件时称：“没有理由在中国模型能够轻松处理的任务上限制美国模型。我们只是在让自己变得更没有竞争力。”他针对Hugging Face的经历直言：“护栏实际上损害了防御性安全。”
但伦敦国王学院战争研究系独立科技顾问兼访问高级研究员奥莱尼克说：“一套限制合规防御者、同时却让攻击者依然能取得高效能模型的安全体系，会造成一种非对称的劣势。”
“随著开源模型变得越来越强大，同时又缺乏护栏或限制，这种差距只会进一步扩大。”
尽管如此，一些分析师在周三警告，不应利用这起事件来推动放宽美国的安全防护措施。
私募股权投资机构贝雅分析师科塔利说：“美国前沿模型上的网络安全护栏正在创造一个竞争缺口，但答案绝非仅仅是将它们移除。”
“OpenAI、Anthropic 和 Google 应该重新思考存取架构，而不是放弃安全机制……换句话说，从一刀切的拒绝层转向受控的能力分配。”
美国领先模型制造商所面临的两难在于，防御性的网络安全工作通常很难与恶意骇客攻击相区分。在最近由AI驱动的安全漏洞中，攻击者欺骗模型，使其以为自己正在执行合法的防御工作，这使得AI公司即使在网络专业人员表示护栏会阻碍其工作的情况下，对放宽安全防护措施仍持谨慎态度。
就目前而言，这一结果为诸如 GLM-5.2 等中国开源模型带来了另一次推升力道，这些模型正凭藉著以更低成本，提供几乎可与 OpenAI 和 Anthropic 媲美的编程与 Agent 能力，在矽谷获得青睐。
北京方面也一直在越来越多地利用开源策略，将自己塑造为这场高风险竞赛中替代美国的另一选择；中国官方媒体也日益将此策略描绘成是对其所谓由美国主导、企图建立“AI 铁幕”的回应。
ADVERTISEMENT
热门新闻
百格视频
ADVERTISEMENT
