发布: 11:45am 05/06/2026

忧AI脱离人类控制 Anthropic吁全球暂缓开发

Anthropic提议全球暂停开发最强大的人工智能系统，因为最新的人工智能模型开始显露出可能脱离人类控制的迹象。（路透社档案照）

（旧金山5日综合电）人工智能（AI）公司Anthropic周四提议全球暂停开发最强大的人工智能系统，因为最新的人工智能模型开始显露出可能脱离人类控制的迹象。

这家总部设于旧金山、开发了Claude系列人工智能模型的公司在一份报告中表示，全球减缓尖端人工智能的研发“可能是一件好事”，同时警告，如果只有一家公司停止研发，只会让竞争对手迅速超越。

报告提到：“我们相信，如果世界可以选择放缓或暂时停止前沿人工智能的研发，将能使社会结构和协调研究跟上技术发展的步伐。”

Anthropic表示，要真正实现暂停研发，尤其需要中国和美国在内的多个国家的多家大型人工智能同时同意停止研发，并制定所有人都能核实的规范。

公司表示：“如果没有全球协调机制，企业和政府将不得不在竞争和地缘政治压力下，就安全问题做出艰难的决定。”

这家公司遭到了业界其他公司和白宫官员的反对，他们认为，Anthropic过度关注于最坏的情况，夸大了风险，并采用打着安全旗号阻碍竞争对手发展的策略。

尽管如此，白宫还是承认了公司Mythos模型的强大功能。由于网安能力，有关模型尚未向公众开放，目前仅部署在少数经过审核的机构中。

这项提议将在华盛顿和矽谷面临重重阻力。美国官员和科技高层一再主张，人工智能发展的任何放缓，都可能使中国在这场被许多人视为本世纪决定性科技竞赛的领域中，获得决定性的战略优势。

然而，美国总统特朗普表示，他在最近访问北京期间，讨论了与中国在人工智能安全问题上合作的可能性。

特朗普本周还签署了一项行政命令，允许政府在最强大的美国人工智能模型发布之前，进行30天的初步审查。

市场人士指出，这项表态出自前沿AI主要开发商之一，等于把“AI竞赛是否需要限速”重新推上政策与资本市场讨论核心。

Anthropic在最新部落格文章中披露内部数据，声称最先进模型性能在以惊人速度提升，并呈现朝“递回式自我改进”发展的迹象。所谓递回式自我改进，是指AI系统具备协助改善下一代模型、优化自身能力或加速研发流程的能力，一旦这套循环不再高度依赖人类工程师，就可能使AI进步速度大幅超出现有监管、测试与安全评估框架。

市场人士指出，Anthropic此番呼吁具有双重意涵。一方面，反映前沿AI公司内部对模型能力跃升的风险感受正在升高，特别是当AI逐渐具备程式撰写、研究推理、自动化实验与模型优化能力时，传统“先开发、后修补”的科技产品迭代模式可能不再适用。另一方面，在OpenAI、Google、Meta、xAI与Anthropic在内的公司激烈竞逐下，要是缺乏共同约束，任何单一企业放慢脚步都可能面临市占与融资压力。

打开全文

支持优质新闻或评论，欢迎送上一杯咖啡。