张晋玮.AI“黑客”到来，你准备好了吗

2015年，OpenAI成立，该公司最初定位为一家非营利的人工智能研究机构。随后，创办人奥特曼将其转型为“有限盈利”（capped-profit）架构，走向商业化发展。

这一转变也在内部引发分歧，并埋下隐患。部分人士对奥特曼的领导方式与发展方向产生疑虑，董事会更曾一度试图将其罢免，令公司陷入治理危机。

与此同时，阿莫代伊亦在转型后的阶段离开公司，并创立了Anthropic。

如果说ChatGPT是一位万事通，那么Anthropic的Claude模型则可比喻为编程奇才。在Princeton University主导的SWE-bench测试中，Claude多次打败其他模型，位居榜首。

它的能力吸引了美国国防部，把它用于军事用途。当美国政府要求Anthropic移除模型的安全机制以“释放全部潜力”时，阿莫代伊以安全为由拒绝要求。

分歧迅速升级为政策冲突，美国政府最终对Anthropic施压，并将其列为“供应链风险”。Claude的能力足以触及军事与安全应用的边界，其强大程度，不言而喻。

更让人惊讶的是，最新的Claude Mythos编程能力不仅超越现有的Claude Opus模型，其寻找系统漏洞的能力更是突飞猛进。它不仅能主动发现系统弱点，甚至能够挖掘出一些存在数十年，连专家都未曾察觉的漏洞。

回顾黑客盗取银行户头存款事件，过去的黑客犯案需要时间、团队与经验。未来，一个AI模型，就足以完成。人类正迈入一个攻击能力被“产品化”，黑客能力被“规模化”的时代。

回到大马，从政府层面来看，系统安全能力必须全面升级，以应对人工智能带来的新型攻击。否则，不仅难以保障人民的财产与安全，甚至连国家的关键基础设施与军事能力也可能面临瘫痪风险。

对企业而言，过去尚可通过投入资金，依赖先进国家的科技来强化安全防护；但在当前全球格局变化之下，供应链可能受阻，甚至被“武器化”，因此建立本土技术与防御能力已变得至关重要。

此外，观察美国的做法，面对AI风险，Anthropic推出名为 “Glasswing”的风险管控计划，它的先进技术仅向政府与关键机构开放。

由此可见，政府与企业的协作至关重要。或许有人会问，资源有限的普罗大众如何面对AI风险？

参考“Glasswing”的做法，它计划利用AI提前发现并修补漏洞，在攻击发生前完成防御。或许在未来，能够与AI黑客博弈的，只有防御型AI。换言之，唯有学习并善用AI，才能以AI制衡AI。