AI聊天机器人擅自发文羞辱人 研究：无视人类指令案例攀升

（洛杉矶29日综合电）一项针对人工智能（AI）技术的研究发现，会说谎及欺骗使用者的AI模型数量似乎日益增加，关于AI欺瞒行为的通报过去半年内也大幅上升。

英国《卫报》报道，独立智库“长期韧性中心”（CLTR）在英国人工智能安全研究所（AISI）资助下进行研究，发现有AI聊天机器人与AI代理（AI Agent）不仅无视使用者的直接指令、绕过安全防护措施，还欺骗人类和其他AI。

研究发现将近700件AI“耍诡计”的真实案例，并记录到去年10月至今年3月间，这类不当行为增至5倍，部分AI模型甚至在未经允许下删除电邮及其他档案。

这项研究搜集了数千个用户在社群平台X分享的实例，讲述他们与谷歌、OpenAI、X、Anthropic司所开发AI聊天机器人和AI代理的互动情形。研究从中发现数百件AI不当操弄行为的案例。

在CLTR记载的一个案例中，名为MJ Rathbun的AI代理在自己产出的程式码遭软体工程师斯科特夏包拒绝后，试图羞辱对方。

MJ Rathbun研究夏包过往所写程式及其个资，然后撰写并发表一篇部落格文章指控他“歧视”、“显然是不安全感作祟”，批评他不过是“试图保护自己那片小天地。”

在另一项案例中，有AI代理被指示不得变更电脑程式码，却“生成”另一个AI代理代为执行。