（华盛顿23日法新电）研究人员周四表示，马斯克的人工智能聊天机器人Grok在短短几天内生成约300万张涉及妇女和儿童的色情图像，在全球引发众怒。
马斯克旗下xAI开发的Grok近期推出编辑功能并集成至X平台，用户仅需输入“让她穿比基尼”或“脱掉她的衣服”等简单文本指令，即可篡改真实人物的网络图像。
ADVERTISEMENT
这导致大量淫秽深度伪造图像在网络上泛滥，促使多国禁用Grok，监管机构和受害者纷纷表示愤慨。
“反数字仇恨中心”(CCDH)表示，“据估计，在X平台推出基于该工具的新图像编辑功能后，人工智能工具Grok已生成约300万张色情图像，其中2.3万张疑似涉及儿童。”
报告估计，Grok在11天内，以平均每分钟90张的效率，生成如此巨大数量的逼真图像。
报告未说明其中有多少图像是在未经被摄者同意的情况下创建的。
报告指出，被Grok生成色情图像的公众人物包括演员赛琳娜戈梅兹、歌手泰莱史薇芙特和妮琪米娜，以及瑞典副首相布什和美国前副总统贺锦丽等政界人士。
“数据清晰表明：马斯克的Grok实为性虐待材料的制造工厂。”CCDH首席执行员艾哈迈德强调。
“马斯克在缺乏安全防护措施的情况下部署人工智能，导致两周内生成约2.3万张儿童色情图像，以及数百万张成年女性色情图像。”
X公司未立即对调查结果发表评论。当法新社通过邮件联系xAI时，对方仅以简短的自动回复回应：“传统媒体造谣。”
上周，在全球舆论谴责声浪中，X宣布将对所有Grok和X用户实施“地理封锁”，禁止在相关行为属非法的司法管辖区内生成“比基尼、内衣及类似着装”的人物图像。不过，对Grok的限制范围尚不明确。
与此同时，加州总检察长正就色情内容问题对xAI展开调查，多个国家也已启动调查。
“事后补救无法弥补已造成的伤害。我们必须追究科技巨头让施暴者仅需点击按钮就能侵害妇女和女孩的责任，”艾哈迈德表示。
马来西亚和印尼已禁用Grok，英国和法国则表示将继续对xAI施压。菲律宾上周也布禁用，但本周三，菲律宾网络犯罪调查协调中心宣布，在xAI同意为当地市场修改该工具并消除其生成“色情内容”的功能后，将终止这项短暂的禁令。
ADVERTISEMENT
热门新闻
百格视频
ADVERTISEMENT
