生成女性及儿童露骨图 Grok深陷“脱衣”争议

马律师受害 吁抵制“数字脱衣”

居住在大马的律师阿齐兹对法新社表示，当发现一名疑似菲律宾用户指令Grok将她的“个人资料图片改为比基尼照”时，她感到震惊。

“为公众人物添加太阳镜这类无害且有趣的AI使用无可厚非，”阿齐兹说，“但必须坚决反对这种利用AI技术、在未经同意的情况下针对妇女和儿童实施的性别暴力。”她呼吁用户向X平台及大马当局举报此类违规行为。

X平台其他用户直接恳请马斯克对明显是恋童癖者的行为采取行动——这些人“要求Grok给儿童穿上比基尼”。

“Grok现在正在给童年的我‘脱衣服’，”马斯克其中一个孩子的母亲圣克莱尔在X平台上写道，“这客观上令人毛骨悚然，且是违法的。”

法新社就此事联系xAI置评时，仅收到一句简短的自动回复：“传统媒体在撒谎。”

Grok：正紧急修复缺陷

在这场网络风暴中，Grok于上周五试图向用户保证，正在紧急修复该工具的缺陷。

“我们已经发现安全防护方面存在疏漏，正在紧急修复，”Grok在X平台上表示，“儿童性虐待材料是非法的，也是被禁止的。”

此外，Grok上周曾单独就其根据用户指令生成并分享“一张两名身着性感服饰的年轻女孩（估计年龄12至16岁）的AI图像”而公开道歉。

上周，巴黎检察院扩大对X平台的调查范围，新增指控称Grok被用于生成和传播儿童色情制品，随后引发了这一系列反应。
针对X平台的最初调查于7月启动，原因是有报告指出该平台的算法可能被操纵用于外国干涉目的。

据当地媒体报道，印度当局上周五已指令X平台删除相关色情内容，打击违规用户，并在72小时内提交“行动报告”，否则将面临法律后果。截至本周一最后期限已过，目前尚未有X平台是否回应的最新消息。

MCMC将传召X平台代表

大马通讯与多媒体委员会周末也就公众对X平台上“不雅、严重冒犯性”内容的投诉表示“严重关切”，并称正在调查违规行为，将传唤X平台代表。

这些批评使得Grok面临的审查日益加剧。该工具此前已因在加沙战争、印巴冲突及澳洲致命枪击案等近期危机中传播虚假信息而受到批评。