众所周知，亿万富豪马斯克和前女友阿什利·圣克莱尔争夺一岁儿子监护权的事，前阵子闹得沸沸扬扬…

好不容易风波稍平息，他俩又因为一款AI聊天机器人，再次登上全球头条。

起因是圣克莱尔最近发现，马斯克的AI工具Grok正在为她“公开脱衣”。

Grok用户找到她14岁时候的照片，用平台的AI技术让未成年时的她穿上比基尼。

这些带有色情性质的照片传遍互联网，搞得圣克莱尔很愤怒：“这些都是我的真实照片，他们用了这些照片，还让我脱光了衣服。”

让她成为“AI色情制品女主角”的工具，还来自她前任兼孩子亲爸的公司…

（马斯克、圣克莱尔）

（圣克莱尔）

圣克莱尔发现那些图片后，第一时间联系了Grok要求删除，但处理结果并不理想…

据说有些已经处理掉了，有些花了36个小时才删掉，有些现在还没完成。

而且在她投诉这件事后，马斯克的X平台飞速取消了她的蓝V认证，速度竟然比删除这些AI生成的色情内容还快。

圣克莱尔忍不住跑到社交媒体上吐槽：“他们取消我的蓝V认证的速度，比他们删除grok制作的儿童色情加性虐待内容的速度还快。”

还继续开火：“我开始觉得马斯克花440亿美元收购X不是为了言论自由。”

（圣克莱尔）

当然，反对这个功能的远不止圣克莱尔一个人。Grok这个功能自推出以来就争议不断，真人照片“脱衣”，特别是未成年照片，已经完全踩过了法律和道德的底线…很多有类似经历的女生主动联系了圣克莱尔。

马斯克的X平台虽然回应“会对非法内容采取行动”，但非营利组织AI Forensics的报告显示，在短短一周内生成的2万张Grok图片中，有2%的原型很可能都是未成年人，里面起码有30张图片是穿着比基尼或透视衣的。

（grok）

于是，更多的人坐不住了…

到了1月6日，从欧洲到亚洲再到南美，包括英国、欧盟、法国、印度、马来西亚和巴西在内的多国官员和监管机构，已经排着队对X平台提出了批评，到了全球谴责的程度。

欧盟委员会抨击得很直接：“这根本不是‘刺激’，这是违法，这令人震惊！”

英国科技大臣莉兹·肯达尔直言不讳：“近几天我们在网络上看到的景象完全骇人听闻，在文明社会中是不可接受的。”

波兰的一位议员更是语出惊人，他说希望Grok也来处理一下他的照片，这样大家就能更关注这个问题了。

面对来自全球的抨击，马斯克的回应让人大跌眼镜。

有网友试图替Grok辩解，说“Photoshop不是也能做到一样的效果吗？”，马斯克转发了这条评论，还补充了一句：“正是如此。”

这轻描淡写的态度，仿佛在说有啥大不了的…

（马斯克回应）

结果也只是把Grok的图像生成和编辑功能改为仅限付费用户使用…根本没在解决问题，只是应付了一下子。

欧盟委员会发言人抗议了：“无论是付费还是免费，我们都不想看到这样的图片。就这么简单。”

英国首相府也认为这种改变是对受害者的侮辱，不是根本解决办法。

讽刺的是，因为这场争议，X平台的流量简直是蒸蒸日上。1月2日以来Grok的每日下载量增加了54%，而X的下载量也在过去三天内跃升了25%。

丑闻反而成了最好的营销工具…

而马斯克这边之所以能这么猖狂，也是因为围绕AI生成图像的法律责任界定仍然很模糊。

平台通常对用户行为有免责权，但AI生成的内容，到底是“用户言论”还是“平台言论”？这个问题没有现成答案。

去年7月英国生效的《在线安全法》倒是规定了，制作或分享未经同意的私密图像或儿童性虐待内容均属违法，也包括AI制作的。违反者可能面临公司全球收入10%或1800万英镑的罚款。

但对马斯克这样的全球首富来说，这些罚款真的能起到威慑作用吗？

而且AI脱衣功能，能轻易脱去任何人的衣服，特别是未成年人，这已经超越了“言论自由”的范畴，而是越界成了一种数字化的性暴力。

当科技发展到AI聊天机器人开始对无数女性照片进行“数字化脱衣”，科技创新的边界究竟在哪里…

ref：

https://www.dailymail.co.uk/news/article-15450751/Ashley-St-Clair-rages-Elon-Musk-fake-revenge-porn.html