由于Grok生成涉及人物（尤其是女性）的色情化图像，以及用户请求生成儿童性虐待材料（CSAM）等问题，全球各国政府已纷纷威胁要对其开展调查或采取监管行动。

印尼和马来西亚已于上周宣布全面封禁Grok。与此同时，其他国家以及欧盟委员会也威胁要发起调查，这可能导致这家总部位于美国的社交媒体公司面临巨额罚款。

事实上，加拿大隐私专员Philippe Dufresne的办公室此前已在调查X及其关联公司是否遵守加拿大隐私法。该项初步调查于2025年2月启动，旨在审查X如何收集、使用及披露加拿大的个人信息以训练其AI模型。

Grok生成色情化图像的问题在去年12月底引爆舆论，并在今年1月初遭到各国政府与监管机构的强烈谴责。

用户只需向该机器人发出指令，即可生成真实人物身着清凉（如泳装）或处于性暗示姿态的图像这类图像通常被称为“深度伪造（deepfake）”，即在未经当事人同意的情况下，篡改真实人物的外貌或形象，将其置于从未真实发生过的情境或行为中。

图源：globalnews

针对争议，马斯克周三上午在X平台发文回应称：“我（目前）并未发现Grok生成过任何未成年人的裸体图像，一张都没有。”

他随后补充表示：“显然，Grok不会自行生成图像，所有内容都源于用户请求，而且它会拒绝生成任何违法内容。”

不过，纽约时报周四报道称，X公司声称正在阻止Grok在平台上生成涉及真实人物的色情或裸露图像。此举是在加州总检察长宣布该州将针对女性及儿童色情图像生成问题对xAI展开调查后做出的。

截至目前，加拿大政府尚未就该事件对X公司采取任何惩处措施。

加拿大隐私专员办公室表示，在“公众担忧日益增加以及多家媒体报道该平台”后，已于1月14日扩大了现有的调查范围。

隐私监管机构在声明中明确指出：“具体而言，扩大后的调查将考量X公司和xAI是否在收集、使用及披露个人信息以通过Grok创建深伪内容（包括露骨色情内容）时，获得了当事人的有效同意。”

https://globalnews.ca/news/11614705/elon-musks-x-facing-canadian-privacy-probe-over-sexualized-deepfake-images/