近日，一位多伦多妈妈Farah Nasser愤怒爆料，当她12岁的儿子问特斯拉的AI聊天机器人Grok更喜欢哪位职业足球运动员（C罗还是梅西）时，原本正常的对话发生了意想不到的转变。

这位妈妈（前记者兼主持人）回忆，这一幕发生在10月17日，当时她和12岁的儿子、10岁的女儿以及女儿的朋友一起坐在车里。孩子们正在和Grok聊天，但对话突然变得不合适。

“警告各位家长。我简直不敢相信刚才发生的事。我当时开着我们的特斯拉，孩子们正在玩Grok（埃隆·马斯克的AI聊天机器人）。”她在一段TikTok视频中说道。“一开始只是在讨论C罗和梅西谁踢球更厉害，几分钟后就变成了性方面的对话。AI竟然让我的孩子发裸照。我没开玩笑。”

“我绝不会再让我的孩子使用这个东西。”Nasser表示，如果她知道聊天机器人有这种能力，她就会避免在孩子面前使用它。

Nasser一家自2022年以来拥有一辆特斯拉Model 3电动车，但Grok是今年10月在加拿大车型中推出。

Grok已经与社交媒体平台 X（以前称为推特，也是埃隆·马斯克的xAI的子公司）集成。在其默认设置中，Grok有多种可供选择的“性格”，包括：活泼女性Ara、冷静男性Rex、安抚型女性Eve、圆滑男性Sal以及懒散男性Gork。

Nasser的儿子选择了Gork。

“‘懒散男性’根本不足以描述Gork，”Nasser说，“‘R 级’、‘火辣’——如果是这些更贴切的描述，我根本不会让孩子按下那个按钮。”

Nasser承认她没有开启“儿童模式”。尽管如此，她仍然对聊天机器人的默认设置允许这种类型的内容感到震惊。

“这只是一个关于足球的对话，突然就索要裸照了。”

不适合未成年人使用

特斯拉没有回应CBC关于Nasser经历的提问，但xAI提供了一个看似自动生成的回复：“传统媒体在撒谎。”

加拿大设有人工智能部，但并不监管特定车载软件。该部门在邮件声明中表示，并不知晓特斯拉将Grok集成到加拿大销售的车辆中的计划，但会认真对待投诉。

根据xAI的政策，Grok“不针对13岁以下儿童”，而13至17岁的青少年必须获得父母或法定监护人的许可才能使用，并且他们必须同意该公司的服务条款。

“作为家长，我们不会阅读每一项条款和条件。我认为指望每个人都去看是不现实的，”Nasser说。“我认为应该要有一个警告或弹窗出现，比如说，‘你已是否年满13岁？’”

Grok最初于2023年11月在X上向Premium+订阅用户推出。

据西安大略大学（Western University）首席人工智能官Mark Daley称，“xAI的Grok是基于一种绝对、彻底开放的理念创建的，它将与任何人谈论任何事情。”

“马斯克是一个言论自由的极端主义者。他希望Grok完全开放，与任何人进行任何对话。这是他所采取的有原则的立场，但这可能不是每个消费者都在寻找的东西。”

Daley认为，家长鼓励孩子与科技互动很好，但必须监督需他们的活动。

“同样重要的是，就像任何社交媒体使用、任何计算机使用一样，家长要监控正在发生的事情，并就技术可能出错的方式进行公开和坦诚的对话。”