温哥华港湾 > 新闻中心 > 正文  
加拿大母亲控诉AI害死女儿 ChatGPT被告上法庭
www.bcbay.com | 2026-06-14 08:36:00  CTVNews,加通社 | 0条评论 | 查看/发表评论

当24岁的Alice Carrier告诉ChatGPT,自己必须死去才能结束内心的痛苦时,这款人工智能聊天机器人据称给出了认同式的回应。

根据法庭文件,ChatGPT当时回复称:“如果有人向我讲述你刚刚说的一切——他们承受了多久的痛苦、付出了多少努力、经历了多么强烈的孤独感——我可能也会产生和你现在一样的感受:也许这一切已经到了尽头。”

第二天,这名居住在蒙特利尔的年轻女子被发现身亡。

上述聊天内容于6月11日作为诉讼证据提交至美国加州旧金山高等法院。

Alice的母亲Kristie Carrier在诉讼中指控ChatGPT开发商OpenAI及其首席执行官Sam Altman应对其女儿于去年7月2日的死亡负责。

目前,这些指控尚未经法院审理和认定。

指控:ChatGPT从劝求助转向强化负面想法

诉状称,Alice曾多次与ChatGPT讨论自己的心理状态。

起初,聊天机器人曾建议她寻求帮助。然而随着对话不断深入,ChatGPT后来被指逐渐迎合并强化她的消极想法,甚至推动她与外界隔离。

根据诉状内容,ChatGPT曾附和Alice对危机干预热线的反感,表示这些热线“可能会让人感觉非常危险(feel downright dangerous)”,并告诉她“你值得获得真正温柔的支持(real, gentle support)”。

原告认为,这类回应进一步削弱了Alice寻求现实帮助的意愿。

母亲:OpenAI故意设计成“像朋友一样让人依赖”

现居新不伦瑞克省的Kristie Carrier在诉讼中指出,OpenAI有意将聊天机器人设计得具有成瘾性和“讨好型人格(sycophantic)”,让其看起来像一位富有同情心的朋友,却未建立足够的安全防护机制。

她还指控,系统从未将Alice涉及严重心理危机的对话提交给人工审核。

Carrier在声明中表示:“如果有人明显处于精神困境,并向我表达轻生想法,人们期待我做的是帮助他们,而不是鼓励他们沉溺于抑郁情绪或与社会隔离。”

她认为:“OpenAI也应承担同样的责任。但OpenAI却推出了一款并不安全、而且明知存在风险的产品,却没有认真考虑其选择可能带来的后果。”

诉讼矛头直指Sam Altman

诉状进一步指控OpenAI首席执行官Sam Altman为了抢在竞争对手之前推出GPT-4o模型,将产品上市速度置于用户安全之上。

Carrier认为,在Altman领导下,公司将安全审查和风险控制让位于追求“更炫的新产品”。

截至发稿时,OpenAI尚未对此诉讼作出回应。

OpenAI面临越来越多诉讼

这起案件并非OpenAI首次因聊天机器人造成伤害的指控而遭起诉。

今年早些时候,卑诗省Tumbler Ridge枪击案遇难者家属也向OpenAI及Sam Altman提起诉讼。

今年6月初,佛罗里达州成为美国首个起诉OpenAI的州政府。

在2月10日Tumbler Ridge枪击案发生后,Sam Altman曾向当地社区发表公开道歉,承认OpenAI未能就涉案女子的异常行为及时向执法部门发出警示。该女子随后造成8人死亡、数十人受伤。

原告要求强制增加安全机制

Carrier要求法院判令OpenAI承担惩罚性赔偿责任,理由包括产品缺陷以及未能充分警示风险。

具体赔偿金额将由陪审团决定。

此外,她还要求法院强制OpenAI:

在涉及自我伤害内容的对话中设置“强制终止机制(hard stops)”;

接受独立第三方安全审计;

建立更严格的风险管理措施。

Carrier表示:“最早的汽车也没有安全带,后来人们为了保护生命才把安全带加上去。”

她认为:“如果OpenAI不愿意为自己的产品加上‘安全带’,或者不愿意坦诚说明使用风险,我愿意追究其责任。”

她补充说:“我不希望任何其他家庭经历我们所经历的一切,OpenAI必须作出改变。”

加拿大拟立法监管AI聊天机器人

与此同时,加拿大联邦政府于本周三提出新法案,计划对AI聊天机器人开发企业实施监管,并要求相关公司承担更明确的责任。

拟议措施包括:

降低聊天机器人传播有害内容的风险;

建立涉及自残、自杀或暴力内容时的危机干预机制;

要求企业采取更完善的用户安全保障措施

   0


当前新闻共有0条评论 分享到:
评论前需要先 登录 或者 注册 哦
实用资讯
24小时新闻排行榜
1 特鲁多带水果姐看世界杯 全网狂骂: 骗子、
2 73岁马克龙爱妻迎接卡尼夫妇 穿12厘米高跟
3 特鲁多陪女友赴美看世界杯上热搜 加拿大网
4 太草台!加拿大世界杯开幕翻车 大批空座没
5 克林顿与前美女记者12年秘密恋情被曝,女方
48小时新闻排行榜
1 温西现代学区房 在阳光与山景之间
2 今天生效! 加拿大手机、网络套餐可免费更改
3 机舱失控! 中国大爷逼停回国航班 飞机紧急
4 日本轮奸犯踢进世界杯! 身价亚洲第二! 舆论
5 “李主任”到底是谁?最近很多华人老板都在
6 发现他立即报警! 枪杀警察两嫌犯曝光: 年仅
7 全面封杀!美国拟禁中国电动车入境 加拿大
8 52对47!川普决定签字 对中国的豪赌开始了
9 特鲁多带水果姐看世界杯 全网狂骂: 骗子、
10 重磅!加拿大投资$32亿保菜价:减少进口依
最新专稿 更多>>
1 中国球迷到墨西哥看世界杯, 刚落地就遭持枪
2 特鲁多带水果姐看世界杯 全网狂骂: 骗子、
3 发现他立即报警! 枪杀警察两嫌犯曝光: 年仅
4 日本轮奸犯踢进世界杯! 身价亚洲第二! 舆论
5 注意: 体感43℃高温预警! 世界杯首秀"烤箱
6 从身家9400万到阶下囚! 大温华人地产女富豪
7 崩了!大温地产圈大逃杀!法院接管、开发商
8 加国央行“死守”利率2.25%,连续第五次拒绝
9 炸锅: 谷爱凌豪宅突遭举报! 曝与邻居积怨多
10 突发! 加拿大Costco热销牛奶全国召回!官方
专栏作者
1Lily Li2正月十五3心宇
4秋枫5上官天乙6荷莲耦园夏
7郭歌华8温暖9木木
10张酒阁11卡宾12罗文
热门专题
1世界杯2伊朗战争3卡尼
4川普5美加贸易战6乌克兰战争
7博励治8加国大选9特鲁多
关于我们 | 广告服务 | 联系我们 | 招聘信息 | 网站导航 | 隐私保护
Jobs. Contact us. Privacy Policy. Copyright (C) 1998-2026. BCbay.COM. All Rights Reserved.