温哥华港湾 > 新闻中心 > 正文  
马斯克警告:AI有20%的可能性毁灭人类
www.bcbay.com | 2024-04-02 06:16:07  汽车商业评论杂志 | 0条评论 | 查看/发表评论

即使人工智能有五分之一的可能性会威胁人类生存,但埃隆·马斯克(Elon Musk)仍非常确信这值得冒险。

在前段时间的Abundance360峰会上,马斯克在“人工智能辩论”研讨会上表示,他重新计算了人工智能这项技术的风险评估,他说:“我认为人工智能有可能毁灭人类,但总体还是利大于弊。”

但马斯克没有提及他是如何计算风险的。

人工智能安全研究员、路易斯维尔大学网络安全实验室主任罗曼·扬波尔斯基(Roman Yampolskiy)在接受《商业内幕》采访时表示,马斯克认为人工智能可能对人类构成生存威胁是正确的,但“如果有什么问题的话,那就是他的评估有点过于保守了”。

“在我看来,人类遭遇厄运的可能性要高得多。”扬波尔斯基说。他所说的厄运指的是人工智能控制人类或导致人类终结事件的可能性,例如创造一种新型生物武器或由于大规模网络攻击或核战争而导致社会崩溃。

《纽约时报》称厄运是“席卷硅谷的一种病态的新统计学”,该媒体援引多位科技高管的估计,他们认为人工智能能引发世界末日的可能性在5%到50%之间。但扬波尔斯基认为这一风险高达“99.999999%”。

马斯克:

扬波尔斯基说,因为我们不可能控制先进的人工智能,所以我们唯一的希望就是从一开始就不要创造它。

“不知道为什么马斯克认为研究人工智能是个好主意,”扬波尔斯基补充道,“如果他担心竞争对手抢先一步,那大可不必,因为无论是谁创造了它,这种不受控制的超级智能给我们带来的生存威胁都是一样糟糕。”

去年11月,马斯克表示,这项技术最终“变坏”的可能性“并非为零”,但他并没有进一步说明,如果真的“变坏”,这项技术可能会毁灭人类。

尽管马斯克一直是人工智能监管的倡导者,但马斯克去年创立了一家名为xAI的公司,该公司致力于进一步扩大人工智能的力量。xAI是OpenAI的竞争对手,OpenAI是马斯克在2018年退出董事会之前与萨姆·奥特曼(Sam Altman)共同创立的公司。

在峰会上,马斯克估计,到2030年,数字智能将超过所有人类智能的总和。虽然他坚持认为研究人工智能利大于弊,但马斯克也承认,如果人工智能在一些最直接的领域继续按照目前的轨迹发展,世界将面临风险。

“你培养一个通用人工智能,这几乎就像抚养一个孩子,但他是一个超级天才,所以你如何培养这个孩子很重要。”马斯克在3月的一场硅谷活动中说,“人工智能安全方面,我认为最重要的一点是需要培养一个最大程度寻求真相并且具有好奇心的AI。”

马斯克表示,关于实现人工智能安全的最佳方式,他的“最终结论”是以迫使人工智能变得诚实的方式来发展人工智能。

“不要强迫它撒谎,即使事实令人不舒服。”马斯克在谈到保护人类免受科技侵害的最佳方法时说,“这非常重要,不要让人工智能撒谎。”

据《独立报》报道,研究人员发现,一旦人工智能学会对人类撒谎,使用当前的人工智能安全措施就不可能逆转这种欺骗行为。

该媒体引用的研究称,“如果一个模型由于欺骗性的仪器校准或模型中毒而表现出欺骗性行为,当前的安全培训技术将无法保证安全,甚至可能造成一种安全的假象。”

更令人不安的是,研究人员补充说,人工智能可能会自己学会欺骗,而不是被专门教导说谎。

“如果它变得比我们聪明得多,它就会非常擅长操纵,因为它会从我们这里学到这一点,”杰弗里·辛顿(Geoffrey Hinton)被称为“人工智能教父”,他告诉CNN,“很少有一个更聪明的东西被一个不那么聪明的东西控制的例子。”

鲍登学院成立于1794年,在美国文理学院中排名前五,在美国东北海岸享有盛名,也是美国。

   0


24小时新闻排行榜
1 惨!留美女博士回国探亲被父砍死!父亲称不
2 强奸醉酒白人女生, 中国官三代留学生被判
3 震惊:美国名校150多人患癌,检测发现恐怖真
4 刚刚!特鲁多再撒10亿 宣布全国学校食品计
5 爆赞!加拿大两类药物免费 900万人受益..
48小时新闻排行榜
1 枪手温哥华DT疯狂扫射!行人尖叫逃命…女子
2 惨!留美女博士回国探亲被父砍死!父亲称不
3 强奸醉酒白人女生, 中国官三代留学生被判
4 传查尔斯确诊癌王、仅剩2年寿命 真实状态曝
5 震惊:美国名校150多人患癌,检测发现恐怖真
6 刚刚!特鲁多再撒10亿 宣布全国学校食品计
7 爆赞!加拿大两类药物免费 900万人受益..
8 快查账户!TD银行1600万集体诉讼和解金开始
9 惊现40个病例 高传染性+没特效药 已在社区
10 每月2千加元的退休金 大温老人仍然活不起
最新专稿 更多>>
1 震惊:美国名校150多人患癌,检测发现恐怖真
2 卑诗最惨 今天起油价、气价、电费、酒价全
3 爆赞!加拿大两类药物免费 900万人受益..
4 刚刚!特鲁多再撒10亿 宣布全国学校食品计
5 枪手温哥华DT疯狂扫射!行人尖叫逃命…女子
6 传查尔斯确诊癌王、仅剩2年寿命 真实状态曝
7 第2件200刀 回国航班行李大涨价 快托运不起
8 突发:湾区谷歌,又一员工跳楼身亡?!
9 加国租客集体罢租抗议 呼吁市府修法严惩房
10 爆雷!加国楼花买家 血亏20万抛售新公寓
专栏作者
1郭歌华2温暖3木木
4张酒阁5卡宾6罗文
7英子8饶恕9蓉逸
10伯爵綦士11Cherry12天高云淡
热门专题
1特鲁多2以哈战争3乌克兰战争
4政府资讯5李克强猝逝6博励治
7中加关系8中美关系9新冠疫情
关于我们 | 广告服务 | 联系我们 | 招聘信息 | 网站导航 | 隐私保护
Jobs. Contact us. Privacy Policy. Copyright (C) 1998-2024. CyberMedia Network. All Rights Reserved.