温哥华港湾 > 新闻中心 > 正文  
马斯克警告:AI有20%的可能性毁灭人类
www.bcbay.com | 2024-04-02 06:16:07  汽车商业评论杂志 | 0条评论 | 查看/发表评论

即使人工智能有五分之一的可能性会威胁人类生存,但埃隆·马斯克(Elon Musk)仍非常确信这值得冒险。

在前段时间的Abundance360峰会上,马斯克在“人工智能辩论”研讨会上表示,他重新计算了人工智能这项技术的风险评估,他说:“我认为人工智能有可能毁灭人类,但总体还是利大于弊。”

但马斯克没有提及他是如何计算风险的。

人工智能安全研究员、路易斯维尔大学网络安全实验室主任罗曼·扬波尔斯基(Roman Yampolskiy)在接受《商业内幕》采访时表示,马斯克认为人工智能可能对人类构成生存威胁是正确的,但“如果有什么问题的话,那就是他的评估有点过于保守了”。

“在我看来,人类遭遇厄运的可能性要高得多。”扬波尔斯基说。他所说的厄运指的是人工智能控制人类或导致人类终结事件的可能性,例如创造一种新型生物武器或由于大规模网络攻击或核战争而导致社会崩溃。

《纽约时报》称厄运是“席卷硅谷的一种病态的新统计学”,该媒体援引多位科技高管的估计,他们认为人工智能能引发世界末日的可能性在5%到50%之间。但扬波尔斯基认为这一风险高达“99.999999%”。

扬波尔斯基说,因为我们不可能控制先进的人工智能,所以我们唯一的希望就是从一开始就不要创造它。

“不知道为什么马斯克认为研究人工智能是个好主意,”扬波尔斯基补充道,“如果他担心竞争对手抢先一步,那大可不必,因为无论是谁创造了它,这种不受控制的超级智能给我们带来的生存威胁都是一样糟糕。”

去年11月,马斯克表示,这项技术最终“变坏”的可能性“并非为零”,但他并没有进一步说明,如果真的“变坏”,这项技术可能会毁灭人类。

尽管马斯克一直是人工智能监管的倡导者,但马斯克去年创立了一家名为xAI的公司,该公司致力于进一步扩大人工智能的力量。xAI是OpenAI的竞争对手,OpenAI是马斯克在2018年退出董事会之前与萨姆·奥特曼(Sam Altman)共同创立的公司。

在峰会上,马斯克估计,到2030年,数字智能将超过所有人类智能的总和。虽然他坚持认为研究人工智能利大于弊,但马斯克也承认,如果人工智能在一些最直接的领域继续按照目前的轨迹发展,世界将面临风险。

“你培养一个通用人工智能,这几乎就像抚养一个孩子,但他是一个超级天才,所以你如何培养这个孩子很重要。”马斯克在3月的一场硅谷活动中说,“人工智能安全方面,我认为最重要的一点是需要培养一个最大程度寻求真相并且具有好奇心的AI。”

马斯克表示,关于实现人工智能安全的最佳方式,他的“最终结论”是以迫使人工智能变得诚实的方式来发展人工智能。

“不要强迫它撒谎,即使事实令人不舒服。”马斯克在谈到保护人类免受科技侵害的最佳方法时说,“这非常重要,不要让人工智能撒谎。”

据《独立报》报道,研究人员发现,一旦人工智能学会对人类撒谎,使用当前的人工智能安全措施就不可能逆转这种欺骗行为。

该媒体引用的研究称,“如果一个模型由于欺骗性的仪器校准或模型中毒而表现出欺骗性行为,当前的安全培训技术将无法保证安全,甚至可能造成一种安全的假象。”

更令人不安的是,研究人员补充说,人工智能可能会自己学会欺骗,而不是被专门教导说谎。

“如果它变得比我们聪明得多,它就会非常擅长操纵,因为它会从我们这里学到这一点,”杰弗里·辛顿(Geoffrey Hinton)被称为“人工智能教父”,他告诉CNN,“很少有一个更聪明的东西被一个不那么聪明的东西控制的例子。”

鲍登学院成立于1794年,在美国文理学院中排名前五,在美国东北海岸享有盛名,也是美国。

   0


相关新闻
洛杉矶抗议爆冲突 马斯克对川普态度大转变?公开决裂后,马斯克支持川普在洛杉矶的行动
她是最大赢家? 见马斯克与川普争吵 笑翻诺奖得主:马斯克是令人作呕的恶人
维基解密:川普马斯克大战与"全民监控系统"有关社交媒体骂战后:富豪马斯克今日与川普通电
川普扬言撤政府合约 马斯克呛让“飞龙号退役”马斯克与川普反目 特斯拉股价重挫14% 拖累美股
马斯克丢核弹级宣言:川普在淫魔艾普斯坦名单上马斯克 扎入川普脚心的一根刺
撕破脸不给了?传马斯克“故意拖欠”川普1亿罕见!马斯克与川普总统公开“撕破脸”
遭爆嗑药嗑到膀胱坏掉 马斯克怒回:纽约时报胡扯马斯克眼角淤青进白宫
马斯克卸任没知会川普?曝2个原因让他政治幻灭马斯克发出对川普迄今最强烈抨击
马斯克证实X Money支付功能将推出 目前已在测试与川普兄弟情变调 巴农爆料:马斯克想碰这件事
马斯克将续掌特斯拉五年 炮轰盖茨是“大骗子”马斯克出席国宴 身着T恤还插队 引发争议
当前新闻共有0条评论 分享到:
评论前需要先 登录 或者 注册 哦
实用资讯
24小时新闻排行榜
1 加元大涨,一路狂飙到明年?专家: 央行要降息
2 暴乱升级! 洛杉矶街头变"战场" 难民潮涌
3 Ikea自助餐19.99元只此一晚 新出特级早餐
4 罕见: 加拿大大爷暴打熊孩子! 路人补刀扇耳
5 伏明霞后悔吗?丈夫已是七旬老人 儿子才满
48小时新闻排行榜
1 加元大涨,一路狂飙到明年?专家: 央行要降息
2 华人大爷大妈组团偷摘樱桃被捕,面临重罪指
3 加拿大网友怒曝:吃剩不到一半跑来Costco退
4 特鲁多引入的低素质移民 终究还是把加国搞
5 暴乱升级! 洛杉矶街头变"战场" 难民潮涌
6 Ikea自助餐19.99元只此一晚 新出特级早餐
7 罕见: 加拿大大爷暴打熊孩子! 路人补刀扇耳
8 温哥华地产又疯狂 3栋老屋打包开出$1100万
9 大温热浪来袭,高温直冲30℃ 加油站起火烈焰
10 8名华人遭拐卖至缅甸 大温出现类似骗局
最新专稿 更多>>
1 从温哥华到旧金山
2 罕见: 加拿大大爷暴打熊孩子! 路人补刀扇耳
3 加元大涨,一路狂飙到明年?专家: 央行要降息
4 中领馆紧急提醒!LA街头变"战场"!无人车燃
5 华人大爷大妈组团偷摘樱桃被捕,面临重罪指
6 大温热浪来袭,高温直冲30℃ 加油站起火烈焰
7 华人登山圈灵魂人物殒命!精英航空工程师坠
8 美退伍军人涉残忍杀3亲生女儿!疑逃往大温
9 恐怖!加拿大多户华人家庭 接连遭枪扫射
10 重磅信号!中加关系迎来重大转折
专栏作者
1正月十五2心宇3秋枫
4上官天乙5荷莲耦园夏6郭歌华
7温暖8木木9张酒阁
10卡宾11罗文12英子
热门专题
1美加贸易战2川普3乌克兰战争
4卡尼5博励治6加国大选
7特鲁多8美国大选9BC省选
关于我们 | 广告服务 | 联系我们 | 招聘信息 | 网站导航 | 隐私保护
Jobs. Contact us. Privacy Policy. Copyright (C) 1998-2025. BCbay.COM. All Rights Reserved.