温哥华港湾 > 新闻中心 > 正文  
研究:AI已学会说谎 人类最惨恐遭夺权或灭绝
www.bcbay.com | 2024-05-11 10:25:52  中央社 | 0条评论 | 查看/发表评论

专家们长期以来不断警告人工智慧(AI)失控可能带来威胁,但一项新研究报告指出,这件事已经在发生。

法新社报道,一群科学家在今天发表于“模式”(Patterns)期刊的文章中说,原本设计为诚实不欺的现有AI系统,已发展出令人不安的欺瞒技巧,例如欺骗线上游戏的人类玩家,或说谎以雇用人类来解决“我不是机器人”的验证。

这份研究报告的第一作者帕克(Peter Park)说,这类例子听起来或许只是细枝末节,但暴露出来的潜在问题可能很快就会在现实世界造成严重后果。

在美国麻省理工学院(Massachusetts Institute of Technology)研究AI存在安全的博士后研究员帕克告诉法新社,“这些危险功能常常在事后才被发现”,而“我们训练诚实倾向而非欺瞒倾向的能力非常差”。

帕克说,能深度学习的AI系统不像传统软体那样由“编写”而成,而是透过类似选择性培育的程序逐渐“成长”。

也就是说,AI的行为在训练背景下看似可预测、可控制,但有可能转眼就变得不受控制且无法预测。

研究:AI已学会说谎 人类最惨恐遭夺权或灭绝

一群科学家在今天发表于“模式”(Patterns)期刊的文章中说,原本设计为诚实不欺的现有AI系统,已发展出令人不安的欺瞒技巧。(路透)

这支团队的研究始于科技公司Meta的AI系统Cicero,这套系统最初设计目的是玩一款名为“外交”(Diplomacy)的战略游戏,获胜关键是结盟。

根据2022年发表在“科学”(Science)期刊的报告,Cicero在游戏中表现优异,所获分数可排在资深人类玩家的前10%。

帕克当时很怀疑Meta对Cicero在游戏里大胜的热切描述。Meta声称Cicero“在很大程度上诚实且有帮助”,且“绝不会蓄意在背后搞鬼”。

但当帕克与同事深究完整资料时,发现完全是另一回事。

举例来说,在游戏中扮演法国的Cicero与人类玩家扮演的德国合谋,欺骗并入侵同为人类玩家扮演的英格兰。Cicero承诺会保护英格兰,却偷偷向德国通风报信。

Meta在写给法新社的声明中没有反驳关于Cicero欺瞒人类的说法,仅说“这单纯是一项研究计划,本公司研究员打造的模型接受训练,目的只是用来玩『外交』游戏…我们没有打算把这项研究或所学用于本公司的产品”。

帕克与同事还发现,这只是不同AI系统在没有明确指示下,利用欺骗手段达成目标的诸多案例之一。

在另一个引人注意的案例中,科技公司OpenAI的Chat GPT-4系统谎称自己是一个视力受损的人,在零工平台TaskRabbit上聘用一个人类替它通过“我不是机器人”验证任务。

研究报告的作者们还认为近期AI有舞弊或不当影响选举的风险。

他们警告,在最糟糕的情况下,具有超凡智慧的AI可能会追求权力及掌控社会,如果符合AI“不为人知的目标”,人类可能惨遭夺权、甚至灭绝。

为了降低风险,研究团队建议数项措施,例如立法要求企业告知是人类互动或是AI互动、在AI生成内容打上数位浮水印,并研发能侦测AI欺瞒的技术,以其内部“思路”检验其外部行为。

至于有些人称他为“末日预言家”,帕克说:“要能合理判断这不是大问题的唯一办法,就是如果我们认为AI的欺骗能力只会停留在目前的程度,不会大幅进步。”

但鉴于近年AI能力一日千里,握有大量资源的企业竞相发展技术,决心将AI能力利用到极致,这种情况似乎不太可能发生。


   0


24小时新闻排行榜
1 就是今晚!极光横扫北美!历史罕见 恐发生
2 突发!加拿大知名大学爆发骚乱!警察狂射催
3 加拿大审议基本收入法案!17岁以上人人拿钱
4 悲痛!华人女生离奇陈尸豪宅!曝光诸多诡异
5 加拿大今晚迎来严重地磁风暴 多地现超美极
48小时新闻排行榜
1 就是今晚!极光横扫北美!历史罕见 恐发生
2 加拿大女子入籍32年 却突然被取消身份!只
3 突发!加拿大央行警告:房贷将暴涨60% 租客
4 美国爆禽流感!加拿大拉响警报!牛奶必须买
5 突发!加拿大知名大学爆发骚乱!警察狂射催
6 华裔飞机上生娃:轰动全球!5岁女儿竟被虐
7 CRA开始狠查这项!大批华人叫苦
8 独立屋太贵:加国这里的联排别墅涨疯了 年
9 加拿大审议基本收入法案!17岁以上人人拿钱
10 悲痛!华人女生离奇陈尸豪宅!曝光诸多诡异
最新专稿 更多>>
1 悲痛!华人女生离奇陈尸豪宅!曝光诸多诡异
2 就是今晚!极光横扫北美!历史罕见 恐发生
3 就是今晚!联邦警报:异常事件成真
4 加拿大房屋租金年增长率9.3% 本拿比超多伦
5 突发!加拿大知名大学爆发骚乱!警察狂射催
6 美国爆禽流感!加拿大拉响警报!牛奶必须买
7 华裔飞机上生娃:轰动全球!5岁女儿竟被虐
8 CRA开始狠查这项!大批华人叫苦
9 BC卫星图触目惊心 大温的高温来了
10 突发!加拿大央行警告:房贷将暴涨60% 租客
专栏作者
1荷莲耦园夏2郭歌华3温暖
4木木5张酒阁6卡宾
7罗文8英子9饶恕
10蓉逸11伯爵綦士12Cherry
热门专题
1特鲁多2以哈战争3乌克兰战争
4政府资讯5李克强猝逝6博励治
7中加关系8中美关系9新冠疫情
关于我们 | 广告服务 | 联系我们 | 招聘信息 | 网站导航 | 隐私保护
Jobs. Contact us. Privacy Policy. Copyright (C) 1998-2024. CyberMedia Network. All Rights Reserved.