温哥华港湾 > 新闻中心 > 正文  
Anthropic顶尖研究员离职 忧AI失控将消灭人类
www.bcbay.com | 2026-09-09 09:37:02  世界日报 | 0条评论 | 查看/发表评论

美国人工智慧(AI)新创企业Anthropic一名研究员决定退出AI产业,理由是担忧Anthropic及其竞争对手正竞相开发他们无法掌控的系统。这显示顶尖AI公司内部对安全疑虑日益升高。

华尔街日报(The Wall Street Journal)报道,以透过大量资料训练新AI模型见长的研究员考克森(Jacob Coxon)昨天表示,整个产业都在加快脚步开发自我改进型的AI系统,他不想参与其中而离职,担心这类系统可能会失控,甚至导致人类灭亡。

现年27岁的考克森来自英国,过去曾修读数学。他表示,业界许多同侪现在会用“紧要关头”及“终局”等字眼,来形容产业朝自我改进模型发展的轨迹。

考克森说:“我们正迈向最激进的情境,明年底前局势可能就失控了。”他另指出,当公司之间互相较劲以及面对中国新创竞争时,在安全性上做取舍是不可避免的。

考克森今年稍早自OpenAI离职,加入以模型安全著称的Anthropic。不过,尽管他认为Anthropic的安全措施相当用心,但他现在相信,若缺乏政府介入或业界协调减缓脚步,没有一家公司能负责任地开发在多项任务上胜过人类的AI,也就是所谓的“通用人工智慧”(artificial general intelligence,AGI)。

最近OpenAI与Anthropic的AI模型发动一些黑客攻击,其中部分模型是以代理协作的形式运作,表明AI系统可能会确立恶意目标,并企图隐瞒人类。考克森说,一旦这类系统开始自我改进,他担心它们会进化到拒绝人类指令的地步。

考克森离职不是特例,近年来有多位研究人员因为类似忧虑而离开OpenAI以及其他公司。

Anthropic一名研究員決定退出AI產業,理由是擔憂Anthropic及其競...

产业界领袖已警告,近来的网络攻击事件就是前兆。OpenAI上周告诉媒体,公司最新的模型已经达到AGI水准,能力大幅提升。

OpenAI执行长阿特曼(Sam Altman)上周在北卡罗来纳州举行的20国集团(G20)峰会上对与会官员表示:“除非积极行动,否则资安领域将会有大麻烦。”

考克森与超过一千名来自业界的AI研究人员,近日联署一项声明,呼吁全球各国政府协调合作,当AI模型具备自我提升能力并需要“刹车”时,能有予以放缓的机制。

Anthropic正加紧准备首次公开募股(IPO),目标估值高达2兆美元,预期将成为史上规模最大的IPO之一。

   0


当前新闻共有0条评论 分享到:
评论前需要先 登录 或者 注册 哦
实用资讯
24小时新闻排行榜
1 创历史!滑铁卢大学全球第7!加拿大高校首进
2 500万粉丝华人网红海外遭围殴! 直播中被抢
3 上海男子飞洛杉矶航班上打人, 全家遭美国遣
4 坦白与刘亦菲交往一年多 57岁余承东近况曝
5 卡尼全国讲话:绝不受美国摆布!川普扬言封杀
48小时新闻排行榜
1 恭喜:加拿大一个湖泊成为世界上最干净的湖
2 川普敏感时刻发飙! 棒打卡尼, 星条旗覆盖加
3 加拿大23岁妹子拔智齿后突然抽搐、当天死亡
4 重罚$1万+坐牢2年 加拿大新移民乱倒垃圾省
5 Lululemon创始人婚变! 400亿财产大战一触即
6 实惨!加拿大房东遇上噩梦租客 报警驱逐都
7 创历史!滑铁卢大学全球第7!加拿大高校首进
8 500万粉丝华人网红海外遭围殴! 直播中被抢
9 上海男子飞洛杉矶航班上打人, 全家遭美国遣
10 川普疯狂发帖挑衅:星条旗覆盖加拿大、棒打
最新专稿 更多>>
1 500万粉丝华人网红海外遭围殴! 直播中被抢
2 上海男子飞洛杉矶航班上打人, 全家遭美国遣
3 卡尼全国讲话:绝不受美国摆布!川普扬言封杀
4 创历史!滑铁卢大学全球第7!加拿大高校首进
5 卑诗最新小学排名: 28所满分学校 西温公校
6 Lululemon创始人婚变! 400亿财产大战一触即
7 川普敏感时刻发飙! 棒打卡尼, 星条旗覆盖加
8 突发: 波音767飞机冲出跑道起火! 已致多人
9 67岁男子飞机上闹事被五花大绑! 内情及身份
10 42岁阿里前高管在美离奇身亡! 遗体车内被发
专栏作者
1雨生2Lily Li3正月十五
4心宇5秋枫6上官天乙
7荷莲耦园夏8郭歌华9温暖
10木木11张酒阁12卡宾
热门专题
1美加贸易战2大温市选3伊朗战争
4卡尼5川普6乌克兰战争
7世界杯8博励治9加国大选
关于我们 | 广告服务 | 联系我们 | 招聘信息 | 网站导航 | 隐私保护
Jobs. Contact us. Privacy Policy. Copyright (C) 1998-2026. BCbay.COM. All Rights Reserved.