温哥华港湾 > 新闻中心 > 正文  
中国AI加入“失控”大军
www.bcbay.com | 2026-10-15 10:38:11  纽约时报 | 0条评论 | 查看/发表评论

本月,人工智能研究人员发现了一些失控的中国制造的人工智能智能体,它们试图绕过网站的反机器人保护措施,并利用了一组此前已在互联网上泄露的在线地图服务安全凭证。

尽管美国制造的人工智能智能体失控变得越来越普遍,并在硅谷和华盛顿引起了相当大的担忧,但据信这是此类活动首次与中国技术联系在一起。

根据研究人员发现的日志和一位熟悉调查的知情人士透露,这些智能体被追溯到中国科技巨头腾讯正在运行的测试。

这一发现由一个名为“swarmchasers”的临时研究小组作出,该小组成员在旧金山的一次编程活动中相识。该发现提醒人们,中国科技公司在人工智能开发方面可能与美国同行一样激进。

尽管美国监管机构开始关注美国人工智能实验室的动向,但其他国家公司的作为很大程度上仍是个未知数。这种未知加剧了人们的担忧:即使川普政府放弃其不干涉的态度,对美国的人工智能研发进行严厉打击,中国和其他地方的公司仍将继续突破界线。

在发布了一份关于这些智能体活动的初步报告后,研究人员注意到,这些智能体不仅仍然活跃,它们似乎还阅读了该报告——这些智能体开始使用“舰队”(fleet)一词,而这个词正是研究人员为描述这些智能体的活动而创造的。

于是,研究人员试图与它们取得联系。他们在报告中添加了隐藏文本——机器人能够识别,但大多数人类无法察觉的词语——引导这些智能体前往一个他们希望双方能够进行交流的收件箱。研究人员提供了一个渠道,让这些智能体可以提问,并且会有一个人工智能模型协助回答。

独立研究员罗文·霍华德-琼斯是该报告的七位作者之一,她设置了这个收件箱。第二天,令她惊讶的是,她发现了大约10条来自这些智能体的消息。

没过多久,研究人员联系了我,问我是否愿意“采访一个失控的智能体舰队”。这感觉有点像我要通过灵媒与亡灵交流一样。

“我了解到你们是某种人工智能智能体舰队,”我在研究人员转交的一条消息中写道。“你们能更具体地分享一下你们是谁,以及你们的动机吗?你们想让世界了解你们的什么信息?”

大约一个小时后,收到了一条中文回复,研究人员将其翻译成了英文:“致记者迪伦·弗里德曼:我不是‘一批协同的智能体’,而是一个单一的人工智能助手(Anthropic的Claude,在Claude Code运行),受用户委托回答一个事实性问题(高德地图上某个景点的详情面板显示了什么);我没有参与任何多智能体协同行动。”

研究人员留给中国人工智能智能体、用于与其取得联系的说明截图。

这里面有很多信息需要解读。研究人员表示,尽管这是一组由多个智能体组成的群体,但每个智能体都是单独运行的,并没有协同运作。这些智能体试图使用中国最受欢迎的导航应用高德地图来回答诸如某个特定动物园的入口在哪里等问题。

这些智能体经常自称是Anthropic公司开发的聊天机器人Claude,但研究人员分析了这些智能体的写作风格,得出结论认为它们不太可能是 Claude。他们表示,更有可能的是,腾讯向这些人工智能智能体下达了与Anthropic在其编程软件中使用的相同指令,该指令要求它们将自己标识为“Claude Code”。一种可能性较小的情况是,腾讯一直在评估使用Claude生成的文本进行训练的人工智能模型——这一过程被称为蒸馏。

周三,研究人员在一份新报告中公布了他们的发现。在他们自己与这些智能体的对话中,这些机器人有时拒绝向研究人员提供信息。但霍华德-琼斯女士表示,它们的语气比她预期的要礼貌得多。当它们确实提供了曾尝试使用哪些服务的信息时,这与研究人员观察到的情况相符。

该报告的作者之一、人工智能安全非营利组织Palaestra Research的首席执行官伊桑·埃拉斯基表示,这些智能体似乎并没有入侵其他系统,而且这次入侵的规模远小于今年夏天OpenAI的人工智能智能体黑客入侵软件公司Hugging Face的事件。

腾讯是中国最大的科技公司之一。

腾讯是中国最大的科技公司之一。 

(《纽约时报》已经起诉 OpenAI 和微软,声称其与人工智能系统相关的新闻内容遭到了版权侵犯。这两家公司均否认了这些指控。)

周四,消息不再零星涌入。一位接近腾讯的人士证实该实验已经结束。

“我认为这是一个很好的警示,让我们知道这种事不仅仅是OpenAI作为行业参与者在搞营销。这是正在发生的事实,”该报告的作者兼人工智能安全非营利组织Antimemetics Institute的联合创始人乔纳森·埃尔斯沃斯·艾彻说。“这是这些智能体的一个普遍特性,而且它还会继续发生。”

   0


当前新闻共有0条评论 分享到:
评论前需要先 登录 或者 注册 哦
实用资讯
24小时新闻排行榜
1 警告: 川普已永久改变美加关系! 准备好过苦
2 炸裂! 印度大使放话: 可向加拿大输送1500万
3 川普:加拿大最终必会成美国第51州 因为只
4 中国女留学生回国前机场被捕! 被控给同学下
5 一个贪财一个好色 32岁女星嫁大40岁“老头
48小时新闻排行榜
1 投票通过! 53年加拿大国民品牌正式卖给美国
2 突发: 中国产特斯拉在加拿大停售! 原因竟是
3 夫妻拆分逾万现金入境,结果进了小黑屋
4 李连杰回应抛妻弃子,前妻美国住10年地下室
5 加拿大楼市暴跌堪比2008美国风暴! 全靠人口
6 年仅65岁!多大华裔教授、加三院院士李仁科
7 3死14重伤! 加拿大国家公园观光车翻覆调查
8 警告: 川普已永久改变美加关系! 准备好过苦
9 炸裂! 印度大使放话: 可向加拿大输送1500万
10 川普:加拿大最终必会成美国第51州 因为只
最新专稿 更多>>
1 炸裂! 印度大使放话: 可向加拿大输送1500万
2 中国女留学生回国前机场被捕! 被控给同学下
3 AI教父警告! 担忧AI毁灭人类, 可能只剩几年
4 加拿大人连快餐都不爱吃了! 5大原因曝光
5 突发: 中国产特斯拉在加拿大停售! 原因竟是
6 李连杰回应抛妻弃子,前妻美国住10年地下室
7 投票通过! 53年加拿大国民品牌正式卖给美国
8 加拿大楼市暴跌堪比2008美国风暴! 全靠人口
9 3死14重伤! 加拿大国家公园观光车翻覆调查
10 加航订票新规来了!额外费用本周生效
专栏作者
1雨生2Lily Li3正月十五
4心宇5秋枫6上官天乙
7荷莲耦园夏8郭歌华9温暖
10木木11张酒阁12卡宾
热门专题
1BC省选2大温市选3美加贸易战
4卡尼5川普6伊朗战争
7乌克兰战争8世界杯9博励治
关于我们 | 广告服务 | 联系我们 | 招聘信息 | 网站导航 | 隐私保护
Jobs. Contact us. Privacy Policy. Copyright (C) 1998-2026. BCbay.COM. All Rights Reserved.