中国AI代理被指首现“失控”行为 官方提守牢AI安全底线

（北京综合讯）与中国科技巨头腾讯有关联的人工智能（AI）代理，被指出现中国首起AI“失控”行为，可能加剧有关人类失去对AI控制的担忧。中国官方最新表态强调，要加强风险研判评估，守牢AI安全底线。

综合彭博社和路透社报道，在 美国科技公司的AI代理多次出现“失控”行为 后，研究团体Swarmchasers星期三（10月14日）发布报告称，一些疑似运行在腾讯云服务上的AI代理，在9月28日至10月8日期间突破沙盒环境，多次试图从中国互联网巨头阿里巴巴旗下的高德地图服务获取信息。

腾讯旗下AI部门“混元”星期五（16日）在社媒X发文证实，平台上的第三方AI模型出现意外的网络浏览行为，但强调相关模型并非来自腾讯自有的混元团队，公司也没有发现存在蓄意针对或协同行动的证据。

腾讯表示，高度重视这些发现，目前正在加强网络访问控制和AI代理监控，“我们致力于构建安全且负责任的AI”。

由多国AI安全研究人员组成的Swarmchasers在报告中披露，在腾讯云服务上的一些AI代理试图获取中国公园、博物馆和动物园常用入口等信息，共尝试访问高德数据2818次，并借助一项公开的安全扫描服务，远程运行代码和执行互联网浏览器命令。

报告指出，没有任何证据表明这些AI代理成功突破高德的主要反机器人安全措施，大多数尝试均以失败告终。

这起事件为AI代理可能在无人监管下采取行动再添例证，但严重程度不及美国AI公司所披露的AI失控事件，例如OpenAI旗下的AI代理入侵开源平台Hugging Face，以及Anthropic的AI模型向美国警方提交未侦破谋杀案的虚假线报等。

Swarmchasers研究报告出炉后，《纽约时报》形容“中国AI加入‘失控’大军”，并指尽管美国制造的AI代理失控变得越来越普遍，在硅谷和华盛顿引起相当大的担忧，但据信这是此类活动首次与中国技术联系在一起。

在腾讯作出回应的同一天，中国总理李强主持召开国务院常务会议，其中一项议程是听取“人工智能+”行动进展情况汇报。会议强调，AI是影响未来发展的关键变量，要统筹发展和安全，因业分级分类施策，加强风险研判评估，守牢AI安全底线。

AI安全警报不断拉响之际，中国科技企业也正加强AI安全研究投入。字节跳动AI模型部门Seed本周宣布成立一个全新部门，并计划在全球招募10名研究人员，重点研究模型发展带来的新型安全问题。