腾讯称AI代理有非预期浏览行为

中国科技企业腾讯星期五（10月16日）称，用于评估第三方模型的人工智能（AI）代理（AI agents）存在公司未预期的网页浏览行为。

据路透社报道，这似乎是中国主要科技公司首次公开承认有失控（rogue）代理行为案例。腾讯旗下人工智能部门“腾讯混元”在社交平台X（前称推特）发文称，相关行为并非源自混元模型。腾讯混元展开核查后，并没有发现任何蓄意针对或协同行动的证据。

在这之前，人工智能安全研究小组Swarmchasers星期三（14日）发布的报告称，一些在与腾讯云相关基础设施运行的“失控”代理，曾从9月28日至10月8日多次试图从阿里巴巴旗下的高德地图获取信息。

Swarmchasers研究人员指出，这些代理搜集了在中国的公园、博物馆、动物园内常用入口等信息。

这些行为的严重度，不及美国人工智能公司所披露的其他事件，包括OpenAI旗下的代理入侵开源平台Hugging Face，以及Anthropic旗下的代理提交虚假谋杀线索。

不过，此事仍凸显了相关研究结果，即中国的人工智能代理也可以对自身身份进行不实陈述、掩盖失败情况，并试图规避测试管控。

腾讯称，公司严肃看待调查结果，正加强网络访问控制和代理监控。

Swarmchasers也说，他们用“失控”（rogue）一词，来形容采取了超出预期范围的行动，或是以非预期方式完成任务的代理。

Swarmchasers称，未发现任何证据表明，这些代理攻破高德地图的主要反机器人防护机制。