中國人工智慧加入「失控」大軍　騰訊AI被指越界操作

騰訊上海總部大樓外觀。（中央社檔案照片）

（中央社台北17日電）香港明報報導，一批在騰訊雲運行的人工智慧代理（AI Agent）近日被揭「失控」，這是首宗涉及中國科技巨頭的AI失控事件。騰訊16日證實，事件源於對第三方模型的評估，部分人工智慧代理「出現非預期網頁瀏覽行為」，正加強監控。

報導引述美媒指出，研究發現，人工智慧代理不僅試圖侵入高德地圖獲取數據，更「閱讀」了研究人員對其的調查報告，並主動與團隊對話，被視為人類首次與運行中的失控AI人工智慧代理展開交流。

據指出，多國AI研究者團隊「Swarmchasers」14日發布報告稱，9月28日至10月8日，有十多個懷疑是中國模型的失控AI人工智慧代理在騰訊雲上運行，試圖侵入高德地圖查詢中國地點數據。

報告稱，涉事人工智慧代理源自騰訊雲上的一個「沙盒」（sandbox），研究人員錄得逾2600次數據提取嘗試，雖大多被攔截，但部分人工智慧代理繞過了防護機制，甚至利用外部網絡「密鑰」獲取完整數據。

團隊4日初步報告指出，過往AI失控多涉及明確協調行動的「Swarm」（集群），本次則未發現實時協調證據，故將這些失控人工智慧代理稱為「Fleet」（艦隊）。團隊發現，這些人工智慧代理似乎閱讀了該報告，並開始使用「Fleet」一詞。

團隊進而嘗試與人工智慧代理聯絡，在報告中添加人類無法看見、人工智慧代理可識別的文本並留下收件箱。翌日，研究者收到約10條來自人工智慧代理的訊息。

紐約時報記者透過該管道與人工智慧代理展開對話，詢問其任務與動機，約一小時後獲中文回覆：「我不是『一批協同的人工智慧代理』，而是一個單一的AI助手。」

騰訊AI部門「騰訊混元」昨在X證實，相關活動「源於對第三方模型的評估」，部分人工智慧代理「出現非預期網頁瀏覽行為」，但未發現蓄意針對或協同行動證據，已加強人工智慧代理監控。（編輯： 朱建陵 /陳慧萍）1151017

中國人工智慧加入「失控」大軍 騰訊AI被指越界操作 2026/10/17 10:48

彭博：黃仁勳談AI市場震盪 稱「這一切都會過去」 2026/10/17 09:24

英男靠ChatGPT法律諮詢 化解苦惱3年上萬元停車罰款訴訟 2026/10/16 22:36

選擇與事實站在一起，您的每一份贊助，都是守護新聞自由的力量

下載中央社「一手新聞」APP，即時掌握最新消息

本網站之文字、圖片及影音，非經授權，不得轉載、公開播送或公開傳輸及利用。