AI誤判中國船載核武計畫零件 美軍一度要攔截 知情人士：差點開戰

美軍一架軍機7月29日起飛，參與美國中央司令部（CENTCOM）所稱的對伊朗攻擊行動。（路透 / CENTCOM）

CNN 18日獨家報導，美國與 伊朗 交戰期間，一份情報報告在美軍內部流傳，警告一艘位於中東的中國船隻正在運送核武計畫零組件。但就在原定攔截行動即將展開前，官員進一步查核才發現，這份報告是在人工智慧（AI）協助下生成，且分析人員使用的聊天機器人錯誤辨識船上所載物資。一名知情人士直言，此事「差點引發一場戰爭」。

這份報告由一名特種作戰司令部分析人員製作，CNN則無法得知聊天機器人錯誤辨識的貨物究竟是什麼。4名知情人士透露，美軍當時已迅速採取行動，準備攔截該船；2名知情人士指出，武裝人員正準備登船，其中1人及另一名熟悉此事的消息人士更表示，軍機當時已升空。

若美方根據這份報告對中國船隻採取行動，事態可能升高為美中武裝衝突。1名消息人士形容，這份報告「完全是假的」，卻「差點引發一場戰爭」。

美軍與情報界正推動將AI融入幾乎所有工作層面，從分析大量原始情報、挑選攻擊目標，到管理預算、後勤與供應鏈。然而，此次事件凸顯，在戰爭期間使用這種強大、新穎且仍未被充分理解的技術協助選定攻擊目標，可能帶來重大風險。分析人員長期擔心，如果各國依賴品質不佳或遭污染的資料，AI可能導致災難性誤判；本案就可能因錯誤資訊，導致美方向中國船隻開火。

本案中，涉事分析人員針對美國太平洋特種作戰司令部（SOCPAC）一份涉及該船貨物清單的情報，向聊天機器人查詢。目前不清楚這個聊天機器人是市面上的商用產品，還是美國政府的產品。聊天機器人將公開來源情報與政府掌握的機密訊號情報融合，最後對船上物資得出錯誤結論。分析人員接著再次使用AI，把相關發現整理成軍方官員通常會信任的標準情報報告並發出。

SOCPAC與五角大廈均未回應詢問。一名知情的美國前資深官員表示：「這些內部工具大多只是商用產品的翻版，只不過換了個包裝。」

過去數周，矽谷工程師與科技公司執行長接連警告，AI可能擺脫人類限制，甚至帶來終結文明的後果，引發華府激烈辯論。但這起中國船隻事件凸顯另一種更迫切的風險：人類可能根據AI或其他自動化系統生成的不正確或誤導性資訊，做出災難性決策。

消息人士表示，軍方正迅速轉向使用AI協助選定攻擊目標，但顯然存在造成致命錯誤的風險。另一名知情人士表示：「AI用於目標選定肯定正在快速增加，但即使保留人工決策環節，究竟要如何防止平民傷亡或誤傷友軍，目前也沒有真正的指引。」

消息人士指出，自從AI工具開始在政府內部廣泛使用後，情報界出現像本案這類「幻覺」並非孤例。對一些年紀較大的情報官員而言，即使整體上支持軍方使用AI，也認為這項技術正讓分析人員承受更快製作並發出情報的壓力，增加出錯空間。年輕分析人員尤其熟悉這類工具，也更可能不加批判地信任它們。1名消息人士形容：「AI讓你更快得到一個糟糕想法。」

精華 FAQ Q1：這起事件最初是如何被軍方誤判的？ 美軍內部流傳一份情報報告，指稱中東一艘中國船隻運送核武計畫零件；官員一度準備攔截，但後來查核才發現，報告內容其實是AI誤判所致。 Q2：軍方原本已經採取了哪些攔截準備？ 知情人士表示，美軍已迅速進入行動階段，武裝人員準備登船，甚至有軍機已升空；若依該報告行動，情勢可能升高為美中武裝衝突。 Q3：這篇報導主要提醒了AI哪一類風險？ 報導指出，AI雖被廣泛用於情報分析與目標選定，但若資料不佳或模型出現幻覺，可能讓人類做出災難性決策，造成誤傷、誤擊甚至引發戰爭。

Q1：這起事件最初是如何被軍方誤判的？ 美軍內部流傳一份情報報告，指稱中東一艘中國船隻運送核武計畫零件；官員一度準備攔截，但後來查核才發現，報告內容其實是AI誤判所致。

美軍內部流傳一份情報報告，指稱中東一艘中國船隻運送核武計畫零件；官員一度準備攔截，但後來查核才發現，報告內容其實是AI誤判所致。

Q2：軍方原本已經採取了哪些攔截準備？ 知情人士表示，美軍已迅速進入行動階段，武裝人員準備登船，甚至有軍機已升空；若依該報告行動，情勢可能升高為美中武裝衝突。

知情人士表示，美軍已迅速進入行動階段，武裝人員準備登船，甚至有軍機已升空；若依該報告行動，情勢可能升高為美中武裝衝突。

Q3：這篇報導主要提醒了AI哪一類風險？ 報導指出，AI雖被廣泛用於情報分析與目標選定，但若資料不佳或模型出現幻覺，可能讓人類做出災難性決策，造成誤傷、誤擊甚至引發戰爭。

Q3：這篇報導主要提醒了AI哪一類風險？

報導指出，AI雖被廣泛用於情報分析與目標選定，但若資料不佳或模型出現幻覺，可能讓人類做出災難性決策，造成誤傷、誤擊甚至引發戰爭。

AI人臉辨識揪出126名恐怖分子 助國際刑警組織緝凶