AI軍事誤判僅數分鐘可反應 美中專家提3道「核武級」護欄

健康 國際 地方 蒐奇 影音 財經 娛樂 汽車 時尚 體育 3 C 評論 藝文 玩咖 食譜 地產 專區 TAIPEI TIMES 求職

圖為美國海軍在佛羅里達州外海，試射1枚不帶彈頭的三叉戟二型D5延壽版（Trident II D5 Life Extension）飛彈。（圖：美國海軍）

人工智慧（AI）技術快速發展帶來的安全風險，近日愈加受到重視。美國和中國安全專家日前提出一套類似核武管制的安全護欄，避免AI系統失控或遭入侵，導致誤判，演變成重大軍事危機。

路透17日報導，華府智庫「布魯金斯研究所」（Brookings Institution）高級研究員西森（Melanie Sisson）和中國復旦大學副教授江天驕，參與布魯金斯研究所與中國清華大學戰略與安全研究中心（CISS）召集的「美中AI與國家安全第二軌道對話」，共同提出這份建議。

美、中專家指出，若出現一套AI系統干擾核武指揮網或發動一場軍事網路行動，華府或北京可能僅有數分鐘時間判斷是否為對方政府發動的攻擊，敦促兩國政府，為這類情境做準備。

西森主張，是否針對方國家核武指揮、管控和通訊系統，以及具戰略重要性基礎設施，發動AI協助的網路攻擊，應由人類保有唯一決定權；自主系統可能故障、逾越指令行事，甚至遭入侵或操控，受攻擊方卻未必能立即辨別。

江天驕則提出應明訂「紅線」，禁止AI自行決定動用核武，或自主攻擊核武指揮系統，並將能源、金融、醫療等關鍵基礎設施也納入保護。他也敦促美中對「有意義的人類控制」（meaningful human control）制定共同定義，防止兩國都稱「人類控制」卻有不同標準。

江天驕還提議設立專門處理AI事件的美中軍事熱線。他警告，自動化網路系統的往來，可能快到人類來不及介入，一方的防禦性AI或許會自動回應可疑活動，而另一方可能將此回應行動誤判為遭到攻擊，尚未釐清就反擊；設立專門處理這類情況的熱線，可讓一方及時說明異常AI行動是意外、未經授權，或仍在調查。

這些建議提出時間點，正值美中預定展開政府層級AI會談，以及美國總統川普和中國國家主席習近平，預定24日在華府會談。目前兩國政府都未公開支持這份提議。美中AI與國家安全第二軌道對話自2019年起舉辦，可為官方討論提供參考。

不用抽 不用搶 現在用APP看新聞 保證天天中獎 點我下載APP 按我看活動辦法

籌辦六四追悼會社運人士遭重判 歐洲議會籲制裁中國與香港官員

陳傑憲離奇接球失誤「兄弟反超」 餅總無言轉身離開

謝典霖涉賄選漏夜開覊押庭 父謝新隆收押禁見

自由爆新聞》昔有韓國瑜爬樹、今有蔣萬安摸地！一現象曝「洋流」真破圈

為何買股票總是賺小賠大？專家揭散戶致命錯誤 真正高手都做「這件事」

新聞360》「Taiwan」駛向國際！習逼出「挺台潮」他曝：中共笨笨的

登山杖「貫穿身體」徒步16公里就醫活命！醫揭保命關鍵

蔣萬安贏沒懸念？林濁水指小笠原欣幸小看2事：恐怕得調整看法

自由說新聞》中國經濟落漆人民抱怨「燃盡了」 貴州男想吃牢飯荒謬一幕曝光

「市長，你給我聽好了」肥皂箱首秀人潮曝 幼童與沈伯洋擊掌融化洋流的心

台灣降價了！南韓麝香葡萄價格雪崩近7成 農民忍痛「做1事」