AI失控風險連聯合國都拉警報！ 高專警告恐成「人類生存威脅」

健康 國際 地方 蒐奇 影音 財經 娛樂 汽車 時尚 體育 3 C 評論 藝文 玩咖 食譜 地產 專區 TAIPEI TIMES 求職

聯合國人權事務高級專員圖克（Volker Türk）警告AI可能構成人類「生存威脅」，要求各國建立具約束力的安全保障與共同紅線。（歐新社）

人工智慧（AI）失控風險持續升高。聯合國人權事務高級專員圖克（ Türk）警告，AI可能成為對人類的「生存威脅」，要求各國建立具有約束力的安全保障，並針對AI能力發展畫出共同「紅線」。

《德國之聲》（DW）13日報導，圖克7日在聯合國人權理事會第63屆會議開幕式上，批評AI開發集中在少數企業手中，並點名美國的OpenAI、Anthropic、Google，以及中國的DeepSeek、月之暗面（Moonshot）等企業。他表示，將在未來幾天內向AI公司發出書面要求，敦促業者立即加強安全措施。

近期OpenAI與Anthropic也陸續公布AI模型突破測試限制、取得未授權系統存取權的事件。圖克在演說中警告，如果AI能夠突破測試環境，甚至以勒索開發者的方式阻止自己被關閉，就代表這類系統已經過於強大。

OpenAI公布的安全報告顯示，其AI模型在資安評估任務中，利用先前未知的零時差（zero-day）漏洞突破原本沒有對外連線的隔離控制。模型取得網際網路連線後，進一步利用遭竊憑證及其他漏洞，取得Hugging Face系統的未授權存取權。

Anthropic也公布類似案例。今年7月底，Anthropic表示發現3起Claude模型在資安測試中取得網際網路連線、未經授權存取真實第三方系統的事件。9月9日，Anthropic進一步表示，在擴大檢視約4.81億份紀錄後，又找到第4起相關案例。

圖克因此要求各國政府與AI業界就AI能力發展畫出共同「紅線」，並建立具有約束力的安全保障措施。他也表示，AI開發者所在國政府應參與相關規範制定，業界則需要加強安全合作。

不用抽 不用搶 現在用APP看新聞 保證天天中獎 點我下載APP 按我看活動辦法

不買對只買賄！中國河北醫院收賄採購爆貴藥械 11年貪8.6億

日職》台灣強投回來了！徐若熙滿血復出狂飆2K 猛催158公里火球

獨家》「張俊傑大逃亡」警再逮一人 共犯雲林租車接應助竄逃

U18亞青》痛擊菲律賓！ 台灣隊拿下隊史第5座季軍

自由觀點》陸軍700億買新「雲豹」 輪型戰鬥車更兇跑更快

AI恐快到人類控制不了！Anthropic執行長喊「踩煞車」 2巨頭全認同

台灣人才懂？他誤會「蛋糕給你買好了」回家喜提2盒 全網笑翻

賴岳謙退通告扯「中天遞投名狀」 官員：不要往自己臉上貼金

名家分享~張之豪》19年後，我再看王偉忠

啦啦隊凌晨4點吃什麼？樂天女孩宵夜習慣大公開 狂嗑火鍋、鐵板燒不怕胖秘訣曝光

亞運男籃》林庭謙砍21分 台灣隊狂飆三分球打趴卡達晉級8強