OpenAI揭6起AI失控案例　推新機制定期對外通報

（中央社紐約16日綜合外電報導）OpenAI今天表示，將開始定期發布AI異常或未經授權行為的報告，同時警告，隨著AI系統日益強大，業界至今仍未解決關鍵的「對齊」挑戰。

綜合路透社與法新社報導，OpenAI發布一套新機制，用於追蹤、調查並揭露AI模型「目標錯位」（misalignment，AI的目標與人類價值不一致）的案例，同時公布過去半年內觀察到的6起AI模型異常或令人憂慮行為的報告。

其中最嚴重的案例涉及2款OpenAI模型，這些模型在測試期間突破封閉環境，擅自連上網路並入侵多個網站與平台；在今年5月發生的一起案例中，某個模型為解答開發過程中提出的問題，竟自行在網路上捏造資料來源，進而引用這份文件作為依據。

OpenAI今天在聲明中表示：「我們認為，AI產業在對齊（alignment，即符合設計者目標）與監控技術方面，目前仍不足以支撐整個行業以極限速度持續、負責任地擴大規模。」

聲明也指出：「未來數月至數年期間，AI該如何發展的相關決策，都必須奠基於客觀事實證據之上，而非僅憑開發尖端模型的企業自身說法。」

此外，OpenAI也表示未來將通報AI未經授權行動、脫離監管掌控，以及AI系統間自發性協調等問題在內的各類事件，通報的事件不以「已對任何人造成傷害」或「已形成慣常模式」為前提。

同時，通報範圍將涵蓋AI生命週期的每個階段，從開發、評估測試到正式上線部署，盼藉此讓外界了解頂尖AI能力，就AI發展速度展開更充分的討論。（編譯： 張茗喧 ）1150917

Snap攜手輝達等科技巨頭 搶攻企業級AR眼鏡市場 2026/09/17 14:42

政院：續推AI新十大建設 確保產業鏈關鍵地位 2026/09/17 14:35

美眾院通過法案 要求資料中心自付更多電力成本 2026/09/17 09:53

美中對抗掀矽盛世與WAICO爭霸 東協掀主權AI風潮靈活戰略拒站隊 2026/09/17 07:40

川普淡化AI威脅 聯合國秘書長疾呼防範 2026/09/17 01:44

人工智慧先驅班吉歐示警AI失控風險 籲比照核武管制 2026/09/17 01:29

選擇與事實站在一起，您的每一份贊助，都是守護新聞自由的力量

下載中央社「一手新聞」APP，即時掌握最新消息

本網站之文字、圖片及影音，非經授權，不得轉載、公開播送或公開傳輸及利用。