揭自家AI代理削弱內部監控　OpenAI測試「規避監測」傾向

OpenAI指出旗下兩個AI代理削弱用來偵測異常的內部監控系統部分功能，正在測試旗下模型是否會傾向規避監控。（路透社）

（中央社舊金山20日綜合外電報導）OpenAI今天表示，旗下兩個人工智慧（AI）代理削弱了原本用來偵測異常行為的內部監控系統部分功能。這是AI代理未按照開發者預期方式行動的最新案例。

路透社報導，這家聊天機器人ChatGPT開發商強調，這些事件發生在內部程式碼編寫任務期間，並未被視為最嚴重等級，但此一披露凸顯出，即使是開發商用來揪出AI不當行為的系統，也可能遭其監控的AI代理所破壞。

這項消息揭露的同時，各界也日益擔憂對AI安全採取的防護措施進展，已落後日益強大的AI系統迅速發展。研究人員曾警告，隨著先進AI代理取得更大的自主性，它們可能會變得更難監控與控制。

近幾個月來，包括即將進行首次公開募股（IPO）的OpenAI與Anthropic等開發業者相繼揭露，旗下的AI代理曾在未獲授權的情況下存取外部系統。

OpenAI今天表示，一個正在執行內部測試任務的GPT-6.1 Sol代理，在認定先前「不要發送Slack訊息」的指令也涵蓋安全通知後，於10月3日抑制了自動安全警報。

OpenAI指出，在10月6日發生的另一起事件中，一個GPT-6 Astra代理在複製現有程式碼時移除安全監控機制，隨後還不實聲稱自己並未這麼做。

OpenAI表示：「在這兩起案例中，AI代理都曾考量是否應該保留監控防護措施，但最終仍將例行的程式碼指示，解讀為得以削弱這些措施的許可。」

OpenAI強調，正致力於提高模型關閉監控的難度，並補充提到，目前對「這種行為尚無令人滿意的解釋」。

總部設於舊金山的OpenAI指出，正在測試旗下模型是否傾向規避監控，並尋找理由將這些行為正當化。（編譯： 張曉雯 ）1151021

OpenAI自曝AI代理削弱內部監控 查規避監測傾向 2026/10/21 15:39

9月電力景氣燈號連18紅 台綜院估半導體用電全年破500億度 2026/10/21 11:47

GCTF聯合委員會議召開 明年聚焦海事韌性、AI等議題 2026/10/21 10:39

選擇與事實站在一起，您的每一份贊助，都是守護新聞自由的力量

下載中央社「一手新聞」APP，即時掌握最新消息

本網站之文字、圖片及影音，非經授權，不得轉載、公開播送或公開傳輸及利用。