輝達推安全工具雙重防護　數毫秒內隔離越界AI代理

輝達推出一套防止自主AI程式偏離既定指令的系統，稱能在數毫秒內隔離試圖越界的AI代理。（路透社）

（中央社舊金山28日綜合外電報導）近期一連串事件引發外界對人工智慧（AI）風險疑慮，美國AI晶片巨擘輝達今天推出一套目的防止自主AI程式偏離既定指令的系統，稱能在數毫秒內隔離試圖越界的AI代理。

綜合法新社、路透社及美國新聞網站Axios報導，AI代理（AI agent）設計目的是能自主執行任務，例如瀏覽網頁、撰寫及執行程式碼或處理檔案，而非像聊天機器人一樣僅回答問題。

這項技術被譽為AI革命的下一階段，但近期多家科技巨擘通報AI代理在測試環境中突破管控的案例。根據聊天機器人ChatGPT開發商OpenAI說法，他們的AI代理曾進入美國聯邦機關網站、澳洲政府衛生資料入口網站及AI模型儲存平台Hugging Face。

面對外界疑慮，輝達（NVIDIA）執行長黃仁勳堅稱這些問題可以獲得解決。他今天告訴美國財經媒體CNBC：「我認為這是工程問題…我們都希望這是工程問題。」他還說：「如果這不是工程問題就無法解決。」

輝達今天推出的「開放代理安全平台」（Open Agent Safety Platform）涵蓋兩項工具，包括OpenShell開源軟體系統和Sentry代理監控系統。

OpenShell可運用輝達中央處理器晶片的硬體功能限制AI代理。輝達也表示正與安謀國際科技公司（ARM Holdings Plc）及英特爾（Intel）合作，確保這套系統同樣適用於他們的中央處理器。

Sentry與OpenShell協同運作，使用獨立的輝達晶片，在失控的AI代理試圖脫離中央處理器上的隔離環境時切斷其運作。如果AI代理試圖超出軟體活動範圍，Sentry可在數毫秒內將其隔離並停止運作。毫秒（millisecond）是1/1000秒。

輝達AI軟體資深總監戈爾尚（Ali Golshan）表示，輝達的工具運用數學公式偵測AI代理何時試圖繞過防護措施，例如AI代理可能「繁殖」數個「子代理」意圖規避對主代理的封鎖措施。

戈爾尚在簡報會上表示：「我們談論的其實是代理式行為，也就是一群代理如何共同運作。」

輝達稱可阻Hugging Face遭駭事件 逾百組織參與

輝達表示若有這套工具便可阻止Hugging Face遭駭事件。Hugging Face遭OpenAI失控AI代理大舉攻擊數月後，輝達斥資130億美元收購Hugging Face。

輝達企業運算部門副總裁暨總經理包泰諾（Justin Boitano）表示：「就我們所知，如果這套新的安全平台早期就用於前沿AI實驗室進行模型評估，就可以阻止這起入侵事件。我們正以開放方式推進這項工作，也希望與所有人合作。」

輝達表示，平台推出時已有超過100個組織合作，包括微軟（Microsoft）、思科（Cisco）、Salesforce及SAP。

Anthropic已將旗下Claude代理連接至這套系統，SpaceXAI則將應用於旗下Grok模型。（編譯： 盧映孜 ）1150929

AI熱潮帶動成長 輝達庫藏股計畫追加1500億美元創紀錄 2026/09/28 20:33

輝達推AI安全工具 稱可阻止Hugging Face遭駭事件 2026/09/28 20:03

美媒：中國擬允許字節跳動、阿里巴巴購買輝達新晶片 2026/09/27 23:38

輝達看好埃及AI潛力 將協作拚區域算力樞紐 2026/09/24 22:24

輝達等60組織聯合承諾 助34億人以自身語言使用AI 2026/09/22 08:19

黃仁勳：台灣是全球AI核心 生態系成就輝達 2026/09/19 17:46

選擇與事實站在一起，您的每一份贊助，都是守護新聞自由的力量

下載中央社「一手新聞」APP，即時掌握最新消息

本網站之文字、圖片及影音，非經授權，不得轉載、公開播送或公開傳輸及利用。