Nvidia發布新安全軟體 可阻止AI代理失控

輝達28日推出新的安全工具，宣稱可阻止AI代理失控。（路透）

輝達 （Nvidia）28日推出新的安全工具，宣稱可阻止AI代理失控，要是早早安裝，能避免先前Hugging Face遭駭事件。

輝達發布的工具之一，名為「OpenShell」，以輝達中央處理器（CPU）的硬體功能來控制AI代理。輝達也與安謀（Arm）、 英特爾 等合作，確保安全系統能在安謀與英特爾的CPU上運作。

輝達企業運算副總波塔諾（Justin Boitano）表示，這些工具能阻止Hugging Face的攻擊事件。他說：「就我們所知，要是前沿實驗室在早期模型評估時，就使用新安全平台，可阻止入侵。我們公開推動（新工具），希望大家與我們攜手合作。」

輝達的另一系統名為「Sentry」，使用另一輝達晶片搭配OpenShell。如果AI代理試圖逃離CPU的限制，能以此阻斷失控的AI代理。輝達工具使用數學公式，來偵測試圖繞道的AI代理，例如AI代理可能會生成「子代理」（sub-agent），來規避系統對主要AI代理的阻礙。

OpenAI與Anthropic的AI代理，傳出多度駭入企業與政府系統，兩家公司正進行調查。

精華 FAQ Q1：輝達這次推出了哪些新安全工具來管控AI代理？ 輝達推出OpenShell與Sentry兩項安全工具，前者利用CPU硬體功能控制AI代理，後者則搭配另一顆輝達晶片運作，用來偵測並阻斷可能失控的AI行為。 Q2：OpenShell與Sentry如何防止AI代理繞過系統限制？ OpenShell會依靠CPU硬體功能限制AI代理的行動範圍，Sentry則在AI代理試圖逃離限制時即時攔截，並以數學公式偵測其是否透過子代理等方式規避管控。 Q3：輝達為何認為這套安全平台能避免先前的駭客事件？ 輝達企業運算副總波塔諾表示，若前沿實驗室在早期模型評估時就採用這套平台，可能可阻止入侵，甚至避免Hugging Face先前遭駭事件重演。

Q1：輝達這次推出了哪些新安全工具來管控AI代理？ 輝達推出OpenShell與Sentry兩項安全工具，前者利用CPU硬體功能控制AI代理，後者則搭配另一顆輝達晶片運作，用來偵測並阻斷可能失控的AI行為。

Q1：輝達這次推出了哪些新安全工具來管控AI代理？

輝達推出OpenShell與Sentry兩項安全工具，前者利用CPU硬體功能控制AI代理，後者則搭配另一顆輝達晶片運作，用來偵測並阻斷可能失控的AI行為。

Q2：OpenShell與Sentry如何防止AI代理繞過系統限制？ OpenShell會依靠CPU硬體功能限制AI代理的行動範圍，Sentry則在AI代理試圖逃離限制時即時攔截，並以數學公式偵測其是否透過子代理等方式規避管控。

Q2：OpenShell與Sentry如何防止AI代理繞過系統限制？

OpenShell會依靠CPU硬體功能限制AI代理的行動範圍，Sentry則在AI代理試圖逃離限制時即時攔截，並以數學公式偵測其是否透過子代理等方式規避管控。

Q3：輝達為何認為這套安全平台能避免先前的駭客事件？ 輝達企業運算副總波塔諾表示，若前沿實驗室在早期模型評估時就採用這套平台，可能可阻止入侵，甚至避免Hugging Face先前遭駭事件重演。

Q3：輝達為何認為這套安全平台能避免先前的駭客事件？

輝達企業運算副總波塔諾表示，若前沿實驗室在早期模型評估時就採用這套平台，可能可阻止入侵，甚至避免Hugging Face先前遭駭事件重演。

Dreame以首創技術拓展全球市場 Q1全球銷量與收入雙冠