教宗良十四世公開批評黃仁勳 質疑低估AI失控風險

教宗良十四世28日結束法國行程、搭機返國途中接受媒體採訪。(美聯社)

美國人工智慧（AI）晶片巨頭輝達28日宣布推出一款新的安全工具「開放代理安全平台」，號稱能替AI代理畫下權限界線，一旦偵測到AI試圖執行超出授權範圍的行動，最快可在數毫秒內將其隔離。對此，金融時報報導， 教宗 良十四世 28日罕見表態，批評輝達執行長 黃仁勳 淡化AI風險，並呼籲各界嚴肅看待AI對人類構成的威脅。

美聯社報導，輝達「開放代理安全平台」（Open Agent Safety Platform）主要透過權限限制與即時監控，防止AI代理越界。其中OpenShell可限制AI代理能使用的系統及資源，確保它只取得完成任務所需的權限；另一套名為Sentry的安全機制則持續監控AI代理活動，一旦發現AI試圖超出原定範圍，便可立即介入，最快在數毫秒內將可疑AI代理隔離。

輝達表示，目前已有超過100個組織採用這套平台，包括Microsoft、Perplexity、Accenture及JPMorgan Chase。由於平台採取開源模式，也能擴充至Arm、Intel等其他公司的運算平台。

對此，良十四世28日結束訪法、搭機返回羅馬途中表示，已了解輝達最新推出的安全工具，但鑑於黃仁勳近期的發言，他對黃仁勳究竟多重視AI安全提出質疑。

良十四世表示，黃仁勳一方面推出新的AI安全工具，「另一方面，他也是主張不應對AI設限、不應由AI監管的代表人物」。日前包括Anthropic執行長阿莫戴、OpenAI執行長奧特曼等，以安全風險為由，呼籲AI減速論；反觀黃仁勳與美國總統川普則曾駁斥AI末日論，傾向政府放任業界發展。

良十四世並呼籲嚴肅看AI專家與專業人士提出的疑慮，他說自己不至於對AI發展陷入恐慌而夜不成眠，「但是我認為這是需要坐下來好好討論的問題」。

良十四世說：「有意思的是，就在今天，我讀到輝達負責人聲稱，他找到某種方法，可以在AI中加入一些安全護欄。」

教宗罕見公開批評全球市值最高企業的掌舵人，凸顯AI安全議題引發高度憂慮，成為全球多國領袖的優先關切事項。輝達拒絕評論。

出生於芝加哥的良十四世與川普在多項議題上立場相左，且自去年就任教宗以來，一直高度關注AI議題。今年5月，他發布一份稱為「通諭」的正式文件，指出AI並非道德中立的科技，必須透過強而有力的監管加以「解除武裝」，確保AI服務人類，而不是傷害人類。

華府日益關注業界對AI風險的疑慮。彭博報導，川普與聯邦眾議院議長強生29日將舉行午宴，討論AI安全風險，受邀出席的科技業高層包括輝達執行長黃仁勳、Anthropic執行長阿莫戴、數據分析公司帕蘭泰爾（Palantir Technologies）執行長卡普，以及OpenAI總裁布羅克曼。

精華 FAQ Q1：輝達新推出的開放代理安全平台主要功能是什麼？ 這套平台透過權限限制與即時監控，防止AI代理越權行動；OpenShell負責控管可用系統與資源，Sentry則持續偵測異常，一旦越界就能迅速隔離。 Q2：教宗良十四世為何公開批評黃仁勳的AI立場？ 良十四世認為黃仁勳一方面推出安全工具，另一方面又反對替AI設限、主張不應由AI監管，因而質疑他是否真正重視AI安全與人類可能面臨的風險。 Q3：這則新聞反映出目前AI安全議題的哪些新動向？ 新聞顯示AI安全已成全球領袖關切焦點，從教廷到華府都在討論風險管控；同時包括黃仁勳、阿莫戴與OpenAI高層也將參與相關午宴討論。

Q1：輝達新推出的開放代理安全平台主要功能是什麼？ 這套平台透過權限限制與即時監控，防止AI代理越權行動；OpenShell負責控管可用系統與資源，Sentry則持續偵測異常，一旦越界就能迅速隔離。

Q1：輝達新推出的開放代理安全平台主要功能是什麼？

這套平台透過權限限制與即時監控，防止AI代理越權行動；OpenShell負責控管可用系統與資源，Sentry則持續偵測異常，一旦越界就能迅速隔離。

Q2：教宗良十四世為何公開批評黃仁勳的AI立場？ 良十四世認為黃仁勳一方面推出安全工具，另一方面又反對替AI設限、主張不應由AI監管，因而質疑他是否真正重視AI安全與人類可能面臨的風險。

Q2：教宗良十四世為何公開批評黃仁勳的AI立場？

良十四世認為黃仁勳一方面推出安全工具，另一方面又反對替AI設限、主張不應由AI監管，因而質疑他是否真正重視AI安全與人類可能面臨的風險。

Q3：這則新聞反映出目前AI安全議題的哪些新動向？ 新聞顯示AI安全已成全球領袖關切焦點，從教廷到華府都在討論風險管控；同時包括黃仁勳、阿莫戴與OpenAI高層也將參與相關午宴討論。

Q3：這則新聞反映出目前AI安全議題的哪些新動向？

新聞顯示AI安全已成全球領袖關切焦點，從教廷到華府都在討論風險管控；同時包括黃仁勳、阿莫戴與OpenAI高層也將參與相關午宴討論。

為省運費「花更多錢來省小錢」 專家揭電商心理陷阱