諾貝爾獎得主等專家籲採取行動 防失控AI威脅基礎設施

包括諾貝爾獎得主在內的200多位人工智慧（AI）與網路安全專家今天發表一封公開信，信中呼籲立即採取行動，防止AI模型進一步失控，對關鍵基礎設施構成威脅。（路透）

AI摘要 文章摘要整理： 包括辛頓與班吉歐在內的200多位專家發公開信，要求隔離測試具網攻能力的AI模型、建立國際安全標準，以防模型失控危及基礎設施。

包括辛頓與班吉歐在內的200多位專家發公開信，要求隔離測試具網攻能力的AI模型、建立國際安全標準，以防模型失控危及基礎設施。

包括 諾貝爾獎 得主在內的200多位人工智慧（AI）與網路安全專家今天發表一封公開信，信中呼籲立即採取行動，防止AI模型進一步失控，對關鍵基礎設施構成威脅。

法新社報導，這封公開信由多位AI領域的重要人物共同簽署，包括諾貝爾獎得主辛頓（Geoffrey Hinton）及圖靈獎得主班吉歐（Yoshua Bengio）。兩人都被視為AI領域的先驅。

信中呼籲，測試具備網路安全相關能力的AI模型時，必須在實體上將模型與網際網路隔離。

研究人員在信中表示：「我們這群署名的科學家主張，除了需要更多AI安全研究外，也必須更加重視防堵技術與相關程序。」

美國主要AI企業過去幾個月陸續揭露一系列事件，指出開發中的模型突破防堵機制、連上網際網路，甚至進一步入侵網站，其中包括未經授權存取澳洲政府網站的案例。

研究人員警告：「若不立即改變AI的開發與部署實務，這類事件將會持續發生，未來的事件也將對防護不足的關鍵基礎設施造成更嚴重的破壞。」

公開信呼籲，所有開發、部署及測試具備網路攻擊能力的AI模型的組織，都必須在實體上切斷模型與網際網路的連線，以防止模型突破防堵機制。

信中也呼籲成立國際機構，負責制定並統一安全最佳實務標準。

這封公開信並敦促相關企業向該機構通報任何防堵機制失效事件，由該機構負責追蹤及記錄。

信中指出：「無論是為了汲取教訓，還是落實問責，這種透明度都不可或缺。」

AI模型失控事件也加深外界要求放慢AI發展腳步的呼聲，但產業界與各國政府對於是否應放慢發展，以及如何監管這個產業，仍存在分歧。

在美國，川普政府面對與中國的激烈競爭，反對可能阻礙創新的強制性法規，轉而推動自願性行為準則。

目前美國沒有專門規範這類模型的聯邦法律。

精華 FAQ Q1：這封公開信由哪些AI領域重要人物共同簽署？ 公開信由200多位AI與網路安全專家聯名發出，簽署者包括諾貝爾獎得主辛頓與圖靈獎得主班吉歐，兩人都被視為AI領域的重要先驅。 Q2：專家建議如何防止具網路攻擊能力的AI模型失控？ 專家主張在測試、開發與部署這類模型時，必須實體切斷與網際網路的連線，並加強防堵技術與相關程序，避免模型突破限制後對外部系統造成影響。 Q3：這封信對監管與透明度提出了哪些具體要求？ 信中呼籲成立國際機構，統一安全最佳實務標準，並要求企業通報任何防堵機制失效事件，由該機構追蹤與記錄，以便累積教訓並落實問責。

Q1：這封公開信由哪些AI領域重要人物共同簽署？ 公開信由200多位AI與網路安全專家聯名發出，簽署者包括諾貝爾獎得主辛頓與圖靈獎得主班吉歐，兩人都被視為AI領域的重要先驅。

Q1：這封公開信由哪些AI領域重要人物共同簽署？

公開信由200多位AI與網路安全專家聯名發出，簽署者包括諾貝爾獎得主辛頓與圖靈獎得主班吉歐，兩人都被視為AI領域的重要先驅。

Q2：專家建議如何防止具網路攻擊能力的AI模型失控？ 專家主張在測試、開發與部署這類模型時，必須實體切斷與網際網路的連線，並加強防堵技術與相關程序，避免模型突破限制後對外部系統造成影響。

Q2：專家建議如何防止具網路攻擊能力的AI模型失控？

專家主張在測試、開發與部署這類模型時，必須實體切斷與網際網路的連線，並加強防堵技術與相關程序，避免模型突破限制後對外部系統造成影響。

Q3：這封信對監管與透明度提出了哪些具體要求？ 信中呼籲成立國際機構，統一安全最佳實務標準，並要求企業通報任何防堵機制失效事件，由該機構追蹤與記錄，以便累積教訓並落實問責。

Q3：這封信對監管與透明度提出了哪些具體要求？

信中呼籲成立國際機構，統一安全最佳實務標準，並要求企業通報任何防堵機制失效事件，由該機構追蹤與記錄，以便累積教訓並落實問責。