AI若缺監管 DeepMind高層：恐2年內造成重大事故

Google DeepMind董事長哈薩比斯14日表示，如果沒採取適當措施來確保AI系統安全，這些系統可能在2年內引發重大安全事故。(歐新社)

AI摘要 文章摘要整理： Google DeepMind董事長哈薩比斯警告，若產業與政府未加強安全措施，AI系統可能在2年內引發重大事故，歐盟也同步升高監管力度。

Google DeepMind董事長哈薩比斯警告，若產業與政府未加強安全措施，AI系統可能在2年內引發重大事故，歐盟也同步升高監管力度。

人工智慧 （AI）研究機構 Google DeepMind董事長哈薩比斯14日表示，隨著AI系統能力不斷提升，如果沒採取適當措施來確保安全，這些系統可能在2年內引發重大安全事故。

法新社報導，哈薩比斯（Demis Hassabis）於愛爾蘭都柏林一場AI會議發表談話，他把近期事件形容為「目前還沒有那麼強大」的系統發出早期警訊，「因此，當前事故尚不算太重大」。

但哈薩比斯警告，如果整個產業、各家公司和各國政府沒有採取更多措施來確保這些系統的安全，放眼明年與未來幾年，事故就可能變得很嚴重。

OpenAI和Anthropic等AI公司開發模型在測試期間涉及安全事故後，各界對於AI安全的疑慮大幅加深，也讓監管這項技術之壓力進一步增加。

哈薩比斯指出，新的AI模型可能應該先在離線「沙盒」（sandboxes）環境中接受測試；先前有其他公司模型逃離用來評估其能力之沙盒環境。

歐盟主管科技事務執委維爾庫南（Henna Virkkunen）則說道，歐盟已經要求所有主要AI公司解釋，現在採取哪些安全及防護措施。

歐盟執行委員會今年8月依據「人工智慧法」（AI Act）取得新的監管權力，這是全球目前最全面相關法規，用來限制AI技術潛在危險用途。

精華 FAQ Q1：哈薩比斯為何警告AI可能在2年內造成重大事故？ 他認為隨著AI能力持續提升，若產業、企業與政府沒有及時建立安全防護，系統失控或誤用的風險會快速升高，未來1到2年內就可能出現嚴重事故。 Q2：他對目前AI系統的事故風險如何看待？ 哈薩比斯表示，現階段模型還「沒有那麼強大」，因此最近出現的問題多半只是早期警訊，事故規模尚不算太大，但已顯示安全風險正在累積。 Q3：歐盟目前對AI安全與監管採取了哪些動作？ 歐盟主管科技事務官員表示，已要求所有主要AI公司說明目前採用哪些安全與防護措施；同時，歐盟也依據AI Act取得新監管權力，強化對高風險用途的限制。

Q1：哈薩比斯為何警告AI可能在2年內造成重大事故？ 他認為隨著AI能力持續提升，若產業、企業與政府沒有及時建立安全防護，系統失控或誤用的風險會快速升高，未來1到2年內就可能出現嚴重事故。

Q1：哈薩比斯為何警告AI可能在2年內造成重大事故？

他認為隨著AI能力持續提升，若產業、企業與政府沒有及時建立安全防護，系統失控或誤用的風險會快速升高，未來1到2年內就可能出現嚴重事故。

Q2：他對目前AI系統的事故風險如何看待？ 哈薩比斯表示，現階段模型還「沒有那麼強大」，因此最近出現的問題多半只是早期警訊，事故規模尚不算太大，但已顯示安全風險正在累積。

Q2：他對目前AI系統的事故風險如何看待？

哈薩比斯表示，現階段模型還「沒有那麼強大」，因此最近出現的問題多半只是早期警訊，事故規模尚不算太大，但已顯示安全風險正在累積。

Q3：歐盟目前對AI安全與監管採取了哪些動作？ 歐盟主管科技事務官員表示，已要求所有主要AI公司說明目前採用哪些安全與防護措施；同時，歐盟也依據AI Act取得新監管權力，強化對高風險用途的限制。

Q3：歐盟目前對AI安全與監管採取了哪些動作？

歐盟主管科技事務官員表示，已要求所有主要AI公司說明目前採用哪些安全與防護措施；同時，歐盟也依據AI Act取得新監管權力，強化對高風險用途的限制。

「小熊維尼」童書出版100年 英國粉絲盼紐約展出玩偶返鄉