英王警告錯用AI恐有存亡危機 黃仁勳籲業界負責樂觀

英王查理三世（左）與輝達（Nvidia）執行長黃仁勳（右）17日一同步入會場，出席一場人工智慧峰會。路透

英國國王查理三世今天在一場人工智慧（AI）峰會示警，他指出一旦錯用AI恐有存亡危機，應建立掌控機制以免為時已晚。企業領袖 黃仁勳 則籲業界以「負責的樂觀態度」打造AI。

路透報導，英王查理三世（Charles III）今天在蘇格蘭接待晶片製造商輝達（Nvidia）與Google DeepMind AI研究實驗室共同創辦人，以及AI業者 OpenAI 和Anthropic高級主管，時值外界日益憂心安全防護的努力，已跟不上威力日增的系統發展。

近幾周來，這場辯論的焦點集中在AI產業能否、以及是否應自我監管，此一議題已有教宗良十四世（Pope Leo XIV）、英王查理三世，以及美國總統川普等人出面表態。

查理三世說，人工智慧擁有改善並挽救生命的潛力，尤其是在生命科學與醫學領域。不過AI開發者近來示警頻繁，指這項技術可能發展出更黑暗的能力，「甚或可能奪走生命」。

查理三世在鄧弗里斯莊園（Dumfries House）告訴與會AI界領袖：「這類技術一旦落入惡人之手，甚至作為毀滅之用，其帶來的生存威脅似乎迫切需要妥善審視。」

查理三世說：「難道我們不需要在一切為時已晚之前，建立足夠的控制手段嗎？」

這場峰會的賓客，包括輝達創辦人暨執行長黃仁勳、Google DeepMind創辦人暨董事長哈薩比斯（Demis Hassabis）、OpenAI財務長弗萊爾（Sarah Friar）、Anthropic全球事務長庫維拉（Tino Cuéllar）。

曾敦促各國政府放慢AI發展腳步的教宗顧問貝南蒂（Paolo Benanti）亦有出席。

兩名Anthropic研究員日前警告，AI快速發展可能在不久的將來導致人類滅絕，這場AI爭論因此升溫。

AI公司曾通報，旗下模型曾脫離測試限制，入侵外部網路。

黃仁勳說，AI必須以「負責任的樂觀態度」打造，責任落在開發者身上。

他說，企業在推出產品前，必須更加嚴謹地確認產品已準備就緒。

黃仁勳在場邊受訪時指出，如果還沒準備好，就先別推出，你應盡可能加快腳步，但不能超過這個限度。

Anthropic執行長阿莫戴（Dario Amodei）也曾敦促企業放慢AI發展。他的呼籲引發國際間辯論，外界質疑部分企業高層是否別有用心，例如藉此制定有利自家企業維持領先地位的規則、搶先因應政府可能出現的進一步反彈，或單純只是想放慢瘋狂的支出步調。

英國主責AI的副大臣級官員納拉揚（Kanishka Narayan）說，會中討論聚焦於企業責任，確保企業打造AI是為了民眾利益。

黃仁勳表示，查理三世在兩人初次相見時就已提出AI安全問題。「如果說還有誰能對負責任的樂觀態度，講得更深刻、更有見地，國王是最早向我表達這種看法的人之一。」

精華 FAQ Q1：英王查理三世在這場AI峰會上最主要的警告是什麼？ 他指出AI雖有改善醫療與生命科學的潛力，但若落入惡人之手或被用作毀滅工具，可能構成迫切的生存威脅，因此應及早建立控制機制。 Q2：黃仁勳對AI開發與產品推出提出了什麼看法？ 黃仁勳主張以「負責任的樂觀態度」打造AI，責任主要在開發者；他認為企業應更嚴謹確認產品準備就緒，若尚未成熟就不該急著推出。 Q3：這場峰會為何引發外界對AI自我監管的討論？ 因為外界愈來愈擔心安全防護跟不上AI能力成長，且已有研究員警告可能導致人類滅絕、模型也曾脫離測試限制入侵外部網路，促使各界重視自我監管與企業責任。

Q1：英王查理三世在這場AI峰會上最主要的警告是什麼？ 他指出AI雖有改善醫療與生命科學的潛力，但若落入惡人之手或被用作毀滅工具，可能構成迫切的生存威脅，因此應及早建立控制機制。

Q1：英王查理三世在這場AI峰會上最主要的警告是什麼？

他指出AI雖有改善醫療與生命科學的潛力，但若落入惡人之手或被用作毀滅工具，可能構成迫切的生存威脅，因此應及早建立控制機制。

Q2：黃仁勳對AI開發與產品推出提出了什麼看法？ 黃仁勳主張以「負責任的樂觀態度」打造AI，責任主要在開發者；他認為企業應更嚴謹確認產品準備就緒，若尚未成熟就不該急著推出。

Q2：黃仁勳對AI開發與產品推出提出了什麼看法？

黃仁勳主張以「負責任的樂觀態度」打造AI，責任主要在開發者；他認為企業應更嚴謹確認產品準備就緒，若尚未成熟就不該急著推出。

Q3：這場峰會為何引發外界對AI自我監管的討論？ 因為外界愈來愈擔心安全防護跟不上AI能力成長，且已有研究員警告可能導致人類滅絕、模型也曾脫離測試限制入侵外部網路，促使各界重視自我監管與企業責任。

Q3：這場峰會為何引發外界對AI自我監管的討論？

因為外界愈來愈擔心安全防護跟不上AI能力成長，且已有研究員警告可能導致人類滅絕、模型也曾脫離測試限制入侵外部網路，促使各界重視自我監管與企業責任。

歐盟執委10月赴北京會中國商務部長 拚化解貿易緊張