川習會該談合作監管AI？佛里曼舉3大理由：理應如此

美國總統川普（左）24日將與中國國家主席習近平（右）會晤，各界期盼雙方能就AI安全議題達成某種共識。美聯社

誰會料到自殺恐怖攻擊者會劫持客機，撞擊世貿中心和 五角大廈 ？武漢實驗室培養的呼吸道病毒，竟會奪走數百萬條人命，並陷世界於經濟衰退？但911恐怖攻擊事件和新冠肺炎疫情卻真的發生了。

「世界是平的」作者佛里曼警告，倘若美中未能儘快就人工智慧（AI）安全議題攜手合作，AI恐將帶來不堪設想的威脅。

佛里曼在 紐約時報 23日刊出的專欄中表示，他希望華府和北京能與美中AI公司共商大計，擬出一套長期計畫，在AI技術領域競爭的同時，也能同意落實AI護欄，防止能力愈來愈強的AI系統自主發動攻擊，構成嚴重的網路資安、生物、核子或金融風險。美中領導人面臨這場空前嚴峻的地緣政治、地緣經濟和科技挑戰，若避而不談，將危及全人類。

他呼籲美國總統川普24日與中國國家主席習近平會晤後，能討論出因應策略，既讓AI協助促成能源、生物學、新材料和藥物研發領域的突破性發展，同時也能防範AI可能帶來的最糟後果。

佛里曼自稱站在「放慢AI發展，除非確定能控制AI」的陣營，並指出所謂「不可監管AI，否則可能減緩創新」的論調，忽略以下三點：

一、歷史證明監管新技術不致扼殺創新和市場

牛津大學馬丁學院新經濟思維研究所教授班霍克（Eric Beinhocker）就說：「良好的法規會建立信任感，而信任感會讓市場成長。航空業或製藥業為何能成長得這麼快、這麼壯大？因為政府監管建立信任感，讓消費者相信他們搭乘的飛機和服用的藥物安全無虞。」

今天尚未發生AI大災難，支持「放任不管」的聲音高亢；但一旦災難爆發，這些宣揚AI放任主義必受聲討。當年對社群網路大亨的縱容，導致如今付出巨大的代價。

二、AI不只是技術，也是有進化能力的新物種

班霍克解釋：「我們已釋出『矽版達爾文』。」他指出，最新的AI模型已展現有能力「自我改良、自我複製和自我保護。這三種能力結合在一起，就會以矽的速度、而不是人的速度進化。結果就是極為強大、可能帶來危險且難以控制的東西」。隨著人們賦予AI系統形體，像是機器人、無人機和車輛，更是如此。

班霍克呼籲，在確定AI系統總是符合人類福祉之前，人類必須控制AI，絕不能讓AI完全自主。

三、川普政府AI政策亂無章法，缺乏跨機構合作

佛里曼指出，川普治國無方，政府官員多半只是坐等總統在社群媒體上發號施令，而他的社群平台貼文內容，往往是根據某人剛對他說的話，或從福斯新聞台聽到了什麼，就據此擬定政策框架。（所幸至少財長貝森特深入研究AI議題，並與中國官員對話，但他能否影響川普政府其他官員，仍有待觀察）

根據紐時報導，川普身邊人士透露，川普之所以駁斥「AI可能導致人類滅絕」的疑慮是「騙局」，不是基於技術評估，而是因為他擔心「若促進美國經濟成長的AI榮景減緩，市場可能崩盤，衰退將接踵而至」。

佛里曼指出，這種思維注定會釀禍。他建議川普應採納前美國總統艾森豪的諍言：「計畫一文不值，但規劃是一切。」意思是，沒有任何既定計畫趕得上變化，一旦戰爭或危機爆發就會打亂計畫；但若依循嚴謹的規劃過程，深入了解問題，找出哪些地方可能出差錯，並建立團隊互信，就能大幅改善迅速調適的應變能力。

這正是川普對伊朗發動戰爭前所欠缺的，以致美國今日付出巨大的代價。試想，比德黑蘭或川普聰明千倍的AI代理，若是行為失控，可能發生什麼後果？

精華 FAQ Q1：佛里曼為何主張美中應先談AI合作監管？ 他認為AI若缺乏護欄，可能引發網路資安、生物、核子與金融等重大風險；美中若能先建立共同規則，才能在競爭中降低失控與誤判帶來的全球災難。 Q2：他用哪些例子說明低機率災難也可能造成巨變？ 佛里曼以911恐攻與新冠疫情為例，指出外界往往低估極端事件，但一旦發生就會造成大量死亡、經濟衰退與長期社會衝擊，因此不能用「未發生」否定風險。 Q3：文章如何批評川普政府面對AI政策的做法？ 文章指出川普政府政策混亂、跨機構協調不足，官員常等總統社群貼文定調；而川普淡化AI滅絕風險，也被認為更像是為了維持經濟榮景，而非基於技術評估。

Q1：佛里曼為何主張美中應先談AI合作監管？ 他認為AI若缺乏護欄，可能引發網路資安、生物、核子與金融等重大風險；美中若能先建立共同規則，才能在競爭中降低失控與誤判帶來的全球災難。

Q1：佛里曼為何主張美中應先談AI合作監管？

他認為AI若缺乏護欄，可能引發網路資安、生物、核子與金融等重大風險；美中若能先建立共同規則，才能在競爭中降低失控與誤判帶來的全球災難。

Q2：他用哪些例子說明低機率災難也可能造成巨變？ 佛里曼以911恐攻與新冠疫情為例，指出外界往往低估極端事件，但一旦發生就會造成大量死亡、經濟衰退與長期社會衝擊，因此不能用「未發生」否定風險。

Q2：他用哪些例子說明低機率災難也可能造成巨變？

佛里曼以911恐攻與新冠疫情為例，指出外界往往低估極端事件，但一旦發生就會造成大量死亡、經濟衰退與長期社會衝擊，因此不能用「未發生」否定風險。

Q3：文章如何批評川普政府面對AI政策的做法？ 文章指出川普政府政策混亂、跨機構協調不足，官員常等總統社群貼文定調；而川普淡化AI滅絕風險，也被認為更像是為了維持經濟榮景，而非基於技術評估。

Q3：文章如何批評川普政府面對AI政策的做法？

文章指出川普政府政策混亂、跨機構協調不足，官員常等總統社群貼文定調；而川普淡化AI滅絕風險，也被認為更像是為了維持經濟榮景，而非基於技術評估。

AI競賽輸不得…美中將談護欄與熱線 而非放緩