產業領袖向聯合國示警 AI日益強大將對人類構成風險

稀土拚非紅 經部美澳加三路找礦源、2030年拚自給50％

AI領袖示警，AI日益強大將對人類構成風險。（路透資料照）

〔財經頻道／綜合報導〕全球領先的AI公司週三（23日）向聯合國安理會發出警告，指出AI對人類構成風險，並呼籲各國政府共同努力，管控這項日益強大的技術。

《路透》報導，Anthropic執行長阿莫戴（Dario Amodei）對聯合國安理會表示，他認為，如果管理不善，AI可能會對全人類構成風險。

在聯合國大會期間，有警告稱，AI系統很快就會自我改進並脫離人類控制。阿莫戴指出，儘管在座的各位彼此之間存在差異，但大家必須擱置這些差異，共同應對擺在面前的全球機遇和威脅。沒有任何領袖、公司或國家能夠獨自應對這件事。

全球各國政府正在努力跟上AI快速發展的腳步，美國和中國兩大經濟體作為AI發展的領先國家，採取了不同的監管方式。川普認為，美國不需要新的針對AI的法規，中國則制定AI演算法和訓練資料的規範，包括要求AI生成的內容必須進行明確標註。

Hugging Face共同創辦人德朗格（Clément Delangue）強調AI工具在防禦網路攻擊中的作用，並引用了美國巨頭OpenAI的AI代理在脫離測試環境後，入侵Hugging Face基礎設施的事件。德朗格提到，公司遭到了AI的攻擊，但更重要的是公司利用AI進行了自衛。

德朗格表示，Hugging Face依賴中國AI模型來防禦OpenAI代理的攻擊，因為他受到的限制比美國同類工具要少。他的發言凸顯了中國AI產品日益成長的影響力，這些產品在全球獲得用戶的部份原因是他們可以提供比美國產品成本更低的替代方案。

OpenAI執行長奧特曼則稱，需要進行國際合作。如果AI要走向民主，最重要的決策就是不能光是由舊金山的實驗室做出，這些決策必須透過民主流程制定，並由對人民負責的政府來制定。

有AI教父之稱的班吉歐（Yoshua Bengio）是聯合國大會去年成立的獨立國際科學小組聯合主席，他向安理會表示，危險是真實存在的，而且迫在眉睫。安理會面臨前所未有的威脅，這是任何一個成員國都不會選擇的威脅，任何一個成員國都無法獨自應對的威脅，這種威脅也不尊重目前所捍衛的邊界。

聯合國秘書長古特瑞斯（Antonio Guterres）一直以來努力推動AI的全球治理，他警告，快速發展的AI帶來了不容忽視的風險。2023年，安理會首次就AI的風險舉行會議，當時中國表示這項技能不應成為「失控的馬」，美方則警告不要利用AI來審查或鎮壓人民。

一手掌握經濟脈動 點我訂閱自由財經Youtube頻道

不用抽 不用搶 現在用APP看新聞 保證天天中獎 點我下載APP 按我看活動辦法