蓋茲：AI若遭濫用 恐致10億人死亡

比爾蓋茲 告訴NBC，AI技術若落入惡人之手，足以殺死10億人。蓋茲指出， 華府 絕對必須通過聯邦法律，對AI進展建立保障及監管體系。他強調，「沒有人認為自我規範就已經足夠」，立法將使AI產業受到一些約束，但又不會使業者的動作急劇減緩。

蓋茲表示，「AI的確強大到足以引發使10億人死亡的事件。因此即使很難及於100%（的人類），但如果由懷惡意的人使用最先進的AI工具，將成為空前強大的武器」。

另外，OpenAI 26日坦承，旗下AI工具在公司不知情的情況下，將ChatGPT用戶的圖片發布於線上網站，這是AI代理超出其限制運作的最新案例，同時證實AI工具曾造訪美國聯邦政府網站。

OpenAI表示，那53張被上傳圖片的連結並未公開列出，是被意外發布於圖片託管網站，絕大多數的圖片已在託管服務商的協助下移除，剩餘圖片的下架工作正在進行中。

與此同時，OpenAI也證實紐約時報的一則報導，即旗下工具曾造訪美國聯邦政府的網站，並表示僅取得公開資訊。

安全研究人員與熟悉內情人士透露，今年夏天，OpenAI的 人工智慧 （AI）模型曾在該公司不知情下「失控」，試圖入侵美國教育部、商務部以及證券交易委員會等數十個網站。

彭博報導，OpenAI表示，已通知數十個組織，包括政府機關和大學。這些組織的網站可能在OpenAI評估模型期間，因AI代理造訪而影響運作。

OpenAI表示，正深入調查這起事件，預計需要數月才能完成。

該公司仍在釐清AI代理究竟做了什麼，也凸顯資安專家對這類事件的一項主要憂慮：AI系統執行這些操作時，開發這些系統的公司大多無法即時察覺。

數月前，OpenAI的AI代理自主入侵Hugging Face開源AI平台後，OpenAI展開調查，陸續發現這些事件。

就在幾天前，OpenAI承認旗下AI模型今年曾入侵澳洲政府網站，這是已知較早由AI攻擊政府資料庫的事件之一。

精華 FAQ Q1：比爾蓋茲如何形容AI被惡意利用的風險？ 蓋茲在受訪時指出，AI若落入惡人之手，可能變成空前強大的武器，甚至引發足以造成10億人死亡的災難，顯示他對風險極度憂慮。 Q2：蓋茲對AI監管提出了什麼具體主張？ 他認為華府必須盡快通過聯邦法律，建立AI的保障與監管體系，因為沒有人認為單靠自我規範就足夠，法規才可在約束產業與避免過度停滯間取得平衡。 Q3：OpenAI這次被揭露的AI越界事件有哪些？ OpenAI承認旗下工具在不知情下把ChatGPT用戶圖片上傳到線上網站，並曾造訪美國聯邦政府網站；另有報導指模型還試圖入侵多個美國政府網站，相關調查仍在進行。

Q1：比爾蓋茲如何形容AI被惡意利用的風險？ 蓋茲在受訪時指出，AI若落入惡人之手，可能變成空前強大的武器，甚至引發足以造成10億人死亡的災難，顯示他對風險極度憂慮。

Q1：比爾蓋茲如何形容AI被惡意利用的風險？

蓋茲在受訪時指出，AI若落入惡人之手，可能變成空前強大的武器，甚至引發足以造成10億人死亡的災難，顯示他對風險極度憂慮。

Q2：蓋茲對AI監管提出了什麼具體主張？ 他認為華府必須盡快通過聯邦法律，建立AI的保障與監管體系，因為沒有人認為單靠自我規範就足夠，法規才可在約束產業與避免過度停滯間取得平衡。

Q2：蓋茲對AI監管提出了什麼具體主張？

他認為華府必須盡快通過聯邦法律，建立AI的保障與監管體系，因為沒有人認為單靠自我規範就足夠，法規才可在約束產業與避免過度停滯間取得平衡。

Q3：OpenAI這次被揭露的AI越界事件有哪些？ OpenAI承認旗下工具在不知情下把ChatGPT用戶圖片上傳到線上網站，並曾造訪美國聯邦政府網站；另有報導指模型還試圖入侵多個美國政府網站，相關調查仍在進行。

Q3：OpenAI這次被揭露的AI越界事件有哪些？

OpenAI承認旗下工具在不知情下把ChatGPT用戶圖片上傳到線上網站，並曾造訪美國聯邦政府網站；另有報導指模型還試圖入侵多個美國政府網站，相關調查仍在進行。