比爾蓋茲警告：AI若落入惡人之手 將足以殺死10億人

比爾蓋茲 警告，人工智慧（ AI ）如果落入惡人之手，足以殺死10億人。

蓋茲表示，「AI的確強大到足以引發使10億人死亡的事件。因此即使很難及於100%（的人類），但如果由懷惡意的人使用最先進的AI工具，將成為空前強大的武器」。

蓋茲指出，華府「絕對」必須通過聯邦法律，對AI進展建立保障及監視體系。他強調，「沒有人認為自我規範就已經足夠」，立法將使AI產業受到一些約束，但又不會使業者的動作急劇減緩。

近周來一再爆發高規格的網路安全事件，令各界質疑 OpenAI 及Anthropic能否控管他們最尖端的AI模型。上周傳出OpenAI系統駭入澳洲衛生服務網站事件，而OpenAI在此事發生數月之後才公布，澳洲總理艾班尼斯表示這「顯然無法接受」。

Anthropic本月也表示，葉門胡塞反抗軍正設法利用Claude AI模型，為導彈研發導向、控制及飛行軟體。

儘管OpenAI及Anthropic呼籲美國領導一項國際聯盟，建立AI安全標準，但本周「川習會」並未對約束AI科技做出任何重要的承諾。

OpenAI的AI代理「偏離預期」影響數十機構網站運作 做了什麼還在查