Gemini也認了入侵3企業 Anthropic自費請人抓漏洞 但獨立性存疑

Google證實，Gemini在資安測試中意外入侵三家企業系統，再添AI安全疑慮。(路透)

Google證實， Gemini 在資安測試中意外入侵三家企業系統，再添AI安全疑慮。 Anthropic 則已聘請埃森哲（Accenture）測試模型安全性，但測試費用由Anthropic支付，也讓評估的獨立性受到質疑。

Gemini的入侵事件發生於5月，由AI資安業者Irregular執行測試。除了Gemini， OpenAI 、Anthropic及Meta先前披露的入侵事件，也都發生在這批測試中。Irregular周五表示，已於7月底通知相關業者。

其中一起事件中，Gemini受命查找虛構企業資料，卻因與真實企業同名，猜出密碼後登入該企業的服務。另外兩起則是搜尋企業名稱時，找到公開儲存庫內其他企業的登入憑證，並用來進入系統。

Google表示，這三起事件中，模型最後都停了下來，也通知受影響的企業。Irregular也說，他們這邊發現的問題，都在幾周前解決。

Anthropic執行長阿莫戴上周末呼籲業界協調放慢AI研究步調，並讓第三方人員進駐測試，OpenAI執行長奧特曼及xAI執行長馬斯克也表態支持。

Anthropic隨後公布和埃森哲合作，由埃森哲扮演「紅隊」，設法突破Claude安全防護、找出漏洞，並檢視安全程序及確保AI行為符合人類意圖的研究。Anthropic將支付評估費用，雙方計劃五年內各投入至少10億美元，提升相關能力。

對於評估獨立性的質疑，Anthropic表示，長期應由各方共同出資或政府提供經費，但因工作迫切，決定先出資。Anthropic也正與METR等非營利機構洽談，由對方自籌經費試辦進駐評估。

不過，川普、黃仁勳及祖克柏等人反對增訂管制，主張業者應能自律。Meta和亞馬遜尚未全盤支持阿莫戴的提議，部分AI新創業者也擔心，管制將使小型業者更難與大型對手競爭。

精華 FAQ Q1：Gemini是如何在資安測試中誤入企業系統的？ Irregular測試時，Gemini有一次因虛構企業與真實企業同名，猜中密碼後登入服務；另外2次則從公開儲存庫找到其他企業的登入憑證，進而進入系統。 Q2：Anthropic與埃森哲合作測試Claude，爭議點在哪裡？ Anthropic請埃森哲擔任紅隊，測試Claude的安全防護與行為是否符合人類意圖，但費用由Anthropic支付，因此外界質疑評估是否足夠獨立、公正。 Q3：這則新聞反映了哪些AI安全與治理趨勢？ 事件顯示大型模型在測試中仍可能誤用資訊或誤入系統，也凸顯業界對第三方測試、紅隊驗證與是否需要更強監管的分歧，安全治理已成焦點。

Q1：Gemini是如何在資安測試中誤入企業系統的？ Irregular測試時，Gemini有一次因虛構企業與真實企業同名，猜中密碼後登入服務；另外2次則從公開儲存庫找到其他企業的登入憑證，進而進入系統。

Q1：Gemini是如何在資安測試中誤入企業系統的？

Irregular測試時，Gemini有一次因虛構企業與真實企業同名，猜中密碼後登入服務；另外2次則從公開儲存庫找到其他企業的登入憑證，進而進入系統。

Q2：Anthropic與埃森哲合作測試Claude，爭議點在哪裡？ Anthropic請埃森哲擔任紅隊，測試Claude的安全防護與行為是否符合人類意圖，但費用由Anthropic支付，因此外界質疑評估是否足夠獨立、公正。

Q2：Anthropic與埃森哲合作測試Claude，爭議點在哪裡？

Anthropic請埃森哲擔任紅隊，測試Claude的安全防護與行為是否符合人類意圖，但費用由Anthropic支付，因此外界質疑評估是否足夠獨立、公正。

Q3：這則新聞反映了哪些AI安全與治理趨勢？ 事件顯示大型模型在測試中仍可能誤用資訊或誤入系統，也凸顯業界對第三方測試、紅隊驗證與是否需要更強監管的分歧，安全治理已成焦點。

Q3：這則新聞反映了哪些AI安全與治理趨勢？

事件顯示大型模型在測試中仍可能誤用資訊或誤入系統，也凸顯業界對第三方測試、紅隊驗證與是否需要更強監管的分歧，安全治理已成焦點。

Anthropic年營收拚破千億美元、搶11月上市 OpenAI現金缺口仍大