Google威脅情報小組警示：LLM劫持正興起

Google威脅情報小組指出，網路犯罪者轉向獲利豐厚的新手法「LLM劫持」（LLMJacking）。（路透）

AI摘要 文章摘要整理： Google威脅情報小組指出，犯罪者正以LLMJacking劫持企業LLM存取權牟利，並透過轉售權限與代理式工具擴大攻擊，企業需強化憑證與使用監控。

Google威脅情報小組指出，犯罪者正以LLMJacking劫持企業LLM存取權牟利，並透過轉售權限與代理式工具擴大攻擊，企業需強化憑證與使用監控。

企業正快速將先進大型語言模型（LLM）整合至企業內環境， Google 威脅情報小組（Google Threat Intelligence Group, GTIG）與旗下資安公司Mandiant研調指出，網路犯罪者也轉向獲利豐厚的新手法「LLM劫持」（LLMJacking），就是劫持企業存取模型的權限來驅動惡意行動，或是將存取權限轉售給其他威脅發動者。

Mandiant指出，今年以來應對多起威脅行為者劫持企業對大型語言模型（LLM）存取權的事件，這種策略被稱為「LLM 劫持」。這些入侵事件涉及多種雲端服務和LLM供應商，影響了北美、南美和亞太地區金融服務、零售、技術和運輸等行業的企業。 GTIC和Mandiant發布最新報告揭露「LLMJacking」的運作機制，有別於傳統的加密貨幣挖礦劫持（cryptojacking）對運算資源的逐漸耗損，LLMJacking會導致相關費用突然且急遽的增加。

GTIC指出，已發現一系列以經濟利益為驅動的威脅集群，這些集群在全球多個地區運作，「LLM劫持生態系」日趨成熟，威脅行為者與下游獲利基礎設施（LLM混合器）分工日益明顯。前者負責建立對受損環境的初始存取權限，後者則負責管理下游的獲利基礎設施。LLM混合器充當非法路由網關，代理、聚合並向地下用戶轉售未經授權的LLM存取權限。在一次調查中，GTIG觀察到兩個不同的營運集群協同合作，入侵並利用企業LLM基礎設施牟利，這表明該領域正在湧現出高度專業化的分工。

隨著企業採用自主式代理與先進模型的比例增加，保護AI憑證管道已成為企業資安領導者迫在眉睫的首要任務。Google威脅情報小組首席分析師John Hultquist表示，在任何可能的情況下，威脅發動者希望利用這項技術，取得超越防禦者的規模優勢。他們透過代理式工具以及從不知情的第三方竊取權杖（token）來達成此目的。封鎖這些資源不僅能保護組織免於成本失控的風險，也能保護更廣泛的社群免受大量廉價、自主攻擊的侵擾。

組織必須密切監控並保護他們正迅速導入上線的模型與運算資源，否則他們可能不會是唯一使用這些資源的人。這意味著必須嚴格審查使用情況、啟用多重驗證機制，並謹慎管理機密資料。

精華 FAQ Q1：什麼是LLMJacking，與傳統加密貨幣劫持有何不同？ LLMJacking是劫持企業對大型語言模型的存取權，藉此驅動惡意行動或轉售權限。不同於cryptojacking逐步耗損算力，它會讓LLM使用費用在短時間內急遽暴增。 Q2：這波LLM劫持事件影響了哪些地區與產業？ Mandiant表示，今年已觀察到多起相關事件，涉及多種雲端服務與LLM供應商，影響北美、南美及亞太地區的金融服務、零售、技術與運輸等產業。 Q3：企業應如何降低LLM劫持帶來的風險？ 企業應嚴格審查LLM使用情況、啟用多重驗證，並妥善管理token與機密資料，同時保護模型與運算資源的存取管道，避免成本失控與被他人濫用。

Q1：什麼是LLMJacking，與傳統加密貨幣劫持有何不同？ LLMJacking是劫持企業對大型語言模型的存取權，藉此驅動惡意行動或轉售權限。不同於cryptojacking逐步耗損算力，它會讓LLM使用費用在短時間內急遽暴增。

Q1：什麼是LLMJacking，與傳統加密貨幣劫持有何不同？

LLMJacking是劫持企業對大型語言模型的存取權，藉此驅動惡意行動或轉售權限。不同於cryptojacking逐步耗損算力，它會讓LLM使用費用在短時間內急遽暴增。

Q2：這波LLM劫持事件影響了哪些地區與產業？ Mandiant表示，今年已觀察到多起相關事件，涉及多種雲端服務與LLM供應商，影響北美、南美及亞太地區的金融服務、零售、技術與運輸等產業。

Q2：這波LLM劫持事件影響了哪些地區與產業？

Mandiant表示，今年已觀察到多起相關事件，涉及多種雲端服務與LLM供應商，影響北美、南美及亞太地區的金融服務、零售、技術與運輸等產業。

Q3：企業應如何降低LLM劫持帶來的風險？ 企業應嚴格審查LLM使用情況、啟用多重驗證，並妥善管理token與機密資料，同時保護模型與運算資源的存取管道，避免成本失控與被他人濫用。

Q3：企業應如何降低LLM劫持帶來的風險？

企業應嚴格審查LLM使用情況、啟用多重驗證，並妥善管理token與機密資料，同時保護模型與運算資源的存取管道，避免成本失控與被他人濫用。

Marvell收購Lumentum定案 主因並非供應緊缺