Google發警示 企業大型語言模型劫持興起

【本報綜合報導】企業正快速將先進大型語言模型（LLM）整合至企業內環境，Google威脅情報小組（Google Threat Intelligence Group, GTIG）與旗下資安公司Mandiant研調指出，網路犯罪者也轉向獲利豐厚的新手法「LLM劫持」（LLMJacking），就是劫持企業存取模型的權限來驅動惡意行動，或是將存取權限轉售給其他威脅發動者。

Mandiant指出，今年以來應對多起威脅行為者劫持企業對大型語言模型（LLM）存取權的事件，這種策略被稱為「LLM 劫持」。這些入侵事件涉及多種雲端服務和LLM供應商，影響了北美、南美和亞太地區金融服務、零售、技術和運輸等行業的企業。 GTIC和Mandiant發布最新報告揭露「LLMJacking」的運作機制，有別於傳統的加密貨幣挖礦劫持（cryptojacking）對運算資源的逐漸耗損，LLMJacking會導致相關費用突然且急遽的增加。

GTIC指出，已發現一系列以經濟利益為驅動的威脅集群，這些集群在全球多個地區運作，「LLM劫持生態系」日趨成熟，威脅行為者與下游獲利基礎設施（LLM混合器）分工日益明顯。前者負責建立對受損環境的初始存取權限，後者則負責管理下游的獲利基礎設施。LLM混合器充當非法路由網關，代理、聚合並向地下用戶轉售未經授權的LLM存取權限。在一次調查中，GTIG觀察到兩個不同的營運集群協同合作，入侵並利用企業LLM基礎設施牟利，這表明該領域正在湧現出高度專業化的分工。

隨著企業採用自主式代理與先進模型的比例增加，保護AI憑證管道已成為企業資安領導者迫在眉睫的首要任務。Google威脅情報小組首席分析師John Hultquist表示，在任何可能的情況下，威脅發動者希望利用這項技術，取得超越防禦者的規模優勢。他們透過代理式工具以及從不知情的第三方竊取權杖（token）來達成此目的。封鎖這些資源不僅能保護組織免於成本失控的風險，也能保護更廣泛的社群免受大量廉價、自主攻擊的侵擾。

組織必須密切監控並保護他們正迅速導入上線的模型與運算資源，否則他們可能不會是唯一使用這些資源的人。這意味著必須嚴格審查使用情況、啟用多重驗證機制，並謹慎管理機密資料。