Anthropic 9月發布最新威脅情報報告，揭露自家的Claude模型遭惡意利用的多起案例，其中點名了中國大陸人工智慧（AI）新創月之暗面（Moonshot AI），指控這家Kimi模型開發商，曾在用戶不知情下，把原本送往Kimi的請求轉交Claude處理，再把Claude的答案呈現給用戶，並蒐集相關互動內容，用於訓練自家模型。

Anthropic表示，在5月–7月的10天期間，月之暗面曾把近30萬筆客戶請求轉送給Anthropic，其中絕大多數交由Claude Opus處理。月之暗面據稱透過一個由5,380個詐欺帳號組成的代理服務網路，進行前述操作，這些帳號大多看似位於新加坡與日本。

報告指出，月之暗面不僅把Claude的回答提供給自家用戶，也至少儲存部分互動內容，並建立思維鏈（Chain of Thought，CoT）擷取流程，取得Claude的推理紀錄，用於訓練自家模型。

Claude原本不會直接傳回完整推理內容，而是提供一組「思考簽章」，降低模型遭未經授權蒸餾的風險。但Anthropic指控，月之暗面會先保存這些簽章，再啟動新的工作階段，誘使Claude把簽章還原成完整推理軌跡，藉此取得CoT內容。

遭轉送給Claude的資料中，也包括敏感資訊。Anthropic表示，一名研判可能與中國人民解放軍有關的用戶，以為自己使用的是Kimi，實際上卻把成都數百支監視器所蒐集、針對特定人士的監控資料送進Claude，並要求模型分析該人士是否有異常行為。

這些監視器包括設於解放軍設施、中國電子科技集團旗下研究機構，以及一家大型國企外部的攝影機。

另一名中國大陸大型國企工程師，則在利用Kimi建立內部系統時，輸入多家企業的內部程式碼與仍可使用的登入憑證，其中包括知名科技公司。Anthropic表示，這名工程師並不知道相關內容實際被轉送給Claude處理。

Anthropic指出，目前並不清楚月之暗面是否曾通知客戶，他們輸入Kimi的內容會被轉交Anthropic，因而暴露給第三方。

根據Anthropic統計，今年5月至7月，可歸因於月之暗面的模型蒸餾攻擊，已觀察到超過2,300萬筆。Anthropic表示，已著手強化防禦機制，防堵這類利用Claude推理內容訓練其他模型的手法。

【全球熱話題】