據大陸官媒《環球時報》,上周,美國知名人工智慧(AI)開源社區HuggingFace系統遭一個AI代理人入侵,但美國頂尖的大模型拒絕提供幫助,最後是靠中國大隢的智譜 GLM5.2大模型來救場。

HuggingFace當地時間16日發布的聲明中稱,為了應對這一極不尋常的人工智慧入侵,他們立刻使用美國最頂尖的人工智慧大模型尋找解決方案。可當Hugging Face將自身遭入侵的資訊提交給這些美國閉源大模型時,對方卻拒絕幫助。因為這些閉源大模型的安全機制過於嚴苛和僵化,無法區分描述案情的受害者和實施入侵的作案者,選擇了「一刀切」。

於是Hugging Face立刻在本地部署智譜AI開發的GLM5.2大模型,並在這款中國大陸模型的幫助下,成功化解這次入侵。

當地時間21日,美國人工智能技術公司OpenAI與Hugging Face聯合發布的一份聲明指出,上周入侵Hugging Face的事件,是OpenAI公司的人工智能大模型失控後做出的。OpenAI承認,該公司的GPT-5.6 Sol模型和另一款能力更強的預發布模型聯合進行內部評估時失控,突破隔離測試環境,侵入了Hugging Face的系統。

OpenAI在官網發文說,此次內部評估在與互聯網高度隔離的「沙箱」環境中進行,僅能通過一套內部托管的第三方軟件安裝軟件包。模型在嘗試完成名為ExploitGym的網絡安全基準測試時,識別並利用了第三方軟件的一個「零日漏洞」,由此獲得互聯網訪問權限。模型推斷Hugging Face可能存有ExploitGym測試相關的模型、數據集和解決方案,利用多種攻擊手段找到進入Hugging Face系統的路徑。

OpenAI安全團隊發現內部異常活動,Hugging Face安全團隊在其基礎設施上檢測到並阻止相關活動,雙方正在展開聯合調查。

《環球時報》指出,通俗的解釋就是,根據OpenAI的說法,這起史無前例的人工智慧入侵事件,源於公司上周在內網對自家2款頂尖大模型進行能力測試,可測試中的大模型為了通過作弊取得更高的測試分數,竟然搞到了接入網上的權限。隨後它便徹底「放飛自我」,入侵了Hugging Face的後台系統,希望從Hugging Face的數據庫裡找到作弊的辦法。