後知後覺？OpenAI擴大調查再揭AI代理逃脫專家批根本沒在監看

路透7月31日獨家報導，2名知情人士表示，OpenAI擴大調查本月引發全球關注的科技公司[Hugging Face](</search/tagging/2/Hugging Face>)遭駭事件，又發現其他自主代理程式逃脫隔離管控的案例。

兩名知情人士表示，這些事件規模有限，據信沒有任何代理程式離開OpenAI網路。路透無法確認OpenAI究竟發現多少起事件，也無法查明發生時間及具體情況。

OpenAI發言人引用公司7月28日的聲明表示，除了科技公司Hugging Face遭入侵事件，也正檢視「我們模型更廣泛的活動」。

3名知情人士指出，OpenAI與外部專家正在檢查今年稍早的紀錄，試圖還原當時情況。OpenAI最近發現的其他逃脫事件，過去未曾曝光。

OpenAI擴大調查不久後，主要競爭對手Anthropic也披露，旗下模型曾涉及一連串入侵事件。相關事件最早可追溯至4月，另有3家公司遭駭。

即使目前發現的案例規模不大，仍可能促使白宮等方面加快推動監管。AI安全專家認為，這些事件顯示，尖端實驗室已有能力開發具危險性的自主駭客代理程式，卻還沒有足夠能力控制這些程式。

劍橋大學存在風險研究中心（Centre for the Study of Existential Risk）數學家奇奧多（Maurice Chiodo）表示：「整個產業都面臨同樣問題：設計、開發及推出這些工具的人，自己卻沒有跟上腳步，無法以負責任的方式開發這些工具並確保安全。」

奇奧多指出，OpenAI與Anthropic似乎都未持續監看失控的代理程式，顯示審查機制不足。他說：「看起來他們甚至根本沒有在看。」

【全球熱話題】

後知後覺？OpenAI擴大調查再揭AI代理逃脫 專家批根本沒在監看