Google證實，Gemini在資安測試中意外入侵三家企業系統，再添AI安全疑慮。Anthropic則已聘請埃森哲（Accenture）測試模型安全性，但測試費用由Anthropic支付，也讓評估的獨立性受到質疑。

Gemini的入侵事件發生於5月，由AI資安業者Irregular執行測試。除了Gemini，OpenAI、Anthropic及Meta先前披露的入侵事件，也都發生在這批測試中。Irregular周五表示，已於7月底通知相關業者。

其中一起事件中，Gemini受命查找虛構企業資料，卻因與真實企業同名，猜出密碼後登入該企業的服務。另外兩起則是搜尋企業名稱時，找到公開儲存庫內其他企業的登入憑證，並用來進入系統。

Google表示，這三起事件中，模型最後都停了下來，也通知受影響的企業。Irregular也說，他們這邊發現的問題，都在幾周前解決。

Anthropic執行長阿莫戴上周末呼籲業界協調放慢AI研究步調，並讓第三方人員進駐測試，OpenAI執行長奧特曼及xAI執行長馬斯克也表態支持。

Anthropic隨後公布和埃森哲合作，由埃森哲扮演「紅隊」，設法突破Claude安全防護、找出漏洞，並檢視安全程序及確保AI行為符合人類意圖的研究。Anthropic將支付評估費用，雙方計劃五年內各投入至少10億美元，提升相關能力。

對於評估獨立性的質疑，Anthropic表示，長期應由各方共同出資或政府提供經費，但因工作迫切，決定先出資。Anthropic也正與METR等非營利機構洽談，由對方自籌經費試辦進駐評估。

不過，川普、黃仁勳及祖克柏等人反對增訂管制，主張業者應能自律。Meta和亞馬遜尚未全盤支持阿莫戴的提議，部分AI新創業者也擔心，管制將使小型業者更難與大型對手競爭。

【全球熱話題】