谷歌證實，Gemini在資安測試中意外入侵三家企業系統，再添人工智慧（ＡＩ）安全疑慮。不過，輝達執行長黃仁勳則在周末播出的ＣＢＳ訪談節目中，談到ＡＩ不會構成人類滅絕風險，並認為科技公司應盡可能迅速發展ＡＩ。

Gemini的入侵事件發生於五月，由ＡＩ資安業者Irregular執行測試。

除了Gemini，OpenAI、Anthropic及Meta先前披露的入侵事件，也都發生在這批測試中。Irregular表示，已於七月底通知相關業者。

其中一起事件中，Gemini受命查找虛構企業資料，卻因與真實企業同名，猜出密碼後登入該企業的服務。另外兩起則是搜尋企業名稱時，找到公開儲存庫內其他企業的登入憑證，並用來進入系統。

谷歌表示，這三起事件中，模型最後都停了下來，也通知受影響的企業。Irregular也說，他們這邊發現的問題，都在幾周前解決。

Anthropic執行長阿莫戴先前呼籲業界協調放慢ＡＩ研究步調，並讓第三方人員進駐測試，OpenAI執行長奧特曼及xAI執行長馬斯克也表態支持。

Anthropic隨後公布和埃森哲（Accenture）合作，由埃森哲扮演「紅隊」，設法突破Claude安全防護、找出漏洞，並檢視安全程序及確保ＡＩ行為符合人類意圖的研究。Anthropic將支付費用，雙方計畫五年內各投入至少十億美元，提升相關能力。

但由於測試費用是由Anthropic支付，外界也對評估獨立性產生質疑。Anthropic表示，長期應由各方共同出資或政府提供經費，但因工作迫切，決定先出資。Anthropic也正與ＭＥＴＲ等非營利機構洽談，由對方自籌經費試辦進駐評估。

不過，美國總統川普、黃仁勳及Meta創辦人查克柏格等人反對增訂管制，主張業者應能自律。Meta和亞馬遜未全盤支持阿莫戴的提議，部分ＡＩ新創業者也擔心，管制將使小型業者更難與大型對手競爭。

黃仁勳於ＣＢＳ訪談中表示，「無論怎麼描述，二○三○年不會是世界末日。世界終結的機率是零」。他說，他不同意美國總統川普認為ＡＩ相關疑慮都是騙局的說法，但也反對所謂ＡＩ將在二○三○年之前消滅人類的末日預言。

黃仁勳說，ＡＩ產業不該放慢腳步。他說：「我們應盡可能衝刺，不管別人。但我們絕對不會，也絕對不該，未準備好就推出產品，交出不安全的產品。」

【全球熱話題】