近日出現多項令人震驚的AI安全主張，包括人類面臨10%的毀滅機率、AI比核武更危險、殭屍網路可能威脅整個網路，以及這一切都是大型科技公司策動的心理作戰。衛報整理相關主張與各方回應，本文檢視其中5項爭議。
「在6至12個月內，一群AI可能透過持續運作的殭屍網路接管整個網路，造成數千億美元損失。」——Anthropic執行長阿莫戴（Dario Amodei）
紐約大學榮休教授、AI懷疑論者馬庫斯（Gary Marcus）表示，阿莫戴的擔憂不應完全忽視，但也應大打折扣。他認為，宣稱整個網路都很脆弱「荒謬」，若實驗室本身沒有出現極端疏忽，「很難理解這種情況如何發生」。英國AI安全研究所最近評估也顯示，Anthropic目前最尖端的AI之一Mythos，僅能「自主攻破規模小、防禦薄弱且存在漏洞的系統」。馬庫斯與兩名同事認為，防禦較弱的個別網站可能遇襲，但「網路本身極不可能崩潰」。
「我們真的相信AI可能殺死所有人類！我個人認為，未來10年內的機率超過10%。」——Anthropic對齊科學主管胡賓格（Evan Hubinger）
這就是AI界所稱的p(doom)，也就是「毀滅機率」，指AI擺脫人類控制並引發災難、消滅人類的可能性。不過，AI Now Institute首席科學家克拉夫（Heidy Khlaaf）對用百分比量化這類存在性風險持懷疑態度。她指出，目前甚至缺乏「超級智慧」AI如何導致「毀滅」的具體例子，「這些主張既無法證偽，也無法驗證，因此本質上不科學」。
「我認為，姑且稱之為心理作戰吧，這場行動其實已經鋪陳很久了。這只是點燃大火的那根火柴。」——SpaceX執行長、全球首富馬斯克
馬斯克所說的「心理作戰」，指的是大型AI公司要求政府加強監管，實際上可能藉此提高進入先進AI領域的門檻，使新創公司難以負擔遵守規範所需的資金與人才。
加拿大電腦科學家、現代AI先驅班吉歐（Yoshua Bengio）不相信這是一套精心設計的遊說計畫。他指出，對準備上市、估值可能高達數兆美元的AI公司而言，放慢發展並不符合自身利益。
不過，美國副總統范斯（JD Vance）14日表示，看到這麼多前沿AI公司「懇求政府監管它們」讓他感到「有一點奇怪」，並形容這像是「特洛伊木馬」。批評者也稱這是一種「監管俘虜」策略，認為相關規範可能拖慢潛在競爭對手。
「超級智慧AI帶來的威脅規模與核武相當，甚至可能更大。」——英國前國防大臣布朗（Des Browne）
牛津大學AI治理倡議資深研究員奧德（Toby Ord）認同這項警告，認為一旦開發出超越人類的AI系統，幾乎不可能再回頭。但超級智慧AI目前尚不存在，也不能保證一定會出現，AI Futures Project預測最早要到2028年12月才可能出現。
蘭德公司（Rand Corporation）則認為，由於核武指揮與控制系統有嚴格安全措施，AI無法直接導致核武被動用，但這建立在國防官員不把AI導入武器管理系統等假設上。此外，AI仍可能增加其他核風險，例如利用假訊息誤導決策者相信敵方即將發動核打擊。
「如果中國在這方面勝出，就沒有明天過後。如果他們在AI領域把我們遠遠甩在後面，那麼其他一切都不再重要。」——美國財政部長貝森特
美國與中國在AI發展方面遙遙領先其他國家。有一種看法把AI視為類似冷戰核武競賽的超級武器，認為一旦美方把領先地位讓給中方，就會形成無法挽回的局面，因此不能放慢腳步。阿莫戴也表示，「中國在AI領域取得領先，將對美國及全世界構成嚴重危險」。
不過，一些評論人士認為，華府與Anthropic這套中國威脅論述背後另有商業考量。一名曾任職Hugging Face的工程師認為，阿莫戴要求控制前沿AI發展速度，是為了壓制廉價的中國開源AI模型。這些模型能力幾乎與OpenAI和Anthropic相當，卻開放原始碼且不向使用者收費，對兩家公司獲利構成嚴重威脅，牽涉數千億美元利益。
【全球熱話題】