路透報導,美中安全專家警告,AI若干擾核武指揮系統或發動軍事網路攻擊,兩國政府可能只有幾分鐘判斷究竟是系統出錯,還是對方下令攻擊。專家呼籲劃定使用紅線,並設立AI事件專線,避免誤判使衝突升高。
布魯金斯研究院資深研究員席美妮(Melanie W. Sisson)和復旦大學副教授蔣天驕上周發表以上建議。美中正籌備兩國政府的AI會談,川普與習近平也預定9月24日在華府會面。兩位學者都參與了美中AI與國家安全對話。
這項對話由布魯金斯研究院與清華大學戰略與安全研究中心自2019年起共同召集,成果可供兩國官方磋商參考。
席美妮主張,是否動用AI,對另一國的核武指揮、管制與通訊系統,或戰略要地的基礎設施發動攻擊,決定權應完全掌握在人類手中。自主系統可能故障、超出指令行事,甚至遭人操控,受攻擊的一方卻未必能及時辨明。
蔣天驕也建議,應禁止AI自行決定使用核武或攻擊核武指揮系統,並保護能源、金融及醫療設施。他也呼籲設立軍事專線,讓雙方在AI出現異常時及時釐清,避免防禦系統自動反擊,引發另一方報復。
他並主張,雙方應對人類如何實質掌控AI建立共同定義,避免措辭相同,卻各自容許機器享有不同程度的自主權。拜登與習近平2024年11月已認同,是否使用核武應由人類決定。
不過,既有熱線的效用仍受質疑。2023年「間諜氣球事件」期間,中方曾拒接美方來電。專家指出,中國大陸官僚體系凡事得由上級作主,基層軍官無法自行應變,等高層決定如何回應,可能就得好幾天。
美中尚未公開支持這些提案。北京已將AI納入外交部軍控司業務,華府則由多個機關分掌相關政策。兩國也都不願限制自身科技發展:川普擔心管制讓中國大陸占上風,北京則認為美國科技管制意在維持主導地位。
【全球熱話題】