【台灣醒報記者莊宇欽綜合報導】
人工智慧的發展是否已經對人類帶來致命威脅？美國AI企業與學術機構的調查警告，隨著AI模型能力的爆發性成長，失控的AI系統可能在未來數年內引發極端災難，甚至帶來人類滅絕的風險。專家呼籲，各界必須立即建構嚴格的監管防禦體系，以防止AI脫離人類監督。
失控模型釀成災難
《衛報》報導，美國頂尖AI公司Anthropic研究人員與多位學界專家發表最新警訊指出，先進人工智慧的快速發展若缺乏相應的安全安全防護，極可能在不久的將來造成難以挽回的毀滅性後果。
研究團隊分析，隨著模型具備更強大的自主規劃、程式撰寫與自我複製能力，一旦AI發展出違背人類意圖的自主目標，後果將難以想像。
該團隊透過嚴格的測試系統評估AI的潛在威脅，發現現有的安全機制不足以完全消除高階模型脫離掌控的可能性。專家警告，科技公司在追求技術突破與商業效益的同時，若忽視安全研究，將直接把全人類暴露於安全漏洞之中。
安全監管迫在眉睫
《英國廣播公司》報導，隨著各界對AI失控風險的疑慮加深，多國政府與國際組織已開始研議更嚴苛的法規架構，試圖在創新與安全之間尋求平衡。未來，各國應建立跨國AI安全評估機制，並強制要求企業在發布高風險模型前貫徹極限測試與安全審查。
儘管科技界對於「AI引發人類滅絕」的發生機率與時間點仍存有不同意見，但越來越多的專家達成共識，認為防範極端風險已是當務之急。因此，透過國際合作制定統一的安全標準與監管準則，將是人類能否確保安全掌握AI發展主導權的重要關鍵。
📌 蘋果新品搶鮮看！