人工智慧正以前所未見的速度進化，本專題深入追蹤AI正在浮現的失控警訊，找出共存解方。
AI還在加速，打造AI的人卻開始喊「慢一點」！Anthropic執行長阿莫戴9月發表長文指出，他擔心AI愈來愈能打造下一代AI，他們能力提升的速度，可能超越人類理解與控制的能力。他建議放慢腳步，讓安全措施跟上，並引進常駐外部評估者。
他的這番話，獲得OpenAI執行長奧特曼與xAI創辦人馬斯克表態支持，唯獨，美國總統川普不買單，他聲稱AI毀滅人類的警告是「騙局」，一旦AI巨頭們降速發展前沿AI，將讓中國大陸成為受益者。輝達創辦人黃仁勳也質疑「末日說」的科學依據。
實際上，中國大陸也對阿莫戴的倡議抱持戒心，大陸外交部發言人郭嘉昆日前表示，散播AI威脅敘事、搞對抗與惡意競爭，只會干擾全球治理。大陸官方喉舌《環球時報》評論更質疑，阿莫戴一面談安全合作，一面要求限制中國大陸取得高階晶片，實際上是先擴大美國領先，再要求中國接受限速。
這場關乎末日與限速的論辯還在持續中，至於阿莫戴為何會有「限速」想法的關鍵事件，不能不提近期接連傳出的AI代理越界事件。
最近包括OpenAI、Anthropic、Meta都傳出旗下AI Agent在資安測試中越界，最戲劇化的一場戰役是OpenAI的AI Agent在7月「揪團」入侵了知名AI模型與資料集分享平台Hugging Face。這讓人們驚呼，難道AI已經有了「心靈」與自我意識了嗎？
台大電機系教授李宏毅接受《經濟日報》採訪時還原了這起事件，他說，OpenAI當時正以公開資安評測基準ExploitGym，測試多個AI模型尋找及利用軟體漏洞的能力。問題是，這場考試實在太難了，於是「AI考生們」開始尋找其他「通關」方法，它們最後把目標鎖定Hugging Face。
Hugging Face是全球重要的AI模型與資料集分享平台。依OpenAI及獨立研究團隊的調查，這些AI代理試圖從與任務無關的第三方平台取得解題及評分線索。
交換資訊 組成作弊大隊
令人意外的是，本應彼此隔離獨立的1,200多個AI代理，竟透過未經允許的訊息板，交換7萬多則訊息與檔案，其中約700個代理一起攻擊Hugging Face。有些Agent甚至冒著自身任務失敗的風險，替群體蒐集資訊；原本應各自應試的考生，竟組成「作弊大隊」。這些作弊、協作與越界行為，尚不足以證明AI具有自我意識，卻讓安全問題更迫在眉睫。
官方出手 建立防護對策
實際上，AI Agent越界不只是實驗室風險。今年8月，外媒揭露一起可能是全球首度公開發現、由多個AI代理近乎自主執行的政府網路攻擊，目標正是台灣。
以色列資安公司Dream調查發現，攻擊者利用Hermes與OpenClaw兩套開源AI代理框架，建立多代理攻擊系統，7月1日至4日發動12波攻擊，每波最多同時派出八個子代理，分頭搜尋目標、分析漏洞、破解帳號及調整策略。
AI代理從政府入口網站展開偵察，辨識21個相互連結的政府系統，再透過未經驗證即可存取的API，取得政府人員姓名、部門及單一登入帳號等資料。
取得名單後，代理利用身分驗證漏洞、密碼噴灑及辨識驗證碼等方式，破解85組帳號，其中84組成功登入內部系統。Dream表示，攻擊者取得逾2,564筆人事紀錄、七組單一登入用戶端密鑰及六組內部資料庫憑證。
攻擊範圍隨後擴大至政府IT供應商、電子郵件系統、核安機關及至少七家能源業者；但公開資料尚不足以證明核安機關與能源業者遭攻陷，僅能確認遭鎖定及掃描。
數發部資通安全署長蔡福隆接受《經濟日報》訪問時證實這場攻擊，政府7月已掌握異常事件，由資安院發布警訊，啟動調查及應變。攻擊具境外來源特徵，呈現駭客操作結合OpenClaw等AI代理輔助的混合模式。
他表示，政府已建立短、中、長期防護對策。短期重點是提升防禦速度，導入即時工具，縮短漏洞發現、影響研判至完成處置的時間；中期將治理延伸至產品與供應鏈，強化政府採購、產品安全及供應商管理。
長期則深化國際合作，建立自主AI資安防禦能力。一方面接軌全球模型、技術與威脅情資，另一方面確保外部供應條件改變時，仍能維持關鍵防禦。
該起事件凸顯，AI攻擊的威脅不只在於模型有多聰明，更在於它能多快找到漏洞、串聯弱點並持續嘗試。
台灣的防禦也必須從單點補洞，走向跨機關、跨供應鏈的協同應變，由此建立「資安主權」：看見威脅、阻止攻擊，並迅速恢復運作。
📌 蘋果新品搶鮮看！