AI發展真的要慢下來了嗎？

9月12日，Anthropic共同創辦人暨執行長阿莫迪（Dario Amodei）發表了一篇長文。他直指先進AI的發展必須加以控制，否則全世界可能面臨巨大風險，並提出3步驟建議，希望各AI模型公司自律，也希望政府出手監管。

該文隨後得到OpenAI執行長奧特曼，以及SpaceX執行長馬斯克的支持。過去對立的3人，這次罕見的在強化AI安全治理的議題上出現共識。

這也帶出一個隱憂：如果AI模型發展要開始放慢腳步，那AI硬體供應鏈的需求熱度還能維持嗎？

▍「放慢」不等於「停止」！競賽壓力難真正降溫

首先，控制AI發展，不等於停止發展。

阿莫迪在該篇文章使用的標題是「我們必須把握前沿發展的節奏」。雖然在文章中，他的確使用了「放慢」（Slow down）兩個字，但他也明確表示，這不代表要停止模型訓練，重點在於讓安全措施有時間跟上AI的能力提升。

而且他再次提及Anthropic創立以來的重要理念：「向上競爭」（Race to the top）。他們始終相信，必須先成為強者，率先證明安全與領先能夠並行不悖，才可能引領其他競爭者跟進。

此外，很現實的情況是，市場競爭不允許他們輕易放慢腳步。阿莫迪表示，美國能夠放慢的速度，受限於對中國領先的程度，因為一旦速度過慢，將可能讓中國模型迎頭趕上，甚至反超車。

整體來說，巨頭們的主張，重點在於強化安全和對齊，而非停止模型進化，更不代表要停止模型訓練。

▍訓練放緩也沒用！AI推論需求停不下來

再者，即便AI模型訓練，後續因為各業者的自律或政府出手監管，真的導致發展減速，「AI推論」這塊需求的成長也未必會跟著停下。

因為目前AI代理所具備的能力，已經足以完成大量任務。這是為什麼從各AI業者和研究機構公布的數字可以看到，今年以來全球的Token耗用量，呈現超高速成長。即便AI的能力在這一刻停止進化了，也無礙AI應用在個人和企業市場持續擴散。

再加上部分開源模型的能力已經逐漸趕上領先的主流閉源模型，還有企業暴漲的總Token支出費用開始帶來營運壓力等，都在帶動邊緣AI的發展加速。

對硬體供應鏈來說，萬一接下來AI訓練需求真的放緩，那情況也可能更像是「換檔加速」。

▍這場AI競賽真煞得住車？恐怕踩不下去

而且最關鍵的問題是：這場AI競賽真的有可能放慢嗎？

目前阿莫迪提出的3步驟計畫中，只有讓第三方模型安全評估團隊進入AI公司這點，是明確可以立刻執行的，其餘兩項提案則是涉及各國政府監理規範、國際互信與執行機制等，落地難度明顯高出許多。

前白宮AI與加密貨幣沙皇、現任美國總統科學技術顧問委員會（PCAST）共同主席薩克斯（David Sacks）認為，Anthropic與OpenAI本身做為先進技術主導者，如果真的覺得有風險，「自己就可以放慢速度，不需要假裝需要別人的許可。」

美國總統川普在公開受訪時則表態認為AI的風險被誇大了。他不反對為AI加護欄，但對他來說「美國不能在AI競爭中輸給中國」更為重要。

回歸務實層面，一個很明確的難題是，目前全球仍缺乏一致的共通標準能夠用來判斷AI模型發展是否減速。

因此整體來說，這波對於控制AI發展的呼籲，雖有眾巨頭齊聲支持，加上先前OpenAI代理人擅自入侵Hugging Face的事件為背景，顯得比過去更有分量，但真正要實現，還是存在諸多難題。

現在擔心AI硬體供應鏈會走入寒冬，恐怕還太早。

※本文由商業周刊授權刊載，未經同意禁止轉載。

※更多精彩報導，詳見《商業周刊》網站。

【全球熱話題】