企業廣泛採用Claude Code和Codex等AI程式開發代理工具,卻開始面臨意外暴增的帳單。這類工具可自動連續工作數小時,反覆呼叫先進模型,在使用者不知不覺間耗用數百萬個詞元

《財星》(Fortune)報導,一項最新調查顯示,62%機構過去一年曾因預料之外的AI費用,實質改變經營決策;其中40%須呈報董事會,33%緊急凍結支出,25%延後或取消AI計畫。

為控制成本,AI模型調度工具(model router)迅速受到企業青睞。這類軟體可依工作內容,在價格、速度和效能之間選擇適合的模型,不必所有工作都採用最昂貴的先進模型,推論成本最多可降低約三成。

OpenRouter、Not Diamond和LiteLLM等新創公司相繼投入,Salesforce、Databricks、Meta及Cursor也在發展相關工具。

業者指出,這種模型調度功能未來不只用來節省支出,也可管理資料存取、法遵及單一供應商風險。不過,建立可靠系統並不容易,必須持續監控大量模型連線、處理服務中斷及規格變動,並核對資料政策和硬體設定。

【全球熱話題】

▪影/五角大廈新公布UFO檔案!阿富汗上空巨大三角形遮蔽星光
▪晚餐準備太慢…25歲人妻遭小叔用斧頭斬首 頭顱懸掛屋外榕樹
▪川普對伊朗戰爭難收場!CNN:美軍最高將領私下尋找退場途徑
▪隱約見內褲…超辣女遊客穿「透視裙」遊古蹟 導覽員拒入全網讚翻