輝達(Nvidia)副總裁兼總經理巴克(Ian Buck)表示,基於最新Vera Rubin技術的運算系統已交付給主要AI公司,並即將投入實際使用。
他在輝達總部一場簡報中表示:「我們目前已在全面量產,我們所有主要客戶都部署這些系統。」
輝達強調,ChatGPT開發商OpenAI計劃在第3季「大規模」採用Vera Rubin系統。此外,AI雲端服務商CoreWeave、Google Cloud、微軟Azure、Meta、戴爾等公司,目前也都正在使用Vera Rubin系統。
Vera Rubin平台的推出一直受到投資人與分析師高度關注,他們擔心可能出現延後以及製造方面的瓶頸。儘管執行長黃仁勳已經駁斥這些疑慮,但市場仍擔憂競爭優勢可能正在減弱。
今年來,費城半導體指數上漲66%,但輝達股價僅上漲9%。相較下,英特爾、安謀(Arm)以及超微(AMD)的股價同期均已翻倍以上。
輝達高層表示,公司正在推出一系列新技術,以提升產品效能。在過去幾代產品中,裝載AI加速器、CPU與網路設備等關鍵零組件的伺服器托盤都是以人工方式組裝,其中包含插接大量連接線的繁瑣工作。輝達說,在新設計中,內部線路大幅被淘汰。設備之間的連接改由電路板或專門設計的連接模組完成。這代表過去需要人工作業數小時才能完成的工作,如今機器人只需幾分鐘即可完成,而且故障率大幅降低。
這項升級部分得益於所有主要元件均採用液冷技術。液冷消除了風扇需求,也不再需要額外空間讓冷空氣在電腦內流動。
輝達表示,新一代AI加速器系統NVL72,將可提供比前一代產品高十倍的詞元(Token)處理能力。
在此次簡報中,輝達罕見地直接展示與競爭對手產品的比較。輝達表示,其新的Vera微處理器在執行Python程式語言程式碼時,速度最高可達AMD Turin設計的1.8倍。目前已採用這項新產品的早期客戶包括OpenAI與 Anthropic。
AMD在電子郵件回覆中表示:「新的設計將會有更具競爭力的比較結果。」AMD本周稍晚將在舊金山舉行活動,推出其新的Venice伺服器設計,其EPYC Venice伺服器處理器將是業界率先採用台積電2奈米先進製程的高效能運算處理器。
輝達目前仍是AI加速器市場的主導供應商。AI加速器是資料中心用來執行AI軟體的核心晶片。不過,包括AMD和博通(Broadcom)在內的競爭對手,正積極爭搶市占。此外,亞馬遜等資料中心客戶也正在開發自家的晶片設計,可能降低對輝達產品的依賴。
在這樣的背景下,輝達正承受壓力,必須證明其最新產品能夠按照計畫推出,且性能優於競爭對手。
儘管投資人今年對輝達的看法較為悲觀,但該公司的營收預期加速成長。市場預估,輝達本會計年度營收將成長82%,達到3,934億美元,高於先前65%的增速;下一年度總營收預期將進一步突破5,000億美元。
輝達目前有望占全球半導體產業總銷售額約三分之一,同時仍維持極高獲利能力,今年毛利率預期達到約75%。
【全球熱話題】
▪親曝英特爾走下坡關鍵 基辛格還點名台灣:台海衝擊遠超大蕭條
▪非捷克或波蘭…台灣無人機上月最大買家竟是這國 採購逾4700萬美元
▪川普賣「早幾毫秒看到他貼文」!美總統一言撼市場 交易商付費搶先機
▪曾遭醫師當眾舔腳…前偶像轉行當AV女優 首揭下海原因:寧可脫光