本期摘要
10 萬片 H100 癱瘓電網?
人工智能推動資料中心的蓬勃發展
資料中心帶動大量的電力需求
人工智能軍備競賽的第二回合
如何快速取得電力資源
核能成為解決電荒的重要方案?
另一次業界的強強聯手
10 萬片 H100 癱瘓電網?
前 Y Combinator 董事、AI 新創企業 OpenPipe 聯合創辦人兼執行長 Kyle Corbitt 日前在社交媒體推文時提到與一位負責訓練 GPT-6 專案的微軟工程師交談時,該工程師抱怨說,在跨區域之間部署 InfiniBand 等級的 GPU 連結是一項痛苦的任務。當被問到為什麼不部署在同一區域時,該工程師回答到:「我們無法在在單一州部署超過 10 萬張 H100 而不導致電網癱瘓。」
癱瘓電網一說或許有誇張之嫌,有待考證。但是,
為什麼人工智能的興起會造成大量的用電需求?
為了得到完整的概念,在了解電力需求之前,投資人還有必要先了解因為人工智能帶來對資料中心的需求。資料中心的需求未來有多大?
在可預見的電荒之前,如何快速取得電力資源?
核能可能成為解決資料中心電荒的重要方案嗎?
那些公司在其中扮演重要的角色?
在本期的文章中,我們試圖回答這些問題。
人工智能推動資料中心的蓬勃發展
Nvidia 公佈了第一季度令市場驚豔的財報,260 億美元的營收較去年同期增長 262%,6.12 美元的 EPS (Non-GAAP) 更較去年同期獲利增加 629%。公司還宣布將股利調升 150%,同時將進行一股拆成十股的股票分割。不僅如此,在業績會議上 ,CEO Jensen Huang 還解決了分析師對於公司短期內會不會因為 H100/H200/B100/B200 晶片不斷推陳出新而有銷售動能趨緩的疑慮,股價多日連續上漲。在耀眼的營收中,資料中心業務更成為萬眾矚目的對象,在第一季度的收入達到 226 億美元,較去年同期成長 427%,佔公司整體營收比例高達 87%。
資料中心身為數位世界的神經中樞,在存儲、管理和傳遞大量信息方面發揮著關鍵作用,這些信息為人類互聯的社會提供了動力。這其中包括了雲計算、大數據處理、人工智慧演算法,以及最近複雜的生成式人工智慧 (GenAI) 模型。
在技術的進步下,為了滿足對數位服務日益增長的需求,資料中心發展逐年增長的趨勢明顯。許多行業對 GenAI 相關工具的快速採用,加速了數位服務和資料中心不斷的增長。
這種增長大部分將發生在超大規模資料中心 (hyperscaler) —— 一種專門的資料中心類別,為的是以前所未有的規模為海量數位信息和計算任務 (包括 GenAI) 提供動力。超大規模的雲端服務供應商和使用者如亞馬遜、微軟、谷歌、Meta、特斯拉、Oracle 等科技巨頭無一不向 Nvidia 購入大量的 GPU ,紛紛競相構建大型資料中心。
根據 New Street Research (NSR) 的估計,2023 年,資料中心的整體資本支出約為 3,000億美元。其中,1,250 億美元來自四大超大規模雲端服務供應商,而人工智能相關的資本支出約為 900 億美元。
人工智慧的快速發展推動了對資料中心的蓬勃需求。接下來,資料中心市場預計將出現怎麼樣的成長?