Michael 的美股研究

Share this post

User's avatar
Michael 的美股研究
AI 算力爆發下的電力需求(一)

AI 算力爆發下的電力需求(一)

人工智能時代發展的挑戰

Michael Chang's avatar
Michael Chang
Jun 03, 2024
∙ Paid
20

Share this post

User's avatar
Michael 的美股研究
AI 算力爆發下的電力需求(一)
Share

本期摘要

  • 10 萬片 H100 癱瘓電網?

  • 人工智能推動資料中心的蓬勃發展

  • 資料中心帶動大量的電力需求

  • 人工智能軍備競賽的第二回合

  • 如何快速取得電力資源

  • 核能成為解決電荒的重要方案?

  • 另一次業界的強強聯手

10 萬片 H100 癱瘓電網?

前 Y Combinator 董事、AI 新創企業 OpenPipe 聯合創辦人兼執行長 Kyle Corbitt 日前在社交媒體推文時提到與一位負責訓練 GPT-6 專案的微軟工程師交談時,該工程師抱怨說,在跨區域之間部署 InfiniBand 等級的 GPU 連結是一項痛苦的任務。當被問到為什麼不部署在同一區域時,該工程師回答到:「我們無法在在單一州部署超過 10 萬張 H100 而不導致電網癱瘓。」

癱瘓電網一說或許有誇張之嫌,有待考證。但是,

  • 為什麼人工智能的興起會造成大量的用電需求?

  • 為了得到完整的概念,在了解電力需求之前,投資人還有必要先了解因為人工智能帶來對資料中心的需求。資料中心的需求未來有多大?

  • 在可預見的電荒之前,如何快速取得電力資源?

  • 核能可能成為解決資料中心電荒的重要方案嗎?

  • 那些公司在其中扮演重要的角色?

在本期的文章中,我們試圖回答這些問題。

人工智能推動資料中心的蓬勃發展

Nvidia 公佈了第一季度令市場驚豔的財報,260 億美元的營收較去年同期增長 262%,6.12 美元的 EPS (Non-GAAP) 更較去年同期獲利增加 629%。公司還宣布將股利調升 150%,同時將進行一股拆成十股的股票分割。不僅如此,在業績會議上 ,CEO Jensen Huang 還解決了分析師對於公司短期內會不會因為 H100/H200/B100/B200 晶片不斷推陳出新而有銷售動能趨緩的疑慮,股價多日連續上漲。在耀眼的營收中,資料中心業務更成為萬眾矚目的對象,在第一季度的收入達到 226 億美元,較去年同期成長 427%,佔公司整體營收比例高達 87%。

資料中心身為數位世界的神經中樞,在存儲、管理和傳遞大量信息方面發揮著關鍵作用,這些信息為人類互聯的社會提供了動力。這其中包括了雲計算、大數據處理、人工智慧演算法,以及最近複雜的生成式人工智慧 (GenAI) 模型。

在技術的進步下,為了滿足對數位服務日益增長的需求,資料中心發展逐年增長的趨勢明顯。許多行業對 GenAI 相關工具的快速採用,加速了數位服務和資料中心不斷的增長。

這種增長大部分將發生在超大規模資料中心 (hyperscaler) —— 一種專門的資料中心類別,為的是以前所未有的規模為海量數位信息和計算任務 (包括 GenAI) 提供動力。超大規模的雲端服務供應商和使用者如亞馬遜、微軟、谷歌、Meta、特斯拉、Oracle 等科技巨頭無一不向 Nvidia 購入大量的 GPU ,紛紛競相構建大型資料中心。

根據 New Street Research (NSR) 的估計,2023 年,資料中心的整體資本支出約為 3,000億美元。其中,1,250 億美元來自四大超大規模雲端服務供應商,而人工智能相關的資本支出約為 900 億美元。

人工智慧的快速發展推動了對資料中心的蓬勃需求。接下來,資料中心市場預計將出現怎麼樣的成長?

This post is for paid subscribers

Already a paid subscriber? Sign in
© 2025 PAMC Research
Privacy ∙ Terms ∙ Collection notice
Start writingGet the app
Substack is the home for great culture

Share