看板Tech_Job
AI 新盛世》一手開闢 AI 勝景：盤點 NVIDIA 王朝繁榮下的內憂外患
https://technews.tw/2024/02/19/nvidia-challenges/
去年 AI 浪潮使得 NVIDIA 成為矚目焦點，然而目前的 NVIDIA 正處於充滿挑戰的十字路
口。一方面，輝達在高性能運算和人工智慧處於領導地位，最新 GPU 產品不斷推動擴展
；另一方面，全球供應鏈不穩定、競爭對手迅速崛起，以及技術創新的不確定性，都給輝
達帶來前所未有的壓力。
NVIDIA 去年大漲246%，帶動市值突破1 兆美元，也成為首家市值突破 1 兆美元的晶片公
司。根據《彭博億萬富翁指數》顯示，NVIDIA 執行長黃仁勳個人資產已經邁向 557 億美
元（約新台幣 1.6 兆元），躍居今年賺最多錢的富豪之一。
然而，看似擁有一片光景的輝達王朝，仍面臨難以控制的內憂外患。
內憂 1：CoWoS、HBM 產能瓶頸
首先最明顯的問題是產能，目前 NVIDIA A100、H100 GPU 由台積電 CoWoS 封裝技術生產
，但隨著生成式 AI 需求激增，台積電 CoWoS 產能嚴重吃緊，因此 NVIDIA 已認證其他
CoWoS 封裝供應商產能作為備援，如聯電、日月光及美系封測大廠 Amkor 為主。
同時，台積電將 InFo 產能從龍潭轉至南科，空出來的龍潭廠轉擴 CoWoS 產能，竹南廠
和台中廠也助力擴產 CoWoS，以緩解產能瓶頸。但台積電也在法說會上表示，雖然 2024
年產能將翻倍成長，仍不足以供應所有客戶需求，是否影響 NVIDIA 產品出貨，仍有待該
公司第四季電話會議。
除台積電 CoWoS 產能外，市場消息傳 NVIDIA 向美光、SK 海力士支付數億美元的預付款
，購買 HBM3 記憶體，確保 HBM 記憶體供應無虞，而三星、SK海力士、美光今年的 HBM
產能已經全數售鑿，因此產能能否滿足市場需求，將是 NVIDIA 一大挑戰。
內憂 2：大客戶轉向自研晶片
雲端 CSP 大廠雖然激烈爭搶 GPU，但亞馬遜、微軟、Google、Meta 也都積極投入自研
AI 晶片，亞馬遜和Google 分別推出 Trainium 及 TPU 晶片，微軟宣布首款自研 AI 晶
片 Maia 100 和自研雲端運算 CPU Cobalt 100，Meta 則預計 2025 年推出第一代自研
AI 晶片 MTIA。
雖然這些超大規模客戶仍依賴 NVIDIA 的晶片，但長遠看可能影響 NVIDIA 的市占率，無
形中成為競爭對手並影響利潤，而 NVIDIA 也很難再依賴這些超大規模客戶。
外患 1：出口管制壓力中國客戶不買單
外患因為中美關係緊張，美國發布新規定，禁止 NVIDIA 出口先進 AI 晶片至中國，因此
NVIDIA 推出中國特製版A800、H800，最後仍遭美國封殺，包含A100、A800、H100、H800
、L40S在內的產品都被列入出口管制範圍。
隨後 NVIDIA 又決定依照出口政策推出新 AI GPU，即 HGXH20、L20 PCIe 及 L2 PCIe，
但算力僅 H100 的 20%，計劃第二季量產；但因性能太精簡，阿里巴巴、騰訊、百度等中
國企業不買單，並明確表示今年會大砍訂單量，因此 NVIDIA 在中國營收恐不樂觀，部分
甚至遭華為奪走。
目前 NVIDIA 對新加坡、中國客戶銷售額占總營收 15%，而該公司在中國 AI 晶片市場中
市占率超過 90%，因此放棄中國市場的代價很大，NVIDIA 說什麼也不會輕易放棄，但如
何迎合美國政府政策、甚至壓力，同時必須滿足中國客戶的需求，是公司現在遇到最大難
關之一。
NVIDIA 執行長黃仁勳上次法說會表示，美國出口管制措施將帶來影響，中國及其他地區
上季貢獻 20-25% 資料中心營收，預期本季將大幅下滑。他也擔心，除了失去中國市場外
，此事造成中國加快自行製造晶片的腳步，並推出自有 GPU 產品，給予中國公司崛起的
機會。
外患 2：老對手英特爾、AMD 吹進攻號角
為搶占 AI 商機，老對手英特爾和 AMD 都緊跟著 NVIDIA 腳步，在 NVIDIA 率先推出採
用台積電 4 奈米的 H100 後，AMD 不落人後，於去年推出首批應用於 AI 和 HPC 的「
Instinct MI300X」。
目前 MI300X 今年開始陸續出貨，微軟資料中心部門成為最大買家，Meta 也已採購大量
Instinct MI300 系列產品，而 LaminiAI 則是首家公開使用 MI300X 的公司。
另據 AMD 官方性能測試，MI300X 表現優於市面上已有的 Nvidia H100 80GB，可能對即
將上市的 H200 141GB 造成威脅。此外，比起 H100 晶片，同等級產品的 MI300X 價格更
實惠，如果 NVIDIA 產能持續受限，部分客戶將流至 AMD。
與此同時，英特爾去年發表用於生成式 AI 軟體的晶片「Gaudi3」，雖然沒太多消息，但
傳比 Gaudi 2 的 96GB 提高 50%，記憶體可能直升至 HBM3e 記憶體，執行長 Pat
Gelsinger 直稱「Gaudi 3效能將超越H100」。
外患 3：新創小兵組 AI 平台聯盟企圖攻城
全球多家晶片設計企業近日宣布組成「人工智慧平台聯盟」（AI Platform Alliance），
目標是推廣開放的 AI 生態系。
AI 平台聯盟（AI Platform Alliance）創始成員有 Ampere、Cerebras Systems、
Furiosa、Graphcore、Kalray、Kinara、Luminous、Neuchips、Rebellions 和 Sapeon
等，但不見巨頭 Nvidia，因此外界猜測是新創業者期望能夠聯合起來，挑戰 Nvidia 的
霸權。
然而，NVIDIA 在 AI 市占率 75~90%，處於領先地位，因此 AI 平台聯盟能否撼動該公司
主導地位，仍有待觀察。
--
※ 批踢踢實業坊(ptt.cc), 來自: 114.137.71.246 (臺灣)※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1708352648.A.C0B.html
推 a1277034 : 英特爾每次都 02/20 06:24
推 joewucool : 早說 怎麼不早說 02/20 06:43
推 leoying : 一群聽都沒聽過的公司，則挑戰NV霸權= = 02/20 09:36
噓 puffycat : 看到鍵盤俠文章先噓！目前沒有個能打的，A廠要不是 02/21 08:42
→ puffycat : 有M$暗助也只是規格漂亮而已！其他的軟體工具拿出 02/21 08:42
→ puffycat : 去會被笑！ 02/21 08:42