※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1706157199.A.E34.html
Re: [新聞] 三星對決 HBM 一哥 SK 海力士,HBM3e 將h
看板 | Tech_Job |
---|---|
作者 | LDPC (Channel Coding) |
時間 | 2024-01-25 12:33:17 |
留言 | 0則留言 (0推 0噓 0→) |
: http://tinyurl.com/4du6aaen
: January 24, 2024 by MoneyDJ
: 在 AI 浪潮推動下,應用在 AI 伺服器的高頻寬記憶體(HBM)需求大增。面對 HBM 商機
: 湧現,三星電子(Samsung Electronics)全力搶攻 HBM 市場,挑戰 SK 海力士(SK
: hynix)的 HBM 一哥地位,雙方競爭白熱化。
: 韓媒《BusinessKorea》報導,為追上SK海力士的腳步,三星電子將於2024年積極擴產HBM
: ,與SK海力士一較高下,但SK海力士不會坐以待斃,計劃於今年上半年投入量產第五代
: HBM3e,鞏固HBM龍頭地位。
: 目前市場普遍預測,2023年第四季,SK海力士的HBM銷售額可望首次突破1兆韓圜。2023年
: 全球HBM市場規模約為40億美元,SK海力士市占率獨占鰲頭,高達20%,穩居HBM市場霸主
: 。
: 2023年第四季,三星已預告將擴大HBM3產品銷售,因應AI市場需求成長。不過,三星與SK
: 海力士真正激烈的戰場是在第五代HBM3e,原因是NVIDIA規劃2025年下半年推出新一代AI
: 晶片GB100,採用HBM3e記憶體,三星、SK海力士正摩拳擦掌搶訂單,勢必上演激烈的競逐
: 局面。
--
※ 批踢踢實業坊(ptt.cc), 來自: 67.169.111.72 (美國)
※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1706157199.A.E34.html
HBM就是金礦 尤其現在部分研究有走向拉長Input Sequence和Embedding Vector Length
我好幾次train模型 記憶體都不夠用 還得搞gradient accumulation這種手法
在Multimodal開啟後 資料數據都是幾10T的Train 記憶體很容易被操爆 且部分研究顯示
多模態數據拉到60T以上後 胡言亂語症狀都會減低
然後HBM3e領先就是海力士 海力士不可能只有20% HBM現在就三大玩家 而韓廠就吃掉90%
但美光切入時間點比較晚 所以目前很難預測是否能分食這塊 但台廠會因為美光需要先進
封裝而受惠 想當初HBM1是海力士+AMD蘇媽用來打老黃顯卡的集氣大絕招
結果沒想到成本過高 後來棄用 被老黃照抄這個想法並找三星用在P100架構上
這系列玩意老黃高單價賣的很開心 買家沒人在意單價HBM成本過高的 真是幫QQ
接下來HBM3e就是主戰場了 以後要搞AI晶片的應該會都用HBM3e
--
咦 這裡不是股版 我又走錯路了QQ 99猩猩
※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1706157199.A.E34.html