看板Tech_Job
英特爾推新款AI加速器Gaudi 3 台積電5奈米生產
2024/04/10 11:45:32
中央社 記者張建中新竹10日電
英特爾（Intel）推出新款AI加速器Gaudi 3，採用台積電5奈米生產，預計今年第2季向代
工廠提供通用基板和開放加速器模型的標準配置，第3季全面上市。
英特爾表示，Gaudi 3加速器是專為高效能、高效率的生成式AI運算所打造，每台加速器
都有專屬的異質運算引擎，運算效率高，並擅於處理複雜的矩陣運算，是深度學習演算法
的基礎運算。
英特爾指出，Gaudi 3搭載128 GB的HBMe2記憶體容量、3.7 TB的記憶體頻寬和96 MB的靜
態隨機存取記憶體（SRAM），能夠提供處理大型生成式AI資料集所需的記憶體，且適用於
大型語言和多模態模型，有助於提升工作負載效能和資料中心的成本效率。
英特爾表示，Gaudi 3加速器是採用台積電5奈米製程生產，在B16浮點格式的運算效能，
為前一代採用7奈米Gaudi 2加速器的4倍；Gaudi 3的記憶體頻寬和網路頻寬也分別是
Gaudi 2的1.5倍和2倍。
英特爾說，Gaudi 3的參數模型訓練時間、推論吞吐量和推論能源效率皆優於輝達（
NVIDIA）的H100，推理速度也優於輝達的H200。
https://reurl.cc/2YMMv9
--
※ 批踢踢實業坊(ptt.cc), 來自: 113.196.174.254 (臺灣)※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1712723405.A.2BB.html
推 demonhell : Intel AI老三，卻有兩條AI產品線 04/10 12:43
推 TCross2 : 台積真香 04/10 13:05
推 jayemshow : 我就問台積怎麼輸? 各聯盟晶片都找台積生產 04/10 13:55
→ ryusez : 三星5nm表示，，， 04/10 15:07
推 qazxc1156892: 惹錯人了https://i.imgur.com/vrym3Rs.jpg 04/10 15:30
推 Chilloutt : 先上256gb 04/10 16:13
→ jimmykuo123 : 笑死 intel4不是很香嗎 怎麼下台積5nm 04/10 17:30
→ samm3320 : 還在比H200 知道B200多快嗎 04/10 18:39
→ SabreN : 連Google 的AI 晶片也來GG了，終究是要來的，跟著三 04/10 22:27
→ SabreN : 星穩死的 04/10 22:27
噓 SRT0619 : 電蝦板在置底討論13/14代 cpu災情，不是個案 04/11 01:22
→ SRT0619 : 製程沒進步只會加電壓擠效能 結果電死XD 04/11 01:24
