※ 本文轉寄自 ptt.cc, 文章原始頁面
[新聞] 英特爾推新款AI加速器Gaudi 3 台積電5奈
英特爾推新款AI加速器Gaudi 3 台積電5奈米生產
2024/04/10 11:45:32
中央社 記者張建中新竹10日電
英特爾(Intel)推出新款AI加速器Gaudi 3,採用台積電5奈米生產,預計今年第2季向代
工廠提供通用基板和開放加速器模型的標準配置,第3季全面上市。
英特爾表示,Gaudi 3加速器是專為高效能、高效率的生成式AI運算所打造,每台加速器
都有專屬的異質運算引擎,運算效率高,並擅於處理複雜的矩陣運算,是深度學習演算法
的基礎運算。
英特爾指出,Gaudi 3搭載128 GB的HBMe2記憶體容量、3.7 TB的記憶體頻寬和96 MB的靜
態隨機存取記憶體(SRAM),能夠提供處理大型生成式AI資料集所需的記憶體,且適用於
大型語言和多模態模型,有助於提升工作負載效能和資料中心的成本效率。
Gaudi 3加速器整合24個200 GB的乙太網路連接埠,提供開放標準網路,實現高效擴充,
以支援大型運算集,並克服專有網路架構的供應商限制。
英特爾表示,Gaudi 3加速器是採用台積電5奈米製程生產,在B16浮點格式的運算效能,
為前一代採用7奈米Gaudi 2加速器的4倍;Gaudi 3的記憶體頻寬和網路頻寬也分別是
Gaudi 2的1.5倍和2倍。
英特爾說,Gaudi 3的參數模型訓練時間、推論吞吐量和推論能源效率皆優於輝達(
NVIDIA)的H100,推理速度也優於輝達的H200。
https://reurl.cc/2YMMv9
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 113.196.174.254 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1712723405.A.2BB.html
17 則留言
jeff0025 作者的近期文章
[新聞] 2奈米超搶手 台積電預期明年量產
2奈米超搶手 台積電預期明年量產 2024/04/19 01:18:30 經濟日報 記者尹慧中、蘇嘉維/台北報導 台積電(2330)3奈米製程在蘋果、英特爾、高通及聯發科等大客戶帶動下,需求相當強 勁,台積電更看好2奈米製程需求,總裁魏哲家
10Tech_Job
[新聞] 夏普面板廠傳年中關廠 群創、友達後市審夏普面板廠傳年中關廠 群創、友達後市審慎樂觀 2024/04/17 00:57:58 經濟日報 編譯劉忠勇、記者李珣瑛/綜合報導 日媒報導,鴻海(2317)轉投資日商夏普規劃暫停部份大型LCD面板生產;另有傳聞堺工 廠最快會在今年中完全關廠
[新聞] 0403地震/台積電、力積電預防性部分停
0403地震/台積電、力積電預防性部分停機群創部分停機 記者高兆麟/台北報導 今日早上大地震,震醒全台,竹科管理局緊急詢問相關廠商情況,包括力積電、台積電部 分預防性停機、群創光電部分停機;另新竹園區友達、聯電、旺宏、力積電回報正常。 初步
61Tech_Job
[新聞] 竹科男遭妻家暴55年! 「6000萬財產碰竹科男遭妻家暴55年!「6000萬財產碰不得」被逼去清大洗澡 記者張靖榕/綜合報導 新竹一名從竹科外商科技公司退休的陳姓老翁,結婚55年來,累積超過6000萬元的資產全 在老婆名下,卻因為老婆婚後患有強迫和躁鬱症,不僅錢都被管死死,還不被准
[新聞] 華碩在美專利案 敗訴
華碩在美專利案 敗訴 2024/03/27 00:26:16 經濟日報 編譯簡國帆、記者吳凱中/綜合報導 彭博資訊報導,德州聯邦陪審團裁定,華碩電腦(2357)(ASUSTek Computer)必須因為 生產並銷售侵害好幾項專利的電腦硬體
推
推
推
→
推
推
→
→
→
→
噓
→
→
噓
→
→
→