※ 本文轉寄自 ptt.cc, 文章原始頁面
[新聞] 英特爾推新款AI加速器Gaudi 3 台積電5奈
英特爾推新款AI加速器Gaudi 3 台積電5奈米生產
2024/04/10 11:45:32
中央社 記者張建中新竹10日電
英特爾(Intel)推出新款AI加速器Gaudi 3,採用台積電5奈米生產,預計今年第2季向代
工廠提供通用基板和開放加速器模型的標準配置,第3季全面上市。
英特爾表示,Gaudi 3加速器是專為高效能、高效率的生成式AI運算所打造,每台加速器
都有專屬的異質運算引擎,運算效率高,並擅於處理複雜的矩陣運算,是深度學習演算法
的基礎運算。
英特爾指出,Gaudi 3搭載128 GB的HBMe2記憶體容量、3.7 TB的記憶體頻寬和96 MB的靜
態隨機存取記憶體(SRAM),能夠提供處理大型生成式AI資料集所需的記憶體,且適用於
大型語言和多模態模型,有助於提升工作負載效能和資料中心的成本效率。
Gaudi 3加速器整合24個200 GB的乙太網路連接埠,提供開放標準網路,實現高效擴充,
以支援大型運算集,並克服專有網路架構的供應商限制。
英特爾表示,Gaudi 3加速器是採用台積電5奈米製程生產,在B16浮點格式的運算效能,
為前一代採用7奈米Gaudi 2加速器的4倍;Gaudi 3的記憶體頻寬和網路頻寬也分別是
Gaudi 2的1.5倍和2倍。
英特爾說,Gaudi 3的參數模型訓練時間、推論吞吐量和推論能源效率皆優於輝達(
NVIDIA)的H100,推理速度也優於輝達的H200。
https://reurl.cc/2YMMv9
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 113.196.174.254 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1712723405.A.2BB.html
17 則留言
jeff0025 作者的近期文章
15Tech_Job
[新聞] 廣達「員工分紅」金額曝光 10月入袋...廣達「員工分紅」金額曝光 10月入袋...較去年增逾29% 2024/05/15 06:16:20 經濟日報 記者吳康瑋/台北即時報導 代工大廠廣達(2382)近年積極布局AI伺服器領域,已成功入手龐大商機,而公司也將每 一位員工,都視為團
23Tech_Job
[新聞] 工程師竊同事信用卡狂刷…辯稱帳號被盜 2024-05-13 10:55 聯合報/ 記者 張議晨 /高雄即時報導 工程師竊同事信用卡狂刷…辯稱帳號被盜 叫外送地址露餡 在高雄某科技公司擔任工程師的魏姓男子,下班後發現李姓同事的機車鑰匙沒拔,魏男打 開李男機車置物箱,拿走李男皮包,
36Tech_Job
[新聞] 台積電1500員工年底進駐高雄 藍田國小新台積電1500員工年底進駐高雄 藍田國小新校舍動土 (中央社記者林巧璉高雄7日電)高雄楠梓區藍田國小校舍新建工程今天動土,估2年後完 工;市長陳其邁說,台積電高雄廠預計年底會有1500員工進駐,因應產業需求,藍田國小 共48班滿足附近學童就
12Tech_Job
[新聞] 瑞昱美國控聯發科反托辣斯案 駁回瑞昱美國控聯發科反托辣斯案 駁回 2024/05/08 02:57:16 經濟日報 編譯劉忠勇/綜合外電 瑞昱(2379)在美國控告聯發科(2454)反壟斷官司案,6日遭法院駁回。瑞昱之前指控 ,聯發科和專利所有者聯手,以毫無根據的告訴,試
15Tech_Job
[新聞] 仁寶員工好康曝光 人人領千元即享券、共仁寶員工好康曝光 人人領千元即享券、共發千萬現金! 2024/05/02 20:33:28 經濟日報 記者吳康瑋/台北即時報導 代工大廠仁寶(2324)為體恤員工辛勤工作,旗下內每一位員工都享有多元、且豐富的福 利、禮券制度,除了生日、中秋
41Tech_Job
[新聞] 那「一通電話」白打了?台積電恐放棄在那「一通電話」白打了?台積電恐放棄在銅鑼建先進封裝廠 〔記者洪友芳/新竹報導〕晶圓代工廠力積電(6770)今(2)日上午將舉行竹科銅鑼園 區12吋廠落成典禮,台積電原預計斥資9百億元在銅鑼園區興建先進封裝廠,目前仍無動 靜,業界傳出台積電已
推
推
推
→
推
推
→
→
→
→
噓
→
→
噓
→
→
→