Re: [新聞] 輝達傳再推中國特供AI晶片 最快「這時」

老黃應該是有機會能繼續用黃家刀法 用高階價錢賣低階產物給中國 從美國的最大化利益角度來想 美國也會希望老黃賣次級的晶片給中國 這樣就某種程度能最大化阻滯中國發展 和弱化中國科技樹發展 比方說 中國最近的華為昇腾910B AI晶片號稱對標A100 已經賣給百度作為AI開發用途 如果說中國目前上面自製化晶片算力是10 那A100是30 H100是50 那老黃只要賣給中國晶片 效能是12~15 就可以變項阻礙中國發展 逼迫中國依賴使用老黃次級晶片 畢竟成本上開發 以及老黃eco system在大模型發展扮演很重要角色 完全自製耗時又花錢 且還不能隨插 即用現在世面上各種開源大模型 但完全斷貨又會逼的中國自己發展出自己科技樹 或找出其他一片天 就像最近韓國Naver買不到老黃H100 憤而跑去買I皇的AI晶片 美國之前禁令是用頻寬參數來擋 所以老黃就把A100坪寬匯流600GB/s降到400GB/s 搞了一個A800 但從單顆A800的算力(FP32/FP64 Tensor Core)和A100是等效同級 至於為何要搞用頻寬限流是因為 LLM大模型發展是靠多顆GPU算力高速互連算力NVLink 堆積起來(有興趣可看底下連結) 目前與論共識是1萬顆A100是要搞大模型的入場卷 以LLaMA 65B為例 訓練需要時間是1022362 GPUxHours 所以如果你只有1顆A100 你需要1022362小時 但是你如果有一萬顆你大概就需要~100小時 就能驗收結果 而通常AI算法開發需要很多的調整 你每做一次feature開發 最好訓練時間是座落在一週 到兩週 也就是為何一萬顆A100便成為入場卷 而NVLink4是採用100G PAM4 serdes架構 這玩意Marvell Broadcomm 都有在做類似產品 之前他們股價都有受惠 當你把頻寬限流搞上去後 那訓練開發時間都會加長 看到這裡 有沒有覺得啊 那A800單顆算力還是很強啊 是的 所以這次禁令 就是採用運算效能來當門檻 還提出性能密度參數(performance density parameter) 就是把性能連chiplet單顆下都考慮進去 然後你我都知道老黃最擅長的就是切效能 然後賣高價 最理想的結局就是中國還是大依賴老黃次級晶片放棄AI晶片發展 最後三天前的GPT4Turbo 已經瞄準取各種服務模式 加上Multimodal大模型這陣子 紛紛出爐 由於Scaling Law所造成的Emergent Ability 都意味者所有大公司都會 繼續花錢買算力而中小型公司會去租算力(e.g.,Mistral 7B模型 有在Hugging Face榜單上 就是用前陣子被板上宣稱是假公司的CoreWeave 租借算力平台開發的) 然後坐等11/21開獎 最後 有誰有紙箱嗎QQ 萬一我猜錯了 請推薦哪家公園好睡 沒郊狼和浣熊為佳 -- NVlink 在2016誕生時 沒人想過會成為大模型的一個基礎發展重要拼圖之一 https://zhuanlan.zhihu.com/p/639228770 A800規格 https://tinyurl.com/2p8nsv4f ※ 引述《qwe22992168 (蛋疼)》之銘言： : 原文標題：輝達傳再推中國特供AI晶片 最快「這時」量產 : 原文連結：https://www.ctee.com.tw/news/20231110700081-439901 : 發布時間：2023.11.10 03:00 : 記者署名：工商時報 楊日興 : 原文內容： : 美國10月中下旬擴大AI晶片輸中禁令，輝達等巨頭原本為中國市場而降低規格的多款特供 : 產品遭美政府禁止出口中國。新禁令公布不久，傳輝達與英特爾將再推出降規版晶片的計 : 畫，而輝達已為此打造三款晶片。 : 科創板日報9日引述產業鏈人士表示，輝達現已為中國市場開發出最新改良的三款晶片 : HGX H20、L20 PCle、L2 PCle。三款晶片從旗艦產品H100改良而來，輝達最快將在本月16 : 日之後公布，中國廠商最快能在近日拿到產品。 : 界面新聞引述網路文件表示，輝達為中國客戶專門研發的特供晶片HGX H20、L20 PCle、 : L2 PCle，分別針對雲端訓練、推理、邊緣場景，產品基於輝達Hopper和Ada Lovelace架 : 構。產品送樣時間在今年11～12月，量產時間為今年12月～明年1月。 : 從晶片命名邏輯來看，輝達應基於上述不同架構與應用推出多款產品。美國此次擴大的輝 : 達產品限制範圍，不但包含基於H100和A100所降規的H800和A800，還擴大禁止L40、L40S : 、RTX4090等產品。 : 消息指出，輝達繼續改良晶片並將性能降低至新參數以下，以符合美國法規以供應中國市 : 場，供應鏈廠商和客戶近日還要與輝達繼續溝通，年底才會量產。 : 此外，消息人士指出，英特爾為與輝達抗衡、為中國市場打造的Gaudi2晶片，受美新禁令 : 影響，還會再推出調整與改良版本。 : 美國最新晶片禁令來勢洶洶，如大幅提前對輝達的禁令生效時間以防範中企囤貨應對，對 : 源頭的管制標準與參數進行諸多調整，本輪管制措施影響廣泛。市場關注，美企為此再次 : 降規的晶片是否還能在中國市場上具有吸引力，且傳百度採購華為晶片研究替代方案，新 : 禁令或許再給中國自研晶片替代提供突破口。 : 心得/評論： : 拜登封殺中共AI晶片 符合美國法規才行 : 賣給中共的AI晶片 年底才會量產 : 黃勳仁：可惡 想賺!! 黃仁勳現在台灣逛夜市 : 新聞越多 AI股跌越多 輝達暴漲 AI股暴跌 : AI股早就和輝達脫勾 脫節了 真奇妙 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 67.169.111.72 (美國) ※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1699689761.A.048.html