[情報] 產生式 AI 大爆發 NVIDIA GPU 恐供不應求

生成式 AI 大爆發，NVIDIA GPU 恐供不應求 來源 https://reurl.cc/EG778n 微軟 Bing 搜尋引擎整合 ChatGPT，加上其他生成式 AI 工具的需求攀升 都相當依賴人工智慧處理能力，正是 NVIDIA GPU 優勢所在 當科技公司利用 NVIDIA GPU 滿足增長的 AI 需求 市場恐怕又要面臨 GPU 供貨短缺問題，尤其又會先擠壓遊戲玩家需求。 NVIDIA GPU 能高效運算，支援 AI 模型用 GPU 運算的 CUDA （Compute Unified Device Architecture，統一計算架構） 因此廣泛應用於深度學習領域。FierceElectronics 網站報導 ChatGPT 初期在 1 萬個 NVIDIA GPU 訓練，自從獲得大眾關注後，系統不堪負荷 無法滿足龐大用戶需求。故 OpenAI 推出全新 ChatGPT Plus 訂閱服務 不僅能讓付費用戶尖峰時段優先造訪 ChatGPT，且回應時間更短，並能先使用最新功能。 產業分析師估計，目前 ChatGPT 模型在約 25,000 個 NVIDIA GPU 訓練 比初期測試 1 萬個 NVIDIA GPU 高許多。 微軟和 Google 雙雙宣布將類似 ChatGPT 的 LLM（對話式大型語言模型） 整合至自家搜尋引擎。如 Google 要將 AI 模型整合至搜尋結果 估計需要 512,820 台 A100 HGX 伺服器及 4,102,568 個 A100 GPU 光伺服器和網路成本，資本支出就高達 1,000 億美元（約台幣 3 兆元）左右。 生成式 AI 大爆發對 NVIDIA 來說是利多消息，但對消費市場尤其遊戲玩家 恐怕不算好消息。NVIDIA 有可能優先供貨給生成式 AI 的科技公司，排擠遊戲玩家需求 今年第一季因農曆新年使遊戲顯卡供應受限 儘管庫存問題仍在，但可能為已短缺的高階 GPU 增加供貨問題。 高階 GPU 提供 AI 功能，使 NVIDIA 有利可圖，可能為了滿足不斷增長的生成式 AI 而有供貨短缺問題。NVIDIA 如何因應 AI 領域龐大需求有待觀察 而 2 月 22 日其將公布 2023 財年第四季財報，屆時有望透露更多未來營運展望。 NVIDIA GPU Demand To Exceed Supply As Green Team Bets On ChatGPT, Thousands of AI Chips Expected To be Incorporated By Tech Giants 相關新聞 NVIDIA AI GPU迎ChatGPT需求浪潮 楊智家／綜合報導 2023-02-14 ChatGPT相關熱潮帶動全球科技大廠人工智慧（AI）晶片需求增加 外界估可能導致NVIDIA GPU未來幾個月面臨供不應求 因ChatGPT與其他語言、影像、影視內容生成式... https://www.digitimes.com.tw/tech/dt/n/shwnws.asp?id=0000656745 40 顯卡供應有限緊縮 https://www.youtube.com/watch?v=0dmzRwvObaE https://www.eet-china.com/mp/a194751.html PChome已出現 4090 禮包 4070Ti TUF ROG 限組裝 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 60.249.18.108 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1676377566.A.377.html