[新聞]串連數千個 Nvidia GPU，微軟打造 ChatGPT 的超級電腦

原文標題： 串連數千個 Nvidia GPU，微軟打造 ChatGPT 的超級電腦 原文連結： https://reurl.cc/Rvqkvz 發布時間： 2023 年 03 月 14 日 12:19 記者署名： 作者 陳 冠榮 原文內容： 微軟斥資數億美元打造一台大型超級電腦，串連數千個 Nvidia GPU，為 OpenAI 的聊天 機器人 ChatGPT 提供運算動力。 微軟 2019 年向 OpenAI 投資 10 億美元起，同意為這家 AI 新創建構一台大型超級電腦 。它將數千個 Nvidia A100 GPU 和 Azure 雲端運算平台串連在一起，這些 GPU 用於高 效能運算，以 NVIDIA Quantum InfiniBand 架構為基礎，能以高吞吐量、低延遲網路連 接在一起。這讓 OpenAI 訓練 AI 模型能獲取大量數據並學習參數，開發具 AI 功能的新 工具如 ChatGPT。 利用 OpenAI 訓練 AI 模型的同一套資源，微軟也用來訓練自己的大型 AI 模型，包括上 個月推出的新版 Bing 搜尋引擎。如此一來，任何想要訓練大型 AI 模型的企業能以同一 套資源操作、改進，Azure 成為能夠廣泛應用的 AI 雲。 「微軟在 OpenAI 的專案上可能花費數億美元」，負責雲端和 AI 業務的微軟副總裁 Scott Guthrie 向《彭博社》透露，雖然這對於近期延長對 OpenAI 多年、數十億美元投 資的微軟來說，似乎是九牛一毛，而微軟就是願意在 AI 領域砸錢投資。 此外，微軟 13 日也為 Azure 宣布功能強大且能大規模擴展的虛擬機器，整合最新的 NVIDIA H100 Tensor 核心 GPU 和 NVIDIA Quantum 2 InfiniBand 架構，可以根據客戶 的 AI 任務規模進行擴展。微軟指出，這允許 OpenAI 和其他仰賴 Azure 的公司訓練更 大、更複雜的 AI 模型，並加速推出生成式 AI 應用。 微軟親手建構大型超級電腦為 ChatGPT 提供 AI 運算動力，更能將運算資源以客製化方 式提供不同客戶運用，擴大 Azure AI 雲的應用範疇。 心得/評論： 財報公布一陣子摟，來整理一下: 2020 2021 2022 Q3 Q4 Q1 Q2 Q3 Q4 Q1 Q2 Q3 Q4 Revenue 4.73B 5B 5.6B 6.5B 7.1B 7.6B 8.28B 6.7B 5.93B 毛利 62.6% 63.1 64.1% 64.8% 65.2% 65.4% 65.5% 43.7% 56.1% 66.1% 淨利 1.34B 1.46B 1.9B 2.37B 2.45B 3B 1.61B 0.65B 0.68B 1.4B EPS(USD):2.12 2.31 0.75 0.94 0.97 1.18 0.64 0.26 0.27 0.57 營收(YoY)- 1. Gaming : 1.83 B (-46%) 2. Datacenter : 3.62 B (+11%) 3. Professional Visualization: 0.22 B (-65%) 4. Auto : 0.29 B (+135%) Outlook 是下季營收 6.5B，毛利率小增到 66.5%(non-GAAP)， 有了 ChatGPT 加持，最近金融夜的風風雨雨好像不關老黃屌毛事..QQ 微軟已經買了不少 H100 用來加持 Azure 和 Bing，G社的對應方案能力 還不明朗，我想這陣子應該不好過吧... CSP 巨頭們應該會把老黃的晶片買爆。ChatGPT-4剛上，想想 Dall-E、 Midjourney，AI 真的好可怕R.... 老黃賣軍火，要怎麼輸?? @@ 上次發文大概192...現在好像250惹... 這麼高，追價要謹慎。時間不早惹，困霸數錢去...zzzzz PS. 個人看法，勿跟單，盈虧自負ㄋ -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 175.181.177.115 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1678986108.A.3CD.html