Re: [閒聊] 傳Coreweave是Nvidia和Blackroc

先說結論: 珍惜生命, 遠離妖股 你不看好空手就好, 不要去放空, 妖股的漲跌是華爾街早餐桌上聊天決定的 再來說Coreweave這家公司, 對, 這就是家空殼公司, 這是crunchbase 裡頭的資訊, 過幾天可能會被刪掉避風頭, 所以我先在這裡備份資訊, https://www.crunchbase.com/organization/coreweave/people Brian Venturo Co-Founder and CTO https://www.linkedin.com/in/brian-v-6719b812/ Haverford College Bachelors, Economics Partner Hudson Ridge Asset Management LLC Michael Intrator Co-Founder and CEO CTO 是經濟系畢業, 前一份工作是在華爾街賣CDO, CEO 歷史系/人資系畢業, 前一份工作在華爾街賣CDO, 整間公司沒有任何一個人懂技術, 不過我相信這公司一定跟華爾街關係很好 Coreweave 之前是作加密貨幣, 應該就是做雲端挖礦機出租, 現在用一模一樣的概念跟同樣NVDA 的機器, 把挖礦機改名成為AI 機器繼續做雲端出租, 這種東西是投機到不行的, 基本上碰CDO, 加密貨幣, 挖礦機這些東西都是超級投機 我們就來談技術, 這是他們的官網: https://www.coreweave.com/ 基本上就是用open source 的 kubernetes (我前面文章有解釋), 這樣要跟其他雲端大廠競爭? 更何況kubernetes 是GOOG 開發的 三大廠AWS/MSFT/GOOG 現在之所有用 H100 並不是真的無法取代H100, 而是跟華爾街以及炒股大戶的AI 科學家們妥協, 不用H100 就會被華爾街認為沒有 AI 競爭力, 公司股價暴跌, 不用H100 就會被AI 科學家們認為平台難用難開發, 但是這只是目前的妥協 其實如果底層不要用CUDA, 可以有非常多的其他選擇, 像是OpenCL/OpenGL 等, 硬體可以用TPU, AMD, 自製ASIC 等等, 真的不是非用H100 不可 我在雲端市場研發也算是有一段時間, 雲端市場很難打進去的, 一大堆奧客, 就像我前面說的AI 科學家們沒有CUDA 就不會寫代碼, 我跟他們解釋半天用OpenCL 用Tensorflow, 他們就是不願意接受, 誰叫我是開發雲端AI 平台給人使用, 然後很多客戶要求一堆的support, 還有一堆鳥問題跟急單, 最好再送sample code, sample or reference model, 最好是可以直接套用, 這樣一家空殼公司, 根本無法處理這些事情 ※ 引述《LDPC (Channel Coding)》之銘言： : 我有在follow coreweave 但是朝另外一個方向 Coreweave現在規劃就是死抱老黃和 : 微軟大腿 他提供的就是第三方租借算力 其他類似的公司有Amazon/Google/Lambda : 然後Coreweave也有跟微軟簽約提供算力 : 老黃這陣子看得出來 他有在朝算力租借這邊佈局 : 在講這些玩家之前 先科普一下如果踏入AI產業 你大概會選擇三個方向其中一個 : AI開發者有大概三個族群 : 1.Train From Scratch (大公司玩家 每年AI頂會三大會 會看到他們出現刷存在感) : 代表產物:BLIP(Saleforce)/CLIP(OpenAI)/DALLE-2(OPENAI)/LLAMA(Meta)/Palm-e(Google) : 2.Fine Tune/Adapter Design: 就是拿上面幾家公司開源的大模型作微調 或者增加套件 : 來整合下游任務 就算是如此也是吃一堆GPU運算 但比上面動輒百顆千顆GPU 小許多 : 3.Deployment (通常是Inference族群) : 開發者就是把模型部署在終端 針對各種特別User Scenario來做優化AI模型 這塊會是 : AMD將來的市場 目前市值估計是1跟2的10倍 需要的人就是做c code和模型轉變(ONNX) : Meta目前也在這佈局 : 在Foundation Model大放異彩後 以及開源平台後Hugging Face興起 : (Hugging Face 這家如果有股票 一定要買爆他) 造成許多優秀AI相關人才 : 包含工程師 都想跳入2跟3的領域 來做面對B2C的AI產業 : 這部分都屬於Foundation Model下游任務 在早期李飛飛ImageNet時代 : 這些特製化面向產業的 以前還可以用GTX/RTX這類遊戲顯卡 去做測試和開發和部署 : 現在你大概得要有V100/A100/H100才行 但這些玩意只有大公司有 : 於是老黃目前看來想幹的就是 解鎖這門檻 讓全世界新創 小型公司 任何優秀人才 : 能加入這產業 在透過Hugging Face 你現在想做LLM 只要套用幾個現成模板 : 你就可以做下游特制化產物 老黃開發了一堆套件諸如AI WorkBench 就像你在用SAAS : Matlab這類軟體 搭個幾個套件 你就可以開發屬於你自己需求下游產物模型 : Pytorch ENG Head也跑去開了一個Firework公司 走這條路 : 原本老黃是寄望雲端三大(Google/MS/Amazon)幫他推租借算力平台 但Amazon已經前後表明 : 他們更希望開發自己的算力平台 而Google/MS隨時都有可能會跳船 那老黃目前感覺就是 : 想養一個親兒子跟他們對幹又或者當替代方案...Coreweaver據傳已經要在德州蓋DGX : Cloud 做開放AI平台和算力租借整合 據理解DGX這類型Cloud就算是上面三大雲玩家也是需要重新蓋機房 : 無法拿以前的infra來升級 因此上面三個玩家也是需要花錢蓋廠 就某種意義 並沒有 : 比Coreweave來的更領先 : 但只要是聰明人都會注意到 這塊租借算力市場的矛盾性 大公司不會希望上面事情發生 : 最糟糕情況就是3這塊會各家公司分走 甚至危機到1這個Training市場 : 也就是老黃不想看到的 挑戰cuda權威 而老黃感覺是要去搶雲市場租借算力這事情 : 讓更多小資本玩家進入這市場 讓他資本做大 更依賴老黃開發工具體系 打破大公司壟斷 : 大模型 進而在算力租借市場開發新的賺錢項目 越多玩家 他就能賣越多鏟子 : 如果老黃成功打造自己的算力租借軟硬整合雲平台(雖然我不看好) 那我會去解鎖我CD帳戶繼續加碼 : 但我也能理解老黃 如果他不這樣幹 他沒辦法持續壟斷這領域 QQ 總之 繼續在旁邊吃瓜 : 看這群大佬互打 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 76.103.225.6 (美國) ※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1694133645.A.E5A.html