Re: [情報] AMD 7800XT/7700XT 售價US$449起 9/6上市

AMD的GPU行銷真的是笨死了。每個人都拜託他們出24GB或48GB的卡，這麼簡單就大賣的方法不作。還在搞FSR，難道不知道現在是大AI時代嗎？ 7800xtx 24GB，549鎂，還不賣爆。 79x0xtx 48GB，1200鎂，還不搶光。 現在一堆AI inference的需求，欠缺在ram不夠。Training也許還是不行，但inference社群作一堆了，就等你出卡而已。結果你出16GB??? 例如最近mlc-llm測試7900xtx 推理可達4090的80%。 https://blog.mlc.ai/2023/08/09/Making-AMD-GPUs-competitive-for-LLM-inference 原作者的中文版 https://zhuanlan.zhihu.com/p/649088095 因為在推理(inference)上gpu的效能已經夠了，是卡在記憶頻寬，所以4090/3090ti/7900xtx效能是大同小異。 https://github.com/ggerganov/llama.cpp 現在4bit 30B模型需要19.5GB記憶體，這個模型好又剛好主流24GB卡可跑，3090二手卡搶爆 4bit 65B模型需要38.5 GB，沒有主流卡可跑，只能用CPU慢慢的推動，等於不能用。 7800xtx 24GB，79x0xtx 48GB。AI社群搶爆，程式幫你寫好。不用在那搞沒用的FSR，沒用的FSR，沒用的FSR<<很重要講三遍 https://i.imgur.com/LeYPRd4.jpg -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 219.70.128.119 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1693060246.A.862.html