※ 本文轉寄自 ptt.cc, 文章原始頁面
標題

[請益] 現在橫空出世的NPU

留言70則留言,27人參與討論
推噓16 ( 16054 )
為了因應即將到來的AI時代, 各家CPU廠開始在CPU裡面加入NPU, 即神經網路處理器 這邊已有一篇評測 https://www.youtube.com/watch?v=cN_bm3jT5VI
以這個評測為例, 讓我有點霧裡看花, 不是很能明白: Intel Ultra 7 155H CPU分數 67 GPU分數 413 NPU分數 282 嗯....這NPU看起來沒比較厲害? 所以我的疑問就是: 1. NPU 表現還不如 GPU, 這也許可以理解為最佳化還沒到位, 不過即使未來能小贏, 為什麼不拿去做GPU就算了, 還可以增加3D性能。 2. NPU 能執行通用計算嗎? 如果可以, NPU 只是神經網路運算特化 的 GPU? 3. 如何調用 NPU? 是視為 OpenCL / DirectML 裝置? 還是又整出新的方法跟API了? 又或只是在GPU下的子集? (調用核顯運算時指示調用NPU?) 有沒有正在行內的說說看吧... ----- 未來五年可能漸漸開始沒人要比x86性能, 改比NPU性能了... -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 118.169.11.48 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1703666680.A.127.html

70 則留言

※ 編輯: wahaha99 (118.169.11.48 臺灣), 12/27/2023 16:47:57

smallreader, 1F
類似說桌上型處理器可以直接用CPU算114.27.25.210

smallreader, 2F
但行動裝置會太耗電所以設計專用電路114.27.25.210

friedpig, 3F
asic拼的就能耗比 除非規模堆到超大 不223.140.22.3

friedpig, 4F
然輸GPU 也還好吧223.140.22.3
確實 要等NPU的每瓦性能出來才知道 不過類神經網路也是百百種 應該不會是ASIC這麼沒彈性的做法吧
※ 編輯: wahaha99 (118.169.11.48 臺灣), 12/27/2023 17:00:31

friedpig, 5F
相容性87%靠one api去處理吧 牙膏養一223.140.22.3

friedpig, 6F
堆人做one api不是養假的223.140.22.3

friedpig, 7F
牙膏的npu 居然是有支援fp16的 本來以為223.140.22.3

friedpig, 8F
只有到int8的 ASIC223.140.22.3

wahaha99, 9F
fp16一定要的吧 int8跑AI應該很BI118.169.11.48

SHR4587, 10F
看起來問題會是桌上型真的需要這東西嗎220.136.0.247

SHR4587, 11F
目前看起來煮戰場會是筆電跟平板,看微軟220.136.0.247

SHR4587, 12F
之後的動向了220.136.0.247

wahaha99, 13F
如果AI服務成為標配,那桌上型肯定也要啊118.169.11.48

wahaha99, 14F
尤其是沒獨顯的系統118.169.11.48

aegis43210, 15F
因為微軟想推廣copilot,所以一定要有114.136.179.249

aegis43210, 16F
NPU114.136.179.249

kimula01, 17F
以後說不定玩lol可以離線全AI隊友了59.124.205.12

kimula01, 18F
全隨機中路 本地電腦運算AI控制隊友59.124.205.12

aegis43210, 19F
實際上MTL上面的應該叫VPU,並不是專114.136.179.249

aegis43210, 20F
門拿來加速LLM的推論,所以只是堪用程114.136.179.249

aegis43210, 21F
度,真正的NPU要等ARL114.136.179.249

kimula01, 22F
星海爭霸3搞不好也不用微操 每個都AI算59.124.205.12

rgo, 23F
炒股用的話術 1-2個月就消風啦223.137.176.161

rgo, 24F
但能把 宏碁 華碩這些帶到突破幾十年的新高也223.137.176.161

rgo, 25F
是很利害223.137.176.161

lazioliz, 26F
你先會用再來說吧1.174.199.39

hidalgo22976, 27F
應該是軟體要優化吧,等於arm64又1.171.170.150

hidalgo22976, 28F
多了類神經1.171.170.150

hidalgo22976, 29F
這華碩年前就在手機做過了1.171.170.150

hidalgo22976, 30F
現在還不成熟,之後再看吧1.171.170.150

zo6596001, 31F
未來說不定會出現AI小畫家,可以自動111.71.116.106

zo6596001, 32F
摳圖、調色。111.71.116.106

Rust, 33F
如果把這個 NPU 設計成插 PCI-E會有市場嗎123.110.251.5

stepnight, 34F
已經有自動摳圖了49.216.163.179

pig, 35F
可以參考一下 apple 的a系列跟m系列怎麼用的114.33.222.193

Ceferino, 36F
特化計算阿,而且應該是CPU+GPU+NPU混123.192.234.4

Ceferino, 37F
合計算,微軟的DirectML團隊應該正在忙123.192.234.4

Ceferino, 38F
這些事123.192.234.4

oppoR20, 39F
Pcie的不就是tensor tpu嗎223.139.85.192

phylen, 65F
目前看起來沒什麼特別優勢49.216.160.118

phylen, 66F
[請益] 現在橫空出世的NPU

phylen, 67F
[請益] 現在橫空出世的NPU

phylen, 68F
[請益] 現在橫空出世的NPU

phylen, 69F
[請益] 現在橫空出世的NPU

phylen, 70F
[請益] 現在橫空出世的NPU

wahaha99 作者的近期文章

[請益] 請推薦webcam
請推薦webcam 用途如下: 要翻攝文件、桌上物件用 (要動態, 所以不能用手機) 所以能夠手動對焦、拍清楚平面上的物體 最好能自帶架子, 或是至少相容相機腳架 要求: ●720p以上、畫質清晰 ●支援win7....反正基本的影像能錄播
[請益] 散熱膏的選擇
是說原廠附贈的TF7用完了 手邊沒適合給電腦用的散熱膏了 打算上網找 結果發現大受好評的 信越7921 傳出來說有假貨 再看看TF7 怪怪 2g一管不到50 然後又傳出可能有假貨 ....好喔, 好東西便宜就要有假貨就對了 = = 所以需求
Re: [閒聊] 在原價屋買到被註冊的產品...
→ nrxadsl: 人家原文明明只是要序號對看看,看要怎麽 114.24.207.78 09/07 23:07 → nrxadsl: 恰巧兩個序號很像才不小心打錯,傳到後面 114.24.207.78 09/07 23:07 → nrxa
Re: [閒聊] 在原價屋買到被註冊的產品...
※ 引述《tran5486 (吐司瓦薩米)》之銘言: : 過了兩天,華碩打來,表明因個資真的無法提供對方註冊資訊給我,但有協調願意以郵寄一 : 換一的方式,更換全新品水冷給我,我表示不理解,我站在客人立場,那買到被註冊,你們 : 原廠又無法
更多 wahaha99 作者的文章...