※ 本文轉寄自 ptt.cc, 文章原始頁面
看板Tech_Job
標題

[新聞] IBM開發出一款類比AI晶片雛型,在性能上匹敵GPU,在功耗上更勝GPU

時間
最新2023-08-28 02:26:00
留言54則留言,31人參與討論
推噓25 ( 28323 )
IBM開發出一款類比AI晶片雛型,在性能上匹敵GPU,在功耗上更勝GPU https://bit.ly/3KR6ZbW IBM一直處於量子運算和許多其他研究領域的前沿,最近其展示了它認為的新AI處理解決 方案。IBM的願景並不是以GPU為中心,相反的,其認為混合訊號類比晶片中,可以大幅提 高能源效率,同時提供與市場當前主流產品GPU相同競爭力的性能。 如今IBM開發了一款類比AI晶片雛型。經過測試,該晶片與GPU等數位晶片一樣擅長電腦視 覺AI任務。就這一點來說,它的能源效率比GPU要高得多。在過程中,它將多個數位處理 單元和數位通訊結構與類比記憶體內運算結合。 換句話說,這是一種將部分混合訊號和類比晶片結合在一起的晶片。此外,該晶片結合了 相變記憶體(PCM)和數位電路,其聲稱在人工智慧推理方面將與GPU性能相匹配,但效率 高上得多。 AI推理現有的主要瓶頸之一涉及在記憶體和處理晶片之間分流數據,這會減慢處理速度並 消耗電力。至於IBM的類比AI晶片採用了不同的方式,使用PCM單元將推理權重儲存為類比 值並執行運算。 簡單來說,IBM的類比AI晶片本質上是在同一位置運算和儲存記憶體,因此可以糾正數據 傳輸中引起的畸變,同時也使系統變得更加節能。它幾乎像人腦的運作方式一樣,神經網 路就是在技術處理上和儲存發生在同一個位置的方式。 不過,目前這款類比AI晶片還只是紐約IBM的Albany奈米技術中心之研究雛型機,且處於 實驗階段。因此,仍還需要一段時間才能看到這類產品商業化。所以現階段,GPU在AI推 理的使用上仍是獨一無二的存在,可是其高功耗的型態必須慢慢的解決。 現今GPU在AI推理上的功耗是非AI處理器的10倍。一旦全球愈來愈多廠商佈建更多的AI伺 服器,那麼以現今的發電系統,將面臨負荷過重的情況。畢竟,電動車愈來愈普及的情況 下,也需要全球各國重新思考如何佈建更有效率地發電系統。 如果IBM這種記憶體內運算之類比AI晶片在AI推理領域起飛,那麼微軟、谷歌等公司將減 少從輝達公司購買的GPU數量,同時限制AI處理中對GPU的猛增需求,這對於市場遊戲規則 的改變,又將帶來很大衝擊。不過,IBM並沒有跟市場明說,這款晶片何時能夠進行量產 ,所以短中期來說,AI市場仍舊需要依賴GPU。從這可以看出,當許多廠商跟隨輝達追求 GPU市場大餅的同時,IBM以反向操作模式,給產業界一個新的研發方向。 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 203.145.192.245 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1692770471.A.3BE.html

54 則留言

mmonkeyboyy, 1F
這篇是那招 ....

peter98, 2F
IBM還是…算了…過氣

hold5566, 3F
AI新燃料

pieceioriX, 4F
詐騙業龍頭IBM?

shorty5566, 5F
XXX殺手定律 買XXX就對了

SkyIsMyLimit, 6F
所以名稱叫IPU?

Neistpoint, 7F
這個東西如果能做穩定且商用功耗應該會小幾個數量

Neistpoint, 8F

mmonkeyboyy, 9F
炒很久了 cim+pcm

ljsnonocat2, 10F
ibm研發應該是先進,不過生產就

versusvic, 11F
旺宏表示:

orange0319, 12F
分久必合,合久必分。CPU和GPU要合併了嗎?

pegen, 13F
上個玩PCM的INTEL都已經收工了

yytseng, 14F
類比..記憶體…應該跟人腦特性一樣,有人聰明有人

yytseng, 15F
笨,有人過目不忘有人當場就忘,類比的特性

giantwinter, 16F
IBM…想想算了

wcre, 17F
IBM給的錢想做出好成果真的不容易,祝福

NexusPrime, 18F
之前也看過IBM在實驗室很早就做出2nm晶片,然後就

NexusPrime, 19F
沒然後了...

leon1757tw, 20F
ibm的東西留在實驗室就好

samm3320, 21F
痾首先你要說他能跟GPU比性能,那應該去比訓練啊,

samm3320, 22F
比推理幹啥

i1210, 23F
何時轉單

ChungLi5566, 24F
以前教科書提到AI都拿IBM深藍來舉例

goodga, 25F
等大家都買IBM股票的時候才是真的

darkangel119, 26F
然後量產落賽

whitehumor, 27F
不是 我好像跟這個組合作過 哈哈哈

wulouise, 28F
ibm有那個製程成果量產的嗎?三星的?

attacksoil, 29F
比推理才對吧 edge computing很重要好嘛

samm3320, 30F
Edge就在比省電,GPU有在跟你省電的嗎,誰會在edge

samm3320, 31F
放一個h100在那邊推理

a606152004, 32F
IBM不是歷史課本裡才出現的組織嗎

wt, 33F
IBM 2022年全球35萬員工, Revenue 60B(USD)...

wt, 34F
有趣的是 IBM美國股價比Intel/AMD/TSMC(ADR)都高...

i1210, 35F
毛利率大於40%+股本越小的漲的快。

ExxonMobil, 36F
樓上這樣講就外行了……股價不代表什麼,要看market

ExxonMobil, 37F
cap才準。

i1210, 38F
流通股數少的聯發科比台積快漲停。股本差15倍

i1210, 39F
聯發科可能創新高就漲停。股本159億 台積股本2594

i1210, 40F

i1210, 41F
只要華爾街主要持有券商假動作倒5萬張就不會漲

i1210, 42F
高盛常常放假新聞做假動作當然沒ibm高

i1210, 43F
不代表t和a的研發比I 弱

Nerv, 44F
IBM開發,懂得就懂

mmonkeyboyy, 45F
edge也不是用GPU來比啊XD

misomochi, 46F
如果我也沒記錯類比AI晶片是希望可以達到更有效率

misomochi, 47F
的on-chip training?

misomochi, 48F
多打了也*

samm3320, 49F
真要去跟GPU對幹好歹TOPS先寫出來

mmonkeyboyy, 50F
其實inference GPU就不是什麼大宗啊

samm3320, 51F
所以這篇通篇不知道在比什麼

acer559655, 52F
笑死了整篇文章,大概就是想壓股價的文章。量產了

acer559655, 53F
沒,沒頭沒尾就下結論。減少購買輝達 呵呵呵

jay1233560, 54F
二哥:

stpiknow 作者的近期文章

[新聞] Meta在追求結合相機和AI的耳機,谷歌追求
Meta在追求結合相機和AI的耳機,谷歌追求AI智慧眼鏡,穿戴式AI正火熱 原文網址: https://bit.ly/3WTiczD 原文: Meta正進入開發創新耳機概念的早期階段,該概念Meta內部稱為Camerabuds。 這款內建
[新聞] 特斯拉裁掉大部分超級充電佔團隊的背後,
特斯拉裁掉大部分超級充電佔團隊的背後,有更大的野心 原文網址: https://bit.ly/44DhiJ9 原文: 到2023年結束時,幾乎所有主要美國汽車製造商都宣布了採用北美充電標準的計畫,對特 斯拉來說是一次重大勝利,也是對駕駛者長
[新聞] 想取代智慧型手機的AI裝置,離主流市場
想取代智慧型手機的AI裝置,離主流市場仍有一段距離,但卻帶來了曙光 原文網址: https://bit.ly/4dnFbbT 原文: 隨著生成式AI的崛起,許多創意正湧上新創公司身上,因為智慧型手機已經佔領人們生活 的重心,如果有一家公司能
[新聞] RISC-V為何那麼重要,讓美國商務部想要禁
RISC-V為何那麼重要,讓美國商務部想要禁止中國採用,但美國真能禁止嗎? 原文網址: https://bit.ly/49XTdxF 原文: 三星先進技術研究院(Samsung's Advanced Institute of Technol
[新聞] 亞馬遜、Alphabet、Meta和微軟在AI晶片
亞馬遜、Alphabet、Meta和微軟在AI晶片的佈局,長期將帶給輝達麻煩 原文網址: https://bit.ly/3UfIw3P 原文: 亞馬遜、Alphabet、Meta和微軟是AI雲端運算領域的四大參與者。他們也恰好是輝達GPU
[新聞] 中國在美國限制發展先進製程下,適得其
中國在美國限制發展先進製程下,適得其反成為成熟製程大國 原文網址: https://bit.ly/4b4tdlb 原文: 美國對中國實施嚴厲制裁,阻止其取得西方公司半導體製程的最新技術。不過,有一個問 題:這些制裁只是為了阻止先進技術落入中
[新聞] 微軟和Quantinuum合作並宣稱,在實現容
微軟和Quantinuum合作並宣稱,在實現容錯量子運算獲得大突破 原文網址: https://bit.ly/3J8TTW6 原文: 眾所皆知,量子運算有望改變從醫學到材料科學的一切。但有一個問題是,現今的量子電 腦非常容易出錯。如今微軟和
[新聞] 蘋果和特斯拉在中國市場的難題,才正揭開
蘋果和特斯拉在中國市場的難題,才正揭開序幕 原文網址: https://bit.ly/4czPkBS 原文: 有新聞報導,蘋果和微軟的市值差距愈來愈遠,如今已經差距5400億美元,相當於一家特 斯拉公司的市值。這一比喻,同一時間羞辱了兩家公
[新聞] 從微軟在AI佈局得知,大型科技獲取人才新
從微軟在AI佈局得知,大型科技獲取人才新方式,不是併購新創公司而是搶奪人才 原文網址: https://bit.ly/4cpM0cp 原文: 通常科技公司經常試圖透過所謂的收購來挖走聰明的員工團隊,也就是收購一家新創公司 來獲取人才。可是微
更多 stpiknow 作者的文章...