※ 本文轉寄自 ptt.cc, 文章原始頁面
[新聞] IBM開發出一款類比AI晶片雛型,在性能上匹敵GPU,在功耗上更勝GPU
IBM開發出一款類比AI晶片雛型,在性能上匹敵GPU,在功耗上更勝GPU
https://bit.ly/3KR6ZbW
IBM一直處於量子運算和許多其他研究領域的前沿,最近其展示了它認為的新AI處理解決
方案。IBM的願景並不是以GPU為中心,相反的,其認為混合訊號類比晶片中,可以大幅提
高能源效率,同時提供與市場當前主流產品GPU相同競爭力的性能。
如今IBM開發了一款類比AI晶片雛型。經過測試,該晶片與GPU等數位晶片一樣擅長電腦視
覺AI任務。就這一點來說,它的能源效率比GPU要高得多。在過程中,它將多個數位處理
單元和數位通訊結構與類比記憶體內運算結合。
換句話說,這是一種將部分混合訊號和類比晶片結合在一起的晶片。此外,該晶片結合了
相變記憶體(PCM)和數位電路,其聲稱在人工智慧推理方面將與GPU性能相匹配,但效率
高上得多。
AI推理現有的主要瓶頸之一涉及在記憶體和處理晶片之間分流數據,這會減慢處理速度並
消耗電力。至於IBM的類比AI晶片採用了不同的方式,使用PCM單元將推理權重儲存為類比
值並執行運算。
簡單來說,IBM的類比AI晶片本質上是在同一位置運算和儲存記憶體,因此可以糾正數據
傳輸中引起的畸變,同時也使系統變得更加節能。它幾乎像人腦的運作方式一樣,神經網
路就是在技術處理上和儲存發生在同一個位置的方式。
不過,目前這款類比AI晶片還只是紐約IBM的Albany奈米技術中心之研究雛型機,且處於
實驗階段。因此,仍還需要一段時間才能看到這類產品商業化。所以現階段,GPU在AI推
理的使用上仍是獨一無二的存在,可是其高功耗的型態必須慢慢的解決。
現今GPU在AI推理上的功耗是非AI處理器的10倍。一旦全球愈來愈多廠商佈建更多的AI伺
服器,那麼以現今的發電系統,將面臨負荷過重的情況。畢竟,電動車愈來愈普及的情況
下,也需要全球各國重新思考如何佈建更有效率地發電系統。
如果IBM這種記憶體內運算之類比AI晶片在AI推理領域起飛,那麼微軟、谷歌等公司將減
少從輝達公司購買的GPU數量,同時限制AI處理中對GPU的猛增需求,這對於市場遊戲規則
的改變,又將帶來很大衝擊。不過,IBM並沒有跟市場明說,這款晶片何時能夠進行量產
,所以短中期來說,AI市場仍舊需要依賴GPU。從這可以看出,當許多廠商跟隨輝達追求
GPU市場大餅的同時,IBM以反向操作模式,給產業界一個新的研發方向。
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 203.145.192.245 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1692770471.A.3BE.html
54 則留言
stpiknow 作者的近期文章
[新聞] Meta在追求結合相機和AI的耳機,谷歌追求
Meta在追求結合相機和AI的耳機,谷歌追求AI智慧眼鏡,穿戴式AI正火熱 原文網址: https://bit.ly/3WTiczD 原文: Meta正進入開發創新耳機概念的早期階段,該概念Meta內部稱為Camerabuds。 這款內建
[新聞] 特斯拉裁掉大部分超級充電佔團隊的背後,
特斯拉裁掉大部分超級充電佔團隊的背後,有更大的野心 原文網址: https://bit.ly/44DhiJ9 原文: 到2023年結束時,幾乎所有主要美國汽車製造商都宣布了採用北美充電標準的計畫,對特 斯拉來說是一次重大勝利,也是對駕駛者長
[新聞] 想取代智慧型手機的AI裝置,離主流市場
想取代智慧型手機的AI裝置,離主流市場仍有一段距離,但卻帶來了曙光 原文網址: https://bit.ly/4dnFbbT 原文: 隨著生成式AI的崛起,許多創意正湧上新創公司身上,因為智慧型手機已經佔領人們生活 的重心,如果有一家公司能
[新聞] RISC-V為何那麼重要,讓美國商務部想要禁
RISC-V為何那麼重要,讓美國商務部想要禁止中國採用,但美國真能禁止嗎? 原文網址: https://bit.ly/49XTdxF 原文: 三星先進技術研究院(Samsung's Advanced Institute of Technol
11Tech_Job
[新聞] 亞馬遜、Alphabet、Meta和微軟在AI晶片亞馬遜、Alphabet、Meta和微軟在AI晶片的佈局,長期將帶給輝達麻煩 原文網址: https://bit.ly/3UfIw3P 原文: 亞馬遜、Alphabet、Meta和微軟是AI雲端運算領域的四大參與者。他們也恰好是輝達GPU
34Tech_Job
[新聞] 中國在美國限制發展先進製程下,適得其中國在美國限制發展先進製程下,適得其反成為成熟製程大國 原文網址: https://bit.ly/4b4tdlb 原文: 美國對中國實施嚴厲制裁,阻止其取得西方公司半導體製程的最新技術。不過,有一個問 題:這些制裁只是為了阻止先進技術落入中
[新聞] 微軟和Quantinuum合作並宣稱,在實現容
微軟和Quantinuum合作並宣稱,在實現容錯量子運算獲得大突破 原文網址: https://bit.ly/3J8TTW6 原文: 眾所皆知,量子運算有望改變從醫學到材料科學的一切。但有一個問題是,現今的量子電 腦非常容易出錯。如今微軟和
17Tech_Job
[新聞] 蘋果和特斯拉在中國市場的難題,才正揭開蘋果和特斯拉在中國市場的難題,才正揭開序幕 原文網址: https://bit.ly/4czPkBS 原文: 有新聞報導,蘋果和微軟的市值差距愈來愈遠,如今已經差距5400億美元,相當於一家特 斯拉公司的市值。這一比喻,同一時間羞辱了兩家公
[新聞] 從微軟在AI佈局得知,大型科技獲取人才新
從微軟在AI佈局得知,大型科技獲取人才新方式,不是併購新創公司而是搶奪人才 原文網址: https://bit.ly/4cpM0cp 原文: 通常科技公司經常試圖透過所謂的收購來挖走聰明的員工團隊,也就是收購一家新創公司 來獲取人才。可是微
推
→
推
推
推
推
推
→
推
推
→
推
推
推
→
推
推
→
→
推
→
→
噓
→
推
推
推
推
推
→
→
推
推
推
噓
推
→
→
→
→
推
→
→
→
推
推
→
→
→
推
→
噓
→
推