※ 本文轉寄自 ptt.cc, 文章原始頁面
看板Tech_Job
標題

Re: [討論] 有哪些工程師不會被AI取代的嗎?

時間
留言6則留言,6人參與討論
推噓4 ( 402 )
※ 引述《xross (xross)》之銘言: : AI 比你想得有料 : Andrej Karpathy 自己都說他自己大部分時間都靠 AI 生 code 了 : https://karpathy.medium.com/software-2-0-a64152b37c35 : 這篇老文章就有說 : 空間時間複雜度?? 可以吃嗎 : Software 2.0 告訴我們 : Constant running time : Constant memory use : 內文也提到 : 人類智慧結晶 搞出來的 cache-optimized B-Trees 直接被 AI 幹翻 : (版上臥虎藏龍 手魯industry-ready-B-Tree的高手可以出來嗆一下嗎?) : "outperforming cache-optimized B-Trees by up to 70% in speed while saving an : order-of-magnitude in memory." : 這讓我想到 DLSS 也是藉由 AI/DL 直接做到以前一堆專家搞出來的upscale + AA根本 : 到不了的好效果 : 說了這麼多 : 希望能盡快看到 官方 PTT app : 目前可能 AI 還在學習怎麼寫 下班前看到就認真回覆一下, 先說你有點搞錯Karpathy所謂的Software 2.0了,Software 2.0也不是什麼很新的概念。 他的概念就是過往我們使用從底層打包上來的Library來顯式開發API為Software 1.0,而 2.0則是只有定義數據集,定義神經網路框架跟訓練,最後將網路編寫成二進制透過工業 化流水線軟體平台部署。 不過有一個很大的前提,「定義搜索空間跟優化方向」,這個神經網路優化方向是需要人 工來定義的,這邊其實前幾年AlphaTensor就有做出實驗,直接透過強化學習去找矩陣乘 法的最佳解,結果確實找到了一組可以應用的比原本最佳矩陣乘法快了20%的解。 定義目標的依舊是電腦科學家/工程師,不是說什麼老闆/PM啊,你去跟老闆/PM講解Low r ank tensor decomposition ,他只會跟你說聽不懂。 其實Software 2.0就是現在我們在做的深度學習/LLM這件事情,理論上有可能讓一個夠大 的模型來解決一切的問題,讓神經網路包覆整個底層軟體。如果要做一個複雜功能就直接 給兩個Software 2.0模組組合去一起做反向傳播優化,然後就可以去配適到我們的開發任 務上,只是那個結果我們可能很難解釋他(90%的ACC不一定代表能夠fit到所有未知的數據 上)。 如果模型參數量不夠大還是會有No free lunch的問題,所以未來很長一段時間依舊是會 有神經網路搭配顯式編程的方式持續,Karpathy後面也有提出Software 2.0的限制,不是 絕對樂觀看待的。 以上 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.10.6.129 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1685441687.A.A94.html

6 則留言

※ 編輯: sxy67230 (101.10.6.129 臺灣), 05/30/2023 18:15:17
※ 編輯: sxy67230 (101.10.6.129 臺灣), 05/30/2023 18:15:36

j0958322080, 1F
Low rank tensor decomposition 工程師可能也不懂
就只是low rank decomposition矩陣擴張成三維而已,大學線代有認真上課看一下就懂了 ,模型只是我們把已經知道的算法透過神經網路跟強化學習做空間搜索而已
※ 編輯: sxy67230 (101.10.6.129 臺灣), 05/30/2023 19:00:28
※ 編輯: sxy67230 (101.10.6.129 臺灣), 05/30/2023 19:00:54

n00bmaster, 2F
sw2 web3 工業4 5g網路 炒股口號不知何時可以湊滿

DrTech, 3F
難得有認真討論文,而且是正常ML背景的文章

kirayue, 4F

labbat, 5F
這個矩陣乘法化簡是今年的唄,哪有幾年前那麼久

gcnet, 6F
30年前就被問過這題
※ 編輯: sxy67230 (101.10.6.129 臺灣), 05/31/2023 08:11:27

sxy67230 作者的近期文章

Re: [新聞] 竹科還在裁員「清大生待業1年」嘸頭路
※ 引述《sky2030 (無業遊民)》之銘言: 阿肥外商碼農阿肥啦! 阿就疫情紅利時代過了,那個時候疫情紅利還在的年代(兩年前),阿肥公司還收過連Cod e Error Message都不會看的小妹,反正主管覺得找不到滿意的、然後上面老大
Re: [討論] 中國科技業發展不起來的原因?
※ 引述《soufon (Google)》之銘言: : 同樣是亞洲國家 : 人口基數還是亞洲基數最大的 : 結果 : 智慧手機亞洲王 - 南韓三星 : 汽車產業王 - 日本多品牌 : 半導體 - 台灣 台積電 聯發科為首 的多品牌 : 軟體
Re: [請益]現在年薪300算是勉強及格嗎?(能留言的門檻)
※ 引述 《abzyner》 之銘言: : 推 imreader : 另外年收破三百的。會另外自己設公司,不會掛在所得 01/07 11: 37 : → imreader : 不然為何每次去賣場,收銀員都會問有沒有統編 01/07 11:
更多 sxy67230 作者的文章...