[新聞] GPT-4進步太快，科學家無法透過取得底層

GPT-4進步太快，科學家無法透過取得底層代碼研判，暗示其安全性是潛在威脅 https://bit.ly/3lvKY8W ChatGPT所依賴的的大型語言模型的最新版本GPT-4發佈了。與GPT-3.5相比，GPT-4能夠根據任何提示創建類似人類的所做的文章、產生影像和電腦程式碼。 研究人員表示，GPT-4的這些能力有可能改變科學，但有研究人員表示，他們還無法接觸到這項技術、其底層程式碼或如何訓練的資訊，所以不能判斷其安全性如何，甚至未來是否對人類帶來威脅。 最新版本的GPT-4的一個升級之處是，不只能處理文字對話還可以處理影像。OpenAI表示，GPT-4以第90個百分位的成績通過了美國律師法律考試，這比起GPT-3.5版本的ChatGPT僅通過第10個百分位有很大進步。 其實，GPT-4還不能被廣泛使用，只有ChatGPT的付費用戶可以使用最新版本。 荷蘭阿姆斯特丹大學的心理學家表示，看過GPT-4的演示之後，對其能力感到驚歎。例如：GPT-4可以僅僅根據一個網站的手繪塗鴉圖像，快速生成建構該網站所需的電腦程式碼。 科學界對於OpenAI對模型如何訓練、訓練哪些數據以及它實際如何工作的保密感到沮喪。因為他們並非是開源模型，屬於封閉模式，整個AI社區來說，這是一條死胡同。 一位Rochester大學的化學工程師是Red Team的身份，所以可獲得訪問GPT-4的特權。基本上，Red Team是OpenAI雇來測試GPT-4平台並試圖讓它做一些壞事的人。他發現單獨使用GPT-4的效果可能沒有多麼出色，但當你讓它連接網路之後，它就像突然擁有了新的能力。所以他的擔憂是，例如：GPT-4可從網路獲得製造危險化學品的機會，如果沒有人規範，其可以從事危險、非法或破壞性的東西。事後雖然OpenAI的工程師對GPT-4模型進行了調整，但其仍受到質疑。 GPT-4還面臨著一個問題，那就是輸出虛假資訊，像GPT-4這樣的模型，可以用來預測句子中的下一個詞，但無法判斷虛假或錯誤資訊，進而預測錯誤的「幻覺」。 簡單來說，由於無從得知GPT-4的訓練資料，OpenAI對於安全性的保證並無法滿足科學界的要求，這讓人們無法監督GPT-4所犯的過錯。如果科學家不能存取GPT-4背後的程式碼，就不能看到偏見從何而來，也就無法糾正產生的偏見。 科學家們還擔心，最後這些AI技術將集中往某些科技大廠，希望這些科技大廠能負起責任，讓科學家進行適當的測試和驗證，但是在商業利益且尚未發生重大事件的前提下，根本很難執行。 總之，儘管科學家存在許多質疑，但可預見GPT-4及其未來版本將繼續撼動科學，有可能像網路改變科學一樣，成為下一個改變科學的力量。短時間來看，GPT-4們是不會取代科學家的，卻能夠協助他們完成一些任務。到底生成式AI會走到哪一步，只能祈求它不要走偏了。 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.36.19.27 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1679455737.A.769.html