[新聞]路透社曝解僱Sam Altman 可能原因：AI 新專案Q*恐威脅人類

路透社曝解僱 Sam Altman 可能原因：AI 新專案「Q*」恐威脅人類 https://tinyurl.com/ywvepqwy OpenAI 研究人員發信警告董事會，宣稱內部一項 AI 新專案「Q*」（唸做 Q-Star）有重 大突破，恐怕威脅人類，進而成為董事會解僱執行長奧特曼（Sam Altman）的其一催化劑 。 《路透社》獨家引述 2 名知情人士的消息指出，奧特曼遭董事會解僱前，幾名 OpenAI 研究人員向董事會發出一封信，警告一項強大的 AI 新專案被發現未來可能威脅人類，引 發董事會的疑慮。知情人士更稱，未被報導的信件內容以及 AI 演算法是董事會解僱的關 鍵原因。 OpenAI 研究人員給董事會的信件指出新 AI 強大能力和潛在風險，知情人士未具體說明 信中指出的安全問題為何。 知情人士也透露，長期擔任 OpenAI 經營高層的穆拉蒂（Mira Murati）週三向員工提及 名為 Q* 的專案，並談到有封信已經送交給董事會。 Q* 取得了重大進展，OpenAI 研究人員認為這可能是 AI 公司尋求超級智慧（也稱為 AGI 通用人工智慧）的突破。OpenAI 將 AGI 定義為比人類更聰明的 AI 系統，研究人 員則對 Q* 未來成功非常樂觀。 藉由 OpenAI 大量運算資源，新模型能夠解決某些數學問題。研究人員認為數學可說是發 展生成式 AI 的尖端關鍵，目前生成式 AI 擅長利用統計預測下一個單字來產生回覆內容 ，且同一問題的各種答案可能大不相同，然而克服數學能力意味著 AI 將擁有類似人類智 慧的強大推理能力，可以應用在新興技術研究上。 奧特曼努力使 ChatGPT 成為歷史上成長最快速的應用程式之一，並從微軟手中獲得資金 和運算資源，期望更接近超級智慧的境界。「在 OpenAI 歷史上已有 4 次，最近一次就 在過去幾週發生。當我們掀開無知的面紗向前進時，其實我已經在這了，致力於做到這一 點是一生的榮譽」，奧特曼上週在亞太經濟合作會議（APEC）暢談未來展望時這麼說，然 而隔日便遭到董事會解僱。 隨著 OpenAI 這次事件快速變化，外界始終無法得知原有董事會解僱奧特曼的真正原因， 董事會僅透過聲明表示「奧特曼未能持續與董事會坦承溝通，阻礙董事會履行職責的能力 」。目前他和夥伴布洛克曼（Greg Brockman）在員工支援和擁護下重返 OpenAI，讓這次 事件一步步接近落幕。 董事會開始瞎掰理由找台階下了?還是抹黑? -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 180.177.0.5 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1700747580.A.A90.html