[新聞] 馬斯克、蘋果創辦人等人呼籲暫停開發AI

1.媒體來源: iThome 2.記者署名: 林妍溱 3.完整新聞標題: 馬斯克、蘋果創辦人等人加入呼籲暫停開發高階AI 4.完整新聞內文: 特斯拉執行長馬斯克（Elon Musk）、蘋果共同創辦人Steve Wozniak等科技大老昨（29） 日指出AI可能對社會和人類帶來重大風險，公開呼籲暫停開發比OpenAI的GPT-4高階的AI 系統至少6個月。 這份公開信是由非營利組織未來生活研究院（Future of Life Institute）發表，獲得 1,300多人聯署，包括馬斯克、Wozniak、Stability AI公司執行長Emad Mostaque、 Google AI部門DeepMind研究人員等人簽署聲援。 這份公開信指出，近幾個月各AI實驗室已陷入失控的競賽，發展與部署更強大，但甚至連 發明者都無法理解、預測和控制的AI。人類必須思考AI可預見的風險，包括散布假訊息、 自動化所有工作、超越或取代人類，甚至控制人類社會。為了防範這些情形發生，公開信 贊同OpenAI的觀點，認為在訓練未來AI系統前應獲得獨立審查，並且限制投入開發新模型 的運算資源。 這份公開信呼籲立即暫停訓練比GPT-4更強大的AI系統至少6個月，必須包含所有關鍵人士 ，且需公開且可驗證。若無法立即暫停，各國政府應介入強制中止。 而在暫停期間，AI實驗室和獨立專家共同開發安全規範，以開發精確、安全、可解釋、一 致化及可信任的AI系統，並由外部獨立人士嚴格稽核有確實遵守。他們強調，暫停措施並 不是要求全面性停止AI開發，只是希望能阻止危險的發展競賽，使其開發出不可預測及不 透明的AI模型。 同時公開信要求，AI開發人員應與立法機關合作，加速AI治理系統的建立。這個系統包括 成立專門主管機關、AI監管及追蹤工具、強大運算能力、稽核與認證系統、辨別AI合成內 容及追蹤模型外洩的浮水印技術，以及以公共基金支持AI安全研究，並建立AI傷害究責、 因應AI政經破壞的系統。 因應AI技術的快速演進，各國政府已有管制AI的倡議。歐盟計畫正在規畫第一部《人工智 慧法案》（AI Act），旨在強化AI模型的資料品質、透明度、人為監控及責任。中國則在 今年初發布人工智慧合成影片服務的管理法規，要求Deepfake影片應加上顯著標識以避免 公眾混淆。 OpenAI執行長Sam Altman近日也指出，魯莽發展超智能的通用式AI（Artificial General Intelligence，AGI）對世界造成的傷害和獨裁體制相同，共同規範AGI在關鍵時 刻放慢腳步有其必要性。但OpenAI並未對此公開信發表評論。 5.完整新聞連結 (或短網址)不可用YAHOO、LINE、MSN等轉載媒體: https://www.ithome.com.tw/news/156198 6.備註: 還有辦法停下來嗎？ -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 60.251.62.253 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1680161446.A.4C5.html