[新聞] 馬斯克等千人簽署公開信：呼籲暫停巨型AI實驗

原文標題：馬斯克等千人簽署公開信：呼籲暫停巨型AI實驗 原文連結：https://news.cnyes.com/news/id/5130884 發布時間：2023/03/29 15:00 記者署名： 原文內容： 正當發展 AI 成為最新顯學時，另一批科技人卻是憂心忡忡，要求「暫停巨型 AI 實驗」 。 生命未來研究所 (Future of Life)3 月 22 日向全社會發佈了一封《暫停大型人工智慧 研究》的公開信，呼籲所有人工智慧實驗室立即暫停比 GPT-4 更強大的人工智慧系統的 訓練，暫停時間至少為 6 個月。 這封信有 1100 多人簽名，其中不乏科技界名人，例如馬斯克 (Elon Musk)、蘋果聯合創 辦人 Steve Wozniak、Stability AI 創辦人 Emad Mostaque 等知名人士。 其中，馬斯克在 chatGPT 走紅之後，就不斷批評 OpenAI，並在 2 月份發推文稱，「 OpenAI 是作為一個開源公司 (這就是我將其命名為「Open」AI 的原因) 創建的，是一家 非營利性公司，旨在與 Google(GOOGL-US) 抗衡，但現在它已經 成為微軟 (MSFT-US) 有 效控制的閉源、利潤最大化的公司。」他認為，這家公司完全違背了當初成立的初衷。 生命未來研究所在信中呼籲，所有人工智慧實驗室立即暫停對比 GPT-4 更強大的人工智 能系統的訓練，為期至少 6 個月。這種暫停應該是公開的和可驗證的，並且包括所有關 鍵參與者。如果不能迅速實施這種暫停，政府應介入並暫停。 信中強調，人工智慧研究和開發應該重新聚焦於使當今強大的、最先進的系統更加準確、 安全、可解釋、透明、穩健、一致、值得信賴和忠誠。 在此之前，OpenAI CEO Sam Altman 在與 MIT 研究科學家 Lex Fridman 的最新對話中指 出，AI 已經出現其無法解釋的推理能力，同時承認「AI 殺死人類」並非完全不可能。 上個月，在微軟發布 Bing 聊天機器人之後，一份名為「立即拔掉邪惡的 AI」的請願書 在 change.org 上流傳開來。 Future of Life Institute 是一家非營利組織，其使命是降低核戰爭的風險並改善 AI 治理。 著名物理學家 Max Tegmark 是其總裁，這家機構的網站中，將馬斯克列為外部顧 問。 心得/評論： 幫馬投顧翻譯一下: 馬投顧:不要再炒 AI 了，快回來炒電動車阿 AI 要毀麵人類了 還有幾集可以逃??? -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 1.169.38.14 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1680078715.A.F54.html