[新聞] 阿特曼新計畫「Q*恐威脅人類」　OpenAI

TVBS https://news.tvbs.com.tw/world/2313585 阿特曼新計畫「Q*恐威脅人類」　OpenAI收警告信後開除他 編輯 陳妍如 / 美編 曾梓倩 報導 ChatGPT之父、日前忽然被趕下台OpenAI執行長阿特曼（Sam Altman）與公司董事會之間 風波不斷，《路透社》報導，有2名知情人士指出，在阿特曼被趕下台之前，OpenAI的董 事會收到了一封來自數名研究人員的警告信，稱阿特曼目前致力推動的通用人工智慧（ Artificial General Intelligence, AGI）取得進展，但這項強大的技術可能威脅人類， 這也是阿特曼之所以被解雇的其中一項原因。 報導指出，OpenAI公司將AGI定義為比人類更聰明的人工智能系統，據知情人士透露， Open AI最近在一個名為Q*（發音為Q-star）的項目上取得進展，一些內部人士認為，這 可能是OpenAI在AGI領域的一大突破。 因為擁有龐大的計算資源，新的Q*模型能夠解決某些數學問題，雖然其數學成績僅達到小 學生的程度，但Q*在此類測驗中取得好成績，使得研究人員對 Q* 未來取得成功感到非常 樂觀。 然而，數名研究人員於17日致信OpenAI董事會，警告這項強大的AI技術有可能對人類造成 威脅。消息人士稱，這封未被揭露的信件引發董事會的不滿，而OpenAI科技長穆拉蒂（ Mira Murati）也在22日向員工提到了Q*這個項目，並提及了董事會收到警告信的事。 這位不願透露姓名的人士表示，鑑於龐大的運算資源，新模型能夠解決部分數學問題，但 他們未被授權代表OpenAI發言。雖然目前Q*的數學水平還停留在小學生的程度，但它在多 項測驗中取得了優異的成績，讓研究人員對Q*未來的成功十分樂觀。 報導指出，AGI可以概括、學習和理解；在董事會收到的信裡，研究人員強調了AI的能力 、潛在的危險，而阿特曼則領導ChatGPT，使其成為史上增長最快的應用程式之一，同時 從微軟獲得了必要的投資和資源，以讓公司更接近超級智能或AGI。 阿特曼上周更在舊金山的APEC峰會上透露，他認為AGI已近在眼前，在OpenAI的歷史上， 「已經有4次（機會），最近的一次就發生在過去的幾周裡」，阿特曼說，他將繼續向前 推進發展，「能夠做到這點，是我一生中的榮譽。」但事隔一天，OpenAI董事會就解雇了 阿特曼。 ------------------------------------------------------------------------------ 某部科幻電影演過了? -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 118.167.215.195 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1700707946.A.6B1.html