[新聞] AI將害人類滅絕？美國研究：恐導致末日

AI將害人類滅絕？美國研究：恐導致末日 setn 記者姚懷真／綜合報導 美國國務院最近委託民間公司進行AI研究，隨後發表令人震驚的報告，研究警告快速發展 的AI技術恐將導致人類滅絕，聯邦政府必須盡快採取行動，因為避免世紀災難的時間已經 所剩不多。 根據指令，自動生成影片或瞬間掌握龐大資料庫、精準回答問題，AI威力強大近年不斷發 展成為最夯科技話題。但最新有研究警告，再這樣下去，人類擔心飯碗不保前，恐怕就會 先全面滅絕。 電影《機械公敵》：「我的機器人不會殺人，他剛剛可是把人丟出窗外，難道這是你設定 的嗎？」 CNN主播：「AI不僅會操控人類，還有可能找到方法來讓人類滅絕嗎？」 美國國務院最近委託民間公司進行AI研究，報告警告快速發展的AI技術恐怕導致人類滅絕 ，聯邦政府必須盡快採取行動，因為避免世紀災難的時間已經所剩不多。 「AI教父」前Google副總裁Hinton ：「如果AI變得比我們聰明，那AI很有可能控制我們 ，因為AI會學習我們的行為，而且很少有例子是比較不聰明的那一方控制著更有智慧的一 方。」 該研究1年多來採訪200多人，包括OpenAI、谷歌DeepMind、臉書母公司Meta等，AI相關公 司高層指出AI風險是可以「武器化」，造成不可逆轉的破壞。另外AI實驗室內部存在隱憂 ，可能在某個時候失去對開發中系統的控制，對全球安全造成毀滅性後果。 「AI教父」前Google副總裁Hinton：「我目前也不知道怎麼解決，我只希望大家能意識到 這是個非常嚴重的問題，但我也不認為我們能停止發展腳步，因為即使美國停下來，中國 也不會停。」 研究也指出競爭壓力促使企業犧牲安全，加速AI開發，導致最先進的AI系統可能「遭竊取 和武器化」，用來對付美國的可能性升高。 白宮科技政策主任Prabhakar：「拜登從一開始就說得清楚，他表明我們必須確保能好好 控管AI風險。」 報告出爐後引起關注，白宮發言人則強調政府將推動立法來管理這些新興技術相關風險， 要大家別太擔心AI末日降臨。 https://www.setn.com/News.aspx?NewsID=1438682 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 49.215.45.203 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1710464841.A.59D.html