※ 本文轉寄自 ptt.cc, 文章原始頁面
[新聞] AI學會說謊 最新研究:AI已發展欺瞞技巧
AI學會說謊!最新研究:AI已發展欺瞞技巧 人類恐遭奪權滅絕
Yahoo奇摩
2024年5月11日 週六 下午3:35
人工智慧(AI)狂潮席捲科技業及全球市場,專家們長期以來不斷警告AI失控可能帶來威
脅,一項最新研究報告更指出,這件事已經在發生。
一群科學家10日發表於《模式》(Patterns)期刊的文章指出,原本設計為誠實不欺的現
有AI系統,已發展出令人不安的欺瞞技巧,例如哄騙線上遊戲的人類玩家,或說謊以僱用
人類來解決「我不是機器人」的驗證。
人工智慧(AI)狂潮席捲科技業及全球市場,專家們長期以來不斷警告AI失控可能帶來威
脅,一項最新研究報告更指出,AI已發展出欺瞞技巧。(示意圖/Getty Images)
法新社報導,這份研究報告的主要作者帕克(Peter Park)說,這類例子聽起來或許只是
細枝末節,但暴露出來的潛在問題可能很快就在現實世界造成嚴重後果。
在美國麻省理工學院(Massachusetts Institute of Technology)研究人工智慧(Artif
icialIntelligence,AI)存在安全的博士後研究員帕克告訴法新社,「這些危險能力常常
在事後才被發現」,而「我們訓練誠實傾向而非欺瞞傾向的能力非常差」。
帕克說,能深度學習的AI系統不像傳統軟體那樣由「編寫」而成,而是透過類似選擇性培
育的程序逐漸「成長」。
也就是說,AI的行為在訓練背景下看似可預測、可控制,但有可能轉眼就變得不受控制且
無法預測。
這支團隊的研究始於科技公司Meta的AI系統Cicero,這套系統最初設計目的是玩一款名為
「外交」(Diplomacy)的戰略遊戲,獲勝關鍵是結盟。
根據2022年發表在《科學》(Science)期刊的報告,Cicero在遊戲中表現優異,所獲分
數可排在資深人類玩家的前10%。
帕克當時很懷疑Meta對Cicero在遊戲裡大勝的熱切描述。Meta聲稱Cicero「在很大程度上
誠實且有幫助」,且「絕不會蓄意在背後搞鬼」。
但當帕克與同事深究完整資料時,發現完全是另一回事。
舉例來說,在遊戲中扮演法國的Cicero與人類玩家扮演的德國合謀,欺騙並入侵同為人類
玩家的英格蘭。
Cicero承諾會保護英格蘭,卻偷偷向德國通風報信。
Meta在寫給法新社的聲明中沒有反駁關於Cicero欺瞞人類的說法,僅說「這單純是一項研
究計畫,本公司研究員打造的模型接受訓練,目的只是用來玩『外交』遊戲…我們沒有打
算把這項研究或所學用於本公司的產品」。
帕克與同事還發現,這只是不同AI系統在沒有明確指示下,利用欺騙手段達成目標的諸多
案例之一。在另一個引人注意的案例中,科技公司OpenAI的Chat GPT-4系統謊稱自己是一
個視力受損的人,在零工平台TaskRabbit上聘用一個人類替它通過「我不是機器人」驗證
任務。
研究報告的作者們近期還認為AI有舞弊或不當影響選舉的風險。他們警告,在最糟糕的情
況下,具有超凡智慧的AI可能會追求權力及掌控社會,如果符合AI「不為人知的目標」,
人類可能慘遭奪權,甚至滅絕。
為了減輕風險,研究團隊建議數項措施,例如立法要求企業披露人類或AI互動、在AI生成
內容打上數位浮水印,並研發能偵測AI欺瞞的技術。
https://ynews.page.link/zG5Go
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.10.112.102 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1715448135.A.F44.html
34 則留言
godofsex 作者的近期文章
[新聞] 台積電待2年罹糖尿病!男曝職場宮鬥6技
台積電待2年罹糖尿病!男曝「職場宮鬥6技能」:已辭職回家養身 中天新聞網 2024年5月21日 週二 上午9:59 即時中心/綜合報導 台積電雖然薪資優渥,但工作也要承受不少壓力,有網友透露在台積電待了兩年多,怎料 前陣子卻驗出糖尿病,而該
33Tech_Job
[新聞] 台積電採購「2萬台筆電6.5億元」 竟是台積電採購「2萬台筆電6.5億元」竟是不動產營業員盜印簽假約 2024年05月20日 12:48 ▲不動產營業員疑似為了私下多賺一筆,假冒公司名義幫台積電員工宿舍採購筆電被起訴 。(示意圖/資料照) 記者劉昌松/台北報導 1名不動產公司陳姓
20Tech_Job
[新聞] 台積電鳳凰城廠區爆炸 傳1人重傷 現場台積電鳳凰城廠區爆炸 傳1人重傷 現場救援畫面曝光 08:432024/05/16 中時新聞網 郭宜欣 台積電美國廠驚傳爆炸意外,確切狀況待進一步更新。(圖/路透社) https://x.com/mraimonditv/status/179
推
推
推
→
推
推
推
→
推
噓
→
→
推
推
推
→
推
→
推
→
→
推
→
→
→
推
→
推
推
推
噓
→
推
噓