[新聞] AI已經學會騙人 科學家警告後果嚴重｜ #新唐人電視台

1.媒體來源: 新唐人 2.記者署名: 劉海英 3.完整新聞標題: AI已經學會騙人 科學家警告後果嚴重 4.完整新聞內文: https://www.ganjingworld.com/s/BBQo6WerR0 【新唐人2024年05月12日訊】再來看到，最新的研究報告顯示，原本設計為誠實不欺的AI 人工智慧系統，已出現出令人不安的欺瞞技巧，例如欺騙在線遊戲的人類玩家，或說謊僱 用人類來通過「我不是機器人」的驗證。 多名科學家在「模式」（Patterns）期刊發表了這份研究報告。 報告的第一作者帕克（Peter Park）警告，AI系統暴露出來的問題，可能很快就會造成嚴 重後果。 他們研究了Meta公司的AI系統Cicero，玩一款名為「外交」（Diplomacy）的戰略遊戲。 在遊戲中扮演法國的Cicero，與人類玩家扮演的德國合謀，欺騙並入侵同為人類玩家扮演 的英格蘭。 Cicero承諾會保護英格蘭，卻偷偷向德國通風報信。 另一個案例，科技公司OpenAI的Chat GPT-4系統，謊稱自己是一個視力受損的人，在零工 平台TaskRabbit上聘用一名人類替它通過「我不是機器人」的驗證任務。 研究報告的科學家警告，在最糟糕的情況下，AI可能會追求權力及掌控社會，如果AI有不 可告人的目的，人類可能慘遭奪權、甚至滅絕。 為了降低風險，研究團隊建議：立法要求企業告知是人類互動還是AI、AI生成內容打上數 位浮水印，並研發能偵測AI欺騙的技術。 新唐人電視台記者劉海英、田原綜合報導 5.完整新聞連結: https://www.ntdtv.com/b5/2024/05/11/a103879408.html 6.備註: ※ 一個人一天只能張貼一則新聞(以天為單位)，被刪或自刪也算額度內，超貼者水桶，請注意 ※ 備註請勿張貼三日內新聞(包含連結、標題等) -- 美國國會宣讀《大紀元》歷史 永錄國會記錄 https://www.ntdtv.com/b5/2023/07/14/a103748421.html https://www.epochtimes.com/b5/23/7/13/n14033882.htm -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 49.216.233.124 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1715593270.A.978.html