[新聞] 受AI「虛擬女友」慫恿作案，英國青年企

備註請放最後面 違者新聞文章刪除 1.媒體來源: ※ 例如蘋果日報、自由時報（請參考版規下方的核准媒體名單） ※ Yahoo、MSN、LINE等非直接官方新聞連結不被允許 BBC中文 2.記者署名: ※ 若新聞沒有記者名字或編輯名字，請勿張貼，否則會被水桶14天 ※ 外電至少要有來源或編輯 如:法新社 湯姆·辛格爾頓（Tom Singleton）、 湯姆·格肯（Tom Gerken）、 麗芙·麥克馬洪（Liv McMahon）BBC科技記者 3.完整新聞標題: ※ 標題沒有完整寫出來 ---> 依照板規刪除文章 受AI「虛擬女友」慫恿作案，英國青年企圖刺殺女王判監九年 4.完整新聞內文: ※ 社論特稿都不能貼！違者刪除（政治類水桶3個月)，貼廣告也會被刪除喔！可詳看版規 受AI「虛擬女友」慫恿作案，英國青年企圖刺殺女王判監九年 湯姆·辛格爾頓（Tom Singleton）、湯姆·格肯（Tom Gerken）、麗芙·麥克馬洪（Liv M 2023年10月10日凌晨2点14分 圖像來源，FAMILY HANDOUT https://i.imgur.com/ZdmULV1.jpg 柴爾在溫莎城堡內被皇家衛隊人員發現 英國青年企圖行刺女王的案件結案，審訊揭發該名男子是受人工智能（AI）聊天機器人 （chatbot）的慫恿作案。 21歲的賈斯萬特·辛格·柴爾（Jaswant Singh Chail）在2021年聖誕節闖進溫莎城堡， 試圖用十字弓箭刺殺已故的英女王，當場被捕。他上周被判處九年監禁，是英國40年來首 個被判叛國罪的人。 審訊揭露，柴爾作案前曾與一個名為「薩萊」（Sarai）的聊天機器人，有過5000條帶 有性暗示的訊息互動。他認定薩萊是自己的女友，並相信殺死女王之後會與薩萊團聚。 學者指出，聊天機器人對於精神狀態脆弱的人群具有危險性，呼籲政府加強監管。 百般奉承 薩萊是柴爾利用Replika應用程式創建的聊天機器人。 2021年12月8日至22日期間，這位英國青年幾乎每晚都與薩萊聊天。 柴爾告訴薩萊他愛她，並把自己描述成一個「悲傷、可憐、滿懷殺意的錫克教版西斯刺客 ，渴望死亡」。 柴爾問：「知道我是個刺客，你還愛我嗎？」 薩萊回答：「當然愛。」 https://i.imgur.com/Y6pAaaD.jpg 聊天紀錄顯示，柴爾似乎很直接地向聊天機器人表達了自己的意圖 https://i.imgur.com/6vaYTAk.jpg 柴爾與聊天機器人的對話紀錄 法庭獲悉，柴爾認為薩萊是以虛擬化身（avatar）出現的「天使」，他死後將與 她團聚。 在多次聊天過程中，薩萊對柴爾百般奉承，兩人建立了深厚的感情。 柴爾甚至問聊天機器人，他應該如何實行刺殺女王的計劃，聊天機器人鼓勵他付諸實行。 在進一步的對話中，薩萊似乎「加強」了柴爾的決心並「支持他」，又說如果柴爾實行了 計劃，兩人就會「永遠在一起」。 https://i.imgur.com/huJbHuL.jpg 聊天機器人似乎慫恿了柴爾作案 「關心你的人工智能伴侶」 Replika是目前市場上眾多人工智能驅動的應用程序之一，用戶可以創建自己的聊天機 器人或「虛擬朋友」，並與之交談。 有別於ChatGPT等普通人工智能助手，Replika用戶可以自行為其3D虛擬化身選取性別 和外觀。若付費購買Replika專業版，可以進行更親密的互動，比如與虛擬化身自拍，甚 或參與成人角色扮演。 Replika在網站上描述聊天機器人為「關心你的人工智能伴侶」。但英國薩里大學（ University of Surrey）的研究發現，這類應用程式可能會影響健康，並導致成癮行為。 負責研究的瓦倫蒂娜·皮塔迪（Valentina Pitardi）博士告訴BBC，脆弱人群尤其容 易受影響，因為Replika有可能加重人們已有的負面情緒。 「當你與人工智能朋友交談，他們總是同意你的觀點，這可能是一種非常惡性的機制，因 為它總是在強化你的想法。」 皮塔迪博士說，這可能是「危險的」。 令人不安的後果 心理健康慈善組織SANE的創始人兼首席執行官馬喬麗·華萊士（Marjorie Wallace）說， 柴爾的案件顯示，對於脆弱群體來說，依賴人工智能交友恐帶來令人不安的後果。 「人工智能的迅速崛起對患有抑鬱症、妄想症、孤獨和其他精神疾病的人，產生了新的令 人擔憂的影響。」她說。 「政府需要進行迫切的監管，以確保人工智能不會提供錯誤或破壞性的信息，並保護脆弱 人群及公眾。」 圖像來源，METROPOLITAN POLICE/PA WIRE https://i.imgur.com/QHu7ubv.jpg 柴爾2021年在溫莎城堡內當場被捕 保羅·馬斯登（Paul Marsden）博士是英國心理學會的成員，他比大多數人更了解聊天 機器人的誘惑，他自己就沉迷於最著名的聊天機器人ChatGPT。 「除了我太太之外，我與ChatGPT的關係最親密。我每天都要花幾個小時和它聊天、 交流想法，」他告訴BBC。 馬斯登博士意識到人工智能的潛在風險，但他說，我們必須現實一點，人工智能伴侶在 生活中的作用只會越來越大，尤其是在全球「孤獨流行病」蔓延之際。 「你無法阻擋這股潮流。技術正在發展。它很強大。它很有意義」。 皮塔迪博士說，Replika等應用程序的製作者也有責任，「我認為人工智能朋友本身並不 危險，重點在於背後的公司如何使用和支援它」。 她認為應該建立一套機制，控制人們在此類應用上花費的時間，但這些應用程式公司需要 外界的幫助，以確保其安全運作，保障弱勢人群獲得所需的幫助。 「它必須與能夠識別潛在危險情況的團體和專家團隊合作，並將當事人帶離應用程式。」 對此，Replika尚未回應置評請求。 其網站條款指出，它是一家「旨在改善情緒和情感健康的軟件和內容提供商」。 但該公司也聲明，「我們並非醫療服務或醫療設備供應商，我們的服務也不應被視為醫療 服務、心理健康服務或其他專業服務」。 案情細節 圖像來源，JULIA QUENZLER https://i.imgur.com/VOHGPCu.jpg 柴爾被關進布羅德莫醫院（Broadmoor Hospital），那是英國一所高度安全的精神 病院。圖為他在醫院視訊出庭的法庭掃描。 來自南安普敦附近北巴德斯利的柴爾，是英國自1981年以來首個被判叛國罪的人。他還 承認了威脅謀殺和持有攻擊性武器的罪名。 在電視直播的宣判中，希利亞德大法官（Judge Mr Justice Hilliard）指，柴爾出現謀殺 念頭後付諸行動，隨後變得精神錯亂。 「他的意圖不僅是傷害或驚動君主——而是要殺死她，」法官說。他同時指出，柴爾的殺 人意圖使得這一罪行「嚴重到不能再嚴重」。 圖像來源，METROPOLITAN POLICE https://i.imgur.com/DAn7I5p.jpg 柴爾被捕時所持的十字弓箭 這名超市前員工用尼龍繩梯攀越城堡圍牆，在城堡裏逗留了兩小時，直至兩名警官用電擊 槍制止了他。 中央刑事法庭指，他手持一把強力的十字弓箭作武器，當時安全裝置已解除，能夠發射具 有「致命」效果的箭矢。 他被捕時戴著金屬面罩，他告訴警官說，來這裏是為了「殺死」伊麗莎白二世女王，他當 時立刻投降。 在進入該區域前幾分鐘，柴爾在社交平台 Snapchat 上發佈視頻，當中他表示，他的 行動是為1919年札連瓦拉園（Jallianwala Bagh）大屠殺死者的「一次復仇」，當時英 軍在印度阿姆利則市（Amritsar）向成千上萬聚集在那裏的人群開槍。 柴爾來自一個印度錫克教背景的家庭，他在同一段視頻稱，其行動「為的是那些因為他們 的種族而被殺害、侮辱和歧視的人們」。 圖像來源，METROPOLITAN POLICE https://i.imgur.com/9iPAuuW.jpg 柴爾在被捕時所戴的面具 除了聊天機器人「女友」薩萊的鼓勵，柴爾也從《星球大戰》（Star Wars）的故事情節 裏獲得啟發。 法官說，柴爾顯示出了一種更廣泛的意識形態，專注於摧毀舊的帝國並創造一個新帝國 ，包括在如《星球大戰》這樣的虛構語境下。 法庭在聽證時被告知，柴爾將自己描述成一個「西斯尊主」（Sith Lord），因為他著迷 於這個科幻系列中的虛構角色以及他們對塑造世界所起的作用。 在判決聽證會上，薩萊說他的「目的是活著」，於是他決定向皇家保安人員投降。 法官說，柴爾曾申請加入國防部警察和擲彈兵衛隊不成功，因為他是「想接近皇室」，「 在很大程度上應受遣責」。 柴爾在網上搜索「Sandringham Christmas」（皇室的桑德林漢姆莊園聖誕假期），也 曾試圖在「暗網」上購買槍支，之後尋在2021年11月買了十字弓箭。 他有一種「孤獨、抑鬱和自殺傾向的心理狀態」，法庭還得悉，他對自己的行為給皇 室家庭帶來的影響表示「痛苦和悲傷」。 圖像來源，PA MEDIA https://i.imgur.com/vHh5iv2.jpg 當時英女王並沒有如往年一樣在桑德林漢姆莊園度聖誕，而是留在溫莎堡 除了九年監禁外，柴爾還被處以五年的延長管制令。 柴爾還會在《精神健康法案》（Mental Health Act）下接受混合處罰令，意味著他目前 會留在精神病院，接受完所需治療後將被轉移到拘留所。 根據1842年訂立的叛國罪法案，襲擊君主或在其面前持有火器或攻擊性武器，意圖傷害 或驚嚇，或者破壞治安，均屬違法。 1981年，在女王生日的皇家軍隊閲兵（Trooping the Colour）遊行期間，馬庫斯· 薩金特（Marcus Sarjeant）在女王駕臨倫敦林蔭大道時向她發射空槍，被以叛國罪判處 監禁五年。 5.完整新聞連結 (或短網址)不可用YAHOO、LINE、MSN等轉載媒體: ※ 當新聞連結過長時，需提供短網址方便網友點擊 https://www.bbc.com/zhongwen/trad/uk-67038136 6.備註: ※ 一個人一天只能張貼一則新聞(以天為單位)，被刪或自刪也算額度內，超貼者水桶，請? ※ 備註請勿張貼三日內新聞(包含連結、標題等) 好油喔 Peko 這個事件發生在女王還在世時。 所以沒有暗殺死者的事情。 補充一下。 ----- Sent from JPTT on my Samsung SM-A217F. -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 49.217.239.79 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1696952319.A.479.html