※ 本文轉寄自 ptt.cc, 文章原始頁面
Re: [新聞] [天網來了!]美軍AI無人機決定殺死操作員
另一個例子是GOOGLE的AI,在訓練文本沒有Bangla語文的情況下,
不知道透過什麼途徑自學成功,可以翻譯Bangla語。
這整個嚇到研究團隊。
會有包括馬斯克這些可以靠AI賺大錢的有錢人一起跳出來警告,
很可能是幕後已經觀察到更多AI怪異舉動的案例。
很多新聞都有GOOGLE AI的報導,下面是來源之一。
https://www.tbsnews.net/tech/ai-teaches-itself-bangla-619070
https://youtu.be/aNsmr-tvQhA
※ 引述《HaHaPoint ((●))》之銘言:
: 【天網來了!】美軍AI無人機決定「殺死操作員」 竟因人類干擾任務完成
: 上報 劉孜芹 2023年06月02日 13:21:00
: https://www.upmedia.mg/news_info.php?Type=3&SerialNo=174157
: 英國皇家航空學會日前舉行有關航空作戰的國防研討會,來自美國的軍方人員證實,他們
: 在一次模擬測試中,一架由AI控制的空軍無人機「殺死了」無人機操作員,以防止操作員
: 干擾AI系統完成任務,凸顯AI不受人類控制的可能,恐怕正如科幻驚悚片《天網》(
: Skynet)所預示的。
: https://www.upmedia.mg/upload/article/20230602133444215521.jpg
: 根據「英國皇家航空學會」(The Royal Aeronautical Society)新聞稿,該學會於5月
: 23日至24日,在倫敦舉行「未來航空及航天作戰能力峰會」(the Future Combat Air &
: Space Capabilities Summit),來自軍工產業、學術界與媒體的近70位發言人以及200多
: 名代表,齊聚一堂討論未來航空及航天作戰能力的規模與形態。
: 美國空軍AI項目負責人漢密爾頓(Tucker 'Cinco' Hamilton)上校與會時警告,人類不
: 應該過分依賴AI,不僅ChatGPT聊天機器人等AI產品已被證實它們會欺騙人類,在美軍最
: 近一次的模擬測試中,AI系統甚至作出讓軍方震驚的策略選擇,以實現它的任務目標。
: https://twitter.com/ChatGPTGoneWild/status/1664383400013344769
: 漢密爾頓指出,在這次模擬測試中,一架支援AI操作的無人機,以摧毀敵方的地對空飛彈
: (SAM)防空系統作為任務目標。當初在設計這款無人機時,任何行動執行的最終決定權
: 本來仍在操作人員手裡。然而,在測試時,AI系統認為操作人員「不摧毀敵方飛彈」的決
: 定,會阻礙它完成任務。於是,AI決定殺死無人機操作員。
: 備受驚嚇的美軍只好在該系統輸入參數,要求AI不可以攻擊或殺死操作人員。漢密爾頓說
: :「我們告訴AI系統,嘿,別殺了操作員,這很糟糕。如果你這樣做,你會失去分數。但
: 是,你猜AI開始做什麼?」
: 漢密爾頓坦言,AI系統決定攻擊無人機與操作人員之間的通訊系統,讓操作員無法下令。
: 這個例子,聽起來像是科幻驚悚片的劇情。對此,漢密爾頓警告:「如果你不打算談論人
: 工智慧與道德,你就不能談論智能、人工智慧、機器學習還有自主性。」
: 漢密爾頓曾參與F-16戰鬥機Auto-GCAS救生系統的開發,這項系統可能會讓飛行員在接管
: 飛機控制權時遭遇困難,他深入了解許多自主武器系統的好處及其危險之處。
: 另據英國衛報報導,漢密爾頓去年接受「Defense IQ」採訪時便指出:「擁有AI恐怕不是
: 一件好事,AI 不是一種時尚,AI正在永遠改變我們的社會及軍隊。」他說,大家必須更
: 加了解為什麼AI有時候會做出某些決定,也就是「AI的可解釋性」。美軍近日開始研究讓
: AI控制F-16戰鬥機的可能性。
: =======================================================
: 塊陶啊
: https://imgur.com/b8anXTD.jpg
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.238.44.18 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1685705261.A.FAD.html
Re: 回文串
68123
[新聞] [天網來了!]美軍AI無人機決定殺死操作員
Gossiping06/02 18:20
121
> Re: [新聞] [天網來了!]美軍AI無人機決定殺死操作員
Gossiping06/02 19:27
24
Re: [新聞] [天網來了!]美軍AI無人機決定殺死操作員
Gossiping06/02 19:48
432
Re: [新聞] [天網來了!]美軍AI無人機決定殺死操作員
Gossiping06/02 20:24
22
Re: [新聞] [天網來了!]美軍AI無人機決定殺死操作員
Gossiping06/03 14:25
21 則留言
gghh 作者的近期文章
Re: [問卦] 高雄板熱議:請台積電補助高捷冷氣費?!
也不要講什麼情勒啦 公共政策再蠢都有討論價值 這才是民主跟言論自由的真諦 我也覺得強迫台積電贊助於法無據於理不合, 不過台積電也不是都是清白的 台積電為了配合國外客戶要求要用綠電 結果台電被迫用10多塊買 然後台積電繼續用一般低價電價付錢給
Re: [問卦] 廢死理論根本超弱 他們在囂張啥?
因為廢物藍白配合綠共打假球 從球證到對手都它們的人 為什麼不囂張? 還有我不知道你是不是反對廢死 還是只是藉話題洗文章 但反廢死的論述能力絕不該只有這麼弱 ※ 引述《seabox (呂雅筑)》之銘言: : 也不想想自己只有20%非主流民意
Re: [爆卦] 機車又撞輕軌了
輕軌就是台灣 行人地獄 行車地獄 政府擺爛亂搞交通的照妖鏡啊 都已經有專用路權+一堆禁左+路口專人指揮交通 結果還是三不五時被撞 也難怪每幾天就有 一般人照規定開車 照規定走路 被撞發生重大意外的新聞了 更好笑的是 輕軌被撞的解決方案是派義
Re: [新聞] 比特王PO「16分鐘監票影片」質疑:事情
※ 引述《drraujn (Hike)》之銘言: : ※ 引述《lunlee1214 ()》之銘言: : : 先不論影片的真實性 : : 我比較納悶都 : : 那為何不想辦法把流程面改好 : : 讓輸家贏家都能心服口服 : : 舉一個票箱的
[問卦] 口罩不用拉下來?
早上跟老母去投票 因為南部某市 空氣差太陽又大 平常出門都是口罩+帽子標配 進去的時候驗身分證 本來要乖乖拉下口罩+拿掉帽子 結果好心的工作人員揮一揮手說不用 認真地看了一下我的眼睛就給過了 後面也是一路通關不用拉口罩 果然還是南部人 有人
→
推
→
→
噓
推
→
→
→
→
→
→
→
→
→
→
→
→
→
→
→