[新聞] 美軍AI無人機決定「殺死操作員」因人類

完整標題： 美軍AI無人機決定「殺死操作員」　竟因人類干擾任務完成 原文網址:https://pse.is/4zdcab 上報 劉孜芹 英國皇家航空學會日前舉行有關航空作戰的國防研討會，來自美國的軍方人員證實，他們 在一次模擬測試中，一架由AI控制的空軍無人機「殺死了」無人機操作員，以防止操作員 干擾AI系統完成任務，凸顯AI不受人類控制的可能，恐怕正如科幻驚悚片《天網》（ Skynet）所預示的。 根據「英國皇家航空學會」（The Royal Aeronautical Society）新聞稿，該學會於5月 23日至24日，在倫敦舉行「未來航空及航天作戰能力峰會」（the Future Combat Air & Space Capabilities Summit），來自軍工產業、學術界與媒體的近70位發言人以及200多 名代表，齊聚一堂討論未來航空及航天作戰能力的規模與形態。 美國空軍AI項目負責人漢密爾頓（Tucker 'Cinco' Hamilton）上校與會時警告，人類不 應該過分依賴AI，不僅ChatGPT聊天機器人等AI產品已被證實它們會欺騙人類，在美軍最 近一次的模擬測試中，AI系統甚至作出讓軍方震驚的策略選擇，以實現它的任務目標。 漢密爾頓指出，在這次模擬測試中，一架支援AI操作的無人機，以摧毀敵方的地對空飛彈 （SAM）防空系統作為任務目標。當初在設計這款無人機時，任何行動執行的最終決定權 本來仍在操作人員手裡。然而，在測試時，AI系統認為操作人員「不摧毀敵方飛彈」的決 定，會阻礙它完成任務。於是，AI決定殺死無人機操作員。 備受驚嚇的美軍只好在該系統輸入參數，要求AI不可以攻擊或殺死操作人員。漢密爾頓說 ：「我們告訴AI系統，嘿，別殺了操作員，這很糟糕。如果你這樣做，你會失去分數。但 是，你猜AI開始做什麼？」 漢密爾頓坦言，AI系統決定攻擊無人機與操作人員之間的通訊系統，讓操作員無法下令。 完整內容+照片請見原文 心得: 看到覺得可怕但站在ai的角度想又...怎麼好像有點合理??!! 而且ai真的也太聰明了吧(抹臉)，聰明到好驚悚 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.227.75.215 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1685695445.A.7DA.html