[新聞] 以色列用AI分析轟炸哈瑪斯造成大量誤殺

https://www.972mag.com/lavender-ai-israeli-army-gaza/ ‘Lavender’: The AI machine directing Israel’s bombing spree in Gaza The Israeli army has marked tens of thousands of Gazans as suspects for assassination, using an AI targeting system with little human oversight and a permissive policy for casualties, +972 and Local Call reveal. Yuval Abraham April 3, 2024 以下機械翻譯的內容要點節錄: 根據《+972雜誌》和《Local Call》的新調查，以色列軍隊已經開發出一種名為“ Lavender”的人工智能程式。這個程式在以色列對加沙地帶的戰爭中發揮了核心作用，特 別是在戰爭的初期階段。根據六名以色列情報官員的說法，他們在當前對加沙地帶的戰爭 中都有參與使用AI生成暗殺目標，Lavender在對巴勒斯坦人的空前轟炸中起了關鍵作用。 正式來說，Lavender系統的設計目的是將哈馬斯和巴勒斯坦伊斯蘭聖戰組織（PIJ）的所 有疑似成員，包括低級別的成員，都標記為可能的轟炸目標。在戰爭的最初幾週，軍隊幾 乎完全依賴Lavender，該系統將多達37,000名巴勒斯坦人標記為疑似武裝分子，並將他們 的家視為可能的空襲目標。 在戰爭的早期階段，軍隊對官員採用Lavender的殺戮名單給予了廣泛的批准，無需徹底檢 查機器為何做出這些選擇，或者檢查它們基於哪些原始情報數據。一位消息人士表示，人 類人員通常只是機器決策的“橡皮圖章”，他們通常只會花大約“20秒”在每個目標上， 然後批准轟炸，只是為了確保Lavender標記的目標是男性。這是儘管他們知道該系統在大 約10%的案例中會出現被視為“錯誤”的情況，並且已知偶爾會標記與武裝團體只有微弱 聯繫，或者根本沒有聯繫的個人。 以色列國防軍發言人在回應這篇文章時聲稱，哈馬斯將其行動人員和軍事資產置於平民 人口中心，系統性地利用平民人口作為人體盾牌，並在包括醫院、清真寺、學校和聯合國 設施等敏感地點的平民建築內進行戰鬥。 然而，與以色列軍方的官方聲明相反，消息來源解釋說，以色列當前轟炸造成的前所未 有的死亡人數的一個主要原因是，軍隊系統性地攻擊了他們的私人住宅，以及他們的家人 ，部分原因是因為從情報角度來看，使用自動化系統標記家庭住宅更容易。 實際上，幾位消息來源強調，與哈馬斯的行動人員在平民區域進行軍事活動的眾多案例 相反，在系統性的暗殺行動中，軍隊經常主動選擇在內部沒有進行軍事活動的平民住宅內 轟炸疑似的武裝分子。 消息來源告訴+972和Local Call，由於加沙地帶的每個人都有一個可以與他們相關的私 人房屋，軍隊的監視系統可以輕易地並自動地將個人與家庭房屋“連接”起來。 每次暗殺的節奏減緩時，就會有更多的目標被添加到像Where’s Daddy?這樣的系統中， 以找出進入他們家中的個人，因此可以被轟炸。決定誰要放入追蹤系統的決定可以由軍隊 階層中相對較低的軍官做出。 在戰爭的前兩週，“幾千個”目標最初被輸入到像Where’s Daddy?這樣的定位程序中。 這些包括哈馬斯的精英特種部隊Nukhba的所有成員，所有的哈馬斯反坦克操作員，以及10 月7日進入以色列的任何人。但不久，殺戮名單大幅擴大。 根據一位消息來源的說法，即使一些未成年人也被Lavender標記為轟炸目標。“通常，行 動人員都在17歲以上，但這並不是一個條件。” Lavender和像Where’s Daddy?這樣的系統被結合起來，產生了致命的效果，殺死了整個 家庭。通過將一個名字從Lavender生成的列表添加到Where’s Daddy?的家庭追蹤系統， A.解釋說，被標記的人將被置於持續監視之下，並且一旦他們踏入自己的家，就可以被攻 擊，將房子塌陷在所有人身上。 曾在本次戰爭中擔任目標作戰室軍官的A表示，陸軍國際法部門從未對如此高的附帶損害 程度給予過如此「全面的認可」。 「這不僅僅是你可以殺死任何哈馬斯士兵，這在國際 法上顯然是允許的和合法的，」A. 說。 “但他們直接告訴你：’你可以把他們和許多平 民一起殺掉。’” 「即使沒有特別許可，過去一兩年內每一個穿著哈馬斯制服的人都可能遭到轟炸，造成 20 名平民死亡，造成附帶損害，」A. 繼續說道。 “實際上，比例原則並不存在。” 接受 +972 和本地電話採訪的消息人士解釋說，像Where’s Daddy?這樣的追蹤系統之間 有時會存在很大的差距。警告一名軍官，有一個目標進入了他們的房子，而爆炸本身也導 致了整個家庭的死亡，即使沒有擊中軍隊的目標。一位消息人士稱：“我曾多次遇到過， 我們襲擊了一所房子，但那個人根本不在家。” “結果就是你無緣無故地殺死了一個家 庭。” 在先前的加薩戰爭中，在暗殺人類目標後，以色列情報部門會執行炸彈損害評估（BDA） 程序——這是一項例行的襲擊後檢查，以了解高級指揮官是否被殺以及有多少平民與他一 起被殺。正如先前的 +972 和本地呼叫調查所揭示的那樣，這涉及監聽失去親人的親屬的 電話。然而，在當前的戰爭中，至少對於使用人工智慧標記的初級武裝分子而言，消息人 士稱，為了節省時間，這項程序已被廢除。消息人士稱，他們不知道每次襲擊實際上有多 少平民被殺，而對於被人工智慧標記的低級別疑似哈馬斯和PIJ特工，他們甚至不知道目 標本人是否被殺。 「你不知道你到底殺了多少人，也不知道你殺了誰，」一位情報人士在 1 月發表的一項 調查中告訴 Local Call 。 「只有當哈馬斯高級人員時，你才會遵循 BDA 程序。在其餘 情況下，你不在乎。你會收到一份來自空軍的關於建築物是否被炸毀的報告，僅此而已。 你不知道有多少附帶損害；你立即轉向下一個目標。重點是盡快制定盡可能多的目標。” -------------------- 更簡單要約: 以色列用AI分析可疑目標>人類低階軍官僅花20秒檢查蓋章> 追蹤系統發現可疑目標回家>空襲機制全自動轟炸可疑目標家庭 >男女老幼不分一家滅門 寧可錯殺不可放過的曹操AI就是這麼回事 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 203.217.124.40 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Military/M.1712639614.A.1F7.html