※ 本文轉寄自 ptt.cc, 文章原始頁面
[新聞] 微軟表示多國駭客正利用ChatGPT增進網路攻擊功力,解決之道是:用AI來對抗AI
微軟表示多國駭客正利用ChatGPT增進網路攻擊功力,解決之道是:用AI來對抗AI
http://tinyurl.com/2dgt958x
微軟和 OpenAI 透露,駭客已經在使用 ChatGPT 等大型語言模型來完善和改進他們現有
的網路攻擊。在最新發佈的研究報告中,微軟和 OpenAI 發現俄羅斯、北韓、伊朗和中國
支援的組織試圖利用 ChatGPT 等工具研究目標、改進程式碼並幫助建立社群工程技術。
微軟在今天的一篇貼文中說:「網路犯罪集團、民族主義國家恐怖行動組織和其他對手正
在探索和測試新出現的各種人工智慧技術,試圖瞭解它們對其行動的潛在價值以及它們可
能需要規避的安全控制。」
他們舉出了不同的駭客集團,如何利用大型語言模型來提升他們的攻擊。
1.俄羅斯駭客組織
與俄羅斯軍事情報機構有關聯的"鍶"組織,被發現使用 LLMs來瞭解衛星通訊協議、雷達
成像技術和特定技術參數。該駭客組織也被稱為 APT28 或 Fancy Bear,在俄羅斯的烏克
蘭戰爭期間一直很活躍,此前曾參與2016 年針對希拉蕊.克林頓總統競選活動的攻擊。
據微軟稱,該小組還一直在使用 LLM 來幫助完成基本的程式碼任務,包括檔案操作、資
料選擇、正規化和多處理程序處理,以實現技術操作的自動化或最佳化。
2.北韓駭客組織
一個名為 Thallium 的北韓駭客組織一直在使用 LLMs 來研究公開報導的漏洞和目標組織
,幫助完成基本的程式碼任務,並為網路釣魚活動起草內容。微軟稱,名為 Curium 的伊
朗組織也一直在使用 LLMs 生成網路釣魚電子郵件,甚至是用於躲避防毒軟體檢測的程式
碼。與中國政府有關聯的駭客也在使用 LLMs 進行研究、編寫程式碼、翻譯和改進現有工
具。
3.釣魚郵件利用AI提升說服力
此外,人們一直擔心在網路攻擊中使用人工智慧,特別是出現了像 WormGPT 和
FraudGPT 這樣的人工智慧工具來協助建立惡意電子郵件和破解工具。美國國家安全局的
一位高級官員上個月也警告說,駭客正在利用人工智慧讓他們的釣魚郵件看起來更有說服
力。
解決之道:用AI來對抗AI
微軟和 OpenAI 尚未發現任何使用 LLMs 的"重大攻擊",但這兩家公司已經關閉了與這些
駭客組織相關的所有帳戶和資產。
微軟表示:「與此同時,我們認為這是一項重要的研究,通過發佈來揭露我們觀察到的知
名威脅行為者試圖採取的早期、漸進式行動,並與防禦者分享我們如何阻止和反擊這些行
動的資訊。」
雖然目前人工智慧在網路攻擊中的應用似乎還很有限,但微軟對未來的使用案例(如語音
冒充)發出了警告。「人工智慧驅動的欺詐是另一個令人嚴重關切的問題。語音合成就是
一個例子,三秒鐘的語音樣本就能訓練出一個聽起來像任何人的模型,即使是像語音郵件
問候語這樣無害的東西,也可以用來獲得足夠的樣本。」
微軟的解決方案是利用人工智慧來應對人工智慧攻擊。「人工智慧可以幫助攻擊者提高攻
擊的複雜程度,而且他們有足夠的資源來應對。」
微軟首席檢測分析經理霍馬.海蒂法(Homa Hayatyfar)說:「我們已經從微軟追蹤的
300 多個威脅行為體身上看到了這一點,我們使用人工智慧來保護、檢測和應對。」
微軟正在打造一款新的人工智慧助手Security Copilot,專為網路安全專業人士設計,用
於識別漏洞並更好地理解每天通過網路安全工具產生的大量訊號和資料。在 Azure 雲端
遭受攻擊,甚至俄羅斯駭客監視微軟高層之後,這家軟體巨頭也在全面整頓其軟體安全機
制。
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.137.71.246 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1709058167.A.734.html
16 則留言
pl132 作者的近期文章
[新聞]中國車市內捲 華為:賣便宜就虧死關門了
中國車市內捲 華為:賣便宜就虧死關門了 https://udn.com/news/story/7333/8031287 中國汽車市場內捲引發業界討論。華為常務董事、智慧汽車解決方案事業部董事長余承東 今天表態,華為不是不想賣便宜,而是沒能力
-7Tech_Job
[新聞]打造台灣 AI 島,施振榮籲政府發全民 AI打造台灣 AI 島,施振榮籲政府發全民 AI 學習券 https://technews.tw/2024/06/05/stan-shih-20240605/ 由於 COMPUTEX,近日包括 NVIDIA 執行長黃仁勳、AMD 執行長蘇姿丰、
[新聞]馬斯克:給我 25% 特斯拉股權,否則沒有 A
馬斯克:給我 25% 特斯拉股權,否則沒有 AI 和自駕計程車隊 https://technews.tw/2024/05/21/elonmusk-want-25percent-tesla-stock/ 這波電動車市場冷卻的慘淡局勢裡,特斯拉
21Tech_Job
[新聞]「離開英特爾我心碎了!」30 年賣命被逼退「離開英特爾我心碎了!」30 年賣命被逼退,11 年後回鍋圓夢:自走砲執行長 Pat Gelsinger 傳奇故事 https://technews.tw/2024/06/01/pat-gelsinger-life/ 英特爾執行長 Pat
22Tech_Job
[新聞]護國神山注意,三星 2024 年不惜代價提升 護國神山注意,三星 2024 年不惜代價提升 3 奈米良率搶輝達訂單 https://tinyurl.com/28jksnac 繼高頻寬記憶體(HBM)後,三星今年首要任務就是代工搶下 GPU 大廠輝達 (NVIDIA) 訂 單。尤其台積電
18Tech_Job
[新聞]Reddit 討論:美股七雄光環不再,微軟成Reddit 討論:美股七雄光環不再,微軟成最健全、最具韌性投資標的 https://tinyurl.com/26fx97sn 美股七雄光環不再,Google、蘋果、特斯拉跌落神壇,取而代之的是主導標普 500 指數 第一季一半漲幅的 Nv
[新聞] 韓國將以國家力量開發車用 AI 晶片,欲超
韓國將以國家力量開發車用 AI 晶片,欲超越輝達 https://tinyurl.com/23vvhxz4 韓國媒體報導,韓國政府積極推動新研發 (R&D),包括開發自駕車人工智慧 (AI) 晶片, 為了超越美國半導體大廠輝達 (N
17Tech_Job
[新聞]韓媒:輝達疑煽動三星、SK 海力士競爭,韓媒:輝達疑煽動三星、SK 海力士競爭,壓價 HBM https://tinyurl.com/2989g7f8 https://tinyurl.com/2a869xof 韓媒傳出,輝達(Nvidia Corp.)似乎故意煽動三星電子(Sam
13Tech_Job
[新聞]聯發科天璣 9400 將不採自研 CPU 核心,繼聯發科天璣 9400 將不採自研 CPU 核心,繼續與 Arm 合作仍力壓對手 https://tinyurl.com/28jpqqgg 外媒報導,聯發科天璣 9400 處理器預計 2024 年發表,它將與高通的 Snapdragon 8
[新聞]特斯拉是安隆式騙局?馬斯克暴怒回應 Face
特斯拉是安隆式騙局?馬斯克暴怒回應 Facebook 聯合創辦人 https://technews.tw/2024/04/27/dustin/ Facebook 聯合創辦人、新創 Asana 首席執行長達斯汀·莫斯科維茨(Dustin Mo
推
推
推
→
推
→
→
推
→
→
→
→
→
→
→
噓