※ 本文轉寄自 ptt.cc, 文章原始頁面
[新聞] 微軟表示多國駭客正利用ChatGPT增進網路攻擊功力,解決之道是:用AI來對抗AI
微軟表示多國駭客正利用ChatGPT增進網路攻擊功力,解決之道是:用AI來對抗AI
http://tinyurl.com/2dgt958x
微軟和 OpenAI 透露,駭客已經在使用 ChatGPT 等大型語言模型來完善和改進他們現有
的網路攻擊。在最新發佈的研究報告中,微軟和 OpenAI 發現俄羅斯、北韓、伊朗和中國
支援的組織試圖利用 ChatGPT 等工具研究目標、改進程式碼並幫助建立社群工程技術。
微軟在今天的一篇貼文中說:「網路犯罪集團、民族主義國家恐怖行動組織和其他對手正
在探索和測試新出現的各種人工智慧技術,試圖瞭解它們對其行動的潛在價值以及它們可
能需要規避的安全控制。」
他們舉出了不同的駭客集團,如何利用大型語言模型來提升他們的攻擊。
1.俄羅斯駭客組織
與俄羅斯軍事情報機構有關聯的"鍶"組織,被發現使用 LLMs來瞭解衛星通訊協議、雷達
成像技術和特定技術參數。該駭客組織也被稱為 APT28 或 Fancy Bear,在俄羅斯的烏克
蘭戰爭期間一直很活躍,此前曾參與2016 年針對希拉蕊.克林頓總統競選活動的攻擊。
據微軟稱,該小組還一直在使用 LLM 來幫助完成基本的程式碼任務,包括檔案操作、資
料選擇、正規化和多處理程序處理,以實現技術操作的自動化或最佳化。
2.北韓駭客組織
一個名為 Thallium 的北韓駭客組織一直在使用 LLMs 來研究公開報導的漏洞和目標組織
,幫助完成基本的程式碼任務,並為網路釣魚活動起草內容。微軟稱,名為 Curium 的伊
朗組織也一直在使用 LLMs 生成網路釣魚電子郵件,甚至是用於躲避防毒軟體檢測的程式
碼。與中國政府有關聯的駭客也在使用 LLMs 進行研究、編寫程式碼、翻譯和改進現有工
具。
3.釣魚郵件利用AI提升說服力
此外,人們一直擔心在網路攻擊中使用人工智慧,特別是出現了像 WormGPT 和
FraudGPT 這樣的人工智慧工具來協助建立惡意電子郵件和破解工具。美國國家安全局的
一位高級官員上個月也警告說,駭客正在利用人工智慧讓他們的釣魚郵件看起來更有說服
力。
解決之道:用AI來對抗AI
微軟和 OpenAI 尚未發現任何使用 LLMs 的"重大攻擊",但這兩家公司已經關閉了與這些
駭客組織相關的所有帳戶和資產。
微軟表示:「與此同時,我們認為這是一項重要的研究,通過發佈來揭露我們觀察到的知
名威脅行為者試圖採取的早期、漸進式行動,並與防禦者分享我們如何阻止和反擊這些行
動的資訊。」
雖然目前人工智慧在網路攻擊中的應用似乎還很有限,但微軟對未來的使用案例(如語音
冒充)發出了警告。「人工智慧驅動的欺詐是另一個令人嚴重關切的問題。語音合成就是
一個例子,三秒鐘的語音樣本就能訓練出一個聽起來像任何人的模型,即使是像語音郵件
問候語這樣無害的東西,也可以用來獲得足夠的樣本。」
微軟的解決方案是利用人工智慧來應對人工智慧攻擊。「人工智慧可以幫助攻擊者提高攻
擊的複雜程度,而且他們有足夠的資源來應對。」
微軟首席檢測分析經理霍馬.海蒂法(Homa Hayatyfar)說:「我們已經從微軟追蹤的
300 多個威脅行為體身上看到了這一點,我們使用人工智慧來保護、檢測和應對。」
微軟正在打造一款新的人工智慧助手Security Copilot,專為網路安全專業人士設計,用
於識別漏洞並更好地理解每天通過網路安全工具產生的大量訊號和資料。在 Azure 雲端
遭受攻擊,甚至俄羅斯駭客監視微軟高層之後,這家軟體巨頭也在全面整頓其軟體安全機
制。
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.137.71.246 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1709058167.A.734.html
16 則留言
pl132 作者的近期文章
13Tech_Job
[新聞]聯發科天璣 9400 將不採自研 CPU 核心,繼聯發科天璣 9400 將不採自研 CPU 核心,繼續與 Arm 合作仍力壓對手 https://tinyurl.com/28jpqqgg 外媒報導,聯發科天璣 9400 處理器預計 2024 年發表,它將與高通的 Snapdragon 8
[新聞]特斯拉是安隆式騙局?馬斯克暴怒回應 Face
特斯拉是安隆式騙局?馬斯克暴怒回應 Facebook 聯合創辦人 https://technews.tw/2024/04/27/dustin/ Facebook 聯合創辦人、新創 Asana 首席執行長達斯汀·莫斯科維茨(Dustin Mo
15Tech_Job
[新聞] 馬斯克也無法忽視的威脅!比亞迪為何變馬斯克也無法忽視的威脅!比亞迪為何變成美國汽車業者的惡夢? https://tinyurl.com/2dbsyxqp 2011 年,特斯拉(Tesla)創辦人伊隆‧馬斯克(Elon Musk)受訪時,嘲笑中國電動車 比亞迪(BYD)根本不是
15Tech_Job
[新聞]台積電員工台灣各地炒房,網友:NVIDIA 在台積電員工台灣各地炒房,網友:NVIDIA 在美國不講武德更兇狠 https://tinyurl.com/2ajak6hm AI 熱潮席捲,近年 GPU 大廠輝達 (NVIDIA) 股價持續大漲,為不少員工創造財富。近日 霸榮週刊記者 Ta
12Tech_Job
[新聞]頻繁降價消費者胃口被養大,特斯拉遭砍目頻繁降價消費者胃口被養大,特斯拉遭砍目標價 https://technews.tw/2024/04/11/bofa-slashes-teslas-stock-price-target/ 特斯拉(Tesla)第一季交車表現「滑鐵盧」,出現近四
65Tech_Job
[新聞] 碩博士滿街跑 李遠哲:不是我的錯碩博士滿街跑 李遠哲:不是我的錯 https://tinyurl.com/yc73va9z 許多人認為中央研究院前院長李遠哲要為教改亂象負責,但李遠哲在最近出版的新書中提 到,當年他主持的教育改革審議委員會主張英文要從小學開始教,而「碩博士
16Tech_Job
[新聞]中國 OLED 崛起,三星 2023 年市占首次跌中國 OLED 崛起,三星 2023 年市占首次跌破 50% https://tinyurl.com/2cm4lj2o 在中國政府大力扶植下,中國面板廠積極布局 OLED 面板市場,原本穩坐龍頭的三星顯示 器(Samsung Display
[新聞] 台股最慘養豬戶!IC設計穩懋轉投資失利 謝金河爆3年前籲謹
台股最慘養豬戶!IC設計穩懋轉投資失利謝金河爆3年前籲謹慎 https://finance.ettoday.net/news/2710594 記者陳瑩欣/台北報導 財信傳媒董事長謝金河(老謝)臉書上以「台股最慘的養豬戶:養豬養成大錢坑」形容
[新聞] AI 太耗電、OpenAI 拚核融合,專家:進
AI 太耗電、OpenAI 拚核融合,專家:進度沒那麼快 https://tinyurl.com/25hfh5pk OpenAI 執行長阿特曼(Sam Altman)相信,核融合(fusion)是解決 AI 耗能嚴重的問 題解方。不過,專家
34Tech_Job
[新聞] 微星於桃園擴廠布局 AI 伺服器,三大產品微星於桃園擴廠布局 AI 伺服器,三大產品線今年出貨估雙位數成長 https://finance.technews.tw/2024/03/16/msi-2023-q4-earnings/ 微星預期,2024 年在筆電、螢幕、板卡三大產品線出
推
推
推
→
推
→
→
推
→
→
→
→
→
→
→
噓