[新聞] 面對AI技術快速發展 唐鳳：要做好風險控

1.媒體來源:聯合 2.記者署名:余弦妙 3.完整新聞標題:面對AI技術快速發展 唐鳳：要做好風險控管 4.完整新聞內文: 2024-03-05 16:14 經濟日報／ 記者余弦妙／即時報導 數位發展部唐鳳部長日前接受Podcast節目「全神貫注」（Your Undivided Attention） 專訪。她在專訪中表示，面對AI快速發展的挑戰，台灣經驗展示了如何提升對AI的理解與 應用，為AI可能造成的風險形成預防效果，以及如何運用AI進行即時查核與審議式民調， 讓民主升級。 唐鳳指出，民主社會的自由與多樣性，正面臨專制政權的威脅，例如利用網路安全漏洞、 阻斷服務攻擊、深偽技術等方式來分化人群、製造對立，進而危害社會信任與公共治理； 生成式AI的出現，使有心人士更容易利用AI偽冒人類行為，進行攻擊與分化。 唐鳳說，預防勝於治療，臺灣經驗展示如何讓民主升級，來面對這些挑戰。透過「預先澄 清」（pre-bunking），在攻擊發生前就讓民眾了解這些危害，並產生「心靈抗體」，比 「事後澄清」（debunking） 更為有效。 唐鳳進一步舉例，2022年在科技會報辦公室的協助下，她拍攝了一段深偽自己的影片，展 示深偽影片容易製作的特性，並向社會傳遞「先查證，不轉傳」的重要性。此外，數位部 去年啟用111政府專屬短碼簡訊平臺，建立了非常容易辨別內容來源的機制，確保政府訊 息不會被任意冒用，從源頭強化民眾可信任的資訊來源。 唐鳳說明，AI技術應用所帶來的影響是一體兩面，除了負面衝擊，也有正面助益，如民間 開源專案「真的假的」（Cofacts）運用AI語言模型提供「自動分析」服務，有助於更精 準回應待查訊息，提昇作業效率。此外，受惠於AI技術發展，審議式民意調查（ deliberative poll）的執行可行性也大為提升，政策規劃者可以更完整傾聽到人民的意 見表述。 面對AI技術快速發展，唐鳳強調，AI應從技術競賽轉為安全競賽，做好風險控管。臺灣在 2023年底成立「AI產品與系統評測中心」，建立我國可信任的AI環境，宣示台灣與國際夥 伴共同走在安全的AI發展道路上，以呼應美國國家標準技術局（NIST）發布人工智慧風險 管理框架（AI RMF）、歐盟發布《可信賴人工智慧倫理準則》（Ethics Guidelines for Trustworthy AI），以及英國、美國近期分別成立的「AI安全研究院」（AI Safety Institute）等組織。 數位部表示，「全神貫注」為非營利組織「人性科技中心」（Center For Humane Technology）旗下科技節目，主持人為中心執行長兼共同創辦人、科技倫理學家Tristan Harris，以及共同創辦人Aza Raskin。該節目邀請各領域專家探討新興科技對社會的影響 、探索解決方案，全球下載量已超過2,300萬次，並收錄於TED Audio Collective。 5.完整新聞連結 (或短網址):https://reurl.cc/WRoj7L 6.備註: ※ 一個人一天只能張貼一則新聞(以天為單位)，被刪或自刪也算額度內，超貼者水桶，請注意 ※ 備註請勿張貼三日內新聞(包含連結、標題等) -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 27.53.8.167 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1709630710.A.84D.html