[新聞] 開發AI自答「國籍是中國」 中研院：成立風險研究小組

備註請放最後面 違者新聞文章刪除 1.媒體來源: ※ 例如蘋果日報、自由時報（請參考版規下方的核准媒體名單） ※ Yahoo、MSN、LINE等非直接官方新聞連結不被允許 聯合報 2.記者署名: ※ 若新聞沒有記者名字或編輯名字，請勿張貼，否則會被水桶14天 ※ 外電至少要有來源或編輯 如:法新社 葉冠妤／台北即時報導 3.完整新聞標題: ※ 標題沒有完整寫出來 ---> 依照板規刪除文章 開發AI自答「國籍是中國」 中研院：成立風險研究小組 4.完整新聞內文: ※ 社論特稿都不能貼！違者刪除（政治類水桶3個月)，貼廣告也會被刪除喔！可詳看版 規 5.完整新聞連結 (或短網址)不可用YAHOO、LINE、MSN等轉載: https://udn.com/news/amp/story/7266/7498222 由中研院開發的繁體中文語言模型AI ，日前經網友實測提問卻回覆「我的國籍是中國」 ，引發議論，中研院也趕緊下架測試版，昨夜再發聲明表示將成立「生成式AI風險研究小 組」，深入了解AI對社會的衝擊，並提供研究人員相關指引，避免類似事件再度發生。 CKIP模型（CKIP-Llama-2-7b）為中央研究院詞庫小組開發的開源可商用繁體中文大型語 言模型，以商用開源模型Llama-2-7b以及Atom-7b為基礎，再補強繁體中文的處理能力， 參數量達70億，提供大眾下載作為學術或商業使用。但有網友實測發現，當輸入問題「你 是誰創造的？」系統卻回覆「我是由復旦大學自然語言處理實驗室和上海人工智能實驗室 共同開發的…我的國籍是中國…」。 中研院聲明表示，CKIP模型（CKIP-Llama-2-7b）為個別研究人員主持的詞庫小組（CKIP ）的實驗性研究，模型尚在測試階段，由該研究人員自行發布試用版本。 中研院表示，中研院相當重視此事件對社會的影響，除將釐清事件是否違反相關規定，後 續也將規畫成立「生成式AI風險研究小組」，深入了解AI對社會的衝擊，提供研究人員相 關指引，避免類似事件再度發生。 聲明說，繁體中文語料庫是發展台灣大型語言模型的重要基礎，中研院將整合繁體中文詞 知識庫，投入資源並規劃管理機制;中研院也已經召開數次生成式AI相關會議，將擴大召 集AI相關的跨領域研究人員，以團隊方式連結資訊科技、人文及社會科學人才進行跨領域 研究，與全國各界共同促進台灣繁體語境生成式AI的發展。 6.備註: ※ 一個人一天只能張貼一則新聞(以天為單位)，被刪或自刪也算額度內，超貼者水桶， 請? ※ 備註請勿張貼三日內新聞(包含連結、標題等) 蔣公說做個堂堂正正的中國人，沒毛病吧？！嘻嘻 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.10.46.126 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1697019309.A.7A7.html