[新聞] 國慶日變10/1！中研院認了「AI語言模型」用中國資料庫 已先下架

1.媒體來源: 自由 2.記者署名: 丁奕 3.完整新聞標題: 國慶日變10/1！中研院認了「AI語言模型」用中國資料庫 已先下架 4.完整新聞內文: https://imgur.com/mcdpwLO https://imgur.com/zPtV3XO 中央研究院詞庫小組日前發布的繁體中文大型語言模型CKIP-LlaMa-2-7b，今（9）日遭踢 爆使用中國資料庫，詢問「國慶日是何時」會回答「10月1日」。中研院坦言，訓練資料 有來自中國開源的任務資料集（COIG），今日中午已將測試版先行下架。 網友發現詢問該語言模型「國慶日是何時？」，其會回答中國國慶日「10月1日」；詢問 「中華民國國歌為何？」，它會回答中華人民共和國的國歌「義勇軍進行曲」；詢問我國 憲法，則會回答「中華人民共和國憲法」。外界質疑中研院使用中國資料庫訓練，僅簡轉 繁後就公開。 中研院資訊所表示，CKIP-LlaMa-2-7b的研究目標之一是讓meta開發的Llama2大型語言模 型具備更好的繁體中文處理能力。這項小型研究僅用約30萬元的經費，將明清人物的生平 進行自動化分析，建構自動化的歷史人物、事件、時間、地點等事理圖譜，因此訓練資料 除了繁體中文的維基百科，另也包含台灣的碩博士論文摘要、來自中國開源的任務資料集 COIG、詩詞創作、文言文和白話文互相翻譯等閱讀理解問答。 資訊所強調，這是一項個人小型研究，各界對該模型進行的提問測試，並未在原始研究範 疇。該研究人員表示，由於生成式AI易產生「幻覺」（hallucination），導致模型產生 內容出乎預期，未來將努力改善。目前已將測試版先行下架，未來相關研究及成果釋出， 會更加謹慎。 中研院表示，未來對相關研究的成果，在公開釋出前，院內會擬定審核機制，避免類似問 題產生。 5.完整新聞連結 (或短網址)不可用YAHOO、LINE、MSN等轉載媒體: https://reurl.cc/WvR6D7 6.備註: -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.229.242.197 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1696858116.A.410.html