[新聞] 科學家預估AI到2027年的用電量堪比荷蘭

備註請放最後面 違者新聞文章刪除 1.媒體來源: iThome 2.記者署名: 文/陳曉莉 | 2023-10-12發表 3.完整新聞標題: 科學家預估AI到2027年的用電量堪比荷蘭 4.完整新聞內文: 科學家們開始注重AI的環保問題，《Cell》的姐妹期刊《Joule》本周出版了一篇名為《 持續成長的人工智慧能源足跡》（The growing energy footprint of artificial intelligence）論文，指出人工智慧（AI）推論可能會消耗大量的電力，作者Alex De Vries更向《BBC》表示，到了2027年，AI的用電量可能等同於荷蘭一年的電力使用。 這是繼加州大學河濱分校電機與電腦工程系副教授Shaolei Ren今年初發表的AI「容易口 渴」的論文之後，另一篇與AI環保議題相關、並吸引媒體目光的研究。當時Ren於《 Making AI Less “Thirsty”: Uncovering and Addressing the Secret Water Footprint of AI Models》中指出，在微軟最先進的美國資料中心訓練GPT-3時，將直接 消耗70萬公升的乾淨淡水，相當於生產370輛BMW或320輛特斯拉，若是在微軟的亞洲資料 中心訓練，用水量將是3倍，若是於其它不那麼先進的資料中心訓練AI模型，用水量則會 更高。 而在推論上，ChatGPT僅是回答20~50個簡單的問題就需要500ml的水，當ChatGPT擁有數十 億用戶，再加上改用規模更龐大的GPT-4，AI的用水量更是難以估計。 其實目前並沒有針對AI用水或用電量的公開數據，不管是Ren或是來自Vries的最新研究都 是基於多種估計。 Vries為荷蘭阿姆斯特丹自由大學商業與經濟學院的博士候選人，同時他也是數位經濟平 臺Digiconomist及比特幣耗電量指數Bitcoin Energy Consumption Index的創辦人。這次 他於報告中指出，外界一向認為訓練一個AI模型是AI最耗電的階段，但Vries引用了 SemiAnalysis及Google的報告指出，推論所消耗的電力更多。 其中，Google的報告顯示，自2019年到2021年，與AI相關的能源消耗中有60%來自推論。 至於半導體研究機構SemiAnalysis則說OpenAI的ChatGPT服務需要由3,617臺Nvidia HGX A100的伺服器來支撐，Vries計算其每日耗電量，認為它高於訓練GPT-3時所需要的電力。 另一方面，SemiAnalysis也估計，若要於Google搜尋中實現類似ChatGPT的搜尋能力，將 會需要512,821臺的Nvidia HGX A100，且Alphabet董事長John Hennessy亦曾向《路透社 》（Reuters）透露，與大型語言模型互動的成本可能是標準關鍵字搜尋的10倍。 這使得Vries以Google在2021年的18.3 TWh耗電量來計算，當時AI占了Google整體耗電量 的10%~15%，在Google全面實施AI搜尋之後，其AI耗電量最高可能達到27.4 TWh，接近愛 爾蘭一整年所使用的電力（29.3 TWh）。 就整個市場來看，隨著Nvidia合作夥伴台積電（TSMC）所投資的新CoWoS包裝廠預計於 2027年量產，Vries也估計屆時Nvidia所交付的AI伺服器數量與其用電量將達85~134 TWh ，相當於荷蘭一年的電力使用。 總之，Vries認為AI產業應該要考慮相關的環境衝擊，包括提高硬體效率，採用創新的模 型架構及演算法，還建議開發人員不僅應專注於優化AI，也必須考慮使用AI的必要性，亦 督促監管機構導入具體的環境披露要求，以讓此一新興技術的環境成本更加透明化。 除了環境之外，SemiAnalysis今年初即曾發表一篇文章，分析了大型語言模型的實際成本 ，指出ChatGPT每周的推論成本都超過訓練成本，倘若Google在搜尋中部署了類似ChatGPT 的大型語言模型，原本擁有的300億美元利潤就會在一夜之間蒸發，轉移到其它業者手上 或是用來改善TPU效能。 5.完整新聞連結 (或短網址)不可用YAHOO、LINE、MSN等轉載媒體: https://www.ithome.com.tw/news/159236 6.備註: 聽說有個總統候選人說要AI產業化，不知道他知不知道目前台灣的用電量跟用水量？ 以及推動AI產業需要準備的用電量跟用水量是多少？ -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 180.177.101.164 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1697126566.A.86C.html