[新聞] OpenAI認了「人聲複製新工具」太危險　 不宜全面開放

OpenAI認了「人聲複製新工具」太危險　不宜全面開放 美國人工智慧開發公司OpenAI於3月29日公布語音AI工具「Voice Engine」，只需要短短15 秒的說話聲音樣本，就能複製出此人聲音。不過，該公司也認定這項語音複製工具風險太大 ，不適合全面發布。 「Voice Engine」於2022年首次研發，初始版本被使用在ChatGPT內建文字轉語音功能。其 生成結果不受聲音樣本語種限制，若說的是英文，這項技術可使用你的聲音，生成西班牙語 、法語等其他語言結果。不過，考量到存在濫用風險，現階段僅提供合作夥伴使用，尚未對 外開放。 《衛報》報導，OpenAI延遲推出「Voice Engine」，是為了在至關重要的全球大選年，最大 限度地減少假消息出現的可能性。 OpenAI在一篇貼文中表示，目前「Voice Engine」的生成結果都有浮水印，以利追蹤生成式 音檔的來源。與合作夥伴的使用條款也規定，必須取得原始說話者的明確知情同意，更不允 許開發人員讓個人用戶自行創造聲音檔案。 OpenAI表示，「目前選擇預覽而非廣泛發布這項技術」，是為了強化社會面對「更具說服力 的生成式模型」的能力，呼籲逐步淘汰語音認證，作為登入銀行帳戶或其他敏感資訊的安全 措施，制定在AI領域使用個人聲音的保護政策，以及推廣理解AI能力與限制、包括欺騙性內 容的公眾教育。 OpenAI寫道，「我們希望針對負責任地使用合成聲音，以及社會如何適應這些新功能，展開 一場對話」，並且根據對話結果及小規模測試，對於是否、如何大規模使用這項技術，做出 更明智的決定。 https://www.ettoday.net/news/20240401/2710876.htm https://i.imgur.com/C2dZ1S5.jpg 阿笠博士的黑科技變聲蝴蝶結終於實現了 蝴蝶結現場收音15秒就能複製命案現場任何人的聲音 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.10.3.114 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1711954429.A.CB5.html