※ 本文轉寄自 ptt.cc, 文章原始頁面
[新聞] OpenAI認了「人聲複製新工具」太危險 不宜全面開放
OpenAI認了「人聲複製新工具」太危險 不宜全面開放
美國人工智慧開發公司OpenAI於3月29日公布語音AI工具「Voice Engine」,只需要短短15
秒的說話聲音樣本,就能複製出此人聲音。不過,該公司也認定這項語音複製工具風險太大
,不適合全面發布。
「Voice Engine」於2022年首次研發,初始版本被使用在ChatGPT內建文字轉語音功能。其
生成結果不受聲音樣本語種限制,若說的是英文,這項技術可使用你的聲音,生成西班牙語
、法語等其他語言結果。不過,考量到存在濫用風險,現階段僅提供合作夥伴使用,尚未對
外開放。
《衛報》報導,OpenAI延遲推出「Voice Engine」,是為了在至關重要的全球大選年,最大
限度地減少假消息出現的可能性。
OpenAI在一篇貼文中表示,目前「Voice Engine」的生成結果都有浮水印,以利追蹤生成式
音檔的來源。與合作夥伴的使用條款也規定,必須取得原始說話者的明確知情同意,更不允
許開發人員讓個人用戶自行創造聲音檔案。
OpenAI表示,「目前選擇預覽而非廣泛發布這項技術」,是為了強化社會面對「更具說服力
的生成式模型」的能力,呼籲逐步淘汰語音認證,作為登入銀行帳戶或其他敏感資訊的安全
措施,制定在AI領域使用個人聲音的保護政策,以及推廣理解AI能力與限制、包括欺騙性內
容的公眾教育。
OpenAI寫道,「我們希望針對負責任地使用合成聲音,以及社會如何適應這些新功能,展開
一場對話」,並且根據對話結果及小規模測試,對於是否、如何大規模使用這項技術,做出
更明智的決定。
https://www.ettoday.net/news/20240401/2710876.htm
https://i.imgur.com/C2dZ1S5.jpg
阿笠博士的黑科技變聲蝴蝶結終於實現了
蝴蝶結現場收音15秒就能複製命案現場任何人的聲音
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.10.3.114 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1711954429.A.CB5.html
Re: 回文串
77143
[新聞] OpenAI認了「人聲複製新工具」太危險
Gossiping04/01 14:39
4180
> [新聞] OpenAI認了「人聲複製新工具」太危險
C_Chat04/01 14:53
36
Re: [新聞] OpenAI認了「人聲複製新工具」太危險
Gossiping04/01 20:56
754
Re: [新聞] OpenAI認了「人聲複製新工具」太危險
Gossiping04/01 21:19
80 則留言
Sinreigensou 作者的近期文章
20C_Chat
Re: [問題] 妮姬最大的問題是否是優化昨天因為皇冠最後一天入坑抽 國王新衣真的超讚 不過當我把新衣的爆裂動畫放首頁時 開遊戲居然閃退 一個L2D而已可以搞到閃退 雖然我ROG PHONE一代是有點舊 但是連開原神都不會閃退 妮姬優化真的要加強 現在都只能用PC開
12C_Chat
[閒聊] 低血量為何不會對角色造成影響目前市面上大部分遊戲 血量感覺比較像3c電池 1%-100%用起來都一樣 0%瞬間就關機 剩下一滴血仍然活蹦亂跳 然後被隨便小怪一摸到就陣亡 是不是不太合理 應該低血量就要躺地不能動等傷勢痊癒才合理
13C_Chat
Re: [討論] 哪種政府會禁止人民考古歷史真相??其實原本推中國 不過看到推文提日本就很有興趣 日本真的禁止考古天皇? 是怕考古到最後發現天皇是別的地方來的嗎 真的這樣那還蠻讓我意外的
11C_Chat
[閒聊] 魔術師沒有在團隊研究是不是硬傷因為魔術師幾乎都各自研究各自的 但是現代社會證明組成科研團隊更有效率 看看奧本海默的研究團隊多少人才搞出原子彈 魔術研究常常要傳承魔術刻印世世代代進行研究 不就是他們幾乎都只能一個人搞 效率當然是差 魔術師沒有在團隊研究是不是硬傷
14C_Chat
[閒聊] galgame的多結局不等於if線就有遇到朋友是很討厭完結作出if線 因為寫if代表已經不是正史 一切就是如果電話亭創造出來的 假的,全都是幻覺 出了比不出還生氣 跟galgame多結局不同概念 想到如果旋風管家出雅典娜if線會怎樣
12C_Chat
Re: [劍星] 金亨泰親上火線回應修改服裝爭議我是認為無論有沒有和諧 其實目前看起來都是瑕不掩瑜 頂多就是服裝小改 說不定稍微遮一下還比較對到性癖? 比起歐美公司搞得那些不堪入目的女角 可以了啦沒啥好不滿的,就像100分變95而已 還是要給金大師一個支持 把銷量衝起來打他們臉 而且說不
推
→
→
推
→
→
推
推
→
推
→
推
→
推
推
推
推
→
→
推
→
推
→
→
→
推
→
推
推
推
推
→
→
→
→
推
推
推
推
→
推
推
→
推
推
→
推
→
推
推
推
→
→