[新聞] 美校園傳多起AI生成同學裸照 逾20州擬立法規管

https://news.pts.org.tw/article/691912 美校園傳多起AI生成同學裸照 逾20州擬立法規管 公視新聞網 楊子瑩 / 綜合報導 結論先講 美國校園自2022年發生多起將女學生的臉部照片，經人工智慧深偽合成裸照，並散布於社群 媒體中，嚴重影響青少女心理。失蹤與受虐兒童國家援助中心（National Center for Miss ing & Exploited Children）統計，至少有20個州提出法案以打擊未成年深偽性圖像剝削問 題。 隨著生成式人工智慧快速發展，為防止學生藉此作弊或代寫作業，學校緊急限制生成式人工 智慧的使用。然而，美國校園裡卻又發生多起深偽的未成年性剝削案件。 《紐約時報》報導指出，美國的青少年利用APP「nudification」，藉參與學校舞會等活動 拍攝女同學的清晰面部照片，並合成為裸露乳房或生殖器的圖像，並透過Snapchat與Instag ram等社群平台，以群聊轉發這些合成照片。 過去2個月，類似事件就發生在伊利諾州、加州與西雅圖的校園裡。聯邦調查局警告，傳播 由人工智慧生產的兒童性虐待素材，屬於違法行為。 兒童性剝削專家認為，這種合成的深偽圖像可能帶來嚴重後果，使用未經同意或人工智慧生 成的圖片來騷擾與欺凌年輕女性，將損害他們的心理健康與人身安全，甚至影響未來的大學 與職場生活。 史丹福網路觀測站（Stanford Internet Observatory）研究學者普費弗柯恩（Riana Pfeff erkorn）指出，「此現象非常突然，可能會讓學校措手不及。」部分地區似乎尚未做出應對 ，將使學生權益難獲保障。 比佛利山莊的比佛利維斯塔中學（Beverly Vista Middle School）2月就發生，5位學生創 作並分享女性深偽性裸露照片案件，最終校方開除加害者。聯合學區校長布雷吉（Michael Bregy）強調絕不允許製作同學色情照片。 美國有部分州開始制定法案管理，路易斯安那州規定若製作、傳播、推廣未成年合成性圖片 ，將面臨5至10年的監禁。麻薩諸塞州除了將傳遞、製作未成年性圖像視為犯罪，還需教導 學生如何負責任的使用生成式人工智慧。 目前僅對生成與傳遞未成年性影像進行規範，卻未究責裸體應用程式的開發者。律師漢利（ Elizabeth Hanley）認為，「需要立法阻止商業化，這才是生成式未成年性圖像流傳的根源 。」 王介村/編輯 備註： 這其實還蠻可怕的 而且男女都有可能遇到 我周遭就有同學 在網路上被用換臉影片勒索過 八卦板的叔叔 伯伯 阿姨 阿婆 如果有小孩的話，真的要注意一下欸 -- ( ˊ・ω・`)／︴<>< <>< <>< -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.137.112.7 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1713983875.A.A3C.html