用“AI換臉技術(shù)”合成淫穢視頻，收費供他人觀看，甚至根據(jù)顧客的需要使用不同的女明星形象進行“私人定制”，以及通過出售“換臉軟件”非法獲利。

澎湃新聞（www.usamodel.cn）“長三角政商”欄目2023年4月10日曾報道的男子用“AI換臉技術(shù)”合成淫穢視頻出售非法牟利案有了最新進展。

澎湃新聞6月20日從杭州蕭山區(qū)檢察院獲悉，除了此前以涉嫌制作、傳播淫穢物品牟利罪對被告人虞某某提起公訴外，該院在審查時發(fā)現(xiàn)，被告人不僅涉嫌刑事犯罪，同時還存在損害社會公共利益的行為。對此，該院正式依法向杭州互聯(lián)網(wǎng)法院提起民事公益訴訟。

據(jù)介紹，2020年，虞某某從互聯(lián)網(wǎng)接觸到“AI換臉”軟件及技術(shù)，并通過學習掌握了該軟件的使用方法。2021年開始，虞某某以牟利為目的，在未取得被編輯人同意的情況下，利用上述“AI換臉”軟件，將從互聯(lián)網(wǎng)等渠道收集到的他人人臉信息與部分淫穢視頻中的人臉信息進行替換合成，制作生成虛假的換臉淫穢視頻，在網(wǎng)絡(luò)社交軟件上進行傳播并獲利。截至案發(fā)，公安機關(guān)共在虞某某所組建的公開群內(nèi)查獲淫穢視頻1200余部、圖片1600余張。

2022年11月30日，公安機關(guān)以涉嫌傳播淫穢物品牟利罪將虞某某移送蕭山區(qū)檢察院審查起訴。該院在審查時發(fā)現(xiàn)，虞某某不僅涉嫌刑事犯罪（目前已對虞某某以制作、傳播淫穢物品牟利罪提起公訴），同時還存在損害社會公共利益的行為。

經(jīng)查，虞某某在使用“AI換臉”技術(shù)制作淫穢視頻的同時，還為他人提供換臉視頻定制服務(wù)，即根據(jù)客戶提供的視頻或照片，制作換臉視頻。此外，虞某某還在網(wǎng)絡(luò)社交軟件上銷售“AI換臉”軟件、提供換臉素材并傳授使用教程。

檢察機關(guān)認為，人臉信息作為敏感個人信息，對于保障公民人身財產(chǎn)安全具有重要意義，應(yīng)當依法受到嚴格保護。本案中，虞某某從互聯(lián)網(wǎng)公共空間非法獲取眾多人臉信息，利用“AI換臉”等深度合成技術(shù)非法處理、制作淫穢視頻后，在超過2000人的網(wǎng)絡(luò)社交軟件群組傳播，同時提供換臉視頻定制服務(wù)，使不特定群體成為潛在的被侵害對象，違反了法律法規(guī)和社會公德，混淆社會公眾認知，污染社會風氣，侵害了承載在不特定多數(shù)社會主體個人信息之上的公共信息安全，破壞社會公共秩序，構(gòu)成對公共信息安全領(lǐng)域的社會公共利益侵害；除此之外，虞某某在明知他人可能將“AI換臉”軟件用于侵犯個人信息等不正當目的的情況下，仍向他人銷售“AI換臉”軟件、提供換臉素材并傳授使用教程，使得更多不特定主體個人信息被侵害的社會危險性進一步擴大。虞某某的行為違反了《中華人民共和國民法典》《個人信息保護法》等相關(guān)法律規(guī)定，應(yīng)當承擔相應(yīng)的民事責任。

鑒于此，在依法履行訴前公告程序、無適格主體提起訴訟請求后，蕭山區(qū)檢察院于6月9日向杭州互聯(lián)網(wǎng)法院提起民事公益訴訟，請求判令被告停止侵權(quán)，刪除持有的所有涉案個人信息，不得再違法使用深度合成技術(shù)侵害社會公益；支付公益損害賠償金人民幣60000元（專門用于個人信息保護、人臉深度合成技術(shù)應(yīng)用的治理等公益事項）；在國家級媒體上向社會公眾公開賠禮道歉。

“人臉信息與個人的隱私權(quán)、名譽權(quán)、財產(chǎn)權(quán)等多種權(quán)益關(guān)系緊密，屬于敏感個人信息，從司法實踐來看，人臉信息的不正當使用將對社會公眾的人身和財產(chǎn)安全帶來重大風險，一旦造成侵害往往是長久的、持續(xù)的、難以彌補的。”承辦該案的檢察官說，近年來，利用“AI換臉”技術(shù)制作換臉視頻，繞過人臉識別系統(tǒng)監(jiān)管從而實施詐騙、盜竊等犯罪的情形時有發(fā)生。可以說，“AI換臉”技術(shù)在灰色領(lǐng)域甚至違法犯罪領(lǐng)域的濫用，給社會公眾帶來了極大危害。“我們希望通過該案的辦理，能夠進一步震懾犯罪分子，也提醒廣大群眾，在使用新興技術(shù)時，不能忘記法律的規(guī)制、道德倫理的約束，這是所有技術(shù)發(fā)展應(yīng)有的邊界。”