作為引領(lǐng)第四次科技革命的戰(zhàn)略性技術(shù)，人工智能給社會建設(shè)和經(jīng)濟(jì)發(fā)展帶來了重大而深遠(yuǎn)的影響。但作為前沿創(chuàng)新技術(shù)，數(shù)據(jù)隱私、技術(shù)濫用等伴生安全問題也正給社會公共治理帶來嚴(yán)峻挑戰(zhàn)，其中圍繞“深度偽造”的倫理和法律爭議一直是公眾高度關(guān)注的熱點(diǎn)話題。

隨著深度合成技術(shù)不斷演進(jìn)迭代，制作一段高逼真度的虛假音視頻成本愈加降低，但其卻可以借助社交媒體等平臺短時間風(fēng)靡互聯(lián)網(wǎng)。對于這樣一種技術(shù)，如果不進(jìn)行規(guī)制，無疑將產(chǎn)生可怕的后果。

在上海舉行的2021世界人工智能大會上，一個能快速識破“AI換臉術(shù)”的產(chǎn)品——DeepReal深度偽造內(nèi)容檢測平臺于7月9日發(fā)布。其能夠通過研究深度偽造內(nèi)容和真實(shí)內(nèi)容的表征差異性辨識、不同生成途徑的深度偽造內(nèi)容一致性特征挖掘等問題，快速、精準(zhǔn)地對多種格式與質(zhì)量的圖像進(jìn)行真?zhèn)舞b別。

這個檢測平臺由依托清華大學(xué)人工智能研究院設(shè)立的人工智能企業(yè)——北京瑞萊智慧科技有限公司（簡稱“RealAI”）研發(fā)。

RealAI由清華大學(xué)人工智能研究院院長張鈸院士、清華大學(xué)人工智能研究院基礎(chǔ)理論研究中心主任朱軍教授共同擔(dān)任首席科學(xué)家，有人工智能安全平臺RealSafe（針對AI系統(tǒng)的防火墻與殺毒軟件）；隱私保護(hù)計算平臺RealSecure（通過打通數(shù)據(jù)孤島，將計算環(huán)節(jié)移動到數(shù)據(jù)端，實(shí)現(xiàn)數(shù)據(jù)安全共享流通）；深度合成內(nèi)容檢測平臺DeepReal（快速、精準(zhǔn)地對多種格式與質(zhì)量的視頻和圖片進(jìn)行真?zhèn)舞b別）等產(chǎn)品。

RealAI副總裁唐家渝透露，針對深度偽造技術(shù)的防范，RealAI目前已與工信部、公安部、國家互聯(lián)網(wǎng)應(yīng)急中心、工信安全中心、中國信通院、公安三所等多家機(jī)構(gòu)展開深入的項(xiàng)目合作。

“深度偽造”，也被譯作“深度造假”，譯自英語中的Deepfake，其是計算機(jī)的“深度學(xué)習(xí)”（Deep learning）和“偽造”（Fake）的組合，出現(xiàn)于人工智能和機(jī)器學(xué)習(xí)技術(shù)時代。通俗理解就是把圖片和聲音輸入機(jī)器學(xué)習(xí)的算法，從而可以輕易地進(jìn)行“面部操作”（Face manipulation）——把一個人的臉部輪廓和表情放置在其他任何一個人的臉上，同時利用對聲音的逼真處理，制造出實(shí)為合成卻看似極真的視頻。

2019年國內(nèi)紅極一時的換臉軟件“ZAO”就是公眾最為熟知的應(yīng)用，用戶只需上傳一張照片，就能秒變“戲精”，甚至還能與偶像同臺飆戲，效果極其逼真。不久前，短視頻領(lǐng)域出現(xiàn)的“螞蟻呀嘿”熱潮，其基礎(chǔ)也是深度偽造技術(shù)。

憑借極強(qiáng)的娛樂性與傳播性，“深度偽造”技術(shù)一路走紅。但同時，“低門檻、高效率、高質(zhì)量”的特性，使其被大規(guī)模濫用于偽造身份、混淆視聽，以實(shí)現(xiàn)網(wǎng)絡(luò)欺詐、虛假宣傳與操縱輿論等目的。

7月9日，北京瑞萊智慧科技有限公司首席執(zhí)行官田天在上海世界人工智能大會演講時明確指出，人工智能產(chǎn)業(yè)正進(jìn)入高質(zhì)量發(fā)展階段，以深度偽造為代表各類安全問題層出不窮，亟待解決。

與傳統(tǒng)圖像視頻處理技術(shù)相比，深度偽造技術(shù)具有“門檻低、效率高、質(zhì)量好”的特點(diǎn)，所以它也被探索用于影視、醫(yī)療、虛擬現(xiàn)實(shí)等商業(yè)，比如在影視后期制作中，表情操縱、全臉替換等深度合成技術(shù)可以被用于影視劇本地化嘴型修改、虛擬IP打造等場景中。

然而，與正面效應(yīng)相比，這些特性也同步放大了潛在威脅和安全隱患。目前，深度偽造的技術(shù)門檻正大幅降低，網(wǎng)絡(luò)上充斥著大量偽造教程和開源可用的計算機(jī)程序，即便是不具備專業(yè)算法能力的普通用戶，也可以在很短時間內(nèi)輕松上手。尤其依托深度學(xué)習(xí)算法特性，在海量圖像和視頻數(shù)據(jù)的驅(qū)動下，深度合成技術(shù)不斷演進(jìn)迭代，仿真精度不斷得到提升。所以，制作一段高逼真度的虛假音視頻成本極低，卻可以借助社交媒體等平臺短時間風(fēng)靡互聯(lián)網(wǎng)。對于這樣一種技術(shù)，如果不進(jìn)行規(guī)制，將產(chǎn)生可怕的后果。

深度偽造技術(shù)的大規(guī)模濫用正侵害到社會公眾的合法權(quán)益。比如深度偽造技術(shù)最常見的非法運(yùn)用方式，將一些知名歌星、影星等公眾人物的臉“移花接木”到色情明星身上，偽造色情片非法牟利，或者是偽造惡搞視頻，這對個人名譽(yù)權(quán)與肖像權(quán)構(gòu)成嚴(yán)重侵害。

其次是公眾財產(chǎn)安全，不法分子可以利用漏洞劫持手機(jī)識別攝像頭，利用照片活化、表情操縱等深度偽造技術(shù)冒充機(jī)主，進(jìn)而對機(jī)主的微信好友實(shí)行轉(zhuǎn)賬詐騙。同樣的，電信詐騙中也有類似利用“語音偽造”技術(shù)的案例。

不僅如此，深度偽造還將會對社會安全和國家安全造成威脅。例如，借助互聯(lián)網(wǎng)平臺捏造虛假新聞、炮制政治謠言，深度偽造技術(shù)大大增加了網(wǎng)絡(luò)內(nèi)容監(jiān)管的復(fù)雜性，也帶來了社會信任危機(jī)與網(wǎng)絡(luò)政治安全風(fēng)險。在病毒式傳播的深度偽造視背后，可能蘊(yùn)藏著操縱社會輿論、激化社會矛盾與擾亂正常社會經(jīng)濟(jì)秩序等系統(tǒng)性的危害。

“比如公安機(jī)關(guān)、司法機(jī)關(guān)的圖像鑒別工作，深度偽造技術(shù)的出現(xiàn)將導(dǎo)致舉證工作存在風(fēng)險?！碧锾煸谘葜v中補(bǔ)充道，“深度偽造技術(shù)也可能成為國家之間發(fā)起虛假信息戰(zhàn)爭的最新武器，抹黑政治人物、偽造政治制度和破壞國家間關(guān)系，甚至在未來軍事戰(zhàn)場上損毀特定軍事或情報行動。在這種背景下，國內(nèi)外政府高度重視，都出臺了相關(guān)的監(jiān)管制度?！?/p>

DeepReal檢測結(jié)果展示：紅色框代表判斷為虛假人臉，綠色框代表判斷為真實(shí)人臉

檢測準(zhǔn)確率無疑是衡量該平臺價值最為重要的指標(biāo)。據(jù)唐家渝介紹，檢測效果主要受到兩個因素的影響：數(shù)據(jù)集多元化程度和算法可靠程度。DeepReal深度偽造檢測平臺算法基于大數(shù)據(jù)量進(jìn)行訓(xùn)練和測試，截至目前，數(shù)據(jù)量已達(dá)到千萬級，數(shù)據(jù)集已覆蓋三大類，包括：學(xué)術(shù)深偽數(shù)據(jù)集、網(wǎng)絡(luò)深偽數(shù)據(jù)集和自研深偽數(shù)據(jù)集。同時，通過結(jié)合貝葉斯學(xué)習(xí)框架和深度神經(jīng)網(wǎng)絡(luò)，來估計模型在預(yù)測新樣本時的不確定性。以上，有效保障了DeepReal深偽檢測算法的泛化能力。

在測試結(jié)果方面，DeepReal在學(xué)術(shù)數(shù)據(jù)集和ZAO等主流方式生成的網(wǎng)絡(luò)數(shù)據(jù)集中，已達(dá)到99%以上的準(zhǔn)確率。而在實(shí)際應(yīng)用中，DeepReal的檢測準(zhǔn)確率也已達(dá)到業(yè)界頂尖水平，遠(yuǎn)超 Facebook此前舉辦的Deepfake檢測挑戰(zhàn)賽所公布的最好成績。

天下武功，唯快不破。超高的準(zhǔn)確度，還需要速度來支撐。DeepReal深度偽造內(nèi)容檢測平臺，可實(shí)現(xiàn)每幀畫面的檢測時間僅用時30毫秒。同時，還支持橫向拓展與集群部署。檢測完畢，平臺還支持生成檢測報告。

DeepReal深度偽造內(nèi)容檢測平臺檢測報告示意圖