深刻了解及應(yīng)對(duì)深度偽造對(duì)國(guó)家安全的挑戰(zhàn)

　　人工智能的快速進(jìn)步給社會(huì)發(fā)展帶來(lái)諸多機(jī)遇，但其被惡意使用的風(fēng)險(xiǎn)也逐漸顯現(xiàn)。作為人工智能深度學(xué)習(xí)領(lǐng)域的一個(gè)分支，深度偽造技術(shù)在近幾年迅速興起，為國(guó)家間的政治抹黑、軍事欺騙、經(jīng)濟(jì)犯罪甚至恐怖主義行動(dòng)等提供了新工具，給政治安全、經(jīng)濟(jì)安全、社會(huì)安全、國(guó)民安全等國(guó)家安全領(lǐng)域帶來(lái)了諸多風(fēng)險(xiǎn)。

　　應(yīng)對(duì)深度偽造技術(shù)的濫用及其安全挑戰(zhàn)，需要加強(qiáng)研發(fā)預(yù)警檢測(cè)手段，推進(jìn)立法管制，加強(qiáng)宣傳教育，推進(jìn)國(guó)際安全合作治理。

　　隨著計(jì)算能力大幅提升、大數(shù)據(jù)爆炸式增長(zhǎng)以及深度學(xué)習(xí)算法的創(chuàng)新突破，人工智能正迎來(lái)第三次發(fā)展浪潮。人工智能既給社會(huì)發(fā)展帶來(lái)了巨大機(jī)遇，同時(shí)也帶來(lái)了諸多風(fēng)險(xiǎn)，人工智能對(duì)國(guó)家安全的影響已成為世界各國(guó)的重要關(guān)切和研究議程。

　　深度偽造（Deepfake）這一概念近年來(lái)也日益受到關(guān)注。2019 年初，臉譜網(wǎng)上流傳一則關(guān)于特朗普的假視頻，視頻中的“特朗普”批評(píng)了比利時(shí)在氣候變化問(wèn)題上的立場(chǎng)，而實(shí)際上這并非特朗普本人。

　　此前，德國(guó)研究團(tuán)隊(duì)也利用這一技術(shù)制作出了包括普京、小布什等國(guó)家首腦的假視頻。

　　2019 年 1 月，卡耐基國(guó)際和平研究所發(fā)表《國(guó)家如何應(yīng)對(duì)深度偽造亂象》一文，指出深度偽造技術(shù)正在給各國(guó)政府和企業(yè)帶來(lái)破壞性影響。美國(guó)國(guó)會(huì)近來(lái)也專(zhuān)門(mén)就深度偽造技術(shù)的影響舉行聽(tīng)證會(huì)，表明深度偽造技術(shù)在美國(guó)大選之年引發(fā)多方高度關(guān)注。

　　筆者注意到，國(guó)內(nèi)對(duì)深度偽造技術(shù)的應(yīng)用及其影響給予的重視尚不夠，且缺乏較系統(tǒng)的研究。

　　本文擬介紹深度偽造技術(shù)興起的背景和特點(diǎn)，深入分析其對(duì)政治安全、經(jīng)濟(jì)安全、社會(huì)安全、國(guó)民安全等領(lǐng)域帶來(lái)的新挑戰(zhàn)，并給出相應(yīng)的治理對(duì)策，拋磚引玉，以推動(dòng)國(guó)內(nèi)對(duì)深度偽造技術(shù)發(fā)展應(yīng)用的進(jìn)一步研究討論。

　　深度偽造興起的背景與特點(diǎn)

　　1.1深度偽造興起的背景

　　深度偽造（Deepfake） 這一概念最早出現(xiàn)在 2017 年底，起初是一名為“deepfakes”的紅迪網(wǎng)（Reddit）用戶在網(wǎng)上發(fā)布了一段利用名人面孔合成的色情視頻，引發(fā)各界關(guān)注。深度偽造是深度學(xué)習(xí)（deep learning）與偽造（fake）二者的組合詞，一開(kāi)始專(zhuān)指用基于人工智能尤其是深度學(xué)習(xí)的人像合成技術(shù)。

　　隨著技術(shù)的進(jìn)步，深度偽造技術(shù)已經(jīng)發(fā)展為包括視頻偽造、聲音偽造、文本偽造和微表情合成等多模態(tài)視頻欺騙技術(shù)（見(jiàn)圖 1）。深度偽造背后的支撐技術(shù)是深度學(xué)習(xí)，具體來(lái)說(shuō)主要是“生成性對(duì)抗網(wǎng)絡(luò)”（Generative Adversarial Network，GAN） 和卷積神經(jīng)網(wǎng)絡(luò)（ConvolutionalNeural Network，CNN）。

　　用于深度學(xué)習(xí)算法的真實(shí)數(shù)據(jù)或模擬數(shù)據(jù)越多，合成的視、音頻等深度偽造產(chǎn)品的逼真程度就越高，在這些假視頻和音頻中能夠讓人說(shuō)現(xiàn)實(shí)中沒(méi)有說(shuō)過(guò)的話、做現(xiàn)實(shí)中沒(méi)有做過(guò)的事，甚至達(dá)到以假亂真的程度，沖擊著人們“眼見(jiàn)為實(shí)”的傳統(tǒng)認(rèn)知。

　　圖 1 基于多模態(tài)的深度偽造技術(shù)

　　1.2深度偽造的技術(shù)原理

　　視頻偽造：人工智能換臉

　　視頻偽造是深度偽造技術(shù)最為主要的代表，制作假視頻的技術(shù)也被業(yè)界稱為人工智能換臉技術(shù)（AI face swap）。其核心原理是利用生成對(duì)抗網(wǎng)絡(luò)或者卷積神經(jīng)網(wǎng)絡(luò)等算法將目標(biāo)對(duì)象的面部“嫁接”到被模仿對(duì)象上。由于視頻是連續(xù)的圖片組成，因此只需要把每一張圖片中的臉替換，就能得到變臉的新視頻。

　　具體而言，首先將模仿對(duì)象的視頻逐幀轉(zhuǎn)化成大量圖片，然后將目標(biāo)模仿對(duì)象面部替換成目標(biāo)對(duì)象面部。最后，將替換完成的圖片重新合成為假視頻，而深度學(xué)習(xí)技術(shù)可以使這一過(guò)程實(shí)現(xiàn)自動(dòng)化。

　　音頻偽造：語(yǔ)音合成

　　深度偽造的另一大代表就是音頻偽造，目前實(shí)現(xiàn)音頻偽造最為常見(jiàn)的方法是“語(yǔ)音克隆”技術(shù)，該技術(shù)已廣泛應(yīng)用在蘋(píng)果 Siri 等個(gè)性化虛擬助手中。具體而言，實(shí)現(xiàn)語(yǔ)音克隆主要有兩種方法，一是說(shuō)話者自適應(yīng)（speaker adaption），二是說(shuō)話者編碼（speaker encoding）。每個(gè)人的語(yǔ)速、語(yǔ)調(diào)等聲道信息都可以表示成一個(gè)聲音模型。

　　其中，說(shuō)話者編碼是根據(jù)說(shuō)話人的少數(shù)聲音對(duì)標(biāo)準(zhǔn)聲道模型進(jìn)行微調(diào)，以模擬出該說(shuō)話人的聲音。而說(shuō)話者自適應(yīng)則根據(jù)說(shuō)話人的少量音頻，從一個(gè)多人語(yǔ)音模型中找出該講話人的聲音特征。

　　其他偽造技術(shù)

　　除了視頻和音頻偽造之外，廣義的深度偽造還包括文本偽造和微表情偽造?，F(xiàn)階段，文本偽造的主要技術(shù)支撐是自然語(yǔ)言處理（Natural Language Processing,NLP），先使用卷積神經(jīng)網(wǎng)絡(luò)從視頻中識(shí)別并提取字幕，然后通過(guò)自然語(yǔ)言處理技術(shù)生成偽造文本。

　　微表情偽造則主要利用圖像合成技術(shù)，先將大量面部表情數(shù)據(jù)手動(dòng)注釋為相應(yīng)的情緒，再根據(jù) 39 種面部微表情從基礎(chǔ)注釋中判斷出微表情特征組合所代表的情緒，進(jìn)而實(shí)現(xiàn)對(duì)微表情的偽造。

　　1.3深度偽造的特點(diǎn)

　　算法自動(dòng)生成，制作成本和門(mén)檻較低

　　事實(shí)上，偽造技術(shù)很早以前就已經(jīng)出現(xiàn)，以前的圖像處理技術(shù)（Photoshop）就能制作虛假的圖像。此次深度偽造技術(shù)的特別之處在于，它背后的核心驅(qū)動(dòng)力量是深度學(xué)習(xí)算法，具有自動(dòng)生成目標(biāo)圖形圖像的顯著特性。由于這一技術(shù)主要是代碼組成的軟件，算法突破后本身的制作成本非常低，且一旦做出來(lái)就可以幾乎以零成本進(jìn)行擴(kuò)散。

　　此外，隨著技術(shù)的擴(kuò)散和程序化，制作深度偽造產(chǎn)品的門(mén)檻也在不斷降低。例如，起初深度偽造視頻的技術(shù)僅僅以源代碼公布在社交編程及代碼托管（Github）網(wǎng)站上，想實(shí)現(xiàn)假視頻偽造需要操作者有較高的技術(shù)水平。

　　但很快，網(wǎng)上就出現(xiàn)了可供下載的 FakeApp、Faceswap、DeepNude 等換臉軟件，只需要按照軟件提示輸入幾張圖片就可以快速制造假視頻。換言之，掌握了這些軟件和素材的人理論上可以制作出任何一個(gè)人說(shuō)任何話、做任何事的虛假視頻和音頻，且這個(gè)過(guò)程都是自動(dòng)化的。

　　產(chǎn)品逼真而多元，識(shí)別難度大

　　深度偽造技術(shù)的產(chǎn)品涵蓋假視頻、音頻、文本、微表情等，十分多元。深度偽造技術(shù)的擴(kuò)散可能導(dǎo)致世界上充斥各種各樣的偽造信息，而且這種假信息正在變得越來(lái)越“真實(shí)”。深度學(xué)習(xí)的一大特性就是，提供訓(xùn)練的樣本數(shù)據(jù)越多，對(duì)目標(biāo)對(duì)象的模擬就會(huì)越準(zhǔn)確，偽造出來(lái)的假視頻和音頻等產(chǎn)品就會(huì)顯得越逼真。

　　目前，流傳在網(wǎng)上的假視頻主要是關(guān)于明星、政客等公眾人物，就是因?yàn)樗麄兊恼掌鸵曨l在網(wǎng)上可以輕易獲取，用作偽造視頻的原材料。

　　起初，深度偽造產(chǎn)品還可以通過(guò)五官、眨眼頻率等特征分辨出來(lái)，隨著這類(lèi)技術(shù)的算法會(huì)不斷演化，從 2017 年深度偽造技術(shù)剛誕生時(shí)用的卷積神經(jīng)網(wǎng)絡(luò)到現(xiàn)在最新的生成對(duì)抗網(wǎng)絡(luò)，無(wú)論是實(shí)現(xiàn)智能“換臉”的計(jì)算能力還是逼真程度都有了很大提升，已經(jīng)讓大眾越來(lái)越難辨真假。

　　未來(lái)，基于眨眼頻率、聲音、微表情、文本等特征的多模態(tài)特征融合的假視頻制作技術(shù)將是一個(gè)可能的發(fā)展趨勢(shì)，普通公眾識(shí)別深度偽造作品的難度也會(huì)越來(lái)越大。

　　與社交媒體結(jié)合，傳播速度快

　　基于深度偽造技術(shù)制作的假視頻、音頻等產(chǎn)品迎合了大眾的獵奇心理，很容易借助臉譜網(wǎng)、推特、微信、微博等社交媒體的效力，在全世界快速傳播?；ヂ?lián)網(wǎng)將世界連為一體，各類(lèi)信息能夠在轉(zhuǎn)瞬之間傳遍全球，自然也包括假消息。

　　深度偽造產(chǎn)品借助網(wǎng)絡(luò)社交媒體的漣漪效應(yīng)，很可能會(huì)大規(guī)模擴(kuò)散。假消息越是搞怪、離奇、恐怖，就越能吸人眼球，帶來(lái)的流量就越大，社交媒體就會(huì)傳播得越快，以訛傳訛的效應(yīng)就會(huì)愈加明顯，造成破壞性影響的速度也會(huì)越快。在人們尚未來(lái)得及做出反應(yīng)的時(shí)候，破壞性后果可能就已經(jīng)造成。

　　目前，Youtube 上已經(jīng)出現(xiàn)了大量關(guān)于特朗普、奧巴馬等政治人物的虛假視頻②，Reddit、Pornhub 等網(wǎng)站上也出現(xiàn)了大量好萊塢女明星換臉后的虛假成人電影等，且這些假視頻的點(diǎn)擊量十分驚人。

　　深度偽造給國(guó)家安全帶來(lái)的挑戰(zhàn)

　　誠(chéng)然，深度偽造技術(shù)存在著一些正面使用的前景，例如為商業(yè)發(fā)展、藝術(shù)創(chuàng)作、醫(yī)療行業(yè)等領(lǐng)域提供了新的發(fā)展空間。

　　但鑒于其以假亂真的技術(shù)本質(zhì)以及目前的發(fā)展趨勢(shì)，這項(xiàng)技術(shù)對(duì)于國(guó)家安全可能帶來(lái)更多挑戰(zhàn)，如果被不法分子出于政治或惡意牟利動(dòng)機(jī)使用，將給政治安全、經(jīng)濟(jì)安全、社會(huì)安全、國(guó)民安全等領(lǐng)域帶來(lái)諸多風(fēng)險(xiǎn)和威脅。

　　2.1深度偽造給政治安全帶來(lái)的風(fēng)險(xiǎn)

　　深度偽造技術(shù)惡意使用的最大風(fēng)險(xiǎn)可能發(fā)生在政治領(lǐng)域。這一技術(shù)如果被外國(guó)競(jìng)爭(zhēng)對(duì)手利用，極有可能會(huì)用于抹黑國(guó)家領(lǐng)導(dǎo)人，煽動(dòng)恐怖和暴力情緒，破壞國(guó)家政治穩(wěn)定。

　　政治人物遭到深度偽造產(chǎn)品的抹黑是首當(dāng)其沖的挑戰(zhàn)

　　深度偽造技術(shù)為抹黑政治人物提供了新的強(qiáng)大工具，利用深度偽造技術(shù)制作關(guān)于政治人物的虛假負(fù)面視頻無(wú)疑會(huì)破壞其在民眾中的形象。

　　由于政治人物需要經(jīng)常出現(xiàn)在公眾的視野，其公開(kāi)的照片和視頻很容易被獲取并用來(lái)制作假視頻。例如，一段由特朗普總統(tǒng)在臉譜網(wǎng)上分享的關(guān)于美國(guó)眾議院議長(zhǎng)南希？佩洛西（Nancy Pelosi）的視頻就獲得了250 萬(wàn)次點(diǎn)擊量。視頻中，佩洛西如同喝醉了一般，神志不清，說(shuō)話磕巴，舉止怪異。此外，美國(guó)前總統(tǒng)奧巴馬的臉也被用來(lái)制作假視頻，攻擊特朗普是個(gè)“十足的笨蛋”。該視頻在網(wǎng)上已經(jīng)獲得了480萬(wàn)次的瀏覽量。

　　此外，如前所述，社交媒體上已經(jīng)流傳著大量關(guān)于特朗普、普京等國(guó)家領(lǐng)導(dǎo)人的假視頻。盡管現(xiàn)在這些視頻還能夠辨別真假，大家對(duì)此只是當(dāng)做娛樂(lè)一笑了之。

　　但是，隨著深度偽造技術(shù)的日益精進(jìn)，這些假視頻會(huì)變得越來(lái)越逼真，普通人通過(guò)肉眼想要區(qū)分真假將變得越來(lái)越困難，那時(shí)候?qū)τ谡稳宋镄蜗蠛兔u(yù)的破壞將會(huì)愈加嚴(yán)重。

　　政治制度也容易受到深度偽造的嚴(yán)重沖擊

　　近年來(lái)，社交媒體上流傳的假消息已經(jīng)引起了諸多政治爭(zhēng)議和風(fēng)波②。如今，深度偽造技術(shù)讓假消息以更加可信的方式呈現(xiàn)在社會(huì)公眾面前，就可能會(huì)進(jìn)一步引發(fā)公民對(duì)于政治系統(tǒng)的信任赤字。

　　例如，這類(lèi)技術(shù)可以用在領(lǐng)導(dǎo)人選舉上，一方候選人或敵對(duì)國(guó)家制作虛假視頻來(lái)對(duì)候選人進(jìn)行政治原則、生活作風(fēng)等方面的抹黑，無(wú)疑會(huì)破壞被選舉人形象和選舉制度的公正性，從而威脅國(guó)內(nèi)政治制度的合法性。

　　已有專(zhuān)家擔(dān)心，深度偽造技術(shù)會(huì)對(duì)即將到來(lái)的 2020 年美國(guó)大選造成極大威脅，稱如果說(shuō) 2016 年美國(guó)大選是俄羅斯操縱的“假新聞大選”，那么 2020 年大選就可能成為被深度偽造操縱的“深度偽造大選”。

　　不難理解，關(guān)于總統(tǒng)候選人的假視頻通過(guò)社交軟件廣泛擴(kuò)散，無(wú)疑對(duì)美國(guó)民主選舉制度造成極大破壞。因?yàn)椋裰髦贫鹊幕A(chǔ)在于選民的知情同意，“通過(guò)公開(kāi)、理性的辯論，產(chǎn)生人民的集體智慧引領(lǐng)國(guó)家正確前進(jìn)”，但在深度偽造技術(shù)驅(qū)動(dòng)的假消息泛濫的情況下，選民距離可觀察的實(shí)情和真相將會(huì)越來(lái)越遠(yuǎn)，就可能會(huì)造成思維混亂。

　　在這種情況下，政府的公信力將難以維持，民主制度的根基就會(huì)被動(dòng)搖乃至瓦解，美國(guó)等民主國(guó)家的政治系統(tǒng)就可能會(huì)因此陷入混亂。

　　正因如此，美國(guó)總統(tǒng)大選佛羅里達(dá)州候選人、共和黨參議員盧比奧將這一技術(shù)的威力與核武器相提并論，美國(guó)國(guó)會(huì)近期也表示，將在 2020 大選之前對(duì)深度偽造技術(shù)進(jìn)行調(diào)查，并展開(kāi)相關(guān)立法行動(dòng)。

　　此外，利用深度偽造技術(shù)制作關(guān)于政府對(duì)公民施加殘暴行為的假視頻，可能會(huì)激起民憤，輕則引發(fā)集會(huì)、示威、游行等行為，重則激起暴力活動(dòng)，造成社會(huì)動(dòng)蕩，威脅政治系統(tǒng)穩(wěn)定性。

　　深度偽造技術(shù)也可能被用來(lái)破壞國(guó)家間關(guān)系

　　深度偽造技術(shù)可能會(huì)成為信息戰(zhàn)的強(qiáng)大武器，破壞國(guó)家間的正常關(guān)系。歷史上，利用假消息煽動(dòng)國(guó)家間的政治沖突這一現(xiàn)象并不鮮見(jiàn)。

　　早在 1898 年，美國(guó)緬因州號(hào)在哈瓦那港爆炸，美國(guó)的一家小報(bào)就曾利用誤導(dǎo)性的事件來(lái)煽動(dòng)公眾與西班牙開(kāi)戰(zhàn)。如今，深度偽造技術(shù)為進(jìn)行這類(lèi)操作提供了更加多樣化和逼真的新工具。

　　例如，這類(lèi)技術(shù)被第三方行為體用于制作國(guó)家首腦或代表人物的假視頻，宣布一些本不存在的外交政策，就可能會(huì)破壞涉事國(guó)領(lǐng)導(dǎo)人之間的互信和兩國(guó)關(guān)系。

　　例如，如果一段有關(guān)伊朗官員策劃在伊拉克某省采取秘密行動(dòng)殺害遜尼派領(lǐng)導(dǎo)人的音頻，無(wú)疑會(huì)激化伊朗和伊拉克之間的矛盾，或是一段顯示美國(guó)大兵在伊斯蘭國(guó)家焚燒古蘭經(jīng)的視頻在網(wǎng)上流傳，可能加劇信奉伊斯蘭教的國(guó)家對(duì)美國(guó)的怨恨。

　　再比如，前文所提到的特朗普批評(píng)比利時(shí)政府在氣候變化問(wèn)題上的立場(chǎng)這一假視頻，如果日后技術(shù)進(jìn)步到讓人難辨真假的話，就會(huì)對(duì)美國(guó)和比利時(shí)的關(guān)系產(chǎn)生負(fù)面影響。

　　此外，深度偽造技術(shù)還可能為某些國(guó)家干涉他國(guó)內(nèi)政提供新的由頭。曾經(jīng)，美國(guó)以“大規(guī)模殺傷性武器”為由，繞過(guò)聯(lián)合國(guó)安理會(huì)單方面對(duì)伊拉克進(jìn)行軍事打擊，最后發(fā)現(xiàn)的卻是“洗衣粉”。如今，有了這一技術(shù)，制造冠冕堂皇的理由和“證據(jù)”無(wú)疑將變得更加容易。

　　2.2深度偽造對(duì)經(jīng)濟(jì)安全帶來(lái)的風(fēng)險(xiǎn)

　　深度偽造技術(shù)為破壞企業(yè)形象提供了新工具

　　企業(yè)是市場(chǎng)中的核心單元，而深度偽造對(duì)破壞企業(yè)形象可能帶來(lái)難以估量的負(fù)面影響，如果深度偽造技術(shù)篡改企業(yè)高層的說(shuō)話內(nèi)容、散播虛假消息，或通過(guò)合成假視頻直接抹黑企業(yè)負(fù)責(zé)人，無(wú)疑會(huì)破壞這家企業(yè)在公眾心中的形象，進(jìn)而影響公司的名聲和經(jīng)濟(jì)利益。

　　2019 年上半年爆出的新城控股董事長(zhǎng)猥褻女童事件，就嚴(yán)重破壞了這家企業(yè)的公眾形象，使其深陷輿論漩渦，資產(chǎn)迅速縮水，最后不得不大舉拋售項(xiàng)目。

　　而未來(lái)，深度偽造技術(shù)可以制作關(guān)于企業(yè)高層負(fù)責(zé)人丑聞的假視頻，作為證據(jù)起訴公司負(fù)責(zé)人或引發(fā)輿論關(guān)注，就可能使當(dāng)事人百口難辯。

　　深度偽造給金融市場(chǎng)穩(wěn)定性帶來(lái)了新的風(fēng)險(xiǎn)

　　深度偽造還可能為引發(fā)金融市場(chǎng)動(dòng)蕩提供了新的不穩(wěn)定源。例如，一些人通過(guò)偽造多個(gè)知名經(jīng)濟(jì)學(xué)家同時(shí)唱衰經(jīng)濟(jì)的視頻，或者重要的銀行遭遇恐怖襲擊的假視頻，并將之投放到網(wǎng)絡(luò)上，就很有可能造成市場(chǎng)恐慌，使得投資者大量拋售手中的股票，而肇事者就可以從中做空獲利。

　　危險(xiǎn)在于，在這種情況下市場(chǎng)的反應(yīng)速度往往比當(dāng)事人澄清的速度更快，這一點(diǎn)從幾年前的一個(gè)真實(shí)案例中可窺見(jiàn)一斑。2013 年 4 月 23 日，美聯(lián)社推特賬號(hào)在被黑客攻擊后主動(dòng)發(fā)布了一條假新聞，稱“白宮發(fā)生兩次爆炸，奧巴馬受傷”，導(dǎo)致道瓊斯指數(shù)暴跌 140 余點(diǎn)，

　　瞬間蒸發(fā)掉了 1365 億美元。直到新聞被證偽，市場(chǎng)才逐漸恢復(fù)正常。

　　由此可見(jiàn)，一條策劃良好的假文本新聞就足以引起很大的金融震蕩。不難預(yù)見(jiàn)，利用深度偽造技術(shù)制造更為逼真的假視頻和假音頻新聞會(huì)給金融穩(wěn)定和經(jīng)濟(jì)安全帶來(lái)更嚴(yán)峻的挑戰(zhàn)。

　　2.3深度偽造給社會(huì)安全帶來(lái)的風(fēng)險(xiǎn)

　　假消息的泛濫可能會(huì)造成社會(huì)信任危機(jī)

　　從本質(zhì)上來(lái)看，深度偽造技術(shù)惡意使用所帶來(lái)的最根本影響在于，它會(huì)進(jìn)一步模糊真相與假象之間的界限，使大家對(duì)一切事物都產(chǎn)生懷疑，從而可能造成全社會(huì)范圍內(nèi)的信任危機(jī)。

　　千百年來(lái)，人們?cè)谂c世界交互中所形成的傳統(tǒng)觀念是“眼見(jiàn)為實(shí)”（Seeing is believing），但假如一切都可以被偽造，而沒(méi)有足夠的技術(shù)手段進(jìn)行區(qū)分，真相與假象之間的界限就會(huì)變得日益模糊，使得“眼見(jiàn)也不一定為實(shí)”。由于像FakeApp 換臉軟件和 Lyrebird 變聲軟件等應(yīng)用程序操作簡(jiǎn)便，十分容易擴(kuò)散。

　　因此，這種假視頻、假音頻可以被普通人使用電腦或手機(jī)等大眾電子設(shè)備制作出來(lái)，并通過(guò)社交媒體廣泛傳播，從而可能使全社會(huì)陷入一場(chǎng)真相與假象之間混雜不清的困境之中，造成“真相的終結(jié)”，推動(dòng)人類(lèi)社會(huì)真正進(jìn)入“后真相時(shí)代”。

　　區(qū)分不清政治人物的真假消息，選民就無(wú)法有效選舉，民主制度就難以為繼；社會(huì)信用赤字，借貸、保險(xiǎn)、投資等市場(chǎng)行為就將受到影響，社會(huì)金融、互助體系等都將受到嚴(yán)重沖擊，人的精神世界也可能會(huì)面臨一場(chǎng)深層次的危機(jī)。

　　給現(xiàn)有法律體系帶來(lái)新挑戰(zhàn)

　　深度偽造技術(shù)能夠自動(dòng)生成高可信度的假視頻和假音頻，如果被別有用心的人利用，將給現(xiàn)有法律體系尤其是取證領(lǐng)域帶來(lái)很大的挑戰(zhàn)。法律講究證據(jù)，而錄像和錄音材料常常作為重要的舉證支撐，法官要根據(jù)原告和被告的證詞以及相應(yīng)的舉證材料對(duì)案件進(jìn)行評(píng)判。例如，敘利亞戰(zhàn)爭(zhēng)中用視頻記錄下來(lái)的戰(zhàn)爭(zhēng)罪行就成為了定罪的重要依據(jù)。

　　但在深度偽造技術(shù)迅速發(fā)展和應(yīng)用的情形下，如果沒(méi)有足夠的技術(shù)手段來(lái)區(qū)分假視頻、假音頻等深度偽造產(chǎn)品的真實(shí)性，就會(huì)對(duì)原有法律體系帶來(lái)很大挑戰(zhàn)。

　　具體而言，這類(lèi)風(fēng)險(xiǎn)主要有以下三方面：

　　一是犯罪分子為了嫁禍他人利用深度偽造技術(shù)進(jìn)行誣陷，可能帶來(lái)冤假錯(cuò)案。

　　二是犯罪分子為了逃避法律制裁，堅(jiān)稱原告提供的舉證材料是利用深度偽造技術(shù)制作的虛假材料，而如果沒(méi)有辦法證偽其觀點(diǎn)，可能會(huì)使犯罪分子逃脫法網(wǎng)制裁。

　　三是現(xiàn)有法律尚不能約束深度偽造產(chǎn)品在社交媒體上的廣泛傳播，對(duì)于造成重大負(fù)面影響的匿名假視頻、假音頻制作者也無(wú)法進(jìn)行有效追責(zé)。

　　尤其是當(dāng)人工智能技術(shù)越來(lái)越多地用于法院時(shí)，如果正向的檢測(cè)技術(shù)跟不上深度偽造的技術(shù)步伐，而人眼又無(wú)法區(qū)分這些材料的真?zhèn)涡?，那么就可能造成案件的誤判，嚴(yán)重影響司法公正和受害人利益。鑒于深度偽造的成本和門(mén)檻呈現(xiàn)出越來(lái)越低的趨勢(shì)，日后的這類(lèi)風(fēng)險(xiǎn)值得警惕。

　　滋生“深度偽造恐怖主義”

　　對(duì)于恐怖分子等非國(guó)家行為體而言，深度偽造技術(shù)無(wú)疑是一個(gè)強(qiáng)大、低成本且易獲取的工具。一般而言，恐怖分子的武裝力量、資金和其他資源十分有限，其目標(biāo)往往不在于物理空間的攻城掠地，而是試圖通過(guò)引發(fā)社會(huì)恐慌，達(dá)到自身的政治或其他目的，而深度偽造技術(shù)與恐怖主義的這一特點(diǎn)和訴求有著天然的契合點(diǎn)。

　　恐怖主義可能借著這一技術(shù)利器，更方便快捷地開(kāi)展恐怖行動(dòng)，甚至“不戰(zhàn)而屈人之兵”，不采取物理層面的恐怖措施就能達(dá)到預(yù)期的恐怖效果。

　　例如，“伊斯蘭國(guó)”（ISIS） 可以利用這一技術(shù)制作虛假視頻，描繪美國(guó)士兵屠殺平民、恐怖分子砍頭等血腥場(chǎng)景，并通過(guò)社交媒體迅速傳播，以激起世界憤怒、仇恨和恐慌，幫助其從全世界招募人員或其他地區(qū)作案。

　　筆者預(yù)測(cè)，恐怖分子與深度偽造技術(shù)的聯(lián)姻，可能會(huì)帶來(lái)新一輪恐怖主義浪潮，這種新型的恐怖形式可被稱為“網(wǎng)絡(luò)恐怖主義”的高級(jí)階段——“深度偽造恐怖主義”，即利用深度偽造技術(shù)制作虛假的視頻、音頻等假消息，并借助虛擬的網(wǎng)絡(luò)和社交媒體傳遍世界各地，實(shí)現(xiàn)其恐怖目的，這無(wú)疑會(huì)深刻威脅到社會(huì)安全。

　　2.4深度偽造給國(guó)民安全帶來(lái)的風(fēng)險(xiǎn)

　　國(guó)民安全是國(guó)家安全的核心內(nèi)容，維護(hù)國(guó)民的安全和利益是實(shí)現(xiàn)國(guó)家安全的根本所在。一旦基于深度偽造技術(shù)制作的假視頻、假音頻等大規(guī)模傳開(kāi)，就可能會(huì)深刻威脅到國(guó)民在生命、財(cái)產(chǎn)和名譽(yù)方面的安全。

　　威脅國(guó)民生命安全

　　深度偽造技術(shù)制造出的假消息可能會(huì)煽動(dòng)暴力沖突，從而深刻威脅公民的生命安全。近年來(lái)，因假消息引發(fā)的暴力現(xiàn)象并不鮮見(jiàn)。

　　在2018 年，印度就有 20 多人因?yàn)樵?WhatsApp 社交平臺(tái)上被謠傳綁架小孩或涉及其他罪案而遭受暴力致死。

　　在印度，社交軟件 WhatsApp 幾乎成為了民主主義傳播謠言和煽動(dòng)暴力的溫床。

　　類(lèi)似的假消息還有印度總理莫迪被聯(lián)合國(guó)教科文組織評(píng)為世界最佳總統(tǒng)、巴基斯坦士兵將兩位印度俘虜斬首等。

　　現(xiàn)階段，這類(lèi)假消息的主要載體還只是文字，分辨的難度并不大。但隨著深度偽造技術(shù)的不斷發(fā)展和應(yīng)用，利用假視頻、假音頻等假消息載體煽動(dòng)暴力引發(fā)事故的風(fēng)險(xiǎn)將會(huì)越來(lái)越大。

　　造成國(guó)民財(cái)產(chǎn)損失

　　深度偽造技術(shù)可能會(huì)被不法分子用于制作虛假視頻，提供虛假證據(jù)，進(jìn)行詐騙、勒索等違法行為，威脅公民的財(cái)產(chǎn)安全。例如，語(yǔ)音克隆技術(shù)能夠在采集目標(biāo)人物幾句話的基礎(chǔ)上，就通過(guò)算法生成這個(gè)人的全套語(yǔ)音，讓人難辨真假。

　　筆者曾經(jīng)也收到過(guò)利用語(yǔ)音合成技術(shù)偽造朋友的聲音對(duì)我進(jìn)行電話詐騙的情況，聲音逼真得幾乎與真人無(wú)異。目前，已經(jīng)出現(xiàn)利用假視頻、假音頻進(jìn)行碰瓷、詐騙的現(xiàn)實(shí)案例。

　　不難預(yù)見(jiàn)，隨著深度偽造技術(shù)的不斷發(fā)展和進(jìn)步，這一現(xiàn)象將會(huì)有增無(wú)減。例如，日后如果有人利用這一技術(shù)制作虛假綁票視頻，逼迫受害人家屬支付高昂費(fèi)用，而當(dāng)事人的家屬或朋友無(wú)法區(qū)分真假，無(wú)疑將對(duì)其造成很大的財(cái)產(chǎn)損失。

　　損害國(guó)民的名譽(yù)和心理

　　深度偽造還容易對(duì)個(gè)人的名譽(yù)和精神造成很大損害。自深度偽造在近些年出現(xiàn)以來(lái)，制作虛假的色情視頻成為這一技術(shù)最為常見(jiàn)的惡意應(yīng)用，而這些假視頻已經(jīng)成為污名化女性和進(jìn)行“色情報(bào)復(fù)”的新武器。

　　利用該技術(shù)能夠?qū)崿F(xiàn)“移花接木”，將女性的臉轉(zhuǎn)移到色情明星的身體上，偽造逼真的色情場(chǎng)景。

　　目前，已經(jīng)有很多女性成了這類(lèi)假視頻的受害者，導(dǎo)致受害人精神焦慮甚至自殺。例如，今年 4 月，印度記者拉娜？阿尤布（Rana Ayyub）因揭露印度古吉拉特暴亂中官員的黑幕和不作為，就遭遇了利用這一技術(shù)進(jìn)行的“色情報(bào)復(fù)”和死亡威脅，使其遭受巨大的精神折磨，最后不得不斷網(wǎng)乃至住院治療。

　　更為嚴(yán)重的是，這類(lèi)操作的技術(shù)門(mén)檻正在變得越來(lái)越低。今年上半年，網(wǎng)上就流傳著一鍵生成裸照的軟件“深度裸露”（DeepNude），只要輸入一張完整的女性圖片就可自動(dòng)生成相應(yīng)的裸照，引起了軒然大波。

　　未來(lái)，一鍵生成假視頻的軟件也可能在網(wǎng)上擴(kuò)散。如果不加管控，越來(lái)越多的個(gè)人和家庭將會(huì)受到傷害。因?yàn)椋粋€(gè)偽造的婚外情視頻在一些情況下就足以使當(dāng)事人名譽(yù)掃地，家庭破裂。

　　此外，還有利用這一技術(shù)進(jìn)行游走在法律邊緣的惡搞行為。目前，網(wǎng)上已經(jīng)出現(xiàn)很多惡搞名人的假視頻。例如，2019 年 7 月，以色列一家公司利用人工智能換臉技術(shù)合成了一段扎克伯格關(guān)于臉書(shū)技術(shù)壟斷的虛假視頻并上傳到“照片墻”（Instagram），造成了極為惡劣的影響。我國(guó)知名演員六小齡童先生也被惡搞，在視頻中變成了時(shí)尚潮男。這些真實(shí)中不存在的荒謬場(chǎng)景在假視頻中卻幾乎無(wú)所不能，無(wú)疑會(huì)給當(dāng)事人造成很大的精神困擾。

　　除了上述幾個(gè)領(lǐng)域的風(fēng)險(xiǎn)之外，深度偽造對(duì)軍事安全、網(wǎng)絡(luò)安全等其他國(guó)家安全領(lǐng)域也會(huì)帶來(lái)一定風(fēng)險(xiǎn)，例如，在軍事領(lǐng)域，可以利用這一技術(shù)制作虛假的戰(zhàn)斗命令，實(shí)現(xiàn)對(duì)敵方部隊(duì)的戰(zhàn)術(shù)欺騙，或生成敵方重要目標(biāo)的面容來(lái)解鎖重要設(shè)施的人臉識(shí)別系統(tǒng)等。

　　防范和應(yīng)對(duì)深度偽造的幾點(diǎn)思考

　　綜上分析，深度偽造給國(guó)家安全的各個(gè)領(lǐng)域都帶來(lái)了諸多風(fēng)險(xiǎn)。但目前世界各國(guó)多在大力推動(dòng)人工智能技術(shù)的快速發(fā)展和應(yīng)用，而對(duì)其惡意使用的風(fēng)險(xiǎn)重視不夠。

　　筆者認(rèn)為，為了防范和應(yīng)對(duì)深度偽造技術(shù)的潛在風(fēng)險(xiǎn)，各國(guó)政府可以在提升風(fēng)險(xiǎn)意識(shí)的基礎(chǔ)上，從技術(shù)工具、法律監(jiān)管、公民教育以及國(guó)際合作等方面建立相應(yīng)的治理框架，從而最大限度地化解風(fēng)險(xiǎn)，最大程度運(yùn)用人工智能維護(hù)國(guó)家安全和人民福祉。

　　3.1加強(qiáng)政策界與技術(shù)界之間的交流與合作

　　各國(guó)政府需要意識(shí)到深度偽造給國(guó)家安全帶來(lái)的風(fēng)險(xiǎn)的嚴(yán)重性和緊迫性，抓緊研發(fā)應(yīng)對(duì)深度偽造亂象的技術(shù)工具和政策手段。

　　一是要建立政策界與技術(shù)界之間的常態(tài)化交流機(jī)制。

　　當(dāng)前，政策規(guī)范的速度往往滯后于技術(shù)發(fā)展的速度，這會(huì)帶來(lái)技術(shù)濫用卻不受約束的風(fēng)險(xiǎn)。

　　在 2017 年發(fā)布的《阿西洛馬人工智能原則》中，特別強(qiáng)調(diào)了“人工智能研究者與政策制動(dòng)者之間應(yīng)該存在具有建設(shè)性的健康的信息交流”。

　　人工智能正以極快的速度影響社會(huì)，深度偽造技術(shù)的風(fēng)險(xiǎn)也在逐漸顯現(xiàn)。想要應(yīng)對(duì)這些風(fēng)險(xiǎn)和安全挑戰(zhàn)，最為緊迫的就是要加強(qiáng)政策社群與技術(shù)社群之間的常態(tài)化交流機(jī)制，使得政策制定者了解深度偽造技術(shù)的最新進(jìn)展和問(wèn)題，技術(shù)界了解指定深度偽造政策的實(shí)際需求，然后合作解決社會(huì)面臨的緊迫問(wèn)題。

　　二是要政府加大對(duì)預(yù)警檢測(cè)技術(shù)的資助力度。

　　在深度偽造這一問(wèn)題上，最為關(guān)鍵的就是預(yù)警檢測(cè)技術(shù)工具的研發(fā)。只要能夠使得預(yù)警檢測(cè)技術(shù)領(lǐng)先于偽造技術(shù)，以上所提到的所有風(fēng)險(xiǎn)很大程度上都可以得到緩解。盡管深度偽造技術(shù)正在迅速發(fā)展和應(yīng)用，但任何偽造產(chǎn)品都很難做到與真實(shí)物品完全一樣。

　　例如，假圖像難以描述光的微小變化，假音頻難以完全掌控人的節(jié)奏和語(yǔ)調(diào)，假視頻人物中的眨眼頻率與正常人存在差異。

　　因此，需要加快對(duì)深度偽造預(yù)警檢測(cè)技術(shù)的研發(fā)，并盡快推廣應(yīng)用③。目前，已經(jīng)有一些針對(duì)深度偽造技術(shù)的技術(shù)手段。例如，針對(duì)假視頻的檢測(cè)方法有神經(jīng)網(wǎng)絡(luò)檢測(cè)法、眨眼頻率分析法等。針對(duì)音頻的檢測(cè)技術(shù)有基于相位法、基頻統(tǒng)計(jì)量法等。

　　但是，這些方法還遠(yuǎn)未成熟②，且深度偽造技術(shù)也正在迅速發(fā)展進(jìn)化。要想使得預(yù)警檢測(cè)手段追趕上偽造手段的步伐，政府推動(dòng)和資助是必不可少的。

　　三是政府要鼓勵(lì)反制深度偽造領(lǐng)域的科技創(chuàng)新。

　　政府可以通過(guò)發(fā)布深度偽造技術(shù)相關(guān)的自然科學(xué)基金、社會(huì)科學(xué)基金等科研項(xiàng)目，依托高等院校、科研機(jī)構(gòu)、企業(yè)研究所等平臺(tái)，資助研發(fā)應(yīng)對(duì)深度偽造技術(shù)危害國(guó)家安全的技術(shù)和政策手段。

　　此外，還可以借鑒美國(guó)防部高級(jí)研究計(jì)劃局（DARPA） 通過(guò)“挑戰(zhàn)賽”的方式解決棘手問(wèn)題的做法，通過(guò)舉辦“反制深度偽造挑戰(zhàn)賽”等技術(shù)競(jìng)賽的方式促進(jìn)這一領(lǐng)域的科技創(chuàng)新，并將成果應(yīng)用于解決社會(huì)問(wèn)題。

　　3.2推進(jìn)對(duì)深度偽造的立法與監(jiān)管

　　當(dāng)前，世界各國(guó)普遍面臨著法律規(guī)范的速度滯后于技術(shù)發(fā)展步伐的挑戰(zhàn)。為應(yīng)對(duì)深度偽造技術(shù)的潛在風(fēng)險(xiǎn)，需要盡快進(jìn)行前瞻布局，推進(jìn)針對(duì)假消息的立法與監(jiān)管。

　　一是需要明確深度偽造產(chǎn)品生產(chǎn)主體的法律責(zé)任，從源頭上防止假消息的出現(xiàn)。

　　深度偽造技術(shù)本身是中性的，關(guān)鍵在于它背后的使用者和使用場(chǎng)景。因此，一方面，要通過(guò)立法禁止政府官員和權(quán)威機(jī)構(gòu)創(chuàng)作、傳播利用深度偽造技術(shù)合成的不真實(shí)信息。對(duì)于利用深度偽造技術(shù)危害社會(huì)和國(guó)家安全的個(gè)人和組織，要依法進(jìn)行相應(yīng)懲罰，對(duì)企圖利用這一技術(shù)犯罪的人形成威懾。另一方面，要盡快明確深度偽造技術(shù)的不正當(dāng)使用場(chǎng)景，形成限制深度偽造技術(shù)的“負(fù)面清單”，并對(duì)違法者予以懲戒。

　　二是要強(qiáng)化傳播媒介尤其是社交媒體的法律和社會(huì)責(zé)任，從傳播過(guò)程中阻止深度偽造產(chǎn)品的擴(kuò)散。

　　鑒于假視頻和音頻最可能首先出現(xiàn)在社交媒體平臺(tái)上，且傳播速度極快，范圍極廣。而互聯(lián)網(wǎng)和社交媒體往往將相同或類(lèi)似興趣的人群聚集在一起形成網(wǎng)絡(luò)社群，虛假、偏見(jiàn)和歧視的消息也更加容易在這里傳播并固化。

　　因此，從法律層面明確社交媒體在避免深度偽造的假消息危害國(guó)家安全方面就尤為重要。通過(guò)法律規(guī)范，明確社交媒體需要在發(fā)布前甄別假消息的責(zé)任，建立假消息篩查機(jī)制，加強(qiáng)內(nèi)容審核，禁止上傳可能危害國(guó)家安全或造成負(fù)面社會(huì)影響的假消息。

　　對(duì)于沒(méi)有明顯危害的娛樂(lè)性深度偽造產(chǎn)品要進(jìn)行標(biāo)注，告知用戶其虛假本質(zhì)，防止這類(lèi)假消息的傳播造成惡劣的社會(huì)影響和政治風(fēng)波。對(duì)于未能盡到這些義務(wù)而造成重大負(fù)面社會(huì)影響的責(zé)任主體，需要進(jìn)行法律追責(zé)。

　　三是要建立必要的危機(jī)應(yīng)對(duì)機(jī)制，在發(fā)現(xiàn)假消息肆意傳播時(shí)要快速響應(yīng)，避免其惡劣影響的擴(kuò)大化。

　　為此，政府部門(mén)應(yīng)加強(qiáng)與社交媒體、新聞機(jī)構(gòu)、非政府組織等機(jī)構(gòu)的合作與交流，共享在深度偽造技術(shù)領(lǐng)域的信息渠道，確保在重大假消息出現(xiàn)時(shí)能及時(shí)處置和有效應(yīng)對(duì)。

　　3.3提升公民對(duì)信息的警惕和批判意識(shí)

　　政府需要通過(guò)宣傳和教育，提高公眾對(duì)于深度偽造技術(shù)和產(chǎn)品的警惕意識(shí)和批判意識(shí)。

　　一是要教育和引導(dǎo)公民提升警惕意識(shí)，避免在遇到深度偽造產(chǎn)品時(shí)上當(dāng)受騙。

　　政府應(yīng)當(dāng)通過(guò)組織關(guān)于“深度偽造”的電視宣傳、主題教育等手段，提醒公民在面對(duì)出現(xiàn)在眼前的消息時(shí)，不能輕易相信“眼見(jiàn)為實(shí)”或“耳聽(tīng)為實(shí)”，而是要采取“三思而信”、多渠道映照以及有效技術(shù)手段去識(shí)別假視頻、假音頻等虛假消息，從而切實(shí)維護(hù)自身的生命財(cái)產(chǎn)安全。例如，在面對(duì)涉及自身或身邊朋友的綁票視頻時(shí)，應(yīng)當(dāng)先去電話或當(dāng)面詢問(wèn)對(duì)方的近況，就能夠有效避免上當(dāng)受騙。

　　二是要給公民提供適當(dāng)?shù)募夹g(shù)工具。

　　隨著深度偽造技術(shù)的出現(xiàn)和持續(xù)發(fā)展，一般民眾可能會(huì)越來(lái)越難區(qū)分信息的真假。這時(shí)，政府就需要聯(lián)合企業(yè)主動(dòng)為公眾提供一些簡(jiǎn)單易操作且可靠的技術(shù)援助。

　　例如，可以在研發(fā)有效檢測(cè)手段的基礎(chǔ)上，在瀏覽器中安裝“火眼金睛”“真相衛(wèi)士”等應(yīng)用插件，自動(dòng)檢測(cè)視頻、音頻等消息的真實(shí)性并告知用戶，使用戶能快速獲知信息是真實(shí)的還是偽造的，避免上當(dāng)受騙和遭受其他損失。

　　三是要教育公民在社交媒體上審慎制作和傳播假消息。

　　隨著自媒體時(shí)代的來(lái)臨和深度偽造技術(shù)的擴(kuò)散，人人都可以利用手機(jī)或電腦等電子產(chǎn)品制作假視頻、假音頻等假消息，并能通過(guò)微博、微信等社交媒體進(jìn)行傳播。

　　當(dāng)前，基于深度偽造技術(shù)制作的虛假視頻、音頻等假消息正在社交媒體上廣泛傳播，公民如果不假思索地跟著轉(zhuǎn)載、點(diǎn)贊，就可能會(huì)加速和擴(kuò)大假消息的破壞性影響。

　　因此，政府需要教育和引導(dǎo)公民仔細(xì)甄別消息的真假，在轉(zhuǎn)載和評(píng)論時(shí)要保持必要的審慎，避免成為協(xié)助假消息擴(kuò)散的“幫兇”。

　　3.4推動(dòng)對(duì)深度偽造的全球治理

　　一個(gè)假消息泛濫成災(zāi)時(shí)代的到來(lái)，對(duì)任何國(guó)家恐怕都不是福音。在全球化背景下，風(fēng)險(xiǎn)也隨著人員和信息的流動(dòng)向全球擴(kuò)散，深度偽造技術(shù)的影響范圍注定會(huì)超越單一國(guó)家，對(duì)世界各國(guó)都構(gòu)成重大挑戰(zhàn)。

　　在此背景下，只有加強(qiáng)國(guó)家間合作，共同規(guī)范這一技術(shù)的使用，合理打擊假消息的制造和傳播者，才能維護(hù)世界的共同安全與福祉。筆者認(rèn)為，以下幾項(xiàng)措施需要特別重視。

　　一是要將深度偽造全球治理納入人工智能全球治理的框架。隨著深度偽造技術(shù)的迅速發(fā)展，恐怖分子可能利用這一技術(shù)進(jìn)行跨國(guó)犯罪，深度偽造產(chǎn)品的泛濫對(duì)全世界來(lái)說(shuō)都是災(zāi)難，沒(méi)有哪個(gè)國(guó)家能夠獨(dú)善其身，推動(dòng)對(duì)深度偽造技術(shù)的全球治理符合各國(guó)的共同利益。

　　而深度偽造是人工智能技術(shù)惡用的顯著體現(xiàn)。未來(lái)生命研究所 2018 年發(fā)布的《人工智能的惡意使用：預(yù)測(cè)、預(yù)防和緩解》報(bào)告中就指出，人工智能技術(shù)存在被惡意使用的風(fēng)險(xiǎn)，深度偽造技術(shù)就是其中的一大代表。

　　因此，治理深度偽造本質(zhì)上是對(duì)人工智能惡意使用的防范和規(guī)制，推動(dòng)人工智能全球治理的過(guò)程中，要把深度偽造這一問(wèn)題作為重點(diǎn)納入考量范圍。

　　二是要加強(qiáng)在打擊假消息方面的國(guó)際合作，尤其是打擊利用深度偽造技術(shù)進(jìn)行跨國(guó)犯罪和跨國(guó)恐怖主義的行為。

　　2016 年歐洲刑警組織出臺(tái)的《網(wǎng)絡(luò)有組織犯罪威脅評(píng)估報(bào)告》就指出， 利用深度偽造技術(shù)進(jìn)行犯罪將成為一大趨勢(shì)。

　　從目前的發(fā)展來(lái)看，這一趨勢(shì)正在逐漸成型，利用深度偽造技術(shù)和產(chǎn)品進(jìn)行政治抹黑、經(jīng)濟(jì)犯罪、恐怖襲擊等危害國(guó)家和國(guó)際安全的行為正在日益增多。

　　為了應(yīng)對(duì)這一風(fēng)險(xiǎn)，各國(guó)需要合力建立相關(guān)機(jī)制，有效打擊犯罪分子利用這一技術(shù)進(jìn)行跨國(guó)作案。

　　三是要強(qiáng)化跨國(guó)互聯(lián)網(wǎng)企業(yè)對(duì)于管控深度偽造產(chǎn)品的法律和社會(huì)責(zé)任，尤其是對(duì)假消息傳播的管控。

　　目前，深度偽造的主要產(chǎn)品是假視頻，而這些假視頻已經(jīng)在臉譜網(wǎng)、推特、WhatsApp、微信、微博等跨國(guó)社交媒體上廣泛傳播，造成了很多負(fù)面影響，很多明星和政治人物深受其害。

　　因此，國(guó)家間需要加強(qiáng)合作，強(qiáng)化這些跨國(guó)社交媒體在假消息管控上的法律和社會(huì)責(zé)任，避免假消息利用社交媒體在世界范圍內(nèi)肆意擴(kuò)散，維護(hù)國(guó)家安全和世界繁榮穩(wěn)定。