深度偽造（Deepfake）不僅是社工釣魚(yú)攻擊、BEC商務(wù)郵件攻擊的下一個(gè)“熱點(diǎn)”，同時(shí)也對(duì)業(yè)務(wù)欺詐檢測(cè)、生物特征身份認(rèn)證等安全技術(shù)構(gòu)成嚴(yán)重威脅，更是未來(lái)“毫秒級(jí)”數(shù)字化現(xiàn)代戰(zhàn)爭(zhēng)的重大隱患。
而對(duì)抗“深度偽造”最好的方法就是“深度檢測(cè)”，用AI來(lái)檢測(cè)惡意AI。
近日，陸軍研究人員宣布開(kāi)發(fā)出一種深度偽造檢測(cè)方法，可以開(kāi)發(fā)出先進(jìn)的軍用技術(shù)來(lái)幫助士兵快速檢測(cè)和識(shí)別深度偽造相關(guān)威脅。
這項(xiàng)研究工作的目標(biāo)是開(kāi)發(fā)出輕量化的、低訓(xùn)練成本、高性能的面部生物特征識(shí)別技術(shù)，可以滿(mǎn)足士兵在戰(zhàn)斗中對(duì)隨身設(shè)備的尺寸、重量和功率要求。
美國(guó)陸軍作戰(zhàn)能力發(fā)展指揮部（DEVCOM）、陸軍研究實(shí)驗(yàn)室（ARL）與南加州大學(xué)教授c-c Jay Kuo的研究小組著手解決深度偽造對(duì)社會(huì)和國(guó)家安全構(gòu)成的重大威脅。研究成果就是一個(gè)稱(chēng)為DefakeHop的創(chuàng)新技術(shù)解決方案。
深度檢測(cè)：用DefakeHop檢測(cè)Deepfake
ARL研究人員Suya You博士和Shuowen（Sean）Hu博士指出，深度偽造是人工智能合成的、超現(xiàn)實(shí)的視頻內(nèi)容，偽造某人的言行。大多數(shù)最新的深度偽造視頻檢測(cè)和媒體取證方法都是基于深度學(xué)習(xí)的，而深度學(xué)習(xí)在健壯性、可伸縮性和可移植性方面具有許多固有的弱點(diǎn)。
You博士表示：“由于生成神經(jīng)網(wǎng)絡(luò)的發(fā)展，AI驅(qū)動(dòng)的深度偽造迅速地發(fā)展，以至于缺乏可靠的技術(shù)來(lái)檢測(cè)和防御?！薄拔覀兤惹行枰肀脔鑿剑业叫碌姆椒▉?lái)理解深度偽造驚人性能背后的機(jī)制，并在堅(jiān)實(shí)的理論支持下開(kāi)發(fā)出有效的防御解決方案?！?/p>
通過(guò)將團(tuán)隊(duì)成員的經(jīng)驗(yàn)與機(jī)器學(xué)習(xí)，信號(hào)分析和計(jì)算機(jī)視覺(jué)相結(jié)合，研究人員開(kāi)發(fā)了一種創(chuàng)新的理論和數(shù)學(xué)框架——連續(xù)子空間學(xué)習(xí)（SSL），這是一種創(chuàng)新的神經(jīng)網(wǎng)絡(luò)體系結(jié)構(gòu)。研究人員指出，SSL是DefakeHop的關(guān)鍵創(chuàng)新。
Kuo指出：“SSL是從信號(hào)轉(zhuǎn)換理論發(fā)展而來(lái)的用于神經(jīng)網(wǎng)絡(luò)架構(gòu)的全新數(shù)學(xué)框架?！薄八c傳統(tǒng)方法完全不同，它提供了一種新的信號(hào)表示和過(guò)程，其中涉及級(jí)聯(lián)的多個(gè)變換矩陣。它非常適合具有短、中和遠(yuǎn)程協(xié)方差結(jié)構(gòu)的高維數(shù)據(jù)。SSL在其設(shè)計(jì)中就融合了這種特性。它是一個(gè)完整的數(shù)據(jù)驅(qū)動(dòng)的無(wú)監(jiān)督框架，為圖像處理和理解諸如面部生物特征識(shí)別等任務(wù)提供了全新的工具。”
You指出，目前大多數(shù)用于深度偽造視頻檢測(cè)和媒體取證的最新技術(shù)都是基于深度學(xué)習(xí)機(jī)制的。
DefakeHop大幅領(lǐng)先業(yè)界先進(jìn)水平
研究人員認(rèn)為，DefakeHop的性能大幅領(lǐng)先目前業(yè)界最先進(jìn)的技術(shù)，主要表現(xiàn)為以下四點(diǎn)：
DefakeHop基于全新的SSL信號(hào)表示和轉(zhuǎn)換理論。它在數(shù)學(xué)上是透明的，其內(nèi)部模塊和處理都是可以解釋的。
DefakeHop是一種弱監(jiān)督的方法，它提供了一種通過(guò)（無(wú)需反向傳播）的學(xué)習(xí)機(jī)制，從而節(jié)省了（數(shù)據(jù)）標(biāo)注成本，并且大大降低了培訓(xùn)的復(fù)雜性。
生成的模型尺寸和參數(shù)要小得多。復(fù)雜度遠(yuǎn)低于最新技術(shù)，并且可以在戰(zhàn)術(shù)邊緣設(shè)備和平臺(tái)上有效實(shí)現(xiàn)。
具有對(duì)抗攻擊性的強(qiáng)大功能。基于深度學(xué)習(xí)的方法很容易受到對(duì)抗性攻擊。這項(xiàng)研究提供了魯棒的空間光譜表示來(lái)純化對(duì)抗性輸入，因此可以有效地防御對(duì)抗性擾動(dòng)。
You教授指出：
這項(xiàng)研究通過(guò)引入和研究一種創(chuàng)新的機(jī)器學(xué)習(xí)理論及其應(yīng)用于智能感知、表示和處理的計(jì)算算法，為美國(guó)陸軍和實(shí)驗(yàn)室的AI和ML研究工作提供了支持。
我們希望未來(lái)的士兵在戰(zhàn)場(chǎng)上能夠攜帶體積輕巧的智能視覺(jué)設(shè)備。今天的機(jī)器學(xué)習(xí)解決方案對(duì)特定的數(shù)據(jù)環(huán)境過(guò)于敏感。當(dāng)以不同的設(shè)置獲取數(shù)據(jù)時(shí)，需要對(duì)網(wǎng)絡(luò)進(jìn)行重新訓(xùn)練，這在嵌入式系統(tǒng)中很難進(jìn)行。
目前開(kāi)發(fā)的解決方案具備許多理想的特性，包括較小的模型尺寸，需要的訓(xùn)練數(shù)據(jù)不多，訓(xùn)練復(fù)雜度低，并且能夠處理低分辨率輸入的圖像。這是一個(gè)足以導(dǎo)致改變（現(xiàn)代戰(zhàn)爭(zhēng)）游戲規(guī)則的解決方案，有望在未來(lái)陸軍中得到廣泛應(yīng)用。
解決了數(shù)個(gè)面部生物識(shí)別的難題
研究人員成功地將SSL原理應(yīng)用到解決多種面部生物識(shí)別以及通用的場(chǎng)景理解問(wèn)題上。結(jié)合DefakeHop的工作，他們開(kāi)發(fā)了一種新穎的方法，即基于SSL原理的FaceFop，以解決在低圖像質(zhì)量和低分辨率的具有挑戰(zhàn)性的環(huán)境下進(jìn)行問(wèn)題識(shí)別和面部分類(lèi)的難題。
據(jù)悉，該團(tuán)隊(duì)將繼續(xù)為面部生物特征識(shí)別和通用場(chǎng)景理解（例如目標(biāo)檢測(cè)、識(shí)別和語(yǔ)義場(chǎng)景理解）開(kāi)發(fā)創(chuàng)新的解決方案。
Hu教授表示：“我們都看到了人工智能對(duì)社會(huì)的重大影響，有好的一面也有陰暗的一面，但不可否認(rèn)的是人工智能正在改變很多事情。”“深度偽造就是一個(gè)負(fù)面的例子。過(guò)去數(shù)十年中，娛樂(lè)業(yè)已經(jīng)為我們展示了計(jì)算機(jī)可以生成以假亂真的，高度復(fù)雜的視覺(jué)效果，如今人工智能和機(jī)器學(xué)習(xí)的最新技術(shù)極大地降低了內(nèi)容偽造的技術(shù)門(mén)檻，相關(guān)工具也極容易獲取。”
最后，研究團(tuán)隊(duì)認(rèn)為，深度偽造技術(shù)對(duì)軍事和日常生活都有影響（威脅），而在對(duì)抗深度偽造的研究領(lǐng)域，DefakeHop方案相比現(xiàn)有技術(shù)有著顯著優(yōu)勢(shì)，為人工智能、計(jì)算機(jī)視覺(jué)、智能場(chǎng)景理解和面部生物特征識(shí)別等人工智能領(lǐng)域的研究提供了全新的范型和知識(shí)。
