深度偽造（Deepfake）不僅是社工釣魚攻擊、BEC商務郵件攻擊的下一個“熱點”，同時也對業(yè)務欺詐檢測、生物特征身份認證等安全技術構成嚴重威脅，更是未來“毫秒級”數(shù)字化現(xiàn)代戰(zhàn)爭的重大隱患。
而對抗“深度偽造”最好的方法就是“深度檢測”，用AI來檢測惡意AI。
近日，陸軍研究人員宣布開發(fā)出一種深度偽造檢測方法，可以開發(fā)出先進的軍用技術來幫助士兵快速檢測和識別深度偽造相關威脅。
這項研究工作的目標是開發(fā)出輕量化的、低訓練成本、高性能的面部生物特征識別技術，可以滿足士兵在戰(zhàn)斗中對隨身設備的尺寸、重量和功率要求。
美國陸軍作戰(zhàn)能力發(fā)展指揮部（DEVCOM）、陸軍研究實驗室（ARL）與南加州大學教授c-c Jay Kuo的研究小組著手解決深度偽造對社會和國家安全構成的重大威脅。研究成果就是一個稱為DefakeHop的創(chuàng)新技術解決方案。
深度檢測：用DefakeHop檢測Deepfake
ARL研究人員Suya You博士和Shuowen（Sean）Hu博士指出，深度偽造是人工智能合成的、超現(xiàn)實的視頻內(nèi)容，偽造某人的言行。大多數(shù)最新的深度偽造視頻檢測和媒體取證方法都是基于深度學習的，而深度學習在健壯性、可伸縮性和可移植性方面具有許多固有的弱點。
You博士表示：“由于生成神經(jīng)網(wǎng)絡的發(fā)展，AI驅(qū)動的深度偽造迅速地發(fā)展，以至于缺乏可靠的技術來檢測和防御。”“我們迫切需要另辟蹊徑，找到新的方法來理解深度偽造驚人性能背后的機制，并在堅實的理論支持下開發(fā)出有效的防御解決方案。”
通過將團隊成員的經(jīng)驗與機器學習，信號分析和計算機視覺相結合，研究人員開發(fā)了一種創(chuàng)新的理論和數(shù)學框架——連續(xù)子空間學習（SSL），這是一種創(chuàng)新的神經(jīng)網(wǎng)絡體系結構。研究人員指出，SSL是DefakeHop的關鍵創(chuàng)新。
Kuo指出：“SSL是從信號轉換理論發(fā)展而來的用于神經(jīng)網(wǎng)絡架構的全新數(shù)學框架。”“它與傳統(tǒng)方法完全不同，它提供了一種新的信號表示和過程，其中涉及級聯(lián)的多個變換矩陣。它非常適合具有短、中和遠程協(xié)方差結構的高維數(shù)據(jù)。SSL在其設計中就融合了這種特性。它是一個完整的數(shù)據(jù)驅(qū)動的無監(jiān)督框架，為圖像處理和理解諸如面部生物特征識別等任務提供了全新的工具。”
You指出，目前大多數(shù)用于深度偽造視頻檢測和媒體取證的最新技術都是基于深度學習機制的。
DefakeHop大幅領先業(yè)界先進水平
研究人員認為，DefakeHop的性能大幅領先目前業(yè)界最先進的技術，主要表現(xiàn)為以下四點：
DefakeHop基于全新的SSL信號表示和轉換理論。它在數(shù)學上是透明的，其內(nèi)部模塊和處理都是可以解釋的。
DefakeHop是一種弱監(jiān)督的方法，它提供了一種通過（無需反向傳播）的學習機制，從而節(jié)省了（數(shù)據(jù)）標注成本，并且大大降低了培訓的復雜性。
生成的模型尺寸和參數(shù)要小得多。復雜度遠低于最新技術，并且可以在戰(zhàn)術邊緣設備和平臺上有效實現(xiàn)。
具有對抗攻擊性的強大功能。基于深度學習的方法很容易受到對抗性攻擊。這項研究提供了魯棒的空間光譜表示來純化對抗性輸入，因此可以有效地防御對抗性擾動。
You教授指出：
這項研究通過引入和研究一種創(chuàng)新的機器學習理論及其應用于智能感知、表示和處理的計算算法，為美國陸軍和實驗室的AI和ML研究工作提供了支持。
我們希望未來的士兵在戰(zhàn)場上能夠攜帶體積輕巧的智能視覺設備。今天的機器學習解決方案對特定的數(shù)據(jù)環(huán)境過于敏感。當以不同的設置獲取數(shù)據(jù)時，需要對網(wǎng)絡進行重新訓練，這在嵌入式系統(tǒng)中很難進行。
目前開發(fā)的解決方案具備許多理想的特性，包括較小的模型尺寸，需要的訓練數(shù)據(jù)不多，訓練復雜度低，并且能夠處理低分辨率輸入的圖像。這是一個足以導致改變（現(xiàn)代戰(zhàn)爭）游戲規(guī)則的解決方案，有望在未來陸軍中得到廣泛應用。
解決了數(shù)個面部生物識別的難題
研究人員成功地將SSL原理應用到解決多種面部生物識別以及通用的場景理解問題上。結合DefakeHop的工作，他們開發(fā)了一種新穎的方法，即基于SSL原理的FaceFop，以解決在低圖像質(zhì)量和低分辨率的具有挑戰(zhàn)性的環(huán)境下進行問題識別和面部分類的難題。
據(jù)悉，該團隊將繼續(xù)為面部生物特征識別和通用場景理解（例如目標檢測、識別和語義場景理解）開發(fā)創(chuàng)新的解決方案。
Hu教授表示：“我們都看到了人工智能對社會的重大影響，有好的一面也有陰暗的一面，但不可否認的是人工智能正在改變很多事情。”“深度偽造就是一個負面的例子。過去數(shù)十年中，娛樂業(yè)已經(jīng)為我們展示了計算機可以生成以假亂真的，高度復雜的視覺效果，如今人工智能和機器學習的最新技術極大地降低了內(nèi)容偽造的技術門檻，相關工具也極容易獲取。”
最后，研究團隊認為，深度偽造技術對軍事和日常生活都有影響（威脅），而在對抗深度偽造的研究領域，DefakeHop方案相比現(xiàn)有技術有著顯著優(yōu)勢，為人工智能、計算機視覺、智能場景理解和面部生物特征識別等人工智能領域的研究提供了全新的范型和知識。
