Deepfakes（深度偽造）技術(shù)對(duì)企業(yè)組織來(lái)說(shuō)是一種不斷升級(jí)的網(wǎng)絡(luò)安全威脅。如今，網(wǎng)絡(luò)犯罪分子正在大力投資人工智能和機(jī)器學(xué)習(xí)等Deepfakes技術(shù)，以創(chuàng)建、合成或操縱數(shù)字內(nèi)容（包括圖像、視頻、音頻和文本），進(jìn)行網(wǎng)絡(luò)攻擊和欺詐。這種技術(shù)可以真實(shí)地復(fù)制或改變外觀、聲音、舉止或詞匯，目的是進(jìn)行欺詐，讓受害者相信他們所看到、聽(tīng)到或閱讀的內(nèi)容真實(shí)可信。
2021年3月，美國(guó)聯(lián)邦調(diào)查局警告稱(chēng)，在現(xiàn)有的魚(yú)叉式網(wǎng)絡(luò)釣魚(yú)和社交工程活動(dòng)中，惡意行為者利用合成或操縱的數(shù)字內(nèi)容進(jìn)行網(wǎng)絡(luò)攻擊的勢(shì)頭正呈增長(zhǎng)趨勢(shì)。鑒于所用合成介質(zhì)的復(fù)雜程度，這可能會(huì)造成更嚴(yán)重且廣泛的影響。因此，企業(yè)組織必須認(rèn)識(shí)到這種不斷增長(zhǎng)的Deepfakes網(wǎng)絡(luò)威脅，并采取有效措施抵御Deepfakes強(qiáng)化型網(wǎng)絡(luò)攻擊和欺詐。
網(wǎng)絡(luò)犯罪分子正在采用Deepfakes技術(shù)
信息安全論壇的高級(jí)研究分析師Mark Ward表示，“人們常說(shuō)色情推動(dòng)了技術(shù)的采用，這句話對(duì)于Deepfakes技術(shù)而言也是正確的。現(xiàn)在，這項(xiàng)技術(shù)正在其他領(lǐng)域中流行起來(lái)——特別是在有組織的網(wǎng)絡(luò)犯罪團(tuán)體中。”
事實(shí)上，Deepfakes衍生的網(wǎng)絡(luò)攻擊很少見(jiàn)，它們通常只由專(zhuān)業(yè)團(tuán)伙或背后有政府支持的團(tuán)伙執(zhí)行，目前只有少數(shù)記錄在案的成功案例。然而，當(dāng)工具、技術(shù)和潛在回報(bào)廣為人知時(shí)，它將像所有此類(lèi)技術(shù)一樣傳播開(kāi)來(lái)。
事實(shí)證明，暗網(wǎng)論壇現(xiàn)在就遇到這種情況，犯罪分子正在暗網(wǎng)分享Deepfakes技術(shù)和專(zhuān)業(yè)知識(shí)。云基礎(chǔ)架構(gòu)廠商VMware研究人員就曾發(fā)現(xiàn)很多介紹Deepfakes工具和技術(shù)的暗網(wǎng)教程，這表明威脅行為者已經(jīng)轉(zhuǎn)向暗網(wǎng)提供定制服務(wù)和教程，這些服務(wù)和教程結(jié)合了旨在繞過(guò)和瓦解安全措施的視覺(jué)和音頻Deepfakes技術(shù)。
Deepfake是一種強(qiáng)化型社交工程技術(shù)
Mark Ward引用了包括暗網(wǎng)聊天在內(nèi)的證據(jù)，表明專(zhuān)門(mén)從事復(fù)雜社交工程的犯罪集團(tuán)對(duì)Deepfakes技術(shù)愈發(fā)感興趣。這些團(tuán)伙傾向于利用Deepfakes技術(shù)開(kāi)展商業(yè)電子郵件欺詐（BEC）活動(dòng)，誘騙大型企業(yè)組織的財(cái)務(wù)和會(huì)計(jì)人員向詐騙者控制的賬戶(hù)轉(zhuǎn)移資金。據(jù)悉，目前在犯罪聊天室中討論的工具能夠利用高級(jí)管理人員的公開(kāi)資料獲取視頻、音頻和博客文章，來(lái)創(chuàng)建令人信服的虛假信息，這些信息隨后將被用于發(fā)布轉(zhuǎn)移現(xiàn)金或快速付款的要求。
網(wǎng)絡(luò)犯罪分子利用Deepfakes技術(shù)生成的內(nèi)容能夠重建可識(shí)別特征（例如某人的口音和講話方式），并提供額外的可信度。有了Deepfakes技術(shù)的助力，攻擊者更容易實(shí)施攻擊活動(dòng)，這種攻擊更難防范。事實(shí)證明，Deepfakes音頻模擬在追蹤企業(yè)數(shù)據(jù)和系統(tǒng)訪問(wèn)的社交工程攻擊中特別有效——它可以通過(guò)冒充正在出差或不在辦公室的高管，要求受害者重置密碼或執(zhí)行允許欺詐者訪問(wèn)企業(yè)資產(chǎn)的操作，這也是網(wǎng)絡(luò)犯罪分子利用Deepfakes技術(shù)實(shí)施詐騙的常見(jiàn)伎倆。
鑒于網(wǎng)絡(luò)犯罪分子正在利用員工在家遠(yuǎn)程辦公的空子，未來(lái)這種攻擊只會(huì)增多。如今，我們已經(jīng)目睹Deepfakes被用于網(wǎng)絡(luò)釣魚(yú)攻擊或破壞商業(yè)電子郵件和平臺(tái)（如Slack和Microsoft Team等）。犯罪分子通過(guò)商業(yè)通信平臺(tái)進(jìn)行的網(wǎng)絡(luò)釣魚(yú)活動(dòng)為Deepfakes提供了一種理想的交付機(jī)制，因?yàn)槠髽I(yè)組織及其用戶(hù)不自覺(jué)地信任它們。
Deepfakes旨在繞過(guò)生物識(shí)別身份驗(yàn)證
另一個(gè)有風(fēng)險(xiǎn)的Deepfakes趨勢(shì)是，創(chuàng)建內(nèi)容并用于繞過(guò)生物特征驗(yàn)證。當(dāng)前，面部和語(yǔ)音識(shí)別等生物識(shí)別技術(shù)提供了額外的安全層，可用于根據(jù)某人的獨(dú)特特征自動(dòng)驗(yàn)證某人的身份。然而，可以準(zhǔn)確重現(xiàn)一個(gè)人外表或聲音的Deepfakes技術(shù)，卻成功規(guī)避了這種身份驗(yàn)證技術(shù)，為依賴(lài)生物識(shí)別特征進(jìn)行身份和訪問(wèn)管理策略的企業(yè)組織帶來(lái)重大風(fēng)險(xiǎn)。目前，在廣泛的遠(yuǎn)程工作環(huán)境中，犯罪分子正在投資這一技術(shù)。
新冠肺炎疫情的大流行和遠(yuǎn)程工作時(shí)代的到來(lái)，催生了大量音頻和視頻數(shù)據(jù)，這些數(shù)據(jù)可以輸入機(jī)器學(xué)習(xí)系統(tǒng)以創(chuàng)建引人注目的復(fù)制品。
身份識(shí)別與認(rèn)證公司Onfido反欺詐副總裁Albert Roux承認(rèn)，Deepfakes確實(shí)對(duì)基于生物識(shí)別的身份驗(yàn)證構(gòu)成了顯著風(fēng)險(xiǎn)。他解釋稱(chēng)，“任何利用身份驗(yàn)證來(lái)開(kāi)展業(yè)務(wù)，并保護(hù)自身免受網(wǎng)絡(luò)犯罪分子侵害的企業(yè)組織都可能受到Deepfakes攻擊。欺詐者已經(jīng)注意到一些熱門(mén)視頻，例如Tom Cruise的Deepfakes視頻以及流行的YouTube創(chuàng)作者（如Corridor Digital）等，并利用Deepfakes工具和代碼庫(kù)繞過(guò)在線身份驗(yàn)證檢查。此外，一些免費(fèi)的開(kāi)源應(yīng)用程序也允許技術(shù)知識(shí)有限的欺詐者更輕松地生成Deepfakes視頻和照片。”
防御Deepfakes網(wǎng)絡(luò)威脅
無(wú)論是通過(guò)文本、語(yǔ)音還是視頻操作，欺詐者都會(huì)投資Deepfakes技術(shù)來(lái)扭曲數(shù)字現(xiàn)實(shí)以獲取非法收益，而且，這種技術(shù)正在混亂和不確定的環(huán)境因素中蓬勃發(fā)展。
雖然借助Deepfakes技術(shù)的網(wǎng)絡(luò)攻擊所構(gòu)成的威脅看起來(lái)很?chē)?yán)重，但企業(yè)組織仍然可以采取多種措施來(lái)抵御它們，包括培訓(xùn)和教育、先進(jìn)技術(shù)以及威脅情報(bào)等，所有這些都旨在應(yīng)對(duì)惡意的Deepfakes活動(dòng)。
首先，教育和培訓(xùn)員工有關(guān)Deepfakes社交工程攻擊（尤其是那些最有針對(duì)性的攻擊）的知識(shí)是降低風(fēng)險(xiǎn)的一個(gè)重要因素，而且必須將重點(diǎn)放在財(cái)務(wù)部門(mén)員工身上，并且提醒他們注意這種可能性，并允許其在懷疑時(shí)放慢付款進(jìn)程。
其次，在技術(shù)方面，建議企業(yè)組織部署更多的分析系統(tǒng)，以及時(shí)發(fā)現(xiàn)異常行為等。同樣地，威脅情報(bào)也可以提供幫助，因?yàn)樗梢燥@示企業(yè)組織是否正淪為攻擊目標(biāo)，某個(gè)部門(mén)是否正遭受監(jiān)視，或者某一特定群體是否正在這一領(lǐng)域變得活躍。Deepfakes欺詐需要時(shí)間來(lái)設(shè)置和執(zhí)行，這讓潛在受害者有足夠的時(shí)間來(lái)發(fā)現(xiàn)警告信號(hào)并采取行動(dòng)。
除此之外，企業(yè)組織還可以通過(guò)隨機(jī)分配用戶(hù)指令來(lái)實(shí)現(xiàn)有效防御。因?yàn)镈eepfakes創(chuàng)作者無(wú)法預(yù)測(cè)數(shù)以千計(jì)的可能請(qǐng)求，例如朝不同的方向看或閱讀一個(gè)短語(yǔ)等。雖然網(wǎng)絡(luò)犯罪分子可以實(shí)時(shí)操縱Deepfakes，但視頻質(zhì)量會(huì)顯著下降，因?yàn)镈eepfakes技術(shù)所需的強(qiáng)大處理能力使其無(wú)法快速做出反應(yīng)。在此情況下，反復(fù)響應(yīng)錯(cuò)誤的用戶(hù)可以被標(biāo)記，并進(jìn)行進(jìn)一步調(diào)查。
