信息來源：安全內(nèi)參

近日，歐洲刑警組織發(fā)布了其首份深度偽造研究報(bào)告--《面對(duì)現(xiàn)實(shí)？執(zhí)法和深度偽造的挑戰(zhàn)》（Facing reality? Law enforcement and the challenge of deepfakes），這是歐洲刑警組織創(chuàng)新實(shí)驗(yàn)室就新興技術(shù)的風(fēng)險(xiǎn)、威脅和機(jī)遇等方面技術(shù)發(fā)展研究形成的報(bào)告。該報(bào)告詳細(xì)概述了deepfake技術(shù)的犯罪用途，包括其在CEO欺詐、證據(jù)篡改和制作未經(jīng)同意的色情制品等嚴(yán)重犯罪中的潛在用途。它還詳細(xì)闡述了執(zhí)法部門在檢測(cè)和防止惡意使用deepfakes方面面臨的挑戰(zhàn)。它表明執(zhí)法部門、在線服務(wù)提供商和其他組織需要制定政策并投資于錯(cuò)誤信息的檢測(cè)和預(yù)防解決方案，政策制定者也需要適應(yīng)不斷變化的技術(shù)現(xiàn)實(shí)。特別是，研究者確定了與數(shù)字化轉(zhuǎn)型、新技術(shù)的采用和部署、犯罪分子濫用新興技術(shù)、適應(yīng)新的工作方式和在虛假信息增加的情況下保持信任相關(guān)的風(fēng)險(xiǎn)。報(bào)告的調(diào)查結(jié)果基于廣泛的案頭研究和通過戰(zhàn)略前瞻性活動(dòng)與執(zhí)法專家進(jìn)行的深入探討磋商。這些戰(zhàn)略遠(yuǎn)見和情景方法是歐洲刑警組織創(chuàng)新實(shí)驗(yàn)室研究和準(zhǔn)備新技術(shù)對(duì)執(zhí)法的潛在影響的一種手段。Deepfake已經(jīng)是一個(gè)問題，但在未來幾年內(nèi)可能會(huì)成為一個(gè)更大的問題。

Deepfake技術(shù)使用人工智能技術(shù)來改變現(xiàn)有的或創(chuàng)建新的音頻或視聽內(nèi)容。它有一些非惡意目的——例如諷刺和游戲——但越來越多地被不良行為者用于不良目的。然而，在2019年， iProove的研究表明，72% 的人仍然沒有意識(shí)到 deepfakes。

Deepfake被用來創(chuàng)建一個(gè)明顯來自可信來源的虛假敘述。兩個(gè)主要威脅是針對(duì)公民社會(huì)（傳播虛假信息以操縱輿論以達(dá)到預(yù)期效果，例如特定的選舉結(jié)果）；并針對(duì)個(gè)人或公司獲得財(cái)務(wù)回報(bào)。對(duì)公民社會(huì)的威脅是，如果不加以制止，整個(gè)人群的觀點(diǎn)和意見可能會(huì)受到深度偽造傳播的虛假信息活動(dòng)的影響，這些活動(dòng)歪曲了事件的真相。人們將不再能夠辨別真假。

對(duì)公司的網(wǎng)絡(luò)安全威脅是，深度偽造可能會(huì)提高網(wǎng)絡(luò)釣魚和 BEC 攻擊的有效性，使身份欺詐更容易，并操縱公司聲譽(yù)導(dǎo)致股票價(jià)值不合理地崩盤。

Deepfake技術(shù)

Deepfake是通過使用神經(jīng)網(wǎng)絡(luò)來檢查和發(fā)現(xiàn)生成令人信服的圖片所必需的模式，并以此開發(fā)機(jī)器學(xué)習(xí)算法來開發(fā)的。與所有機(jī)器學(xué)習(xí)一樣，可用于訓(xùn)練的數(shù)據(jù)量至關(guān)重要——數(shù)據(jù)集越大，算法越準(zhǔn)確。大型訓(xùn)練數(shù)據(jù)集已經(jīng)在互聯(lián)網(wǎng)上免費(fèi)提供。

目前的兩項(xiàng)發(fā)展改善并增加了深度偽造的質(zhì)量和威脅。首先是生成式對(duì)抗網(wǎng)絡(luò)（GAN）的適應(yīng)和使用。GAN使用兩種模型進(jìn)行操作：生成模型和判別模型。判別模型針對(duì)原始數(shù)據(jù)集反復(fù)測(cè)試生成模型。歐洲刑警組織的報(bào)告寫道，“根據(jù)這些測(cè)試的結(jié)果，模型不斷改進(jìn)，直到生成的內(nèi)容與訓(xùn)練數(shù)據(jù)一樣可能來自生成模型?！?結(jié)果是人眼無法檢測(cè)到但處于攻擊者控制之下的虛假圖像。第二個(gè)威脅來自5G帶寬和云計(jì)算能力，允許實(shí)時(shí)操縱視頻流。因此，Deepfake技術(shù)可以應(yīng)用于視頻會(huì)議環(huán)境、實(shí)時(shí)流媒體視頻服務(wù)和電視。

網(wǎng)絡(luò)安全威脅

很少有犯罪分子具備必要的專業(yè)知識(shí)來開發(fā)和使用引人注目的深度偽造——但這不太可能延遲他們的使用。歐洲刑警組織表示，犯罪即服務(wù) (CaaS)的持續(xù)發(fā)展和演進(jìn)“預(yù)計(jì)將與當(dāng)前技術(shù)同步發(fā)展，從而實(shí)現(xiàn)黑客攻擊、對(duì)抗性機(jī)器學(xué)習(xí)和深度偽造等犯罪的自動(dòng)化?！?

Deepfake威脅分為四大類：社會(huì)（引發(fā)社會(huì)動(dòng)蕩和政治兩極分化）；合法（偽造電子證據(jù)）；個(gè)人（騷擾和欺凌、非自愿色情和在線兒童剝削）；和傳統(tǒng)的網(wǎng)絡(luò)安全（敲詐勒索和欺詐以及操縱金融市場(chǎng)）。

帶有深度偽造照片的偽造護(hù)照將很難被發(fā)現(xiàn)。然后，這些可用于助長(zhǎng)其他多種犯罪，從身份盜竊和販運(yùn)到非法移民和恐怖分子旅行。

令人尷尬或非法活動(dòng)的深度偽造可用于敲詐勒索。如果誘餌包括可信賴朋友的視頻或語音，則網(wǎng)絡(luò)釣魚可能會(huì)上升到一個(gè)新的水平。BEC攻擊可以通過與真正 CEO相同的視頻消息和語音來支持。但真正嚴(yán)重的威脅可能來自市場(chǎng)操縱。

VMware的Tom Kellermann最近告訴SecurityWeek，市場(chǎng)操縱已經(jīng)超過了勒索軟件對(duì)犯罪分子的價(jià)值。目前，這是通過使用被盜信息來實(shí)現(xiàn)的，這些信息使犯罪分子能夠從本質(zhì)上是內(nèi)幕交易中獲利。但是，使用deepfake可以為犯罪分子提供更直接的方法。虛假信息、令人尷尬的披露、非法出口指控等可能導(dǎo)致公司股價(jià)急劇下跌。財(cái)大氣粗的犯罪團(tuán)伙，甚至是尋求抵消制裁的流氓國(guó)家，可以在股價(jià)下跌時(shí)購(gòu)買股票，并在股價(jià)不可避免地再次上漲時(shí)進(jìn)行大規(guī)?！皻⒙尽薄?

安全基于信任。Deepfakes在不應(yīng)該存在的地方提供信任。

檢測(cè)深度偽造

Deepfake的質(zhì)量已經(jīng)超過了人眼檢測(cè)偽造品的能力。有限的解決方案使用原始源材料的出處原則——但這將有利于執(zhí)法部門將深度偽造排除在刑事證據(jù)程序之外，而不是防止深度偽造網(wǎng)絡(luò)犯罪。

技術(shù)是另一種潛在的方法。示例包括基于血流引起的膚色自然變化缺陷的生物信號(hào)；音素-視位不匹配（即口語對(duì)應(yīng)之間的不完美相關(guān)性）；面部動(dòng)作（面部和頭部動(dòng)作沒有正確關(guān)聯(lián)）；以及尋找組成視頻的各個(gè)幀之間的不一致性的循環(huán)卷積模型。

但也有困難。就像惡意軟件的輕微變化可能足以欺騙惡意軟件簽名檢測(cè)引擎一樣，對(duì)用于生成深度偽造的方法的輕微改變也可能欺騙現(xiàn)有的檢測(cè)。這可能只是簡(jiǎn)單地更新GAN 中用于生成deepfake的判別模型。

壓縮deepfake視頻可能會(huì)導(dǎo)致另一個(gè)問題，這將減少檢測(cè)算法可用的像素?cái)?shù)量。

歐洲刑警組織建議避免深度偽造可能比試圖檢測(cè)它們更有效。第一個(gè)建議是依靠視聽授權(quán)而不僅僅是音頻。這可能是一個(gè)短期的解決方案，直到deepfake技術(shù)、云計(jì)算能力和5G帶寬使其失效。這些發(fā)展也將否定第二個(gè)建議：要求實(shí)時(shí)視頻連接。

最后的推薦是一種驗(yàn)證碼；也就是說，歐洲刑警組織說，“要求在鏡頭前現(xiàn)場(chǎng)進(jìn)行隨機(jī)復(fù)雜的動(dòng)作，例如在臉上移動(dòng)手?！?

未來之路

簡(jiǎn)單的現(xiàn)實(shí)是，deepfake生產(chǎn)技術(shù)目前的改進(jìn)速度比deepfake檢測(cè)技術(shù)要快。威脅是對(duì)社會(huì)和企業(yè)的。

對(duì)于社會(huì)，歐洲刑警組織警告說，“專家擔(dān)心這可能會(huì)導(dǎo)致公民不再擁有共同的現(xiàn)實(shí)，或者可能造成社會(huì)對(duì)哪些信息來源可靠的混亂；這種情況有時(shí)被稱為‘信息啟示錄’或‘現(xiàn)實(shí)冷漠’?！?

公司處于稍強(qiáng)的地位，因?yàn)樗鼈兛梢栽跊Q定是否接受或拒絕音頻/視頻方法的任何決定中包含上下文關(guān)聯(lián)。他們還可以堅(jiān)持機(jī)器對(duì)機(jī)器的通信而不是人與人之間的通信，使用零信任原則來驗(yàn)證機(jī)器所有者而不是通信。

然而，當(dāng)深度造假被用來對(duì)抗社會(huì)（或至少是社會(huì)的持股部分）來操縱公司股價(jià)暴跌時(shí)，變得特別困難?！斑@個(gè)過程，”歐洲刑警組織警告說，“由于人類傾向于相信視聽內(nèi)容并從默認(rèn)真相的角度進(jìn)行工作，因此情況會(huì)變得更加復(fù)雜?！?公眾不太可能立即相信該公司堅(jiān)持認(rèn)為這只是假新聞——至少不能及時(shí)防止股價(jià)崩盤。

Deepfake已經(jīng)是一個(gè)問題，但在未來幾年內(nèi)可能會(huì)成為一個(gè)更大的問題。