信息來源：安全內(nèi)參

近日，歐洲刑警組織發(fā)布了其首份深度偽造研究報告--《面對現(xiàn)實？執(zhí)法和深度偽造的挑戰(zhàn)》（Facing reality? Law enforcement and the challenge of deepfakes），這是歐洲刑警組織創(chuàng)新實驗室就新興技術(shù)的風(fēng)險、威脅和機遇等方面技術(shù)發(fā)展研究形成的報告。該報告詳細(xì)概述了deepfake技術(shù)的犯罪用途，包括其在CEO欺詐、證據(jù)篡改和制作未經(jīng)同意的色情制品等嚴(yán)重犯罪中的潛在用途。它還詳細(xì)闡述了執(zhí)法部門在檢測和防止惡意使用deepfakes方面面臨的挑戰(zhàn)。它表明執(zhí)法部門、在線服務(wù)提供商和其他組織需要制定政策并投資于錯誤信息的檢測和預(yù)防解決方案，政策制定者也需要適應(yīng)不斷變化的技術(shù)現(xiàn)實。特別是，研究者確定了與數(shù)字化轉(zhuǎn)型、新技術(shù)的采用和部署、犯罪分子濫用新興技術(shù)、適應(yīng)新的工作方式和在虛假信息增加的情況下保持信任相關(guān)的風(fēng)險。報告的調(diào)查結(jié)果基于廣泛的案頭研究和通過戰(zhàn)略前瞻性活動與執(zhí)法專家進行的深入探討磋商。這些戰(zhàn)略遠(yuǎn)見和情景方法是歐洲刑警組織創(chuàng)新實驗室研究和準(zhǔn)備新技術(shù)對執(zhí)法的潛在影響的一種手段。Deepfake已經(jīng)是一個問題，但在未來幾年內(nèi)可能會成為一個更大的問題。

Deepfake技術(shù)使用人工智能技術(shù)來改變現(xiàn)有的或創(chuàng)建新的音頻或視聽內(nèi)容。它有一些非惡意目的——例如諷刺和游戲——但越來越多地被不良行為者用于不良目的。然而，在2019年， iProove的研究表明，72% 的人仍然沒有意識到 deepfakes。

Deepfake被用來創(chuàng)建一個明顯來自可信來源的虛假敘述。兩個主要威脅是針對公民社會（傳播虛假信息以操縱輿論以達(dá)到預(yù)期效果，例如特定的選舉結(jié)果）；并針對個人或公司獲得財務(wù)回報。對公民社會的威脅是，如果不加以制止，整個人群的觀點和意見可能會受到深度偽造傳播的虛假信息活動的影響，這些活動歪曲了事件的真相。人們將不再能夠辨別真假。

對公司的網(wǎng)絡(luò)安全威脅是，深度偽造可能會提高網(wǎng)絡(luò)釣魚和 BEC 攻擊的有效性，使身份欺詐更容易，并操縱公司聲譽導(dǎo)致股票價值不合理地崩盤。

Deepfake技術(shù)

Deepfake是通過使用神經(jīng)網(wǎng)絡(luò)來檢查和發(fā)現(xiàn)生成令人信服的圖片所必需的模式，并以此開發(fā)機器學(xué)習(xí)算法來開發(fā)的。與所有機器學(xué)習(xí)一樣，可用于訓(xùn)練的數(shù)據(jù)量至關(guān)重要——數(shù)據(jù)集越大，算法越準(zhǔn)確。大型訓(xùn)練數(shù)據(jù)集已經(jīng)在互聯(lián)網(wǎng)上免費提供。

目前的兩項發(fā)展改善并增加了深度偽造的質(zhì)量和威脅。首先是生成式對抗網(wǎng)絡(luò)（GAN）的適應(yīng)和使用。GAN使用兩種模型進行操作：生成模型和判別模型。判別模型針對原始數(shù)據(jù)集反復(fù)測試生成模型。歐洲刑警組織的報告寫道，“根據(jù)這些測試的結(jié)果，模型不斷改進，直到生成的內(nèi)容與訓(xùn)練數(shù)據(jù)一樣可能來自生成模型?！?結(jié)果是人眼無法檢測到但處于攻擊者控制之下的虛假圖像。第二個威脅來自5G帶寬和云計算能力，允許實時操縱視頻流。因此，Deepfake技術(shù)可以應(yīng)用于視頻會議環(huán)境、實時流媒體視頻服務(wù)和電視。

網(wǎng)絡(luò)安全威脅

很少有犯罪分子具備必要的專業(yè)知識來開發(fā)和使用引人注目的深度偽造——但這不太可能延遲他們的使用。歐洲刑警組織表示，犯罪即服務(wù) (CaaS)的持續(xù)發(fā)展和演進“預(yù)計將與當(dāng)前技術(shù)同步發(fā)展，從而實現(xiàn)黑客攻擊、對抗性機器學(xué)習(xí)和深度偽造等犯罪的自動化?！?

Deepfake威脅分為四大類：社會（引發(fā)社會動蕩和政治兩極分化）；合法（偽造電子證據(jù)）；個人（騷擾和欺凌、非自愿色情和在線兒童剝削）；和傳統(tǒng)的網(wǎng)絡(luò)安全（敲詐勒索和欺詐以及操縱金融市場）。

帶有深度偽造照片的偽造護照將很難被發(fā)現(xiàn)。然后，這些可用于助長其他多種犯罪，從身份盜竊和販運到非法移民和恐怖分子旅行。

令人尷尬或非法活動的深度偽造可用于敲詐勒索。如果誘餌包括可信賴朋友的視頻或語音，則網(wǎng)絡(luò)釣魚可能會上升到一個新的水平。BEC攻擊可以通過與真正 CEO相同的視頻消息和語音來支持。但真正嚴(yán)重的威脅可能來自市場操縱。

VMware的Tom Kellermann最近告訴SecurityWeek，市場操縱已經(jīng)超過了勒索軟件對犯罪分子的價值。目前，這是通過使用被盜信息來實現(xiàn)的，這些信息使犯罪分子能夠從本質(zhì)上是內(nèi)幕交易中獲利。但是，使用deepfake可以為犯罪分子提供更直接的方法。虛假信息、令人尷尬的披露、非法出口指控等可能導(dǎo)致公司股價急劇下跌。財大氣粗的犯罪團伙，甚至是尋求抵消制裁的流氓國家，可以在股價下跌時購買股票，并在股價不可避免地再次上漲時進行大規(guī)?！皻⒙尽薄?

安全基于信任。Deepfakes在不應(yīng)該存在的地方提供信任。

檢測深度偽造

Deepfake的質(zhì)量已經(jīng)超過了人眼檢測偽造品的能力。有限的解決方案使用原始源材料的出處原則——但這將有利于執(zhí)法部門將深度偽造排除在刑事證據(jù)程序之外，而不是防止深度偽造網(wǎng)絡(luò)犯罪。

技術(shù)是另一種潛在的方法。示例包括基于血流引起的膚色自然變化缺陷的生物信號；音素-視位不匹配（即口語對應(yīng)之間的不完美相關(guān)性）；面部動作（面部和頭部動作沒有正確關(guān)聯(lián)）；以及尋找組成視頻的各個幀之間的不一致性的循環(huán)卷積模型。

但也有困難。就像惡意軟件的輕微變化可能足以欺騙惡意軟件簽名檢測引擎一樣，對用于生成深度偽造的方法的輕微改變也可能欺騙現(xiàn)有的檢測。這可能只是簡單地更新GAN 中用于生成deepfake的判別模型。

壓縮deepfake視頻可能會導(dǎo)致另一個問題，這將減少檢測算法可用的像素數(shù)量。

歐洲刑警組織建議避免深度偽造可能比試圖檢測它們更有效。第一個建議是依靠視聽授權(quán)而不僅僅是音頻。這可能是一個短期的解決方案，直到deepfake技術(shù)、云計算能力和5G帶寬使其失效。這些發(fā)展也將否定第二個建議：要求實時視頻連接。

最后的推薦是一種驗證碼；也就是說，歐洲刑警組織說，“要求在鏡頭前現(xiàn)場進行隨機復(fù)雜的動作，例如在臉上移動手?！?

未來之路

簡單的現(xiàn)實是，deepfake生產(chǎn)技術(shù)目前的改進速度比deepfake檢測技術(shù)要快。威脅是對社會和企業(yè)的。

對于社會，歐洲刑警組織警告說，“專家擔(dān)心這可能會導(dǎo)致公民不再擁有共同的現(xiàn)實，或者可能造成社會對哪些信息來源可靠的混亂；這種情況有時被稱為‘信息啟示錄’或‘現(xiàn)實冷漠’?！?

公司處于稍強的地位，因為它們可以在決定是否接受或拒絕音頻/視頻方法的任何決定中包含上下文關(guān)聯(lián)。他們還可以堅持機器對機器的通信而不是人與人之間的通信，使用零信任原則來驗證機器所有者而不是通信。

然而，當(dāng)深度造假被用來對抗社會（或至少是社會的持股部分）來操縱公司股價暴跌時，變得特別困難?！斑@個過程，”歐洲刑警組織警告說，“由于人類傾向于相信視聽內(nèi)容并從默認(rèn)真相的角度進行工作，因此情況會變得更加復(fù)雜?！?公眾不太可能立即相信該公司堅持認(rèn)為這只是假新聞——至少不能及時防止股價崩盤。

Deepfake已經(jīng)是一個問題，但在未來幾年內(nèi)可能會成為一個更大的問題。