信息來源：mottoin

近年來，人們期待已久的AI商業(yè)前景已開始成為現(xiàn)實，AI驅(qū)動的系統(tǒng)已在許多商業(yè)運營領(lǐng)域得到應(yīng)用，這些系統(tǒng)有助于實現(xiàn)手動任務(wù)的自動化、增強(qiáng)決策和其他人類活動。然而，AI技術(shù)若被惡意利用，同樣也會帶來巨大的負(fù)面影響。

AI模擬語音

上周三（7月10日），以色列國家網(wǎng)絡(luò)局（INCD）發(fā)布了一種新型網(wǎng)絡(luò)攻擊的警告，威脅行為者現(xiàn)在能夠使用人工智能（AI）技術(shù)來模擬公司高級管理人員的聲音，進(jìn)而欺騙他人從中獲利。據(jù)國內(nèi)新華社報道，最近INCD的運營中心已經(jīng)接獲到此類網(wǎng)絡(luò)攻擊的案例。

利用這種方法，威脅行為者能夠指示公司工作人員執(zhí)行諸如匯款之類的交易，以及在公司網(wǎng)絡(luò)上發(fā)動惡意活動。

新威脅屬于商業(yè)電子郵件欺詐（BEC）的范疇——通過電子郵件欺騙商業(yè)和政府組織，以使用社會工程學(xué)的方法誘騙員工為攻擊者的利益行事。其中最常見的類型是網(wǎng)絡(luò)釣魚郵件和虛假發(fā)票：威脅行為者冒充成供應(yīng)商，向公司提交發(fā)票并試圖誘騙員工在極短時間內(nèi)進(jìn)行銀行轉(zhuǎn)帳，并提供機(jī)密信息或允許訪問公司的網(wǎng)絡(luò)。

此外，威脅者現(xiàn)在使用的攻擊方法已經(jīng)升級，包括使用基于人工智能的惡意軟件，該軟件可以模擬自定義人員的語音來撥打釣魚電話。

目前市面上已經(jīng)有一些應(yīng)用程序，在聽完特定語音20分鐘后，就可以使用該語音說出用戶輸入的所有內(nèi)容。根據(jù)INCD的說法，這樣的新型攻擊對于企業(yè)來說，可能造成極大的經(jīng)濟(jì)損失。

AI：以子之矛，攻子之盾

當(dāng)組織采用人工智能來加強(qiáng)他們的安全工作時，網(wǎng)絡(luò)犯罪分子也會采用敏捷軟件開發(fā)，自動化和機(jī)器學(xué)習(xí)之類的東西，來潛在地利用人工智能來更好地識別和更快地利用網(wǎng)絡(luò)漏洞，這一點也不足為奇。

由AI提供支持的自動化系統(tǒng)可以探測網(wǎng)絡(luò)和系統(tǒng)，搜索可能被利用的未發(fā)現(xiàn)的漏洞。通過創(chuàng)建極其逼真的視頻和音頻或精心設(shè)計的電子郵件旨在欺騙目標(biāo)個體的，AI還可用于使網(wǎng)絡(luò)釣魚和其他社交工程攻擊更加復(fù)雜。

“過去兩三年來，專家們一直在警告人工智能的危險方面，即網(wǎng)絡(luò)犯罪分子可以利用它來迅速擴(kuò)大其攻擊覆蓋范圍，”CNBC的網(wǎng)絡(luò)安全記者Kate Fazzini表示。

這些都不只是停留在理論上。在2017年，網(wǎng)絡(luò)安全公司Darktrace在印度進(jìn)行了一次攻擊，該攻擊使用了“初級”人工智能來觀察和學(xué)習(xí)網(wǎng)絡(luò)中正常用戶行為的模式，用于偵察。該活動還可以開始解析特定用戶的通信模式，以便能夠模仿他或她的語氣和風(fēng)格，這比標(biāo)準(zhǔn)的社會工程嘗試更有效、更有說服力。

另一個由AI驅(qū)動的開發(fā)是僵尸網(wǎng)絡(luò)群的興起，就像最近的Hide and Seek僵尸網(wǎng)絡(luò)一樣。Hide and Seek是一組自我學(xué)習(xí)的設(shè)備，這是世界上第一個通過自定義的對等協(xié)議進(jìn)行交流的設(shè)備，可以同時識別和攻擊不同的攻擊載體。

AI攻擊手段

據(jù)悉，目前至少有三種與人工智能相關(guān)的網(wǎng)絡(luò)安全攻擊手段。

首先是利用人工智能提高攻擊效率。比如，現(xiàn)在黑客可以通過機(jī)器學(xué)習(xí)，分析社群媒體上的訊息、朋友圈等，依照這些個人化信息發(fā)起針對性攻擊，提高釣魚攻擊成功率。此外，現(xiàn)在網(wǎng)絡(luò)上也出現(xiàn)通過機(jī)器學(xué)習(xí)以及可自動識別圖像的免費軟件，讓黑客可破解用來防御自動化攻擊的驗證碼機(jī)制。

其次是黑客攻擊AI系統(tǒng)。這是以一種改變系統(tǒng)的方法進(jìn)行攻擊，簡單來說就是污染AI系統(tǒng)，或是找到AI系統(tǒng)弱點、繞過防御以進(jìn)行攻擊。以微軟在2016年推出聊天機(jī)器人Tay為例。網(wǎng)絡(luò)罪犯可以借助機(jī)器學(xué)習(xí)技術(shù)讓它在每次的對話中改變回復(fù)話語，以至于該機(jī)器人在上線24小時候就出現(xiàn)了種族歧視的言論。其實不僅僅是聊天機(jī)器人，現(xiàn)在的技術(shù)也能做到入侵語音識別系統(tǒng)，只要在聲音中插入噪音，就能徹底改變翻譯結(jié)果，讓機(jī)器說出特定語句。雖然這些看似無傷大雅，但由于AI已經(jīng)被企業(yè)大量用于商業(yè)營運中，一旦被黑客知道模型如何訓(xùn)練和運作，就能借此機(jī)會破壞訓(xùn)練模型的數(shù)據(jù)來操控模型。比如，銀行把AI導(dǎo)入借貸決策系統(tǒng)來分析申請人的收入、年齡、居住地、信用分?jǐn)?shù)等，以決定是否批準(zhǔn)該借貸，一旦找到方法繞過偵測，就算有很差的信用分?jǐn)?shù)仍可貸款成功。

至于最后一種攻擊手段，黑客看重的不是模型本身，而是用來訓(xùn)練AI模型背后的數(shù)據(jù)，而黑客已經(jīng)可以竊取訓(xùn)練AI模型背后的數(shù)據(jù)。以圖像識別系統(tǒng)為例，正常情況是，給出圖片后，系統(tǒng)可以識別出人名，而在破解系統(tǒng)后，黑客只要擁有姓名，就能逆向重建圖片。

黑客追求規(guī)模效應(yīng)，他們試圖攻擊盡可能多的目標(biāo)用戶，同時降低自身的風(fēng)險。人工智能和機(jī)器學(xué)習(xí)則是他們實現(xiàn)目標(biāo)的完美工具。AI技術(shù)可以輔助黑客們決策攻擊的對象、攻擊的方式和時機(jī)等等因素。