信息來源：hackernews

騰訊安全平臺(tái)部 Blade 團(tuán)隊(duì)日前對(duì)外發(fā)布消息稱，該團(tuán)隊(duì)在對(duì)谷歌人工智能學(xué)習(xí)系統(tǒng) TensorFlow 進(jìn)行代碼審計(jì)時(shí)，發(fā)現(xiàn)該系統(tǒng)存在重大安全漏洞，利用該系統(tǒng)進(jìn)行編輯的 AI 場(chǎng)景，有遭受惡意攻擊的可能。據(jù)騰訊安全平臺(tái)部負(fù)責(zé)人楊勇介紹，TensorFlow 是目前谷歌免費(fèi)開放給 AI 設(shè)計(jì)者的編程平臺(tái)，程序員可以在該平臺(tái)上進(jìn)行 AI 組件的設(shè)計(jì)工作。

楊勇表示，當(dāng)含有安全風(fēng)險(xiǎn)的代碼被編輯進(jìn)諸如面部識(shí)別或機(jī)器人學(xué)習(xí)的 AI 使用場(chǎng)景中，攻擊者就可以利用該漏洞完全接管系統(tǒng)權(quán)限，竊取設(shè)計(jì)者的設(shè)計(jì)模型，侵犯使用者隱私，甚至對(duì)用戶造成更大傷害。通俗地講，如果設(shè)計(jì)人員在給機(jī)器人編程時(shí)恰好使用了含有該漏洞的組件，那么惡意攻擊者就有可能利用漏洞控制該機(jī)器人，這是非?？膳碌?。目前我們?cè)冢粒砂踩I(lǐng)域還只是邁出了一小步，未來期待更多的技術(shù)人員一起完善 AI ，讓 AI 更安全……”

Blade 團(tuán)隊(duì)表示，TensorFlow 是目前應(yīng)用最為廣泛的機(jī)器學(xué)習(xí)框架之一，已被運(yùn)用在諸多 AI 場(chǎng)景中，如語(yǔ)音識(shí)別、自然語(yǔ)言理解、計(jì)算機(jī)視覺、廣告、無(wú)人駕駛等；其一旦被黑客控制，后果不堪設(shè)想。目前 Blade 團(tuán)隊(duì)已將漏洞的運(yùn)用機(jī)理致函谷歌公司，而該漏洞需要谷歌安全團(tuán)隊(duì)對(duì)代碼重新編輯。對(duì)此，一些業(yè)內(nèi)專家也表達(dá)了擔(dān)憂。

上海信息安全行業(yè)協(xié)會(huì)專委會(huì)副主任張威認(rèn)為，當(dāng)前從事人工智能開發(fā)的企業(yè)幾乎無(wú)一例外地將算法和數(shù)據(jù)相融合，一些數(shù)據(jù)可能涉及企業(yè)和用戶的核心秘密，一旦出現(xiàn)安全漏洞，風(fēng)險(xiǎn)較高。張威建議，有關(guān)企業(yè)應(yīng)盡快自查是否使用過該平臺(tái)進(jìn)行 AI 編程，同時(shí)行業(yè)內(nèi)應(yīng)加強(qiáng)聯(lián)系溝通，消除安全隱患。