當(dāng)前人工智能（AI）功能在不斷增強(qiáng)和復(fù)雜化，這一趨勢(shì)對(duì)于那些運(yùn)用生成式AI技術(shù)的首席信息安全官（CISO）來(lái)說(shuō)更加顯著。網(wǎng)絡(luò)安全供應(yīng)商正面臨著利用生成式AI來(lái)降低失敗風(fēng)險(xiǎn)的挑戰(zhàn)。此外，攻擊策略的演變、AI的武器化，以及社交工程手段的應(yīng)用，已經(jīng)導(dǎo)致多家全球領(lǐng)先企業(yè)遭遇重大挫折。

日前，專業(yè)IT媒體VentureBeat采訪了多位資深網(wǎng)絡(luò)安全專家，聽取他們對(duì)2024年生成式AI技術(shù)將會(huì)如何影響網(wǎng)絡(luò)安全發(fā)展的預(yù)測(cè)。專家們普遍認(rèn)為：盡管生成式AI技術(shù)會(huì)降低網(wǎng)絡(luò)犯罪的進(jìn)入門檻，升級(jí)企業(yè)現(xiàn)有的風(fēng)險(xiǎn)態(tài)勢(shì)，但同時(shí)也會(huì)給企業(yè)網(wǎng)絡(luò)安全建設(shè)帶來(lái)很大幫助，AI專業(yè)人員和網(wǎng)絡(luò)安全團(tuán)隊(duì)?wèi)?yīng)該尋求更加緊密的合作。

1、“生成式AI技術(shù)應(yīng)用正在帶來(lái)新的安全盲區(qū)”

——CrowdStrike首席技術(shù)官Elia Zaitsev

2024年，我們預(yù)計(jì)，攻擊者會(huì)把AI系統(tǒng)作為攻擊的重點(diǎn)目標(biāo)，并視其為一種新的威脅利用途徑。通過(guò)合法AI應(yīng)用系統(tǒng)中的安全漏洞，以及員工未經(jīng)批準(zhǔn)使用的影子AI工具帶來(lái)的安全盲區(qū)，攻擊者可以更容易地攻擊組織。防護(hù)AI技術(shù)的安全性盲區(qū)，企業(yè)安全團(tuán)隊(duì)仍處于早期階段，這些盲區(qū)和新技術(shù)為企圖攻擊企業(yè)的惡意人員打開了大門，這迫使企業(yè)組織必須盡快面對(duì)新的數(shù)據(jù)安全風(fēng)險(xiǎn)。

因此，企業(yè)組織在2024年需要重新審視內(nèi)部威脅，了解AI技術(shù)引入的各個(gè)環(huán)節(jié)，評(píng)估其風(fēng)險(xiǎn)狀況，并制定相應(yīng)的防護(hù)指導(dǎo)方針，以確保安全負(fù)責(zé)地使用，盡量降低企業(yè)風(fēng)險(xiǎn)和安全支出，同時(shí)實(shí)現(xiàn)其應(yīng)用價(jià)值的最大化。

2、“組織的網(wǎng)絡(luò)安全防護(hù)工作不能過(guò)度依賴AI”

——CyCognito首席執(zhí)行官Rob Gurzeev

我始終認(rèn)為，生成式AI技術(shù)會(huì)對(duì)企業(yè)的網(wǎng)絡(luò)安全防護(hù)工作產(chǎn)生積極影響，但是有一個(gè)重要問題需要強(qiáng)調(diào)，就是AI技術(shù)可能讓企業(yè)的安全運(yùn)營(yíng)團(tuán)隊(duì)變得過(guò)于自負(fù)。2024年，如果企業(yè)組織過(guò)度依賴AI技術(shù)，就可能導(dǎo)致組織的日常安全運(yùn)營(yíng)缺乏監(jiān)管，這就很容易導(dǎo)致在攻擊面管理上出現(xiàn)缺口。

3、“生成式AI日趨成熟，能夠幫助企業(yè)加強(qiáng)安全防御”

——Cyberhaven首席執(zhí)行官Ting Howard

Cyberhaven得到的數(shù)據(jù)顯示，4.7%的員工曾將機(jī)密數(shù)據(jù)輸入到ChatGPT中，其中11%的數(shù)據(jù)是敏感數(shù)據(jù)。但我確實(shí)認(rèn)為，局面最終會(huì)好轉(zhuǎn)。隨著大語(yǔ)言模型（LLM）和生成式AI 日趨成熟，安全團(tuán)隊(duì)將能夠用它們來(lái)加強(qiáng)防御。生成式AI大有潛力幫助安全團(tuán)隊(duì)處理目前難以處理的大量事件數(shù)據(jù)。傳統(tǒng)的數(shù)據(jù)湖和基礎(chǔ)的SIEM側(cè)重收集數(shù)據(jù)，而更注重對(duì)話的界面可以大大提高用途。

4、“生成式AI技術(shù)將成為閉環(huán)OT防御的有效方法”

——霍尼韋爾互聯(lián)企業(yè)首席技術(shù)官Jason Urso

關(guān)鍵基礎(chǔ)設(shè)施一直是網(wǎng)絡(luò)攻擊者的主要攻擊目標(biāo)。但這些攻擊要求很高的專業(yè)性，需要極其復(fù)雜的手法，并不是普通黑客就能夠具備的。為了更有效地對(duì)抗專業(yè)網(wǎng)絡(luò)攻擊者，我認(rèn)為生成式AI技術(shù)將會(huì)在2024年成為閉環(huán)OT防御的一種有效方法，這種防御能夠?qū)崟r(shí)基于威脅格局方面的變化，動(dòng)態(tài)改變安全配置和防御規(guī)則，并執(zhí)行自動(dòng)滲透測(cè)試以標(biāo)注面臨風(fēng)險(xiǎn)的變化。

5、“可靠的生成式AI應(yīng)用需要由人來(lái)監(jiān)管”

——Ivanti首席產(chǎn)品官Srinivas Mukkamala

2024年，隨著ChatGPT被廣泛應(yīng)用，很多人開始擔(dān)心生成式AI技術(shù)會(huì)對(duì)其職業(yè)生涯產(chǎn)生影響。根據(jù)我們的市場(chǎng)研究發(fā)現(xiàn)，近三分之二受訪IT員工擔(dān)心生成式AI在未來(lái)五年內(nèi)將取代其工作。因此，企業(yè)管理者需要向員工明確闡述計(jì)劃如何實(shí)施AI，以便穩(wěn)定現(xiàn)有的人才團(tuán)隊(duì)。需要指出的是，可靠的AI技術(shù)應(yīng)用必須由人來(lái)監(jiān)管。2024年，越來(lái)越普遍的AI工具將使社會(huì)工程攻擊更具欺騙性。由于企業(yè)提高了檢測(cè)傳統(tǒng)網(wǎng)絡(luò)釣魚郵件的能力，惡意黑客已轉(zhuǎn)向新技術(shù)，確保誘餌更讓人信以為真。此外，攻擊者和不懷好意的人利用這些AI工具生成虛假信息，將對(duì)組織、政府和所有人構(gòu)成挑戰(zhàn)和威脅。

6、“別擔(dān)心，生成式AI技術(shù)不會(huì)接管世界”

——Lacework 首席網(wǎng)絡(luò)安全官 Merritt Baer

別擔(dān)心，生成式AI技術(shù)不會(huì)接管世界，但很多傳統(tǒng)工作的性質(zhì)確實(shí)會(huì)發(fā)生變化。在2024年，我們會(huì)看到生成式AI技術(shù)將能夠大量地自動(dòng)處理重復(fù)性任務(wù)，它們不僅能提示程序員編寫自動(dòng)化程序，還有望建議編寫修復(fù)腳本或?yàn)槁┒囱a(bǔ)丁所需的代碼。但是，人類特有的創(chuàng)造性思維才是至關(guān)重要的，而AI技術(shù)所擅長(zhǎng)的是如何可靠處理，從龐大數(shù)據(jù)集中導(dǎo)出模式，并精準(zhǔn)地執(zhí)行操作。

7、“安全團(tuán)隊(duì)需要借助AI來(lái)跟上應(yīng)用開發(fā)的步伐”

——派拓網(wǎng)絡(luò)高級(jí)副總裁Ankur Shah

今天的安全團(tuán)隊(duì)完全跟不上應(yīng)用程序開發(fā)的節(jié)奏，這導(dǎo)致無(wú)數(shù)的安全風(fēng)險(xiǎn)更快速地進(jìn)入到企業(yè)的生產(chǎn)環(huán)境中。2024年，生成式AI技術(shù)或?qū)⑹箲?yīng)用程序的開發(fā)節(jié)奏進(jìn)一步加快，開發(fā)人員將利用這項(xiàng)技術(shù)以前所未有的速度編寫和發(fā)布新的應(yīng)用。為了確保安全團(tuán)隊(duì)跟上步伐，企業(yè)也必須將AI技術(shù)應(yīng)用到安全防護(hù)中。但AI技術(shù)在安全防護(hù)中的應(yīng)用會(huì)面臨一個(gè)數(shù)據(jù)問題，如果沒有可靠的安全數(shù)據(jù)來(lái)訓(xùn)練AI，其阻止風(fēng)險(xiǎn)的能力就無(wú)從談起。

現(xiàn)在，安全分析師不僅需要能夠了解攻擊者如何潛入，還需要了解如何創(chuàng)建復(fù)雜的自動(dòng)化和查詢，以便面對(duì)大量數(shù)據(jù)高效處理。在2024年，借助生成式AI技術(shù)，它們與數(shù)據(jù)進(jìn)行交互的過(guò)程將變得更流暢。

8、“企業(yè)需要加快應(yīng)對(duì)AI威脅的步伐”

——Telesign首席執(zhí)行官Christophe Van de Weyer

AI技術(shù)能夠幫助安全團(tuán)隊(duì)發(fā)現(xiàn)新的攻擊模式、新興CVE或表明企圖破壞的某些行為。但AI技術(shù)也同時(shí)加大了企業(yè)對(duì)新型威脅的識(shí)別難度，因?yàn)楝F(xiàn)有的威脅檢測(cè)系統(tǒng)往往無(wú)法區(qū)分由人工生成的網(wǎng)絡(luò)釣魚攻擊還是AI生成的網(wǎng)絡(luò)釣魚攻擊。2024年，企業(yè)需要加快、加強(qiáng)對(duì)AI應(yīng)用威脅防御的步伐，而做好身份賬戶的完整性防護(hù)將是關(guān)鍵。企業(yè)應(yīng)該基于持續(xù)分析欺詐信號(hào)，利用AI評(píng)估登錄和交易的風(fēng)險(xiǎn)大小。網(wǎng)絡(luò)安全服務(wù)商也應(yīng)該擴(kuò)大機(jī)器學(xué)習(xí)所能識(shí)別的欺詐種類，為加強(qiáng)保護(hù)措施提供依據(jù)。

9、“AI技術(shù)應(yīng)該成為CISO必須掌握的專業(yè)技能”

——WinWire首席技術(shù)官Vineet Arora

企業(yè)的網(wǎng)絡(luò)安全管理和運(yùn)營(yíng)人員現(xiàn)在需要監(jiān)控和管理的數(shù)據(jù)非常龐大。隨著云計(jì)算和智能邊緣設(shè)備的更廣泛部署，企業(yè)的數(shù)據(jù)量在未來(lái)幾年還會(huì)進(jìn)一步增長(zhǎng)。而AI技術(shù)非常適合解決網(wǎng)絡(luò)安全工作中圍繞威脅檢測(cè)、篩選和響應(yīng)方面一些最困難的問題。因此我認(rèn)為，生成式AI技術(shù)在2024年會(huì)成為每個(gè)CISO都必須熟練使用的必要技能之一。

生成式AI將顯著增強(qiáng)安全從業(yè)者在日常工作中的專業(yè)能力。特別是在威脅情報(bào)、安全加固、滲透測(cè)試和檢測(cè)工程等目前由人工完成的工作場(chǎng)景下，生成式AI技術(shù)能夠大大提高流程的自動(dòng)化程度。同時(shí)，許多枯燥的日常安全運(yùn)營(yíng)任務(wù)（比如日志分析、事件響應(yīng)和安全補(bǔ)丁）都可以通過(guò)生成式AI實(shí)現(xiàn)自動(dòng)化，從而為安全分析師節(jié)約寶貴的時(shí)間，致力于更復(fù)雜的網(wǎng)絡(luò)安全問題。當(dāng)然，我們也必須留意，惡意攻擊者利用生成式AI為社會(huì)工程攻擊、惡意軟件以及復(fù)雜的網(wǎng)絡(luò)釣魚活動(dòng)帶來(lái)更加逼真的場(chǎng)景模擬。

10、“未來(lái)的網(wǎng)絡(luò)安全工作一定是由AI技術(shù)來(lái)主導(dǎo)”

——Zscaler首席人工智能官Claudionor Coelho

生成式AI技術(shù)的廣泛應(yīng)用將在2024年將對(duì)企業(yè)的合規(guī)工作產(chǎn)生重大而深遠(yuǎn)的影響。在過(guò)去，合規(guī)是一項(xiàng)耗時(shí)的工作，涉及制定法規(guī)、實(shí)行約束、獲取證據(jù)以及回應(yīng)客戶問題。2024年，上述的很多工作都可以自動(dòng)化的文本和程序來(lái)實(shí)現(xiàn)。

我們認(rèn)為這將是未來(lái)網(wǎng)絡(luò)安全工作的主要運(yùn)作方式，未來(lái)將會(huì)是AI技術(shù)主導(dǎo)的天下。由于今天的數(shù)據(jù)和安全防護(hù)模型過(guò)于復(fù)雜和龐大，因此不能指望通過(guò)人工團(tuán)隊(duì)來(lái)閱讀和解釋它們，生成式AI將促使網(wǎng)絡(luò)安全技術(shù)更快速地向前發(fā)展。