上海市經(jīng)濟(jì)和信息化委員會(huì)軟件和信息服務(wù)業(yè)處處長(zhǎng)裘薇在會(huì)上透露，計(jì)劃明確政府和公共企事業(yè)單位在網(wǎng)絡(luò)安全上的投入比例不低于10%。

現(xiàn)階段的人工智能，更像是一個(gè)無(wú)法歸納和理解的“黑盒”，只能匹配預(yù)設(shè)的模型并根據(jù)輸入導(dǎo)出結(jié)果。這也引發(fā)了人們對(duì)人工智能安全的顧慮。

7月9日，2021世界人工智能大會(huì)安全高端對(duì)話在上海舉行，此次安全高端對(duì)話以“數(shù)智轉(zhuǎn)型 安全先行”為主題。

上海市經(jīng)濟(jì)和信息化委員會(huì)軟件和信息服務(wù)業(yè)處處長(zhǎng)裘薇在會(huì)上透露，正和網(wǎng)信辦協(xié)商，在今年發(fā)布的網(wǎng)絡(luò)安全“十四五”規(guī)劃以及即將發(fā)布的網(wǎng)絡(luò)安全產(chǎn)業(yè)的行動(dòng)計(jì)劃當(dāng)中，進(jìn)一步明確政府和公共企事業(yè)單位在網(wǎng)絡(luò)安全上的投入比例不低于10%。

挑戰(zhàn)：AI也可能引發(fā)系統(tǒng)性風(fēng)險(xiǎn)

盡管我國(guó)已經(jīng)躋身于世界人工智能的第一方陣，但是人工智能發(fā)展與安全方面，依然面臨嚴(yán)峻的風(fēng)險(xiǎn)。

全國(guó)政協(xié)社會(huì)和法制委員會(huì)副主任、公安部原副部長(zhǎng)陳智敏指出，數(shù)字信息的過度采集和非法使用，可能侵犯公民的權(quán)利和隱私；算法的偏好可能加劇社會(huì)的偏見或歧視，威脅公平正義，數(shù)據(jù)非法跨境流通可能危害國(guó)家主權(quán)和國(guó)家安全，等等。

個(gè)人信息被竊取、盜賣，則可能引發(fā)更嚴(yán)重的刑事犯罪。他舉了一組數(shù)據(jù)，當(dāng)前我國(guó)電信詐騙案件處在高發(fā)期，每年平均上升30%，有的地方已經(jīng)占了整個(gè)刑事案件的一半以上，超過傳統(tǒng)的盜竊案件。

“機(jī)器深度學(xué)習(xí)難以理解人性的道德，無(wú)人駕駛汽車緊急避險(xiǎn)等智能決策可能威脅特定的人群生命?！彼f。

上海市委網(wǎng)信辦總工程師楊海軍也指出，傳統(tǒng)以系統(tǒng)為中心正轉(zhuǎn)向以數(shù)據(jù)為中心的安全思路，也同時(shí)面臨著安全與業(yè)務(wù)相分離的局面。

“事實(shí)上人工智能應(yīng)用當(dāng)中帶來了很多風(fēng)險(xiǎn)，包括自身的算力、算法帶來的脆弱性，也包括人工智能在應(yīng)用中的魯棒性、可解釋性、公平性問題。這些新技術(shù)在和原有業(yè)務(wù)相結(jié)合時(shí)，可能會(huì)給原業(yè)務(wù)或者系統(tǒng)帶來巨大的系統(tǒng)性風(fēng)險(xiǎn)?！睏詈＼娬f。

數(shù)字的新業(yè)態(tài)、新場(chǎng)景、新規(guī)則涌現(xiàn)，也為網(wǎng)絡(luò)安全的產(chǎn)業(yè)形態(tài)帶來了新的變革。裘薇談到，平臺(tái)方、應(yīng)用方等不同的主體網(wǎng)絡(luò)安全的職責(zé)將被重新定義，例如隨著“系統(tǒng)上云”，“系統(tǒng)誰(shuí)建設(shè)誰(shuí)負(fù)責(zé)”的局面發(fā)生了改變，安全責(zé)任是平臺(tái)方還是系統(tǒng)建設(shè)方，其邊界怎么劃分等等，都需要對(duì)權(quán)責(zé)重新定義。

應(yīng)對(duì)：上海“揭榜掛帥”激發(fā)企業(yè)攻關(guān)

裘薇透露，上海正在編制市網(wǎng)絡(luò)安全創(chuàng)新高地“三年行動(dòng)計(jì)劃”，希望通過做強(qiáng)供給，創(chuàng)新應(yīng)用和生態(tài)載體建設(shè)等多要素進(jìn)行融合發(fā)力，為城市數(shù)字化轉(zhuǎn)型能夠構(gòu)建堅(jiān)實(shí)的安全產(chǎn)業(yè)底座。

一是圍繞做強(qiáng)供給。一方面突破關(guān)鍵技術(shù)以及基礎(chǔ)攻關(guān)，在下一代通信、數(shù)據(jù)、智能治理等前沿技術(shù)的領(lǐng)域，如可信計(jì)算、零信任等新型架構(gòu)以及云計(jì)算、人工智能等融合技術(shù)加強(qiáng)研發(fā)創(chuàng)新。

二是聚焦應(yīng)用技術(shù)的創(chuàng)新，進(jìn)一步做強(qiáng)上海優(yōu)勢(shì)密碼產(chǎn)業(yè)的同時(shí)，強(qiáng)化隱私計(jì)算和數(shù)據(jù)安全的研發(fā)布局。

“原來網(wǎng)絡(luò)安全企業(yè)更多是提供網(wǎng)絡(luò)安全產(chǎn)品，現(xiàn)在隨著整個(gè)數(shù)字化全面提升，網(wǎng)絡(luò)安全可能覆蓋到整個(gè)企業(yè)的全生命周期，所以更需要它提供整體化網(wǎng)絡(luò)安全解決方案。”裘薇說，單打獨(dú)斗的網(wǎng)絡(luò)安全服務(wù)模式已經(jīng)難以滿足需求，上海正在考慮推動(dòng)網(wǎng)絡(luò)安全的企業(yè)集成化服務(wù)。

甚至還考慮到加強(qiáng)網(wǎng)絡(luò)安全的保險(xiǎn)創(chuàng)新能力。最近，上海已會(huì)同相關(guān)企業(yè)對(duì)網(wǎng)絡(luò)安全保險(xiǎn)機(jī)制，以及和證監(jiān)會(huì)、銀保監(jiān)會(huì)等共同研究，希望培育新的網(wǎng)絡(luò)服務(wù)推廣模式。

上海正從關(guān)鍵技術(shù)突破，服務(wù)模式創(chuàng)新等方面著手，打造網(wǎng)絡(luò)安全產(chǎn)業(yè)創(chuàng)新的生態(tài)環(huán)境建設(shè)，扶植一批網(wǎng)絡(luò)安全人才與企業(yè)。

裘薇介紹，今年開始，上海推出年度網(wǎng)絡(luò)安全創(chuàng)新攻關(guān)目錄，征集在數(shù)據(jù)安全、人工智能安全、車聯(lián)網(wǎng)安全等新興領(lǐng)域當(dāng)中，各類網(wǎng)絡(luò)安全創(chuàng)新應(yīng)用成果，并通過應(yīng)用場(chǎng)景的開放和揭榜掛帥等方式，解決行業(yè)中存在的痛點(diǎn)。

例如，在人工智能安全方面，主要考慮與合規(guī)行業(yè)數(shù)據(jù)的訓(xùn)練集、隱私計(jì)算、數(shù)字技術(shù)產(chǎn)品來構(gòu)建安全的基石，以關(guān)注度高的智能網(wǎng)聯(lián)汽車等一些關(guān)鍵場(chǎng)景推進(jìn)智能網(wǎng)絡(luò)安全的防護(hù)體系。以金融、醫(yī)療等一些領(lǐng)域的智能產(chǎn)品服務(wù)的安全評(píng)估等級(jí)來引導(dǎo)廠商強(qiáng)化技術(shù)的保障能力。

“未來3年，上海力爭(zhēng)推動(dòng)100個(gè)應(yīng)用場(chǎng)景的開放，組織安全方面的企業(yè)揭榜掛帥，形成創(chuàng)新性、示范性網(wǎng)絡(luò)安全的最佳實(shí)踐的解決方案?！濒棉闭f。