近幾年，科技企業(yè)在推廣新一代信息技術(shù)產(chǎn)品時(shí)，數(shù)據(jù)安全、數(shù)據(jù)隱私等問(wèn)題廣受詬病。數(shù)據(jù)作為驅(qū)動(dòng)人工智能快速發(fā)展的重要基礎(chǔ)，其安全也決定了人工智能的安全。人工智能的加速發(fā)展給數(shù)據(jù)的安全治理帶來(lái)了新的機(jī)遇和挑戰(zhàn)。

驗(yàn)證碼登陸、移動(dòng)在線支付、人臉識(shí)別門(mén)禁……

隨著新一代信息技術(shù)的發(fā)展，互聯(lián)網(wǎng)和人工智能技術(shù)應(yīng)用蓬勃發(fā)展，數(shù)據(jù)也被視為一種無(wú)形的資產(chǎn)。然而，技術(shù)是一把雙刃劍，在給我們生產(chǎn)生活帶來(lái)效率提升的同時(shí)，伴隨的安全問(wèn)題也不可忽視。

近幾年，科技企業(yè)在推廣新一代信息技術(shù)產(chǎn)品時(shí)，數(shù)據(jù)安全、數(shù)據(jù)隱私等問(wèn)題廣受詬病。數(shù)據(jù)安全成為當(dāng)今數(shù)字化轉(zhuǎn)型時(shí)代的關(guān)鍵緊迫議題。

在7月8日至10日舉行的2021世界人工智能大會(huì)上，數(shù)據(jù)安全、數(shù)據(jù)治理、網(wǎng)絡(luò)安全等問(wèn)題備受關(guān)注。業(yè)界認(rèn)為，在人工智能深入推進(jìn)城市數(shù)字化轉(zhuǎn)型過(guò)程中，企業(yè)應(yīng)積極主動(dòng)接受監(jiān)管，推動(dòng)產(chǎn)業(yè)健康持續(xù)發(fā)展。

數(shù)據(jù)安全治理面臨新的機(jī)遇和挑戰(zhàn)

近日，桔視記錄儀等25款A(yù)pp因存在嚴(yán)重違法違規(guī)收集使用個(gè)人信息問(wèn)題，被國(guó)家互聯(lián)網(wǎng)信息辦公室依據(jù)《中華人民共和國(guó)網(wǎng)絡(luò)安全法》相關(guān)規(guī)定，通知應(yīng)用商店下架。

此前，在上海車(chē)展特斯拉車(chē)主維權(quán)事件中，特斯拉公布了維權(quán)車(chē)主車(chē)輛事發(fā)前半小時(shí)的行車(chē)數(shù)據(jù)。該行為引發(fā)了眾多爭(zhēng)議：車(chē)企該不該將行車(chē)數(shù)據(jù)公開(kāi)?人們?nèi)绾未_定數(shù)據(jù)的可靠性?

沒(méi)有大數(shù)據(jù)的收集和基礎(chǔ)，人工智能是無(wú)本之木。數(shù)據(jù)作為驅(qū)動(dòng)人工智能快速發(fā)展的重要基礎(chǔ)，其安全也決定了人工智能的安全。人工智能的加速發(fā)展給數(shù)據(jù)的安全治理帶來(lái)了新的機(jī)遇和挑戰(zhàn)。

“大數(shù)據(jù)驅(qū)動(dòng)業(yè)務(wù)的開(kāi)展，讓數(shù)據(jù)安全對(duì)城市運(yùn)轉(zhuǎn)變得前所未有的重要，數(shù)據(jù)一旦遭到攻擊，就意味著業(yè)務(wù)會(huì)停轉(zhuǎn)，將造成嚴(yán)重的經(jīng)濟(jì)損失和社會(huì)后果。”360公司創(chuàng)始人、董事長(zhǎng)兼CEO周鴻祎表示，最近幾年，360公司接到大量醫(yī)院的報(bào)警，稱醫(yī)院網(wǎng)站被勒索軟件攻擊之后不能進(jìn)行手術(shù)，不能給病人掛號(hào)看病。

近年來(lái)，城市也成為了網(wǎng)絡(luò)勒索的重要目標(biāo)，而且網(wǎng)絡(luò)攻擊的對(duì)象不僅限于電腦、手機(jī)、設(shè)備、系統(tǒng)，還逐漸擴(kuò)展到數(shù)據(jù)。人工智能數(shù)據(jù)的獲取、處理和應(yīng)用具有極強(qiáng)的隱私性與領(lǐng)域擴(kuò)展性，關(guān)乎個(gè)人信息安全甚至國(guó)家信息安全。對(duì)政府、城市公共事業(yè)單位的數(shù)據(jù)勒索，會(huì)造成城市運(yùn)轉(zhuǎn)和服務(wù)陷入停擺。今年5月，美國(guó)最大的燃油輸送管線遭遇網(wǎng)絡(luò)攻擊被迫關(guān)停，導(dǎo)致美國(guó)東海岸45%的汽油、柴油等燃料供應(yīng)受到影響。

業(yè)界認(rèn)為，針對(duì)上述情況，要讓人工智能技術(shù)的頭頂上高懸一把達(dá)摩克里斯之劍。

數(shù)據(jù)輸入、分析等過(guò)程都存在相應(yīng)風(fēng)險(xiǎn)

數(shù)據(jù)非法跨境流通可能危害國(guó)家主權(quán)和國(guó)家安全;數(shù)字信息的過(guò)度采集和非法使用，可能侵犯公民的權(quán)利和隱私;算法的偏好可能加劇社會(huì)的偏見(jiàn)或歧視，威脅公平正義;無(wú)人駕駛汽車(chē)緊急避險(xiǎn)等智能決策可能威脅特定人群的生命……

全國(guó)政協(xié)社會(huì)和法制委員會(huì)副主任陳智敏在人工智能大會(huì)安全高端對(duì)話上指出，人工智能發(fā)展與安全發(fā)展風(fēng)險(xiǎn)同時(shí)并存，這不僅是一個(gè)技術(shù)問(wèn)題，也是一個(gè)安全問(wèn)題，同時(shí)還涉及倫理、法律和國(guó)際規(guī)則等相關(guān)問(wèn)題。

國(guó)家工業(yè)信息安全發(fā)展研究中心副主任何小龍?jiān)谌斯ぶ悄艽髸?huì)上表示，人工智能帶來(lái)的數(shù)據(jù)安全問(wèn)題一方面加速了傳統(tǒng)數(shù)據(jù)安全問(wèn)題。

人工智能大規(guī)模的運(yùn)用使得過(guò)度采集數(shù)據(jù)安全問(wèn)題進(jìn)一步加劇。另一方面，也帶來(lái)了新型數(shù)據(jù)安全的問(wèn)題。人工智能的算法對(duì)數(shù)據(jù)具有較強(qiáng)的依賴性，可能會(huì)帶來(lái)數(shù)據(jù)投毒等新型數(shù)據(jù)安全挑戰(zhàn)。

算法、模型和數(shù)據(jù)構(gòu)成機(jī)器學(xué)習(xí)三大基石。騰訊朱雀實(shí)驗(yàn)室首席AI安全專家朱季峰在人工智能大會(huì)主題論壇上表示，以算法構(gòu)建過(guò)程中上下游的產(chǎn)業(yè)鏈來(lái)看，數(shù)據(jù)的輸入、數(shù)據(jù)的分析、模型的訓(xùn)練、模型的決策、模型的上線部署應(yīng)用以及模型的改造過(guò)程當(dāng)中都存在相應(yīng)的風(fēng)險(xiǎn)。

例如，在數(shù)據(jù)輸入環(huán)節(jié)，如果攻擊者控制了數(shù)據(jù)來(lái)源，或者攻擊者能夠?qū)κ占瘮?shù)據(jù)的設(shè)備本身產(chǎn)生安全攻擊，最終將通過(guò)這個(gè)鏈條影響到算法模型。如通過(guò)超聲波影響陀螺儀，最終可以使無(wú)人機(jī)墜落?；蛘咴谀Ｐ蜎Q策階段，可以通過(guò)物理攻擊，使得自動(dòng)駕駛車(chē)輛最終視覺(jué)識(shí)別系統(tǒng)出問(wèn)題，這樣可能影響車(chē)輛自動(dòng)行駛或者對(duì)行人的判斷。

隨著人工智能的應(yīng)用，技術(shù)的濫用帶來(lái)失控風(fēng)險(xiǎn)。驗(yàn)證碼驗(yàn)證機(jī)制首當(dāng)其沖。朱季峰介紹，早在2017年，地下的黑產(chǎn)就已經(jīng)開(kāi)始用機(jī)器學(xué)習(xí)的方法做二維碼識(shí)別訓(xùn)練。資料表明，80%以上驗(yàn)證的準(zhǔn)確性都可以通過(guò)機(jī)器學(xué)習(xí)算法自動(dòng)完成線上的注冊(cè)，這就產(chǎn)生了一系列的安全問(wèn)題。

3大系統(tǒng)共筑數(shù)據(jù)安全防火墻

人臉識(shí)別技術(shù)依托于對(duì)海量視圖數(shù)據(jù)的分析，因而數(shù)據(jù)安全直接影響著人臉識(shí)別技術(shù)的實(shí)戰(zhàn)應(yīng)用。人工智能技術(shù)在安防領(lǐng)域的應(yīng)用是技術(shù)尋求落地進(jìn)程最快、應(yīng)用最早的訓(xùn)練場(chǎng)。

達(dá)闥創(chuàng)始人、董事長(zhǎng)兼CEO黃曉慶表示，從數(shù)據(jù)采集到數(shù)據(jù)處理到數(shù)據(jù)傳輸，解決數(shù)據(jù)網(wǎng)絡(luò)安全問(wèn)題有很多手段。從網(wǎng)絡(luò)和數(shù)據(jù)角度要完成三個(gè)重要的任務(wù)——物理隔離、網(wǎng)絡(luò)隔離、應(yīng)用端到端的保護(hù)。

除了技術(shù)，我國(guó)利用法律武器在數(shù)據(jù)立法上也做出了探索。

今年6月，我國(guó)頒布了《數(shù)據(jù)安全法》，9月1日將開(kāi)始正式實(shí)施?！稊?shù)據(jù)安全法》提出以數(shù)據(jù)分級(jí)分類為核心，搭建數(shù)據(jù)安全的監(jiān)管制度，要求強(qiáng)化落實(shí)各級(jí)數(shù)據(jù)處理活動(dòng)主體數(shù)據(jù)安全保護(hù)的義務(wù)與責(zé)任，為規(guī)范數(shù)據(jù)處理活動(dòng)，保障數(shù)據(jù)安全提供法律依據(jù)。另外，《個(gè)人信息保護(hù)法(草案)》也即將進(jìn)入三審階段，兩項(xiàng)法案相輔相成，推動(dòng)我國(guó)個(gè)人信息保護(hù)和數(shù)據(jù)安全治理進(jìn)入全新階段。

在人工智能大會(huì)“大愛(ài)無(wú)疆·共生”論壇上，清華大學(xué)蘇世民書(shū)院院長(zhǎng)薛瀾回顧人工智能治理模式歷經(jīng)回應(yīng)式治理、集中治理和敏捷治理三個(gè)階段。“現(xiàn)在我們進(jìn)入了相對(duì)比較集中的治理模式。該模式明確了國(guó)家加強(qiáng)行業(yè)監(jiān)管，促進(jìn)制度落地的決心，對(duì)暴露出來(lái)的各種問(wèn)題采取比較堅(jiān)決的措施落實(shí)監(jiān)管規(guī)則，同時(shí)觸及到需要進(jìn)一步研究的問(wèn)題。”薛瀾說(shuō)。

目前，上海正研究立項(xiàng)公共場(chǎng)所人臉識(shí)別分級(jí)分類應(yīng)用規(guī)范的地方標(biāo)準(zhǔn)，將成為全國(guó)首個(gè)立項(xiàng)的人臉識(shí)別的地方性標(biāo)準(zhǔn);開(kāi)展全市人工智能數(shù)據(jù)立法調(diào)研，規(guī)范數(shù)據(jù)確權(quán)，數(shù)據(jù)共享等重要內(nèi)容，推動(dòng)可信人工智能的研究。上海市人大也正在起草《上海市數(shù)據(jù)條例》。

此外，上海市數(shù)字證書(shū)認(rèn)證中心、復(fù)旦大學(xué)計(jì)算機(jī)學(xué)院、上海交通大學(xué)電子信息與電氣工程學(xué)院、移動(dòng)互聯(lián)網(wǎng)系統(tǒng)與應(yīng)用安全國(guó)家工程實(shí)驗(yàn)室、上海賽博網(wǎng)絡(luò)安全產(chǎn)業(yè)創(chuàng)新研究院共同發(fā)起籌建數(shù)字身份與數(shù)據(jù)流通信任技術(shù)實(shí)驗(yàn)室，該實(shí)驗(yàn)室將基于數(shù)字信任技術(shù)的產(chǎn)學(xué)研生態(tài)合作，開(kāi)展隱私計(jì)算、區(qū)塊鏈、前沿密碼等數(shù)字信任技術(shù)攻關(guān)和產(chǎn)業(yè)應(yīng)用，支撐城市數(shù)字化轉(zhuǎn)型、數(shù)據(jù)要素市場(chǎng)構(gòu)建和網(wǎng)絡(luò)安全體系建設(shè)。

記者獲悉，上海浦東新區(qū)將在數(shù)據(jù)資源共享、數(shù)據(jù)交易、數(shù)據(jù)開(kāi)發(fā)利用等方面進(jìn)行立法探索;臨港新片區(qū)將試點(diǎn)開(kāi)展企業(yè)法人數(shù)據(jù)的跨境流通的安全評(píng)估和服務(wù)監(jiān)管，加強(qiáng)個(gè)人數(shù)據(jù)的全生命周期安全監(jiān)控和防護(hù)。

(記者 王春)

標(biāo)簽： AI 大數(shù)據(jù) 科技發(fā)展 人工智能