關(guān)于人工智能與信息安全的思考

關(guān)于人工智能

隨著社會信息化的飛速發(fā)展，一項劃時代的技術(shù)正在掀起新的技術(shù)革命浪潮，那就是人工智能。

自1956年“人工智能”一詞第一次出現(xiàn)在達特茅斯會議上，已經(jīng)過去60多年。在經(jīng)歷了第一階段的符號主義、第二階段的數(shù)學(xué)建模之后，人工智能來到了移動互聯(lián)網(wǎng)、大數(shù)據(jù)、超級計算、萬物互聯(lián)為技術(shù)基石的信息時代。在算法和計算能力的驅(qū)動下，這項曾經(jīng)只在科幻小說里被人們津津樂道的技術(shù)，終于化繭成蝶，第一次真真切切地站在普通大眾面前，以阿拉法狗在圍棋領(lǐng)域顛覆性的勝利為標志，宣告了信息時代又一次新技術(shù)革命的到來。

根據(jù)中國電子技術(shù)標準化研究院在2018年1月最新發(fā)布的《人工智能標準化白皮書》，人工智能被定義為利用數(shù)字計算機或者數(shù)字計算機控制的機器模擬、延伸和擴展人的智能，感知環(huán)境、獲取知識并使用知識獲得最佳結(jié)果的理論、方法、技術(shù)及應(yīng)用系統(tǒng)。人工智能通常被劃分為弱人工智能和強人工智能兩類。弱人工智能是能制造出真正地推理和解決問題的智能機器，但這些機器不具備自主意識；而強人工智能則是讓這些智能機器擁有思維能力和自主意識�，F(xiàn)階段的人工智能研究主要集中于弱人工智能，并且已經(jīng)在計算機視覺、語音識別、自然語言處理、大數(shù)據(jù)應(yīng)用和決策系統(tǒng)等方面取得重大突破。但是，關(guān)于強人工智能的研究仍處于探索階段。

 

 

人工智能是信息社會的核心技術(shù)

當(dāng)今社會已經(jīng)進入信息時代。信息社會的主要資源就是信息。這些信息資源及其以大數(shù)據(jù)、人工智能、云計算和網(wǎng)絡(luò)通信為主的信息處理技術(shù)共同形成信息產(chǎn)業(yè)，逐步在經(jīng)濟和社會發(fā)展中發(fā)揮主導(dǎo)作用。當(dāng)信息的共享突破時空限制的時候，所有人類高端的生產(chǎn)、生活、學(xué)習(xí)形態(tài)都以信息的獲取、存儲、處理以及再產(chǎn)生為基本模式。這其中又以信息處理環(huán)節(jié)為核心。而人工智能技術(shù)正是借助算法和計算能力，仿照人腦同時在很多方面超越人腦的信息處理技術(shù)，因此人工智能技術(shù)將是構(gòu)成信息社會的核心技術(shù)。

鑒于人工智能技術(shù)對信息社會的重大推動作用，我國“國家互聯(lián)網(wǎng)+行動計劃”和“十三五”國家科技創(chuàng)新規(guī)劃均將人工智能作為戰(zhàn)略型新興產(chǎn)業(yè)，同時部署了智能制造等國家重點研發(fā)計劃和專項，對人工智能產(chǎn)業(yè)予以大力扶持。在2017年7月國務(wù)院發(fā)布的《新一代人工智能發(fā)展規(guī)劃》中對人工智能的發(fā)展制定了三步走的目標：第一步，到2020年人工智能總體技術(shù)和應(yīng)用與世界先進水平同步，人工智能產(chǎn)業(yè)成為新的重要經(jīng)濟增長點；第二步，到2025年人工智能基礎(chǔ)理論實現(xiàn)重大突破，人工智能成為帶動經(jīng)濟轉(zhuǎn)型的主要動力；第三步，到2030年人工智能理論、技術(shù)與應(yīng)用總體達到世界領(lǐng)先水平，成為世界主要人工智能創(chuàng)新中心。這是國家層面的戰(zhàn)略規(guī)劃，必將得到強有力的推進和實施。

我們正站在又一次技術(shù)大變革時代的門口。

工業(yè)革命中出現(xiàn)了動力和機器，曾經(jīng)大量繁重的體力工作被機器所替代，從而大大提高了社會的生產(chǎn)效率。人工智能的出現(xiàn)也將把人們從繁重的腦力勞動中解放出來。人工智能技術(shù)是知識和數(shù)據(jù)雙驅(qū)動下的產(chǎn)物，隨著信息社會中數(shù)據(jù)的膨脹，人工智能的數(shù)據(jù)樣本趨于豐富，人類的一些規(guī)則明確、煩瑣單一的腦力勞動直至分析、決策、規(guī)劃等高端腦力勞動都可以逐步被人工智能所替代。人工智能技術(shù)給人類帶來的影響，可能遠遠超過計算機和互聯(lián)網(wǎng)在過去幾十年間給人類世界帶來的改變。

 

人工智能的安全問題

人工智能是信息社會的革命性技術(shù)，是智能化的信息社會的核心技術(shù)，目前正處于爆炸式發(fā)展的初期階段。但是，正如任何一個事物的出現(xiàn)都有其兩面性一樣，人工智能的加速發(fā)展也已經(jīng)帶來一些實際問題，最為突出的就是信息安全問題。

首先，是人工智能應(yīng)用帶來的安全問題

人工智能具有廣泛的應(yīng)用前景，目前已經(jīng)涉及制造、農(nóng)業(yè)、物流、金融、商務(wù)、家居等行業(yè)和領(lǐng)域。伴隨著人工智能應(yīng)用的推廣，其安全問題越來越凸顯出來。

以目前非常熱的智能交通領(lǐng)域為例，很多汽車廠家和互聯(lián)網(wǎng)公司都推出了無人駕駛汽車以及智能交通系統(tǒng)。在智能交通方面，目前在我國深圳，首批無人駕駛的公交車已成功運行，預(yù)示著人工智能技術(shù)在決策系統(tǒng)應(yīng)用上有了重大突破。在人工智能控制交通的時代，指揮交通運行的效率可以達到最優(yōu)，交通事故率理論上可以趨近于零。但是在已有風(fēng)險消除的同時，新的風(fēng)險被引入：曾經(jīng)駕駛員人為的交通事故可能被智能交通系統(tǒng)的信息安全事故所替代。黑客可以從無線渠道侵入智能汽車終端、從有線渠道侵入后臺信息控制系統(tǒng)，從而接管無人駕駛汽車甚至智能交通系統(tǒng)的控制權(quán)；也可以破壞自動駕駛系統(tǒng)的信息采集和傳輸途徑，進而誘導(dǎo)終端和后臺的智能算法作出錯誤判斷。實際上，無人駕駛汽車或者智能交通系統(tǒng)由復(fù)雜的自動化機器和信息系統(tǒng)組成，其信息采集、傳輸、處理各個要素環(huán)節(jié)都面臨安全風(fēng)險，目前已有黑客通過盜取移動App賬號密碼進而控制自動駕駛汽車的案例。

人工智能技術(shù)應(yīng)用于其他領(lǐng)域也同樣如此。安全問題最突出的包括工業(yè)智能制造、智慧城市管理、智慧醫(yī)療、智慧家居等和人們社會生產(chǎn)生活密切相關(guān)的領(lǐng)域。由于人工智能處于信息社會的核心層面，控制著大量生產(chǎn)、生活設(shè)備、數(shù)字化資產(chǎn)乃至社會運轉(zhuǎn)規(guī)則，一旦黑客入侵后臺控制系統(tǒng)，技術(shù)系統(tǒng)遭到破壞，將帶來與其技術(shù)重要性相同的破壞力，嚴重威脅信息系統(tǒng)安全乃至人身安全和社會安全。

其次，人工智能作為一項信息領(lǐng)域的關(guān)鍵技術(shù)，其自身也存在一些安全問題

在信息領(lǐng)域，任何代碼、算法、開發(fā)框架乃至工程實現(xiàn)的軟件系統(tǒng)，毫無例外都會存在一定程度的信息安全問題。代碼量越大，系統(tǒng)越復(fù)雜，往往暴露出的安全問題越多。人工智能領(lǐng)域的專家往往不具備信息安全專業(yè)知識，因此，在這項技術(shù)的發(fā)展過程中，他們專注于實現(xiàn)機器模擬、延伸和擴展人的智能這些核心目標，安全問題往往被當(dāng)作次要因素加以忽略。目前，安全屆已經(jīng)暴露出人工智能技術(shù)自身存在的一些安全漏洞，包括開發(fā)框架穩(wěn)定性、算法設(shè)計缺陷、代碼自身漏洞等方面。以代碼漏洞為例，根據(jù)公開報道，國內(nèi)外安全技術(shù)團隊曾發(fā)現(xiàn)數(shù)十個深度學(xué)習(xí)的軟件漏洞，其類型包括內(nèi)存訪問越界、空指針引用、整數(shù)溢出、除零異常等常見類型。人工智能技術(shù)自身的安全性和健壯性問題會導(dǎo)致人工智能系統(tǒng)出現(xiàn)錯誤甚至崩潰，或被攻擊者利用進行破壞、侵入乃至劫持系統(tǒng)。隨著人工智能應(yīng)用的推廣，其自身的安全問題也越來越引起人們關(guān)注。

再次，人工智能暴露出人們的隱私保護問題

人工智能技術(shù)的普及大大提升了人們生活的便利，但是，也帶來了非常嚴重的隱私保護問題。人工智能技術(shù)本身算法的準確率高度依賴于海量用戶數(shù)據(jù)的訓(xùn)練分析，尤其需要獲取大量用戶個人信息，以便提供個性化、定制化服務(wù)，這些都會導(dǎo)致用戶個人信息泄露。谷歌DeepMind公司曾與英國NHS醫(yī)療服務(wù)機構(gòu)聯(lián)合開發(fā)了一個名為Streams的基于人工智能的手機應(yīng)用程序，希望能給患者提供更加個性化的智能服務(wù)。但是作為醫(yī)療服務(wù)機構(gòu)，NHS并沒有向患者明確說明他們的醫(yī)療信息將被如何使用，也沒有詢問患者是否同意DeepMind處理自己的醫(yī)療數(shù)據(jù)。它們之間的數(shù)據(jù)交易被英國信息專員辦公室認定為“沒有遵守數(shù)據(jù)保護法案”。從這個案例可以看出，人工智能技術(shù)的普及在為人們生活帶來便利的同時，存在非常嚴重的隱私保護問題。實際上，獲得生活便利和保護個人隱私，目前已經(jīng)成為一個兩難選擇。交出個人隱私和數(shù)據(jù)，獲得個性化、人性化的全方位技術(shù)服務(wù)，這是人工智能時代的基本模式。不管是無人駕駛、智能管家、數(shù)字助理還是機器人保姆，這些人工智能技術(shù)和產(chǎn)品能更好為你服務(wù)的前提都是全面收集處理你的各種行為數(shù)據(jù)。小到興趣、愛好、行為習(xí)慣，大到道德、宗教、政治傾向、人生觀價值觀，人工智能比你自己還要了解你自己。這樣一種生活狀態(tài)不管是拒絕還是歡迎，都會在未來20年左右的時間來到我們身邊。技術(shù)上為了保護用戶的隱私，在采集數(shù)據(jù)的時候可以對數(shù)據(jù)集進行模糊處理，使得收集到的海量數(shù)據(jù)無法和個體用戶相對應(yīng)。這種信息模糊技術(shù)從上個世紀就存在，但是其發(fā)展速度遠遠落后于人工智能技術(shù)的發(fā)展。目前，我們的隱私和個人數(shù)據(jù)，在大數(shù)據(jù)和人工智能這些收集、處理和分析技術(shù)面前基本上處于裸奔的狀態(tài)。

 

人工智能在信息安全領(lǐng)域的應(yīng)用

人工智能技術(shù)在信息安全方面帶來的不只是威脅和風(fēng)險，也對信息安全技術(shù)的提升有很大幫助。人工智能在信息安全領(lǐng)域的應(yīng)用十分廣泛，包括生物特征識別、漏洞檢測、惡意代碼分析等諸多方面。

基于生物特征的身份認證和訪問控制是目前人工智能技術(shù)應(yīng)用最成功的信息安全領(lǐng)域。從前制約生物特征識別技術(shù)在信息安全領(lǐng)域應(yīng)用的關(guān)鍵問題是漏報率與誤報率達不到實用要求。而利用以深度學(xué)習(xí)為核心的人工智能技術(shù)，科研人員已經(jīng)將人臉、語音、指紋等等生物特征的識別率大大提升。以人臉識別為例，目前的準確率已經(jīng)達到99%以上，技術(shù)的進步為生物特征識別的應(yīng)用打下了良好基礎(chǔ)。目前，已經(jīng)有人臉支付等相關(guān)產(chǎn)品面世。支付領(lǐng)域的應(yīng)用涉及社會和金融安全，在人臉識別的漏報、誤報和檢測準確率這些指標沒有大幅提升的前提下是不可想象的。

在信息安全中尤為重要的漏洞檢測技術(shù)領(lǐng)域，目前還缺乏高效、準確的漏洞分析自動化技術(shù)，很多安全威脅和風(fēng)險需要專業(yè)工作人員的經(jīng)驗作深度的分析和最后的判斷。人工智能在處理海量數(shù)據(jù)方面極具優(yōu)勢，通過對樣本的訓(xùn)練可以模擬大量的攻擊模式，可以基于人類已有經(jīng)驗也可以拋開人類經(jīng)驗進行全新的樣本空間學(xué)習(xí)和探索，這樣的技術(shù)解決思路將大大提高漏洞檢測的全面性、準確性和時效性。

在惡意代碼檢測領(lǐng)域也是一樣。傳統(tǒng)的網(wǎng)絡(luò)安全技術(shù)應(yīng)急響應(yīng)速度慢，不能適應(yīng)惡意代碼的迭代進化速度。而人工智能擁有強大的自主學(xué)習(xí)和數(shù)據(jù)分析能力，能夠加速響應(yīng)的流程，提升自動化和響應(yīng)效率，縮短從發(fā)現(xiàn)到響應(yīng)的間隔。這就為提前預(yù)知危險，及時預(yù)警并處理，將危險扼殺在搖籃中提供了可能，進而大大提高網(wǎng)絡(luò)安全防御的敏捷性。

人工智能將成為推動我國信息社會變革的創(chuàng)新科技。國務(wù)院頒發(fā)的《新一代人工智能發(fā)展規(guī)劃》 提出 ，“人工智能在教育、醫(yī)療、養(yǎng)老、環(huán)境保護、城市運行、司法服務(wù)等領(lǐng)域廣泛應(yīng)用，將極大提高公共服務(wù)精準化水平，全面提升人民生活品質(zhì)”。但是，這項技術(shù)的發(fā)展也會產(chǎn)生沖擊法律與社會倫理、侵犯個人隱私、引入新的安全風(fēng)險等問題。

為最大程度降低人工智能帶來的安全風(fēng)險，應(yīng)從管理和技術(shù)兩方面采取一系列應(yīng)對措施。在管理上展開立法研究、標準制定、監(jiān)管體系建設(shè)，加強對人工智能技術(shù)和產(chǎn)品的監(jiān)管。在技術(shù)上，推動大數(shù)據(jù)時代用戶隱私和數(shù)據(jù)保護技術(shù)的研究、提高人工智能技術(shù)和產(chǎn)品的內(nèi)生安全性設(shè)計水平、對智能產(chǎn)品和技術(shù)應(yīng)用可能帶來的威脅風(fēng)險進行從監(jiān)測到應(yīng)急處置等全安全要素的監(jiān)控，提高風(fēng)險控制與處置能力。

我們相信唯有正視問題的存在，在發(fā)展技術(shù)的同時，重視可能存在的安全風(fēng)險，在政府層面約束規(guī)范，進行良性引導(dǎo)，在技術(shù)層面最大程度地規(guī)避風(fēng)險，才能確保人工智能技術(shù)在我國安全、可靠、可控地發(fā)展。

 

（原載于《保密工作》2018年第4期）