2017年7月，國務(wù)院印發(fā)《新一代人工智能發(fā)展規(guī)劃》，對我國未來人工智能工作提出了明確要求?！兑?guī)劃》指出“加強(qiáng)人工智能標(biāo)準(zhǔn)框架體系研究，逐步建立并完善人工智能基礎(chǔ)共性、互聯(lián)互通、行業(yè)應(yīng)用、網(wǎng)絡(luò)安全、隱私保護(hù)等技術(shù)標(biāo)準(zhǔn)”。人工智能安全標(biāo)準(zhǔn)是人工智能標(biāo)準(zhǔn)體系中一類重要標(biāo)準(zhǔn)，因此需加強(qiáng)安全標(biāo)準(zhǔn)化工作，保障人工智能產(chǎn)業(yè)安全健康發(fā)展。

　　人工智能安全風(fēng)險分析

　　國家安全影響。人工智能在國防領(lǐng)域、涉密系統(tǒng)、關(guān)鍵信息基礎(chǔ)設(shè)施中的應(yīng)用，可能對國家安全產(chǎn)生影響。根據(jù)美國近期發(fā)布的《人工智能與國家安全》報告，未來的人工智能技術(shù)有可能與核武器、飛機(jī)、計算機(jī)和生物技術(shù)一樣，成為給國家安全帶來深刻變化的顛覆性技術(shù)。

　　社會安全風(fēng)險。人工智能可使機(jī)器實現(xiàn)自動化、智能化操作，這將對某些類型工作和行業(yè)帶來潛在影響，導(dǎo)致工作薪水降低、中低技術(shù)要求的職業(yè)消失，從而影響社會安全。2014年皮尤研究中心做了一項關(guān)于人工智能與就業(yè)的調(diào)查研究，認(rèn)為自動化的普及已經(jīng)很大程度影響到了藍(lán)領(lǐng)的就業(yè)，而以人工智能為首的下一輪科技創(chuàng)新很可能會顛覆白領(lǐng)的勞動市場。

　　人身安全風(fēng)險。隨著人工智能與物聯(lián)網(wǎng)的深入結(jié)合，智能產(chǎn)品日益應(yīng)用到人們的家居、醫(yī)療、交通等工作生活中，一旦這些智能產(chǎn)品（如智能醫(yī)療設(shè)備、無人汽車等）遭受網(wǎng)絡(luò)攻擊，可能危害人身安全。2016年，針對心臟病設(shè)備等智能醫(yī)療產(chǎn)品存在嚴(yán)重安全漏洞等問題，美國食品藥品監(jiān)督管理局（FDA）頒布了《售后醫(yī)療設(shè)備網(wǎng)絡(luò)安全管理》，并成立了一個小組協(xié)助監(jiān)管人工智能醫(yī)療產(chǎn)品。

　　網(wǎng)絡(luò)安全風(fēng)險。人工智能算法、系統(tǒng)和應(yīng)用可能遭受惡意網(wǎng)絡(luò)攻擊，例如通過實施一些干擾技術(shù)，計算機(jī)在進(jìn)行深度學(xué)習(xí)時容易被欺騙；利用數(shù)據(jù)欺詐等手段遠(yuǎn)程控制無人汽車，讓汽車偏航甚至逼停汽車造成事故；APT攻擊利用人工智能技術(shù)實現(xiàn)高度自動化，并在黑市廣泛出售等。

　　隱私保護(hù)風(fēng)險。人工智能驅(qū)動的應(yīng)用需要建立起豐富的數(shù)據(jù)集，數(shù)據(jù)收集使用時可能面臨數(shù)據(jù)安全和隱私保護(hù)問題。以無人駕駛為例，自動駕駛車輛網(wǎng)絡(luò)的有效運轉(zhuǎn)需要依賴大量位置數(shù)據(jù)及其他個人數(shù)據(jù)，這種大規(guī)模的數(shù)據(jù)實踐可能帶來諸多層面的數(shù)據(jù)安全和隱私保護(hù)風(fēng)險。

　　法律倫理挑戰(zhàn)。人工智能的目標(biāo)是使機(jī)器像人類一樣去理性思考和行動，但隨著人工智能的應(yīng)用推廣和智能化程度提高，會面臨現(xiàn)有法律、社會規(guī)范和道德倫理的挑戰(zhàn)，如何確定人工智能產(chǎn)品或系統(tǒng)的法律主體、權(quán)利、義務(wù)和責(zé)任，及如何確保研究人員開發(fā)出與現(xiàn)有法律、社會規(guī)范和道德倫理一致或相符的算法和架構(gòu)等方面都面臨挑戰(zhàn)。

　　人工智能安全標(biāo)準(zhǔn)現(xiàn)狀

　　人工智能安全標(biāo)準(zhǔn)，是與人工智能安全、倫理、隱私保護(hù)等相關(guān)的標(biāo)準(zhǔn)規(guī)范。從廣義來說，人工智能安全標(biāo)準(zhǔn)涉及人工智能本身、平臺、技術(shù)、產(chǎn)品和應(yīng)用相關(guān)的安全標(biāo)準(zhǔn)。國內(nèi)外對人工智能標(biāo)準(zhǔn)化工作也越來越重視。2017年10月，國際標(biāo)準(zhǔn)化組織ISO/IEC JTC1在俄羅斯召開會議，決定JTC1新成立人工智能的分委員會SC42，負(fù)責(zé)人工智能標(biāo)準(zhǔn)化工作，SC42將建立基礎(chǔ)標(biāo)準(zhǔn)（Foundational Standards）、計算方法（Computational Methods）、可信賴（Trustworthiness）、社會關(guān)注（Societal Concerns）4個工作組，并將ISO/IEC JTC1 WG9（大數(shù)據(jù)工作組）放到人工智能SC42。

　　人工智能基礎(chǔ)安全標(biāo)準(zhǔn)

　　20世紀(jì)90年代，ISO/IEC JTC1發(fā)布了ISO/IEC 2382-28：1996《信息技術(shù)詞匯第28部分：人工智能基本概念與專家系統(tǒng)》、《信息技術(shù)詞匯第29部分：人工智能語音識別與合成》，ISO/IEC 2382-31：1997《信息技術(shù)詞匯第31部分：人工智能機(jī)器學(xué)習(xí)》，ISO/IEC 2382-34：1999《信息技術(shù)詞匯第34部分：人工智能神經(jīng)網(wǎng)絡(luò)》等4項標(biāo)準(zhǔn)。目前，上述詞匯標(biāo)準(zhǔn)已經(jīng)廢止，相關(guān)術(shù)語收錄在2015年發(fā)布的ISO/IEC 2382:2015《信息技術(shù)詞匯》中。

　　IEEE標(biāo)準(zhǔn)協(xié)會正在努力確保人工智能技術(shù)的設(shè)計者，在其工作中優(yōu)先考慮道德。2017年3月，IEEE在《IEEE機(jī)器人與自動化》雜志發(fā)表了名為“旨在推進(jìn)人工智能和自治系統(tǒng)的倫理設(shè)計的IEEE全球倡議書”，倡議通過基于倫理的設(shè)計原則和標(biāo)準(zhǔn)幫助人們避免對人工智能技術(shù)的恐懼和盲目崇拜，從而推動人工智能技術(shù)的創(chuàng)新。2017年底，IEEE將發(fā)布《以倫理為基準(zhǔn)的設(shè)計：人工智能及自主系統(tǒng)中將人類福祉擺在優(yōu)先地位的愿景（第二版）》報告，新版本收集了250多名在全球從事人工智能、法律和倫理、哲學(xué)、政策相關(guān)工作的專家，對人工智能及自主系統(tǒng)領(lǐng)域的問題見解及建議。

　　目前，IEEE工作組正在開發(fā)IEEE P7000系列中涉及道德規(guī)范的7項倫理標(biāo)準(zhǔn)，分別對系統(tǒng)設(shè)計中倫理問題、自治系統(tǒng)透明度、系統(tǒng)/軟件收集個人信息的倫理問題、消除算法負(fù)偏差、兒童和學(xué)生數(shù)據(jù)安全、人工智能代理等方面進(jìn)行規(guī)范，包括：IEEE P7000《在系統(tǒng)設(shè)計中處理倫理問題的模型過程》、IEEE P7001《自治系統(tǒng)的透明度》、IEEE P7002《數(shù)據(jù)隱私處理》、IEEE P7003《算法偏差注意事項》、IEEE P7004《兒童和學(xué)生數(shù)據(jù)治理標(biāo)準(zhǔn)》、IEEE P7005《透明雇主數(shù)據(jù)治理標(biāo)準(zhǔn)》、IEEE P7006《個人數(shù)據(jù)人工智能代理標(biāo)準(zhǔn)》、IEEE P7007《道德驅(qū)動的機(jī)器人和自動化系統(tǒng)的本體標(biāo)準(zhǔn)》、IEEE P7008《機(jī)器人、智能和自治系統(tǒng)的倫理驅(qū)動推進(jìn)標(biāo)準(zhǔn)》、IEEE P7009《自治和半自治系統(tǒng)的故障安全設(shè)計標(biāo)準(zhǔn)》和IEEE P7010《道德人工智能與自主系統(tǒng)的健康度量標(biāo)準(zhǔn)》。

　　人工智能應(yīng)用安全標(biāo)準(zhǔn)

　　目前，全國信息安全標(biāo)準(zhǔn)化技術(shù)委員會（TC260）已在生物特征識別、汽車電子、智能制造等部分人工智能技術(shù)、產(chǎn)品或應(yīng)用安全方面開展了一些標(biāo)準(zhǔn)化工作。在生物特征識別安全方面，TC260已發(fā)布GB/T 20979-2007《信息安全技術(shù) 虹膜識別系統(tǒng)技術(shù)要求》標(biāo)準(zhǔn)，正在研制《基于可信環(huán)境的生物特征識別身份鑒別協(xié)議》《指紋識別系統(tǒng)技術(shù)要求》《網(wǎng)絡(luò)人臉識別認(rèn)證系統(tǒng)安全技術(shù)要求》等標(biāo)準(zhǔn)；在自動駕駛安全方面，2017年TC260立項《信息安全技術(shù) 汽車電子系統(tǒng)網(wǎng)絡(luò)安全指南》標(biāo)準(zhǔn)項目，這是我國在汽車電子領(lǐng)域第一個網(wǎng)絡(luò)安全國家標(biāo)準(zhǔn)；在智能制造安全方面，TC260正在研制《工業(yè)控制網(wǎng)絡(luò)監(jiān)測安全技術(shù)要求及測試評價方法》《工業(yè)控制網(wǎng)絡(luò)安全隔離與信息交換系統(tǒng)安全技術(shù)要求》《工業(yè)控制系統(tǒng)產(chǎn)品信息安全通用評估準(zhǔn)則》《工業(yè)控制系統(tǒng)風(fēng)險評估實施指南》等工控安全標(biāo)準(zhǔn)。

　　國際和國外標(biāo)準(zhǔn)化組織在生物特征識別、自動駕駛等領(lǐng)域也開展了許多安全標(biāo)準(zhǔn)工作。以自動駕駛領(lǐng)域為例，2012年歐洲電信標(biāo)準(zhǔn)化協(xié)會（ETSI）發(fā)布ETSI TS 102941《智能交通系統(tǒng)可信和隱私管理》；2014年美國國家標(biāo)準(zhǔn)技術(shù)研究院（NIST）發(fā)布《車聯(lián)網(wǎng)網(wǎng)絡(luò)攻擊防護(hù)安全框架》；2016年美國汽車工程師學(xué)會（SAE）發(fā)布SAE J3061《信息物理汽車系統(tǒng)網(wǎng)絡(luò)安全指南》；ISO/TC22（道路車輛技術(shù)委員會）正在研制ISO/TR 15497《道路車輛——車用軟件開發(fā)指南》等標(biāo)準(zhǔn)。

　　人工智能安全支撐標(biāo)準(zhǔn)

　　由于人工智能通常以大數(shù)據(jù)為基礎(chǔ)，并且會面臨大量隱私保護(hù)的需求，因此大數(shù)據(jù)安全、隱私保護(hù)方面的標(biāo)準(zhǔn)可作為人工智能安全標(biāo)準(zhǔn)的重要支撐。ISO/IEC JTC1 SC27和TC260均開展了隱私保護(hù)、大數(shù)據(jù)安全等標(biāo)準(zhǔn)研究，如ISO/IEC 29100《隱私框架》、ISO/IEC 29134《隱私影響評估指南》、ISO/IEC 29151《個人標(biāo)識信息保護(hù)實用規(guī)則》、ISO/IEC 20547-4《信息技術(shù)—大數(shù)據(jù)參考架構(gòu)—第4部分：安全和隱私架構(gòu)》等國際標(biāo)準(zhǔn)，以及TC260即將發(fā)布的《信息安全技術(shù) 個人信息安全規(guī)范》《信息安全技術(shù) 大數(shù)據(jù)服務(wù)安全能力要求》等國內(nèi)標(biāo)準(zhǔn)。

　　人工智能安全標(biāo)準(zhǔn)化工作建議

　　當(dāng)前，人工智能技術(shù)和產(chǎn)業(yè)正在蓬勃發(fā)展，國內(nèi)在人工智能的網(wǎng)絡(luò)安全應(yīng)用、智慧城市安全、生物特征識別安全、汽車電子安全等方面已有初步的產(chǎn)業(yè)實踐。同時，人工智能可能面臨國家安全、社會安全、人身安全、網(wǎng)絡(luò)安全、數(shù)據(jù)安全的風(fēng)險及法律倫理方面的挑戰(zhàn)。因此，需要加強(qiáng)人工智能安全標(biāo)準(zhǔn)化工作，為我國人工智能產(chǎn)業(yè)的健康發(fā)展保駕護(hù)航。針對國內(nèi)人工智能安全標(biāo)準(zhǔn)現(xiàn)狀，根據(jù)《新一代人工智能發(fā)展規(guī)劃》對人工智能標(biāo)準(zhǔn)和安全的要求，提出以下建議。

　　統(tǒng)籌規(guī)劃人工智能安全標(biāo)準(zhǔn)體系

　　為確保人工智能安全標(biāo)準(zhǔn)研制工作有序推進(jìn)，建議統(tǒng)籌規(guī)劃人工智能安全標(biāo)準(zhǔn)化工作，通過調(diào)研國內(nèi)人工智能產(chǎn)業(yè)發(fā)展現(xiàn)狀和國外標(biāo)準(zhǔn)化現(xiàn)狀，分析國內(nèi)人工智能安全標(biāo)準(zhǔn)化需求，優(yōu)先開展人工智能安全標(biāo)準(zhǔn)體系研究。建議標(biāo)準(zhǔn)體系能覆蓋人工智能的基礎(chǔ)、平臺、技術(shù)、產(chǎn)品、應(yīng)用等多個對象的安全需求，能明確與大數(shù)據(jù)安全、個人信息保護(hù)、云計算安全、物聯(lián)網(wǎng)安全等相關(guān)標(biāo)準(zhǔn)的關(guān)系。在標(biāo)準(zhǔn)體系研究的基礎(chǔ)上，加快啟動人工智能安全標(biāo)準(zhǔn)化工作，充分吸收人工智能技術(shù)、服務(wù)、產(chǎn)品、安全、運營等相關(guān)領(lǐng)域的企業(yè)、科研院所、高等院校、行業(yè)協(xié)會或產(chǎn)業(yè)聯(lián)盟參與研制標(biāo)準(zhǔn)。

　　加強(qiáng)人工智能安全基礎(chǔ)標(biāo)準(zhǔn)研究

　　目前，我國人工智能安全標(biāo)準(zhǔn)主要集中在應(yīng)用安全領(lǐng)域，缺乏人工智能自身安全或基礎(chǔ)共性的安全標(biāo)準(zhǔn)。建議加強(qiáng)人工智能基礎(chǔ)安全標(biāo)準(zhǔn)研究，根據(jù)《新一代人工智能發(fā)展規(guī)劃》對人工智能安全提出的監(jiān)測預(yù)警、風(fēng)險評估、安全問責(zé)、研發(fā)設(shè)計人員安全準(zhǔn)則等要求，針對人工智能安全的參考架構(gòu)、安全風(fēng)險、倫理設(shè)計、安全評估等方面開展標(biāo)準(zhǔn)研究，并規(guī)范人工智能算法、產(chǎn)品和系統(tǒng)的安全要求和測評方法。

　　深化人工智能應(yīng)用安全標(biāo)準(zhǔn)工作

　　雖然TC260在生物特征識別、汽車電子安全、智能制造安全、大數(shù)據(jù)安全等領(lǐng)域已經(jīng)開展了一些標(biāo)準(zhǔn)研究，但現(xiàn)有這些標(biāo)準(zhǔn)大多是規(guī)范相關(guān)領(lǐng)域產(chǎn)品或系統(tǒng)的自動化行為，離智能化行為安全還有差距。因此，建議進(jìn)一步深化人工智能應(yīng)用安全標(biāo)準(zhǔn)工作，針對已有標(biāo)準(zhǔn)完善智能安全要求，并繼續(xù)開展網(wǎng)絡(luò)安全領(lǐng)域的人工智能應(yīng)用安全、智能機(jī)器人安全、自動駕駛安全、智能家居安全、智能交通安全、智能物流安全、智慧城市安全等領(lǐng)域的標(biāo)準(zhǔn)研究。