2022CCS成都網(wǎng)絡(luò)安全大會(huì)暨數(shù)據(jù)治理峰會(huì),在線上正式拉開序幕。在大會(huì)主論壇上，百度副總裁馬杰分享了百度在元宇宙和AI安全領(lǐng)域的前沿實(shí)踐和探索。

　　馬杰首先談到，2022年是我國(guó)全面實(shí)施十四五規(guī)劃相關(guān)規(guī)劃的關(guān)鍵性的一年，也是我們?cè)诰W(wǎng)絡(luò)安全產(chǎn)業(yè)上承上啟下加速成長(zhǎng)的關(guān)鍵理念。在堅(jiān)實(shí)的制度保障下統(tǒng)籌安全和發(fā)展，特別是全面加強(qiáng)網(wǎng)絡(luò)安全保障體系的能力建設(shè)，不僅是推動(dòng)產(chǎn)業(yè)數(shù)字化、數(shù)字產(chǎn)業(yè)化的必然要求，也是建設(shè)數(shù)字中國(guó)戰(zhàn)略不可或缺的重要基石。

　　伴隨數(shù)字經(jīng)濟(jì)智能經(jīng)濟(jì)的發(fā)展以及國(guó)際政治經(jīng)濟(jì)格局的變化全球范圍內(nèi)網(wǎng)絡(luò)安全形勢(shì)正在發(fā)生一系列深刻的變革，在這之中最引人注目的莫過(guò)于以AI為代表的新技術(shù)新應(yīng)用和新場(chǎng)景的快速崛起。

　　一方面，AI與實(shí)體經(jīng)濟(jì)進(jìn)一步融合，給人們的生產(chǎn)和生活帶來(lái)了很多的便利；另一方面 AI也刷新了業(yè)界對(duì)網(wǎng)絡(luò)安全的認(rèn)知，重構(gòu)了原有的網(wǎng)絡(luò)安全體系，多方協(xié)同共治目前已經(jīng)成為了業(yè)界共識(shí)。

　　馬杰表示，作為一家擁有強(qiáng)大互聯(lián)網(wǎng)基礎(chǔ)的領(lǐng)先的AI公司，百度是全球?yàn)閿?shù)不多的可以提供AI芯片、AI軟件框架和AI應(yīng)用等等的全棧AI技術(shù)的企業(yè)之一。聚焦在AI安全領(lǐng)域，面對(duì)上述一系列技術(shù)和行業(yè)的變局，百度也在探索如何去打造一個(gè)更為安全的AI，以及如何利用AI去構(gòu)建一個(gè)更為安全的智能時(shí)代。

　　他談到，兩年前百度率先提出了Security、Safety、Privacy安全研究的三大維度，分別指向了強(qiáng)對(duì)抗環(huán)境下的安全威脅，非對(duì)抗條件下自然環(huán)境所產(chǎn)生的真實(shí)威脅以及數(shù)據(jù)安全和隱私保護(hù)?！癆I安全的三維度為百度的AI研究提供了一個(gè)方向，但與此同時(shí)百度也在思考，當(dāng)討論SSP時(shí)，應(yīng)當(dāng)如何去這種新的技術(shù)去應(yīng)對(duì)新的變化？”

　　馬杰認(rèn)為，對(duì)于安全來(lái)講最大的挑戰(zhàn)永遠(yuǎn)不是該如何去解決問(wèn)題，而是如何才能更快的更準(zhǔn)確地提出問(wèn)題、發(fā)現(xiàn)問(wèn)題。從某種角度來(lái)看，Security所代表的其實(shí)是已經(jīng)發(fā)現(xiàn)的問(wèn)題，如果知道問(wèn)題就在那，就能知道它會(huì)對(duì)我們?cè)斐赡男﹤Γ疫@種強(qiáng)對(duì)抗的安全風(fēng)險(xiǎn)通常都是有意而為之的，所以業(yè)界通常也能夠找到對(duì)應(yīng)的解決方法。

　　相比之下，Safety帶來(lái)的是一個(gè)更為寬泛而模糊的挑戰(zhàn)。在真實(shí)世界中有太多太多的風(fēng)險(xiǎn)是無(wú)法預(yù)判的，人的行為環(huán)境的變化，這些變數(shù)都是非常隨機(jī)的，而且是巨大的，因此要進(jìn)行廣泛的覆蓋，重點(diǎn)應(yīng)對(duì)。

　　但實(shí)際上窮舉所有的可能性幾乎是不現(xiàn)實(shí)的，永遠(yuǎn)無(wú)法在潛在的安全問(wèn)題爆發(fā)前做好足夠充足的準(zhǔn)備。因此，是否能夠找到一種方法，利用AI技術(shù)、用云、用原宇宙，去構(gòu)建一個(gè)數(shù)字孿生的世界，在平行的空間里不斷地去仿真去測(cè)試，去觸發(fā)這些想得到的想不到的安全隱患和安全組合，最大限度地去發(fā)現(xiàn)他們，并且以更高效的方式去優(yōu)化我們的安全系統(tǒng)？這成為了百度安全的一個(gè)長(zhǎng)期的研究課題。

　　圍繞這一課題，百度安全試圖從Fuzzing自動(dòng)化模糊測(cè)試技術(shù)著手，將Fuzzing和Meta相結(jié)合，去挖掘AI安全背后的更大價(jià)值。

　　百度創(chuàng)新實(shí)踐

　　將安全帶上元宇宙

　　馬杰隨后分享了一個(gè)利用Fuzzing模糊測(cè)試技術(shù)的嘗試——“鐵馬冰河”自動(dòng)駕駛評(píng)測(cè)平臺(tái)。

　　他表示，百度的自動(dòng)駕駛汽車已經(jīng)在全國(guó)的很多城市上路，在過(guò)去的9年時(shí)間里，百度自動(dòng)駕駛汽車已經(jīng)積累了超過(guò)2,700萬(wàn)公里的自動(dòng)駕駛的路測(cè)里程，通過(guò)走萬(wàn)里路不斷地學(xué)習(xí)迭代，自動(dòng)駕駛已經(jīng)變得更加聰明，也會(huì)變得更加的安全。但與此同時(shí)百度也在思考，能否更快一些的為自動(dòng)駕駛創(chuàng)造一個(gè)虛擬的，但能夠映射現(xiàn)實(shí)世界真實(shí)路況的安全測(cè)試平臺(tái)，一個(gè)將Fuzzing與Meta相結(jié)合的平臺(tái)，一個(gè)物理與虛實(shí)相結(jié)合的平臺(tái)。

　　由此百度研發(fā)了“鐵馬冰河”，一個(gè)聚焦于沉浸式高擬幀場(chǎng)景，包含AI對(duì)抗原宇宙化安全測(cè)試的平臺(tái)。在這個(gè)平臺(tái)上百度構(gòu)建了大量的測(cè)試場(chǎng)景，去捕捉自動(dòng)駕駛產(chǎn)品感知環(huán)節(jié)的漏洞，進(jìn)行視覺(jué)魯棒性、AI安全對(duì)抗性的指標(biāo)評(píng)測(cè)，通過(guò)虛實(shí)結(jié)合的仿真測(cè)試，為自動(dòng)駕駛安全保駕護(hù)航。

　　據(jù)他介紹，目前鐵馬冰河安全測(cè)試平臺(tái)已經(jīng)可以支持三個(gè)方向的自動(dòng)駕駛的安全評(píng)測(cè)：

　　第一個(gè)是在仿真環(huán)境中對(duì)真實(shí)車輛進(jìn)行自動(dòng)駕駛能力的沉浸式評(píng)測(cè)，這一測(cè)試目標(biāo)是貼合駕駛員的駕駛場(chǎng)景，去模擬道路交通場(chǎng)景以及傳感器信號(hào)，從而構(gòu)造一個(gè)完整車輛的閉環(huán)測(cè)試，被稱之為整車在環(huán)；

　　第二個(gè)是通過(guò)測(cè)試硬件在仿真環(huán)境中對(duì)控制命令的反饋，實(shí)現(xiàn)硬件在環(huán)的測(cè)試。這個(gè)方案主要是應(yīng)用在臺(tái)架試驗(yàn)和道路試驗(yàn)前，對(duì)自動(dòng)駕駛和輔助駕駛的系統(tǒng)功能進(jìn)行一一的驗(yàn)證，從而去縮短控制器的研發(fā)周期。

　　第三個(gè)是軟件在環(huán)，把軟件形態(tài)的自動(dòng)駕駛系統(tǒng)和百度的X- Verse仿真引擎去做對(duì)接，將仿真系統(tǒng)申請(qǐng)的測(cè)試數(shù)據(jù)輸入到測(cè)試系統(tǒng)中，在保證高擬增的前提下，實(shí)現(xiàn)低成本的軟件測(cè)試需求。

　　基于以上三個(gè)方向測(cè)試方案，百度已經(jīng)構(gòu)建了一個(gè)從系統(tǒng)到車機(jī)再到整車的全鏈廠的測(cè)試體系。這個(gè)平臺(tái)能夠?qū)崿F(xiàn)場(chǎng)景、天氣、光照、對(duì)抗信息等等參數(shù)條件的自定義，滿足各種差異化的復(fù)雜的，甚至是極端情況下的安全測(cè)試需求。

　　馬杰表示，“對(duì)于鐵馬冰河來(lái)說(shuō)，它首先需要解決挑戰(zhàn)是面向safety的，但同時(shí)它也能覆蓋很多Security層面的問(wèn)題。當(dāng)我們把安全與Meta與元宇宙結(jié)合的時(shí)候，我們其實(shí)就會(huì)發(fā)現(xiàn)依托我們?cè)贏I、云等方面的積累，我們能夠帶來(lái)很多的創(chuàng)新，帶來(lái)很多的可能性?！?/p>

　　去年年底百度推出了首個(gè)元宇宙產(chǎn)品——息壤，目前鐵馬冰河項(xiàng)目也已經(jīng)入駐息壤中。

　　他介紹，不同于簡(jiǎn)單的數(shù)字孿生，在息壤中不僅可以創(chuàng)造出近乎仿真的虛擬環(huán)境，也可以打造一系列數(shù)據(jù)，并且與平行的元宇宙大世界產(chǎn)生互動(dòng)。

　　“我們可以設(shè)想我們可以做一個(gè)真人的NPC，加入到仿真場(chǎng)景中參與測(cè)試，與車輛產(chǎn)生交互，那么就能夠很好地去捕捉和反饋?zhàn)詣?dòng)駕駛在遇到各種人為突發(fā)情況時(shí)，所要面對(duì)的安全威脅，從而創(chuàng)造出一個(gè)更接近于真實(shí)路況的隨機(jī)安全測(cè)試。同時(shí)我們也在結(jié)合Fuzzing的思想，將所有干擾因素視為系統(tǒng)的一個(gè)輸入?yún)?shù)進(jìn)行反復(fù)的測(cè)試，這樣我們就能夠在仿真環(huán)境中，更為真實(shí)的觀察參與到自動(dòng)駕駛車輛的整個(gè)評(píng)測(cè)過(guò)程中間去?！?/p>

　　目前百度的這一套鐵馬冰河平臺(tái)已經(jīng)投入到自動(dòng)駕駛的安全評(píng)和智能座艙的交互設(shè)計(jì)等應(yīng)用場(chǎng)景的實(shí)踐當(dāng)中，通過(guò)與Meta的結(jié)合，運(yùn)用Fuzzing的理念去嘗試更高效地發(fā)現(xiàn)和解決各種safety的存在問(wèn)題。

　　數(shù)字化時(shí)代安全形勢(shì)更加復(fù)雜

　　需要以新技術(shù)為時(shí)代注入新動(dòng)能

　　馬杰談到，當(dāng)前正處在一個(gè)新與舊相互疊加的時(shí)代，一方面?zhèn)鹘y(tǒng)安全領(lǐng)域的頑疾還在爆發(fā)，而另外一方面 AI本身的安全性挑戰(zhàn)也超乎了大家對(duì)于安全邊界和傳統(tǒng)框架的認(rèn)知的范疇。舊的問(wèn)題在升級(jí)，新的問(wèn)題在出現(xiàn)，新舊安全問(wèn)題的交融，正在廣泛的作用于現(xiàn)實(shí)世界。

　　在這個(gè)背景下與AI與Meta等新技術(shù)的結(jié)合，已經(jīng)成為了必須要予以關(guān)注的方向，亟需以創(chuàng)新技術(shù)為安全注入新的動(dòng)能。安全從來(lái)不是任何一家公司一個(gè)社區(qū)一個(gè)生態(tài)能夠獨(dú)立解決的事情，需要以更加開放的態(tài)度更廣泛的合作來(lái)共同應(yīng)對(duì)，在開放包容多元互建中尋求共贏。對(duì)于新興的AI安全領(lǐng)域來(lái)說(shuō)，這一點(diǎn)尤其重要。

　　“百度希望跟各界一同從而建立起一個(gè)更為開放的行業(yè)生態(tài)，更好地服務(wù)于國(guó)家的網(wǎng)絡(luò)安全建設(shè)，幫助產(chǎn)業(yè)互聯(lián)網(wǎng)的變革，加速產(chǎn)業(yè)智能化的到來(lái)。秉承有AI更安全的理念，期待能夠與各位業(yè)界朋友們一起共同迎接AI時(shí)代的新挑戰(zhàn)，共同構(gòu)筑AI時(shí)代的新防線，探索AI未來(lái)的新可能。”馬杰最后談到。

更多信息可以來(lái)這里獲取==>>電子技術(shù)應(yīng)用-AET<<