2022CCS成都網(wǎng)絡(luò)安全大會暨數(shù)據(jù)治理峰會,在線上正式拉開序幕。在大會主論壇上，百度副總裁馬杰分享了百度在元宇宙和AI安全領(lǐng)域的前沿實踐和探索。

　　馬杰首先談到，2022年是我國全面實施十四五規(guī)劃相關(guān)規(guī)劃的關(guān)鍵性的一年，也是我們在網(wǎng)絡(luò)安全產(chǎn)業(yè)上承上啟下加速成長的關(guān)鍵理念。在堅實的制度保障下統(tǒng)籌安全和發(fā)展，特別是全面加強(qiáng)網(wǎng)絡(luò)安全保障體系的能力建設(shè)，不僅是推動產(chǎn)業(yè)數(shù)字化、數(shù)字產(chǎn)業(yè)化的必然要求，也是建設(shè)數(shù)字中國戰(zhàn)略不可或缺的重要基石。

　　伴隨數(shù)字經(jīng)濟(jì)智能經(jīng)濟(jì)的發(fā)展以及國際政治經(jīng)濟(jì)格局的變化全球范圍內(nèi)網(wǎng)絡(luò)安全形勢正在發(fā)生一系列深刻的變革，在這之中最引人注目的莫過于以AI為代表的新技術(shù)新應(yīng)用和新場景的快速崛起。

　　一方面，AI與實體經(jīng)濟(jì)進(jìn)一步融合，給人們的生產(chǎn)和生活帶來了很多的便利；另一方面 AI也刷新了業(yè)界對網(wǎng)絡(luò)安全的認(rèn)知，重構(gòu)了原有的網(wǎng)絡(luò)安全體系，多方協(xié)同共治目前已經(jīng)成為了業(yè)界共識。

　　馬杰表示，作為一家擁有強(qiáng)大互聯(lián)網(wǎng)基礎(chǔ)的領(lǐng)先的AI公司，百度是全球為數(shù)不多的可以提供AI芯片、AI軟件框架和AI應(yīng)用等等的全棧AI技術(shù)的企業(yè)之一。聚焦在AI安全領(lǐng)域，面對上述一系列技術(shù)和行業(yè)的變局，百度也在探索如何去打造一個更為安全的AI，以及如何利用AI去構(gòu)建一個更為安全的智能時代。

　　他談到，兩年前百度率先提出了Security、Safety、Privacy安全研究的三大維度，分別指向了強(qiáng)對抗環(huán)境下的安全威脅，非對抗條件下自然環(huán)境所產(chǎn)生的真實威脅以及數(shù)據(jù)安全和隱私保護(hù)?！癆I安全的三維度為百度的AI研究提供了一個方向，但與此同時百度也在思考，當(dāng)討論SSP時，應(yīng)當(dāng)如何去這種新的技術(shù)去應(yīng)對新的變化？”

　　馬杰認(rèn)為，對于安全來講最大的挑戰(zhàn)永遠(yuǎn)不是該如何去解決問題，而是如何才能更快的更準(zhǔn)確地提出問題、發(fā)現(xiàn)問題。從某種角度來看，Security所代表的其實是已經(jīng)發(fā)現(xiàn)的問題，如果知道問題就在那，就能知道它會對我們造成哪些傷害，而且這種強(qiáng)對抗的安全風(fēng)險通常都是有意而為之的，所以業(yè)界通常也能夠找到對應(yīng)的解決方法。

　　相比之下，Safety帶來的是一個更為寬泛而模糊的挑戰(zhàn)。在真實世界中有太多太多的風(fēng)險是無法預(yù)判的，人的行為環(huán)境的變化，這些變數(shù)都是非常隨機(jī)的，而且是巨大的，因此要進(jìn)行廣泛的覆蓋，重點應(yīng)對。

　　但實際上窮舉所有的可能性幾乎是不現(xiàn)實的，永遠(yuǎn)無法在潛在的安全問題爆發(fā)前做好足夠充足的準(zhǔn)備。因此，是否能夠找到一種方法，利用AI技術(shù)、用云、用原宇宙，去構(gòu)建一個數(shù)字孿生的世界，在平行的空間里不斷地去仿真去測試，去觸發(fā)這些想得到的想不到的安全隱患和安全組合，最大限度地去發(fā)現(xiàn)他們，并且以更高效的方式去優(yōu)化我們的安全系統(tǒng)？這成為了百度安全的一個長期的研究課題。

　　圍繞這一課題，百度安全試圖從Fuzzing自動化模糊測試技術(shù)著手，將Fuzzing和Meta相結(jié)合，去挖掘AI安全背后的更大價值。

　　百度創(chuàng)新實踐

　　將安全帶上元宇宙

　　馬杰隨后分享了一個利用Fuzzing模糊測試技術(shù)的嘗試——“鐵馬冰河”自動駕駛評測平臺。

　　他表示，百度的自動駕駛汽車已經(jīng)在全國的很多城市上路，在過去的9年時間里，百度自動駕駛汽車已經(jīng)積累了超過2,700萬公里的自動駕駛的路測里程，通過走萬里路不斷地學(xué)習(xí)迭代，自動駕駛已經(jīng)變得更加聰明，也會變得更加的安全。但與此同時百度也在思考，能否更快一些的為自動駕駛創(chuàng)造一個虛擬的，但能夠映射現(xiàn)實世界真實路況的安全測試平臺，一個將Fuzzing與Meta相結(jié)合的平臺，一個物理與虛實相結(jié)合的平臺。

　　由此百度研發(fā)了“鐵馬冰河”，一個聚焦于沉浸式高擬幀場景，包含AI對抗原宇宙化安全測試的平臺。在這個平臺上百度構(gòu)建了大量的測試場景，去捕捉自動駕駛產(chǎn)品感知環(huán)節(jié)的漏洞，進(jìn)行視覺魯棒性、AI安全對抗性的指標(biāo)評測，通過虛實結(jié)合的仿真測試，為自動駕駛安全保駕護(hù)航。

　　據(jù)他介紹，目前鐵馬冰河安全測試平臺已經(jīng)可以支持三個方向的自動駕駛的安全評測：

　　第一個是在仿真環(huán)境中對真實車輛進(jìn)行自動駕駛能力的沉浸式評測，這一測試目標(biāo)是貼合駕駛員的駕駛場景，去模擬道路交通場景以及傳感器信號，從而構(gòu)造一個完整車輛的閉環(huán)測試，被稱之為整車在環(huán)；

　　第二個是通過測試硬件在仿真環(huán)境中對控制命令的反饋，實現(xiàn)硬件在環(huán)的測試。這個方案主要是應(yīng)用在臺架試驗和道路試驗前，對自動駕駛和輔助駕駛的系統(tǒng)功能進(jìn)行一一的驗證，從而去縮短控制器的研發(fā)周期。

　　第三個是軟件在環(huán)，把軟件形態(tài)的自動駕駛系統(tǒng)和百度的X- Verse仿真引擎去做對接，將仿真系統(tǒng)申請的測試數(shù)據(jù)輸入到測試系統(tǒng)中，在保證高擬增的前提下，實現(xiàn)低成本的軟件測試需求。

　　基于以上三個方向測試方案，百度已經(jīng)構(gòu)建了一個從系統(tǒng)到車機(jī)再到整車的全鏈廠的測試體系。這個平臺能夠?qū)崿F(xiàn)場景、天氣、光照、對抗信息等等參數(shù)條件的自定義，滿足各種差異化的復(fù)雜的，甚至是極端情況下的安全測試需求。

　　馬杰表示，“對于鐵馬冰河來說，它首先需要解決挑戰(zhàn)是面向safety的，但同時它也能覆蓋很多Security層面的問題。當(dāng)我們把安全與Meta與元宇宙結(jié)合的時候，我們其實就會發(fā)現(xiàn)依托我們在AI、云等方面的積累，我們能夠帶來很多的創(chuàng)新，帶來很多的可能性?！?/p>

　　去年年底百度推出了首個元宇宙產(chǎn)品——息壤，目前鐵馬冰河項目也已經(jīng)入駐息壤中。

　　他介紹，不同于簡單的數(shù)字孿生，在息壤中不僅可以創(chuàng)造出近乎仿真的虛擬環(huán)境，也可以打造一系列數(shù)據(jù)，并且與平行的元宇宙大世界產(chǎn)生互動。

　　“我們可以設(shè)想我們可以做一個真人的NPC，加入到仿真場景中參與測試，與車輛產(chǎn)生交互，那么就能夠很好地去捕捉和反饋自動駕駛在遇到各種人為突發(fā)情況時，所要面對的安全威脅，從而創(chuàng)造出一個更接近于真實路況的隨機(jī)安全測試。同時我們也在結(jié)合Fuzzing的思想，將所有干擾因素視為系統(tǒng)的一個輸入?yún)?shù)進(jìn)行反復(fù)的測試，這樣我們就能夠在仿真環(huán)境中，更為真實的觀察參與到自動駕駛車輛的整個評測過程中間去?！?/p>

　　目前百度的這一套鐵馬冰河平臺已經(jīng)投入到自動駕駛的安全評和智能座艙的交互設(shè)計等應(yīng)用場景的實踐當(dāng)中，通過與Meta的結(jié)合，運用Fuzzing的理念去嘗試更高效地發(fā)現(xiàn)和解決各種safety的存在問題。

　　數(shù)字化時代安全形勢更加復(fù)雜

　　需要以新技術(shù)為時代注入新動能

　　馬杰談到，當(dāng)前正處在一個新與舊相互疊加的時代，一方面?zhèn)鹘y(tǒng)安全領(lǐng)域的頑疾還在爆發(fā)，而另外一方面 AI本身的安全性挑戰(zhàn)也超乎了大家對于安全邊界和傳統(tǒng)框架的認(rèn)知的范疇。舊的問題在升級，新的問題在出現(xiàn)，新舊安全問題的交融，正在廣泛的作用于現(xiàn)實世界。

　　在這個背景下與AI與Meta等新技術(shù)的結(jié)合，已經(jīng)成為了必須要予以關(guān)注的方向，亟需以創(chuàng)新技術(shù)為安全注入新的動能。安全從來不是任何一家公司一個社區(qū)一個生態(tài)能夠獨立解決的事情，需要以更加開放的態(tài)度更廣泛的合作來共同應(yīng)對，在開放包容多元互建中尋求共贏。對于新興的AI安全領(lǐng)域來說，這一點尤其重要。

　　“百度希望跟各界一同從而建立起一個更為開放的行業(yè)生態(tài)，更好地服務(wù)于國家的網(wǎng)絡(luò)安全建設(shè)，幫助產(chǎn)業(yè)互聯(lián)網(wǎng)的變革，加速產(chǎn)業(yè)智能化的到來。秉承有AI更安全的理念，期待能夠與各位業(yè)界朋友們一起共同迎接AI時代的新挑戰(zhàn)，共同構(gòu)筑AI時代的新防線，探索AI未來的新可能?！瘪R杰最后談到。

更多信息可以來這里獲取==>>電子技術(shù)應(yīng)用-AET<<