2022CCS成都網絡安全大會暨數據治理峰會,在線上正式拉開序幕。在大會主論壇上，百度副總裁馬杰分享了百度在元宇宙和AI安全領域的前沿實踐和探索。

　　馬杰首先談到，2022年是我國全面實施十四五規(guī)劃相關規(guī)劃的關鍵性的一年，也是我們在網絡安全產業(yè)上承上啟下加速成長的關鍵理念。在堅實的制度保障下統(tǒng)籌安全和發(fā)展，特別是全面加強網絡安全保障體系的能力建設，不僅是推動產業(yè)數字化、數字產業(yè)化的必然要求，也是建設數字中國戰(zhàn)略不可或缺的重要基石。

　　伴隨數字經濟智能經濟的發(fā)展以及國際政治經濟格局的變化全球范圍內網絡安全形勢正在發(fā)生一系列深刻的變革，在這之中最引人注目的莫過于以AI為代表的新技術新應用和新場景的快速崛起。

　　一方面，AI與實體經濟進一步融合，給人們的生產和生活帶來了很多的便利；另一方面 AI也刷新了業(yè)界對網絡安全的認知，重構了原有的網絡安全體系，多方協(xié)同共治目前已經成為了業(yè)界共識。

　　馬杰表示，作為一家擁有強大互聯(lián)網基礎的領先的AI公司，百度是全球為數不多的可以提供AI芯片、AI軟件框架和AI應用等等的全棧AI技術的企業(yè)之一。聚焦在AI安全領域，面對上述一系列技術和行業(yè)的變局，百度也在探索如何去打造一個更為安全的AI，以及如何利用AI去構建一個更為安全的智能時代。

　　他談到，兩年前百度率先提出了Security、Safety、Privacy安全研究的三大維度，分別指向了強對抗環(huán)境下的安全威脅，非對抗條件下自然環(huán)境所產生的真實威脅以及數據安全和隱私保護?！癆I安全的三維度為百度的AI研究提供了一個方向，但與此同時百度也在思考，當討論SSP時，應當如何去這種新的技術去應對新的變化？”

　　馬杰認為，對于安全來講最大的挑戰(zhàn)永遠不是該如何去解決問題，而是如何才能更快的更準確地提出問題、發(fā)現(xiàn)問題。從某種角度來看，Security所代表的其實是已經發(fā)現(xiàn)的問題，如果知道問題就在那，就能知道它會對我們造成哪些傷害，而且這種強對抗的安全風險通常都是有意而為之的，所以業(yè)界通常也能夠找到對應的解決方法。

　　相比之下，Safety帶來的是一個更為寬泛而模糊的挑戰(zhàn)。在真實世界中有太多太多的風險是無法預判的，人的行為環(huán)境的變化，這些變數都是非常隨機的，而且是巨大的，因此要進行廣泛的覆蓋，重點應對。

　　但實際上窮舉所有的可能性幾乎是不現(xiàn)實的，永遠無法在潛在的安全問題爆發(fā)前做好足夠充足的準備。因此，是否能夠找到一種方法，利用AI技術、用云、用原宇宙，去構建一個數字孿生的世界，在平行的空間里不斷地去仿真去測試，去觸發(fā)這些想得到的想不到的安全隱患和安全組合，最大限度地去發(fā)現(xiàn)他們，并且以更高效的方式去優(yōu)化我們的安全系統(tǒng)？這成為了百度安全的一個長期的研究課題。

　　圍繞這一課題，百度安全試圖從Fuzzing自動化模糊測試技術著手，將Fuzzing和Meta相結合，去挖掘AI安全背后的更大價值。

　　百度創(chuàng)新實踐

　　將安全帶上元宇宙

　　馬杰隨后分享了一個利用Fuzzing模糊測試技術的嘗試——“鐵馬冰河”自動駕駛評測平臺。

　　他表示，百度的自動駕駛汽車已經在全國的很多城市上路，在過去的9年時間里，百度自動駕駛汽車已經積累了超過2,700萬公里的自動駕駛的路測里程，通過走萬里路不斷地學習迭代，自動駕駛已經變得更加聰明，也會變得更加的安全。但與此同時百度也在思考，能否更快一些的為自動駕駛創(chuàng)造一個虛擬的，但能夠映射現(xiàn)實世界真實路況的安全測試平臺，一個將Fuzzing與Meta相結合的平臺，一個物理與虛實相結合的平臺。

　　由此百度研發(fā)了“鐵馬冰河”，一個聚焦于沉浸式高擬幀場景，包含AI對抗原宇宙化安全測試的平臺。在這個平臺上百度構建了大量的測試場景，去捕捉自動駕駛產品感知環(huán)節(jié)的漏洞，進行視覺魯棒性、AI安全對抗性的指標評測，通過虛實結合的仿真測試，為自動駕駛安全保駕護航。

　　據他介紹，目前鐵馬冰河安全測試平臺已經可以支持三個方向的自動駕駛的安全評測：

　　第一個是在仿真環(huán)境中對真實車輛進行自動駕駛能力的沉浸式評測，這一測試目標是貼合駕駛員的駕駛場景，去模擬道路交通場景以及傳感器信號，從而構造一個完整車輛的閉環(huán)測試，被稱之為整車在環(huán)；

　　第二個是通過測試硬件在仿真環(huán)境中對控制命令的反饋，實現(xiàn)硬件在環(huán)的測試。這個方案主要是應用在臺架試驗和道路試驗前，對自動駕駛和輔助駕駛的系統(tǒng)功能進行一一的驗證，從而去縮短控制器的研發(fā)周期。

　　第三個是軟件在環(huán)，把軟件形態(tài)的自動駕駛系統(tǒng)和百度的X- Verse仿真引擎去做對接，將仿真系統(tǒng)申請的測試數據輸入到測試系統(tǒng)中，在保證高擬增的前提下，實現(xiàn)低成本的軟件測試需求。

　　基于以上三個方向測試方案，百度已經構建了一個從系統(tǒng)到車機再到整車的全鏈廠的測試體系。這個平臺能夠實現(xiàn)場景、天氣、光照、對抗信息等等參數條件的自定義，滿足各種差異化的復雜的，甚至是極端情況下的安全測試需求。

　　馬杰表示，“對于鐵馬冰河來說，它首先需要解決挑戰(zhàn)是面向safety的，但同時它也能覆蓋很多Security層面的問題。當我們把安全與Meta與元宇宙結合的時候，我們其實就會發(fā)現(xiàn)依托我們在AI、云等方面的積累，我們能夠帶來很多的創(chuàng)新，帶來很多的可能性?！?/p>

　　去年年底百度推出了首個元宇宙產品——息壤，目前鐵馬冰河項目也已經入駐息壤中。

　　他介紹，不同于簡單的數字孿生，在息壤中不僅可以創(chuàng)造出近乎仿真的虛擬環(huán)境，也可以打造一系列數據，并且與平行的元宇宙大世界產生互動。

　　“我們可以設想我們可以做一個真人的NPC，加入到仿真場景中參與測試，與車輛產生交互，那么就能夠很好地去捕捉和反饋自動駕駛在遇到各種人為突發(fā)情況時，所要面對的安全威脅，從而創(chuàng)造出一個更接近于真實路況的隨機安全測試。同時我們也在結合Fuzzing的思想，將所有干擾因素視為系統(tǒng)的一個輸入參數進行反復的測試，這樣我們就能夠在仿真環(huán)境中，更為真實的觀察參與到自動駕駛車輛的整個評測過程中間去?！?/p>

　　目前百度的這一套鐵馬冰河平臺已經投入到自動駕駛的安全評和智能座艙的交互設計等應用場景的實踐當中，通過與Meta的結合，運用Fuzzing的理念去嘗試更高效地發(fā)現(xiàn)和解決各種safety的存在問題。

　　數字化時代安全形勢更加復雜

　　需要以新技術為時代注入新動能

　　馬杰談到，當前正處在一個新與舊相互疊加的時代，一方面?zhèn)鹘y(tǒng)安全領域的頑疾還在爆發(fā)，而另外一方面 AI本身的安全性挑戰(zhàn)也超乎了大家對于安全邊界和傳統(tǒng)框架的認知的范疇。舊的問題在升級，新的問題在出現(xiàn)，新舊安全問題的交融，正在廣泛的作用于現(xiàn)實世界。

　　在這個背景下與AI與Meta等新技術的結合，已經成為了必須要予以關注的方向，亟需以創(chuàng)新技術為安全注入新的動能。安全從來不是任何一家公司一個社區(qū)一個生態(tài)能夠獨立解決的事情，需要以更加開放的態(tài)度更廣泛的合作來共同應對，在開放包容多元互建中尋求共贏。對于新興的AI安全領域來說，這一點尤其重要。

　　“百度希望跟各界一同從而建立起一個更為開放的行業(yè)生態(tài)，更好地服務于國家的網絡安全建設，幫助產業(yè)互聯(lián)網的變革，加速產業(yè)智能化的到來。秉承有AI更安全的理念，期待能夠與各位業(yè)界朋友們一起共同迎接AI時代的新挑戰(zhàn)，共同構筑AI時代的新防線，探索AI未來的新可能?！瘪R杰最后談到。

更多信息可以來這里獲取==>>電子技術應用-AET<<