數(shù)字化轉(zhuǎn)型浪潮的來臨促使人工智能技術(shù)得到了企業(yè)的普遍關注和重視。在數(shù)字化轉(zhuǎn)型的同時，越來越多企業(yè)采用混合云架構(gòu)部署，因而面臨的網(wǎng)絡安全風險也日益嚴峻及多樣化。在AI轉(zhuǎn)型的時代浪潮下，人工智能成為網(wǎng)絡安全技術(shù)發(fā)展的必然趨勢之一。隨著ChatGPT和類似生成式人工智能技術(shù)的飛速發(fā)展，基于大模型的生成式人工智能讓攻擊能力顯著增強，“我們不可能利用人力去阻擋AI攻擊，我們必須利用AI去對抗AI，這是唯一的出路”，日前，在派拓網(wǎng)絡Ignite中國2023（北京站）媒體溝通會上，發(fā)言人派拓網(wǎng)絡Unit 42顧問總監(jiān)劉俊佃如此說道。
派拓網(wǎng)絡Unit 42顧問總監(jiān) 劉俊佃（圖源：派拓網(wǎng)絡）
AI讓攻擊者的能力更強
在網(wǎng)絡安全防御方面，人工智能技術(shù)可以比傳統(tǒng)方法更快、更準確地識別潛在威脅，檢測高級惡意軟件，輔助行為分析，提高網(wǎng)絡安全團隊的工作效率等，以此顯著增強網(wǎng)絡安全勢態(tài)。但任何事物都具有兩面性，對企業(yè)來說AI可以賦能網(wǎng)絡安全防御，但也可以成為網(wǎng)絡犯罪分子的一種不道德的工具。雖然我們希望科技向善，但是如果這些科技被一些壞分子或者網(wǎng)絡攻擊者當作武器來使用，那么科技就會變得向惡。
隨著基于大語言模型的生成式人工智能的應用快速發(fā)展，其安全風險已經(jīng)開始快速累積。
劉俊佃介紹，AI在某個層面加強了攻擊者的能力，比如WormGTP可以讓攻擊者很容易地完成木馬程序或者釣魚郵件內(nèi)容，而且運用AI來驅(qū)動這一類型的工具的時候，所寫出來的文字相當完美，可以成功躲避之前利用文字漏洞的防御方法。
軟件工程師正在通過使用基于AI的代碼創(chuàng)建加速器來提高開發(fā)效率，當然，這些工具也可以加速網(wǎng)絡攻擊者的軟件開發(fā)，減少從發(fā)現(xiàn)漏洞到利用漏洞的代碼時間，所以利用AI能讓攻擊者的攻擊更快、更簡易。
網(wǎng)絡攻擊者還可以利用一些AI開源技術(shù)繞過安全監(jiān)測，利用AI發(fā)起更復雜的攻擊，比如人工智能驅(qū)動的惡意軟件可以學習并適應目標系統(tǒng)使用的安全措施，使其更難以檢測和刪除。
用AI對抗AI，未來網(wǎng)絡安全關鍵策略
AI加強了網(wǎng)絡攻擊和網(wǎng)絡安全防御之間的斗爭。AI技術(shù)的應用對網(wǎng)絡安全帶來了全新挑戰(zhàn)，網(wǎng)絡黑客的攻擊手段更加豐富，發(fā)起攻擊的技術(shù)門檻也相應降低，這必定導致攻擊次數(shù)總量的增加。對于組織而言，了解人工智能對網(wǎng)絡安全的潛在影響并采取適當措施來緩解這些風險非常重要。
人工智能的應用給數(shù)據(jù)安全提出了更高的要求。因為AI可能涉及處理敏感數(shù)據(jù)，例如患者記錄、財務信息和個人數(shù)據(jù)等，數(shù)據(jù)泄露對于任何一家企業(yè)來說都是一場災難。劉俊佃介紹，“企業(yè)很重要的一點就是對知識產(chǎn)權(quán)的保護，這包含企業(yè)的人員、知識產(chǎn)權(quán)以及企業(yè)所管轄的所有數(shù)據(jù)”。
另外，大模型的存在可能會改變攻擊者的威脅模型。攻擊者可以利用大模型中的漏洞和不足來攻擊系統(tǒng)，例如使用對抗性樣本來欺騙模型，或利用漏洞進行惡意操作。AI模型需要大量的計算資源進行訓練和推理，這可能會吸引黑客攻擊這些計算資源，例如使用DDoS攻擊或入侵攻擊來破壞或竊取數(shù)據(jù)。
劉俊佃強調(diào)，AI讓攻擊者的攻擊行為更快、更強、更精準，我們之前所了解和熟知的一些防御模式和方法需要改變，不可能利用人力去阻擋AI攻擊，必須利用AI去對抗AI，這是唯一的出路。他還建議，攻擊者已經(jīng)開始合作和分享案例，互相分享成功的經(jīng)驗和失敗的教訓，對于防御者，企業(yè)跟企業(yè)、企業(yè)跟大環(huán)境也應該開展更密切的合作，一個開放、透明、可分享的生態(tài)系統(tǒng)也是我們繼續(xù)前行的一個很重要的路徑。
派拓網(wǎng)絡安全公式：零信任+平臺=前瞻性
一個企業(yè)持續(xù)、長期、安全的運行，就在于它能夠很好地防御自身所有的信息。企業(yè)要非常清楚地保證自己的生態(tài)系統(tǒng)能夠受到很好的防御，分析并識別企業(yè)運營的整個環(huán)境的風險點，同時，隨著AI的不斷進展，要調(diào)整對于企業(yè)所運行的風險、環(huán)境的假設。企業(yè)需要更加謹慎地擬定“企業(yè)的網(wǎng)絡安全戰(zhàn)略”，需要以人工智能為核心進行設計并構(gòu)建安全風控體系，采用平臺化的解決方案應對各種可能出現(xiàn)的風險和事件。
在派拓網(wǎng)絡技術(shù)的支持下，通過匯集業(yè)界領先的威脅情報、事件響應和網(wǎng)絡風險專業(yè)知識，Unit 42為全球企業(yè)提供戰(zhàn)略性建議。
劉俊佃介紹，基于目前AI所引發(fā)的新威脅的特點：更加可規(guī)?；?、攻擊視角不同、攻擊本質(zhì)發(fā)生了變化，所以，這也導致Unit 42在收集威脅情報的時候，和從前相比會有一些不同。
從工具上講，相比單點安全產(chǎn)品的大量疊加，平臺化的解決方案可以實現(xiàn)全面、自動化的安全防御，真正做到主動有效地保護企業(yè)的網(wǎng)絡安全。派拓網(wǎng)絡有一個安全公式：零信任+平臺=前瞻性。零信任指的是杜絕任何隱含信任并以持續(xù)驗證為基礎的策略；平臺指的是根據(jù)需求連接不同類型的最佳功能，實現(xiàn)最大的可見性、控制和效率；前瞻性指的是輕松安全轉(zhuǎn)型，讓企業(yè)在安全的環(huán)境下高效地運營和創(chuàng)新。
依托于派拓網(wǎng)絡Unit 42專業(yè)安全團隊對全球發(fā)生的安全事件和情報進行及時的分析和響應，派拓網(wǎng)絡的下一代網(wǎng)絡安全平臺可以從網(wǎng)絡、云、端點三個維度應對數(shù)字經(jīng)濟時代的安全挑戰(zhàn)，并在所有安全方案之上提供一套自動化安全運營分析系統(tǒng)，可為企業(yè)的網(wǎng)絡安全保駕護航。