AI時代下的黑客攻擊會以一種系統(tǒng)設(shè)計者無法預料甚至難以想象的方式襲來，破壞整體系統(tǒng)或者沖擊其中的一組特定規(guī)則。
這將極大提高風險檢測的難度。即使及時發(fā)現(xiàn)，我們也很難理解黑客AI是怎樣展開攻勢的。
哈佛大學肯尼迪分校安全技術(shù)專家、研究員兼講師布魯斯·施奈爾（Bruce Schneier）表示，目前正如火如荼發(fā)展的人工智能技術(shù)既給全社會帶來巨大收益，也有可能引發(fā)新一輪安全沖擊。
在5月17日舉行的2021年RSA大會主題演講當中，施奈爾重點介紹了AI風險議題。在施奈爾看來，AI時代下的黑客攻擊不再需要預先定義；相反，它會以一種系統(tǒng)設(shè)計者無法預料甚至難以想象的方式襲來，破壞整體系統(tǒng)或者沖擊其中的一組特定規(guī)則。
施奈爾解釋道，“一切規(guī)則系統(tǒng)都可能遭到入侵。無論我們在設(shè)計階段多么深思熟慮的規(guī)劃，任何規(guī)則集中都必然存在不完整性或不一致性，這就是設(shè)計者意想不到、或者無法明確定義的部分。而這些小小的缺口，終將被黑客所利用并引發(fā)系統(tǒng)的全面崩潰?！?/p>
黑客AI與可解釋性問題
施奈爾認為，未來的黑客攻擊很可能會由某種形式的AI主動發(fā)起，這將極大提高風險檢測的難度。而且即使及時發(fā)現(xiàn)，我們也很難理解黑客AI是怎樣展開攻勢的。
這里涉及的就是經(jīng)典的“可解釋性”問題，熱門科幻小說《銀河系漫游指南》中對此有過獨特的描述。在書中，一群超智能泛維生物打造出全宇宙最強大的計算機，并將其命名為“深思”（ Deep Thought），希望由它回答關(guān)于生命、宇宙以及萬物的終極問題。而計算機給出的答案是42。
施奈爾表示，“深思無法解釋這個答案，甚至無法解釋它是如何理解這個問題的，這就是典型的「可解釋性」問題?，F(xiàn)代AI的本質(zhì)是個暗箱：一頭輸入數(shù)據(jù)，一頭輸出答案?！?/p>
施奈爾指出，研究人員正在努力開發(fā)可解釋AI，但出于多個現(xiàn)實原因，他認為短期之內(nèi)AI領(lǐng)域還實現(xiàn)不了實質(zhì)性的成果。在他看來，AI工作原理的可解釋性問題，根源在于如何以符合人類認知、記憶與判斷習慣的形式表達數(shù)學計算。
他提到，“強迫AI做出人類可以理解的解釋，這本身就是給AI戴上了一副鐐銬，而且很可能影響到AI的決策質(zhì)量。當然，在不久的未來，AI會變得越來越不透明、越來越難以解釋?！?/p>
雖然黑客AI仍只是科幻小說中的題材，但也確有可能出現(xiàn)在現(xiàn)實世界當中。
Bruce Schneier
即將現(xiàn)身的AI黑客
目前，施奈爾倒是還沒看到AI在大規(guī)模黑客入侵活動中得到成熟應(yīng)用。但無論如何，這種未來很可能出現(xiàn)，組織也必須提前為此做好準備。
施奈爾提到，“雖然黑客AI仍只是科幻小說中的題材，但也確有可能出現(xiàn)在現(xiàn)實世界當中?！?/p>
迄今為止，施奈爾觀察到的黑客攻擊仍然是由人為操縱，對于攻擊一方的專業(yè)知識、創(chuàng)造力、時間乃至運氣都有很高的要求。但他警告稱，一旦AI系統(tǒng)獲得了執(zhí)行黑客攻擊的能力，其運行速度與運行規(guī)模都將遠超人類的想象。
他強調(diào)，“隨著AI系統(tǒng)越來越強大，人類社會一定會把愈發(fā)重要的決策交給它們處理。而針對這類系統(tǒng)的黑客攻擊，也必然引發(fā)更大的破壞。到那時，攻擊活動本身也將由AI技術(shù)負責支持及實現(xiàn)?！?/p>
抵御AI黑客
施奈爾在演講的前半部分中著重強調(diào)了AI黑客風險的嚴重性與迫切性，但在后一部分內(nèi)容中，他也向聽眾們介紹了網(wǎng)絡(luò)安全領(lǐng)域的潛在提升空間。
施奈爾表示，“如果未來的AI能夠發(fā)現(xiàn)計算機代碼中的新漏洞時，那么它一方面是黑客手中的強大攻擊武器，另一方面也會成為防御一方的護身神盾?！?/p>
軟件供應(yīng)商未來可能會部署更多AI工具，由其自主查找代碼漏洞并提供修復程序。施奈爾還樂觀地提到，如果能夠?qū)崿F(xiàn)，這類工具將消除我們今天已知的一切軟件漏洞。
施奈爾最后總結(jié)道，“在技術(shù)的推動下被動走向未來確實更輕松，但只有整個人類社會主動決定技術(shù)在未來時代下所應(yīng)扮演的角色，我們才能真正享受技術(shù)發(fā)展帶來的福祉。因此在AI全面普及并覆蓋我們的整個世界之前，人類必須先用清醒的頭腦做出審視與預判?！?/p>
