《電子技術(shù)應(yīng)用》
您所在的位置：首頁(yè) > 通信與網(wǎng)絡(luò) > 設(shè)計(jì)應(yīng)用 > 軍事智能數(shù)據(jù)安全問(wèn)題：對(duì)抗攻擊威脅
軍事智能數(shù)據(jù)安全問(wèn)題：對(duì)抗攻擊威脅
網(wǎng)絡(luò)安全與數(shù)據(jù)治理
陸正之1，黃希宸2，彭勃1
1.國(guó)防科技大學(xué)試驗(yàn)訓(xùn)練基地； 2.國(guó)防科技大學(xué)電子科學(xué)學(xué)院
摘要： 人工智能技術(shù)已深入軍事作戰(zhàn)的各個(gè)領(lǐng)域，對(duì)現(xiàn)代戰(zhàn)爭(zhēng)形態(tài)進(jìn)行了全面革新。數(shù)據(jù)作為軍事智能模型的核心驅(qū)動(dòng)力，為模型的有效運(yùn)轉(zhuǎn)提供了保障。然而，由于深度學(xué)習(xí)的不可解釋性，對(duì)抗攻擊技術(shù)的存在給當(dāng)前軍事智能模型帶來(lái)了嚴(yán)峻的數(shù)據(jù)安全問(wèn)題。這種威脅在智能系統(tǒng)的訓(xùn)練和推理過(guò)程中均可能產(chǎn)生，形式多樣，難以防范。同時(shí)，受到對(duì)抗樣本干擾的軍事數(shù)據(jù)類型多樣，敵方采取的欺騙手段也日趨復(fù)雜。因此，分析軍事智能數(shù)據(jù)安全風(fēng)險(xiǎn)樣態(tài)，并進(jìn)一步給出軍事智能數(shù)據(jù)風(fēng)險(xiǎn)的防范措施，希望能夠?yàn)樵鰪?qiáng)軍事智能數(shù)據(jù)的安全性提供有益的參考和借鑒。
中圖分類號(hào)：TP391文獻(xiàn)標(biāo)識(shí)碼：ADOI:10.19358/j.issn.2097-1788.2024.11.005引用格式：陸正之，黃希宸，彭勃.軍事智能數(shù)據(jù)安全問(wèn)題：對(duì)抗攻擊威脅［J］.網(wǎng)絡(luò)安全與數(shù)據(jù)治理，2024，43（11）：23-28.
The data security of military intelligence：adversarial attacks
Lu Zhengzhi 1，Huang Xichen 2，Peng Bo 1
1.Test Center,National University of Defense Technology; 20College of Electronic Science and Technology,National University of Defense Technology
Abstract： Artificial intelligence technology has now been deeply applied in various fields of military operations, comprehensively changing the shape of modern warfare. Data is the core driving force of military intelligence models, providing a guarantee for the effective operation of the models.However, due to the non-interpretability of deep learning, the existence of adversarial attack techniques has brought serious data security problems to current military intelligence models. On the one hand, such security threats come in various forms and can be affected during the full life cycle of training and reasoning of intelligent systems. On the other hand, the types of military data interfered by adversarial samples are complicated, and the means of implementing deception show a diversified trend. Therefore, this paper will analyse the security risk pattern of military intelligent data, and further give specific measures on how to prevent the risk of military intelligent data in the hope that it can provide certain references and lessons for improving the security of military intelligent data.
Key words : artificial intelligence for military; data security; adversarial attacks; physical adversarial attacks

引言

深度學(xué)習(xí)技術(shù)的迅猛進(jìn)步已使全球達(dá)成共識(shí)：人工智能技術(shù)（Artificial Intelligence, AI）將與核技術(shù)、生物技術(shù)和航空航天技術(shù)并駕齊驅(qū)，成為影響國(guó)家安全的關(guān)鍵因素［1］。2017年，美國(guó)率先提出“算法戰(zhàn)”的構(gòu)想，此后，全球主要大國(guó)紛紛將AI技術(shù)融入陸、海、空、天、網(wǎng)及電等多元化軍事領(lǐng)域，以執(zhí)行探測(cè)識(shí)別、威脅評(píng)估、情報(bào)分析及指揮決策等核心任務(wù)。2022年，美國(guó)退役上將約翰·艾倫預(yù)言，未來(lái)戰(zhàn)爭(zhēng)將邁入“極速戰(zhàn)”的新紀(jì)元。所謂“極速戰(zhàn)”，指的是一種高度依賴AI主導(dǎo)，人類指揮官極少介入的超快速戰(zhàn)爭(zhēng)模式。這預(yù)示著人工智能成為“重塑戰(zhàn)爭(zhēng)法則”的革命性技術(shù)。

目前，在國(guó)際軍事舞臺(tái)上，已有諸如美國(guó)“捕食者”和“死神”無(wú)人機(jī)、以色列的“鐵穹”防御系統(tǒng)、英國(guó)的“塔洛斯”無(wú)人步戰(zhàn)車等多個(gè)實(shí)例展示了人工智能技術(shù)的實(shí)戰(zhàn)應(yīng)用。此外，在國(guó)際聯(lián)合軍事演習(xí)中頻繁使用人工智能輔助決策系統(tǒng)，能夠整合來(lái)自不同來(lái)源的數(shù)據(jù)，為指揮官提供快速、準(zhǔn)確的戰(zhàn)場(chǎng)信息，從而加快決策過(guò)程。

對(duì)抗性攻擊與人工智能技術(shù)的安全魯棒應(yīng)用息息相關(guān)。由于AI模型內(nèi)部工作機(jī)理存在著不可解釋性，一旦所使用的數(shù)據(jù)遭受攻擊或篡改，將對(duì)模型的輸出結(jié)果造成嚴(yán)重影響。這種通過(guò)對(duì)數(shù)據(jù)施加某種惡意干擾使得人工智能發(fā)生錯(cuò)誤的技術(shù)就被稱為對(duì)抗性攻擊（Adversarial Attacks）技術(shù)［2］。目前，已經(jīng)有大量研究表明對(duì)抗攻擊所帶來(lái)的數(shù)據(jù)安全問(wèn)題可以極大程度地影響軍事智能模型。2021年8月，蘭德公司發(fā)布了《對(duì)抗性攻擊如何影響美國(guó)軍事人工智能系統(tǒng)》［3］，通過(guò)實(shí)例深入剖析了對(duì)抗攻擊對(duì)軍事智能系統(tǒng)和作戰(zhàn)行動(dòng)的影響，并建議應(yīng)切實(shí)加強(qiáng)對(duì)模型與數(shù)據(jù)集的安全防護(hù)。同年，韓國(guó)提出使用對(duì)抗性迷彩貼圖來(lái)在物理場(chǎng)景下對(duì)數(shù)據(jù)施加擾動(dòng)，實(shí)現(xiàn)軍事目標(biāo)的智能對(duì)抗［4］。2022年，英國(guó)研究了對(duì)抗攻擊和數(shù)據(jù)的不確定性在混合戰(zhàn)爭(zhēng)（Hybrid Warfare）中的威脅。同年，Chen Yuwei評(píng)估了對(duì)抗攻擊在搜尋、鎖定、追蹤、瞄準(zhǔn)、交戰(zhàn)和評(píng)估各個(gè)階段可能造成的數(shù)據(jù)安全威脅，并使用仿真作戰(zhàn)軟件進(jìn)行了驗(yàn)證［5］。

關(guān)注對(duì)抗攻擊所帶來(lái)數(shù)據(jù)安全問(wèn)題對(duì)軍事智能模型的可靠穩(wěn)定部署有著重要意義。本文旨在分析軍事智能模型所面臨的數(shù)據(jù)安全風(fēng)險(xiǎn)及其具體形態(tài)，闡述對(duì)抗攻擊技術(shù)的應(yīng)用場(chǎng)景與部署方式，以期為智能化建設(shè)的穩(wěn)健推進(jìn)提供堅(jiān)實(shí)的安全保障。本文的核心內(nèi)容如圖 1所示。首先對(duì)軍事智能數(shù)據(jù)可能遭遇的四種風(fēng)險(xiǎn)形態(tài)進(jìn)行了詳盡闡述；然后列舉了六種易受到對(duì)抗攻擊威脅的軍事領(lǐng)域常用數(shù)據(jù)類型，并詳細(xì)描述了相關(guān)對(duì)抗攻擊的具體部署方法；最后總結(jié)了為確保軍事數(shù)據(jù)安全性所需采取的具體措施。

5.png



本文詳細(xì)內(nèi)容請(qǐng)下載：

http://ihrv.cn/resource/share/2000006225


作者信息：

陸正之1，黃希宸2，彭勃1

（1.國(guó)防科技大學(xué)試驗(yàn)訓(xùn)練基地，陜西西安710106；

2.國(guó)防科技大學(xué)電子科學(xué)學(xué)院，湖南長(zhǎng)沙410073）


Magazine.Subscription.jpg

此內(nèi)容為AET網(wǎng)站原創(chuàng)，未經(jīng)授權(quán)禁止轉(zhuǎn)載。