《電子技術(shù)應(yīng)用》
您所在的位置：首頁(yè) > 其他 > 设计应用 > 用于巡航导弹突防航迹规划的改进深度强化学习算法
用于巡航导弹突防航迹规划的改进深度强化学习算法
2021年电子技术应用第8期
马子杰，高 杰，武沛羽，谢拥军
北京航空航天大学 电子信息工程学院，北京100191
摘要： 为了解决巡航导弹面临动态预警机雷达威胁下的突防航迹规划问题，提出一种改进深度强化学习智能航迹规划方法。针对巡航导弹面对预警威胁的突防任务，构建了典型的作战场景，给出了预警机雷达探测概率的预测公式，在此基础上设计了一种引入动态预警威胁的奖励函数，使用深度确定性策略梯度网络算法(Deep Deterministic Policy Gradient，DDPG)探究巡航导弹智能突防问题。针对传统DDPG算法中探索噪声时序不相关探索能力差的问题，引入了奥恩斯坦-乌伦贝克噪声，提高了算法的训练效率。计算结果表明，改进的DDPG算法训练收敛时间更短。
中圖分類(lèi)號(hào)： TN959.1；TP181
文獻(xiàn)標(biāo)識(shí)碼： A
DOI：10.16157/j.issn.0258-7998.211934
中文引用格式： 馬子杰，高杰，武沛羽，等. 用于巡航導(dǎo)彈突防航跡規(guī)劃的改進(jìn)深度強(qiáng)化學(xué)習(xí)算法[J].電子技術(shù)應(yīng)用，2021，47(8)：11-14，19.
英文引用格式： Ma Zijie，Gao Jie，Wu Peiyu，et al. An improved deep reinforcement learning algorithm for cruise missile penetration path planning[J]. Application of Electronic Technique，2021，47(8)：11-14，19.
An improved deep reinforcement learning algorithm for cruise missile penetration path planning
Ma Zijie，Gao Jie，Wu Peiyu，Xie Yongjun
School of Electronics and Information Engineering，Beihang University，Beijing 100191，China
Abstract： Aiming at the problem of cruise missile penetration trajectory planning under the threat of dynamic early of warning aircraft radar, an improved deep reinforcement learning intelligent trajectory planning method is proposed. Firstly, aiming at the penetration mission of cruise missiles facing early warning threats, a typical combat scenario is constructed, and a prediction formula of radar detection probability of early warning aircraft is given. On this basis, a reward function that introduces dynamic early warning threats is designed, and the deep deterministic policy gradient algorithm(DDPG) is used to explore the intelligent penetration of cruise missiles. And then, in response to the poor exploration ability of the traditional DDPG algorithm that explores the uncorrelated timing of noise, Ornstein-Uhlenbeck noise is introduced to improve the training efficiency of the algorithm. The simulation results show that the improved DDPG algorithm training convergence time is shorter.
Key words : cruise missile；deep deterministic policy gradient algorithm；penetration strategy；deep reinforcement learning

0 引言

    巡航導(dǎo)彈是一種能機(jī)動(dòng)發(fā)射、命中精度高、隱蔽性強(qiáng)、機(jī)動(dòng)性能強(qiáng)的戰(zhàn)術(shù)打擊武器，但近年來(lái)由海陸空防御武器整合得到的體系化信息化反導(dǎo)防御系統(tǒng)態(tài)勢(shì)感知能力和區(qū)域拒止能力都得到了極大的提升，巡航導(dǎo)彈的戰(zhàn)場(chǎng)生存能力受到威脅，提升巡航導(dǎo)彈規(guī)避動(dòng)態(tài)威脅的能力成為其能否成功打擊目標(biāo)的關(guān)鍵[1-3]。傳統(tǒng)的巡航導(dǎo)彈航跡規(guī)劃方法中將雷達(dá)威脅建模為一個(gè)靜態(tài)的雷達(dá)檢測(cè)區(qū)域，這難以適應(yīng)對(duì)決策實(shí)時(shí)性要求較高的動(dòng)態(tài)戰(zhàn)場(chǎng)環(huán)境，而且其缺乏探索先驗(yàn)知識(shí)以外的突防策略的能力，需要研究能應(yīng)對(duì)動(dòng)態(tài)對(duì)抗的巡航導(dǎo)彈智能航跡規(guī)劃算法。

    深度強(qiáng)化學(xué)習(xí)是人工智能領(lǐng)域新的研究熱點(diǎn)[4-6]。隨著深度強(qiáng)化學(xué)習(xí)研究的深入，其開(kāi)始被應(yīng)用于武器裝備智能突防，文獻(xiàn)[7]利用深度強(qiáng)化學(xué)習(xí)提出了一種新的空空導(dǎo)彈制導(dǎo)律，提高了打擊目標(biāo)的能力。文獻(xiàn)[8]針對(duì)目標(biāo)、打擊導(dǎo)彈、攔截導(dǎo)彈作戰(zhàn)問(wèn)題，探究了是否發(fā)射攔截導(dǎo)彈、攔截導(dǎo)彈的最佳發(fā)射時(shí)間和發(fā)射后的最佳導(dǎo)引律。文獻(xiàn)[9]利用深度價(jià)值網(wǎng)絡(luò)算法探究了靜態(tài)預(yù)警威脅下的無(wú)人機(jī)航跡規(guī)劃問(wèn)題，提升了航跡規(guī)劃的時(shí)間。文獻(xiàn)[10]將雷達(dá)威脅建模為一個(gè)靜態(tài)的雷達(dá)檢測(cè)區(qū)域，在二維平面探究了巡飛彈動(dòng)態(tài)突防控制決策問(wèn)題，提高了巡飛彈的自主突防能力。




本文詳細(xì)內(nèi)容請(qǐng)下載：http://ihrv.cn/resource/share/2000003690。




作者信息：

馬子杰，高  杰，武沛羽，謝擁軍

(北京航空航天大學(xué) 電子信息工程學(xué)院，北京100191)




wd.jpg

此內(nèi)容為AET網(wǎng)站原創(chuàng)，未經(jīng)授權(quán)禁止轉(zhuǎn)載。