【信息科学与控制工程】
灰色神经网络(Grey Neural Network,GNN)的原理是将灰色系统理论和神经网络有机结合,主要应用于解决数据量较少的不确定性问题[1-3]。灰色系统理论是我国著名学者邓聚龙于1982年提出的一个采用数据生成,并从生成中寻找数学规律的边缘学科[4-5]。灰色系统理论的原理是通过对小数据量样本进行灰色生成,对小数据、不确定性系统进行处理加工,从中提取有价值的信息知识,发掘其中规律[6]。神经网络是一种人工智能新兴起的研究方法,具有大规模并行、分布式存储和处理、自组织、自适应和自学能力,特别是处理需要同时考虑许多因素和条件的、不精确和模糊的信息处理问题[7],其中BP神经网络(Back-Propagation Neural Network)是误差逆向传播算法训练的多层前馈神经网络,是目前应用最广泛的神经网络。两种方法针对不同预测对象各有自己优点,灰色预测模型通常应用于规律趋势较强、波动不明显的预测问题,神经网络主要应用于规律无序、波动相差较大的时间序列[8-9]。
机载导弹导引头电子器件在长期贮存过程中,由于受到温度、湿度、机械振动以及电化学腐蚀等外界因素变化的影响,其内部材料性能也随之发生物理和化学变化,对应的性能参数也将改变,从而造成使用障碍,甚至失效[10]。在各种影响因素作用的环境下,电子器件失效的发生遵循一定规律,若能够准确掌握导引头电子器件失效规律,从而做到事故前预防,及时排除故障发生。GNN在电子器件性能分析及预测方面已有较为广泛的应用。例如,陈华平等人对电子产品性能评估方法现状、数学模型和加速实验的方法进行了分析,并介绍了灰色预测和神经网络预测方法的研究现状和发展前景[11]。祝德虎等人结合灰色系统理论和BP神经网络建立了灰色神经网络组合预测模型,对某型空舰导弹电子设备失效时间进行预测,结果显示预测精度高且实用性强,效果明显优于传统灰色预测模型[12]。
为此,针对导引头电子器件数据“样本少、信息不一致和偏差较大”等特点,本文开展基于GNN的导引头电子器件性能预测研究,对原算法模型进行适应性改进,以进一步提高预测精度和运算速度。
灰色GM(1,1)预测模型表达式为:
X(0)(i)+aZ(1)(i)=b
(1)
式(1)中:X(0)(i)为原始序列;系数a为发展系数;系数b为灰作用量;Z(1)(i)为白化背景序列。背景值z(0)=(z(0)(1),z(0)(2),…,z(0)(n)),其中:
(2)
式(2)中:α一般取0.5。设X(0)是非负序列,X(1)是X(0)的一次累加序列,Z(1)是X(1)的紧邻均值生成序列,则灰色微分方程可描述为:
(3)
其白化方程为:
x(0)(t)+az(1)(t)=b
(4)
也称影子方程。
采用最小二乘法,则离散型灰色微分方程x(0)(k)+az(1)(k)=b的参数列满足:
[a,b]T=(BTB)-1BTY
(5)
其中,
Y=
求得方程的解:
(6)
对作一次累减,得到最终对应于原始数据的预测值即:
(7)
在GM(1,1)指数序列建模过程中参数不可避免地存在偏差,为了消除GM(1,1)模型在原始数据增长过程中可能失效的问题,采取对参数进行修正的方法,生成无偏GM(1,1)模型(Unbiased Grey GM(1,1),UGM(1,1))。UGM(1,1)同时也简化了计算过程中需要累减处理的环节,提高了计算速度。相对比传统灰色GM(1,1),UGM(1,1)模型引入模型参数A和B,有:
(8)
由此可得到对应于原始数据序列的预测值模型为:
(9)
式(9)中,
对无偏GM(1,1)改进的常见传统方法有幂函数法和新陈代谢法。两种方法原理不同,幂函数法的原理是对序列数据分别求其二次方根,建立新的数据序列后再建模,能够有效提高数列的光滑度和解决偏差问题。新陈代谢法的原理是对原始样本补充新数据的同时,对原始样本中陈旧数据进行过滤,目的是使得改进后的数据序列的变化能够更好地适应运算模型,进一步提高运算精度。本文对无偏GM(1,1)模型进行改进采用幂函数法和新陈代谢法相结合的方法,记作IUGM(1,1) (Improved Unbiased GM(1,1)),目的是在提高原始数据光滑度,减小样本偏差的同时也提高样本对模型的适应性。其具体步骤如下:
步骤1: X(0)(k)为原始数据样本序列,求X(0)(k)中各数据二次方根,则得到变换过后的数据序列
步骤2:对进行一次累加过后生成新的数据序列是一次累加生成序列;
步骤3:按照式(8),求得改进无偏GM(1,1)模型的预测值再进行二次乘方运算,则为实际样本模型的预测值;
步骤4:将放入原始数据样本序列X(0)中,同时利用新陈代谢将X(0)中第一个数据x(0)(1)剔除,则得到新的数据序列
步骤5:按照上面步骤数据替换,则改进算法生成的新数据序列可得到通过n次替换的预测值为
模型精度反映模型预测的精确度,在初步选定模型后,要对各模型的精度进行检验,来判断其是否合理,经过检验合格的模型才可作预测。模型方法有:关联度检测、残差检测和后验误差检验模型(包括均方法检测和小误差概率检测)。对应的检测指标和相应的模拟精度等级见表1。
表1 精度检验等级表[13]
精度等级关联度ε相对误差α均方差比值C小误差概率ρ一级0.900.010.350.95二级0.800.050.500.80三级0.700.100.650.70四级0.600.200.800.60
BP神经网络采用误差反向传播的方法来调整各层权值阈值,传统BP网络主要由一个输入层、一个或多个隐含层和一个输出层组成,隐含层中的神经元采用sigmoid型传递函数,输出层函数采用纯线性传递函数,其结构如图1所示。
图1 BP神经网络结构示意图
其推导过程如下:
1) 输入信号正向传播过程。
隐含层第i个节点的输入为:
(10)
输出层函数为线性传递函数,则第k个节点的输入为:
(11)
其中,yi=φ(neti)。
第k个节点的输出ok为:
(12)
定义误差函数:
(13)
式(13)中: Fk是第k个输出的真实值;Ek表示输出误差。预测值与真实值之间的误差越小,则说明预测精度越高。
2) 输入信号反向传播过程。
隐含层权值公式为:
wji=wji(t)+ηδjok+α[wji(t)-wji(t-1)]
(14)
输出层权值公式为:
wik=wik(t)+ηδiok+α[wik(t)-wik(t-1)]
(15)
式(15)中,η为学习率,η∈(0,1);α为动量因子α∈(0,1);t为调节次数;δ与偏差有关。
对于输出层:
δi=yi(1-yi)(Fi-yi)
(16)
对于隐含层:
(17)
改进后的BP神经网络(Improved BP neural network,IBP)结构中的动量因子与常规权值调整公式中常数项动量因子α0不同,改进后的动量因子是一个变量,其取值受前面输出误差的影响,且大小随输出误差比值大小做调整。按照经验可知,α0∈(0,1),误差调整总体呈下降趋势。
现令:
α(t)=α0·E(t-1)/E(t)
(18)
则式(14)和式(15)可调整为:
wji=wji(t)+ηδjok+[α0·E(t-1)/E(t)]·
[wji(t)-wji(t-1)]
(19)
wik=wik(t)+ηδiok+[α0·E(t-1)/E(t)]·
[wik(t)-wik(t-1)]
(20)
同理可得阈值的调整公式,在此不作说明。
此外,学习速率η的取值对网络的训练性能也同样有一定影响,通常为一常数。η取值过小,会延长训练时间,训练收敛减慢;η取值过大,对网络稳定性降低起一定作用。综合考虑训练时间和稳定性两方面因素,参照预先设定的误差参数,提出对η取值进行调整,当网络输出误差较上一层输出超出设定值时,则减小η值,反之增加,直至网络训练收敛达到预期。η取值为:
(21)
通过自动调整η来实现始终以最大允许速率对网络进行训练。
灰色BP神经网络就是将灰色系统理论和BP神经网络结合在一起,对不确定问题进行求解的模型[14]。灰色理论模型与BP神经网络传统结合方式主要有以下几种[15]:
1) 串联型:将多个灰色预测模型预测的结果再通过BP神经网络系统进行预测;
2) 并联型:先采用灰色预测模型和BP神经网络系统分别进行预测,再对所有预测结果结合实际背景加权组合作为最终预测值;
3) 嵌入型:即在BP神经网络系统的输入层添加一个灰化层,在输出层添加一个白化层。
本文建立的改进型灰色BP神经网络(IUGM-IBP)模型采用串联式组合模型,即由改进无偏GM(1,1)模型和3层改进后BP神经网络串联而成。这是组合预测模型最常采用的连接方式,串联组合模型能够在不改变算法特性的同时兼具两种算法的优点。
改进型灰色BP神经网络预测结构如图2所示。改进型灰色BP神经网络组合预测算法步骤如下:
步骤1:将输入原始数据序列描述为X(0)=(x(0)(1),x(0)(2),…,x(0)(n));
步骤2:用前面n个样本数据分别建立UGM(1,1)模型和IUGM(1,1)模型,用2个模型对原始数据分别进行预测,得到预测数据序列同时利用式(13)建立残差数据序列
步骤3:对2个模型分别进行精度检验,如精度在允许范围内则可,如精度超出允许范围,则模型不可作预测;
步骤4:将预测数据序列作为输入样本,并输入到BP神经网络模型和改进后的BP神经网络模型中去,残差数据序列E作为期望输出,通过足量的样本输入和期望输出对改进前后的BP神经网络进行训练;
步骤5:利用训练好的BP神经网络对残差数据进行预测,则可以得到修正过后的残差数据序列则灰色BP神经网络的最终预测值
图2 改进型灰色BP神经网络预测结构示意图
某型机载导弹导引头DSP控制器是导引头伺服控制系统的核心器件,其性能的好坏直接影响到系统的运算速度、精度和稳定性。对某型机载导弹导引头DSP控制器内部电压的大量实测数据按照时间进行分区处理,共分为12组实测区间数据,各区间数据经处理后其平均值分别是1.951 1、1.891 3、1.790 7、1.671 8、1.634 4、1.548 1、1.450 9、1.391 3、1.339 4、1.220 3、1.113 6、1.028 0。取前10个区间原始数据作为训练样本,经过GM(1,1)、UGM(1,1)和IUGM(1,1)建立模型,再将10个区间数据经处理后对应的残差作为期望输出样本。利用10个区间原始数据分别对传统BP神经网络和IBP神经网络进行训练,经训练后的组合预测模型对后2个区间平均数据进行预测。
4.1.1 传统灰色GM(1,1)模型预测
将训练样本代入式(1)~(5),可得到灰色GM(1,1)模型参数为:
[a,b]T=[0.025 8, 1.427 6]T
(22)
则由式(6)、(7)可得到灰色GM(1,1)模型预测值为:
(23)
4.1.2 UGM(1,1)模型预测
将式(22)所得模型参数[a,b]T代入式(8),可得到UGM(1,1)模型参数:
A=2.013 9, B=-0.056 3
(24)
则由式(9)可得到UGM(1,1)模型预测值为
(25)
4.1.3 幂函数—新陈代谢法改进后的IUGM(1,1)预测模型
将训练样本各组数据求其二次方根,生成新的训练样本将新生成训练样本代入式(1)~式(9),按照UGM(1,1)预测模型步骤可得到预测值为:
(26)
将代入原始数据序列X(0),采用新陈代谢法经过一轮替换,建立新的数据序列如此循环上面步骤则可得到IUGM(1,1)模型预测值。
因此,可得到3种预测模型样本数据的拟合数值,见表2所示。
表2 不同模型拟合值
序号实测数据平均值GMUPGMIUGM11.951 11.951 11.951 11.951 121.891 31.906 61.799 51.886 431.790 71.802 31.701 11.791 441.671 81.703 71.608 01.701 251.634 41.610 51.520 01.615 661.548 11.522 41.436 81.534 271.450 91.439 21.358 21.457 081.391 31.360 41.283 91.383 691.339 41.286 01.213 71.314 0101.220 31.215 71.147 21.247 8
参照表1对上述预测模型进行精度检验,目的是判断3种模型的合理性,各项精度检验值见表3。
由表3可知,3种预测模型中传统灰色GM(1,1)和UGM(1,1)关联度超出允许范围,不适用于此类预测,IUGM(1,1)在4项指标上均符合精度检验,适用于此类预测。
表3 不同模型各项精度检验值
模型关联度ε平均相对误差α/%均方差比值C小误差概率ρGM0.593 91.900.107 91.0UGM0.519 95.020.144 01.0IUGM0.733 82.090.124 91.0
将IUGM(1,1)预测模型对原始数据产生的拟合值每10个数据分成一组,作为BP神经网络训练的输入值,将下一数据拟合值与样本值的残差作为BP神经网络训练的输出值。BP神经网络隐含层节点按照经验公式选取15,则BP神经网络的结构为10×15×1。设网络训练次数为2 000次,训练目标0.000 1,w的初始取值在(-0.3,+0.3)内选取,η=0.05,θi(0)=0.9,ak(0)=0.9,隐含层中的神经元采用sigmoid型传递函数,输出层函数采用纯线性传递函数,对传统BP神经网络和改进后BP神经网络进行训练。
利用IUGM(1,1)和传统BP神经网络、IBP神经网络组合预测模型对目标数据进行预测,共得到3组预测数据,各预测数据与真实值对应的相对误差见表4。
表4 3种预测模型预测数据
序号实测数据平均值IUGM预测数据相对误差/%IUGM-BP预测数据相对误差/%IUGM-IBP预测数据相对误差/%111.113 61.185 02.5271.106 00.6801.11200.150121.028 01.125 33.8901.018 60.9101.028 70.072
由表4可见,在每个数据区间中,灰色BP神经网络组合预测相对误差大大小于改进后无偏GM(1,1)预测。针对BP神经网络环节的改进,也使得综合预测效果更佳,预测值更接近实际值,对该部件性能预测更符合发展走向。说明改进后的灰色BP神经网络对某型机载导弹导引头DSP控制器的性能预测具有更好的适用性。
对灰色GM(1,1)预测模型进行改进,分别利用传统灰色GM(1,1)、无偏灰色GM(1,1)和改进后的无偏灰色GM(1,1)结合实测数据对某型机载导弹雷达导引头DSP控制器内部电压参数进行预测。在传统BP神经网络基础上通过调整动量因子和学习速率的取值,对BP神经网络进行改进。将灰色GM(1,1)预测模型和改进前后的BP神经网络结合成新的预测模型,再对DSP控制器进行性能预测,预测结果表明,改进过后的组合预测模型预测精度更高,适用性更强。
[1]程序,颜廷利,詹花茂.GIS中局部放电UHF信号传播特性研究[J].高压电器,2014,50(5):30-35.
[2]彭仲秋.瞬变电磁场[M].北京:高等教育出版社,1989:99-121.
[3]JUDD M D,FARISH O,HAMPTON BF.The Excitation of UHF Signals by Partial Discharge in GIS[J].IEEE Transaction on Dielectrics and Electrical Insulation,1996,3(2):213-228.
[4]LI Y,XU H J,ZHANG Y Z.The Grey Dynamic Model and ITS Application in the of Grinding Temperature[C]//Proc.of the First Asia-Pacific and Second Japan-China Internation Conference on Progress of Cutting and Grinding,1994,Shanghai.1994:108-115.
[5]刘思峰,郭天榜,党耀国.灰色系统理论及其应用[M].北京:北京科学出版社,1999:15-30.
[6]王凤梅,陈枝东,张领帅,韩晓峰,陆钊,陈锐.灰色系统理论在桩基竖向荷载试验中的预测应用研究[J].土工基础,2019,33(03):366-369.
[7]闻新,陈镝,乔羽.国内神经网络故障诊断技术及其在航天器中的应用[J].沈阳航空航天大学学报,2018,35(3):17-25.
[8]LEIGHTON R R,CONRACH B C.The Autoregressive Back Propagation Algorithm[C]//Proc of the Neural Networks,1991.,IJCNN-91-Seattle International Joint Conference on,Volume:ii IEEE/International Joint Conference of Neural Networks.1991:369-377.
[9]SHIMAKURA Y,FUJISAWA Y,MAEDA Y.Short-term Load Forecasting Using an Artificial Neural Network[C]//Proceedings of the Second International Forum on Applications of Neural Networks to Power Systems,1993.ANNPS’93.IEEE,1993.
[10]徐廷学,甄伟,陈红.基于Bayes理论的导弹贮存可靠性实验研究[J].海军航空学院学报,2006,21(6):672-674.
[11]陈华平,李辉,张颖.电子产品性能评估关键技术的研究[J].可靠性与环境适应性理论研究,2013,31(2):49-52.
[12]韩建立,林嘉新,滕克难.基于测试数据的某型雷达导引头贮存性能评估方法[J].仪表技术,2016(05):19-21.
[13]张军,曾波,孟伟.区间灰数预测模型误差的检验方法[J].统计与决策,2014,16:17-19.
[14]周香连.基于灰色神经网络组合模型的税收预测[J].市场周刊,2019(06):114-115.
[15]袁景凌,钟珞,李小燕.灰色神经网络的研究及发展[J].武汉理工大学学报,2009,31(3):91-93.
Citation format:YUE Jiong, LYU Weimin, SU Ningyuan, et al.Seeker DSP Performance Prediction Method Based on Improved GNN[J].Journal of Ordnance Equipment Engineering,2020,41(06):155-159,163.