1 引言
我国航天器承担着保证国防安全、发展国民经济、探索太空和造福人类的重大责任，是国之重器。然而，航天器所处的空间环境多变，各部件性能随着在轨运行年限的增加而不断下降，导致航天器发生故障的因素增多，及时对航天器进行故障诊断[1]，了解各系统的健康状况[2]，对航天器安全、稳定运行具有实际意义。
近年来，故障诊断技术受到广泛关注，诊断方法日新月异，出现了基于模型[3]、基于信号处理[4]以及基于数据驱动[5]的故障诊断方法。目前，基于模型和信号处理的故障诊断方法使用广泛，高正明等[6]对故障特征提取方法进行总结，在设备状态监测与故障诊断过程中，通过对监测数据进行特征提取实现重要设备健康监测，并结合实际工业应用进行对比分析。但这些方法大多是根据故障发生时的表象进行诊断，航天器各系统复杂且数据量庞大，这些方法对航天器地面测试数据和各阶段的历史数据挖掘不够深入，存在数据利用率不足、准确率不高的问题；基于数据驱动[7]的方法通过大量历史数据来建立系统故障模型，通过利用航天器的研制数据、地面测试数据和在轨运行期间的遥测数据来实现故障诊断[8]，克服了上述方法数据利用不足的缺陷。随着航天器各分系统复杂程度的增加，产生的数据量呈指数增长，基于数据驱动的故障诊断方法对于航天器系统非常适用。
基于机器学习和深度学习的方法是数据驱动故障诊断方法的重要组成部分，其中支持向量机(support vector machine，SVM)[9]作为一种机器学习的主流方法被广泛应用。张驰[10]在滚动轴承故障诊断中，以原始振动信号为对象，提出一种基于卷积神经网络(convolutional neural network，CNN)和支持向量机的诊断模型，直接将信号输入CNN进行特征提取，并将网络最后一层的结果输入SVM完成故障分类。赵立红等[11]提出了基于局部均值分解的样本熵和支持向量机方法融合的故障诊断模型，对信号进行局部均值分解后输入到SVM中进行故障分类。然而，传统的机器学习方法需要获取的广泛的专家知识[12]，对时间和人力的消耗极大[13]。
与传统机器学习的方法不同，基于深度学习的故障诊断方法通过加深网络结构来学习数据的深层特征，在自动提取特征的同时实现较高的故障诊断准确性。针对故障诊断中标注样本少的情况，Wen等[14]将故障信号转换为RGB图像后，结合迁移学习提出了一种基于残差网络(residual network，ResNet)的故障诊断模型，利用少量电机轴承数据达到了高精度诊断。Zhang等[15]设计了基于通道注意力残差网络的风电齿轮箱故障诊断方法，将原始信号进行小波包变换后，利用该网络进行特征提取，实现了振动信号的高识别精度。Zhang等[16]为建立特征变换与输入信号之间的关系，提出了一种带双曲函数的斜率和阈值自适应激活函数，将其应用到残差网络后实现轴承故障诊断。Wang等[17]提出了结合迁移学习的残差网络故障诊断方法，利用ResNet-50提取轴承信号的低级特征，结合特征学习器进行多尺度分析，实现了轴承数据集的高精度诊断。但是，航天器所处空间环境复杂，地面接收的遥测信号时常伴随大量噪声，直接利用原始遥测信号会导致诊断准确率不高的问题。
近年来深度学习应用广泛，卷积神经网络在故障诊断领域也得到极大地使用，输入二维图像后可通过端到端的架构直接输出诊断准确率。文献[18]中将轴承故障信号进行最大值、最小值归一化处理，然后再转换为二维灰度图像后实现故障诊断。文献[19]中利用数据归一化、灰度值化、信号截取和矩阵变换等操作将轴承原始时域信号转化为二维灰度图像，并将此图像作为卷积神经网络的输入，由此实现了故障信号的诊断。
针对上述问题，提出了一种基于主成分分析(principal component analysis，PCA)和残差网络(PCA-ResNet)的航天器测控系统的故障诊断方法。首先将航天器测控系统故障数据集中的遥测信号进行PCA处理，实现遥测信号的降噪，后将信号数据转换为灰度图像，最后通过残差网络对图像进行特征提取，利用Softmax分类器进行故障分类，以实现航天器测控系统的故障诊断。
2 传统故障诊断方法
2.1 主成分分析法
目前基于CNN的故障诊断方法开始大量使用灰度图像作为输入端，将一维故障数据进行归一化后直接堆叠成二维矩阵，这种方法的优势是可以保留原始信号的特征，但由于太空电磁环境复杂，地面接收到的航天器遥测信号时常伴随大量噪声，直接利用原始遥测信息会导致故障诊断的准确率不高。为解决上述问题，从带有强噪声的航天器遥测信号中提取故障特征，可使用主成分分析方法对航天器遥测信号进行降噪处理。
PCA是一种线性降维方法，通过线性投影将原始高维数据映射到低维空间，最小化信息量损失，实现较少的数据维度获取最大的信息量，并一定程度上保留原始数据的特性，它具有良好的去噪性能，目前在故障诊断领域[20]已有应用。在PCA方法中通过选取适当降噪比例，将原始遥测信号降维后再映射回高维数据，可实现原始信号的降噪处理。
设航天器故障数据集X=[x1,x2,…,xn]共有n个样本，每个样本有k个特征，每个特征对应各自的特征值。
1) 首先对每组数据求平均值和标准差，并进行标准化。
(1)
(2)
式中，
是每个样本的特征平均值，δ(xi)为每个样本的标准差，i=1,2,…,n， j=1,2,…,k
2) 求n个样本的标准化矩阵M和协方差矩阵C。
3) 求协方差矩阵C的特征值(λ1,λ2,…,λk)和特征向量ai=(ai1,ai2,…,aik)， i=1,2,…,k，将特征值λi按照从大到小的顺序排序，选择最大的前p个，并将其相对应的p个特征向量拿出来，会得到一组{(λ1,a1),(λ2,a2),…, (λp,ap)}。
4) 确定前P个主成分
计算前P个主成分的贡献率：
(3)
贡献率越大，样本特征中包含的原始信息越多。一般当累计贡献率θ(p)≥85%时，认为该样本特征保留了原始数据的信息。
5) 将原始数据投影到选取的特征向量上，得到降维后的p维特征。对于每一个样本xi，原来的特征是(xi1,xi2,…,xik)T，投影后的新特征是(yi1,yi2,…,yip)T，计算公式如下：
(4)
2.2 信号-图像转换
为从带有强噪声的航天器遥测信号中提取故障特征，首先将航天器遥测信号进行PCA降噪，再将一维数据归一化后直接堆叠成二维矩阵并转换为灰度图像，以实现故障诊断。将一维遥测信号处理为二维图像，既可保留原始信号的特征，又利于残差网络的结构特征自动进行特征提取。航天器测控系统遥测信号值并不集中，各部件标志位数值范围不同，其遥测信号的最大值、最小值不稳定，直接使用最大值、最小值方法对原始遥测信号进行处理，会导致归一化效果不好，影响故障诊断的效率。而本文中，航天器测控系统的遥测信号经过PCA处理后已标准化，可有效避免直接进行数据归一化导致的问题。
为转换为二维灰度图像，首先将处理后的数据取整后转化为灰度值，方法为：
(5)
式中：
为航天器遥测信号值；round(·)为取整函数； φ(i), i=1,2,…,k为图像像素值，取值范围是[0,255]。
其次，将灰度化后的遥测信号进行分段，共截取a段，每段包含b个数据点，所有遥测值堆叠后获得一个a×b的二维矩阵，此时，航天器测控系统遥测信号就转变为一张长为a,宽为b,包含a×b个像素点的灰度图，实现了将遥测信号转换为二维灰度图像。
转换流程为：
1) 对航天器测控系统遥测信号进行PCA降噪处理；
2) 处理后的遥测数据进行取整并转化为灰度值；
3) 根据图片大小进行遥测数据截取和矩阵变换；
4) 获得航天器测控系统遥测数据灰度图。
2.3 残差网络
残差网络[21]是一个经典的深度卷积神经网络，旨在解决因网络层数加深所引起的网络退化问题，主要由残差块构成。残差块的输入为，输出为，残差映射为，其基本思想是对输入进行卷积、最大池化和Relu激活函数操作后，得到输出为，再将进行卷积和激活函数操作，并与最开始的输入相连接，得到输出。残差块可实现网络的恒等映射，在增加层数的同时保留原输入的特征，以减缓特征丢失的方式来避免网络退化，图1为残差块结构框图。
图1 残差块结构框图
Fig.1 The structure of residual block
ResNet网络因残差块的特殊结构在自动提取特征时可有效避免梯度问题，常用的残差模型有ResNet-18、ResNet-50和ResNet-101。考虑到实验中的样本数量，文中使用ResNet-18作为基础网络。
3 基于PCA-ResNet故障诊断方法
3.1 特征提取
残差网络的特征提取过程如图2所示。首先将航天器遥测信号灰度图像作为残差网络输入(输入尺寸为的图像，1、64、64分别表示图像的通道数、高度和宽度)，经过步长为、填充为的的卷积操作和步长为、填充为的的最大池化处理；再将特征图输入到通道数为的残差块中，后经过个填充为的的卷积操作，此时特征图的尺寸为，由于输出通道数都是64，残差块用实线连接;该特征图作为输入，一方面通过升维并下采样至大小为，另一方面经过2个步长分别为2和1、通道数为的卷积操作，将卷积操作后的特征图与升维后的特征图相加，此时图片尺寸为。其中实线连接的上下层网络特征图维度没有发生变化，可以直接相加，虚线连接的上下层网络特征图维度增加了1倍，使得输入与输出不能直接叠加，需要增加输入x的维度后再进行相加。
图2 残差网络特征提取过程
Fig.2 The feature extraction process of residual network
3.2 诊断流程
航天器测控系统故障诊断流程分为4个步骤：数据预处理[22]、遥测信号-图像转换、诊断模型训练、故障诊断。如图3所示。
1) 数据预处理。首先将航天器测控系统故障数据集遥测信号与采集到的航天器遥测信号进行PCA降噪处理。
2) 遥测信号-图像转换。将2种数据集的遥测信号利用信号-图像转换方法，生成所需的故障集图像和测试集图像。
3) 诊断模型训练。故障集图像作为模型训练集，输入到残差网络后得到的特征向量，经过全连接层后由Softmax分类器直接输出损失值和准确率。
4) 故障诊断。将测试集图像输入该模型，判断所属故障类型，并计算诊断准确率。
图3 故障诊断流程框图
Fig.3 Flow chart of fault diagnosis
4 实例分析
4.1 航天器遥测信号处理结果
实验中使用的航天器测控系统故障数据集和测试集均来自某航天器的历史数据和地面测试数据，数据由某卫星测控中心提供，该数据集中故障1包含32 320组数据，故障2包含16 640组数据，故障3包含18 240组数据，故障4包含23 360组数据，每组数据包含64个数据量。首先将所有样本数据经过PCA降噪处理，然后进行信号图像转换，由于每组数据均是64维，为方便图像处理，将转换后的图片大小设置为64×64，并随机抽取其中的80%作为训练集样本、20%作为测试集样本。转换后的结果如表1所示。
原始遥测信号经过PCA处理后去除了大量噪声，保证了残差网络的训练效果，图4为信号降噪后转换的灰度图像。
表1 信号-图像转换结果
Table 1 Signal-image conversion results
故障类型样本量样本长度图片数量训练集图片数测试集图片数类型标签故障117 92064280224560故障216 64064260208521故障310 52064180144362故障413 44064210168423
图4 航天器遥测信号灰度图
Fig.4 Grayscale images of spacecraft telemetry signal
4.2 实验参数设置
本实验在Pytorch 0.4.1 (Python 3.6)的深度学习下框架进行，计算机配置为Intel Xeon E5-2630 v4 20处理器，64G内存，NVIDIA GeForce GTX 1080Ti显卡，模型训练过程选用Adam优化器来优化网络，配置学习率为α=10-3，衰减系数β1=0.9，β2=0.999，小值常数ε=10-8，Batchsize设置为64，epoch设置为800。验证过程与训练一致，epoch设置为100。
4.3 模型的训练与验证
将降噪处理后一维航天器遥测信号当作大量数字，利用统计原理对遥测信号进行挖掘后提取有效特征，并根据主元的累计贡献率保留包含重要特征信息的主元。由表2可知，前6个主元的贡献率累计达到95.774%，即前6个主元包含了航天器测控系统遥测信号特征的绝大部分信息。
为研究PCA方法中选取不同降噪比是否对故障分类的准确率有影响，考虑文中所选用的故障数据集来源于航天器历史数据和地面测试数据，主成分的累计贡献率大于85%，可保证整个主元模型的精确度。文中将PCA降噪比选取在0.85和1之间。其中，降噪比选取“0.88”表示保留原航天器遥测信号中88%的主要特征，即前3个主元，选取“1”表示不对数据进行降噪处理，保留原航天器遥测信号中所有特征。在每个降噪比下将试验重复10次，结果如图5所示。
表2 航天器遥测信号主成分累计贡献率
Table 2 Cumulative contribution rate of principal components of spacecraft telemetry signal
主成分特征值贡献率/%累计贡献率/%17.752 170.52470.52421.536 511.34981.87330.768 36.36588.23840.456 23.65291.89050.255 12.59894.48860.152 21.28695.774
图5 不同降噪比下的诊断准确率对比图
Fig.5 Comparison diagram of diagnostic accuracy under different noise reduction ratios
将本次实验结果进行统计可以得出:不同降噪比下的测试集平均诊断准确率均在90%以上，其中降噪比为0.88时诊断准确率的平均值最低为90.64%，当降噪比为1时有最高诊断准确率96.363%，但其平均值为94.706 2%。降噪比为0.95时测试的平均值为95.326%，在几个结果中均值最大，鲁棒性较好，由表3可知对航天器故障数据集使用适当比例的降噪比能在一定程度上提高诊断结果准确率。
表3 不同降噪比下的诊断准确率统计表
Table 3 Statistics of diagnostic accuracy under different noise reduction ratios
降噪比准确率/%最大最小平均值0.8892.87590.6491.695 00.9195.4292.41193.902 10.9595.8394.62295.326 4196.36393.68894.706 2
图6为降噪比为0.95时，一次训练中测试集的诊断准确率随迭代步数的变化情况。由图可以得出:随着迭代步数的增加，诊断的准确率越来越高，迭代70次后，模型收敛并趋于稳定，最终测试集的诊断准确率为95.341 5%。
图6 降噪比为0.95的准确率
Fig.6 Accuracy under the noise reduction ratio of 0.95
为观察PCA-ResNet模型在4类故障中的表现，在测试集上进行一次随机测试并绘制混淆矩阵。其中，横轴代表测试集真实标签，纵轴代表测试集的预测标签，主对角线为PCA-ResNet模型预测的正确样本数。由图7可以看出PCA-ResNet模型对航天器测控系统各类故障识别具有较高的准确度。
图7 测试结果混淆矩阵
Fig.7 Test result confusion matrix
4.4 对比研究
为验证提出的模型有较好地诊断效果，针对同一数据集，分别利用SVM、LeNet-5、ResNet18与所提模型进行比较，其中传统方法SVM可直接对一维原始遥测信号进行诊断，而其余3种模型均使用转换后的图像作为输入。为使对比实验更加可靠，对每种诊断模型都重复操作10次，epoch取值为100，最后诊断的准确率取10次平均值。各诊断模型的准确率如表4所示。
表4 各诊断模型及准确率
Table 4 Accuracy rates of the diagnostic models
模型迭代次数准确率/%标准差/%SVM+特征选取10080.1715.57LeNet-510086.318.69ResNet-1810091.155.53PCA-ResNet10095.344.12
由表4可知:
1) 所提出的PCA-ResNet模型对于航天器测控系统故障诊断的准确率达到95.34%，高于SVM、LeNet-5和ResNet-18故障诊断算法。
2) ResNet-18网络参数与文中使用的残差网络参数一致，但直接使用未经降噪后的遥测信号使得诊断效果相对较差，其总体波动性大，稳定性不如PCA-ResNet模型。
3) LeNet-5、ResNet-18和PCA-ResNet三种模型的诊断准确率均高于SVM算法，说明对遥测信号利用信号-图像转换方法，可有效保留遥测信号的特征，减少对人工经验的依赖，提高了诊断的准确率。
5 结论
针对航天器测控系统实际，提出了基于PCA-ResNet模型的航天器测控系统故障诊断方法，将故障集与测试集遥测信号经过PCA方法处理后再通过信号-图像转换，并利用残差网络进行训练，最后对比3种典型模型的训练效果，得出结论如下：
1) 航天器所处空间环境恶劣，对其遥测信号进行PCA降噪，可有效降低航天器外部噪声对故障诊断的干扰，进而提高故障诊断的准确率。
2) 运用信号-图像处理方法，更利于残差网络进行深层特征提取，相比于传统故障诊断算法，提高了诊断的精度。
3) 通过对比SVM、LeNet-5和ResNet-18方法，PCA-ResNet模型在航天器故障样本少的条件下取得了95.33%故障诊断准确率，为地面进行故障精准判别提供可靠依据。
4) 本研究利用PCA对遥测信号进行处理，再利用残差网络进行深层特征提取，既使用了传统的数据处理方法，又结合深度网络设计了航天器测控系统的故障诊断方法，为航天器智能化管理提供了新的思路。
[1] Yin S,Xiao B,Ding S X,et al.A review on recent development of spacecraft attitude fault tolerant control system[J].IEEE Transactions on Industrial Electronics,2016,63(05):3311-3320.
[2] 王大轶,屠园园,符方舟,等.航天器控制系统的自主诊断重构技术[J].控制理论与应用,2019,36(12):1966-1978.
Wang D Y,Tu Y Y,Fu F Z,et al.Autonomous diagnosis and reconfiguration technology of spacecraft control system[J].Control Theory & Applications,2019,36(12):1966-1978.
[3] Frank P M.Fault diagnosis in dynamic systems using analytical and knowledge-based redundancy:A survey and some new results[J].Automatica,1990,26(03):459-474.
[4] Patton R J,Frank P M,Clark R N.Issues of fault diagnosis for dynamic systems[M].London:Springer-Verlag,2000:1-12.
[5] 沈毅,李利亮,王振华.航天器故障诊断与容错控制技术研究综述[J].宇航学报,2020,41(06):647-656.
Shen Y,L L L,Wang Z H,A review of fault diagnosis and fault-tolerant control techniques for spacecraft[J].Journal of Astronautics,2020,41(6):647-656.
[6] 高正明,何彬,赵娟,等.常用故障特征提取[J].机床与液压,2009,37(12):227-231.
Gao Z M,He B,Zhao J,et al.Methods of fault feature extraction in common use[J].Machine Tool & Hydraulics,2009,37(12):227-231.
[7] Huang Y,Li S,Sun J.Mars entry fault-tolerant control via neural network and structure adaptive model inversion[J].Advances in Space Research,2019,63(01):557-571.
[8] Talebi H A,Khorasani K,Tafazoli S.A recurrent neural-network-based sensor and actuator fault detection and isolation for nonlinear systems with application to the satellite’s attitude control subsystem[J].IEEE Transactions on Neural Networks,2008,20(01):45-60.
[9] 张周锁,李凌均,何正嘉.基于支持向量机的机械故障诊断方法研究[J].西安交通大学学报,2002(12):1303-1306.
Zhang Z S,Li L J,He Z J.Research on diagnosis method of machinery fault based on support vector machine[J].Journal of Xi’an Jiaotong University,2002(12):1303-1306.
[10] 张弛.基于CNN-SVM的滚动轴承故障诊断[J].组合机床与自动化加工技术,2021(11):114-116..
Zhang C.Bearing fault diagnosis method based on CNN-SVM[J].Modular Machine Tool & Automatic Manufacturing Technique,2021(11):114-116.
[11] 赵立红,程珩,励文艳,等.LMD样本熵与SVM结合的柱塞泵故障诊断研究[J].机械设计与制造,2022(01):1-5.
Zhao L H,Cheng H,Li W Y,et al.Research on fault diagnosis method of plunger pump based on LMD and support vector machine[J].Machinery Design & Manufacture,2022(01):1-5.
[12] Jia F,Lei Y,Guo L,et al.A neural network constructed by deep learning technique and its application to intelligent fault diagnosis of machines[J].Neurocomputing,2018,272:619-628.
[13] He M,He D.Deep learning based approach for bearing fault diagnosis[J].IEEE Transactions on Industry Applications,2017,53(03):3057-3065.
[14] Wen L,Li X,Gao L.A transfer convolutional neural network for fault diagnosis based on ResNet-50[J].Neural Computing & Applications,2020,32(10): 6111-6124.
[15] Zhang K,Tang B,Deng L,et al.A hybrid attention improved ResNet based fault diagnosis method of wind turbines gearbox[J].Measurement,2021,179:109491.
[16] Zhang K,Tang B,Deng L,et al.A fault diagnosis method for wind turbines gearbox based on adaptive loss weighted meta-ResNet under noisy labels[J].Mechanical Systems and Signal Processing,2021,161:107963.
[17] Wang X,Shen C,Xia M,et al.Multi-scale deep intra-class transfer learning for bearing fault diagnosis[J].Reliability Engineering & System Safety,2020,202:107050.
[18] Wen L,Li X,Gao L,et al.A new convolutional neural network-based data-driven fault diagnosis method[J].IEEE Transactions on Industrial Electronics,2017,65(7):5990-5998.
[19] 宫文峰,陈辉,张美玲,等.基于深度学习的电机轴承微小故障智能诊断方法[J].仪器仪表学报,2020,41(01):195-205.
Gong W F,Chen H,Zhang M L,et al.Intelligent diagnosis method for incipient fault of motor bearing based on deep learning[J].Chinese Journal of Scientific Instrument,2020,41(01):195-205.
[20] Wang F,Sun J,Yan D,et al.A feature extraction method for fault classification of rolling bearing based on PCA[C]//Journal of Physics:Conference Series.IOP Publishing,2015,628(01):012079.
[21] He K,Zhang X,Ren S,et al.Deep residual learning for image recognition[C]//Proceedings of the IEEE conference on computer vision and pattern recognition.[S.l.]:[s.n.],2016:770-778.
[22] 唐艺璠,窦立谦,季春惠,等.基于深度迁移学习的航天器故障诊断[J].空间控制技术与应用,2021,47(03):57-63.
Tang L F,Dou L Q,Ji C H,et al.Deep transfer learning-based fault diagnosis of spacecraft attitude system[J].Aerospace Control and Application,2021,47(03):57-63.