面向远场语音识别的回声消除算法及应用验证

司永凤,高云龙,王永娟

(南京理工大学 机械工程学院, 南京 210094)

摘要:针对小型侦查类设备在执行远场监听工作时,由于复杂军事作战环境中回声影响系统识别率的问题,基于步长调整原则,提出了一种面向远场语音识别的回声消除改进算法,从根本上提高了输入语音信号的质量。该算法在归一化最小均方(normalized least-mean-square,NLMS)算法的基础上引入了双曲正弦函数,得到能够表示误差与步长之间关系的步长调整函数,通过误差值的大小实现了对步长值的实时调整;并基于MATLAB平台对NLMS算法、SVSLMS算法、基于双曲正弦函数的LMS改进算法以及文中NLMS改进算法做模拟仿真,对比结果可知,改进算法性能更优,在不增大收敛误差的条件下具有更快的收敛速度。进一步搭建嵌入式硬件平台对其实际性能进行测试,试验结果表明,系统识别加入回声后的语音时,词错误率高达60%以上,通过改进算法做语音增强后,系统词错误率明显降低,平均识别率约为80%,验证了基于双曲正弦函数的NLMS改进算法在实际应用中的有效性。

关键词:远场语音识别;回声消除;双曲正弦函数;军事侦查

1 引言

近些年恐怖袭击事件日益增多,面对暴虐的恐怖分子,需要谨慎安排救险工作才能将人质平安的解救出来。当内部劫持情况不明时,救险人员直接进入可能会对人质的生命安全造成威胁且自身也会有危险,这时就需要小型侦查类设备代替救险人员进入事故现场监听内部语音信息,方便采取行动。考虑到侦查工作的隐蔽性,设备只能远距离(通常1~10 m)采集声音信号,但由于真实环境中存在墙壁、障碍物等反射的干扰,导致拾取到的信号质量下降[1-2],进而影响系统识别率。为解决这一问题,引入了回声消除技术。

现有的回声消除技术中,以自适应滤波[3]处理回声为主的方案较为常用,其中最小均方[4](least mean square,LMS)算法与归一化最小均方[5-6](NLMS)算法因其易于实现且复杂度低成为算法实现中采用最多的算法。NLMS算法是在LMS算法的基础上,通过将固定步长改为可变步长,解决了输入信号相关情况下LMS算法收敛速度慢的问题,但它受噪声影响较大,稳态性能有待提高。为了解决这一问题,人们相继提出了很多改进的变步长LMS算法,意图通过变步长平衡收敛速度与稳态误差之间的关系。覃景繁等[7]提出了一种新变步长LMS算法(sigmoid variable step least mean square,SVSLMS),其原理是利用步长与误差之间的非线性函数关系实现收敛速度与稳态误差之间的平衡,但算法收敛完成后,步长受误差影响较大,这种平衡不再维持。为了提升算法性能,程建民等[8]基于双曲正弦函数提出了变步长LMS改进算法,通过将瞬时误差与步长值相关联,在满足步长调整原则的基础上,实现了对步长值的动态调整。之后,刘宪爽等[9]基于Sigmoid函数对算法提出了改进,使其稳定性与准确度得到了有效提升。

实际应用中,如何在收敛速度、稳态误差、计算量等各方面做到兼顾是自适应滤波算法设计中的关键。基于上述分析,本文中将NLMS算法与步长调整原则相结合,通过对语音识别原理及远场回声的分析,提出了一种基于双曲正弦函数的变步长NLMS改进算法,搭建相应的远场语音识别试验平台,结合嵌入式设备树莓派Zero WH对该算法测试,以验证改进算法降低系统词错误率的有效性。

2 远场回声产生原理

声学回声的产生与周围复杂多变的环境有关,在远端环境中,根据室内物品的摆放,远端扬声器播放的近端语音信号可能被环境内多个物体反射后形成回声信号被麦克风采集或不经过物体反射直接被麦克风采集。回声产生原理如图1所示,空旷房间内,远端说话人声音通过多种路径反射形成了回声语音信号,因此麦克风除远端说话人声外还采集到了回声信号,影响了输入端语音信号的质量[10]

图1 回声产生原理示意图

Fig.1 The principle of echo generation

3 变步长NLMS改进算法

3.1 NLMS算法

到目前为止,多种自适应滤波算法被提出并得到推广应用。原理主要是:自适应滤波器模拟和追踪真实的 “回声路径”,并由收敛出的“回声路径”(滤波器系数)对回声做出估计,再从近端纯净语音与回声叠加后的信号中减去估计的回声,从而到达消除回声目的[11]

图2为回声消除技术基本原理示意图。其中,回声y′(n)是远端输入信号x(n)与回声路径W′(n)线性卷积的结果,y(n)是对回声y′(n)的估计,W(n)是对真实回声路径W′(n) 的模拟,e(n)为自适应滤波器输出的残差信号,表示估计的回声与真实回声之间的误差值,可用式(1)表示:

e(n)=d(n)-y(n)

(1)

其中:

d(n)=y′(n)+ν(n)=WT(n)x(n)+ν(n)

y(n)=WT(n)x(n)

为防止回声路径发生缓变或突变时抑制回声能量的问题,滤波器必须及时调整自身系数以“跟踪”回声路径的变化,因此必须用自适应算法实时更新滤波器W(n),NLMS算法迭代公式为[12-13]

(2)

式(1)中: μ/xT(n)x(n)+δ为可变的步长因子,与远端输入信号x(n)的自相关矩阵xT(n)x(n)有关,能够加快收敛速度。δ为一取值较小的正常数,以防止当输入信号过小时而带来的算法性能的不稳定性。

图2 回声消除技术基本原理图

Fig.2 Basic schematic diagram of echo cancellation technology

NLMS算法相比于经典的LMS算法优势在于不增加计算复杂度的前提下,具有更快的收敛速度,但其本身也存在一些性能上的缺陷,即收敛速度虽快,但随着迭代的进行,收敛速度一直在下降,影响回声消除的效果。因此,文中对NLMS算法提出改进,尝试分析步长因子随迭代次数变化的有关规律。

3.2 NLMS改进算法

变步长NLMS改进算法的设计思想是使步长和误差之间满足一种函数关系,以误差为可调节的自变量来控制步长,使其始终在满足使用要求的某一范围值内。双曲正弦函数[14]是双曲函数的一种,该函数关于原点对称,具有严格单调性,通过引入幅度因子ab和指数c对其作简单线性变换,可以得到步长调整函数表达式为

μ(n)=a*|sin h[b*e(n)c]|

(3)

其中,参数a用于控制取值范围,参数bc用于控制图形形状。

图3所示为步长调整函数曲线,可以看出,NLMS改进算法在初始收敛过程中误差值e(n)较大,此时函数也提供了较大的步长值μ(n),使得改进算法具有较快的收敛速度;而在算法收敛完成后,自适应滤波器W(n) 已接近回声路径W′(n),误差值e(n)接近于零,此时回声信号得到了有效抑制,函数对应的步长值μ(n)维持在一个较小的范围值内,有利于算法在该过程中保持更好的稳定性,证实了该函数满足步长调整原则。

图3 步长调整函数曲线

Fig.3 Step adjustment function curve

本文改进算法的迭代步骤:

算法:NLMS改进算法

参数:μ:步长因子L:自适应滤波器的长度

初始条件:ω(0)=0

输入:x(n)=[x(n),x(n-1),…,x(n-L+1)]T

ω(n)=[ω1(n),ω2(n),…,ωL(n)]T

滤波:y(n)=WT(n)x(n)

误差估计:e(n)=d(n)-y(n)

步长函数:μ(n)=a*|sinh[b*e(n)c]|

更新滤波器:

为了直观分析步长调整函数中参数abc对算法收敛速度的影响,在满足步长稳定条件下,通过试错法[15-16]分别对各参数的取值原则和范围进行讨论以获得最优取值。其中,图4(a)条件设为bc值保持不变,a分别取0.01、0.02、0.05;图4(b)条件设为ac值保持不变,b分别取1、1.5、2;图4(c)设为ab值保持不变,c分别取值1、2、4。

图4 误差e(n)与步长μ(n)之间的关系曲线

Fig.4 The relationship between error e(n) and step size μ(n)

分析图4(a)、图(b)所对应的步长调整曲线可知,参数ab主要作用是调节函数曲线的幅值。ab取值越小步长因子在误差接近零处变化越小,但在算法收敛初期不能够为算法提供较大的步长取值,算法收敛速度较慢;当ab取值较大时,能够提供较大的步长取值使算法有较快的收敛速度,但同时步长因子在误差接近零点处变化较快,可能错过最佳步长值影响算法的稳定性。因此,在本仿真环境下,为获得更快的收敛速度和更优的稳定性,参数ab分别取值为0.02、1.5时,算法性能相对更优。

分析图4(c)所对应的步长调整曲线可知,参数c主要作用是调节函数误差接近零点处的曲线平滑程度。c取值越大,函数误差接近零点处的曲线越平滑,算法在收敛完成阶段越稳定,但考虑到c对应指数函数,增大后将大大增加计算量,因此参数c取适中值2时,算法性能相对更优。

3.3 算法对比

基于Matlab平台对算法模拟仿真,分析NLMS算法[13]、文献[8]算法、SVSLMS算法[7]与文中基于双曲正弦函数提出的变步长NLMS改进算法之间的差异性。考虑到实际远场识别环境中混响以及回声影响比较强,仿真条件设置为信干比SIR分别为5 dB和10 dB时,自适应滤波器阶数为8,音频采样点数为1 000的独立仿真试验。最终得到以均方误差(mean square error,MSE)为评价标准的算法收敛对比曲线,分别如图5(a)、图5(b)所示。

图5(a)可以看出:在信干比为5 dB的情况下,NLMS算法的稳态误差较大,文献[8]算法以及SVSLMS算法的收敛速度相比于本文中NLMS改进算法较慢;增加干扰信号的强度后,改进算法的优势更加明显,由图5(b)可知,文中基于双曲正弦函数的变步长NLMS改进算法收敛速度最快,并且在收敛完成后,算法仍能稳定地保持在一个较小的均方误差下。在仿真验证理论分析正确的同时,也表明文中提出的变步长NLMS改进算法性能更优。

图5 算法收敛曲线

Fig.5 Algorithm convergence comparison curve

4 基于远场语音识别系统的算法验证

回声消除技术是语音识别系统中的关键步骤,有效的回声抑制可以提高音频信号的整体识别效果。为测试改进算法实际应用时的有效性,现基于Python语言搭建了远场语音识别系统,并将其移植到嵌入式硬件平台上做进一步验证。

4.1 算法验证平台搭建

本文中基于Linux操作系统完成了语音识别嵌入式软件程序设计,主要包括信号采集程序和语音识别主程序两部分。

准确地捕捉到声音信号是语音识别系统流程中关键的一步,程序设计思路是设定一个声音阈值,通过不断将采集到的信号与阈值进行比较,实现语音信号的采集。语音识别主程序主要包括特征提取与模型解码,首先利用标准数据库语音对搭建好的模型进行训练,从而得出该模型的参数,当未知语音输入时,提取待识别语音的梅尔频率倒谱系数(mel frequency cepstrum coefficient,MFCC)特征值,通过模型解码即可得到识别结果。具体算法流程如图6所示。

图6 软件流程框图

Fig.6 Software flow chart

语音识别系统硬件平台结构体系如图7所示,采用树莓派Zero WH作为系统移动端,搭配ReSpeaker 2-Mics Pi HAT双麦克风阵列板采集语音信号。工作时,树莓派Zero WH与宿主机通过网络连接,在宿主机上远程登录树莓派操作系统作为虚拟终端执行语音采集命令,再将采集到的语音信号传到上位机(宿主机)端进行语音识别操作,最终输出识别结果。

图7 硬件平台结构体系框图

Fig.7 Hardware platform architecture diagram

4.2 算法性能测试与分析

1) 测试数据。测试所用数据集包括标准数据集以及本人录制的音频样本。其中,标准数据集为开源的THCHS30、ST-CMDS中文数据库,另一部分音频样本是在信噪比 40 dB的安静环境下采用双麦克风阵列板录制的采样频率为16 kHz、采样大小为16 bits的纯净音频文件。此外为了增强语音识别模型的适应性及抗干扰性,将纯净音频与回声模型2[17]做卷积运算得到含噪语音,将其引入数据库中实现数据集的扩充。采用词错误率(word error rate,WER)对系统识别率做评估,其计算公式为

(4)

式中: T是识别结果总词数,SDI分别是替代错误、删除错误、插入错误的词数,WER值越小说明系统识别效果越好。

2) 模型构建。语音识别网络结构体系如图8所示,语音文件转化为频谱图作为模型输入,首先经过5次卷积-Dropout-卷积-最大池化-Dropout的循环,其中Dropout层目的是降低方差,防止模型过拟合;在最后一次循环的Dropout层之前加入一个Reshape层改变输入数据的维数,实现对不同层的连接;之后再连接2个带有Dropout层的全连接层网络,对提取到的特征进行整合分类,最后通过Softmax层连接CTC(connectionist temporal classification)模型,使用CTC的loss作为损失函数,实现连接性时序多输出。

图8 CNN-CTC网络结构体系框图

Fig.8 CNN-CTC network framework

CTC[18-21]作为一种端到端的语音识别方式,不需要在帧级别上对其标签,它可以根据输入的每帧预测信息,寻找具有最高概率的标签序列进行输出,大大简化了声学模型的训练过程。网络模型参数设置如表2所示。

表2 网络模型参数

Table 2 Network model parameters

层型参数步长Conv2d_1卷积内核:3×3,32S=3Conv2d_2卷积内核:3×3,32S=3Max_pooling2d_1池化内核:2×2S=2Conv2d_3卷积内核:3×3,64S=3Conv2d_4卷积内核:3×3,64S=3Max_pooling2d_2池化内核:2×2S=2Conv2d_5卷积内核:3×3,128S=3Conv2d_6卷积内核:3×3,128S=3Max_pooling2d_3池化内核:2×2S=2Conv2d_7卷积内核:3×3,128S=3Conv2d_8卷积内核:3×3,128S=3Max_pooling2d_4池化内核:1×1S=1Conv2d_9卷积内核:3×3,128S=3Conv2d_10卷积内核:3×3,128S=3Max_pooling2d_5池化内核:1×1S=1dense_1神经元数:128-dense_2神经元数:128-

3) 试验结果与分析。语音信号是一种短时平稳信号,不同帧内语音的信噪比不同,为了更好地表征语音信号的性能,采用频率加权分段信噪比(frequency-weightedsegmented speech signal-to-noise ratio,FWSSSNR)作为语音质量评价指标,且FWSSSNR数值越高,表示该段语音信号质量越好。

从验证集和录制的纯净音频样本中随机选取10句音频文件,分别与回声模型2做卷积运算得到最终语音信号。通过改进算法对合成后的语音信号做回声消除,进一步地,采用FWSSSNR指标分别对NLMS算法(算法Ⅰ)和NLMS改进算法(算法Ⅱ)处理后的语音信号质量进行评价。

由图9可知,采用算法Ⅱ对混合语音信号做回声消除后,回声部分波形几乎被完全消除,且图10所示不同算法对应的FWSSSNR结果进一步证明,加入回声后的语音经2种算法处理后,FWSSSNR数值均有所提升,但算法Ⅱ相比算法Ⅰ性能更优、增强效果更明显。

图9 基于算法Ⅱ的语音波形曲线
Fig.9 Speech waveform based on algorithm Ⅱ

图10 不同算法FWSSSNR直方图

Fig.10 Comparison of different algorithms FWSSSNR

表3所示为系统识别率测试结果,其中Δ为算法Ⅱ与算法Ⅰ之间的错误率差值。可以看出,加入回声后的语音词错误率高达60%以上,通过2种算法做语音增强后,系统词错误率明显降低,且采用算法Ⅱ比采用算法Ⅰ的词错误率降低了约10%,系统平均识别率在80%左右,验证了基于双曲正弦函数的NLMS改进算法在实际应用中的有效性。

表3 语音识别系统回声消除前后的词错误率

Table 3 Word error rate before and after echo cancellation
in speech recognition system %

样本序号加回声算法Ⅰ去回声算法Ⅱ去回声错误率差值Δ138.59.1 09.1291.077.860.017.8374.127.320.07.3460.031.318.812.5567.627.621.46.2668.036.821.015.8726.737.525.012.5888.944.442.91.5951.830.826.93.91068.648.441.96.5

5 结论

在现有语音识别技术的基础上,针对复杂背景中回声影响系统识别率的问题,提出了基于双曲正弦函数的变步长NLMS改进算法,经仿真验证,改进算法具有实时调整步长、不增大收敛误差的条件下具有更快收敛速度的优势。

通过搭建嵌入式硬件平台对算法实际性能进行测试,结果表明,应用改进算法做回声消除后系统词错误率降低了约10%,平均识别率得到了明显提升,在远场语音识别中具有实际应用价值。

参考文献:

[1] Delcroix M,Yoshioka T,Ito N,et al.Multichannel speech enhancement approaches to DNN-based far-field speech recognition[J].2017.

[2] Bershad N J,Tourneret J Y.Echo cancellation-alikelihood ration test for double-talk vs.channel change[C]//2006 IEEE International Conference on Acoustic,Speech and Signal Processing,Toulouse,France,2006:732-735.

[3] Hannah S P.Variable tap-length non-parametric variable step-size NLMS adaptive filtering algorithm for acoustic echo cancellation[J].Applied Acoustics,2020,159(12):107074-107074.

[4] Widrow B,Hoff M E.Adaptive switching circuits[J].Ire WesonConvention Record,1960(04):96-104.

[5] Borisagar K R,Sedani B S,Kulkarni G R.Simulation and performance analysis of LMS and NLMSadaptive filters in non-stationary noisyenvironment[C]//International Conference on Computational Intelligence and Communication Networks,2011:682-686.

[6] Shin H C,Sayed A H,SonW J.Variable step-size NLMS and affine projection algorithms[J].IEEE Signal Process Letters,2004,11(02):132-135.

[7] 覃景繁,欧阳景正.一种新的变步长LMS自适应滤波算法[J].数据采集与处理,1997(03):171-174.

Qin J F,OUYang J Z.A new variable step-size LMS adaptive filtering algorithm[J].Data Collection and Processing,1997(03):171-174.

[8] 程建民,张润莲,秦明峰.基于双曲正弦函数的改进变步长自适应滤波算法[J].无线电工程,2018,48(08):704-708.

Cheng J M,Zhang R L,Qin M F.Improved variable step-size adaptive filtering algorithm based on hyperbolic sine function[J].Radio Engineering,2018,48(08):704-708.

[9] 刘宪爽,吴华明,肖文波,等.改进的双Sigmoid函数变步长自适应算法及在OCT中的应用[J].电子学报,2019,47(01):234-240.

Liu X S,Wu H M,Xiao W B,et al.Improved double Sigmoid function variable step size adaptive algorithm and its application in OCT[J].Electronic Journal,2019,47(01):234-240.

[10] 赵益波,严涛,李春彪,等.α-稳定分布噪声环境下的非线性回声消除研究[J].电子学报,2020,48(01):59-65.

Zhao Y B,Yan T,Li C B,et al.Research on nonlinear echo cancellation in α-stable distributed noise environment[J].Electronic Journal,2020,48(01):59-65.

[11] 台宏达.语音通信系统中的自适应回声消除技术[J].计算机仿真,2015,32(09):209-213.

Tai H D.Adaptive echo cancellation technology in voice communication system[J].Computer Simulation,2015,32(09):209-213.

[12] Mahfoud H,Abderrahmane A.Improved variable step-size NLMS adaptive filtering algorithm for acoustic echo cancellation[J].Digital Signal Processing,2016,49(12):44-55.

[13] 王正腾,谢维波.改进的NLMS算法在回声消除系统中的应用[J].计算机工程与应用,2017,53(10):107-111.

Wang Z T,Xie W B.Application of improved NLMS algorithm in echo cancellation system[J].Computer Engineering and Applications,2017,53(10):107-111.

[14] 刘思雨,和伟.基于双曲正弦函数和多尺度小波变换的自适应滤波算法[J].云南师范大学学报(自然科学版),2021,41(03):34-37.

Liu S Y,He W.Adaptive filtering algorithm based on hyperbolic sine function and multi-scale wavelet transform[J].Journal of Yunnan Normal University (Natural Science Edition),2021,41(03):34-37.

[15] 王彪,李涵琼,高世杰,等.一种变步长最小平均p范数自适应滤波算法[J/OL].电子与信息学报:1-7[2021-10-19].

Wang B,Li H Q,Gao S J,et al.A variable step size minimum average p-norm adaptive filtering algorithm[J/OL].Journal of Electronics and Information:1-7[2021-09-28].

[16] 杨威,刘宏清,黎勇,等.冲击噪声下的LMS和RLS联合滤波算法[J].西安电子科技大学学报,2017,44(02):165-170.

Yang W,Liu H Q,Li Y,et al.LMS and RLS joint filtering algorithm under impulsive noise[J].Journal of Xidian University,2017,44(02):165-170.

[17] Tang J,Mou H M,Leng J,et al.Cross-modal learning based on speech and parameterized face representation using densely deep networks[J].Journal of Chongqing University of Posts and Telecommunications(Natural Science Edition),2020,32(05):867-868.

[18] Liu H,Jin S,Zhang C S.Connectionist temporal classification witn maximum entropy regularization[C]//Advances in Neural Information Processing Systems.2018:831-841.

[19] Graves A,Fernández S,Gomez F.Connectionist temporal classification:Labelling unsegmented sequence data with recurrent neural networks[C]//International Conference on Machine Learning.Pittsburgh,2006:369-376.

[20] Li M,Lin X Y.Life maximization strategies based on cover sets for heterogeneous directional sensor networks[J].Journal of Chongqing Technology and Business University(Natural Science Edition),2021,38(01):14-20.

[21] Graves A.Sequence transduction with recurrent neural networks[J].Computer Science,2012,58(03):235-242.

Echo cancellation algorithm and application verification for far-field speech recognition

SI Yongfeng, GAO Yunlong, WANG Yongjuan

(School of Mechanical Engineering, Nanjing University of Science and Technology, Nanjing 210094, China)

Abstract: Aiming at the problem that the echo affects the system recognition rate in the complex military combat environment when small reconnaissance equipment performs far-field monitoring, based on the step adjustment principle, an improved echo cancellation algorithm for far-field speech recognition was proposed, which fundamentally improves the quality of the input speech signal. Based on the normalized least mean square (NLMS) algorithm, the algorithm introduced a hyperbolic sinusoidal function to obtain a step adjustment function that can represent the relationship between error and step size, and realized the real-time adjustment of step size through the size of error value; The NLMS algorithm, SVSLMS algorithm, LMS improved algorithm based on hyperbolic sinusoidal function and NLMS improved algorithm in this paper were simulated based on MATLAB platform, the comparison results show that the improved algorithm has better performance and faster convergence speed without increasing the convergence error. The embedded hardware platform was further built to test its actual performance. The test results show that when the system recognizes the voice with echo, the word error rate is more than 60%. After speech enhancement by the improved algorithm, the word error rate of the system is significantly reduced, and the average recognition rate is about 80%. It verifies the effectiveness of the improved NLMS algorithm based on hyperbolic sinusoidal function in practical application.

Key words: far-field speech recognition; echo cancellation; hyperbolic sine function; military investigation

收稿日期:2022-02-12;修回日期:2022-03-21

基金项目:XXX创新项目(18-163-11-ZT-005-032-01)

作者简介:司永凤(1997—),女,硕士研究生,E-mail:237991503@qq.com。

doi: 10.11809/bqzbgcxb2022.11.033

本文引用格式:司永凤,高云龙,王永娟.面向远场语音识别的回声消除算法及应用验证[J].兵器装备工程学报,2022,43(11):231-237.

Citation format:SI Yongfeng, GAO Yunlong, WANG Yongjuan.Echo cancellation algorithm and application verification for far-field speech recognition[J].Journal of Ordnance Equipment Engineering,2022,43(11):231-237.

中图分类号:TN912.34

文献标识码:A

文章编号:2096-2304(2022)11-0231-07

科学编辑 张学波 博士(西北师范大学副教授)

责任编辑 何杰玲