Alpha稳定分布噪声下最小误码率自适应均衡算法-李森(中国通信学会学术

—625—CSTᒦਪᄰቧኧ્࢒ᇋஔኧၣฤ્൙ᆪૹCHINASCI-TEC2008.01Alpha稳定分布噪声下最小误码率自适应均衡算法李森（大连海事大学信息工程学院大连116026）摘要：高斯噪声下的自适应均衡算法已经得到了很好的研究，但是昀近的很多研究表明通信信道中的噪声有时会呈现出显著的脉冲特性，在这种脉冲噪声下原有的基于高斯噪声假设的均衡算法的性能将出现退化。为了提高脉冲噪声环境下均衡算法的性能，本文以Alpha稳定分布为脉冲噪声的数学模型，利用高斯内核密度估计方法提出了Alpha稳定分布噪声环境下的昀小误码率线性自适应均衡算法，2-PAM和4-QAM调制下的仿真结果表明该算法的性能要优于基于昀小平均p范数准则的LMP自适应均衡算法。关键词：Alpha稳定分布；线性自适应均衡；昀小误码率准则AdaptiveMinimum-BEREqualizationinAlphaStableNoiseLiSen（InformationEngineeringCollege,DalianMaritimeUniversity,Dalian116026）Abstract：TheproblemofadaptiveequalizationinGaussiannoisehasbeenstudiedperfectly.But,insomecommunicationchannels,theobservationnoiseexhibitsimpulsivethatmadetheperformanceofthepresentalgorithmswhichareoptimizedundertheGaussianassumptionisdegraded.Inordertoimprovetheperformanceoftheequalizationalgorithminimpulsivenoise,thenoise’smathematicmodelcharacterizedbythealphastabledistributionisproposedinthispaper.AndthenthenewadaptivelinearequalizationalgorithmbasedontheminimumbiterrorratecriterionisaddressedusingtheGaussiankerneldensityestimationmethod.Simulationresultsunder2-PAMand4-QAMmodulationindicatethatperformanceoftheproposedalgorithmissuperiortotheLMPalgorithmwhichisbasedonleastpnormcriterion.Keywords：Alphastabledistribution;linearadaptiveequalization;minimum-BERcriterion1引言由于符合中心极限定理和计算的简单性，人们通常假设通信信道中的噪声为高斯白噪声。昀近的很多研究表明通信信道中的噪声有时具有非常强的脉冲特性。这些噪声可能是人为的、自然界产生的(比如：闪电或者冰层断裂)也可能是大气噪声或者环境噪声。在通信系统中它们可能来自继电器的接触点、电磁设备、电子器件或者电话线上的猛然敲击等[1-2]。但是现在的通信系统中大多数的均衡器都是基于高斯噪声的假设进行设计的，当系统中出现脉冲噪声时它的性能将会有所下降[3-4]。高斯噪声下的昀小误码率自适应均衡算法已经得到了很好的研究[5-7]，但是经验数据表明通信信道中的脉冲噪声的概率密度函数虽然具有高斯分布概率密度函数的形状但是却具有较厚的拖尾。对于这种脉冲噪声人们已经提出了各种数学模型，其中Nikias等人提出的Alpha稳定分布模型由于具有和高斯分布同样的稳定性和符合广义中心极限定理而受到人们的重视[8]。但是由于Alpha稳定分布信号不存在有限的二阶矩，使得原来基于二阶统计量—626—CHINASCI-TECᒦਪపଆᆪማCHINASCI-TEC2008.01的信号处理算法在这种脉冲环境下而变得没有意义。在文献[8]中Nikias等人提出可以利用昀小离差准则即昀小平均p范数准则来代替传统的昀小均方准则。另一方面由于Alpha稳定分布的概率密度函数没有统一的封闭的表达式，使得一些利用信号概率密度函数的算法在Alpha稳定分布的情况下变得无法处理，基于昀小误码率准则的均衡算法就属于这种情况。本文中我们利用高斯内核密度估计的方法，推导出了Alpha稳定分布噪声下的昀小误码率自适应均衡算法，2-PAM和4-QAM调制下的仿真结果表明该算法的性能要优于基于昀小平均p范数准则的LMP自适应均衡算法。2α稳定分布模型及相关性质α稳定分布的概率密度函数没有统一的封闭表达式，用特征函数描述为：()()(){}exp1sgnαtjatγtjβtωt,αϕ=−+⎡⎤⎣⎦（1）其中，()(),tan12tαπωαα=≠，()()2,log1ttωααπ==。α是特征指数()02α≤，控制着随机过程的脉冲程度，α愈小脉冲性愈强；()11ββ−≤≤是对称系数，0β=时表示对称分布，记为SSα(symmetryα-stabledistribution)，()0γγ是分散系数（dispersion），类似于高斯分布的方差；()aa−∞∞为位置参数（location）对应于均值或中值。当2,0αβ==时α稳定分布就是高斯分布。1α=和0β=对应于柯西分布；12α=和1β=−对应于皮尔森分布。α稳定分布与高斯分布的一个重要区别在于前者不具有α阶及以上各阶统计量。3信道和均衡器模型系统模型如图1所示。信道输入符号kx为相互独立且具有均匀分布的2-PAM信号{}1±。,0,1,,Mkhk=为离散时间FIR信道的脉冲响应，kn为加性噪声。Mkikiki0rhxn−==+∑为信道输出，0,1,,Nkck=为线性均衡器的系数，用矢量的形式表示为[]01TNCcc−=。k时刻均衡器的输出为TkkyCR=,其中[]1TkkkNRrr−+=为信道输出矢量。定义由信道和均衡器引入的时延为D，它的有效范围是{}0,,1DMN∈+−。在本文中只考虑字符检测器为符号函数的情况，即：()ˆkDkxsigny−=。khkc+kxknkrkyDkx−ˆ图1信道、均衡器和检测器模型4最小平均p范数自适应均衡算法当噪声kn为特征指数为α的SSα噪声时，由于它的二阶矩是不存在的，因此昀小均方误差准则不适用，文献[8]指出此时可以用昀小平均p范数准则代替昀小均方误差准则，即选择线性均衡器的系数C使得pkkDEyx−⎡⎤−⎣⎦昀小，利用随机梯度搜索的方法可以得到LMP自适应均衡算法()11pkkkkDkkDkCCpyxsignyxRpμα−+−−=−−−（2）—627—CSTᒦਪᄰቧኧ્࢒ᇋஔኧၣฤ્൙ᆪૹCHINASCI-TEC2008.015最小误码率自适应均衡算法高斯噪声下均衡器输出端的误码率及昀小误码率自适应均衡算法已在文献[5-7]中给出。下面推导Alpha稳定分布噪声下均衡器输出端的误码率及昀小误码率自适应均衡算法。5.1Alpha稳定分布噪声下均衡器输出端的误码率设信道噪声为特征指数为α,分散系数为γ,位置参数a0=的SαS噪声，则均衡器输出端的误码率可由下式给出：[]()ˆ0EkDkDkDkPPxxPsignxy−−−⎡⎤=≠=⎣⎦（3）定义变量：()()()()''TskDkkDkkDkkysignxysignxCRsignxyn−−−===+（4）其中'ky为均衡器的无噪声输出，kn′为均衡器输出端的噪声采样，且它的特征指数为α，分散系数为1/mjj1cααγ=⎛⎞⎜⎟⎝⎠∑。根据文献[10]可相应得到在Alpha稳定分布噪声环境下均衡器输出端的误码率为()11Q2bNkDkMNEb1/αkbαsignxyPNNCγ−+=⎛⎞==⎜⎟⎜⎟⎝⎠∑（5）其中1/ααmji1Ccα=⎛⎞=⎜⎟⎜⎟⎝⎠∑称为α−范数，()Qx为Alpha稳定分布的广义误差函数，()()Qxpx′=−，()px为Alpha稳定分布的概率密度函数。5.2Alpha稳定分布噪声下的最小误码率自适应均衡算法（α−LBER）为了使误码率昀小，需要求出误码率的导数，即：()()()()()1/1/111/1/11()1bbNkDkkDkcEjkbjNkjjkDkkDkjkbsignxysignxyPQNCcCycsigncsignxysignxpRNCCCαααααααααααγγγγ−−=−−−=⎛⎞⎛⎞∂′∇=⎜⎟⎜⎟⎜⎟⎜⎟∂⎝⎠⎝⎠⎛⎞⎛⎞⎜⎟=−−⎜⎟⎜⎟⎜⎟⎝⎠⎝⎠∑∑（6）其中kjR为矢量kR的第j个分量。参照LMS算法用瞬时值代替平均值，就可以得到如下Alpha稳定分布噪声环境下的昀小误码率自适应均衡算法（α−LBER）：()()()()11/1/(1)()()(1)1(1)kDkkDkksignxysignxCkCkpRyCsignCCkCkCkααααμγγ−−−⎛⎞+=+−⎜⎟⎝⎠++=+（7）由于Alpha稳定分布的概率密度函数没有统一的封闭表达式，参照文献[10-11]可用高斯内核函数得到稳定分布概率密度的估计。—628—CHINASCI-TECᒦਪపଆᆪማCHINASCI-TEC2008.015.3QAM调制下的最小误码率自适应算法上面导出的均衡器输出端误码率只适用于实值信号的情况，而在QAM调制中既有实值信号又有复值信号，因此需要对均衡器输出端误码率进行修正，相应的昀小误码率自适应均衡算法也需要修正。下面以4-QAM调制为例介绍Alpha稳定分布噪声环境下QAM调制的昀小误码率自适应均衡算法。4-QAM调制可以看做是实部和虚部两个并行的2-PAM调制，因此4-QAM调制时均衡器输出端的误码率可以表示为：(),,12EEREIPPP=+（8）其中：()()()(),1,11ˆ0Q1ˆ0QbbRRNkDkRRRRERkDkDkDk1/αkbαIINkDkIIIIEIkDkDkDk1/αkbαsignxyPPxxPsignxyNCγsignxyPPxxPsignxyNCγ−−−−=−−−−=⎛⎞⎡⎤⎜⎟⎡⎤=≠==⎣⎦⎣⎦⎜⎟⎝⎠⎛⎞⎡⎤⎜⎟⎡⎤=≠==⎣⎦⎣⎦⎜⎟⎝⎠∑∑（9）则：()()()()()()2*,1/1/12*,1/1/111bjbjRRRRNkDkkDkjjcERkjkbIIIINkDkkDkjjcEIkjkbsignxysignxyccPpRNCCCsignxysignxyccPpjRNCCCααααααααααααααγγγγ−−−=−−−=⎛⎞⎛⎞⎜⎟⎜⎟∇=−−⎜⎟⎜⎟⎝⎠⎝⎠⎛⎞⎛⎞⎜⎟⎜⎟∇=−−−⎜⎟⎜⎟⎝⎠⎝⎠∑∑（10）同样采用高斯内核密度估计的方法和参照LMS算法用瞬时值代替平均值的方法可以得到Alpha稳定分布噪声环境下4-QAM调制的昀小误码率自适应均衡算法为()()()()()()()()()2*1/1/2*1/1/12(1)1(1)RRRkDkkDRkkIIIkDkkDIkksignxysignxpRyCCCkCksignxysignxpjRyCCCkCkCkαααααααγγμγγ−−−−−−⎛⎞⎛⎞⎜⎟⎜⎟−⎜⎟⎜⎟⎝⎠⎜⎟+=+⎜⎟⎛⎞⎜⎟⎜⎟+−−⎜⎟⎜⎟⎝⎠⎝⎠++=+（11）6仿真结果在稳定分布噪声环境中常规的信噪比失去了意义，文献[8]定义一个新的信噪比，称之为广义信噪比(GSNR,GeneralizedSignal-Noise-Ratio)2nGSNR10logxσγ=（12）式中nγ是稳定分布噪声的分散系数。例1：首先考虑2-PAM调制的情况。采用文献[5]中的信道模型[]h1.2,1.1,0.2=−，均衡器的结构为3,2Nd==，分别采用LMP算法和α−LBER算法对接收信号进行均衡。图2给出了1.5α=时误码率随着广—629—CSTᒦਪᄰቧኧ્࢒ᇋஔኧၣ