海杂波背景下的自适应检测问题因其重要的战略意义和民用价值，一直以来备受国内外学者的关注。常见的自适应检测算法^[1,2]中，其实现过程首先要对待检测单元的杂波协方差矩阵进行估计。因此，根据不同协方差矩阵估计方法得到的估计结果会对雷达目标检测性能产生重要影响。

在实际目标检测中，我们可以利用与待检测单元相邻的参考单元实现协方差矩阵的估计。其中，最大似然(Maximum Likelihood, ML)估计方法^[3,4]具有很高的估计精度，但是计算复杂度极大；此外，相关学者对传统的采样协方差矩阵(Sample Covariance Matrix, SCM)估计方法进行改进，将其杂波功率进行归一化处理，提出了性能更稳定的归一化样本协方差矩阵(Normalized Sample Covariance Matrix, NSCM)^[5]估计方法，该方法大大降低了运算复杂度，但在应用于检测器时无法关于NSCM保持恒虚警率(Constant False Alarm Rate, CFAR)^[6,7]，进而影响检测性能。针对以上问题，文献[8]中提出了近似最大似然(Approximate Maximum Likelihood, AML)估计方法，该方法不仅可以保证较理想的估计精度和计算复杂度，还可以保证自适应检测器所要求的CFAR。

不同协方差矩阵估计方法的估计性能通常采用归一化F范数^[9]来评价。该方法利用杂波协方差矩阵的真实值与估计值之间的相对误差检验估计精度，但考虑实际雷达目标检测中很难得知杂波协方差矩阵真实值的大小，进而导致该方法在实际应用中具有一定局限性。为了解决传统评价方法存在的弊端，该文提出一种用于检验散斑协方差矩阵估计性能的白化度评价方法，该方法利用散斑协方差矩阵在雷达系统白化滤波过程中的去相关作用，通过计算白化滤波后的杂波向量中脉冲间的相关程度来评价散斑协方差矩阵估计方法的估计误差大小。实验结果显示，白化度评价方法与传统的归一化F范数评价方法的结果相一致，同时该方法不依赖杂波协方差矩阵的真实值大小，有效的避免了传统评价方法在实测数据处理中的局限性。

本文其余部分安排如下，第2节对几种类型的杂波协方差矩阵估计方法进行简要介绍和比较；第3节首先概括传统的归一化F范数评价方法，随后介绍白化度评价方法的定义和性质；第4节分别通过仿真实验和实测数据验证白化度评价方法的有效性；第5节总结全文。

判断回波信号r中是否含有目标信号s等价于下式的二元假设检验问题：

其中，z表示杂波向量。复合高斯模型下的l维海杂波向量可以表示为两个相互独立的变量的乘积^[10,11]，即 ${{z}} = \sqrt {τ} {{u}}$ 。式中，散斑分量u服从零均值且协方差矩阵 ${{M}} = {\rm E}\{ {{u}}{{{u}}^{\rm H}}\} $ 的复高斯分布，记为 ${{u}}$ ～CN(0,M)，纹理分量 $\tau $ 为慢变的非负随机变量，其概率密度函数可表示为 ${p_\tau }\left( \tau \right)$ 。若 ${p_\tau }\left( \tau \right)$ 满足形状和尺度参数分别为 $\upsilon $ 及2b²的Gamma分布，可得到幅度分布服从K分布的杂波模型^[12]。该模型的有效检测器包括OKD检测器、 $\alpha$ -MF检测器等^[13,14]。设定判决门限为 $\eta $ ，此时OKD检测器的表达形式如下：

(2)

式中，变量 ${q_0}({{r}})$ 与 ${q_1}({r})$ 分别满足 ${q_0}({r}) = {{{r}}^{\rm H}}{{{M}}^{ - 1}}{{r}},$ ${q_1}({z}) = {({{r}} - {{s}})^{\rm H}}{{{M}}^{ - 1}}({{r}} - {{s}})$ , ${K_x}( \cdot )$ 表示阶数为x的第2类修正Bessel函数。在实际工作环境中，真实的散斑协方差矩阵M往往是未知的，需要从参考单元数据中估计得到，本节会介绍3种不同的协方差矩阵估计方法。

考虑到实际雷达检测环境中有海尖峰的存在，此时海杂波的功率起伏较大，从而导致传统的样本协方差矩阵(Sample Covariance Matrix, SCM)估计性能不稳定。对此，文献[15]中将其功率进行归一化处理，提出了一种归一化样本协方差矩阵(Normalized Sample Covariance Matrix, NSCM)估计方法，其估计值 ${\hat {M}_{\rm NSCM}}$ 表示如下：

式中 ${\rm Tr}\{ {\hat {{M}}_{\rm NSCM}}\} = {\rm Tr}\{ {{M}}\} = m$ 表示协方差矩阵的迹。文献[15,16]中分别介绍了该方法的统计性能及 ${\hat {{M}}_{\rm NSCM}}$ 的渐进无偏性。

NSCM估计方法虽然解决了杂波功率起伏的影响，且计算复杂度较低，但在应用于广义似然比检测器时，其结果对于杂波的协方差矩阵无法保证恒虚警，影响检测性能。

最大似然估计方法^[17]利用包含研究变量的似然函数，对该变量求偏导从而得到使似然函数最大的对应变量值。为此，定义似然函数为N组独立同分布的杂波向量的联合概率密度函数，其表达式如下：

其中，h_m $\buildrel \displaystyle \Delta \over = $ $\int_{0}^{\ +\infty }{{{\tau }^{-m}}\exp (-q/\tau ){{p}_{\tau }}(\tau )\text{d}\tau }$ 为非线性记忆函数。

为了得到散斑协方差矩阵M的最大似然估计值 ${\hat {{M}}_{\rm ML}}$ ，对上式取对数并计算其对矩阵M的偏导得，

其中， ${c_m}(x) = {h_{m + 1}}(x)/{h_m}(x)$ , $i = 0,1,2, \cdots ,{N_{\rm it}}$ 表示迭代次数。

通常最大似然估计方法估计精度较其他估计方法要高，实际研究中相关学者利用式(5)的迭代形式解决了超越方程的无法求解的问题，但也使该方法的计算复杂度大大增加，严重影响雷达的工作效率。

近似最大似然(Approximated Maximum Likelihood, AML)估计方法^[8]针对上述两种估计方法的问题，采用两步一对一最大化的方法，分别对协方差矩阵M及纹理 $\tau $ 进行最大似然估计，最终得到AML估计值 ${\hat {{M}}_{\rm AML}}$ 的迭代公式：

式中 ${d_m}(x) = m/x$ 。上式利用 ${d_m}( \bullet )$ 代替ML估计方法表达式(5)中的 ${c_m}( \bullet )$ ，因后者计算中含有非线性无记忆函数 ${h_m}( \bullet )$ 的积分求解，该步骤大大降低了ML估计的计算复杂度。另外，AML估计方法也改进了NSCM估计中无法保证矩阵恒虚警率的问题。

需要说明的是，式(5)及式(6)两种估计方法的求解均需已知初始矩阵 $\hat {{M}}(0)$ 进而实现迭代。文献[8]中利用 ${\hat {{M}}_{\rm NSCM}}$ 作为迭代初值，即 ${\hat {{M}}_{\rm AML}}(0) = $ ${\hat {{M}}_{\rm ML}}(0) = {\hat {{M}}_{\rm NSCM}}$ ，实验表明两式的迭代收敛关于该初始矩阵很稳定。

针对上述几种协方差矩阵估计方法，需要寻找合适的性能评价方法来比较不同检测环境中各估计结果的误差大小，确保在实际雷达工作中选择最优的估计方法，提高检测性能。

归一化F范数检验作为传统的估计性能评价方法，其主要思想是利用蒙特卡洛方法计算杂波协方差矩阵估计值 $\hat {{M}}$ 与真实值M之间的相对误差的F范数均值并将其归一化，表达式如下：

其中 ${\left\| \bullet \right\|_{\rm F}}$ 表示F范数^[15,18]， $\hat {{M}}$ 可以表示上节中介绍的估计值 ${\hat {{M}}_{\rm NSCM}}$ , ${\hat {{M}}_{\rm ML}}$ 或 ${\hat {{M}}_{\rm AML}}$ 。

观察式(7)可知，该检验方法在实现性能评价时需已知真实协方差矩阵M的大小。考虑到在实际雷达的数据处理中，矩阵M值通常无法得知，此时利用归一化F范数检验方法则无法实现对协方差矩阵估计性能的评价。

为了在杂波协方差矩阵真实值M未知的情况下实现对其估计性能的检验，本文提出了一种适用于实际数据在独立同分布环境中的白化度评价方法。

白化度评价方法来源于雷达目标检测中的白化滤波处理过程，其结构示意图如图1所示。雷达在白化滤波处理中利用杂波的协方差矩阵去除脉冲间的相关性，以便于后续模块中对回波的分离处理及分析，而杂波的协方差矩阵就代表杂波向量中脉冲之间的相关程度。利用真实杂波协方差矩阵M对杂波序列z进行白化处理时，可以完全去除脉冲间的相关性，此时得到白化回波 ${{{z}}_{\rm w}}$ 的白化协方差矩阵 ${{{M}}_{\rm w}}$ 为单位矩阵；若利用杂波协方差矩阵的估计值 $\hat {{M}}$ 代替其真实值M进行白化滤波处理，估计值 $\hat {{M}}$ 越接近于真实值M，白化滤波效果越好，其白化回波 ${\hat {z}_{\rm w}}$ 对应的白化协方差矩阵 ${\hat {{M}}_{\rm w}}$ 越接近单位矩阵 ${{{M}}_{\rm w}}$ 。因此，本文利用白化协方差矩阵 ${\hat {{M}}_{\rm w}}$ 与 ${{{M}}_{\rm w}}$ 间的差别来衡量协方差矩阵估计值 $\hat {{M}}$ 相比于真实值M的误差大小。

图 1(Fig. 1)

图 1 白化度评价结构示意图 Fig.1 Structural representation of WD evaluation

首先利用杂波协方差矩阵的估计值 $\hat {{M}}$ 对实际杂波向量z进行白化滤波处理，得到白化杂波估计值：

式中， $\hat {{M}}$ 可表示前文介绍的 ${\hat {{M}}_{\rm NSCM}}$ , ${\hat {{M}}_{\rm ML}}$ 或 ${\hat {{M}}_{\rm AML}}$ 。为了降低计算复杂度，本文利用经典样本协方差矩阵(SCM)估计方法求得上式杂波的白化协方差矩阵 $ \hat {{M}_{\rm w}}$ ，即

其中， ${\hat {{z}}_{{{\rm w}_{_k}}}}$ 表示白化杂波 ${\hat {{z}}_{\rm w}}$ 中第k组杂波向量，N表示参考距离单元数目。

为了利用数值表示出白化杂波估计值 ${\hat {{z}}_{\rm w}}$ 对应的协方差矩阵 ${\hat {{M}}_{\rm w}}$ 与单位矩阵 ${{{M}}_{\rm w}}$ 之间的偏差程度，可定义杂波的白化度 ${P_{\rm w}}$ 为如下形式：

式中， $|{\hat {{M}}_{\rm w}}{|_{i,j}}$ 表示矩阵 ${\hat {{M}}_{\rm w}}$ 第i行第j列元素的模值， ${\rm Tr}\{ {\hat {{M}}_{\rm w}}\} $ 表示矩阵的迹， $1/(l - 1)$ 为归一化因子，白化度 ${P_{\rm w}} \in [0,1]$ 。该定义利用矩阵 ${\hat {{M}}_{\rm w}}$ 中除对角线外所有元素的模之和与该矩阵迹的归一化比值表示了矩阵 ${\hat {{M}}_{\rm w}}$ 与单位矩阵 ${{{M}}_{\rm w}}$ 的偏差程度，即白化度的大小。式中 ${P_w}$ 越接近于0，表示 ${\hat {{M}}_{\rm w}}$ 越接近于 ${{{M}}_{\rm w}}$ ，推论可知协方差矩阵估计值 $\hat {{M}}$ 越接近于真实值M，估计性能越好；反之， ${P_{\rm w}}$ 越大，估计性能越差。

定义协方差矩阵M的元素满足 ${[{M}]_{i,j}} = {\rho ^{|i - j|}}$ ，其中 $\rho \in [0,1]$ 表示杂波脉冲间的相关系数。仿真一组脉冲数l为8，距离单元数N为24的独立同分布的复合高斯杂波数据，选择其中任意一个距离单元作为待测单元，并添加仿真目标到该距离单元，其余单元上的数据作为辅助数据。

已知相同检测环境下，协方差矩阵估计误差越小，对应检测器的检测概率越大，因此图2对应实验中设定纹理的形状参数为0.5，尺度参数为1，利用式(2)表示的OKD检测器对该仿真数据下的信号进行检测。考虑实际雷达检测中杂波相关系数 $\rho $ 大多介于0.9至0.99之间^[8]，此处设定 $\rho $ =0.9。观察可知，相同信杂比下NSCM估计方法对应的检测概率最小，说明该估计方法的误差最大，而AML与ML估计方法结果差距很小，除少数点外基本满足ML估计方法检测概率更高，即ML估计方法的估计误差基本为最小的。

图 2(Fig. 2)

图 2 3种估计方法的检测概率曲线 Fig.2 Detection probability curves of different estimators

相比于图2的检测概率结果，图3中对应相关系数 $\rho $ 从0到1遍历取值，分别仿真一组复合高斯杂波数据。采用归一化F范数和白化度评价方法分别研究几种协方差矩阵估计方法的估计性能随着相关系数 $\rho $ 的变化趋势。观察可得，在相关系数 $\rho $ =0.9处，两种评价方法均满足ML估计方法精度最高，AML与ML估计方法的性能差距很小，NSCM估计方法性能最差，说明白化度评价方法的评价结果与图2中检测器的结果一致。此外，对比图3中两组曲线可知，图3(a)中3条曲线在相关系数 $\rho $ 约为0.72时相交， $\rho $ >0.72时，AML和ML估计性能较好，这与估计性能的理论结果相符，而 $\rho $ <0.72时，NSCM估计性能比ML估计性能还要好，该结论不符合理论结果。这也说明，传统的归一化F范数的估计性能评价方法在相关系数 $\rho $ 较小时无法提供准确评价结果。相反，图3(b)中ML估计方法的白化度值一直最小，即该估计方法的估计性能最好，与理论结果不矛盾，该结论再次说明了本文评价方法的可靠性。

图 3(Fig. 3)

图 3 归一化F范数及白化度评价方法的性能对比 Fig.3 Performance comparison between NFN and WD evaluation

利用南非X-波段实测数据(TFC15_001.mat～TFC15_019.mat)验证白化度评价方法对协方差矩阵估计性能评价结果与检测概率一致。

首先随机选取其中3组数据，TFC15_001.mat, TFC15_005.mat及TFC15_007.mat，分别计算出白化度及检测概率的对应曲线，如图4。其中，图4(a)～图4(c)中设定参考单元数N=2l, l为杂波脉冲数从4到16遍历取值，得到3组数据的白化度随脉冲数的变化曲线，可见所有曲线除满足随着脉冲数增加白化度值降低之外，都符合ML估计性能优于AML估计，NSCM估计最差的规律。另设定脉冲数为8，依次得到3组数据的检测概率随信杂比的变化曲线，如图4(d)～图4(f)所示。观察可知，3组曲线均满足ML估计检测概率最高，AML估计次之，NSCM最差，即对于同组数据检测概率的结果与图4(a)～图4(c)中白化度评价结果对应一致。

图 4(Fig. 4)

图 4 3组实测数据的白化度及检测概率对比曲线 Fig.4 WD and detection probability of different datasets

为更直观验证上述结论，图5(a)选定杂波脉冲数为8得出全部19组数据的白化度值，并计算信杂比为0 dB时各组数据对应的检测概率如图5(b)所示。观察可知，各组数据均满足白化度值越小，对应的估计方法的检测概率越大，即针对于实测数据，本文介绍的白化度评价方法的性能检测结果与检测器结果一致。

图 5(Fig. 5)

图 5 19组数据白化度及检测概率对比图 Fig.5 WD and detection probability of all datasets

本文介绍了雷达自适应检测中的几种协方差矩阵估计方法并分析了其优缺点。考虑到归一化F范数作为传统协方差矩阵估计误差的评价方法存在必须已知真实协方差矩阵值的缺陷，本文提出一种白化度评价方法实现对估计误差的检验。实验结果表明，该评价方法在实际雷达检测中具有检验结果的一致性并且有效的避免了传统的估计性能检验方法在实测数据处理中的局限性。