最佳线性无偏估计BLUE

1、定义：线性估计是参数估计最重要的一类，应用 广泛。如果对参数x 的估计可以表示成为量测信 息的线性函数就是线性估计。而线性无偏最小方差估计称为BLUE ( Best Linear Unbiased Estimation)。
2、定理：如果量测信息的协方差矩阵是非奇异的，对于任意分布的量测 z 和参数 x，有线性无偏最小方差估计为：
x^BLUE=x¯+RxzR−1zz(z−z¯)x^BLUE=x¯+RxzRzz−1(z−z¯)<script type="math/tex" id="MathJax-Element-8971">\hat{x}_{BLUE} = \bar{x}+R_{xz}R^{-1}_{zz}(z-\bar{z})</script>
同时得到最佳线性估计估计量方差：
P=cov(x~)=Rxx−R−1xzRzxP=cov(x~)=Rxx−Rxz−1Rzx<script type="math/tex" id="MathJax-Element-8972">P=cov(\tilde{x})=R_{xx}-R^{-1}_{xz}R_{zx}</script>
假设线性观测方程为：x^=a+B⋅zx^=a+B⋅z<script type="math/tex" id="MathJax-Element-8973">\hat{x}=a + B\cdot z</script>实际应用中需要待估与计算线性观测的标量aa<script type="math/tex" id="MathJax-Element-8974">a</script>和矩阵B，使得估计量x~(N) ${\tilde{x}}^{(N)}$<script type="math/tex" id="MathJax-Element-8975">\tilde{x}^{(N)}</script>的方差最小。
⎧⎩⎨ E{x^}=E(x)=x¯⋅⋅⋅Unbiased(无偏性) mina,BE{(x(N)−x)(x^(N)−x)T^}⋅⋅⋅MMSE(最小均方误差){ E{x^}=E(x)=x¯⋅⋅⋅Unbiased(无偏性) mina,BE{(x(N)−x)(x^(N)−x)T^}⋅⋅⋅MMSE(最小均方误差)<script type="math/tex" id="MathJax-Element-8976"> \begin{cases} \ E\{\hat{x}\}=E(x)=\bar{x}\quad\quad\quad\quad\quad\quad\cdot\cdot\cdot Unbiased(无偏性) \\ \ \min\limits_{a,B}E\{(\hat{x^{(N)}-x)(\hat{x}^{(N)}-x)^{T}}\}\quad \cdot\cdot\cdot MMSE(最小均方误差) \end{cases} </script>

⇒⇒<script type="math/tex" id="MathJax-Element-8977">\Rightarrow</script>

Bopt=RxzR−1zz,aopt=E(x)−Bopt⋅E(z)Bopt=RxzRzz−1,aopt=E(x)−Bopt⋅E(z)<script type="math/tex" id="MathJax-Element-8978">B_{opt}=R_{xz}R^{-1}_{zz}, a_{opt}=E(x)-B_{opt}\cdot E(z)</script>

证明：

在BLUE估计中只需要知道未知参数x和观测矢量z的前二阶统计量（均值、方差和协方差）。
由于BLUE算法要求在线性观测方程下，要求估计量在均方意义下误差最小，所以又称最小均方估计LMMS(Linear Minimum mean square error estimation)。

推论：在未知参数与观测噪声统计独立条件下最佳线性估计的线性模型估计

• 对于满足线性观测方程的未知参数x与观测量z的关系可表示为：z=Hx+v,vz=Hx+v,v<script type="math/tex" id="MathJax-Element-8979">z=Hx+v,v</script>为观测噪声，同时，假定参数x与观测噪声v统计独立。已知未知参数x与观测z的前二阶统计量，假设为:E(v)=0E(v,v)=GvE(x,v)=0E(v)=0E(v,v)=GvE(x,v)=0<script type="math/tex" id="MathJax-Element-8980">E(v)=0\quad E(v,v)=G_{v} \quad E(x,v)=0</script>

• 计算未知参数x与观测量z的统计量：
  E(z)=E(Hx+v)=H⋅E(x)E(z)=E(Hx+v)=H⋅E(x)<script type="math/tex" id="MathJax-Element-8981">E(z)=E(Hx+v)=H\cdot E(x)</script>
  Rzz=E{(z−E(z))(z−E(z))T}=HRxxHT+Gv(加性噪声，所以方差直接叠加)Rzz=E{(z−E(z))(z−E(z))T}=HRxxHT+Gv(加性噪声，所以方差直接叠加)<script type="math/tex" id="MathJax-Element-8982">R_{zz}=E\{(z-E(z))(z-E(z))^{T}\}=HR_{xx}H^{T}+G_{v}(加性噪声，所以方差直接叠加)</script>
  Rxz=E{(x−E(x))(z−E(z))T}=RxxHTRxz=E{(x−E(x))(z−E(z))T}=RxxHT<script type="math/tex" id="MathJax-Element-8983">R_{xz}=E\{(x-E(x))(z-E(z))^{T}\}=R_{xx}H^{T}</script>
  将以上公式代入可最佳线性估计估计量方差：
  
  举例如下：