新浪博客

最小二乘估计量的统计性质

2016-09-15 12:52阅读:
最小二乘估计量的统计性质
考察总体的估计量,可从如下几个方面考察其优劣性:
1)线性性,即它是否是另一个随机变量的线性函数;
2)无偏性,即它的均值或期望是否等于总体的真实值;
3)有效值,即它是否在所有线性无偏估计量中具有最小方差;
4)渐进无偏性,即样本容量趋于无穷大时,它的均值序列是否趋于总体真值;
5)一致性,即样本容量趋于无穷大时,它是否依概率收敛于总体的真值;
6)渐进有效性,即样本容量趋于无穷大时,它在所有的一致估计量中是否具有最小的渐进方差。
这里,前三个准则也称作估计量的有限样本性质或小样本性质(small-sample properties,因为一旦某估计量具有该性质,它是不以样本的大小而改变的。拥有这类性质的估计量称为最佳线性无偏估计量Best Linear Unbiased EstimatorBLUE)。
当然,在有限样本情形下,有时很难找到最佳线性无偏估计量,这时就需要考察样本容量无限增大时估计量的渐进性质。
后三个准则称为估计量的无限样本性质或大样本渐进性质large-sample asymptotic prop
erties)。如果有限样本情况下不能满足估计的准则,则应扩大样本容量,考虑参数估计量的大样本性质。
需要说明的是,从估计量统计性质的角度看,无偏性与有效性是小样本性质中最为重要的两个性质,线性性并不是必须的;而在大样本性质中,由于问题较为复杂,人们更多地关注一致性。普通最小二乘法具有线性性、无偏性和有效性,是最佳线性无偏估计量,这就是著名的高斯-马尔科夫定理(Gauss-Markov theorem

我的更多文章

下载客户端阅读体验更佳

APP专享