新浪博客

一元线性回归(总结)

2013-07-16 11:15阅读:
定义:回归分析是研究X月与y之间的关系的一种统计方法。即当给定x的值时,y的值不能确定只能通过一定的概率分布来描述。 f(x)=E(y|x)。
回归分析的内容包括:线性表回归,回归诊断,回归变量的选择,参数估计方法的改进(岭回归、主成分回归、偏最小二乘法),非线性回归,含有定性变量的回归。
做回归给分析之前,绘出散点图可以看出 y与x的关系。
一元线性回归: 一元线性回归(总结)
一元线性回归(总结)
参数估计:普通最小二乘估计和最大似然估计 回归方程的显著性检验:
1.t检验时检验回归系数的显著性。原假设是系数为0.
若P值<=a,拒绝原假设。否则接受原假设。
2.F检验:检验回归方程的显著性。
将总偏差平方和进行分解。
一元线性回归(总结)
一元线性回归(总结)
残差分析:
一个线性回归方程通过了t检验和F检验,只能说明x与y之间的线性关系是显著的,或者说线性回归方程是有效的,但不能保证数据拟合的很好,不能排除由于意外原因而导致的数据不完全可靠,比如有异常值出现,周期性因素的干扰。只有但残差项满足相关的假定,我们才可以用模型做预测。
一元线性回归(总结)
应用残差图可以帮助我们检验相关的假定。
以自变量x为横轴以残差做纵轴,就可以绘出残差图。
如何判断:一般人为如果一个回归模型满足所给出的基本假定,所有残差应该在残差=0的附近随机变化,并在变化幅度不大的一条带子里。
一元线性回归(总结)
一元线性回归(总结)
一元线性回归(总结)
一元线性回归(总结)
改进的残差:
考虑到普通残差的方差不等,用残差做判断和比较会带来一些困难。引入:
标准化残差ZRE
当|ZRE|>3的相应的观测值为异常值。但标准化残差未解决方差不等的情况。引入学生化残差。
当|SRE|>3的相应观测值为异常值。

我的更多文章

下载客户端阅读体验更佳

APP专享