- 上一篇：正定二次型的性质及其应用
- 下一篇：初等变换的应用
1. 预备知识
1.1 一元线性回归
一元线性回归模型是最简单的回归模型.它虽简单,却可以通过其模型的建立了解到回归分析方法的基本思想和应用原理.
1.1.1 一元线性回归分析的基本原理和方法
我们可以用一条直线来表示 和 之间的关系,并且借助最小二乘法,可以得到一元线性回归的回归方程
又叫做回归方程的回归系数.
下面根据最小二乘法原则来确定 的取值.
对任意一个 ,回归值 可通过回归方程来确定.回归值 与实际观测值 之差 描述了 对于回归直线 的偏离程度.对所有的 ,若 对于 的偏离程度越小,那么直线与所有的试验点拟合得也就越好. 与 的偏离平方和为
由最小二乘法可知若要使Q达到极小值,只需求得上式对 的偏导,且使其为零,就可以推导出 的值
其中 , 分别表示 , 的算术平均值.
1.1.2 决定系数
利用最小二乘法可以求出来一个值,使得因变量的观察值 与因变量的预测值 之间的离差平方和最小的a和b值. 与 之差就是以 估计 产生的误差；第 个观察值的离差是 ,此差值被称为第 个残差.所以,最小二乘法中所处理的平方和,也常常被称为误差平方和或者残差平方和,用SSE来表示.
所以,若回归平方和与总离差平方和之比越大,也就说线性回归的效果越好,同时还表明拟合优度也就越好.