最小二乘法回归系数
05-27
最小二乘法回归系数
在我们研究两个变量（x, y）之间的相互关系时，通常可以得到一系列成对的数据（x1,y1.x2,y2... xm, ym）；将这些数据描绘在x -y直角坐标系中，若发现这些点在一条直线附近，可以令这条直线方程如下：
（式1-1)
其中：a0、a1 是任意实数
为建立这直线方程就要确定a0和a1，应用《最小二乘法原理》，将实测值Yi 与利用（式1-1）计算值（Yj=a0+a1X）的离差（Yi-Yj ）的平方和
最小为“优化判据”。
令：φ =（式1-2)
把（式1-1）代入（式1-2）中得：
φ =（式1-3)
当
零。 最小时，可用函数 φ 对a0、a1求偏导数，令这两个偏导数等于
∑2（a0 + a1*Xi - Yi）=0（式1-4)
∑2*Xi（a0 + a1*Xi - Yi）=0（式1-5)
亦即：
na0 + （∑Xi ) a1 = ∑Yi （式1-6)
（∑Xi ) a0 + （∑Xi^2 ) a1 = ∑（Xi*Yi) （式1-7) 得到的两个关于a0、 a1为未知数的两个方程组，解这两个方程组得出： a0 = （∑Yi) / n - a1（∑Xi) / n （式1-8)
a1 = [n∑Xi Yi - （∑Xi ∑Yi)] / [n∑Xi2 - （∑Xi)2 )] （式1-9)
这时把a0、a1代入（式1-1）中， 此时的(式1-1）就是我们回归的元线性方程即：数学模型。