一元线性回归案例
8.5一元线性回归案例
一、教学内容与教学对象分析
学生将在必修课程学习统计的基础上,通过对典型案例的讨论,了解和使用一些常用的统计方法,进一步体会运用统计方法解决实际问题的基本思想,认识统计方法在决策中的作用。
二、学习目标
1、知识与技能
通过本节的学习,了解回归分析的基本思想,会对两个变量进行回归分析,明确建立回归模型的基本步骤,并对具体问题进行回归分析,解决实际应用问题。
2、过程与方法 本节的学习,应该让学生通过实际问题去理解回归分析的必要性,明确回归分析的基本思想,从散点图中点的分布上我们发现直接求回归直线方程存在明显的不足,从中引导学生去发现解决问题的新思路—进行回归分析,进而介绍残差分析的方法和利用R的平方来表示解释变量对于预报变量变化的贡献率,从中选择较为合理的回归方程,最后是建立回归模型基本步骤。
3、情感、态度与价值观 通过本节课的学习,首先让显示了解回归分析的必要性和回归分析的基本思想,明确回归分析的基本方法和基本步骤,培养我们利用整体的观点和互相联系的观点,来分析问题,进一步加强数学的应用意识,培养学生学好数学、用好数学的信心。加强与现实生活的联系,以科学的态度评价两个变量的相关系。教学中适当地增加学生合作与交流的机会,多从实际生活中找出例子,使学生在学习的同时。体会与他人合作的重要性,理解处理问题的方法与结论的联系,形成实事求是的严谨的治学态度和锲而不舍的求学精神。培养学生运用所学知识,解决实际问题的能力。 三、教学重点、难点
教学重点:熟练掌握回归分析的步骤;各相关指数、建立回归模型的步骤;通过探究使学生体会有些非线性模型通过变换可以转化为线性回归模型,了解在解决实际问题的过程中寻找更好的模型的方法。
教学难点:求回归系数 a , b ;相关指数的计算、残差分析;了解常用函数的图象特点,选择不同的模型建模,并通过比较相关指数对不同的模型进行比较。 四、教学策略:
教学方法:诱思探究教学法
学习方法:自主探究、观察发现、合作交流、归纳总结。 教学手段:多媒体辅助教学 五、教学过程: (一)、复习引入:回归分析是对具有相关关系的两个变量进行统计分析的一种常用方法。 (二)、新课:
探究:对于一组具有线性相关关系的数据:
(x1,y1) , (x2,y2) ,„, (xn,yn),
我们知道其回归方程的截距和斜率的最小二乘估计公式分别为:
x a (1)
b
y(x)(
i
i
i1
n
)
(2)
(x)
i
i1
n
2
1n1n
其中xi,yyi,(,y)成为样本点的中心.
ni1ni1
注:回归直线过样本中心.
你能推导出这两个计算公式吗?
和斜率b分别是使 从我们已经学过的知识知道,截距a
Q(,)
i1
n
y(ibxia2)
取到最小值时,的值. 由于 Q(,)
n
i1
n
y[ixiy(x)y(x)2 ]
{[yixi(yx)]22[yixi(yx)][(yx)][(yx)]2}
i1n
[yixi(yx)]2[yixi(yx)](yx)n[(yx)]2
2
i1
i1
n
注意到
[yx(yx)](yx)
i
i
i1
n
(yx)[yixi(yx)]
i1
n
(yx)[yixin(yx)]
i1
i1
nn
(yx)[nynxn(yx)]0.
Q(,)[yixi(yx)]2n(yx)2
i1n
2
(xx)
i
i1
n
2
2(xix)(yiy)(yiy)2n(yx)2
i1
i1
nn
n(yx)(xix)[
2
2
i1
n
(xx)(yy)
i
i
i1
n
(xx)
i
i1
n
]
2
[(xix)(yiy)]2
i1
n
2
(xx)
i
i1
n
2
(yiy)2
i1
n
在上式中,后两项和,无关,而前两项为非负数,因此要使Q取得最小值,当且仅当前两项的值均为0,即有
xyi
i
i1
n
x
i1
n
,.
2i
2
这正是我们所要推导的公式.
下面我们从另一个角度来推导的公式. 人教A版选修2-2P37习题1.4A组第4题:
用测量工具测量某物体的长度,由于工具的精度以及测量技术的原因,测得n个数据
a1,a2,,an .
1n
证明:用这个数据的平均值xai
ni1
表示这个物体的长度,能使这n个数据的方差
1n
f(x)(xai)2
ni1
最小.
思考:这个结果说明了什么?通过这个问题,你能说明最小二乘法的基本原理吗?
1n2
证明:由于f(x)(xai),所以
ni12n
f(x)(xai),
ni1
'
1n
令f(x)0, 得xai。
ni1
'
1n
可以得到, xai是函数f(x)的极小值点,也是最小值点.
ni1
1n
这个结果说明,用n个数据的平均值ai表示这个物体的长度是合理的,这就是最
ni1
小二乘法的基本原理.
由最小二乘法的基本原理即得
x1x2xn
,则
n
11
[(xx1)2(xx2)2(xxn)2][(xx1)2(xx2)2(xxn)2]s2 (*) nn
xx2xn
当且仅当xx1时取等号.
n
xx2xn
(*)式说明, x1是任何一个实数x与x1,x2,,xn的差的平方的平均
n
定理 设xR,x
数中最小的数.从而说明了方差具有最小性,也即定义标准差的合理性.
下面借助(*)式求Q(y1bx1a)2(y2bx2a)2(ynbxna)2的最小值.
(y1bx1)(y2bx2)(ynbxn)
n
yy2ynxxxn1b12ybx,
nn
由(*)式知,
Q[a(y1bx1)]2[a(y2bx2)]2[a(ynbxn)]2
[(ybx)(y1bx1)]2[(ybx)(y2bx2)]2[(ybx)(ynbxn)]2 [(x1x)b(y1y)]2[(x2x)b(y2y)]2[(xnx)b(yny)]2
(xix)b2(xix)(yiy)b(yiy)2
2
2
i1
i1
i1
n
nnn
(xix)2[b
i1
(xx)(yy)
i
i
i1
n
(xx)
i
i1n
i
i
i1
n
n
2
]2(yiy)2
i1
n
[(xix)(yiy)]2
i1
n
(xx)
i
i1ni1
n
n
2
(xix)2[b
i1
n
(xx)(yy)(xx)
i
i1n
n
2
]2(yiy)2
i1
n
[(xix)(yiy)]2
2
i
(xx)
i1
(yiy)2
i1n
n
n
[(xix)(yiy)]2
i1
2
i
(xx)
i1
2
n
i
i12
n
(xx)(yy)
2
i
i1
i1
i1
[(xix)(yiy)]2
(xx)
i
n
当且仅当aybx,且b
(xx)(yy)xynxy
i
i
ii
i1
n
(xx)
i
i1
n
2
i1
n
x
i1
2
i
nx
2
时, Q达到最小值
(xx)(yy)
2
i
i
i1
i1
ni1
nn
2
[(xix)(yiy)]2
i12
n
.
(xx)
i
n
(xi)(yi)
bi1n
由此得到,2
(x)i
i1
ab.
x
i1
n
n
i
yin,
其中b是回归直线的斜率,a
xi2n2
i1
是截距.
借助||a||b|||ab||a||b|和配方法,我们给出了人教A版必修3的第二章统计第三节变量间的相关关系中回归直线方程ybxa的一个合理的解释.
1、回归分析的基本步骤:
(1) 画出两个变量的散点图. (2) 求回归直线方程.
(3) 用回归直线方程进行预报.
下面我们通过案例,进一步学习回归分析的基本思想及其应用. 2、举例:
例1
求根据女大学生的身高预报体重的回归方程,并预报一名身高为 172 cm 的女大学生的体重.
解:由于问题中要求根据身高预报体重,因此选取身高为自变量 x ,体重为因变量 y . 作散点图(图3 . 1 一 1)
从图3. 1一1 中可以看出,样本点呈条状分布,身高和体重有比较好的线性相关关系,因此可以用线性回归方程来近似刻画它们之间的关系.
ˆ0.849,aˆ85.712. 根据探究中的公式(1)和(2 ) ,可以得到b
于是得到回归方程
y0849x85.712.
因此,对于身高172 cm 的女大学生,由回归方程可以预报其体重为
y084917285.71260.316 ( kg ) .
ˆ0.849是斜率的估计值,说明身高 x 每增加1个单位时,体重y就增加0.849 位,b
这表明体重与身高具有正的线性相关关系.如何描述它们之间线性相关关系的强弱?
在必修 3 中,我们介绍了用相关系数;来衡量两个变量之间线性相关关系的方法.本相关系数的具体计算公式为
r
x
y
i
i
n
当r>0时,表明两个变量正相关;当r
1,表明两个变量的线性相关性越强;r的绝对值接近于0时,表明两个变量之间几乎不存在线性相关关系.通常,当r的绝对值大于0. 75 时认为两个变量有很强的线性相关关系.
在本例中,可以计算出r =0. 798.这表明体重与身高有很强的线性相关关系,从而也表明我们建立的回归模型是有意义的.
显然,身高172cm 的女大学生的体重不一定是60. 316 kg,但一般可以认为她的体重接近于60 . 316 kg .图3 . 1 一 2 中的样本点和回归直线的相互位置说明了这一点.
由于所有的样本点不共线,而只是散布在某一条直线的附近,所以身高和体重的关系可用下面的线性回归模型来表示:
ybxae, ( 3 )
这里 a 和 b 为模型的未知参数,e是 y 与通常e为随机变量,ybxa之间的误差.称为随机误差,它的均值 E (e)=0,方差D(e)=D(e)>0 .这样线性回归模型的完整表达式为:
2
ybxae,
(4) 2
E(e)0,D(e).
在线性回归模型(4)中,随机误差e的方差护越小,通过回归直线
ybxa (5)
预报真实值y的精度越高.随机误差是引起预报值y与真实值 y 之间的误差的原因之一,大小取决于随机误差的方差.
和b为截距和斜率的估计值,它们与真实值a另一方面,由于公式(1)和(2)中a
和b之间也存在误差,这种误差是引起预报值y与真实值y之间误差的另一个原因.
思考:产生随机误差项e的原因是什么?
一个人的体重值除了受身高的影响外,还受许多其他因素的影响.例如饮食习惯、是否喜欢运动、度量误差等.事实上,我们无法知道身高和体重之间的确切关系是什么,这里只是利用线性回归方程来近似这种关系.这种近似以及上面提到的影响因素都是产生随机误差 e 的原因.
因为随机误差是随机变量,所以可以通过这个随机变量的数字特征来刻画它的一些总体特征.均值是反映随机变量取值平均水平的数字特征,方差是反映随机变量集中于均值程度的数字特征,而随机误差的均值为0,因此可以用方差来衡量随机误差的大小. 为了衡量预报的精度,需要估计护的值.一个自然的想法是通过样本方差来估计总体方差.如何得到随机变量e的样本呢?由于模型(3)或(4)中的e隐含在预报变量 y 中,我们无法精确地把它从 y 中分离出来,因此也就无法得到随机变量e的样本.
解决问题的途径是通过样本的估计值来估计.根据截距和斜率的估计公式(1)和(2 ) , 可以建立回归方程
2
2
ybxa,
yy是e的估计量.对于因此y是(5)中y的估计量.由于随机误差eyy,所以e
样本点(x1,y1) , (x2,y2) ,„, (xn,yn) 而言,相应于它们的随机误差为
eiyiyiyibxia,i1,2,,n,
其估计值为
ya,i1,2,,n, eyiyibxiii
称为相应于点(x,y)的残差(residual ).类比样本方差估计总体方差的思想,可以用 eiii
1n212,b)(n2) eiQ(an2i1n2
和b由公式(1) (2)给出,Q(a ,b)称为残差平方和(residual 作为的估计量, 其中a
2
sum of squares ).可以用2衡量回归方程的预报精度.通常,2越小,预报精度越高. 在研究两个变量间的关系时,首先要根据散点图来粗略判断它们是否线性相关,是否可以用线性回归模型来拟合数据.然后,可以通过残差
,e e12,,en
来判断模型拟合的效果,判断原始数据中是否存在可疑数据.这方面的分析工作称为残差分析.表3一 2 列出了女大学生身高和体重的原始数据以及相应的残差数据.
我们可以利用图形来分析残差特性作图时纵坐标为残差,横坐标可以选为样本编号,或
身高数据,或体重的估计值等,这样作出的图形称为残差图.图 3 . 1 一 3 是以样本编号为横坐标的残差图.
从图3 . 1 一 3 中可以看出,第 1 个样本点和第 6 个样本点的残差比较大,需要确认在采集这两个样本点的过程中是否有人为的错误.如果数据采集有错误,就予以纠正,然后再重新利用线性回归模型拟合数据;如果数据采集没有错误,则需要寻找其他的原因.另外,残差点比较均匀地落在水平的带状区域中,说明选用的模型比较合适.这样的带状区域的宽度越窄,说明模型拟合精度越高,回归方程的预报精度越高.另外,我们还可以用相关指数
R2来刻画回归的效果,其计算公式是:
R21
y)(y
i
i
n
2
(y)
i
i12
i1
n
2
显然,R取值越大,意味着残差平方和越小,也就是说模型的拟合效果越好.在线性回归模型中,R表示解释变量对于预报变量变化的贡献率. R越接近于1,表示回归的效果越好(因为R越接近于1,表示解释变量和预报变量的线性相关性越强).如果对某组数据可能采取几种不同的回归方程进行回归分析,也可以通过比较几个R,选择R大的模型作为这组数据的模型.
在例 1 中,R=0. 64 ,表明“女大学生的身高解释了64 %的体重变化”,或者说“女大学生的体重差异有 64 %是由身高引起的”.
用身高预报体重时,需要注意下列问题:
2
2
2
22
2
1.回归方程只适用于我们所研究的样本的总体.例如,不能用女大学生的身高和体重之间的回归方程,描述女运动员的身高和体重之间的关系.同样,不能用生长在南方多雨地区的树木的高与直径之间的回归方程,描述北方干旱地区的树木的高与直径之间的关系.
2.我们所建立的回归方程一般都有时间性.例如,不能用 20 世纪 80 年代的身高体重数据所建立的回归方程,描述现在的身高和体重之间的关系.
3.样本取值的范围会影响回归方程的适用范围.例如,我们的回归方程是由女大学生身高和体重数据建立的,那么用它来描述一个人幼儿时期的身高和体重之间的关系就不恰当(即在回归方程中,解释变量 x 的样本的取值范围为[155cm,170cm〕 ,而用这个方程计算 x-70cm 时的y值,显然不合适.)
4.不能期望回归方程得到的预报值就是预报变量的精确值.事实上,它是预报变量的可能取值的平均值.
一般地,建立回归模型的基本步骤为:
(1)确定研究对象,明确哪个变量是解释变量,哪个变量是预报变量;
(2)画出确定好的解释变量和预报变量的散点图,观察它们之间的关系(如是否存在线性关系等) ;
(3)由经验确定回归方程的类型(如我们观察到数据呈线性关系,则选用线性回归方程 y=bx+a ) ;
(4)按一定规则估计回归方程中的参数(如最小二乘法);
(5)得出结果后分析残差图是否有异常(个别数据对应残差过大,或残差呈现不随机的
探究:
方案1(学生实施):
(1)选择变量,画散点图。
(2)通过计算器求得线性回归方程:y=19.87x-463.73
(3)进行回归分析和预测: R2=r2≈0.8642=0.7464 预测当气温为28 时,产卵数为92个。这个线性回归模型中温度解释了74.64%产卵数的变化。
困惑:随着自变量的增加,因变量也随之增加,气温为28 时,估计产卵数应该低于66个,但是从推算的结果来看92个比66个却多了26个,是什么原因造成的呢?
方案2:
(1)找到变量t=x 2,将y=bx2+a转化成y=bt+a;
(2)利用计算器计算出y和t的线性回归方程:y=0.367t-202.54 (3)转换回y和x的模型: (4)y=0.367x2 -202.54
(5)计算相关指数R2≈0.802这个回归模型中温度解释了80.2%产卵数的变化。 预测:当气温为28 时,产卵数为85个。
困惑:比66还多19个,是否还有更适合的模型呢? 方案3: (1)作变换z=lgy,将yc1102转化成z=c2x+lgc1(线性模型)。
cx
(2)利用计算器计算出z和x的线性回归方程: z=0.118x-1.672 (3)转换回y和x的模型:y100.118x1.672
(4)计算相关指数R2≈0.985这个回归模型中温度解释了98.5%产卵数的变化。
预测:当气温为28 时,产卵数为4 2个。 解:根据收集的数据作散点图(图3. 1一
4 ) .
在散点图中,样本点并没有分布在某个带状区域内,因此两个变量不呈线性相关关系,所以不能直接利用线性回归方程来建立两个变量之间的关系.根据已有的函数知识,可以发现样本点分布在某一条指数函数曲线yc1e2的周围,其中c1和c2是待定参数.现在,问题变为如何估计待定参数c1和c2.我们可以通过对数变换把指数关系变为线性关系.令
cx
zlny,则变换后样本点应该分布在直线zbxa(alnc1,blnc1)的周围.这样,就
可以利用线性回归模型来建立 y 和 x 之间的非线性回归方程了.
由表3一3 的数据可以得到变换后的样本数据表 3一4 ,图3.1一5 给出了表 3 一 4 中数据的散点图.从图3.1一5 中可以看出,变换后的样本点分布在一条直线的附近,因此
0.272x3.849. z
因此红铃虫的产卵数对温度的非线性回归方程为
(1)ye0.272x3.849. ( 6 )
另一方面,可以认为图3. 1一4 中样本点集中在某二次曲线yc3x2c4的附近,其中c3和c4为待定参数.因此可以对温度变量做变换,即令tx,然后建立y与t之间的线性回归方程,从而得到y与x之间的非线性回归方程.表3一5 是红铃虫的产卵数和对应的温度的平方,图3 . 1一6 是相应的散点图.
2
从图3.1一6 中可以看出,y与t的散点图并不分布在一条直线的周围,因此不宜用线性回归方程来拟合它,即不宜用二次曲线yc3xc4来拟合 y 和 x 之间的关系.这个结论还可以通过残差分析得到,下面介绍具体方法.
为比较两个不同模型的残差,需要建立两个相应的回归方程.前面我们已经建立了y 关于x 的指数回归方程,下面建立y关于x的二次回归方程.用线性回归模型拟合表 3 一 5 中的数据,得到 y 关于 t 的线性回归方程
(2)y0.367t202.543,
2
即 y 关于 x 的二次回归方程为
(2)y0.367x2202.543 . ( 7 )
可以通过残差来比较两个回归方程( 6 )和( 7 )的拟合效果.用 xi表示表3一3 中第 1 行第 i 列的数据,则回归方程( 6 )和( 7 )的残差计算公式分别为
(1)(1)
0.2x72 eiyiyiyie
3.849
,i1,2,,7;
(2)
(2)yeyyi0.367x2202.543,i1,2,,7. iii
表3一6 给出了原始数据及相应的两个回归方程的残差.从表中的数据可以看出模型 ( 6 )的残差的绝对值显然比模型( 7 )的残差的绝对值小,因此模型( 6 )的拟合效果比模型(
在一般情况下,比较两个模型的残差比较困难.原因是在某些样本点上一个模型的残差
的绝对值比另一个模型的小,而另一些样本点的情况则相反.这时可以通过比较两个模型的残差平方和的大小来判断模型的拟合效果.残差平方和越小的模型,拟合的效果越好.由表 3 一 6 容易算出模型( 6 )和( 7 )的残差平方和分别为
(1)(2)Q1550.538,Q15448.431.
因此模型(6)的拟合效果远远优于模型(7).
类似地,还可以用尸来比较两个模型的拟合效果,R2越大,拟合的效果越好.由表 3 一 6 容易算出模型(6)和(7)的R2分别约为 0 . 98 和 0 . 80 ,因此模型( 6 )的效果好于模型(7) 的效果.
对于给定的样本点(x1,y1) , (x2,y2) ,„, (xn,yn),两个含有未知参数的模型
(1)(2)yf(x,a)和yg(x,b),
其中 a 和 b 都是未知参数.可以按如下的步骤来比较它们的拟合效果:
(1)分别建立对应于两个模型的回归方程y分别是参数a和b的估计值;
(1)(1)
2(2)分别计算两个回归方程的残差平方和Q(yiyi)与
i1n
(1)
(2)
和b其中af(x,a)与yg(x,b), ,
(2)
(2)(yQyii)2;
i1
n
(1)(2)QQ( s )若(1)(2)(1)
)的yf(x,a)yg(x,b)yf(x,a,则的效果比的好;反之,
y效果不如
(2)
)的好. g(x,b
例2:(提示后做练习、作业)研究某灌溉渠道水的流速y与水深x之间的关系,测得
一组数据如下:
1.40 1.50 1.60 1.70 1.80 1.90 2.00 2.10 水深xm
1.70 1.79 1.88 1.95 2.03 2.10 2.16 2.21 流速
ym/s
(1)求y对x的回归直线方程;
(2)预测水深为1。95m 时水的流速是多少?
解:依题意,把温度作为解释变量x ,产卵个数y作为预报变量 , 作散点图,由观察知两个变量不呈线性相关关系。但样本点分布在某一条指数函数 y=c1ec2 x 周围.
令 z=lny , a=lnc1 , b=c2 则 z=bx+a 此时可用线性回归来拟合 z=0.272x-3.843
因此红铃虫的产卵数对温度的非线性回归方程为 Y=e0.272x-3.843.
3、从上节课的例1提出的问题引入线性回归模型: Y=bx+a+e 解释变量x
预报变量y
随机误差 e 4、(1) 相关指数: 相关系数 r (公式) , r>0 正相关. R
R绝对值接近于1相关性强接 r绝对值 近于0 相关性几乎无
2总偏差平方和 : yi
1
n
2
ˆi=yi-yˆi 3残差 e
ˆi 4残差平方和 yiy
1n
2
5回归平方和 = 总偏差平方和 - 残差平方和6回归效果的相关指数R21
ˆiyiy
n
2
1
n1
yi
2
7残差分析通过残差判断模型拟合效果判断原始数据是否存在可疑数据
5、回忆建立模型的基本步骤 例2 问题背景分析 画散点图。察散点图,分析解释变量与预报变量更可能是什么函数关系。 ③ 学生讨论后建立自己的模型 ④ 引导学生探究如果不是线性回归模型如何估计参数。能否利用回归模型 通过探究体会有些不是线性的模型通过变换可以转化为线性模型 ⑤ 对数据进行变
换后,对数据(新)建立线性模型 ⑥ 转化为原来的变量模型,并通过计算相关指数比较几个不同模型的拟合效果 ⑦ 总结建模的思想。鼓励学生大胆创新。 ⑧ 布置课后作业: 习题1.1 1、
6、复习与巩固:练习1:某班5名学生的数学和化学成绩如下表所示,对x与y进行回归分析,并预报某学生数学成绩为75分时,他的化学成绩。
A B C D E
88 76 73 66 63 数学x
78 65 71 64 61 化学y
解略。
练习2:某医院用光电比色计检验尿汞时,得尿汞含量 (mg/l) 与消光系数的结果如
下:
(1)求回归方程。(2)求相关指数R2。
解:略。
(三) 课堂小结 1.知识梳理:
2规律小结:(1)回归直线方程;(2)样本相关系数;(3)样本残差分析;(4)样本指数; (5)建立回归模型的基本步骤。 (四) 作业:见〈〈一日一练〉〉 (五) 课后反思:
本节内容对回归分析的探讨过程很精彩,学生讨论很热烈,激发了学生的学习热情。但对残差分析学生只能欣赏它的过程,计算量太大,思维的跳跃性太强!