概率论与数理统计课程设计 一元线性回归分析.doc

1、摘要数理统计是具有广泛应用的数学分支，而区间估计和假设检验问题在其中占有很重要的地位。对于正态总体期望和方差的区间估计和假设检验问题已有完备的结论；对于非正态总体期望和方差的区间估计和假设检验问题，在大样本的情况下，可利用中心极限定理转化为正态总体来解决。但实际问题中常常碰到非正态总体，而且是小样本的情况，因此对它的区间估计和假设检验是一个值得研究的问题本文利用概率纶与数理统计中的所学的回归分析知识，对用切削机房进行金属品加工时为了适当地调整机床，测量刀具的磨损速度与测量刀具的厚度间的关系建立数学模型，利用这些数据做出刀具厚度关于时间的线性回归方程，并MATLAB 与EXCEL软件对验数据进行

2、分析处理，得出线性回归系数与拟合系数等数据，并用F检验法检验了方法的可行性，同时用分布参数置信区间和假设检验问题 ，得出了刀具厚度关于时间的线性关系显著，并进行了深入研究，提出了小样本常用分布参数的置信区间与假设检验的解决方法。关键词：统计量法；置信区间；假设检验；线性关系；回归分析目录一设计目的4二设计问题4三设计原理4四方法实现8五设计总结18参考文献18致 谢19一设计目的了解一元回归方程，回归系数的检验方法及应用一元回归方程进行预测的方法；学会应用MATLAB软件进行一元回归实验的分析方法。同时更好的了解概率论与数理统计的知识，熟练掌握概率论与数理统计在实际问题上的应用，并将所学的知识

3、结合Excel对数据的处理解决实际问题。本设计是利用一元线性回归理论对用切削机房进行金属品加工时为了适当地调整机床，测量刀具的磨损速度与测量刀具的厚度间的关系建立数学模型，并用Excel分析工具库中的回归分析软件进行解算。二设计问题 用切削机床进行金属加工时，为了适当地调节机床，需要测定刀具的磨损速度。在一定时间（例如每隔一小时）测量刀具的厚度，得到数据如下：切削时间刀具厚度切削时间刀具厚度030.01524.8129.11624.0228.41723.7328.11823.1428.01922.9527.72022.6627.52122.3727.22222.1827.02321.7926.

4、82421.51026.52521.31126.32621.01226.12720.61325.72820.31425.32920.1 由此，我们利用这些数据做出刀具厚度关于时间的线性回归方程。三设计原理在实际问题中，经常会出现两个变量之间的相关关系不是线性的（即直线型），而是非线性的（即曲线型）。设其中有两个变量与，我们可以用一个确定函数关系式：大致的描述与之间的相关关系，函数称为关于的回归函数，方程成为关于的回归方程。一元线性回归处理的是两个变量与之间的线性关系，可以设想的值由两部分构成：一部分由自变量的线性影响所致，表示的线性函数 ；另一部分则由众多其他因素，包括随机因素的影响所致，这一

5、部分可以视为随机误差项，记为。可得一元线性回归模型 (1)式中，自变量是可以控制的随机变量，成为回归变量；固定的未知参数a,b成为回归系数；称为响应变量或因变量。由于是随机误差，根据中心极限定理，通常假定，是未知参数。确定与之间的关系前，可根据专业知识或散点图，选择适当的曲线回归方程，而这些方程往往可以化为线性方程或者就是线性方程，因此我们可以用线性方程：大致描述变量与之间的关系；1)模型回归系数的估计为了估计回归系数，假定试验得到两个变量 与 的 个数据对我们将这对观测值代入式（1），得 这里互独立的随机变量，军服从正态分布，即 回归系数估计的方法有多种，其中使用最广泛的是最小二乘法，即要求

6、选取的， 的值使得述随机误差 的平方和达到最小，即求使得函数 取得最小值的，。由于是，的二元函数，利用微积分中的函数存在极值的必要条件，分别对求，偏导数，并令其为0，构成二元一次方程组，化简后得到如下正规方程组 a解方程组得到总体参数估计量,这里， 均已有的观测数据。由此得到回归方程带入观测，得到值称为回归预测值。方程的直线称为回归直线。2)回归方程显著性检验建立一元线性回归方程当且仅当变量之间存在线性相关关系时才是有意义的，因此必须对变量之间的线性相关的显著性进行检验，即对建立的回归模型进行显著性检验。我们首先引入几个概念：（1） ，称为总偏差平方和，它表示观测值总的分散程度；（2） ，称为

7、回归平方和，它是由回归变量的变化引起的，放映了回归变量对变量线性关系的密切程度；（3） ，称为残差（剩余）平方和，它是由观测误差等其他因素起误差，它的值越小说明回归方程与原数据拟合越好。可以证明下列关系成立 即 =+ 我们主要考虑回归平方和在总偏差和中所占的比重，记。(0=R F（1,n-2）,则认为y与x之间的线性关系显著；如果F= F（1,n-2），则认为y与x之间的线性关系不显著，或者不存在线性关系，在实际应用中也可以通过F对应的概率P y=30 29.1 28.4 28.1 28.0 27.7 27.5 27.2 27.0 26.8 26.5 26.3 26.1 25.7 25.3 2

8、4.8 24.0 23.7 23.1 22.9 22.6 22.3 22.1 21.7 21.5 21.3 21.0 20.6 20.3 20.1; x=0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29; plot(x,y,*)生成图（1），可以看出x和y大体成线性关系。图 1 散点图（横轴：X 纵轴Y）（2）作一元回归分析，输入： n=length(y); X=ones(n,1),x; b,bint,r,rint,s=regress(y,X); b,bint,sb = 29.5501

9、 -0.3329bint = 29.3326 29.7676 -0.3458 -0.3200s = 1.0e+003 *0.0010 2.8019 0 0.0001这个结果可整理成表1的形式。回归系数回归系数估计值回归系数置信区间29.550129.3326,29.7676-0.3329-0.3458,-0.3200 表 1 MATLAB回归分析结果表一元回归方程为： 从几个方面都可以检验模型是有效的：检验-接近于0；的置信区间不含零点；用MATLAB命令finv(0.95,1,28)计算得到，F为统计量观测值，所以X与Y的相关性显著。残差及其置信区间作图代码输入：rcoplot(r,rint

10、)结果如图2所示：图 2 残差图（横轴：削磨时间 纵轴：残差分析值）所谓残差是指实际观察值与回归估计值的差，残差分析就是通过残差所提供的信息，分析出数据的可靠性、周期性或其它干扰。从残差图可以看出，数据的残差离零点较近，且残差的置信区间均包含零点，这说明回归模型能很好的符合原始数据。（3）讲上面的回归系数估计值，带入回归方程，刀具磨损速度的测试中，对时间间隔为30/h的刀具厚度进行预测，得到 。在，刀具的厚度预测区间简化为，输入计算指令： t1=19.5631-norminv(0.0975,0,1)*sqrt(sum(r.2)/16)t1 = 20.0742 t2=19.5631+normin

11、v(0.0975,0,1)*sqrt(sum(r.2)/16)t2 = 19.0520即时间间隔为30/h的刀具磨损速度测试中，刀具厚度的置信度为0.95的预测区间为。也可以用命令： y=30 29.1 28.4 28.1 28.0 27.7 27.5 27.2 27.0 26.8 26.5 26.3 26.1 25.7 25.3 24.8 24.0 23.7 23.1 22.9 22.6 22.3 22.1 21.7 21.5 21.3 21.0 20.6 20.3 20.1; x=0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21

12、 22 23 24 25 26 27 28 29; polytool(x,y,1,0.05)作出散点图及拟合曲线，并对时的y进行预报，结果如图 3 所示。图 3 散点图及拟合曲线 如图3所示，红线表示为数据离合区间，蓝色“+”表示为数据散点分布，绿色表示为拟合曲线。(4)下面用Excel“分析工具库”提供的“回归”工具，找出线性回归方程，并检验其显著性。1、具体步骤如下：1在【工具】菜单中选中【数据分析】，则会弹出【数据分析】对话框，然后“分析工具”中选择“回归”选项，如图二所示。单击【确定】后，则弹出【回归】对话框，如图所示。2填写【回归】对话框。如图所示，该对话框的内容较多，可以根据需要，

13、选择相关项目。在“X值输入区域”内输入队因变量数据区域的引用，该区域必须有单列数据组成，如本题中组分B；在“Y只输入区域”输入对自变量数据区域的引用，如本题中组分C。“标志” ：如果输入区域的第一行中包含标志项，则选中此复选框，本题中的输入区域包含标志项；如果在输入区域中没有标志项，则应清楚此复选框，Excel将在输出表中生成合适的数据标志。“置信度” ：如果需要在汇总输出表中包含附件的置信度信息，则选中此复选框，然后在右侧的编辑框中，输入所要使用的置信度。Excel默认的置信度为95%，相当于显著性水平a=0.05。“常数为零” ：如果要强制回归线通过原点，则选中此复选框。“输出选项” ：选

14、择“输出区域”，在此输出对输出表左上角单元格的引用。3“残差” ：如果需要以残差输出表形式查看残差，则选中此复选框。“标准残差” ：如果需要在残差输出表中包含标准残差，则选中此复选框。“残差图” ：如果需要生成一张图表，绘制每个自变量及其残差，则选中此复选框。“线性拟合图” ：如果需要为预测值和观察值生成和观测值生车一个图表，则选中此复选框。“正态概率图” ：如果需要绘制正态概率图，则选中此复选框。图 4 散点图 图 5 Excel数据分析工具 图Excel数据分析工具图 6 回归分析工具界面回归分析工具运行结果： Multiple R0.995041R Square0.990106Adjus

15、ted R Square0.989752标准误差0.298135观测值30表 2 回归统计 表2中，“Multiple R”是线性回归的系数“R Square”是拟合系数“Adjusted R Square” 调整后的拟合系数。dfSSMSFSignificance F回归分析1249.0449249.04492801.8981.29E-29残差282.4887620.088884总计29251.5337表 3 方差分析Coefficients标准误差t StatP-valueLower 95%Upper 95%下限 95.0%上限 95.0%Intercept29.550110.106197

16、278.25759.73E-5029.3325729.7676429.3325729.76764X Variable 1-0.332880.006289-52.9331.29E-29-0.34576-0.32-0.34576-0.32表 4 回归分析结果1 RESIDUAL OUTPUTPROBABILITY OUTPUT观测值预测 Y残差标准残差百分比排位Y129.550110.4498921.5357341.66666720.1229.21723-0.11723-0.40016520.3328.88435-0.48435-1.653348.33333320.6428.55146-0.451

17、46-1.541111.6666721528.21858-0.21858-0.746151521.3627.8857-0.1857-0.6339118.3333321.5727.55282-0.05282-0.1803121.6666721.7827.21994-0.01994-0.068072522.1926.887060.112940.38552828.3333322.31026.554180.2458210.83912531.6666722.61126.22130.2787020.9513663522.91225.888420.4115831.40496338.3333323.11325

18、.555540.5444641.8585641.6666723.71425.222650.4773451.62944645241524.889770.4102261.40033148.3333324.81624.556890.2431070.8298651.6666725.31724.22401-0.22401-0.764685525.71823.89113-0.19113-0.6524458.3333326.11923.55825-0.45825-1.5642661.6666726.32023.22537-0.32537-1.110676526.52122.89249-0.29249-0.9

19、984268.3333326.82222.55961-0.25961-0.8861871.66667272322.22673-0.12673-0.432597527.22421.89385-0.19385-0.661778.3333327.52521.56096-0.06096-0.208181.6666727.72621.228080.0719170.24549385282720.89520.1047980.35773488.3333328.12820.562320.0376790.12861991.6666728.42920.229440.070560.240869529.13019.89

20、6560.2034410.69445798.3333330表 5 回归分析结果 残差与标准残差观测值预测 Y残差129.550110.449892229.21723-0.11723328.88435-0.48435428.55146-0.45146528.21858-0.21858627.8857-0.1857727.55282-0.05282827.21994-0.01994926.887060.112941026.554180.2458211126.22130.2787021225.888420.4115831325.555540.5444641425.222650.4773451524.

21、889770.4102261624.556890.2431071724.22401-0.224011823.89113-0.191131923.55825-0.458252023.22537-0.325372122.89249-0.292492222.55961-0.259612322.22673-0.126732421.89385-0.193852521.56096-0.060962621.228080.0719172720.89520.1047982820.562320.0376792920.229440.070563019.896560.203441表 6 回归分析结果3图 7 EXCE

22、L处理数据得出的散点图图 8 用EXCEL处理数据得出的残差分布图由表3所知，若保留四位有效数字，该回归方程的截距是29.5501，斜率为-0.3329，所以回归方程的表达式为：；根据回归统计结果，知决定系数=0.9898，即相关系数r=0.9231，说明自变量与因变量之间有较高的相关性；根据方差分析的结果，F=2801.9，有效的F0.01，所以建立的回归方程非常显著。在表五中，除了列出了回归系数，还有标准误差等项目。其中“标准误差”表示的事对应回归系数的标准误差，其中偏回归系数的标准误差。“t Stat”就是t检验时的统计量t；如果多元线性回归，则可直接根据“t Stat”的大小，判断因素

23、的主次顺序。“P-value”表示t检验偏回归系数不显著的概率，如果P-value0.01，则可认为该系数对应的变量对试验结果影响非常显著（* *），如果0.01 P-value 0.05,则可认为该系数对应的变量对试验结果影响显著（*）；对于常数项，P-value则表示常数项为零的几率。由表3所知，若保留四位有效数字，该回归方程的截距是29.5501，斜率为-0.3329，所以所回归方程的表达式为：；根据回归统计结果，知决定系数即相关系数，说明自变量与因变量之间有有着五设计总结通过对概率论与数理统计的这道实际问题的解决，不仅使我更加深刻的理解了概率论与数理统计的基础知识，而且使我对这些知识在

24、实际中的应用产生了浓厚的兴趣，同时对我学习好概率论与数理统计这门课有很大帮助。在实现这道题的过程中我应用了Excel软件，学会了该软件的一些新的应用，更加熟练的操作该软件进行一些数据上的处理。参考文献1沈恒范.概率论与数理统计教程M.第四版.北京：高等教育出版社,2003.4:140-1962朱燕堂、赵选民、徐伟.应用概率统计方法 M.第2版.西北工业大学出版社,2000年元月.西安3章栋恩、马玉兰、李双、徐元平.MATLAB高等数学数据分析M.西北工业大学出版社,2002.北京 致 谢本论文是张玉春老师指导下完成的。她严肃的科学态度，严谨的治学精神，精益求精的工作作风，深深地感染和激励着我。在此，我向张老师致以诚挚的谢意和崇高的敬意。同时我还要感谢我的同学们，在论文设计中，他们给了我很多的建议和帮助。我还要感谢我的论文中被我引用或参考的文献的作者。 .17