首页 > 知识问答 > 正文

最小二乘法回归系数的计算公式(求回归方程的最小二乘法 是怎么计算的)

来源:知识问答2023-06-30 21:27:30
导读 您好,今天蔡哥来为大家解答以上的问题。最小二乘法回归系数的计算公式,求回归方程的最小二乘法 是怎么计算的相信很多小伙伴还不知道,现在...

您好,今天蔡哥来为大家解答以上的问题。最小二乘法回归系数的计算公式,求回归方程的最小二乘法 是怎么计算的相信很多小伙伴还不知道,现在让我们一起来看看吧!

1、计算方法:y = Ax + B:a = sigma[(yi-y均值)*(xi-x均值)] / sigma[(xi-x均值)的平方];b = y均值 - a*x均值。

2、知识拓展最小二乘法求回归直线方程的推导过程这里的是为了区分Y的实际值y(这里的实际值就是统计数据的真实值,我们称之为观察值),当x取值(i=1,2,3……n)时,Y的观察值为,近似值为(或者说对应的纵坐标是)。

3、其中式叫做Y对x的回归直线方程,b叫做回归系数。

4、要想确定回归直线方程,我们只需确定a与回归系数b即可。

5、设x,Y的一组观察值为:i = 1,2,3……n其回归直线方程为:当x取值(i=1,2,3……n)时,Y的观察值为,差刻画了实际观察值与回归直线上相应点纵坐标之间的偏离程度,见下图:实际上我们希望这n个离差构成的总离差越小越好,只有如此才能使直线最贴近已知点。

6、换句话说,我们求回归直线方程的过程其实就是求离差最小值的过程。

7、一个很自然的想法是把各个离差加起来作为总离差。

8、可是,由于离差有正有负,直接相加会互相抵消,如此就无法反映这些数据的贴近程度,即这个总离差不能用n个离差之和来表示,见下图:一般做法是我们用离差的平方和,即:作为总离差 ,并使之达到最小。

9、这样回归直线就是所有直线中Q取最小值的那一条。

10、由于平方又叫二乘方,所以这种使“离差平方和为最小”的方法,叫做最小二乘法。

11、用最小二乘法求回归直线方程中的a、b的公式如下:其中,、为和的均值,a、b的上方加“︿”表示是由观察值按最小二乘法求得的估计值,a、b求出后,回归直线方程也就建立起来了。

12、当然,我们肯定不能满足于直接得到公式,我们只有理解这个公式怎么来的才能记住它,用好它,因此给出上面两个公式的推导过程更加重要。

13、在给出上述公式的推导过程之前,我们先给出推导过程中用到的两个关键变形公式的推导过程。

14、首先是第一个公式:接着是第二个公式:基本变形公式准备完毕,我们可以开始最小二乘法求回归直线方程公式的推导了:至此,公式变形部分结束,从最终式子我们可以看到后两项与a、b无关,属于常数项,我们只需即可得到最小的Q值,因此:。

本文就为大家分享到这里,希望小伙伴们会喜欢。

关键词:
版权声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。

猜你喜欢