多元回归( 二 )


多元回归

文章插图
分别是
多元回归

文章插图
的最小二乘估计,则多元回归方程(即近似函式)为:
多元回归

文章插图
其中
多元回归

文章插图
叫做回归方程的回归係数 。对每一组
多元回归

文章插图
,由回归方程可以确定一个回归值
多元回归

文章插图
。这个回归值
多元回归

文章插图
与实际观测值
多元回归

文章插图
之差,反映了
多元回归

文章插图
与回归直线
多元回归

文章插图
的偏离程度 。若对所有的观测数据,
多元回归

文章插图

多元回归

文章插图
(I=1,2,…,n)的偏离越小,则认为回归直线与所有试验点拟合得越好 。全部观测值
多元回归

文章插图
与回归值
多元回归

文章插图
的偏差平方和为:根据微分学中的极值原理
多元回归

文章插图
应是下列方程组的解:通过整理可将上述方程组写成如下形式:
多元回归

文章插图
其中,
多元回归

文章插图
,称为回归方程的係数矩阵,X'是X的转置矩阵 。当X'X满秩时,逆矩阵(X'X)-1存在,係数矩阵C可以表示为:
多元回归

文章插图
上式即为回归模型中参数B的最小二乘估计 。至此,我们就得到了p元线性回归方程 。建立回归方程的目的是要利用它来进行预报与控制 。在实际问题中,事先并不能断定随机变数y与
多元回归

文章插图
之间确有线性关係,在求解回归方程前,线性回归模型只是一种假设,所以在求出线性回归方程之后,还需对其进行统计检验,给以肯定或否定的结论 。有关回归方程及回归係数的显着性检验问题,这里就不介绍了 。线性处理由于线性回归方程比较简单,所以在遇到非线性模型时,最好将其转换为线性模型 。(1)多项式模型多项式模型为
多元回归

文章插图
,对方程中的变数作如下变换
多元回归

文章插图
则原方程变为
多元回归

文章插图
,就可用线性模型的方法处理 。(2)指数模型指数模型为:
多元回归

文章插图
方程两边取对数得:
多元回归

文章插图