多元回归


多元回归

文章插图
多元回归【多元回归】研究一个因变数、与两个或两个以上自变数的回归 。亦称为多元线性回归,是反映一种现象或事物的数量依多种现象或事物的数量的变动而相应地变动的规律 。建立多个变数之间线性或非线性数学模型数量关係式的统计方法 。
基本介绍中文名:多元回归
外文名:multivariable regression
第一条:数学模型
第二条:最小估乘
第三条:线性处理
处理方法:非线性模型转化为线性模型
定义在处理测量数据时,经常要研究变数与变数之间的关係 。变数之间的关係一般分为两种 。一种是完全确定关係,即函式关係;一种是相关关係,即变数之间既存在着密切联繫,但又不能由一个或多个变数的值求出另一个变数的值 。例如,学生对于高等数学、机率与统计、普通物理的学习,会对统计物理的学习产生影响,它们虽然存在着密切的关係,但很难从前几门功课的学习成绩来精确地求出统计物理的学习成绩 。但是,对于彼此联繫比较紧密的变数,人们总希望建立一定的公式,以便变数之间互相推测 。回归分析的任务就是用数学表达式来描述相关变数之间的关係 。1、多元回归是指一个因变数(预报对象),多个自变数(预报因子)的回归模型 。基本方法是根据各变数值算出交叉乘积和
多元回归

文章插图
。2、这种包括两个或两个以上自变数的回归称为多元回归 。套用此法,可以加深对定性分析结论的认识,并得出各种要素间的数量依存关係,从而进一步揭示出各要素间内在的规律 。一般来说,多元回归过程能同时提供多个备选的函式关係式,并提供每个关係式对实验数据的理解能力,研究者可以结合自己的理论预期,据此作出选择 。数学模型相关变数之间的关係可以是线性的,也可以是非线性的 。这里只讨论多元线性回归 。设
多元回归

文章插图
是p个可以精确测量或可控制的变数 。如果变数y与
多元回归

文章插图
之间的内在联繫是线性的,那幺进行n次试验,则可得n组数据:
多元回归

文章插图
它们之间的关係可表示为:
多元回归

文章插图
多元回归

文章插图
………………
多元回归

文章插图
其中,
多元回归

文章插图
是p+l个待估参数,εi表示第i次试验中的随机因素对yi的影响 。为简便起见,将此n个方程表示成矩阵形式:
多元回归

文章插图
其中
多元回归

文章插图
多元回归

文章插图
多元回归

文章插图
上式便是p元线性回归的数学模型 。最小估乘为了求出多元线性回归模型中的参数
多元回归

文章插图
,可採用最小二乘法,即在其数学模型所属的函式类中找一个近似的函式,使得这个近似函式在已知的对应数据上儘可能和真实函式接近 。设