高级计量经济学线性回归模型(编辑修改稿)

高级计量经济学线性回归模型(编辑修改稿)内容摘要：

trtrtrtrEtrtrEtrEEnn再由迹的轮换性知 （ ） 从而， 即 定义 （ ） 则 为 的无偏估计量，即。 ktrtrtrk )())(()( 11IXXX)X(XX)XX(kntr )( M)()( 2 knE  ee2)( knEeekns  ee22s 2 22 )( sE 约束最小二乘法 对于线性回归模型（ ）式，在对参数向量 没有附加任何约束条件的情况下，我们以前求出了最小二乘估计量，并讨论了它的基本性质。 但是，在解决经济活动的实际问题中，我们需要求带一定线性约束的最小二乘估计量。 假设参数向量 的线性约束为 （ ） 是一个相容线性方程组，其中 D为 的已知矩 阵，而且秩为 p， b为 已知向量。 ββbDβ kp1p我们用 Lagrange乘子法求模型（ ）满足线性约束（ ）式的最小二乘估计量。 ， 则线性约束（ ）式可以表示为 ， （ ） 我们的问题是在（ ）式的 p个条件下，求使得 达到最小的。 pddD 1pbb1bii bβd pi ,2,1 )()()( X βYX βYeeβ Qcβˆ应用 Lagrange乘子法构造目标函数为 其中 为 Lagrange乘子。 对函数 求对 的偏导数，整理并令它们等于零，得到 （ ） 然后解（ ）式和线性约束（ ）式组成的联立方程组。 )(2)()()(2)()(),(1bD βλX βYX βYβdX βYX βYλβ piii bg ),( 1  p λ ),( λβgk , 21 0λDX βXYX 为方便表述，我们用 和 表示（ ）式和（ ）式的解。 用 左乘（ ）式，整理 后得到 （ ） 代入（ ）式得到 即 （ ） 这是一个关于 的线性方程组。 cβˆ cλˆ1)( XXcccλDXXβλDXXYXXXβˆ)(ˆˆ)()(ˆ111cc λDXXDβDβDb ˆ)(ˆˆ 1  )ˆ(ˆ)( 1 bβDλDXXD   ccλˆ因为 D的秩为 p，于是 是 的可逆矩 阵，从而（ ）式有唯一的解 将 代入（ ）式得到 （ ） DXXD  1)( pp)ˆ())((ˆ 11 bβDDXXDλ  ccλˆ)ˆ())(()(ˆˆ 111 bβDDXXDDXXββ  c这里我们需要提及的是， 确实是线性约束 下的 的最小二乘估计量。 即 应该满足： ； 对一切满足 的 ，都有 根据（ ）式容易验证。 cβˆcβˆbDβ βbβD cˆbDβ  β)ˆ()ˆ()()( cc βXYβXYX βYX βY bβD cˆ下面我们只验证第二个结论即可。 利用（ ）式得到 （ ） 其中 是无约束条件下的最小二乘估计量。 )ˆ()ˆˆ(2)ˆ()ˆ()ˆˆ()ˆˆ()ˆ()ˆ()ˆˆˆ()ˆˆˆ()ˆ()ˆ()ˆ()ˆ()ˆ()ˆ()()(ββXXββββXXββββXXβββXYβXYββββXXβββββXYβXYββXXβββXYβXYX βYX βYccccccccccYXXXβ   1)(ˆ由（ ）式得知 这个等式对一切满足 的 成立。 那么，（ ）式表明，对一切满足 的 ， 总有 （ ） 0)(ˆ)ˆ(ˆ)ˆ(ˆ)ˆ()ˆˆ(bbλD ββDλββDλββXXββcccccccbDβ  βbDβ  β)ˆˆ()ˆˆ()ˆ()ˆ()()( cc ββXXβββXYβXYX βYX βY 且等号成立当且仅当（ ）式中的 ＝ 0，也就是。 于是（ ）式中用 代替 等式成立，即 （ ） 从而，综合（ ）和（ ）式，得到 这里我们把估计量 称为 的约束最小二乘估计。 )ˆ()ˆ( ββXXββ  cccββ ˆ cβˆ β)ˆˆ()ˆˆ()ˆ()ˆ()ˆ()ˆ( cccc ββXXβββXYβXYβXYβXY )ˆ()ˆ()()( cc βXYβXYX βYX βY cβˆ β第二节 线性模型的检验 拟合优度 参数估计值的分布与检验 拟合优度 拟合优度是描述线性回归方程与样本数据趋势拟合情况的重要指标，它既是分析数据情况的手段，也是检验模型变量关系真实性的重要手段。 为了说明线性回归模型对样本观测值的拟合情况，需要考察解释变量 Y的总变差进行分解分析。 Y的总变差分解式为： （ ） 其中， 称为总离差平方和，记为 TSS，它反映了被解释变量观测值总变差的大小，其自由度为 ； 222 )ˆ()ˆ()( YYYYYY iiii  2)( YYi 1n 称为残差平方和，记为 ESS，它反映了被解释变量观测值与估计值之间的变差，其自由度为 ； 称为回归平方和，记为 RSS,它反映了被解释变量回归估计值总变差的大小，其自由度为。 用矩阵表示为： TSS RSS ESS 2)ˆ( ii YY kn 2)ˆ( YYi 1k2Yn YY2ˆˆ Yn YYee实际上，由（ ）和（ ）式知 即有 （ ） )ˆˆ()(ˆˆˆˆˆˆˆ2ˆˆˆˆ)ˆ()ˆ(22YnYn YYYYYYYYβXXβYYβXXβYXβYYβXXββXYYXβYYβXYβXYee)ˆˆ()( 22 YnYn  YYeeYY这里，回归平方和 RSS越大，残差平方和 ESS就越小，从而被解释变量观测值总变差中能由解释变量解释的那部分变差就越大，回归模型对观测值的拟合程度就越高。 因此，我们定义可决系数来描述回归模型对观测值的拟合程度，即 （ ） 我们应该注意到，可决系数 有一个显著的特点：如果观测值 不变，可决系数 将随着解释变量数目的增加而增大。 222 ˆˆYnYnT SSR SSRYYYY2RiY2R设解释变量为 时，残差平方和为 ，如果观测值 不变，再增加一个解释变量 ，相应的残差平方和为。 由于在利用最小二乘法求参数估计值时，残差平方和 和 都分别达到最小值，而达到最小值，相当于最后引入的解释变量 的系数 等于零的条件下的极小值，即 是条件极小值。 而 是不要求 等于零这个条件就可以达到极小值，即 无条件极小值。 因为无条件极小值不大于条件极小值，即 （ ） 因此， （ ） kXXX , 32 k)( eeiY 1kX1)(  keek)( eek)( eek)( ee1)(  kee1)(  kee1kX 1k1k1)(  kee  k)( ee22 1 kk RR 其中， 是解释变量为 时的可决系数，而 是增加了解释变量 以后的可决系数。 这样随着解释变量数目的增加，残差平方和不断减小，可决系数不断增加。 有些解释变量对被解释变量 的影响很小，增加这些解释变量对减少残差平方和没有多大作用。 由（ ）式 可以知道引入解释变量数目越多， k 越大。 如果残差平方和。