第二章 回归模型 法、参数的普通最小二乘估计式及相关性质、对模型的经济意 义检验和统计检验,能应用Eviews软件进行最小二乘估计与统

Slides:



Advertisements
Similar presentations
一、 一阶线性微分方程及其解法 二、 一阶线性微分方程的简单应用 三、 小结及作业 §6.2 一阶线性微分方程.
Advertisements

第五节 函数的微分 一、微分的定义 二、微分的几何意义 三、基本初等函数的微分公式与微分运算 法则 四、微分形式不变性 五、微分在近似计算中的应用 六、小结.
2.8 函数的微分 1 微分的定义 2 微分的几何意义 3 微分公式与微分运算法则 4 微分在近似计算中的应用.
第八章 第四节 机动 目录 上页 下页 返回 结束 一个方程所确定的隐函数 及其导数 隐函数的微分法.
2.5 函数的微分 一、问题的提出 二、微分的定义 三、可微的条件 四、微分的几何意义 五、微分的求法 六、小结.
全微分 教学目的:全微分的有关概念和意义 教学重点:全微分的计算和应用 教学难点:全微分应用于近似计算.
第三节 微分 3.1 、微分的概念 3.2 、微分的计算 3.3 、微分的应用. 一、问题的提出 实例 : 正方形金属薄片受热后面积的改变量.
非线性时间序列模型 一般非线性时间序列模型介绍 条件异方差模型 上海财经大学 统计与管理学院.
第六章 回归分析.
第九章 金融资本 第一节 借贷资本和利息 第二节 货币需求与供给 第三节 股份资本 第四节 保险业资本 第五节 金融衍生产品.
第三章 经典单方程计量经济学模型:多元线性回归模型
第十章 相关与回归分析 PowerPoint 统计学.
第五章 二次型. 第五章 二次型 知识点1---二次型及其矩阵表示 二次型的基本概念 1. 线性变换与合同矩阵 2.
一、能线性化的多元非线性回归 二、多元多项式回归(线性化)
第三章 函数逼近 — 最佳平方逼近.
6.6 单侧置信限 1、问题的引入 2、基本概念 3、典型例题 4、小结.
§4.3 多重共线性 Multi-Collinearity.
Multicollinearity 一、多重共线性的概念 二、多重共线性的后果 三、多重共线性的检验 四、克服多重共线性的方法 五、例题
预测与决策分析 Forecasting and Decision Analysis
第二章 经典单方程计量经济学模型: 一元线性回归模型
量化视角下的豆粕投资机会分析 格林期货研发培训中心 郭坤龙.
第五节 微积分基本公式 、变速直线运动中位置函数与速度 函数的联系 二、积分上限函数及其导数 三、牛顿—莱布尼茨公式.
第5章 定积分及其应用 基本要求 5.1 定积分的概念与性质 5.2 微积分基本公式 5.3 定积分的换元积分法与分部积分法
第三篇 医学统计学方法. 第三篇 医学统计学方法 医学统计学方法 实习2 主讲人 陶育纯 医学统计学方法 实习2 主讲人 陶育纯 流行病与卫生统计学教研室
不确定度的传递与合成 间接测量结果不确定度的评估
第四节 一阶线性微分方程 线性微分方程 伯努利方程 小结、作业 1/17.
§5 微分及其应用 一、微分的概念 实例:正方形金属薄片受热后面积的改变量..
2-7、函数的微分 教学要求 教学要点.
§5 微分及其应用 一、微分的概念 实例:正方形金属薄片受热后面积的改变量..
计量经济学 第三章 多元线性回归模型.
第十章 回归分析预测法 第一节 相关分析 第二节 一元线性回归预测法 第三节 多元线性回归预测法 第四节 非线性回归预测法.
第一章 商品 第一节 价值创造 第二节 价值量 第三节 价值函数及其性质 第四节 商品经济的基本矛盾与利己利他经济人假设.
第一节 引言 第二节 一元线性回归模型 第三节 多元线性回归模型 第四节 虚拟变量回归模型 第五节 非线性回归模型 本章小节 主要内容.
第5章 §5.3 定积分的积分法 换元积分法 不定积分 分部积分法 换元积分法 定积分 分部积分法.
第三章 多维随机变量及其分布 §2 边缘分布 边缘分布函数 边缘分布律 边缘概率密度.
第12章 回归直线.
§3.3 多元线性回归模型的统计检验 一、拟合优度检验 二、方程的显著性检验(F检验) 三、变量的显著性检验(t检验) 四、参数的置信区间.
引子: 国内生产总值增加会减少财政收入吗?
计量经济学 第三章 多元线性回归模型.
一元线性回归模型 § 1 回归分析概述 § 2 一元线性回归模型的参数估计 § 3 一元线性回归模型的统计检验
第二章 一元线性回归模型.
第2章 一元线性回归 2 .1 一元线性回归模型 2 .2 参数 的估计 2 .3 最小二乘估计的性质 2 .4 回归方程的显著性检验
第4章 多元线性回归分析.
第2章 一元线性回归分析 §2.1 :回归分析及回归模型 §2.2 :一元线性模型的参数估计 §2.3 :参数估计值的性质及统计推断
回归分析.
多元回归分析:估计 y = b0 + b1x1 + b2x bkxk + u 计量经济学导论 刘愿.
第十章 方差分析.
统 计 学 (第三版) 2008 作者 贾俊平 统计学.
第七章 参数估计 7.3 参数的区间估计.
若2002年我国国民生产总值为 亿元,如果 ,那么经过多少年国民生产总值 每年平均增长 是2002年时的2倍? 解:设经过 年国民生产总值为2002年时的2倍, 根据题意有 , 即.
习题 一、概率论 1.已知随机事件A,B,C满足 在下列三种情况下,计算 (1)A,B,C相互独立 (2)A,B独立,A,C互不相容
抽样和抽样分布 基本计算 Sampling & Sampling distribution
9.1 简单线性相关分析 9.2 一元线性回归分析 9.3 多元线性回归与复相关分析 9.4 变量间非线性关系的回归
模型分类问题 Presented by 刘婷婷 苏琬琳.
概 率 统 计 主讲教师 叶宏 山东大学数学院.
5.2 常用统计分布 一、常见分布 二、概率分布的分位数 三、小结.
相关与回归 非确定关系 在宏观上存在关系,但并未精确到可以用函数关系来表达。青少年身高与年龄,体重与体表面积 非确定关系:
第三章 两变量线性回归.
第四章 多元线性回归分析.
第一部分:概率 产生随机样本:对分布采样 均匀分布 其他分布 伪随机数 很多统计软件包中都有此工具 如在Matlab中:rand
第15讲 特征值与特征向量的性质 主要内容:特征值与特征向量的性质.
§5.2 抽样分布   确定统计量的分布——抽样分布,是数理统计的基本问题之一.采用求随机向量的函数的分布的方法可得到抽样分布.由于样本容量一般不止2或 3(甚至还可能是随机的),故计算往往很复杂,有时还需要特殊技巧或特殊工具.   由于正态总体是最常见的总体,故本节介绍的几个抽样分布均对正态总体而言.
概率论与数理统计B.
第二节 简单线性回归模型的最小二乘估计 用样本去估计总体回归函数,总要使用特定的方法,而任何估 计参数的方法都需要有一定的前提条件——假定条件 一、简单线性回归的基本假定 为什么要作基本假定? ●只有具备一定的假定条件,所作出的估计才具有良好的统计性质。 ●模型中有随机扰动项,估计的参数是随机变量,显然参数估计值的分布与扰动项的分布有关,只有对随机扰动的分布作出假定,才能比较方便地确定所估计参数的分布性质,也才可能进行假设检验和区间估计等统计推断。
第三节 随机区组设计的方差分析 随机区组设计资料的总平方和可以分解为三项: (10.10).
第十五讲 区间估计 本次课讲完区间估计并开始讲授假设检验部分 下次课结束假设检验,并进行全书复习 本次课程后完成作业的后两部分
多元线性回归分析.
第三章 从概率分布函数的抽样 (Sampling from Probability Distribution Functions)
3.1回归分析的基本思想及其初步应用(四) 高二数学 选修2-3 第三章 统计案例.
数学模型实验课(二) 最小二乘法与直线拟合.
Presentation transcript:

第二章 回归模型 法、参数的普通最小二乘估计式及相关性质、对模型的经济意 义检验和统计检验,能应用Eviews软件进行最小二乘估计与统 第二章 回归模型 学习要求:掌握一元及多元线性回归模型的基本理论与方 法、参数的普通最小二乘估计式及相关性质、对模型的经济意 义检验和统计检验,能应用Eviews软件进行最小二乘估计与统 计检验,利用模型进行预测。 本章主要教学内容: 第一节 一元与多元线性回归模型 第二节 最小二乘估计及其性质 第三节 回归系数的区间估计与假设检验 第四节 回归模型的统计检验 第五节 回归预测 第六节 非线性回归模型

第一节 一元与多元回归模型 一、回归与相关 经济变量之间的关系通常可分成两类: 确定性函数关系——一个(一些)变量的值给定后,另一个 变量的值完全确定; 不确定性的统计关系——一个(一些)变量的值给定后,另 一个变量的值不能完全确定。 例: 无息票债券的面值、到期期限与债券的现价完全决定债券的 到期收益率,y = f(x)。 居民的可支配收入不能完全决定居民的消费支出, y = f(x,u),u为一个随机变量。

1. 两个变量之间的线性相关关系 若一个变量变化时,另一个变量倾向于同向变化,称两个 变量间存在正相关关系; 若一个变量变化时,另一个变量倾向于反向变化,称两个 变量间存在负相关关系; 若一个变量的变化不会造成另一个变量的具有倾向性的变 化,称两个变量不相关。 相关关系不是确定的函数关系。 例:两个变量的相关关系 * 小学生年龄与60米短跑的用时(负相关) * 企业信用等级与企业债券(贷款)的利率(负相关) * 一般情况下,债券的期限与债券的利率(正相关) * 一般商品的价格与商品的供应量(正相关) * 汽油的价格与对冰淇淋的需求量(不相关)

2. 两个变量线性相关的度量方法 * 两个变量的分布已知,得到相关系数的精确值: * 若只有变量的样本数据,得到相关系数的估计值: 相关系数的估计值与样本取值有关。

* 相关系数只能度量两个变量是否具有线性相关性,而不 注意: * 相关系数只能度量两个变量是否具有线性相关性,而不 能度量其他,如: x服从[-1,1]上的均匀分布, 显然,y与x存在确定的函数关系,但它们的线性相关系数为0。 * 相关关系不是因果关系,经济变量之间的因果关系只能 从经济理论中导出,而不能从统计分析中直接得到。 例: 太阳黑子爆发的次数与澳大利亚的野狼数

3. 条件均值与总体回归函数 y与x之间存在不确定的关系: ,x给定后y的数学期 望, ,称为y关于x的条件均值,g(x) 也称为总体回归函数。 在许多实际经济、金融问题中,真正需要了解的是一个变量 关于另一个(另一些)变量的总体回归函数: 4. 回归分析 回归分析研究变量y与变量x之间的具体的统计依存关系,特 别是研究y关于x的条件均值的具体形式,即研究总体回归函数 g(x)。 回归分析中,x看成解释变量,y为被解释变量,回归分析研 究y的条件平均值如何随x的变化而变化,即回归关系研究变量 之间的随机因果关系,这与相关关系不同。

二、一元线性回归模型与基本假设 1. 概念 假设总体回归函数为线性函数,即: 我们关心参数究竟取什么值。 考虑模型: ,称为一元线性回归模型, 其中 称为随机扰动项(随机误差项),加入此项的原因在于: * 未知的对y有较大影响的因素; * 已知但无法获得观测数据的对y有较大影响的因素; * 众多对y有很小影响的因素; 其他还包括: * 模型的设定误差; * 变量的观察误差;等。

2. 回归分析方法 * 采集样本数据: * 采用适当的方法估计模型参数; * 得到样本回归函数: , * 将样本回归函数作为总体回归函数的估计。 3. 一元回归模型的基本假设 在回归分析中,为采用适当的方法估计模型参数,需要对回归 模型提出一些基本假设,这些假设包括: * 解释变量为非随机变量 * ,意味着 ,表明模型设置无系 统性偏差; * 同方差:各随机扰动项的方差相同 * 无自相关:各随机扰动项互不相关 * 误差项与解释变量不相关; * 随机扰动项均服从正态分布。

4.由基本假设衍生的性质

三、多元线性回归模型与基本假设 1. 多元线性回归模型 一般形式: 矩阵形式:

2. 多元线性回归模型的基本假设 * 解释变量为非随机变量; * ; * 各随机扰动项的方差相同; * 各随机扰动项互不相关; * 随机扰动项与各解释变量互不相关; * 随机扰动项均服从正态分布; * 无多重共线性,即满足: 思考题:从多元线性回归模型的基本假设,可以得到哪些衍 生性质 ?

第二节 最小二乘估计及性质 一、最小二乘估计 1. 概念 一元回归模型 中,使 达到最小值的 称为模型参数的最小二乘估计(OLS) 2. 最小二乘估计的计算方法

3. 最小二乘估计的Eviews实现 例1: sjk21给出我国1985-1998年期间每年税收收入y和国内生产总 值(GDP)x 的统计资料,假设y与x的关系可以表示为 试利用Eviews软件计算模型参数的最小二乘估计。 解: * 启动Eviews、建立工作文件:file\new\workfile,确定频 率 项; * 导入sjk1: procs\import\read text-lotus-Excel,输入 相关项; * 在主窗口输入命令: ls y c x,回车后,系统输出模型参数 的最小二乘估计 (附后),估计得到的方程为

随机扰动项的方差的估计 当解释变量取 时,模型预测的y的条件期望值 令 则 可看成随机扰动项的估计值,随机扰动项的方 差的估计可表示为:

5. 多元线性回归模型的最小二乘估计 多元线性回归模型 中,使 达到最小时的参数值,称为模型参数的最小二乘估计。 多元线性回归模型的矩阵形式: 由一阶条件得到(证明附后): 于是

例2: 我国国有独立核算工业企业生产函数。根据生产函数理论, 生产函数的基本形式为 其中,L、K分别为生产过程中投入的劳动与资金,时间变量t反 映技术进步的影响。Sjk22给出我国1978-1994年期间国有独立 核算工业企业的有关统计资料,其中y为工业总产值(可比价), L、K分别为年末职工人数和固定资产净值(可比价)。试利用 Eviews软件建立线性生产函数 解: 在主窗口输入命令: Ls y c t L k,估计得到的方程

6. 多元回归模型中扰动项方差的估计

二、最小二乘估计的性质 参数估计量的评价标准 ① 无偏性: ,参数估计无系统性偏差 ② 有效性,即最小方差性,参数估计精度较好、 更接近于真值; ③ 一致性:

2. 最小二乘估计的数值性质 无须对回归模型作任何假设,就可得到的最小二乘估计的 性质称为最小二乘估计的数值性质,这些性质有: ① ② 样本回归直线通过样本均值点 ③ 性质③由同学自己推导,作为今天的一个作业。

3. 最小二乘估计的统计性质 统计性质:满足模型基本假设时所拥有的性质。 ① 最小二乘估计为线性估计 由于模型参数为线性估计,因此当随机扰动项服从正态分布时,参数估计量与服从正态分布,这为对模型的统计推断提供了便利。

② 最小二乘估计为无偏估计 同样可以证明, 。 ③ 在所有的线性估计中,最小二乘估计具有最小方差(证明见后) 高斯—马尔柯夫定理 在满足线性回归模型基本假设的条件下,模型参数的最小二乘估计具有线性性、无偏性、最小方差性。

第三节 回归系数的区间估计与假设检验 一、最小二乘估计量的分布 满足基本假设时,参数的最小二乘估计量服从正态分布

参数估计量标准差

二、回归系数的显著性检验 回归系数的显著性检验,就是检验以下假设是否为真 很显然,如果第二个原假设为真,则x的变动对y的变动没有影 响,已建立的模型不适当。 数理统计知识复习:

当第二个原假设为真时 构造检验统计量:

同样,当第一个原假设为真时,检验统计量 对多元回归模型,检验统计量为

检验方法: 给定显著性水平 , 时拒绝原假设,回归系数通过显著性检验; 时接受原假设,回归系数没有通过显著性检验。 在Eviews中,回归分析后系统直接给出检验统计量(t)值和 伴随概率Prob,检验方法为: 若伴随概率小于给定的显著性水平,拒绝原假设,回归系数 通过显著性检验; 若伴随概率小于等于给定的显著性水平,接受原假设,回归 系数没有通过显著性检验,模型需要调整。

例:对例1、例1中所构建的模型,进行各回归 系数的显著性检验,取显著性水平为0.05。 例1中,回归系数均能通过显著性检验。 例2中,除资本k的系数外,其余回归系数 (包括截距)均不能通过显著性性检验,模型需要调整。

三、回归系数的区间估计 有时人们关心回归系数在一定置信度下的置信区间,这比系 数的点估计更有价值。如何进行区间估计?在一元线性回归模型 中 这样,从数理统计知识,对选定的置信度 ,参数的 置信区间为 在多元回归模型中,有

例:给定置信度为95%,给出例4中参数 的置信区间 解 置信区间为

第四节 回归模型的统计检验 一、拟合优度检验 如果模型适当,回归直线与样本的拟合程度应较好,拟合 优度检验就是对拟合程度的一种检验。 1 . 平方和分解公式 总平方和 = 回归平方和 + 残差平方和 (TSS) (ESS) (RSS)

显然,回归平方和占总平方和的比例越大,回归直 线与样本的拟合度越好,可用以下系数(可决系数) 度量拟合度 2. 可决系数 显然,回归平方和占总平方和的比例越大,回归直 线与样本的拟合度越好,可用以下系数(可决系数) 度量拟合度 可决系数取值落在[0 1],越接近1,样本与回归直 线拟合越好;越接近0,样本与回归直线拟合越差。 参数估计后,Eviews给出可决系数的值(R- squared)。例4中,这个值为0.9827,样本与模型的拟 合程度较好。

3. 可决系数与相关系数的关系 考虑一元回归模型,相关系数是x与y线性相关程度的度量, 相关系数越强, x与y就越接近于线性相依关系,线性回归模型 与样本的拟合程度就越好。

修正的可决系数 在模型中增加解释变量数一般会提高可决系数, 在多元回归模型中,为消除因增加不必要的解释变量 对可决系数的影响,通采用修正后的可决系数来检验 回归直线与样本的拟合程度。 参数估计后,Eviews给出修正的可决系数的值 (Adjusted R-squared)。例2中,可决系数与修正的可 决系数的值分别为0.996085、0995181。 修正的可决系数总是小于可决系数。

二、回归方程的显著性检验 1. 回归模型的F检验 在多元回归模型中,除对回归系数作显著性检验外,还需要 对回归方程本身进行显著性检验,即对下面原假设进行检验, 不能通过此项F检验的模型是无意义的。 此项检验的检验统计量为 因此可对原假设进行F检验。 参数估计后,Eviews给出对模型的F检验统计量值,以及对 应的相伴概率。

2 . F统计量、可决系数、修正可决系数的关系

系数与模型的统计检验 对一元回归模型,需进行系数的显著性检验、模 型的拟合优度检验,这些检验都能通过的模型是适当 模型。 对多元回归模型,需要进行系数的显著性检验、 模型的修正的拟合优度检验、模型的F检验,这些检 验都能通过的模型是适当的,若某些系数的显著性检 验不能通过,模型需要调整;若F检验不能通过,模 型没有意义。

例:对例2模型的调整 在例2的回归结果中,模型的F检验可以通过、修正 的拟合优度较高,但某些系数的显著性检验通不过,说 明模型整体有价值,但需要调整,通常做法是首先剔除 最不显著的变量,建立模型: 参数估计与统计检验的结果附后,调整后的模型的系数 均能通过显著性检验、模型的F检验和拟合优度检验较 好。 于是我国国有独立核算企业的生产函数为

第五节 回归预测 回归模型的主要应用之一是预测,即利用解释变 量的预期值对应变量的取值作预测。预测的前提条件 是经济结构在样本期与预测期无多大变化,回归模型 描述的解释变量与应变量的关系(经济结构)在预测期依 然成立。 回归预测包括点预测与区间预测,前者用一个值、 后者用一个区间(置信区间)对应变量作预测。

一、点预测 1 . (条件)平均值的点预测 给定解释变量的值的条件下,对应变量的平均取值进行预测。 样本回归函数是总体回归函数 的估计,给定解释变量取值后,平均值的点预测为 2. 个别值的点预测 给定解释变量值的条件下,对应变量的取值进行预测。由于 而对残差的预测为0,因此对个别值的预测为

二、区间预测 1. 平均值的置信区间

个别值的置信区间

由于平均值估计量的标准差 小于个别值估计量 的标准差 ,平均值估计的精度大于个别值估计的精度。 同样在区间估计中,在相同的置信水平下,平均 3. 平均值估计与个别值估计的精度比较 由于平均值估计量的标准差 小于个别值估计量 的标准差 ,平均值估计的精度大于个别值估计的精度。 同样在区间估计中,在相同的置信水平下,平均 值的置信区间长度要小于个别值的置信区间长度。

例3: 研究某省城镇居民消费支出与可支配收入之间的关系。 由经济理论可知,收入是影响居民消费支出的主要因素, 消费支出y随收入x的增加而增加,但支出增加的幅度小于收入 增加的幅度。若忽略其他因素对居民消费支出的影响,可建立 线性回归模型 该省城镇居民1978—1998年的数据由sjk23给出,试估计模型参 数,并对模型进行经济意义与统计检验。 如果预测1999年该省城镇居民的可支配收入为5500元,试 估计1999年该省城镇居民消费支出的平均值的点估计与置信区间 (置信水平为0.05)。

回归分析与检验: 输入命令:range 1978 1998, ls y c x,回归分析结果见下页。 模型可以通过经济意义检验、统计检验,模型拟合程度较高。 平均值的点预测: 输入命令:expand 1978 1999,forecast 1999 1999, 得到平均值的点估计为4680。 平均值的置信区间: 在x的数据框中 view / Descriptive stats / Histogram and stats 现在:

第六节 非线性回归模型 前面讨论的线性回归模型的形式为:模型中解释变量与应 变量的关系是线性关系,应变量与模型参数的关系也是线性关 系,但在实际中,许多经济变量之间的关系为非线性关系,如 C-D生产函数的形式为: 本节讨论当经济变量之间为非线性关系时,如何通过变量的适 当变化来构造线性回归模型。

一、可线性化模型 在对经济变量间的关系建立计量经济模型时,有些模型从 本身看解释变量与应变量之间的关系不是线性关系,但通过适 当变换后,可将其转化为线性回归模型,这类模型称为可线性 化的模型。 倒数变换模型(双曲函数模型) 可以通过倒数变换,将模型转化为回归模型,如在上两例 中,分别令

双对数模型(幂函数模型) 若对C-D生产函数两边取对数,则就可建立计量经济模型 这样模型称为双对数模型,双对数模型也可以通过变量变换方 式转化为线性回归模型。如上例可转化为

例: 试利用C-D生产函数对我国国有独立核算企业的生产函数 建模,数据在sjk22。 解: 建立线性回归模型 Eviews估计方 法如下: * 建立工作文件,引入数据库 * 生成新变量 ,方法为 Quick / Generate Series,在窗口中逐个输入新变量的表示式, 完成新变量的建立。 * 对新变量进行回归分析,得到结果见下页,因此模型为

3.半对数模型: 多项式模型: 5. 一些其他模型 二、不可线性化的模型 有些模型不能通过类似以上的方法转化为线性回归模型,这 些模型称为不可线性化的模型,对这类模型的估计问题已超出 本课程教学大纲范围。

本章复习要点: * 理解回归与相关的关系; * 总体回归函数与样本回归函数的实质与联系; * 线性回归模型的基本假设及其意义; * 普通最小二乘估计及其数值性质与统计性质; * 各模型参数的估计量及估计量的分布; * 对模型参数的显著性检验的方法及意义; * 对模型的拟合优度检验、F检验的方法及意义; * 参数的点估计与区间估计; * 平均值、个别值的点预测与置信区间; * 可转化为线性回归模型的非线性模型的转化方法; * 运用Eviews进行回归分析的具体操作。