§5 曲线拟合的最小二乘法 一般的最小二乘逼近(曲线拟合的最小二乘 法)的一般提法是: 对给定的一组数据 ,要求在函数类 中找

Slides:



Advertisements
Similar presentations
数值分析 第五节 数值微分 在实际问题中,往往会遇到某函数 f(x) 是用表格 表示的, 用通常的导数定义无法求导, 因此要寻求其他 方法近似求导。常用的数值微分方法有 : 一. 运用差商求数值微分 二.运用插值函数求数值微分 三. 运用样条插值函数求数值微分 四. 运用数值积分求数值微分.
Advertisements

高等数学( XJD ) 第二章 导数与微分 返回 高等数学( XAUAT ) 高等数学( XJD ) 求导法则 基本公式 导 数 导 数 微 分微 分 微 分微 分 求导方法 高阶导数 微分法则 导数与微分关系图导数与微分关系图.
一、 一阶线性微分方程及其解法 二、 一阶线性微分方程的简单应用 三、 小结及作业 §6.2 一阶线性微分方程.
第五节 函数的微分 一、微分的定义 二、微分的几何意义 三、基本初等函数的微分公式与微分运算 法则 四、微分形式不变性 五、微分在近似计算中的应用 六、小结.
第二章 导数与微分 习题课 主要内容 典型例题 测验题. 求 导 法 则求 导 法 则 求 导 法 则求 导 法 则 基本公式 导 数 导 数 微 分微 分 微 分微 分 高阶导数 高阶微分 一、主要内容.
第九章 常微分方程数值解法 §1 、引言. 微分方程的数值解:设方程问题的解 y(x) 的存在区间是 [a,b] ,令 a= x 0 < x 1
2.8 函数的微分 1 微分的定义 2 微分的几何意义 3 微分公式与微分运算法则 4 微分在近似计算中的应用.
第八章 第四节 机动 目录 上页 下页 返回 结束 一个方程所确定的隐函数 及其导数 隐函数的微分法.
常系数线性微分方程组 §5.3 常系数线性方程组. 常系数线性微分方程组 一阶常系数线性微分方程组 : 本节主要讨论 (5.33) 的基解矩阵的求法.
第七节 函数的微分 一 、微分 概念 二、微分的几何意义 三、 基本初等函数的微分公 式与 微分运算法则 四 、小结.
第 4 章 数值微积分. 4.1 内插求积 Newton-Cotes 公式 第 4 章 数值微积分 4.1 内插求积 Newton-Cotes 公式.
一、会求多元复合函数一阶偏导数 多元复合函数的求导公式 学习要求: 二、了解全微分形式的不变性.
2.6 隐函数微分法 第二章 第二章 二、高阶导数 一、隐式定义的函数 三、可微函数的有理幂. 一、隐函数的导数 若由方程 可确定 y 是 x 的函数, 由 表示的函数, 称为显函数. 例如, 可确定显函数 可确定 y 是 x 的函数, 但此隐函数不能显化. 函数为隐函数. 则称此 隐函数求导方法.
计算机数学基础(下) --数值分析 教师:孙继荣 电话: 028 -
5.4 微 分 一、微分概念 二、微分的运算法则与公式 三、微分在近似计算上的应用. 引例 一块正方形金属片受热后其边长 x 由 x 0 变到 x 0  x  考查此薄片的面积 A 的改变情况  因为 A  x 2  所以金属片面 积的改变量为  A  (x 0 
2.5 函数的微分 一、问题的提出 二、微分的定义 三、可微的条件 四、微分的几何意义 五、微分的求法 六、小结.
第二章 导数与微分 一. 内 容 要 点 二. 重 点 难 点 三. 主 要 内 容 四. 例 题与习题.
第二章 导数与微分. 二、 微分的几何意义 三、微分在近似计算中的应用 一、 微分的定义 2.3 微 分.
全微分 教学目的:全微分的有关概念和意义 教学重点:全微分的计算和应用 教学难点:全微分应用于近似计算.
第三节 微分 3.1 、微分的概念 3.2 、微分的计算 3.3 、微分的应用. 一、问题的提出 实例 : 正方形金属薄片受热后面积的改变量.
1 第 3 章 函数逼近与曲线拟合 函数逼近的基本概念 函数逼近与函数空间 : 1 、数值计算中经常要计算函数值,如计算机中计算 基本初等函数及其他特殊函数; 2 、当函数只在有限点集上给定函数值,要在包含该 点集的区间上用公式给出函数的简单表达式. 问题 这些都涉及到在区间.
第五章 二次型. 第五章 二次型 知识点1---二次型及其矩阵表示 二次型的基本概念 1. 线性变换与合同矩阵 2.
第3节 二次型与二次型的化简 一、二次型的定义 二、二次型的化简(矩阵的合同) 下页.
一、能线性化的多元非线性回归 二、多元多项式回归(线性化)
一、二阶行列式的引入 用消元法解二元线性方程组. 一、二阶行列式的引入 用消元法解二元线性方程组.
第三章 函数逼近 — 最佳平方逼近.
《高等数学》(理学) 常数项级数的概念 袁安锋
第3章 函数逼近与快速傅里叶变换 3.1 函数逼近的基本概念 3.2 正交多项式 3.3 最佳平方逼近 3.4 曲线拟合的最小二乘法
第一章 行列式 第五节 Cramer定理 设含有n 个未知量的n个方程构成的线性方程组为 (Ⅰ) 由未知数的系数组成的n阶行列式
恰当方程(全微分方程) 一、概念 二、全微分方程的解法.
第五节 微积分基本公式 、变速直线运动中位置函数与速度 函数的联系 二、积分上限函数及其导数 三、牛顿—莱布尼茨公式.
一、原函数与不定积分 二、不定积分的几何意义 三、基本积分公式及积分法则 四、牛顿—莱布尼兹公式 五、小结
第四章 定积分及其应用 4.3 定积分的概念与性质 微积分基本公式 定积分的换元积分法与分部积分法 4.5 广义积分
第四章 函数的积分学 第六节 微积分的基本公式 一、变上限定积分 二、微积分的基本公式.
9.1 数值积分基本方法 9.2 梯形积分 9.3 Simpson积分 9.4 Newton-Cotes积分 9.5 Romberg积分
第四章 一元函数的积分 §4.1 不定积分的概念与性质 §4.2 换元积分法 §4.3 分部积分法 §4.4 有理函数的积分
第5章 定积分及其应用 基本要求 5.1 定积分的概念与性质 5.2 微积分基本公式 5.3 定积分的换元积分法与分部积分法
第三节 函数的求导法则 一 函数的四则运算的微分法则 二 反函数的微分法则 三 复合函数的微分法则及微分 形式不变性 四 微分法小结.
第四节 一阶线性微分方程 线性微分方程 伯努利方程 小结、作业 1/17.
第三节 格林公式及其应用(2) 一、曲线积分与路径无关的定义 二、曲线积分与路径无关的条件 三、二元函数的全微分的求积 四、小结.
§5 微分及其应用 一、微分的概念 实例:正方形金属薄片受热后面积的改变量..
第二章 导数与微分 第二节 函数的微分法 一、导数的四则运算 二、复合函数的微分法.
全 微 分 欧阳顺湘 北京师范大学珠海分校
第三章 导数与微分 习 题 课 主要内容 典型例题.
2-7、函数的微分 教学要求 教学要点.
§5 微分及其应用 一、微分的概念 实例:正方形金属薄片受热后面积的改变量..
§3 微分及其运算 一、微分的定义 二、基本初等函数的微分公式与 微分运算法则.
第5章 §5.3 定积分的积分法 换元积分法 不定积分 分部积分法 换元积分法 定积分 分部积分法.
第2章 Z变换 Z变换的定义与收敛域 Z反变换 系统的稳定性和H(z) 系统函数.
计算机数学基础 主讲老师: 邓辉文.
§2 求导法则 2.1 求导数的四则运算法则 下面分三部分加以证明, 并同时给出相应的推论和例题 .
第三节 泰勒 ( Taylor )公式 — 应用 一、泰勒公式的建立 二、几个初等函数的麦克劳林公式 三、泰勒公式的应用 第三章 理论分析
第4章 非线性规划 4.5 约束最优化方法 2019/4/6 山东大学 软件学院.
第一章 函数与极限.
第二章 函数 插值 — 分段低次插值.
§8.3 不变因子 一、行列式因子 二、不变因子.
§6.7 子空间的直和 一、直和的定义 二、直和的判定 三、多个子空间的直和.
第一节 不定积分的概念与性质 一、原函数与不定积分的概念 二、不定积分的几何意义 三、基本积分表 四、不定积分的性质 五、小结 思考题.
第三章 函数的微分学 第二节 导数的四则运算法则 一、导数的四则运算 二、偏导数的求法.
4) 若A可逆,则 也可逆, 证明: 所以.
学习任务三 偏导数 结合一元函数的导数学习二元函数的偏导数是非常有用的. 要求了解二元函数的偏导数的定义, 掌握二元函数偏导数的计算.
建模常见问题MATLAB求解  .
§2 方阵的特征值与特征向量.
第三节 函数的微分 3.1 微分的概念 3.2 微分的计算 3.3 微分的应用.
第六模块 无穷级数 第五节 函数的幂级数展开 一、 麦克劳林 (Maclaurin) 公式 二、 直接展开法 三、 间接展开法.
*第十节 最小二乘法 第九章 问题的提出: 已知一组实验数据 求它们的近似函数关系 y=f (x) . 需要解决两个问题:
第四章 函数的 积分学 第七节 定积分的换元积分法     与分部积分法 一、定积分的换元积分法 二、定积分的分部积分法.
教学大纲(甲型,54学时 ) 教学大纲(乙型, 36学时 )
第三章 函数 逼近 — 曲线拟合的最小二乘法.
数学模型实验课(二) 最小二乘法与直线拟合.
Presentation transcript:

§5 曲线拟合的最小二乘法 一般的最小二乘逼近(曲线拟合的最小二乘 法)的一般提法是: 对给定的一组数据 ,要求在函数类 中找 一个函数 ,使误差平方和 其中 带权的最小二乘法: 其中 是[a, b]上的权函数。

用最小二乘法求曲线拟合的问题,就是在 中求一函数 ,使 取的最小。它转化为求多元函数 的极小点 问题。由求多元函数极值的必要条件,有

若记 则上式可改写为 这个方程称为法方程,矩阵形式 其中

由于 线性无关,故 ,方 程组存在唯一解(Haar条件) 从而得到函数 的最小二乘解为 可证 故 是所求最小二乘解。

解:根据所给数据知,可选择线性函数作拟合曲 线。 令 这里 故 例 :已知一组实验数据,求它的拟合曲线。 解:根据所给数据知,可选择线性函数作拟合曲 线。 令 这里 故 1 2 3 4 5 4.5 6 8 8.5

由方程组 所求拟合曲线为

例: 在某化学反应里,根据实验所得生成物的浓 度与时间关系如下表,求浓度y与时间t的拟合曲 线 解:将数据标在坐标纸上,可发现数据符合双曲 线函数或指数函数。 1)双曲线函数拟合 双曲线型: 即 时间t(分) 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 浓度 ×10-3 4. 00 6. 40 8. 80 9. 22 50 70 86 10. 20 32 42 55 58 60

为了确定 令 由数据表t, y生成数据表 于是可用 的 线性函数 拟合数据 。方法与上例一样解方程组 得 从而有 其各点误差为

2)指数函数拟合 拟合曲线形如 两边取对数 为了确定 令 拟合数据的曲线仍为 用上例的方法计算出 从而 最后求得 各点误差为

3)两个模型的比较 本例经计算可得 均方误差为 由此可知 都比较小,所以用 作拟合曲线较好。 确定拟合曲线的数学模型需要选择比较。

用正交函数作最小二乘拟合 法方程组系数矩阵G是病态的,但如果 是关于点集 带权 正交的函数族,即 则方程的解为 且平方误差为

根据给定节点 及权函数 , 造出带权 正交的多项式 。注 意 ,用递推公式表示 ,即 其中Pk(x)是首项系数为1的k次多项式,且

证明:用归纳法(略)。

用正交多项式 的线性组合作最小二 乘曲线拟合,只要根据公式逐步求 的同时, 相应计算出系数 并逐步把 累加到 中去,最后就可得 到所求的拟合曲线 这里n可事先给定或在计算过程中根据误差确定。

用这种方法编程序不用解方程组,只用递 推公式;当逼近次数增加一次时,只要把程序 中循环数增加1,其余不用改变。此为目前用多 项式作曲线拟合最好的方法。 多元最小二乘拟合 已知多元函数 的一组测量数据 ,以及一组权数 要求函数

使得 最小,这与前面讲的极值问题完全一样,系数 同样满足法方程,只是这里 求解法方程组就可得到 ,从而得到, 称为函数 的最小二 乘拟合。

§6 近似最佳一致逼近多项式 由韦尔斯特拉斯定理知存在最佳一致逼近多项 式(伯恩斯坦多项式) 一、截断切比雪夫级数 利用切比雪夫多项式良好的逼近性质求近 似最佳一致逼近多项式。 如果 ,按 展成广义富 利叶级数,由正交多项式展开公式(在 满 足一定条件下可一致收敛)

可得 ~ 此式称为函数在[-1,1]上的切比雪夫级数。 由 得到 这里

若令 ,则 ~ 就是 的富利叶级数,其中 根据富利叶级数理论可知,只要 在[-1,1]上 分段连续,则 的切比雪夫级数一致收敛于 ,从而

取它的部分和 其误差为 由于 有n+2个轮流为‘正、负’的偏差点 ,所以 近似 地有n+2个偏差点,由切比雪夫定理, 可作 为 在[-1,1]上的近似最佳一致逼近多项式, 实际计算表明它与最佳一致逼近多项式 非 常接近,而计算较方便。

例 : 求 在[-1,1]上的切比雪夫展开。 解 由富利叶级数系数公式得 它可用后面介绍的数值积分方法计算,得到 由 及 的公式得到

当区间为 时可用变量置换 求得近似最佳一致逼近. 例如,求 在[0,1]上的近似最 佳一致逼近一次式, 可令 对 按切比雪夫系数求得

于是 事实上 是奇函数,当区间为 [-1,1]时,它的切比雪夫展开也是奇函数,如 n=5可求出

与最佳逼近的误差分布近似(通过里姆斯算法计 算最佳逼近偏差 )。这说明用切 比雪夫展开部分和 逼近 的效果相当 好。若用台劳展开 , 要使误差不超过 就必须取1000项,因 为欲使 ,只有当 n≥1000 时才成立。 用切比雪夫展开还可得到其他基本初等函数的近似最佳逼近多项式。

二、拉格朗日插值余项的极小化 基本思想:以切比雪夫多项式的零点为节点构造 函数 的插值多项式,作为其最佳一致逼近 多项式的近似。 由切比雪夫多项式性质2可知,若以 为插值节点作n-1次插值多项式,则 与零的偏差最小,此时插值余项

如果插值区间是 ,不是[-1,1],可做 变换,令 使 在[-1,1]上变化,于是 它的最高项系数为 ,故有

这时只要选插值节点 相应地 这时

由此可知,用公式 做插值节点求 在 上的插值多项式 ,虽然不能作为最佳逼近多项式, 但由于它的误差分布均匀,得到的插值多 项式 是近似最佳逼近多项式。

例: 求 在[0,1]上的近似最佳逼近多项式, 使其误差不超过 。

可算得 计算出 插值多项式为

三、台劳级数项数的节约 函数 的台劳展开容易计算,但用它的部 分和做逼近多项式误差分布极不均匀,为了改善 其误差分布可利用 均匀分布特点,对它进 行改造。现设 在[-1,1]上台劳展开部分和为 若 ,其中 是给定 的误差限,则可利用切比雪夫多项式将 重新 组合,以降低逼近多项式次数,此时

例. 用台劳展开求 在 的逼近多项 式。 解:应用 的台劳展开,取n=6,得 作为 的近似,其误差为 由于

近多项式,开始项数越多效果越显著, 这种做法由于对台劳展开重新改组使低 次多项式误差分布比较均匀,因此可作 为近似最佳逼近多项式。 利用台劳展开降低次数的方法求逼 近多项式,开始项数越多效果越显著, 这种做法由于对台劳展开重新改组使低 次多项式误差分布比较均匀,因此可作 为近似最佳逼近多项式。