数据统计与分析 秦 猛 南京大学物理系 第11讲 qinmeng@nju.edu.cn 办公室：唐仲英楼A508 83688960 手机：13913939339 参考教材：《概率论与数理统计》 高新祖 陈华钧 编著 南京大学出版社 1 1

7-2 点 估 计 统计 推断 DE 基本 问题 参数估 计问题 区间估 计 假设检 验问题

什么是参数估计？ 参数是刻画总体某方面概率特性的数量. 当此数量未知时,从总体抽出一个样本， 用某种方法对这个未知参数进行估计就 是参数估计. 例如，X ~N ( , 2), 若,  2未知, 通过构造样本的函数, 给出 它们的估计值或取值范围就是参数估计 的内容. 点估计 区间估计

参数估计的类型 点估计 —— 估计未知参数的值 区间估计—— 估计未知参数的取值范围， 并使此范围包含未知参数 真值的概率为给定的值.

§7.1 点估计方法 点估计的思想方法 设总体X 的分布函数的形式已知, 但含有一个或多个未知参数：1,2, ,k 7-5 §7.1 点估计方法 点估计的思想方法 设总体X 的分布函数的形式已知, 但含有一个或多个未知参数：1,2, ,k 设 X1, X2,…, Xn为总体的一个样本 构造 k 个统计量： 随机变量

并建立k个方程。 当测得样本值(x1, x2,…, xn)时,代入上述 方程组，即可得到 k 个数： 称数 为未知参数 的估计值 对应统计量 7-6 并建立k个方程。 当测得样本值(x1, x2,…, xn)时,代入上述 方程组，即可得到 k 个数： 数 值 称数 为未知参数 的估计值 对应统计量 为未知参数 的估计量

7-7 三种常用的点估计方法 频率替换法 利用事件A 在 n 次试验中发生的频率 作为事件A 发生的概率 p 的估计量

例1 设总体X ~ N (  , 2 ), 在对其作28 次 独立观察中, 事件 “X < 4” 出现了21 次, 试 7-8 例1 设总体X ~ N (  , 2 ), 在对其作28 次 独立观察中, 事件 “X < 4” 出现了21 次, 试 用频率替换法求参数  的估计值. 解 由 查表得 于是  的估计值为

用样本 k 阶矩作为总体 k 阶矩的估计量, 建立含有待估参数的方程, 从而解出待估参数 7-9 矩法 用样本 k 阶矩作为总体 k 阶矩的估计量, 建立含有待估参数的方程, 从而解出待估参数 方法 一般, 不论总体服从什么分布, 总体期望  与方差 2 存在, 则它们的矩估计量分别为

7-10 事实上，按矩法原理，令

设待估计的参数为 设总体的 r 阶矩存在，记为 样本 X1, X2,…, Xn 的 r 阶矩为 令 7-11 设待估计的参数为 设总体的 r 阶矩存在，记为 样本 X1, X2,…, Xn 的 r 阶矩为 令 —— 含未知参数 1,2, ,k 的方程组

解方程组 , 得 k 个统计量： 未知参数 1, ,k 的矩估计量 代入一组样本值得 k 个数: 未知参数 1, ,k 7-12 解方程组 , 得 k 个统计量： 未知参数 1, ,k 的矩估计量 代入一组样本值得 k 个数: 未知参数 1, ,k 的矩估计值

例2 设总体 X ~ N (  , 2 ), X1, X2,…, Xn为 总体的样本, 求  , 2 的矩法估计量. 解 7-13 例2 设总体 X ~ N (  , 2 ), X1, X2,…, Xn为 总体的样本, 求  , 2 的矩法估计量. 解 例3 设总体 X ~ E(), X1, X2,…, Xn为总体的 样本, 求 的矩法估计量. 解 令 故

例4 设从某灯泡厂某天生产的灯泡中随机 抽取10只灯泡，测得其寿命为(单位:小时) 1050, 1100, 1080, 1120, 1200 7-14 例4 设从某灯泡厂某天生产的灯泡中随机 抽取10只灯泡，测得其寿命为(单位:小时) 1050, 1100, 1080, 1120, 1200 1250, 1040, 1130, 1300, 1200 试用矩法估计该厂这天生产的灯泡的平均 寿命及寿命分布的方差. 解

7-15 例5 设总体 X ~ U (a, b), a, b 未知, 求参数 a, b 的 矩法估计量. 解 由于 令

7-16 解得

极大似然估计法 思想方法：一次试验就出现的 事件有较大的概率 例如: 有两外形相同的箱子,各装100个球 一箱 99个白球 1 个红球 7-17 极大似然估计法 思想方法：一次试验就出现的 事件有较大的概率 例如: 有两外形相同的箱子,各装100个球 一箱 99个白球 1 个红球 一箱 1 个白球 99个红球 现从两箱中任取一箱, 并从箱中任取一球, 结果所取得的球是白球. 问: 所取的球来自哪一箱？ 答: 第一箱.

例6 设总体 X 服从0-1分布,且P (X = 1) = p, 用极大似然法求 p 的估计值. 解 总体 X 的概率分布为 7-18 例6 设总体 X 服从0-1分布,且P (X = 1) = p, 用极大似然法求 p 的估计值. 解 总体 X 的概率分布为 设 x1, x2,…, xn为总体样本X1, X2,…, Xn 的样本值, 则

7-19 对于不同的 p , L (p)不同, 见右下图 发生了， 事件 现经过一次试验， 则 p 的取值应使这个事件发生 的概率最大.

注意到，ln L(p)是 L 的单调增函数,故若 某个p 使ln L(p)最大, 则这个p 必使L(p)最大。 7-20 在容许范围内选择 p ，使L(p)最大 注意到，ln L(p)是 L 的单调增函数,故若 某个p 使ln L(p)最大, 则这个p 必使L(p)最大。 所以 为所求 p 的估计值.

7-21 一般, 设 X 为离散型随机变量, 其分布律为 则样本 X1, X2,…, Xn的概率分布为 或 称 L( ) 为样本的似然函数

极大似然法的思想 选择适当的 = ,使 取最大值, 即 L( ) 称这样得到的 为参数  的极大似然估计值 mle 简记 称统计量 7-22 极大似然法的思想 选择适当的 = ,使 取最大值, 即 L( ) 称这样得到的 为参数  的极大似然估计值 mle 简记 称统计量 MLE 简记 为参数  的极大似然估计量

若 X 连续, 取 f (xi, )为Xi 的密度函数 注1 似然函数为 未知参数可以不止一个, 如1,…, k 注2 7-23 若 X 连续, 取 f (xi, )为Xi 的密度函数 注1 似然函数为 未知参数可以不止一个, 如1,…, k 注2 设X 的密度(或分布)为 则定义似然函数为

若 关于1, …, k可微,则称 为似然方程组 若对于某组给定的样本值 x1, x2,…, xn， 参数 使似然函数取得最大值, 即 7-24 若 关于1, …, k可微,则称 为似然方程组 若对于某组给定的样本值 x1, x2,…, xn， 参数 使似然函数取得最大值, 即 则称 为1,…, k 的极大似然估计值

7-25 显然， 称统计量 为1, 2,…, k 的极大似然估计量

7-26 例7 设总体 X ~ N (, 2), x1, x2,…, xn 是 X 的样本值, 求 ,  2 的极大似然估计. 解

7-27 似然 方程 组为 ,  2 的极大似然估计量分别为

7-28 极大似然估计方法 1） 写出似然函数 L 2）求出 , 使得

若 L是 的可微函数,解似然方程组 可得未知参数的极大似然估计值 然后, 再求得极大似然估计量. L不是 的可微函数, 需用其它 若 7-29 若 L是 的可微函数,解似然方程组 可得未知参数的极大似然估计值 然后, 再求得极大似然估计量. L不是 的可微函数, 需用其它 方法求极大似然估计值. 请看下例： 若

例8 设 X ~ U (a,b), x1, x2,…, xn 是 X 的一个 样本值, 求 a , b 的极大似然估计值与极大 似然估计量. 7-30 例8 设 X ~ U (a,b), x1, x2,…, xn 是 X 的一个 样本值, 求 a , b 的极大似然估计值与极大 似然估计量. 解 X 的密度函数为 似然函数为

xmin = min {x1, x2,…, xn} xmax = max {x1, x2,…, xn} 7-31 似然函数只有当 a < xi < b, i = 1,2,…, n 时 才能获得最大值, 且 a 越大, b 越小, L 越大. 令 xmin = min {x1, x2,…, xn} xmax = max {x1, x2,…, xn} 取 则对满足 的一切 a < b , 都有

问 题 故 是 a , b 的极大似然估计值. 分别是 a , b 的极大似然估计量. 1) 待估参数的极大似然估计是否一定存在? 7-32 故 是 a , b 的极大似然估计值. 分别是 a , b 的极大似然估计量. 问 题 1) 待估参数的极大似然估计是否一定存在? 2) 若存在, 是否惟一?

例9 设 X ~ U ( a – ½, a + ½), x1, x2,…, xn 是 X的一个样本, 求 a 的极大似然估计值. 解 7-33 例9 设 X ~ U ( a – ½, a + ½), x1, x2,…, xn 是 X的一个样本, 求 a 的极大似然估计值. 解 由上例可知, 当 时, L 取最大值 1, 即 显然, a 的极大似然估计值可能不存在, 也 可能不惟一.

7-34 不仅如此, 任何一个统计量 若满足 都可以作为 a 的估计量.

极大似然估计的不变性 设 是 的极大似然估计值, u( ) (   )是 的函数, 且有单值反函数  =  (u), uU 7-35 极大似然估计的不变性 设 是 的极大似然估计值, u( ) (   )是 的函数, 且有单值反函数  =  (u), uU 则 是 u( ) 的极大似然估计值.

如 在正态总体N (, 2)中,  2的极大 似然估计值为 是 2的单值函数, 且具有单值 反函数，故 的极大似然估计值为 7-36 如 在正态总体N (, 2)中,  2的极大 似然估计值为 是 2的单值函数, 且具有单值 反函数，故 的极大似然估计值为 lg 的极大似然估计值为