第一部分：概率 产生随机样本：对分布采样 均匀分布 其他分布 伪随机数 很多统计软件包中都有此工具 如在Matlab中：rand 直接方法：概率积分变换 通过对均匀分布的采样实现对任意分布的采样 间接方法： 接受/拒绝算法（重要性采样） MCMC方法
概率积分变换 X有连续CDF ，定义随机变量 ，则Y为[0,1]上的均匀分布，即 对随机数产生特别有用（Chp2第15题）
1.0 0.5
概率积分变换 X有连续严格递增的CDF ，定义随机变量Y为 ，则Y为[0,1]上的均匀分布，即 令 则
对任意分布采样 通过对均匀分布采样，实现对任意分布的采样 从 随机产生一个样本y 令 ，其中 为X的CDF 计算 结果 为对 的采样
对任意分布采样
对任意分布采样 例：对指数分布采样
变形 若X为离散型随机变量，其取值为 则可以通过以下方式产生随机样本 定义 例：为了从 产生一个随机样本，从 产生一个随机样本y，则 若 ，令 定义 例：为了从 产生一个随机样本，从 产生一个随机样本y，则
但采样问题还没有解决 因为 所以：有时需要间接方法 通常不能确定 通常不能对 求逆 Monte Carlo 通常不能对 求逆 所以：有时需要间接方法 Monte Carlo Matlab中有常见分布的随机数产生函数
第一部分总结 随机变量及其分布 多元随机向量及其分布 层次模型 CDF、pdf/pmf 随机变量的变换的分布 联合分布、边缘分布、条件分布 贝叶斯公式 条件独立 多元随机向量的变换的分布 层次模型
第一部分总结 期望 方差 利用定义计算期望、期望的直观含义 概率积分变换及其应用 条件期望 利用定义计算方差、方差的直观含义 条件方差 层次模型中期望的计算 方差 利用定义计算方差、方差的直观含义 条件方差 协方差/相关系数
第一部分总结 不等式 收敛性 Chebyshev不等式 Hoeffding不等式（对二项分布） Cauchy-Schwarz不等式 Jensen不等式 收敛性 依概率收敛 大数定律及其应用 依分布收敛 中心极限定理及其应用