第 六 讲 分 析 数 据 与 处 理 荆州职业技术学院纺织服装系 邹筠
一、有效数字及其应用 1、有效数字的意义及位数 2、数字修约规则 3、有效数字的运算规则 4、有效数字运算规则在分析化学实验中的应用
1、有效数字的意义及位数 例如: 坩埚重18.5734克 六位有效数字 标准溶液体积24.41毫升 四位有效数字 坩埚重18.5734克 六位有效数字 标准溶液体积24.41毫升 四位有效数字 由于万分之一的分析天平能称准至±0.0001克,滴定管的读数能读准至±0.01毫升,故上述坩埚重应是18.5734±0.0001克,标准溶液的体积应是24.41±0.01毫升,因此这些数值的最后一位都是可疑的,这一位数字称为“不定数字”。在分析工作中应当使测定的数值,只有最后一位是可疑的。
有效数字的位数,直接与测定的相对误差有关 例 称得某物重为0.5180克,它表示该物实际重量是0.5180±0.0001克,其相对误差为: (±0.0001/0.5180)×100%=±0.02%
在测量准确度的范围内,有效数字位数越多,测量也越准确 如果少取一位有效数字,则表示该物实际重量是0.518±0.001克,其相对误差为: (±0.001/0.518)×100%=±0.2%
哪些数据中的“0”不是有效数字? 1.0005 五位有效数字 0.5000;31.05% ;6.023×1023 1.0005 0.5000;31.05% ;6.023×1023 0.0540;1.86×10-5 0.0054;0.40% 0.5 ; 0.002% 五位有效数字 四位有效数字 三位有效数字 两位有效数字 一位有效数字
在记录测量数据和计算结果时,应根据所使用的仪器的准确度,必须使所保留的有效数字中,只有最后一位数是“不定数字”。 例如 用感量为百分之一克的台秤称物体的重量,由于仪器本身能准确称到±0.0l克,所以物体的重量如果是10.4克,就应写成10.40克,不能写成10.4克。
遇到pH、pC、lgK等对数值,其有效数字的位数怎么算? 有效数字的位数仅取决于小数部分数字的位数,因整数部分只说明该数的方次 例 pH=12.68, 即[H+]=2.1×l0-13mol/L, 其有效数字为两位,而不是四位。
还有什么特例? 对于非测量所得的数字,如倍数、分数、π、e等等,它们没有不确定性,其有效数字可视为无限多位,根据具体情况来确定。 如果有效数字位数最少的因数的首位数是“8”或“9”,则有效数字可认为比这个因数多取一位。
2、数字修约规则 四舍六入五留双 当尾数≤4时将其舍去,尾数≥6时就进一位; 如果尾数为5而后面的数为0时则看前方:前方为奇数就进位,前方为偶数则舍去; 当“5”后面还有不是0的任何数时,都须向前进一位,无论前方是奇还是偶数,“0”则以偶数论
四舍六入五留双 例 0.53664→0.5366 0.58346→0.5835 10.2750→10.28 16.4050→16.40 27.1850→27.18 18.06501→18.07
3、有效数字的运算规则 (一)加减法 (二)乘除法
(1)加减法 例 当几个数据相加或相减时、它们的和或差的有效数字的保留,应以小数点后位数最少,即绝对误差最大的的数据为依据。 0.0121+ 25.64 + 1.05782 = 0.01 + 25.64 + 1.06 =26.71
什么叫安全数? 在大量数据的运算中。为使误差不迅速积累,对参加运算的所有数据,可以多保留一位可疑数字(多保留的这一位数字叫“安全数字”)。如计算5.2727、0.075、3.7及2.12的总和时,根据上述规则,只应保留一位小数。但在运算中可以多保留一位,故5.2727应写成5.27;0.075应写成0.08;2.12应写成2.12。因此其和为: 5.27+0.08+3.7+2.12=11.17 然后、再根据修约规则把11.17整化成11.2。
(2)乘除法 几个数据相乘除时,积或商的有效数字的保留,应以其中相对误差最大的那个数,即 有效数字位数最少的那个数为依据。 几个数据相乘除时,积或商的有效数字的保留,应以其中相对误差最大的那个数,即 有效数字位数最少的那个数为依据。 0.0121 × 25.64 × 1.05782 = 0.0121 × 25.6 × 1.06 = 0.328
4、有效数字的运算规则在分析化学实验中的应用 1.根据分析仪器和分析方法的准确度正确读出和记录测定值,且只保留一位可疑数字。 2.在计算结果之前,先根据运算方法确定欲保留的位数,然后按照数字修约规则对各测定值进行修约,先修约,后计算。
二、有限实验数据的统计处理 1、测定结果的表示 2、置信度与置信区间 3、可疑数据的取舍
1、测定结果的表示 (1)算术平均值:数据的集中趋势 (2)标准偏差:数据的分散程度 (3)变异系数:CV S
2、置信度与置信度区间 表7-4 t 分布值表 t 值 P 90% 95% 99% 99.5% f(n-1) 1 6.31 12.71 63.66 127.32 2 2.92 4.30 9.92 14.98 3 2.35 3.18 5.84 7.45 4 2.13 2.78 4.60 5.60 5 2.02 2.57 4.03 4.77 6 1.94 2.45 3.71 4.32 7 1.90 2.36 3.50 4.03 8 1.86 2.31 3.35 3.83 9 1.83 2.26 3.25 3.69 10 1.81 2.23 3.17 3.58 20 1.72 2.09 2.84 3.15 30 1.70 2.04 2.75 (3.01) 60 1.67 2.00 2.66 (2.87) 120 1.66 1.98 2.62 2.81 ∞ 1.64 1.96 2.58 2.81
3、可疑测定值的取舍 (1) Q检验法 检验步骤 ① 将测定值由小至大按顺序排列,其中可疑值为x1或xn:x1 <x2 <x3 <…<xn 检验步骤 ① 将测定值由小至大按顺序排列,其中可疑值为x1或xn:x1 <x2 <x3 <…<xn ② 求舍弃商值 ③查Q表。表7-5为两种置信度下的Q表。 若Q计>Q表,则舍去可疑值;若Q计≤Q表,则可疑值应保留。
Q值越大,说明离群越远,远至一定程度时则应将其舍去。故Q称为舍弃商。 Q值计算式 Q值越大,说明离群越远,远至一定程度时则应将其舍去。故Q称为舍弃商。
可疑值取舍训练题 某人测定一溶液浓度,获得以下结果:0.2038mol/L、0.2042mol/L、0.2052mol/L、0.2392mol/L,第四个数据应否弃去?结果应如何表示?若又测定了第五次,结果为0.2041mol/L,这时第四个数据可以弃去吗?(置信度为90%)
表7-5两种置信度下舍弃可疑数据的Q表 测定次数 3 4 5 6 7 8 9 10 P= 0.95 0.94 0.76 0.4 0.56 0.51 0.47 0.44 0.41 1.53 1.05 0.86 0.69 0.64 0.60 0.58
练 习 1、甲乙二人同时分析一矿物试样中硫的质量分数时,每次称取试样3.5g,分析结果报告为;甲,0.042%;0.041%乙,0.04099%、0.04201%。问哪一份报告是合理的,为什么? 2、下列数值各有几位有效数字? 0.038;42.080;6.3× 10-8;2.310× 109;1000;200.00;pH=6.6
3、按有效数字计算下列结果: (1)231.64+4.4+0.3244 (2) (3)pH=12.20 溶液的[H+] = 236.3 = 2.594 = 6.3×10-13