实验室如何保留有效数据的位数

1
报告的有效数字位数
报告分析结果有效数字位数,应根据分析方法的精密度即标准差的大小决定。
通常可取四分之一个标准差的首数所在数位,定为分析结果的尾数。
例如:某一测定结果为25.352,标准差为1.4,四分之一标准差为0.35,其首位有效数字所在数位是十分位,即定为该结果的末位,可报为25.4。
2
原始记录的有效数字
在记录原始数据开始过程中,对任何一个有计算意义的数据都要审慎地估量,正确地记载量值的有效位数。
例如:50mL滴定管的最小分度值为0.1mL,又因为允许增加一位估计数字,可以记录到两位小数,如12.34mL。这一量值表明十分位上的3是刻度指示值,确切可信;百分位上的4则是估计判读的,是可疑数字,并知其波动范围为0.02mL,其相对误差为(0.02/12.34)×100%=0.16%。
若在原始记录中仅记为12.3mL,则表示可能产生1.6%的相对误差。由于原始记录不合理致使数据的准确度下降一个数量级。
但也不可任意增加有效数字的位数。如前例记成12.340则是明显失真,因为不可能估计出两位数字。原始记录的有效数字位数既不可少,也不可多。
记取的原则是:根据仪器、仪表指示的最小分度值如实记录并允许增记一位估计数字。
实验室通用的计量器具可记取的位数如下:
——万分之一天平:小数点后第四位即万分位。
——上皿天平:小数点后第二位即百分位。
——分光光度计:吸光值记到小数点后第三位即干分位。
——玻璃量器:记取的有效数字位数须根据量器的允许误差和读数误差决定。
广告
分析

1
报告的有效数字位数
报告分析结果有效数字位数,应根据分析方法的精密度即标准差的大小决定。
通常可取四分之一个标准差的首数所在数位,定为分析结果的尾数。
例如:某一测定结果为25.352,标准差为1.4,四分之一标准差为0.35,其首位有效数字所在数位是十分位,即定为该结果的末位,可报为25.4。
2
原始记录的有效数字
在记录原始数据开始过程中,对任何一个有计算意义的数据都要审慎地估量,正确地记载量值的有效位数。
例如:50mL滴定管的最小分度值为0.1mL,又因为允许增加一位估计数字,可以记录到两位小数,如12.34mL。这一量值表明十分位上的3是刻度指示值,确切可信;百分位上的4则是估计判读的,是可疑数字,并知其波动范围为0.02mL,其相对误差为(0.02/12.34)×100%=0.16%。
若在原始记录中仅记为12.3mL,则表示可能产生1.6%的相对误差。由于原始记录不合理致使数据的准确度下降一个数量级。
但也不可任意增加有效数字的位数。如前例记成12.340则是明显失真,因为不可能估计出两位数字。原始记录的有效数字位数既不可少,也不可多。
记取的原则是:根据仪器、仪表指示的最小分度值如实记录并允许增记一位估计数字。
实验室通用的计量器具可记取的位数如下:
——万分之一天平:小数点后第四位即万分位。
——上皿天平:小数点后第二位即百分位。
——分光光度计:吸光值记到小数点后第三位即干分位。
——玻璃量器:记取的有效数字位数须根据量器的允许误差和读数误差决定。
广告
分析

