行业动态 行业动态

原始记录、报告上的有效数字如何确定?

2020-02-25 作者: 浏览数:1138
原始记录、报告上保留几位有效数字
1

原始记录有效数字

 

      原始记录的有效数字位数既不可少,也不可多,要根据仪器、仪表指示的最小分度值如实记录,并允许增记一位估计数字。
 
      例如,50 mL,滴定管的最小分度值为0.1 mL,又因为允许增加一位估计数字,可以记录到两位小数,如12.34 mL。
 
      这一量值表明十分位上的3是刻度指示值,确切可信;百分位上的4则是估计判读的,是可疑数字,并知其波动范围为0.02 mL,其相对误差为(0.02/12.34)×100%=0.16%。若在原始记录中仅记为12.3 mL,则表示可能产生1.6%的相对误差。
 
      由于原始记录不合理致使数据的准确度下降一个数量级。但也不可任意增加有效数字的位数。如果记成12.340则是明显失真,因为不可能估计出两位数字。
 
     告诉大家一个方法,实验室通的仪器、仪表、计量器具最小分度(准确到第几位),可以用检定规程,校准规范,设备说明书等文件获得。
 
2

报告的有效数字

 

报告结果有效数字位数,可以有2种方法
(1)方法的标准差已知的情况
     报告结果的有效数字取四分之一个标准差的首数所在数位,定为分析结果的尾数。例如:某一测定结果为25.352,标准差为1.4,四分之一标准差为0.35,其首位数字(0.35中的3所在数位是十分位,即定为该结果的末位,可报为25.4
 
(2)方法的标准差未知的情况
这种遵守原始记录的结果,并按照有效数字的运算规则来确定。
 
有效数字运算规则如下:
 
加减运算:
 
最终计算结果中保留的小数位数,与参加运算的有效数字中小数位数最少者相同
 
乘除运算:
运算结果经修约后,保留的有效数字位数应与参加运算的几个有效数字中有效位数最少者相同。
 
对数运算:
对数的有效数字位数应和原数(真数)的相同。
 
平方、立方、开方运算:
计算结果的有效数字位数应和原数的相同。
 
例如:某实验室要求测试密度。
原始记录的结果为:质量m=0.8044g,体积V=1.82ml
密度=m/v=0.8044/1.82=0.4419780219·······
这是一个乘除运算,最终结果与参加运算的几个有效数字中有效位数最少者(1.82)相同
那么报告的最终结果应该是:0.442g/ml

来源:
实验室ISO17025
 
 

推荐新闻

查看全部 >>
  • 010-51288971
  • 微信咨询
  • 返回顶部