一、有效数字及运算法则
1.有效数字
在质量检验工作中，测得的绝大部分数据是属于连续型的量，其数值的末一位一般具有一定的误差或不确定性。故对末一位数字可认为是不准确或可疑的，称为“可疑数字” 或叫“欠准数字”，而其前边各数所代表的数量，则均为准确知道的，称为“可靠数字”。我们称此时所记数字均为有效数字。就是说有效数字是“可疑数字”和“可靠数字”的总称。也可以说从第一个不为零的数字开始至末位数字被称为有效数字。
至于“可疑数字”的欠准程度，则有±1、±2、±5的不同约定。也有为了与数字修约规则一致，约定不超过可疑数字半个单位的，这时如果写出数字0.5就表示其真值在0.45～0.55之间。所谓约定就是说没有统一的规定可循。在质量检验的具体工作中，一般是根据检测的具体条件决定，包括所用仪器的精度、方法的精确度等。必要时，可在观测值的后面加上欠准程度，如：原油闪点38℃±1℃，硫的相对原子质量32.064±0.003等。
2.有效数字运算法则
用观测值计算分析结果时，就要进行有效数字的运算，运算应遵守有关法则。
(1)几个观测值相加减时，结果的有效数字应以各观测值的最大可疑位数为准，即以小数位数最少的为准。例如：求12.23与0.1234之和。应以12.23为准，即和应为12.35。因为12.23的小数点后第二位上的3是可疑的，即使0.1234的小数点后第三位是可靠数字，对求得的和也没有意义。
(2)观测值相乘、除时，积、商有效数字的位数一般应与有效数字位数最少的观测值相同。例如，0.15×9.6876的正确结果是1.5，而不是1.45314。但这个规则只能说适用于一般情况，在特殊情况下就不适用。确定积、商有效数字位数的普遍适用的规则，是它们的相对误差应与因数中最大的相对误差相当。
(3)对观测值进行乘方和开方时，求得乘幂的位数应不超过观测值本身的位数，且幂次愈高，乘幂误差愈大，应留的位数愈少；求得方根的位数应至少与观测值本身的位数相同，且开方的次数愈高，方根误差愈小，应留的位数愈多。
(4)观测值的对数小数点后所取的位数，应不多于观测值有效数字的位数。
例如，
1g901.2=2.95482……
按约定，对数的下限和上限是
1g901.1=2.95477……
1g901.3=2.95486……
可见，对数的前四位是可靠数字，第五位欠准程度是±1，可以把对数表示为五位有效数字，即
1g901.2=2.9548
(5)关于有效数字的修约，应按照国家标准GB 8170—87《数值修约规则》进行。
(6)在运算过程中可以多保留一位有效数字。因为偶然会发生连续“舍”或连续“进” 的情况而影响最后结果。当然，最后结果的位数仍应按(1)、(2)、(3)、(4)、(5)条的规定处理。
把(1)、(2)、(3)、(4)四条规则概括起来可以知道，进行加、减、乘、除运算，一般都要分成三步：
①把各数修约到比最后结果的位数多一位。
②进行加、减、乘、除运算。
③最后对计算结果进行修约。
如果在全部运算中除加、减、乘、除外还有乘方、开方、求对数的运算，则应按(3)、(4)条的规定，用求上、下限的方法确定乘幂、方根、对数有效数字的位数，再把它们纳入①、②、③三个步骤中，求出最后结果。
(7)在所有计算式中，如根号2、1／2等数字，不连续物理量的数目，以及完全从理论计算出的数字如π、e等的有效数字位数可以无限制保留，需要几位就写几位。其他如相对原子质量等基本数量，如需要的有效位数少于公布的数值，可以根据需要保留。单位换算因数则需根据原单位的有效数位决定，如1kg=1000g，有效数位无限制，而气体常数R值则有一定的最高有效数位。
二、准确度与精密度
准确是指观测值与真值接近。观测值与真值之差叫误差。观测值与真值越接近，观测值的误差越小，观测值就越准确。因此，观测的准确度是指观测的正确性，即观测结果与真值的接近程度。在实际工作中，人们常常把某一误差很小的观测值作为“真值”。例如，在定量分析中把标准样品或纯净物质的组分含量当作没有误差的真值。这样，就可以把实际测得的组分含量与之比较，来衡量测定结果的准确度。
精密是指一组观测值彼此符合。一组观测值彼此越接近，观测就越精密。因此，观测的精密度是指观测的重现性。精密度的高低不能说明观测值与真值是否接近，即精密的观测不一定是准确的，这是因为引起观测值远离真值的误差，会对一系列的观测发生相同的影响，因而无损于观测的精密度。
三、误差及数据处理
1.误差的定义
测量的数据经常受偶然因素的影响而变化。例如：一个化验员每日所化验的样品数；测定某个天然气样品中的硫化氢含量，在重复测量时，结果往往不同。这种受偶然因素影响而变化的量，统计工作者称为随机变量。数据发生变化的原因，可以全部或部分地归于测量误差，有些则是由变量固有的性质所决定的。上述两个变量属于不同类型：样品数是离散型的，只能是整数，可以计数得绝对准确；而后者是连续型的，测量就会有误差。计数的数据和测量的数据统称为观测值。
被测量的量在规定条件下客观存在的量值称为它的真值。实际上，真值是无法被准确知道的。因此，为了使用的特定目的，通常用与它足够接近的量值来代替，这样的量值称之为“约定真值”。约定真值与真值之差对特定目的来说应该是可以忽略不计的。
测量结果的误差是观测值与真值之差。观测值比真值大，误差为正；观测值比真值小，误差为负。
在定量分析中，我们把标准样品给出的组分含量或给出的某项理化性能指标当作真值。实际上，这个真值是由最有经验的人，用最可靠的方法，按照严格规定的程序，准确地测定出来的。有了这种公认的真值，我们就可以把测得的结果与“真值”之差，作为测定结果的误差，来衡量某一分析方法的准确度，某一化验室或某一化验员技术水平的高低。
