斯普林特 发表于 2017-11-22 14:24:06

GB8170数字修约规则与极限表示方法

本帖最后由 斯普林特 于 2017-11-22 14:26 编辑

质量人天天与数字打交到，所以掌握数字修约规则也是质量人的一个基本工，有用的朋友请拿去！如下修约数值有效位数的确定 从左边起第一个非0数字算起所有有效数字的个数，即为有效数字的位数，简称有效位数。
1.首先是上一级计量检定机构给出的有效位数作为确定有效位数的依据，其次是计量标准器能够读出的有效数据的位数作为确定有效位数的依据。
2.数学运算中有效位数的确定。
（1）加减法运算以各数据中小数部分位数最少的为准，运算结果比其多保留一位有效位数。
例：5.89＋15.2551=21.145
（2）乘除法运算以各数据中有效位数最少的为准，运算结果比其多保留一位有效位数。
例：2.1×3.124=6.55
（3）开方或乘方的数据中的有效位数比被开方或乘方的数多保留一位有效位数。
例：1.42=1.96；1.232=1.861
（4）对数运算的数据中的有效位数应与真数的有效位数相等。
例：logl2.3＝1.09


TBD16888 发表于 2017-11-23 00:47:28

感谢分享!!!

南飞的候鸟 发表于 2017-11-23 09:38:50

谢谢分享

叶平 发表于 2017-11-24 08:00:02

谢谢分享。。。

南飞的候鸟 发表于 2017-11-24 08:43:02

谢谢分享

斯普林特 发表于 2017-11-24 14:01:13

本帖最后由 斯普林特 于 2017-12-4 09:10 编辑

乍么大家不认为这个很重要吗？不是作为质量人的基本功吗？

lihuhu2887 发表于 2023-4-6 18:52:28

{:1_180:}{:1_180:}{:1_180:}{:1_180:}{:1_180:}{:1_180:}{:1_180:}{:1_180:}{:1_180:}

精致品质_22 发表于 2023-4-7 10:24:31

{:1_180:}{:1_180:}

flyerchang 发表于 2023-4-7 16:07:53

谢谢分享

精致品质_22 发表于 2023-4-18 09:14:36

{:1_180:}{:1_180:}
页: [1]
查看完整版本: GB8170数字修约规则与极限表示方法