GB8170数字修约规则与极限表示方法

斯普林特 · 发表于 2017-11-22 14:24:06

本帖最后由斯普林特于 2017-11-22 14:26 编辑

质量人天天与数字打交到，所以掌握数字修约规则也是质量人的一个基本工，有用的朋友请拿去！如下修约数值有效位数的确定从左边起第一个非0数字算起所有有效数字的个数，即为有效数字的位数，简称有效位数。
1.首先是上一级计量检定机构给出的有效位数作为确定有效位数的依据，其次是计量标准器能够读出的有效数据的位数作为确定有效位数的依据。
2.数学运算中有效位数的确定。
（1）加减法运算以各数据中小数部分位数最少的为准，运算结果比其多保留一位有效位数。
例：5.89＋15.2551=21.145
（2）乘除法运算以各数据中有效位数最少的为准，运算结果比其多保留一位有效位数。
例：2.1×3.124=6.55
（3）开方或乘方的数据中的有效位数比被开方或乘方的数多保留一位有效位数。
例：1.42=1.96；1.232=1.861
（4）对数运算的数据中的有效位数应与真数的有效位数相等。
例：logl2.3＝1.09

TBD16888 · 发表于 2017-11-23 00:47:28

感谢分享!!!

南飞的候鸟 · 发表于 2017-11-23 09:38:50

谢谢分享

叶平 · 发表于 2017-11-24 08:00:02

谢谢分享。。。

南飞的候鸟 · 发表于 2017-11-24 08:43:02

谢谢分享

斯普林特 · 发表于 2017-11-24 14:01:13

本帖最后由斯普林特于 2017-12-4 09:10 编辑

乍么大家不认为这个很重要吗？不是作为质量人的基本功吗？

lihuhu2887 · 发表于 2023-4-6 18:52:28

精致品质_22 · 发表于 2023-4-7 10:24:31

flyerchang · 发表于 2023-4-7 16:07:53

谢谢分享

精致品质_22 · 发表于 2023-4-18 09:14:36

		自动登录	找回密码
密码			加入协会

品质人下班后还学习吗?	工业4.0，品质人怎么办?	为老板打工?还是为自己打工?	品质人，你文件做得怎么样?	品质人,你的英语水平怎么样?
8D报告案例、质量成本	APQP, PPAP, FMEA, MSA, SPC	六西格玛、DFSS, 数据分析	华为内部资料学习培训(汇总)	汽车行业培训、学习资料(汇总)