表示测量部件时特定量具所具有的辨别力或测量增量。实践原则(称为十分规则)表明工具辨别力应该将过程公差分成十个或更多部分。
量具公差 < 过程公差/10
过程公差是能够维持产品性质的偏离目标值的可允许偏差(过程变异)。例如,您正在生产滚珠外径为 0.35mm 的圆珠笔。可接受的圆珠范围为 0.34 至 0.36mm。通过用最大直径与最小直径相减,得出过程公差为 0.02。为了准确测量这些滚珠,必须使用能够检测出此范围中的多个差异的量具。使用十分规则,计算过程公差的 10%。这表示量具必须能够检测出滚珠间至少 0.002mm 的差异。
如果您具有通过/不通过量具,而且有两种规格(上限和下限),则该量具公差的一半适用于通过量具,另一半适用于不通过量具。如果将整个公差应用于一个或两个量具,则量具总公差将为产品公差的 20%。因此,用于测量滚珠直径的通过量具应该为 0.001mm,不通过量具应该为 0.001mm。这使得工具的分辨率始终比正在测量的产品公差高出 10 倍。