可视化分辨率是什么

问题描述

精选答案

是指测量仪器最小增量的大小。该数值通常以文字形式（如广告中）来划分测量仪器的分级。数据的分级数可通过把该增量的大小划分类预期的过程分布范围（6σ）来确定。

注：显示或报告的位数不一定总表示仪器的分辨率。例如，零件的测量值为29.075、29.080、29.095等，记录为5位数。然而该仪器的分辨率为0.005而不是0.001。