全站数据
8 4 2 0 5 8 1

精度是什么意思

轻语说期货 | 简单学习,快乐成才!         
问题更新日期:2024-10-18 06:04:12

问题描述

精度是什么意思,麻烦给回复
精选答案
最佳答案

简而言之,采样精度是采样所能达到的最小精度。

10位通常记为2,10=1024,精度是每单位的1/1024。如果电压取样,准确度为1/1024v =0.0009765925V约0.98mV。

转换数字精度,数字10说最小精度是10 - 2参考电压之一,也是1024点之一,这里如果参考电压是5v,那么最小单位的(1024)5个成员现在。

0是0V, 1023是5乘以(1023/1024),线性变化。