读取精度：±(0.02% of reading +5mV)

Holms · 发表于2017-10-20 14:56

读取精度：±(0.02% of reading +5mV) [复制链接]

看到电源仪器上的读取精度写到：±(0.02% of reading +5mV) ，这种怎么算的？ reading是读取值吗？

maychang · 发表于2017-10-20 15:25

“ reading是读取值吗？”
是。

“这种怎么算的？”
哪个大，算哪个。

jishuaihu · 发表于2017-10-20 18:38

这种写法是比较严谨的，因为高精度的仪表在小量程的时候如果再按百分比计算误差的话算出来的值会很小很小，技术上达不到，因此就用具体的数值表示。也有用几个字表示的，就是最后一位跳几个数字

Holms · 发表于2017-10-20 22:24

jishuaihu 发表于 2017-10-20 18:38
这种写法是比较严谨的，因为高精度的仪表在小量程的时候如果再按百分比计算误差的话算出来的值会很小很小， ...

是不是理解成 5mV分辨率下，读取误差在0.02%?

Holms · 发表于2017-10-20 22:26

maychang 发表于 2017-10-20 15:25
“ reading是读取值吗？”
是。

“这种怎么算的？”
哪个大，算哪个。

reading的0.02%怎么理解的？

我想了一种解释:就是在5mV测量精度下，测量误差在 0.02%

gmchen · 发表于2017-10-20 22:37

Holms 发表于 2017-10-20 22:26
reading的0.02%怎么理解的？

我想了一种解释:就是在5mV测量精度下，测量误差在 0.02%

不是这样的。
应该是读数的0.02%再加上5mV。例如读数是100mV，那么0.02%就是20uV，再加上5mV，就是可能有正负5.02mV的误差。

maychang · 发表于2017-10-21 01:23

Holms 发表于 2017-10-20 22:26
reading的0.02%怎么理解的？

我想了一种解释:就是在5mV测量精度下，测量误差在 0.02%

6楼gmchen所说是正确的。
如果是哪个大算哪个，应该写成±(0.02% of reading or 5mV)