0.01級電阻箱

請教各位量友，開關器件沒有零位檔的0.01級電阻箱的0.01盤準確度等級5級，數據修約時要保留幾位小數，規程上要求修約到各十進盤最大允許誤差的十分之一。又要求殘余電阻的數據修約到0.1mΩ。這怎么理解

以這個電阻箱的最后一盤0.01Ω盤檔的第一點為例，準確度要求是5級，標稱值0.01Ω，如果誤差剛好是5%，實際值就是0.01050Ω，修約的就是到5 的下一位0.
因為沒有零位，殘余電阻也是0.01050Ω,但是規程上要求是修約到0.1mΩ，所以殘余電阻是10.5mΩ即可。
以上是我的理解。

tinnasy 發表于 2017-2-23 10:43
以這個電阻箱的最后一盤0.01Ω盤檔的第一點為例，準確度要求是5級，標稱值0.01Ω，如果誤差剛好是5%，實際 ...

謝謝回復 也就是說0.01Ω盤檔的實際值修約后應保留到小數點后5位小數 對嗎

對的。我一直都是這樣處理的