SSブログ

測定精度 ±(% of reading + digits) の意味 [メモ]

例えば測定精度 0.03±12 で 5 1/2桁表示の電流計で100.000mAを測定したとすると

下限は 100.000 × 099.970 = 099.970これから12digitsを引いて099.958となる。

上限は 100.000 × 100.030 = 100.030 これに12digitsを足して100.042となる。

12digitsの正体は内臓の増幅器のオフセット電圧+増幅器の残留ノイズでありレンジに左右されない固定値。


この広告は前回の更新から一定期間経過したブログに表示されています。更新すると自動で解除されます。