- Measuring range according to IEC 61557-2
\(R_{ISOmin} =\frac{U_{ISOnom} }{I_{ISOmax}}\)=50 kΩ…15.0 TΩ (IISOmax =1.2 mA or 3 mA)
| Display range | Resolution | Accuracy |
|---|---|---|
| 0…999 kΩ | 1 kΩ | ±(3% m.v. + 10 digits) |
| 1.00…9.99 MΩ | 0.01 MΩ | ±(3% m.v. + 10 digits) |
| 10.0…99.9 MΩ | 0.1 MΩ | ±(3% m.v. + 10 digits) |
| 100…999 MΩ | 1 MΩ | ±(3% m.v. + 10 digits) |
| 1.00…9.99 GΩ | 0.01 GΩ | ±(3% m.v. + 10 digits) |
| 10.0…99.9 GΩ | 0.1 GΩ | ±(3% m.v. + 10 digits) |
| 100…999 GΩ | 1 GΩ | ±(3.5% m.v. + 10 digits) |
| 1.00…9.99 TΩ | 0.01 TΩ | ±(7.5% m.v. + 10 digits) |
| 10.0…15.0 TΩ | 0.1 TΩ | ±(10% m.v. + 10 digits) |
“m.v.” - measured value
