1. Bepaal het bereik :
- Identificeer het meetbereik van het instrument, dat de minimale en maximale waarden vertegenwoordigt die het kan meten.
2. Bereken de volledige schaalwaarde (FSV) :
- Trek de minimumwaarde af van de maximumwaarde van het bereik om de volledige schaalwaarde te vinden.
3. Bepaal het aantal divisies :
- Tel het aantal markeringen of schaalverdelingen op de schaal van het instrument.
4. Bereken de resolutie :
- Deel de volledige schaalwaarde (FSV) door het aantal divisies.
Resolutie =(volledige schaalwaarde) / (aantal divisies)
Voorbeeld :
- Beschouw een voltmeter met een bereik van 0 tot 100 volt en 20 schaalverdelingen.
- Volledige schaalwaarde (FSV) =100 volt - 0 volt =100 volt
- Aantal divisies =20
- Resolutie =(100 volt) / (20 divisies)
- Resolutie =5 volt per divisie
In dit geval is de kleinste verdeling van de voltmeter 5 volt, wat betekent dat de voltmeter spanningsveranderingen kan oplossen en weergeven in stappen van 5 volt.