Resolutie (resolutie) van een digitale multimeter
De spanningswaarde die overeenkomt met het laatste woord van de digitale multimeter op het laagste spanningsbereik wordt de resolutie genoemd, die de gevoeligheid van het instrument weerspiegelt. De resolutie van digitale digitale instrumenten neemt toe met het aantal weergegeven cijfers. De hoogste resolutie-index die kan worden bereikt door digitale multimeters met verschillende cijfers is anders, bijvoorbeeld: 100 μV voor een 3 1/2-cijferige multimeter.
De resolutie-index van de digitale multimeter kan ook per resolutie worden weergegeven. Resolutie verwijst naar het percentage van het kleinste getal (behalve nul) tot het grootste getal dat de meter kan weergeven. Een algemene {{0}}/2-digit digitale multimeter kan bijvoorbeeld een minimum aantal van 1 en een maximum aantal van 1999 weergeven, dus de resolutie is gelijk aan 1/1999-0,05 procent.
Opgemerkt moet worden dat resolutie en nauwkeurigheid tot twee verschillende concepten behoren. De eerste kenmerkt de "gevoeligheid" van het instrument, dat wil zeggen het vermogen om kleine spanningen te "herkennen"; de laatste weerspiegelt de "nauwkeurigheid" van de meting, dat wil zeggen de mate waarin het meetresultaat overeenkomt met de werkelijke waarde. Er is geen noodzakelijke verbinding tussen de twee, dus ze kunnen niet worden verward, en de resolutie (of resolutie) mag niet worden aangezien voor vergelijkbaar met de nauwkeurigheid, die afhangt van de interne A/D-converter van het instrument, de uitgebreide fout van de functieconverter en de kwantiseringsfout. Vanuit meetoogpunt is de resolutie een "virtuele" index (die niets te maken heeft met de meetfout), en de nauwkeurigheid is de "echte" index (deze bepaalt de grootte van de meetfout). Daarom is het niet mogelijk om willekeurig de weergavecijfers te verhogen om de resolutie van het instrument te verbeteren.
