Resolutie (resolutie) van een digitale multimeter
De spanningswaarde die overeenkomt met het laatste woord van de digitale multimeter op het laagste spanningsbereik wordt de resolutie genoemd, die de gevoeligheid van het instrument weerspiegelt. De resolutie van digitale digitale instrumenten neemt toe met het aantal weergegeven cijfers. De hoogste resolutie-index die kan worden bereikt door digitale multimeters met verschillende cijfers is anders, bijvoorbeeld: 100 μV voor een 3 1/2-cijferige multimeter.
De resolutie-index van de digitale multimeter kan ook per resolutie worden weergegeven. Resolutie is het percentage van het kleinste getal (anders dan nul) dat de meter kan weergeven tot het grootste getal. Een algemene {{0}}/2-digit digitale multimeter kan bijvoorbeeld een minimum aantal van 1 en een maximum aantal van 1999 weergeven, dus de resolutie is gelijk aan 1/1999-0,05 procent.
Opgemerkt moet worden dat resolutie en nauwkeurigheid tot twee verschillende concepten behoren. De eerste kenmerkt de "gevoeligheid" van het instrument, dat wil zeggen het vermogen om kleine spanningen te "herkennen"; de laatste weerspiegelt de "nauwkeurigheid" van de meting, dat wil zeggen de mate waarin het meetresultaat overeenkomt met de werkelijke waarde. Er is geen noodzakelijke verbinding tussen de twee, dus ze kunnen niet worden verward, en de resolutie (of resolutie) mag niet worden aangezien voor vergelijkbaar met de nauwkeurigheid, die afhangt van de interne A/D-converter van het instrument, de uitgebreide fout van de functieconverter en de kwantiseringsfout. Vanuit meetoogpunt is resolutie een "virtuele" indicator (die niets te maken heeft met meetfout), terwijl nauwkeurigheid een "echte" indicator is (hij bepaalt de grootte van de meetfout). Daarom is het onmogelijk om willekeurig de weergavecijfers te verhogen om de resolutie van het instrument te verbeteren.
