Skip to main content

Sélectionner le site de votre pays

  • Africa and Middle East
    Africa
    ( English | Français )
    Middle East
    ( English )
  • Americas
    Argentina
    ( Español )
    Costa Rica
    ( Español )
    Mexico
    ( Español )
    Bolivia
    ( Español )
    Dominican Republic
    ( Español )
    Peru
    ( Español )
    Brazil
    ( Português )
    Ecuador
    ( Español )
    United States
    ( English | Español )
    Canada
    ( English | Français )
    El Salvador
    ( Español )
    Uruguay
    ( Español )
    Chile
    ( Español )
    Guatemala
    ( Español )
    Venezuela
    ( Español )
    Colombia
    ( Español )
  • Asia Pacific
    Australia
    ( English )
    Japan
    ( 日本 )
    South Korea
    ( 한국어 )
    China
    ( 中国 )
    Malaysia
    ( English )
    Taiwan
    ( Chinese Traditional )
    India
    ( English )
    Philippines
    ( English )
    Thailand
    ( English | ภาษาไทย )
    Indonesia
    ( English | Bahasa )
    Singapore
    ( English )
    Vietnam
    ( English | Tiếng Việt Vietnam )
  • Europe
    Austria
    ( Deutsch )
    Ireland
    ( English )
    Rest of Europe
    ( English )
    Belgium
    ( Français | Dutch )
    Italy
    ( Italiano )
    Spain
    ( Español )
    Czechia
    ( Czech )
    Netherlands
    ( Dutch )
    Sweden
    ( Swedish )
    Denmark
    ( Dansk )
    Norway
    ( Norsk )
    Switzerland
    ( Deutsch | Français )
    Finland
    ( Finish )
    Poland
    ( Polski )
    Turkey
    ( Türkçe )
    France
    ( Français )
    Portugal
    ( Português )
    United Kingdom
    ( English )
    Germany
    ( Deutsch )
  • Russia
    Russia
    ( Russian )

Sélectionner le site de votre pays

  • Africa and Middle East
    • Africa English
    • Africa Français
    • Middle East English
  • Americas
    • Argentina Español
    • Colombia Español
    • Bolivia Español
    • Brazil Português
    • Canada English
    • Canada Français
    • Chile Español
    • Costa Rica Español
    • Dominican Republic Español
    • Ecuador Español
    • El Salvador Español
    • Guatemala Español
    • Mexico Español
    • Peru Español
    • United States English
    • United States Español
    • Uruguay Español
    • Venezuela Español
  • Asia Pacific
    • Australia English
    • China 中国
    • India English
    • Indonesia English
    • Indonesia Bahasa
    • Japan 日本
    • Malaysia English
    • Philippines English
    • Singapore English
    • South Korea 한국어
    • Taiwan Chinese Traditional
    • Thailand English
    • Thailand ภาษาไทย
    • Vietnam English
    • Vietnam Tiếng Việt Vietnam
  • Europe
    • Austria Deutsch
    • Belgium Français
    • Belgium Dutch
    • Belgium Français
    • Belgium Dutch
    • Czechia Czech
    • Denmark Dansk
    • Finland Finish
    • France Français
    • Germany Deutsch
    • Ireland English
    • Italy Italiano
    • Netherlands Dutch
    • Norway Norsk
    • Poland Polski
    • Portugal Português
    • Rest of Europe English
    • Spain Español
    • Sweden Swedish
    • Switzerland Deutsch
    • Switzerland Français
    • Turkey Türkçe
    • United Kingdom English
  • Russia
    • Russia Russian
Fluke
  • Produits
      • Accessoires
        • Tout voir
      • Infrastructure du bâtiment
        • Outils CVC (HVAC)
        • Test de la qualité de l’air intérieur
        • Télémètres laser
        • Niveaux laser
      • Outils d’étalonnage
        • Fluke Calibration
        • Calibrateurs de boucle mA
        • Calibrateurs multifonctions
        • Calibrateurs de pression
        • Calibrateurs de température
      • Test électrique
        • Testeurs de base
        • Analyseurs de batterie
        • Pinces multimètres
        • Multimètres numériques
        • De mise à la terre
        • Testeurs d'installations électriques
        • Controleurs d'isolement
        • Oscilloscopes portables
        • Énergimètres et enregistreurs de puissance électrique
        • Analyseurs de qualité d'énergie
        • Testeurs sans fil
      • Logiciel Fluke
        • Logiciel Fluke Calibration
        • Fluke SmartView
      • Imagerie industrielle
        • Tout voir
      • Sécurité intrinsèque
        • Tout voir
      • Maintenance mécanique
        • Alignement par laser
        • Analyse des vibrations
      • Mesure de température
        • Thermomètres de contact
        • Thermomètres infrarouges
      • Thermographie
        • Thermographie et détecteurs de gaz
        • Hublots IR
        • Thermomètres infrarouges visuels
      • Nouveaux produits Fluke
      • Catalogues
  • Apprendre
      • Meilleures pratiques
        • Complétez votre ceinture à outils
        • Transfert de propriété
        • Inspection électrique
        • Test sur les équipements et la ligne de production
        • Systèmes de fluides
        • Bases des mesures
        • Moteurs et entraînements
        • Etalonnage de la pression
        • Sécurité
        • Etalonnage de la température
        • Bases des outils de diagnostic
        • Découvrez pourquoi les professionnels préfèrent Fluke
      • Blog
      • Bibliothèque
      • Séminaires et formation
      • Salons professionnels
  • Assistance
      • A propos de nous
        • Recrutement
        • Sociétés
        • Nous contacter
        • Profil d'entreprise
        • Intégrité
      • Services d'étalonnage
      • Manuels
      • Communiqués
      • Enregistrement de produit
      • Programme de Recyclage
      • Réparation
      • Autorisation de renvoi du matériel
      • Notices de sécurité
      • Centres de réparation
      • Téléchargements de logiciels
      • Assistance technique
      • Garanties
  • Points de vente
      • Points de vente
      • Promotions et concours

Accuracy, resolution, range, counts, digits and precision

Overview  

Digital multimeter buttons

Accuracy: An instrument’s degree of veracity—how close its measurement comes to the actual or reference value of the signal being measured.

Resolution: The smallest increment an instrument can detect and display—hundredths, thousandths, millionths.

Range: The upper and lower limits an instrument can measure a value or signal such as amps, volts and ohms.

Precision: An instrument’s degree of repeatability—how reliably it can reproduce the same measurement over and over.

Click the individual tabs above to read more in-depth explanations of these terms as well as counts and digits.

Accuracy  

Digital multimeter buttons

Accuracy refers to the largest allowable error that occurs under specific operating conditions.

Accuracy is expressed as a percentage and indicates how close the displayed measurement is to the actual (standard) value of the signal measured. Accuracy requires a comparison to an accepted industry standard.

The accuracy of a specific digital multimeter is more or less important depending on the application. For example, most AC power line voltages vary ±5% or more. An example of this variation is a voltage measurement taken at a standard 115 V AC receptacle. If a digital multimeter is only used to check if a receptacle is energized, a DMM with a ±3% measurement accuracy is appropriate.

Some applications, such as calibration of automotive, medical aviation or specialized industrial equipment, may require higher accuracy. A reading of 100.0 V on a DMM with an accuracy of ±2% can range from 98.0 V to 102.0 V. This may be fine for some applications, but unacceptable for sensitive electronic equipment.

Accuracy may also include a specified amount of digits (counts) added to the basic accuracy rating. For example, an accuracy of ±(2%+2) means that a reading of 100.0 V on the multimeter can be from 97.8 V to 102.2 V. Use of a DMM with higher accuracy allows a great number of applications.

Basic dc accuracy of Fluke handheld digital multimeters ranges from 0.5% to 0.025%.

Resolution  

Digital multimeter buttons

Resolution is the smallest increment a tool can detect and display.

For a nonelectrical example, consider two rulers. One marked in 1/16-inch segments offers greater resolution than one marked in quarter-inch segments.

Imagine a simple test of a 1.5 V household battery. If a digital multimeter (DMM) has a resolution of 1 mV on the 3 V range, it is possible to see a change of 1 mV while reading 1 V. The user could see changes as small as one one-thousandth of a volt, or 0.001.

Resolution may be listed in a meter's specifications as maximum resolution, which is the smallest value that can be discerned on the meter's lowest range setting.

For example, a maximum resolution of 100 mV (0.1 V) means that when the multimeter's range is set to measure the highest possible voltage, the voltage will be displayed to the nearest tenth of a volt.

Resolution is improved by reducing the DMM's range setting as long as the measurement is within the set range.

Digital multimeter buttons

Range  

Digital multimeter buttons

Digital multimeter range and resolution are related and are sometimes specified in a DMM’s specs.

Many multimeters offer an autorange function that automatically selects the appropriate range for the magnitude of the measurement being made. This provides both a meaningful reading and the best resolution of a measurement.

If the measurement is higher than the set range, the multimeter will display OL (overload). The most accurate measurement is obtained at the lowest possible range setting without overloading the multimeter.

Range and Resolution

Range

Resolution

300.0 mV0.1 mV (0.0001 V)
3.000 V1 mV (0.001 V)
30.00 V10 mV (0.01 V)
300.0 V100 mV (0.1 V)
1000 V1000 mV (1 V)

Precision  

Digital multimeter buttons

Precision refers to a digital multimeter’s ability to provide the same measurement repeatedly.

A common example used to explain precision is the arrangement of holes on an shooting-range target. This example presumes a rifle is aimed at the target’s bull’s-eye and shot from the same position each time.

If the holes are tightly packed but outside the bull’s-eye, the rifle (or shooter) can be considered precise but not accurate.

If the holes are tightly packed with the bull’s-eye, the rifle is both accurate and precise. If the holes are spread randomly all over the target, is neither accurate nor precise (or, repeatable).

In some circumstances, precision (repeatability) is more important than accuracy. If measurements are repeatable, it’s possible to determine an error pattern and make compensation for it.

Counts and digits  

Digital multimeter buttons

Counts and digits are terms used to describe a digital multimeter's resolution. Today it is more common to classify DMMs by the total counts than by digits.

Counts: Digital multimeter resolution is also specified in counts, and DMMs that offer higher counts provide better resolution for certain measurements. For example, a 1999-count multimeter cannot measure down to a tenth of a volt if measuring 200 V or more. Fluke offers 3½-digit DMMs with counts of up to 6000 (meaning a max of 5999 on the meter's display) and 4½-digit meters with counts of either 20000 or 50000.

Digits: The Fluke product line includes 3½- and 4½-digit digital multimeters. A 3½-digit DMM, for example, can display three full digits and a half digit. The three full digits display a number from 0 to 9. The half digit, considered the most significant digit, displays a 1 or remains blank. A 4½-digit DMM can display four full digits and a half, indicative of higher resolution.

Find the right multimeter

Produits recommandés

Multimètre industriel Fluke 87V
Multimètre industriel Fluke 87V
Multimètre numérique TRMS Fluke 179
Multimètre numérique TRMS Fluke 179
Multimètre enregistreur TRMS industriel Fluke 289
Multimètre enregistreur TRMS industriel Fluke 289
©2019 Fluke Corporation. Caractéristiques sujettes à modification sans préavis. 600532

Produits

  • Points de vente
  • Manuels
  • Enregistrement de produit

Société

  • Recrutement
  • Sociétés
  • Intégrité
  • Manuel du fournisseur

Service clientèle

  • Nous contacter
  • Notices de sécurité
  • Inscription aux bulletins d’information Fluke
Facebook
YouTube
Twitter
LinkedIn
Instagram
Fluke. Keeping your world up and running.®
  • Déclaration de confidentialité
  • Conditions d'utilisation Fluke
  • Conditions générales de vente de Fluke
  • Plan du site
©1995 - 2019 Fluke Corporation
    • Produits
      • Accessoires
        • Tout voir
      • Infrastructure du bâtiment
        • Outils CVC (HVAC)
        • Test de la qualité de l’air intérieur
        • Télémètres laser
        • Niveaux laser
      • Outils d’étalonnage
        • Fluke Calibration
        • Calibrateurs de boucle mA
        • Calibrateurs multifonctions
        • Calibrateurs de pression
        • Calibrateurs de température
      • Test électrique
        • Testeurs de base
        • Analyseurs de batterie
        • Pinces multimètres
        • Multimètres numériques
        • De mise à la terre
        • Testeurs d'installations électriques
        • Controleurs d'isolement
        • Oscilloscopes portables
        • Énergimètres et enregistreurs de puissance électrique
        • Analyseurs de qualité d'énergie
        • Testeurs sans fil
      • Logiciel Fluke
        • Logiciel Fluke Calibration
        • Fluke SmartView
      • Imagerie industrielle
        • Tout voir
      • Sécurité intrinsèque
        • Tout voir
      • Maintenance mécanique
        • Alignement par laser
        • Analyse des vibrations
      • Mesure de température
        • Thermomètres de contact
        • Thermomètres infrarouges
      • Thermographie
        • Thermographie et détecteurs de gaz
        • Hublots IR
        • Thermomètres infrarouges visuels
      • Nouveaux produits Fluke
      • Catalogues
    • Apprendre
      • Meilleures pratiques
        • Complétez votre ceinture à outils
        • Transfert de propriété
        • Inspection électrique
        • Test sur les équipements et la ligne de production
        • Systèmes de fluides
        • Bases des mesures
        • Moteurs et entraînements
        • Etalonnage de la pression
        • Sécurité
        • Etalonnage de la température
        • Bases des outils de diagnostic
        • Découvrez pourquoi les professionnels préfèrent Fluke
      • Blog
      • Bibliothèque
      • Séminaires et formation
      • Salons professionnels
    • Assistance
      • A propos de nous
        • Recrutement
        • Sociétés
        • Nous contacter
        • Profil d'entreprise
        • Intégrité
      • Services d'étalonnage
      • Manuels
      • Communiqués
      • Enregistrement de produit
      • Programme de Recyclage
      • Réparation
      • Autorisation de renvoi du matériel
      • Notices de sécurité
      • Centres de réparation
      • Téléchargements de logiciels
      • Assistance technique
      • Garanties
    • Points de vente
      • Promotions et concours