Skip to main content

Andere Unternehmen von Fluke:

Fluke Calibration Fluke Biomedical Fluke Networks Fluke Process Instruments
  • Accelix
  • Amprobe
  • Beha-Amprobe
  • Comark
  • Landauer
  • Pacific Laser Systems
  • Pomona
  • RaySafe
  • Schad
  • Pruftechnik

Website Ihres Landes auswählen

  • Africa and Middle East
    Africa
    ( English | Français )
    Middle East
    ( English )
  • Americas
    Argentina
    ( Español )
    Costa Rica
    ( Español )
    Mexico
    ( Español )
    Bolivia
    ( Español )
    Dominican Republic
    ( Español )
    Peru
    ( Español )
    Brazil
    ( Português )
    Ecuador
    ( Español )
    United States
    ( English | Español )
    Canada
    ( English | Français )
    El Salvador
    ( Español )
    Uruguay
    ( Español )
    Chile
    ( Español )
    Guatemala
    ( Español )
    Venezuela
    ( Español )
    Colombia
    ( Español )
  • Asia Pacific
    Australia
    ( English )
    Japan
    ( 日本 )
    South Korea
    ( 한국어 )
    China
    ( 中国 )
    Malaysia
    ( English )
    Taiwan
    ( Chinese Traditional )
    India
    ( English )
    Philippines
    ( English )
    Thailand
    ( English | ภาษาไทย )
    Indonesia
    ( English | Bahasa )
    Singapore
    ( English )
    Vietnam
    ( English | Tiếng Việt Vietnam )
  • Europe
    Austria
    ( Deutsch )
    Ireland
    ( English )
    Rest of Europe
    ( English )
    Belgium
    ( Français | Dutch )
    Italy
    ( Italiano )
    Spain
    ( Español )
    Czechia
    ( Czech )
    Netherlands
    ( Dutch )
    Sweden
    ( Swedish )
    Denmark
    ( Dansk )
    Norway
    ( Norsk )
    Switzerland
    ( Deutsch | Français )
    Finland
    ( Finish )
    Poland
    ( Polski )
    Turkey
    ( Türkçe )
    France
    ( Français )
    Portugal
    ( Português )
    United Kingdom
    ( English )
    Germany
    ( Deutsch )
  • Russia
    Russia
    ( Russian )

Website Ihres Landes auswählen

  • Africa and Middle East
    • Africa English
    • Africa Français
    • Middle East English
  • Americas
    • Argentina Español
    • Colombia Español
    • Bolivia Español
    • Brazil Português
    • Canada English
    • Canada Français
    • Chile Español
    • Costa Rica Español
    • Dominican Republic Español
    • Ecuador Español
    • El Salvador Español
    • Guatemala Español
    • Mexico Español
    • Peru Español
    • United States English
    • United States Español
    • Uruguay Español
    • Venezuela Español
  • Asia Pacific
    • Australia English
    • China 中国
    • India English
    • Indonesia English
    • Indonesia Bahasa
    • Japan 日本
    • Malaysia English
    • Philippines English
    • Singapore English
    • South Korea 한국어
    • Taiwan Chinese Traditional
    • Thailand English
    • Thailand ภาษาไทย
    • Vietnam English
    • Vietnam Tiếng Việt Vietnam
  • Europe
    • Austria Deutsch
    • Belgium Français
    • Belgium Dutch
    • Belgium Français
    • Belgium Dutch
    • Czechia Czech
    • Denmark Dansk
    • Finland Finish
    • France Français
    • Germany Deutsch
    • Ireland English
    • Italy Italiano
    • Netherlands Dutch
    • Norway Norsk
    • Poland Polski
    • Portugal Português
    • Rest of Europe English
    • Spain Español
    • Sweden Swedish
    • Switzerland Deutsch
    • Switzerland Français
    • Turkey Türkçe
    • United Kingdom English
  • Russia
    • Russia Russian
Fluke
  • Produkte
      • Zubehör
        • Alle ansehen
      • Gebäudeinfrastruktur
        • Messgeräte für HLK-Technik
        • Luftqualitätsprüfung in Innenräumen
        • Industrielle Ethernet-Tester
        • Laser-Entfernungsmessgeräte
        • Laser-Nivelliergeräte
        • Netzwerk-Kabeltester
      • Kalibratoren
        • Fluke Calibration
        • mA-Stromschleifenkalibratoren
        • Multifunktionskalibratoren
        • Druckkalibratoren
        • Temperaturkalibratoren
      • Elektrische Prüfungen
        • Messgeräte mit Basisfunktionen
        • Batterieanalysatoren
        • Strommesszangen
        • Digitalmultimeter
        • Erdungsmessgeräte
        • Installationstester
        • Isolationsmessgeräte
        • Isolierte Werkzeuge
        • Gerätetester
        • Tragbare Oszilloskope
        • Netzqualität
      • Fluke Software
        • Fluke Kalibriersoftware
        • Fluke Connect
        • Fluke Networks Software
        • Fluke SmartView
      • Industriekameras
        • Alle ansehen
      • Eigensichere Geräte (Ex)
        • Alle ansehen
      • Mechanische Instandhaltung
        • Laser-wellenausrichtung
        • Schwingungsanalyse
      • Temperaturmessung
        • Kontaktthermometer
        • IR-Thermometer
      • Thermografie
        • Infrarot-Fenster
        • Wärmebildkameras
        • Visuelle IR-Thermometer
      • Neue Produkte von Fluke
      • Kataloge
  • Mehr erfahren
      • Bewährte Methoden
        • Eichpflichtiger Warenverkehr
        • Inspektion von elektrischen Anlagen
        • Energieeffizienz
        • Prüfen von Ausrüstungen und Produktionsanlagen
        • Systeme zum Flüssigkeitstransport
        • Grundlagen der Messtechnik
        • Motoren und Antriebssteuerungen
        • Druckkalibrierung
        • Vorbeugende Instandhaltung
        • Sicherheit
        • Temperaturkalibrierung
        • Grundlagen der Messgeräte
        • Thermografie
        • Warum sich Experten für Fluke entscheiden
      • Blog
      • Fluke Partnerschaftsprogramm für Ausbildung und Schulen
      • Einfachere Erkennung von Lecks
      • Bibliothek
      • Seminare und Schulungen
      • Werkezuge und Rechner
        • Luftleck-Rechner
        • Gesichtsfeld-Rechner
        • Amortisations-Rechner
      • Messen
  • Support
      • Über uns
        • Karriere
        • ISO Zertifikate
        • Unternehmen
        • Kontakt
        • Unternehmensprofil
        • Integrität
      • Kalibrierdienstleistungen
      • Handbücher
      • Pressemitteilungen
      • Produktregistrierung
      • Recyclingprogramm
      • Reparatur
      • Materialrücksendung (RMA)
      • Sicherheitsmitteilungen
      • Servicecenter-Standorte
      • Service Angebot Anfrage
      • Software-Downloads
      • Technischer Support
      • Gewährleistungen
  • Vertriebspartner und Bezugsquellen
      • Vertriebspartner und Bezugsquellen
      • Fluke Platin-Vertriebspartner
      • Aktionen und Werbekampagnen
      • Sonderangebote

Accuracy, resolution, range, counts, digits and precision

Overview  

Digital multimeter buttons

Accuracy: An instrument’s degree of veracity—how close its measurement comes to the actual or reference value of the signal being measured.

Resolution: The smallest increment an instrument can detect and display—hundredths, thousandths, millionths.

Range: The upper and lower limits an instrument can measure a value or signal such as amps, volts and ohms.

Precision: An instrument’s degree of repeatability—how reliably it can reproduce the same measurement over and over.

Click the individual tabs above to read more in-depth explanations of these terms as well as counts and digits.

Accuracy  

Digital multimeter buttons

Accuracy refers to the largest allowable error that occurs under specific operating conditions.

Accuracy is expressed as a percentage and indicates how close the displayed measurement is to the actual (standard) value of the signal measured. Accuracy requires a comparison to an accepted industry standard.

The accuracy of a specific digital multimeter is more or less important depending on the application. For example, most AC power line voltages vary ±5% or more. An example of this variation is a voltage measurement taken at a standard 115 V AC receptacle. If a digital multimeter is only used to check if a receptacle is energized, a DMM with a ±3% measurement accuracy is appropriate.

Some applications, such as calibration of automotive, medical aviation or specialized industrial equipment, may require higher accuracy. A reading of 100.0 V on a DMM with an accuracy of ±2% can range from 98.0 V to 102.0 V. This may be fine for some applications, but unacceptable for sensitive electronic equipment.

Accuracy may also include a specified amount of digits (counts) added to the basic accuracy rating. For example, an accuracy of ±(2%+2) means that a reading of 100.0 V on the multimeter can be from 97.8 V to 102.2 V. Use of a DMM with higher accuracy allows a great number of applications.

Basic dc accuracy of Fluke handheld digital multimeters ranges from 0.5% to 0.025%.

Resolution  

Digital multimeter buttons

Resolution is the smallest increment a tool can detect and display.

For a nonelectrical example, consider two rulers. One marked in 1/16-inch segments offers greater resolution than one marked in quarter-inch segments.

Imagine a simple test of a 1.5 V household battery. If a digital multimeter (DMM) has a resolution of 1 mV on the 3 V range, it is possible to see a change of 1 mV while reading 1 V. The user could see changes as small as one one-thousandth of a volt, or 0.001.

Resolution may be listed in a meter's specifications as maximum resolution, which is the smallest value that can be discerned on the meter's lowest range setting.

For example, a maximum resolution of 100 mV (0.1 V) means that when the multimeter's range is set to measure the highest possible voltage, the voltage will be displayed to the nearest tenth of a volt.

Resolution is improved by reducing the DMM's range setting as long as the measurement is within the set range.

Digital multimeter buttons

Range  

Digital multimeter buttons

Digital multimeter range and resolution are related and are sometimes specified in a DMM’s specs.

Many multimeters offer an autorange function that automatically selects the appropriate range for the magnitude of the measurement being made. This provides both a meaningful reading and the best resolution of a measurement.

If the measurement is higher than the set range, the multimeter will display OL (overload). The most accurate measurement is obtained at the lowest possible range setting without overloading the multimeter.

Range and Resolution

Range

Resolution

300.0 mV0.1 mV (0.0001 V)
3.000 V1 mV (0.001 V)
30.00 V10 mV (0.01 V)
300.0 V100 mV (0.1 V)
1000 V1000 mV (1 V)

Precision  

Digital multimeter buttons

Precision refers to a digital multimeter’s ability to provide the same measurement repeatedly.

A common example used to explain precision is the arrangement of holes on an shooting-range target. This example presumes a rifle is aimed at the target’s bull’s-eye and shot from the same position each time.

If the holes are tightly packed but outside the bull’s-eye, the rifle (or shooter) can be considered precise but not accurate.

If the holes are tightly packed with the bull’s-eye, the rifle is both accurate and precise. If the holes are spread randomly all over the target, is neither accurate nor precise (or, repeatable).

In some circumstances, precision (repeatability) is more important than accuracy. If measurements are repeatable, it’s possible to determine an error pattern and make compensation for it.

Counts and digits  

Digital multimeter buttons

Counts and digits are terms used to describe a digital multimeter's resolution. Today it is more common to classify DMMs by the total counts than by digits.

Counts: Digital multimeter resolution is also specified in counts, and DMMs that offer higher counts provide better resolution for certain measurements. For example, a 1999-count multimeter cannot measure down to a tenth of a volt if measuring 200 V or more. Fluke offers 3½-digit DMMs with counts of up to 6000 (meaning a max of 5999 on the meter's display) and 4½-digit meters with counts of either 20000 or 50000.

Digits: The Fluke product line includes 3½- and 4½-digit digital multimeters. A 3½-digit DMM, for example, can display three full digits and a half digit. The three full digits display a number from 0 to 9. The half digit, considered the most significant digit, displays a 1 or remains blank. A 4½-digit DMM can display four full digits and a half, indicative of higher resolution.

Find the right multimeter

Empfohlene Produkte

Fluke 3000 FC Wireless-Multimeter
Fluke 3000 FC Wireless-Multimeter
Fluke 87 V Industriemultimeter
Fluke 87 V Industriemultimeter
Fluke 179 Echteffektiv-Multimeter
Fluke 179 Echteffektiv-Multimeter
Fluke 289 Echteffektiv-Logging-Multimeter für den Industrieeinsatz
Fluke 289 Echteffektiv-Logging-Multimeter für den Industrieeinsatz
©2019 Fluke Corporation. Die Angaben können jederzeit ohne Vorankündigung geändert werden. 600532

Produkte

  • Vertriebspartner und Bezugsquellen
  • Handbücher
  • Produktregistrierung

Firma

  • Karriere
  • Unternehmen
  • Integrität
  • Lieferantenhandbuch

Kundenservice

  • Kontakt
  • Sicherheitsmitteilungen
  • Fluke Newsletter-Anmeldung
Facebook YouTube Twitter LinkedIn Instagram
Fluke. Keeping your world up and running.®
  • Datenschutzerklärung
  • Fluke Nutzungsbedingungen
  • Fluke Allgemeine Verkaufsbedingungen
  • Fluke Allgemeine Servicebedingungen
  • Impressum/Verfahrensverzeichnis
  • Index
  • Einverständnis zur Verwendung von Cookies erneuern oder ändern
©1995 - 2019 Fluke Corporation
    • Produkte
      • Zubehör
        • Alle ansehen
      • Gebäudeinfrastruktur
        • Messgeräte für HLK-Technik
        • Luftqualitätsprüfung in Innenräumen
        • Industrielle Ethernet-Tester
        • Laser-Entfernungsmessgeräte
        • Laser-Nivelliergeräte
        • Netzwerk-Kabeltester
      • Kalibratoren
        • Fluke Calibration
        • mA-Stromschleifenkalibratoren
        • Multifunktionskalibratoren
        • Druckkalibratoren
        • Temperaturkalibratoren
      • Elektrische Prüfungen
        • Messgeräte mit Basisfunktionen
        • Batterieanalysatoren
        • Strommesszangen
        • Digitalmultimeter
        • Erdungsmessgeräte
        • Installationstester
        • Isolationsmessgeräte
        • Isolierte Werkzeuge
        • Gerätetester
        • Tragbare Oszilloskope
        • Netzqualität
      • Fluke Software
        • Fluke Kalibriersoftware
        • Fluke Connect
        • Fluke Networks Software
        • Fluke SmartView
      • Industriekameras
        • Alle ansehen
      • Eigensichere Geräte (Ex)
        • Alle ansehen
      • Mechanische Instandhaltung
        • Laser-wellenausrichtung
        • Schwingungsanalyse
      • Temperaturmessung
        • Kontaktthermometer
        • IR-Thermometer
      • Thermografie
        • Infrarot-Fenster
        • Wärmebildkameras
        • Visuelle IR-Thermometer
      • Neue Produkte von Fluke
      • Kataloge
    • Mehr erfahren
      • Bewährte Methoden
        • Eichpflichtiger Warenverkehr
        • Inspektion von elektrischen Anlagen
        • Energieeffizienz
        • Prüfen von Ausrüstungen und Produktionsanlagen
        • Systeme zum Flüssigkeitstransport
        • Grundlagen der Messtechnik
        • Motoren und Antriebssteuerungen
        • Druckkalibrierung
        • Vorbeugende Instandhaltung
        • Sicherheit
        • Temperaturkalibrierung
        • Grundlagen der Messgeräte
        • Thermografie
        • Warum sich Experten für Fluke entscheiden
      • Blog
      • Fluke Partnerschaftsprogramm für Ausbildung und Schulen
      • Einfachere Erkennung von Lecks
      • Bibliothek
      • Seminare und Schulungen
      • Werkezuge und Rechner
        • Luftleck-Rechner
        • Gesichtsfeld-Rechner
        • Amortisations-Rechner
      • Messen
    • Support
      • Über uns
        • Karriere
        • ISO Zertifikate
        • Unternehmen
        • Kontakt
        • Unternehmensprofil
        • Integrität
      • Kalibrierdienstleistungen
      • Handbücher
      • Pressemitteilungen
      • Produktregistrierung
      • Recyclingprogramm
      • Reparatur
      • Materialrücksendung (RMA)
      • Sicherheitsmitteilungen
      • Servicecenter-Standorte
      • Service Angebot Anfrage
      • Software-Downloads
      • Technischer Support
      • Gewährleistungen
    • Vertriebspartner und Bezugsquellen
      • Fluke Platin-Vertriebspartner
      • Aktionen und Werbekampagnen
      • Sonderangebote
    • Andere Unternehmen von Fluke
      • Fluke Calibration
      • Fluke Biomedical
      • Fluke Networks
      • Fluke Process Instruments
      • Weitere Marken von Fluke
        • Accelix
        • Amprobe
        • Beha-Amprobe
        • Comark
        • Emaint CMMS
        • Landauer
        • Pacific Laser Systems
        • Pomona
        • Pruftechnik
        • RaySafe
        • Schad