La précision est la puissance de 10 du dernier chiffre de la mesure divisée par la valeur de la mesure :
Par exemple pour 6,4 c´est 10^-1/6,4 = 0,015625 car la valeur exacte est entre 6,35 et 6,45 et l´instrument de mesure ne peut qu´arrondir le résultat à 6,4