La résolution d'un instrument de mesure est la plus petite différence d'indication qui peut être perçue de manière significative. Pour un pied à coulisse d'une résolution de 1/50 ème, cette plus petite différence est de 0,02 mm. Il n'est donc pas correct de donner des résultats de mesurage au centième avec un instrument de mesure dont la résolution vaut le double. Si le trait est entre 20,10 et 20,12, l'appréciation de la valeur lue dépend de la sensibilité de l'oeil et le résultat du mesurage doit être l'une de ces deux valeurs choisies par l'opérateur.