En anglais : RMSE : Root Mean Squared Error
En topométrie, on emploie plus généralement l'abrégé “emq” pour “erreur moyenne quadratique”.
Soit un certain nombre de mesures. Chacune de ces mesures est entachée d'une erreur (rien à voir avec une faute) On appelle erreur vraie pour une mesure la différence entre la mesure et sa vraie valeur. Si cette même valeur a été mesurée plusieurs fois, on appelle erreur apparente d'une mesure isolée, la différence entre la moyenne arithmétique des mesures et la mesure isolée.
Soit ei l'erreur vraie, vi l'erreur apparente, n le nombre de mesures.
Selon la loi normale, loi de Gauss, les expressions de ces erreurs sont:
Erreur moyenne arithmétique ema = (|e1| + |e2| + … +|en|) / n ;
Erreur moyenne quadratique emq = √[(e1² + e2² + … +en²) / n] ;
Dans la pratique on utilise les expressions suivantes en fonction des erreurs apparentes:
Erreur moyenne arithmétique ema = (|v1| + |v2| + … +|vn|) / (n - 1/2) ;
Erreur moyenne quadratique emq = √[(v1² + v2² + … +vn²) / (n-1)] ;
L'emq caractérise la précision d'un ensemble de mesures.
Une application classique est le changement de base. Si un changement de base est calculé sur plus de points connus que nécessaire, le calcul est réalisé de façon à minimiser l'emq.
Dans le cas d'une transformation simple (Translation + Homothétie + Rotation) le nombre de points nécessaires est 2 (deux), dans le cas d'une transformation affine, le nombre de points nécessaires est 3 (trois). Dans la pratique, on utilise plus de points que nécessaire, quatre semble un minimum, plus de dix n'apporte généralement rien de plus.