#1 Tue 19 February 2019 12:20
- Pierre Dolez
- Participant assidu
- Lieu: Proville
- Date d'inscription: 14 Aug 2008
- Messages: 519
- Site web
Méthode des moindres carrés.
Bonjour,
Je connais et j'utilise la méthode des moindres carrés.
Donc, dit rapidement, la méthode consiste à écrire que la solution la plus probable est celle qui annule les dérivées partielles. Il ne reste plus qu'à résoudre le système linéaire qui compte autant d'équations que d'inconnues.
Il semble que cette appellation "moindres carrés" est reprise dans une méthode "matricielle" qui est donnée dans plusieurs cours.
Ma question : qu'est-ce qui est enseigné dans les écoles de topométrie, ESGT, ESTP, IGN ?
Ma bible, c'est le cours de JJ Levallois (1960), y a-t-il des cours plus modernes ?
Merci d'avance.
Hors ligne
#2 Tue 19 February 2019 13:34
- ChristopheV
- Membre
- Lieu: Ajaccio
- Date d'inscription: 7 Sep 2005
- Messages: 3197
- Site web
Re: Méthode des moindres carrés.
Bonjour,
Il y a un très bon cours dispensé par l'Ecole Nationale du Cadastre à Toulouse.
Quelques remarques, il ne s'agit pas de la solution la plus probable mais celle pour laquelle le carré des résidus est minimum, donc effectivement une fonction continue à n variables connait un extremum local si l'ensemble de ses dérivées partielles est nul.
Deuxièmement le système n'est linéaire que dans certains cas, par exemple pour une transformation d'Helmert, en revanche l'utilisation des moindres carrés dans le cadre de la détermination de coordonnées de points par méthode optique, oblige à une linéarisation du système dans un voisinage de la solution (utilisation des développement limités à l'ordre n dans un voisinage de P), car les cosinus et autre sinus ne sont pas des fonctions linéaires.
La méthode matricielle n'est qu'une autre écriture mathématique du problème (bon c'est de tête faudrait vérifier pour les plus et moins).
Pour Helmert écrire que :
X- (k cos(teta)x + k sin(teta)y +p = vx
ET
Y -(ksin(teta)x-kcos(teta)y+q=vy
Cela revient au même que d'écrire :
en posant a=k*cos(teta) et b=k*sin(teta)
AX+B=V avec A (matrice carrée contenant a, b) (homothétie et rotation) , X matrice unicolonne (x,y) et B matrice unicolonne (p,q) (translation)
et V matrice des résidus (vx,vy)
Sachant que V² = transposée de V * V
(AX+B)² = V²
Fonction minimal si la dérivée par rapport à X est nulle :
dérivée d'un produit (f*g)' = f'g+g'f ici
Pour résoudre cela il faut calculer l'inverse de la matrice A.
Christophe
L'avantage d'être une île c'est d'être une terre topologiquement close
Hors ligne
#3 Tue 19 February 2019 13:52
- jcm88
- Participant occasionnel
- Date d'inscription: 29 May 2012
- Messages: 10
Re: Méthode des moindres carrés.
0- si systeme non linéaire -> lineariser autour d une solution approchée et boucler les étapes suivantes jusqu a convergence
1- écrire les équations sous la forme AX=B
X matrice colonne avec les inconnues
A matrice rectangulaire
B matrice colonne
Éventuellement P matrice carrée de pondération
(Par exemple une matrice diagonale avec l inverse des variances)
2- tapper bêtement (en matlab, scilab ou Python en fonction de l année de la promo)
Xresultat=(At*P*A)^-1 * (At*P*B) At= transposée de A
Ou
Xresultat=(At*A)^(-1) * (At*B) si P = identité
pour les élèves les plus attentifs -> si B=0 vous pouvez passer par une svd
Puis à partir de ce moment on commence à reflechir, analyse de résidu test statistiques etc
Hors ligne
#4 Tue 19 February 2019 14:23
- Pierre Dolez
- Participant assidu
- Lieu: Proville
- Date d'inscription: 14 Aug 2008
- Messages: 519
- Site web
Re: Méthode des moindres carrés.
Bonjour, merci pour vos réponses.
Concernant la méthode Helmert, elle a justement été mise au point et utilisée dans les années 70 (très peu d'informatique), en partie parce qu'elle se calcule avec une simple calculette.
Concernant le calage de plans, il me semble clair que la transformation affine est bien préférable, sauf indication contraire du demandeur. En particulier, c'est celle qu'il faut utiliser dans de nombreuses application géographiques. Dans ce contexte, j'ai écrit un petit module PHP.
Ma question portait sur la méthode enseignée. Vos réponses sont claires : "tout par les matrices".
Concernant "solution la plus probable" le cours de JJ Levallois est très clair sur ce point, c'est la méthode des moindres carrés : somme des résidus au carré, puis dérivées partielles. Une discussion est en cours sur un forum de maths et j'observe que c'est la solution matricielle qui est proposée. Je n'ai pas trouvé de justification de cette méthode qui donne des résultats différents de la méthode de base.
Je citerai une phrase "En fait c'est le même, j'ai juste réécrit un peu différemment la 1ère équation. Notre solution optimale, elle doit être la même avec ce nouveau système d'équations, ou bien elle doit changer ?" d'un membre compétent. L'explication est simple : on modifie une équation en multipliant tous les facteurs par un même nombre. A l'évidence, cela change la matrice, donc le résultat, pourtant rien n'a changé.
Bonne journée.
Hors ligne
#5 Tue 19 February 2019 18:13
- Yves Egels
- Participant assidu
- Lieu: Paris
- Date d'inscription: 29 Sep 2011
- Messages: 268
- Site web
Re: Méthode des moindres carrés.
Ah, les mystères insondables des moindre carrés! De la magie noir, je vous dit.
Je n'ai pas trouvé de justification de cette méthode qui donne des résultats différents de la méthode de base.
Elle est forte, celle-là!!! Il doit y avoir un bug quelque-part.
tout par les matrices
, les matrices, ce n'est pas une méthode, c'est un formalisme, qui permet de présenter les mêmes calculs d'une façon plus synthétique (et du coup limiter les risques d'erreur). La minimisation de la somme des carrés des résidus conduit à un système de n équations à n inconnues. Si ce système n'est pas linéaire (et il ne l'est pas souvent, malheureusement) on fait un développement au premier ordre, et on se ramène à un système linéaire tangent. Vous pouvez résoudre ce système à la main, par substitution par exemple (mais attention, ça peut vous prendre quelques centaines d'années si le système est un peu gros, un chantier de photogrammétrie terrestre d'une cinquantaine d'images avec une centaine de milliers de points donne un système d'environ 600000 équations à 300000 inconnues, courage!), ou le soustraiter à un ordinateur qui appliquera une formulation matricielle pour le résoudre. Si les résultats ont différents, je suis prêt à parier beaucoup de caisses de champagne sur l'ordinateur.
Quant à l'enseignement, les méthodes d'optimisation font partie des connaissances de base de tout étudiant qui souhaite réussir à un concours de grande école (en tout cas de l'ENSG...). N'y sont développés que les aspects spécifiques de leur application aux domaines de l'information géographique, surtout photogrammétrie et géodésie. Quant à Helmert, pas besoin de matrices, le système est à variable séparées et se résout formellement avec un papier et un crayon.
Un peu de littérature (pour montrer que les enseignants font leur boulot)
https://www.lavoisier.fr/livre/mathemat … 2746203396 quand même plus récent que Levallois (mais nécessitant de sérieuses connaissances mathématiques)
Plus accessible : https://geodesie.ign.fr/index.php?page=compensation
Dernière modification par Yves Egels (Tue 19 February 2019 18:22)
Ingénieur géographe honoraire
École nationale des sciences géographiques
Société française de photogrammétrie et télédétection
Hors ligne
#6 Wed 20 February 2019 10:58
- ChristopheV
- Membre
- Lieu: Ajaccio
- Date d'inscription: 7 Sep 2005
- Messages: 3197
- Site web
Re: Méthode des moindres carrés.
Bonjour
Quant à Helmert, pas besoin de matrices, le système est à variable séparées et se résout formellement avec un papier et un crayon.
C'était pour illustrer par un exemple simple.
les matrices, ce n'est pas une méthode, c'est un formalisme
+1
Christophe
L'avantage d'être une île c'est d'être une terre topologiquement close
Hors ligne
#7 Wed 20 February 2019 15:55
- Pierre Dolez
- Participant assidu
- Lieu: Proville
- Date d'inscription: 14 Aug 2008
- Messages: 519
- Site web
Re: Méthode des moindres carrés.
Bonjour Christophe,
Quelques remarques, il ne s'agit pas de la solution la plus probable mais celle pour laquelle le carré des résidus est minimum, donc effectivement une fonction continue à n variables connait un extremum local si l'ensemble de ses dérivées partielles est nul.
Je pense que c'est le contraire. On cherche la solution la plus probable, c'est une notion bien connue en topométrie et en géodésie, et pour la trouver, on utilise la méthode des moindres carrés. Ceci se démonte facilement.
C'est curieux que tu parles de la méthode Helmert. Sauf erreur de ma part, il y a quelques années, tu étais plutôt favorable à la méthode dite "élastique". J'ai tenté de contacter les auteurs de cette méthode, je n'ai pas eu de réponse. En tout cas, actuellement, sauf imposition particulière, la méthode à utiliser est la transformation affine. Mais, tu t'es peut-être remis à la méthode Helmert.
Deuxièmement le système n'est linéaire que dans certains cas, par exemple pour une transformation d'Helmert, en revanche l'utilisation des moindres carrés dans le cadre de la détermination de coordonnées de points par méthode optique, oblige à une linéarisation du système dans un voisinage de la solution (utilisation des développement limités à l'ordre n dans un voisinage de P), car les cosinus et autre sinus ne sont pas des fonctions linéaires.
Oui, il y a des cas où le système n'est pas linéaire. Jean Jacquelin a bien étudié tout cela. En l'occurrence, chaque cas est à étudier indépendamment, mais ce n'est pas le contexte.
La méthode matricielle n'est qu'une autre écriture mathématique du problème (bon c'est de tête faudrait vérifier pour les plus et moins).
Oui, je suis parfaitement d'accord que ce n'est qu'une autre écriture. Mais, comme le calcul est fait par la machine, pourquoi lui imposer les étapes intermédiaires, utilisée par les hommes au tableau noir, mais qui double environ le nombre d'opérations élémentaires. Je l'ai vérifié avec la résolution de système linéaire NxN.
C'était le but de ce sujet.
Hors ligne