Le portail francophone de la géomatique

Merci pour ces articles.

La conclusion du contre article est incroyable mais tellement à l'image du monde d'aujourdhui :

C'est l'occasion de citer à nouveau ce strip de xkcd :

https://imgs.xkcd.com/comics/machine_learning_2x.png

Dernière modification par tumasgiu (Mon 09 December 2024 09:11)

Très intéressant comme débat, surtout la partie sur l’écart entre le discours et la réalité terrain.

On parle beaucoup de “bulle” autour de l’IA, mais je trouve que c’est surtout les agents IA qui vont faire la différence à terme. Pas forcément les gros modèles eux-mêmes, mais la façon dont on va les utiliser comme assistants ou intermédiaires entre les outils.

Là-dessus, on commence à voir des trucs vraiment utiles, loin du simple effet de mode.

Dernière modification par Jerome78 (Sun 12 October 2025 14:36)

Bonjour,

Si ça ne marche pas, c'est que l'utilisateur ne sait pas l'utiliser.
On vend actuellement l'ia comme une lampe d'Aladin avec son génie dedans.
Je vois des prompts passer du style "tu es un expert avec 40 ans d'expérience...", c'est ridicule.
Un agent ia a une fenêtre contextuelle limitée. Si on fait n'importe quoi et qu'on s'imagine qu'une ia sait tout et peut tout faire, on se retrouve dans la situation du cabinet Deloitte en ce moment (voir ses déboires au Canada, en Australie, etc.). Lorsque cette fenêtre a atteint ses limites, l'ia hallucine (elle invente le plus probable à partir de ses données d'entraînement).

Lorsque je fais un workflow avec des agents ia dedans, j'ajoute toujours des noeuds HITL (human in the loop, pour une intervention humaine qui permet de valider ce qu'a fait l'ia).

Aujourd'hui, la technologie n'est pas parfaite (mais peut-elle l'être avec un système probabiliste, donc un peu aléatoire quelque part ?).

Bref, pour moi, l'ia fonctionne plutôt très bien si on connaît ses limites, si on est capable, dans le prompt, de lui indiquer une chaîne de pensée à suivre, d'utiliser une structure de type key|value, et si on prend le temps de valider ce qui a été fait sur des points précis où il y a risque d'hallucination.

Dans quelques années, la validation humaine ne sera plus nécessaire, mais aujourd'hui, ce n'est pas encore le cas.
olivier