Le portail francophone de la géomatique

la différence entre les deux est le nombre de bit accordé pour la valeur.

réel simple : 32bit  , on dit aussi un "float"
réel double : 64bit , on dit simple "double"

le nombre de bit différe selon les langages et selon les types numériques (byte, short, integer,long, float, double).

Quand a la conversion xls vers dbf. c'est en effet plutot bizarre ce que tu décris.
mais en meme temps il s'agit d'exel ... donc il ne faut pas chercher beaucoup plus loin.
essai de faire la meme transformation sous openoffice, peut etre que ca marchera mieux.

le nombre de bit c'est pas plutôt pour les entiers long ou court ?

Les nombres sont représentés de plusieurs façon dans un ordinateur : les nombres entiers, les nombres en virgules flottante (équivalent en binaire de la notation scientifique 3*10^6 pour 3 000 000), et même les nombres en virgule fixe, utilisée plutôt par les financiers que par les scientifiques.
Plus on alloue de bits à la représentation des nombres, plus il est possible de représenter des grands nombres de façon précise.
http://fr.wikipedia.org/wiki/Virgule_flottante
Pour les nombres en virgule flottante, il y a 3 représentations normalisées courantes:
simple précision sur 32 bits, 8 pour l'exposant et 24 pour la mantisse,  ce qui offre 7 chiffres significatifs et une amplitude de 10^-45 à 10^38.
double précision sur 64 bits, 11 pour l'exposant et 53 pour la mantisse,  ce qui offre 15 chiffres significatifs et une amplitude de 10^-324 à 10^308.
Précision étendue (en fait tous les calculs du processeur sont faits dans ce mode, habituellement caché aux utilisateurs) sur 80 bits, 15 pour l'exposant et 64 pour la mantisse,  ce qui offre 19 chiffres significatifs et une amplitude de 10^-4951 à 10^4932.
Le choix d'une représentation ou d'une autre est lié à plusieurs critères : si l'on a une grande quantité de nombres à stocker, la consommation de mémoire est bien entendu proportionnelle au nombre de bits de chaque nombre (ce problème se pose par exemple pour les nuages 3D de scanners laser comportant parfois plusieurs milliards de points).
L'étendue des nombres utilisés. A priori, dans le domaine de la géomatique, 40000km avec une précision millimétrique (le luxe...) sont de l'ordre de 10^10, bien inférieur à l'amplitude accessible dans un single.
Le nombre de chiffres significatifs: avec un single, les coordonnées n'ont que 7 chiffres maximum. Donc les coordonnées seront arrondies au mètre. Si l'on veut conserver la précision géodésique, il faudra passer en double pour avoir assez de chiffres significatifs.
Enfin, il faut toujours se méfier des calculs intermédiaires, qui peuvent nécessiter temporairement un plus grand nombre de chiffres

Dernière modification par Yves Egels (Sat 21 January 2012 11:21)

Bonjour,

Single : simple (par opposition à double)

Single:

Ces mots anglais sont généralement utilisés dans les langages de programmation courants pour désigner les types de variables ou objets permettant de stocker des nombres réels. Ils peuvent être préfixés par U pour Unsigned. (ce qui permet de gagner un bit celui du signe).

Bonjour,

Mea Culpa.
Effectivement c'est valable uniquement pour le entiers.