#1 Wed 11 March 2015 15:05
- MissT
- Participant occasionnel
- Lieu: Cayenne
- Date d'inscription: 25 Sep 2014
- Messages: 22
MapBasic: précision d'une variable float?
Chers tous,
Pour faire un peu de trigonométrie, je dois calculer la variable cosPP qui sera utilisé avec la fonction Acos. Ce paramètre cosPP doit donc être strictement compris entre -1 et 1. J'ai donc un test de cosPP qui la recadre entre ces valeurs:
Code:
print cosPP if cosPP>1 then cosPP=1.0 print "sup. à 1" end if if cosPP<-1 then cosPP=-1.0 end if deltaLon=Acos(cosPP)*RAD_2_DEG
Malgré cela, j'ai l'erreur suivante
L'erreur Domaine s'est produite: Acos
.
Un print sur ma variable me donnait toujours la valeur 1 (même avec un format$ avec 10 chiffres après la virgule). Donc ma variable était bien dans les limites.
J'ai quand même calculé la variable cosPP autrement (excel) et j'obtiens... 1,000000805 !
La variable float 1,000000805 est-elle tronquée à 1? Est-ce seulement de l'affichage?
MapBasic considère que 1,000000805 n'est pas supérieur à 1 ?!!?
Hors ligne