#1 Wed 11 March 2015 15:05
- MissT
- Participant occasionnel
- Lieu: Cayenne
- Date d'inscription: 25 Sep 2014
- Messages: 22
MapBasic: précision d'une variable float?
Chers tous,
Pour faire un peu de trigonométrie, je dois calculer la variable cosPP qui sera utilisé avec la fonction Acos. Ce paramètre cosPP doit donc être strictement compris entre -1 et 1. J'ai donc un test de cosPP qui la recadre entre ces valeurs:
Code:
print cosPP
if cosPP>1 then
cosPP=1.0
print "sup. à 1"
end if
if cosPP<-1 then
cosPP=-1.0
end if
deltaLon=Acos(cosPP)*RAD_2_DEGMalgré cela, j'ai l'erreur suivante
L'erreur Domaine s'est produite: Acos
.
Un print sur ma variable me donnait toujours la valeur 1 (même avec un format$ avec 10 chiffres après la virgule). Donc ma variable était bien dans les limites.
J'ai quand même calculé la variable cosPP autrement (excel) et j'obtiens... 1,000000805 !
La variable float 1,000000805 est-elle tronquée à 1? Est-ce seulement de l'affichage?
MapBasic considère que 1,000000805 n'est pas supérieur à 1 ?!!?
Hors ligne


