Nous utilisons des cookies pour vous garantir la meilleure expérience sur notre site. Si vous continuez à utiliser ce dernier, nous considèrerons que vous acceptez l'utilisation des cookies. J'ai compris ! ou En savoir plus !.
banniere

Le portail francophone de la géomatique


Toujours pas inscrit ? Mot de passe oublié ?
Nom d'utilisateur    Mot de passe              Toujours pas inscrit ?   Mot de passe oublié ?

Annonce

Rencontres QGIS 2025

L'appel à participation est ouvert jusqu'au 19 janvier 2025!

#1 Wed 11 March 2015 15:05

MissT
Participant occasionnel
Lieu: Cayenne
Date d'inscription: 25 Sep 2014
Messages: 22

MapBasic: précision d'une variable float?

Chers tous,

Pour faire un peu de trigonométrie, je dois calculer la variable cosPP qui sera utilisé avec la fonction Acos. Ce paramètre cosPP doit donc être strictement compris entre -1 et 1. J'ai donc un test de cosPP qui la recadre entre ces valeurs:

Code:

print cosPP
if cosPP>1 then 
    cosPP=1.0 
    print "sup. à 1"
end if
if cosPP<-1 then 
    cosPP=-1.0 
end if
deltaLon=Acos(cosPP)*RAD_2_DEG

Malgré cela, j'ai l'erreur suivante

L'erreur Domaine s'est produite: Acos


.
Un print sur ma variable me donnait toujours la valeur 1 (même avec un format$ avec 10 chiffres après la virgule). Donc ma variable était bien dans les limites.
J'ai quand même calculé la variable cosPP autrement (excel) et j'obtiens... 1,000000805 !

La variable float 1,000000805 est-elle tronquée à 1? Est-ce seulement de l'affichage?
MapBasic considère que 1,000000805 n'est pas supérieur à 1 ?!!?

Hors ligne

 

Pied de page des forums

Powered by FluxBB