Plages, nombre de chiffres et précision des calculs
Plage et précision des calculs
Plage de calcul | ±1 × 10-99 à ±9,999999999 × 1099 ou 0 |
---|---|
Nombre de chiffres pour le calcul en interne | 15 chiffres |
Précision | En général, ±1 dans le 10ème chiffre pour un calcul unique. La précision pour l’affichage exponentiel est ±1 dans le chiffre moins significatif. Les erreurs s’accumulent en cas de calculs consécutifs. |