Aller au contenu

Plages de calcul, nombre de chiffres et précision

La plage de calcul, le nombre de chiffres utilisés en interne pour les calculs et la précision du calcul dépendent du type de calcul que vous effectuez.

Plage de calcul et précision

Plage de calcul ±1 × 10-99 à ±9,999999999 × 1099 ou 0
Nombre de chiffres en interne pour les calculs 23 chiffres
Précision En général, ±1 au 10e chiffre pour un seul calcul. La précision pour l’affichage exponentiel est ±1 au chiffre le moins significatif. Les erreurs sont cumulatives dans le cas de calculs consécutifs.

Plages de saisie et précision des calculs de fonctions

Fonctions Plage de saisie
sinx
cosx
Degree 0 ≤ |x| < 9 × 109
Radian 0 ≤ |x| < 157079632,7
Gradian 0 ≤ |x| < 1 × 1010
tanx Degree Pareil que sinx, sauf lorsque |x| = (2n - 1) × 90.
Radian Pareil que sinx, sauf lorsque |x| = (2n - 1) × π/2.
Gradian Pareil que sinx, sauf lorsque |x| = (2n - 1) × 100.
sin-1x, cos-1x 0 ≤ |x| ≤ 1
tan-1x 0 ≤ |x| ≤ 9,999999999 × 1099
logx, lnx 0 < x ≤ 9,999999999 × 1099
10x -9,999999999 × 1099x ≤ 99,99999999
x 0 ≤ x < 1 × 10100
x2 |x| < 1 × 1050
x-1 |x| < 1 × 10100 ; x ≠ 0
x! 0 ≤ x ≤ 69 (x est un entier)
nPr

0 ≤ n < 1 × 1010, 0 ≤ rn (n, r sont des entiers)

1 ≤ {n!/(n - r)!} < 1 × 10100
nCr

0 ≤ n < 1 × 1010, 0 ≤ rn (n, r sont des entiers)

1 ≤ n!/r! < 1 × 10100 ou 1 ≤ n!/(n - r)! < 1 × 10100
Pol(x; y)

|x|, |y| ≤ 9,999999999 × 1099

x2 + y2 ≤ 9,999999999 × 1099
Rec(r; θ)

0 ≤ r ≤ 9,999999999 × 1099

θ : Pareil que sinx
a°bc

|a|, b, c < 1 × 10100 ; 0 ≤ b, c
L’affichage de valeur des secondes est sujette à une erreur de ±1 à la position de la décimale de la seconde.

a°bc” = x

0°0’0” ≤ |x| ≤ 9999999°59’59”
Une valeur sexagésimale qui dépasse la plage ci-dessus est automatiquement traitée comme une valeur décimale.

xy

x > 0 : -1 × 10100 < ylogx < 100
x = 0 : y > 0
x < 0 : y = n, m2n + 1 (m, n sont des entiers)

Cependant : -1 × 10100 < ylog |x| < 100
xy

y > 0 : x ≠ 0, -1 × 10100 < 1/x logy < 100
y = 0 : x > 0
y < 0 : x = 2n + 1, 2n + 1  m  (m ≠ 0 ; m, n sont des entiers)

Cependant : -1 × 10100 < 1/x log |y| < 100
a/b Le nombre de caractères total de numérateur et dénominateur doit être de 10 ou moins (y compris le symbole de séparation).
RanInt#(a; b) a < b ; |a|, |b| < 1 × 1010 ; b - a < 1 × 1010
GCD(a; b) |a|, |b| < 1 × 1010 (a, b sont des entiers)
LCM(a; b) 0 ≤ a, b < 1 × 1010 (a, b sont des entiers)

La précision est en principe comme celle indiquée dans « Plage de calcul et précision », ci-dessus.

Les fonctions de type xy, xy, x!, nPr, nCr nécessitent un calcul interne consécutif qui peut provoquer une accumulation d’erreurs qui se produisent avec chaque calcul.

L’erreur est cumulative et a la tendance à devenir très grande dans le voisinage de points singuliers et au point d’inflexion d’une fonction.

La plage des résultats de calcul pouvant être affichés sous la forme π lorsque MathI/MathO est sélectionné pour Input/Output dans le menu SETTINGS est |x| < 106. Notez toutefois qu’une erreur de calcul interne peut empêcher l’affichage des résultats de calcul sous la forme π. Elle peut aussi entraîner l’affichage de résultats de calcul sous la forme π au lieu de la forme décimale attendue.

Haut de page