Aller au contenu

CASIO

Mode d'emploi

Trouver

Plages, nombre de chiffres et précision des calculs

La plage de calcul, le nombre de chiffres utilisés pour le calcul en interne et la précision de calcul dépendent du type de calcul que vous effectuez.

Plage et précision des calculs

Plage de calcul ±1 × 10-99 à ±9,999999999 × 1099 ou 0
Nombre de chiffres pour le calcul en interne 15 chiffres
Précision En général, ±1 dans le 10ème chiffre pour un calcul unique. La précision pour l'affichage exponentiel est ±1 dans le chiffre moins significatif. Les erreurs s'accumulent en cas de calculs consécutifs.

Plages de saisie et précision des calculs de fonctions

Fonctions Plage de saisie
sinx
cosx		 Deg 0 ≦ |x| < 9 × 109
Rad 0 ≦ |x| < 157079632,7
Gra 0 ≦ |x| < 1 × 1010
tanx Deg Identique à sinx, sauf lorsque |x| = (2n-1) × 90.
Rad Identique à sinx, sauf lorsque |x| = (2n-1) × π/2.
Gra Identique à sinx, sauf lorsque |x| = (2n-1) × 100.
sin-1x, cos-1x 0 ≦ |x| ≦ 1
tan-1x 0 ≦ |x| ≦ 9,999999999 × 1099
sinhx, coshx 0 ≦ |x| ≦ 230,2585092
sinh-1x 0 ≦ |x| ≦ 4,999999999 × 1099
cosh-1x 1 ≦ x ≦ 4,999999999 × 1099
tanhx 0 ≦ |x| ≦ 9,999999999 × 1099
tanh-1x 0 ≦ |x| ≦ 9,999999999 × 10-1
logx, lnx 0 < x ≦ 9,999999999 × 1099
10x -9,999999999 × 1099 ≦ x ≦ 99,99999999
ex -9,999999999 × 1099 ≦ x ≦ 230,2585092
√x 0 ≦ x < 1 × 10100
x2 |x| < 1 × 1050
x-1 |x| < 1 × 10100; x ≠ 0
3√x |x| < 1 × 10100
x! 0 ≦ x ≦ 69 (x est un entier)
nPr

0 ≦ n < 1 × 1010, 0 ≦ r ≦ n (n, r sont des entiers)

1 ≦ {n!/(n-r)!} < 1 × 10100
nCr

0 ≦ n < 1 × 1010, 0 ≦ r ≦ n (n, r sont des entiers)

1 ≦ n!/r! < 1 × 10100 ou 1 ≦ n!/(n-r)! < 1 × 10100
Pol(x, y)

|x|, |y| ≦ 9,999999999 × 1099

√x2 + y2 ≦ 9,999999999 × 1099
Rec(r, θ)

0 ≦ r ≦ 9,999999999 × 1099

θ : Identique à sinx
°’ ”

a°b’c” : |a|, b, c < 1 × 10100 ; 0 ≦ b, c

L'affichage de valeur des secondes est sujet à une erreur de ±1 à la deuxième position décimale.
°’ ”←

|x| < 1 × 10100
Conversions décimal ↔ sexagésimal

0°0’0” ≦ |x| ≦ 9999999°59’59”
xy

x > 0 : -1 × 10100 < ylogx < 100
x = 0 : y > 0
x < 0 : y = n, m2n + 1 (m, n sont des entiers)

Toutefois : -1 × 10100 < ylog |x| < 100
x√y

y > 0 : x ≠ 0, -1 × 10100  < 1/x logy < 100
y = 0 : x > 0
y < 0 : x = 2n+1, 2n + 1　 m　 (m ≠ 0; m, n sont des entiers)

Toutefois : -1 × 10100 < 1/x log |y| < 100
a b/c Le total de l'entier, du numérateur et du dénominateur doit être de 10 caractères au maximum (y compris le symbole séparateur).
RanInt#(a, b) a < b ; |a|, |b| < 1 × 1010 ; b - a < 1 × 1010
GCD(a, b) |a|, |b| < 1 × 1010 (a, b sont des entiers)
LCM(a, b) 0 ≦ a, b < 1 × 1010 (a, b sont des entiers)

La précision est en principe comme indiqué dans « Plage et précision des calculs », ci-dessus.

Les fonctions de type xy, x√y, 3√ , x!, nPr, nCr nécessitent un calcul interne consécutif qui peut provoquer une accumulation d'erreurs se produisant avec chaque calcul.

L'erreur est cumulative et a tendance à prendre de l'ampleur à proximité de certains points singuliers et au point d'inflexion d'une fonction.

La plage des résultats de calcul pouvant être affichés sous la forme π en mode d'affichage Naturel est |x| < 106. Notez toutefois qu'une erreur de calcul interne peut empêcher l'affichage des résultats de calcul sous la forme π. Elle peut aussi entraîner l'affichage des résultats du calcul sous la forme π au lieu de la forme décimale attendue.

imprimer cette page
Haut de la page