Plages, nombre de chiffres et précision des calculs
La plage de calcul, le nombre de chiffres utilisés pour le calcul en interne et la précision de calcul dépendent du type de calcul que vous effectuez.
Plage et précision des calculs
| Plage de calcul | ±1 × 10-99 à ±9,999999999 × 1099 ou 0 |
| Nombre de chiffres pour le calcul en interne | 15 chiffres |
| Précision | En général, ±1 dans le 10ème chiffre pour un calcul unique. La précision pour l'affichage exponentiel est ±1 dans le chiffre moins significatif. Les erreurs s'accumulent en cas de calculs consécutifs. |
Plages de saisie et précision des calculs de fonctions
| Fonctions | Plage de saisie | |
|---|---|---|
| sinx cosx |
Deg | 0 ≦ |x| < 9 × 109 |
| Rad | 0 ≦ |x| < 157079632,7 | |
| Gra | 0 ≦ |x| < 1 × 1010 | |
| tanx | Deg | Identique à sinx, sauf lorsque |x| = (2n-1) × 90. |
| Rad | Identique à sinx, sauf lorsque |x| = (2n-1) × π/2. | |
| Gra | Identique à sinx, sauf lorsque |x| = (2n-1) × 100. | |
| sin-1x, cos-1x | 0 ≦ |x| ≦ 1 | |
| tan-1x | 0 ≦ |x| ≦ 9,999999999 × 1099 | |
| sinhx, coshx | 0 ≦ |x| ≦ 230,2585092 | |
| sinh-1x | 0 ≦ |x| ≦ 4,999999999 × 1099 | |
| cosh-1x | 1 ≦ x ≦ 4,999999999 × 1099 | |
| tanhx | 0 ≦ |x| ≦ 9,999999999 × 1099 | |
| tanh-1x | 0 ≦ |x| ≦ 9,999999999 × 10-1 | |
| logx, lnx | 0 < x ≦ 9,999999999 × 1099 | |
| 10x | -9,999999999 × 1099 ≦ x ≦ 99,99999999 | |
| ex | -9,999999999 × 1099 ≦ x ≦ 230,2585092 | |
| √x | 0 ≦ x < 1 × 10100 | |
| x2 | |x| < 1 × 1050 | |
| x-1 | |x| < 1 × 10100; x ≠ 0 | |
| 3√x | |x| < 1 × 10100 | |
| x! | 0 ≦ x ≦ 69 (x est un entier) | |
| nPr | 0 ≦ n < 1 × 1010, 0 ≦ r ≦ n (n, r sont des entiers) 1 ≦ {n!/(n-r)!} < 1 × 10100 |
|
| nCr | 0 ≦ n < 1 × 1010, 0 ≦ r ≦ n (n, r sont des entiers) 1 ≦ n!/r! < 1 × 10100 ou 1 ≦ n!/(n-r)! < 1 × 10100 |
|
| Pol(x, y) | |x|, |y| ≦ 9,999999999 × 1099 √x2 + y2 ≦ 9,999999999 × 1099 |
|
| Rec(r, θ) | 0 ≦ r ≦ 9,999999999 × 1099 θ : Identique à sinx |
|
| °’ ” | a°b’c” : |a|, b, c < 1 × 10100 ; 0 ≦ b, c L'affichage de valeur des secondes est sujet à une erreur de ±1 à la deuxième position décimale. |
|
| °’ ”← | |x| < 1 × 10100 |
|
| xy | x > 0 : -1 × 10100 < ylogx < 100 |
|
| x√y | y > 0 : x ≠ 0, -1 × 10100 < 1/x logy < 100 |
|
| a b/c | Le total de l'entier, du numérateur et du dénominateur doit être de 10 caractères au maximum (y compris le symbole séparateur). | |
| RanInt#(a, b) | a < b ; |a|, |b| < 1 × 1010 ; b - a < 1 × 1010 | |
| GCD(a, b) | |a|, |b| < 1 × 1010 (a, b sont des entiers) | |
| LCM(a, b) | 0 ≦ a, b < 1 × 1010 (a, b sont des entiers) | |
La précision est en principe comme indiqué dans « Plage et précision des calculs », ci-dessus.
Les fonctions de type xy, x√y, 3√ , x!, nPr, nCr nécessitent un calcul interne consécutif qui peut provoquer une accumulation d'erreurs se produisant avec chaque calcul.
L'erreur est cumulative et a tendance à prendre de l'ampleur à proximité de certains points singuliers et au point d'inflexion d'une fonction.
La plage des résultats de calcul pouvant être affichés sous la forme π en mode d'affichage Naturel est |x| < 106. Notez toutefois qu'une erreur de calcul interne peut empêcher l'affichage des résultats de calcul sous la forme π. Elle peut aussi entraîner l'affichage des résultats du calcul sous la forme π au lieu de la forme décimale attendue.
