Plages, nombre de chiffres et précision des calculs
La plage de calcul, le nombre de chiffres utilisés pour le calcul en interne et la précision de calcul dépendent du type de calcul que vous effectuez.
Plage et précision des calculs
| Plage de calcul | ±1 × 10-99 à ±9,999999999 × 1099 ou 0 |
|---|---|
| Nombre de chiffres pour le calcul en interne | 15 chiffres |
| Précision | En général, ±1 dans le 10ème chiffre pour un calcul unique. La précision pour l’affichage exponentiel est ±1 dans le chiffre moins significatif. Les erreurs s’accumulent en cas de calculs consécutifs. |
Plages de saisie et précision des calculs de fonctions
| Fonctions | Plage de saisie | |
|---|---|---|
| sinx cosx |
Deg | 0 ≦ |x| < 9 × 109 |
| Rad | 0 ≦ |x| < 157079632,7 | |
| Gra | 0 ≦ |x| < 1 × 1010 | |
| tanx | Deg | Identique à sinx, sauf lorsque |x| = (2n-1) × 90. |
| Rad | Identique à sinx, sauf lorsque |x| = (2n-1) × π/2. | |
| Gra | Identique à sinx, sauf lorsque |x| = (2n-1) × 100. | |
| sin-1x, cos-1x | 0 ≦ |x| ≦ 1 | |
| tan-1x | 0 ≦ |x| ≦ 9,999999999 × 1099 | |
| sinhx, coshx | 0 ≦ |x| ≦ 230,2585092 | |
| sinh-1x | 0 ≦ |x| ≦ 4,999999999 × 1099 | |
| cosh-1x | 1 ≦ x ≦ 4,999999999 × 1099 | |
| tanhx | 0 ≦ |x| ≦ 9,999999999 × 1099 | |
| tanh-1x | 0 ≦ |x| ≦ 9,999999999 × 10-1 | |
| logx, lnx | 0 < x ≦ 9,999999999 × 1099 | |
| 10x | -9,999999999 × 1099 ≦ x ≦ 99,99999999 | |
| ex | -9,999999999 × 1099 ≦ x ≦ 230,2585092 | |
| √x | 0 ≦ x < 1 × 10100 | |
| x2 | |x| < 1 × 1050 | |
| x-1 | |x| < 1 × 10100 ; x ≠ 0 | |
| 3√x | |x| < 1 × 10100 | |
| x! | 0 ≦ x ≦ 69 (x est un entier) | |
| nPr | 0 ≦ n < 1 × 1010, 0 ≦ r ≦ n (n, r sont des entiers) 1 ≦ {n!/(n-r)!} < 1 × 10100 |
|
| nCr | 0 ≦ n < 1 × 1010, 0 ≦ r ≦ n (n, r sont des entiers) 1 ≦ n!/r! < 1 × 10100 ou 1 ≦ n!/(n-r)! < 1 × 10100 |
|
| Pol(x, y) | |x|, |y| ≦ 9,999999999 × 1099 √x2 + y2 ≦ 9,999999999 × 1099 |
|
| Rec(r, θ) | 0 ≦ r ≦ 9,999999999 × 1099 θ : Identique à sinx |
|
| °’ ” °’ ”← |
a°b’c” : |a|, b, c < 1 × 10100 ; 0 ≦ b, c L’affichage de valeur des secondes est sujet à une erreur de ±1 à la deuxième position décimale. |
|
| |x| < 1 × 10100 Conversions décimale ↔ sexagésimale 0°0°0° ≦ |x| ≦ 9999999°59° |
||
| xy | x > 0 : -1 × 10100 < ylogx < 100 x = 0 : y > 0 x < 0 : y = n, 12n+1 (n est un entier) Cependant : -1 × 10100 < ylog |x| < 100 | |
| x√y | y > 0 : x ≠ 0, -1 × 10100 < 1/x logy < 100 y = 0 : x > 0 y < 0 : x = 2n+1, 1n (n ≠ 0 ; n est un entier) Cependant : -1 × 10100 < 1/x log |y| < 100 | |
| ab/c | Le total de l’entier, du numérateur et du dénominateur doit être de 10 caractères au maximum (signes de division compris). | |
La précision est en principe comme indiqué dans « Plage et précision des calculs », ci-dessus.
Les calculs utilisant l’un ou l’autre des fonctions ou paramètres montrés ci-dessous nécessitent la réalisation de calculs internes consécutifs, ce qui peut provoquer une accumulation d’erreurs se produisant à chaque calcul.
xy, x√y , 3√ , x!, nPr, nCr ; °, r, g (unité d’angle : Rad) ; σx, sx, coefficient de régression.
L’erreur est cumulative et a la tendance à devenir très grande dans le voisinage de certains points singuliers et au point d’inflexion d’une fonction.
Pendant le calcul statistique, l’erreur est cumulative lorsque les valeurs de données possèdent un grand nombre de chiffres et que les différences entre elles sont minimes. L’erreur prend de l’ampleur lorsque les valeurs de données comptent plus de six chiffres.
