Rangos de cálculo, cantidad de dígitos y precisión
El rango de cálculo, la cantidad de dígitos utilizados para cálculos internos y la precisión de cálculo depende del tipo de cálculo que realice.
Rango de cálculo y precisión
| Rango de cálculo | ±1 × 10-99 a ±9,999999999 × 1099 o 0 |
| Cantidad de dígitos usados internamente en el cálculo | 15 dígitos |
| Precisión | En general, ±1 en el 10.º dígito para un cálculo individual. La precisión con visualización exponencial es ±1 sobre el dígito menos significativo. En el caso de cálculos consecutivos los errores se propagan acumulativamente. |
Rangos de introducción de cálculo de funciones y precisión
| Funciones | Rango de introducción | |
|---|---|---|
| senx cosx |
Deg | 0 ≦ |x| < 9 × 109 |
| Rad | 0 ≦ |x| < 157079632,7 | |
| Gra | 0 ≦ |x| < 1 × 1010 | |
| tanx | Deg | El mismo que senx, excepto cuando |x| = (2n-1) × 90. |
| Rad | El mismo que senx, excepto cuando |x| = (2n-1) × π/2. | |
| Gra | El mismo que senx, excepto cuando |x| = (2n-1) × 100. | |
| sen-1x, cos-1x | 0 ≦ |x| ≦ 1 | |
| tan-1x | 0 ≦ |x| ≦ 9,999999999 × 1099 | |
| senhx, coshx | 0 ≦ |x| ≦ 230,2585092 | |
| senh-1x | 0 ≦ |x| ≦ 4,999999999 × 1099 | |
| cosh-1x | 1 ≦ x ≦ 4,999999999 × 1099 | |
| tanhx | 0 ≦ |x| ≦ 9,999999999 × 1099 | |
| tanh-1x | 0 ≦ |x| ≦ 9,999999999 × 10-1 | |
| logx, lnx | 0 < x ≦ 9,999999999 × 1099 | |
| 10x | -9,999999999 × 1099 ≦ x ≦ 99,99999999 | |
| ex | -9,999999999 × 1099 ≦ x ≦ 230,2585092 | |
| √x | 0 ≦ x < 1 × 10100 | |
| x2 | |x| < 1 × 1050 | |
| x-1 | |x| < 1 × 10100; x ≠ 0 | |
| 3√x | |x| < 1 × 10100 | |
| x! | 0 ≦ x ≦ 69 (x es un entero) | |
| nPr | 0 ≦ n < 1 × 1010, 0 ≦ r ≦ n (n, r son enteros) 1 ≦ {n!/(n-r)!} < 1 × 10100 |
|
| nCr | 0 ≦ n < 1 × 1010, 0 ≦ r ≦ n (n, r son enteros) 1 ≦ n!/r! < 1 × 10100 o 1 ≦ n!/(n-r)! < 1 × 10100 |
|
| Pol(x, y) | |x|, |y| ≦ 9,999999999 × 1099 √x2 + y2 ≦ 9,999999999 × 1099 |
|
| Rec(r, θ) | 0 ≦ r ≦ 9,999999999 × 1099 θ: El mismo que senx |
|
| °’ ” | a°b’c”: |a|, b, c < 1 × 10100; 0 ≦ b, c El segundo valor mostrado está sujeto a un error de ±1 en la segunda posición decimal. |
|
| °’ ”← | |x| < 1 × 10100 |
|
| xy | x > 0: -1 × 10100 < ylogx < 100 |
|
| x√y | y > 0: x ≠ 0, -1 × 10100 < 1/x logy < 100 |
|
| a b/c | La cantidad total de dígitos de esta expresión, incluyendo la parte entera, el numerador y el denominador debe ser de hasta 10 dígitos (incluyendo el símbolo separador). | |
| RanInt#(a, b) | a < b; |a|, |b| < 1 × 1010; b - a < 1 × 1010 | |
| GCD(a, b) | |a|, |b| < 1 × 1010 (a, b son enteros) | |
| LCM(a, b) | 0 ≦ a, b < 1 × 1010 (a, b son enteros) | |
La precisión es esencialmente la misma que se describe en "Rango de cálculo y precisión" anteriormente.
Los tipos de función xy, x√y, 3√ , x!, nPr, nCr requieren cálculos internos consecutivos que pueden producir una acumulación de los errores producidos en cada cálculo.
El error es acumulativo y tiende a ser grande en la vecindad del punto singular de la función y punto de inflexión.
El rango de los resultados de cálculos que pueden visualizarse en formato π cuando se utiliza el display Natural es |x| < 106. Observe, sin embargo, que por un error de cálculo interno puede que sea imposible ver algunos resultados en formato π. Esto también puede hacer que los resultados del cálculo que deberían aparecer en formato decimal aparezcan en formato π.
