Rangos de cálculo, número de dígitos y precisión
El rango de cálculo, el número de dígitos utilizados para el cálculo interno y la precisión de los cálculos dependen del tipo de cálculo que se realice.
Rango de cálculo y precisión
Rango de cálculo | ±1 × 10-99 a ±9,999999999 × 1099 o 0 |
Número de dígitos para cálculo interno | 23 dígitos |
Precisión | En general, ±1 en el décimo dígito para un solo cálculo. La precisión en la visualización exponencial es de ±1 en el dígito menos significativo. En el caso de los cálculos consecutivos, los errores son acumulativos. |
Rangos de entrada y precisión del cálculo de funciones
Funciones | Rango de entrada | |
---|---|---|
senx cosx |
Grado sexag (D) | 0 ≤ |x| < 9 × 109 |
Radián | 0 ≤ |x| < 157079632,7 | |
Grado cent (G) | 0 ≤ |x| < 1 × 1010 | |
tanx | Grado sexag (D) | El mismo que senx, excepto cuando |x| = (2n - 1) × 90. |
Radián | El mismo que senx, excepto cuando |x| = (2n - 1) × π/2. | |
Grado cent (G) | El mismo que senx, excepto cuando |x| = (2n - 1) × 100. | |
Arcsenx, Arccosx | 0 ≤ |x| ≤ 1 | |
Arctanx | 0 ≤ |x| ≤ 9,999999999 × 1099 | |
senhx, coshx | 0 ≤ |x| ≤ 230,2585092 | |
Arcsenhx | 0 ≤ |x| ≤ 4,999999999 × 1099 | |
Arccoshx | 1 ≤ x ≤ 4,999999999 × 1099 | |
tanhx | 0 ≤ |x| ≤ 9,999999999 × 1099 | |
Arctanhx | 0 ≤ |x| ≤ 9,999999999 × 10-1 | |
logx, lnx | 0 < x ≤ 9,999999999 × 1099 | |
10x | -9,999999999 × 1099 ≤ x ≤ 99,99999999 | |
√x | 0 ≤ x < 1 × 10100 | |
x2 | |x| < 1 × 1050 | |
x-1 | |x| < 1 × 10100; x ≠ 0 | |
x! | 0 ≤ x ≤ 69 (x es un entero) | |
nPr | 0 ≤ n < 1 × 1010, 0 ≤ r ≤ n (n, r son enteros) 1 ≤ {n!/(n - r)!} < 1 × 10100 |
|
nCr | 0 ≤ n < 1 × 1010, 0 ≤ r ≤ n (n, r son enteros) 1 ≤ n!/r! < 1 × 10100 o 1 ≤ n!/(n - r)! < 1 × 10100 |
|
Pol(x, y) | |x|, |y| ≤ 9,999999999 × 1099 √x2 + y2 ≤ 9,999999999 × 1099 |
|
Rec(r, θ) | 0 ≤ r ≤ 9,999999999 × 1099 θ: El mismo que senx |
|
a°b’c” | |a|, b, c < 1 × 10100; 0 ≤ b, c |
|
a°b’c” = x | 0°0’0” ≤ |x| ≤ 9999999°59’59” |
|
xy | x > 0: -1 × 10100 < ylogx < 100 |
|
x√y | y > 0: x ≠ 0, -1 × 10100 < 1/x logy < 100 |
|
a b/c | El total del entero, el numerador y el denominador debe tener 10 dígitos o menos (símbolo separador incluido). | |
RanInt#(a, b) | a < b; |a|, |b| < 1 × 1010; b - a < 1 × 1010 | |
MCD(a, b) | |a|, |b| < 1 × 1010 (a, b son enteros) | |
MCM(a, b) | 0 ≤ a, b < 1 × 1010 (a, b son enteros) |
La precisión es básicamente la misma que la descrita anteriormente en “Rango de cálculo y precisión”.
Las funciones de tipo xy, x√y, x!, nPr, nCr requieren cálculos internos consecutivos, lo que puede provocar la acumulación de los errores producidos en cada cálculo.
El error es acumulativo y tiende a ser significativo en las proximidades del punto singular y del punto de inflexión de una función.
El rango de los resultados de cálculo que se puede mostrar en la forma π cuando E Mat/S Mat se selecciona para Entrada/Salida en el menú CONFIG es |x| < 106. No obstante, recuerde que un error de cálculo interno puede imposibilitar la visualización de algunos resultados de cálculo en la forma π. También puede hacer que los resultados de los cálculos que deberían estar en forma decimal aparezcan en forma π.