Rangos de cálculo, número de dígitos y precisión
El rango de cálculo, el número de dígitos utilizados para el cálculo interno y la precisión del cálculo dependen del tipo de cálculo que esté realizando.
Rango de cálculo y precisión
Rango de cálculo | ±1 × 10-99 a ±9,999999999 × 1099 o 0 |
Número de dígitos para cálculo interno | 23 dígitos |
Precisión | En general, ±1 en el décimo dígito para un solo cálculo. La precisión para la visualización exponencial es de ±1 en el dígito menos significativo. En el caso de cálculos consecutivos, los errores son acumulativos. |
Rangos de entrada y precisión del cálculo de funciones
Funciones | Range de entrada | |
---|---|---|
senx cosx |
Grado sexag (D) | 0 ≤ |x| < 9 × 109 |
Radián | 0 ≤ |x| < 157079632,7 | |
Grado cent (G) | 0 ≤ |x| < 1 × 1010 | |
tanx | Grado sexag (D) | El mismo que senx, excepto cuando |x| = (2n - 1) × 90. |
Radián | El mismo que senx, excepto cuando |x| = (2n - 1) × π/2. | |
Grado cent (G) | El mismo que senx, excepto cuando |x| = (2n - 1) × 100. | |
Arcsenx, Arccosx | 0 ≤ |x| ≤ 1 | |
Arctanx | 0 ≤ |x| ≤ 9,999999999 × 1099 | |
senhx, coshx | 0 ≤ |x| ≤ 230,2585092 | |
Arcsenhx | 0 ≤ |x| ≤ 4,999999999 × 1099 | |
Arccoshx | 1 ≤ x ≤ 4,999999999 × 1099 | |
tanhx | 0 ≤ |x| ≤ 9,999999999 × 1099 | |
Arctanhx | 0 ≤ |x| ≤ 9,999999999 × 10-1 | |
logx, lnx | 0 < x ≤ 9,999999999 × 1099 | |
10x | -9,999999999 × 1099 ≤ x ≤ 99,99999999 | |
√x | 0 ≤ x < 1 × 10100 | |
x2 | |x| < 1 × 1050 | |
x-1 | |x| < 1 × 10100; x ≠ 0 | |
x! | 0 ≤ x ≤ 69 (x es un entero) | |
nPr | 0 ≤ n < 1 × 1010, 0 ≤ r ≤ n (n, r son enteros) 1 ≤ {n!/(n - r)!} < 1 × 10100 |
|
nCr | 0 ≤ n < 1 × 1010, 0 ≤ r ≤ n (n, r son enteros) 1 ≤ n!/r! < 1 × 10100 o 1 ≤ n!/(n - r)! < 1 × 10100 |
|
Pol(x; y) | |x|, |y| ≤ 9,999999999 × 1099 √x2 + y2 ≤ 9,999999999 × 1099 |
|
Rec(r; θ) | 0 ≤ r ≤ 9,999999999 × 1099 θ: El mismo que senx |
|
a°b’c” | |a|, b, c < 1 × 10100; 0 ≤ b, c |
|
a°b’c” = x | 0°0’0” ≤ |x| ≤ 9999999°59’59” |
|
xy | x > 0: -1 × 10100 < ylogx < 100 |
|
x√y | y > 0: x ≠ 0, -1 × 10100 < 1/x logy < 100 |
|
a b/c | El total del entero, el numerador y el denominador debe ser de 10 dígitos o menos (incluido el símbolo del separador). | |
RanInt#(a; b) | a < b; |a|, |b| < 1 × 1010; b - a < 1 × 1010 | |
MCD(a; b) | |a|, |b| < 1 × 1010 (a, b son enteros) | |
MCM(a; b) | 0 ≤ a, b < 1 × 1010 (a, b son enteros) |
Básicamente, la precisión es la misma que la descrita anteriormente en “Rango de cálculo y precisión”.
Las funciones de tipo xy, x√y, x!, nPr, nCr requieren cálculos internos consecutivos, lo que puede provocar la acumulación de errores producidos durante cada cálculo.
El error es acumulativo y tiende a ser significativo en las proximidades del punto singular y del punto de inflexión de una función.
El rango para los resultados de los cálculos que se pueden mostrar en forma π cuando se selecciona E Mat/S Mat para Entrada/Salida en el menú CONFIG es |x| < 106. Sin embargo, tenga en cuenta que un error de cálculo interno puede hacer imposible la visualización de algunos resultados de cálculo en forma π. También puede hacer que los resultados de los cálculos que deberían estar en forma decimal aparezcan en forma π.