Saltar al contenido

Rangos de cálculo, cantidad de dígitos y precisión

El rango de cálculo, la cantidad de dígitos utilizados para cálculos internos y la precisión de cálculo depende del tipo de cálculo que realice.

Rango de cálculo y precisión

Rango de cálculo ±1 × 10-99 a ±9,999999999 × 1099 o 0
Cantidad de dígitos usados internamente en el cálculo 15 dígitos
Precisión En general, ±1 en el 10.º dígito para un cálculo individual. La precisión con visualización exponencial es ±1 sobre el dígito menos significativo. En el caso de cálculos consecutivos los errores se propagan acumulativamente.

Rangos de introducción de cálculo de funciones y precisión

Funciones Rango de introducción
senx
cosx
Deg 0 ≦ |x| < 9 × 109
Rad 0 ≦ |x| < 157079632,7
Gra 0 ≦ |x| < 1 × 1010
tanx Deg El mismo que senx, excepto cuando |x| = (2n-1) × 90.
Rad El mismo que senx, excepto cuando |x| = (2n-1) × π/2.
Gra El mismo que senx, excepto cuando |x| = (2n-1) × 100.
sen-1x, cos-1x 0 ≦ |x| ≦ 1
tan-1x 0 ≦ |x| ≦ 9,999999999 × 1099
senhx, coshx 0 ≦ |x| ≦ 230,2585092
senh-1x 0 ≦ |x| ≦ 4,999999999 × 1099
cosh-1x 1 ≦ x ≦ 4,999999999 × 1099
tanhx 0 ≦ |x| ≦ 9,999999999 × 1099
tanh-1x 0 ≦ |x| ≦ 9,999999999 × 10-1
logx, lnx 0 < x ≦ 9,999999999 × 1099
10x -9,999999999 × 1099x ≦ 99,99999999
ex -9,999999999 × 1099x ≦ 230,2585092
x 0 ≦ x < 1 × 10100
x2 |x| < 1 × 1050
x-1 |x| < 1 × 10100; x ≠ 0
3x |x| < 1 × 10100
x! 0 ≦ x ≦ 69 (x es un entero)
nPr

0 ≦ n < 1 × 1010, 0 ≦ rn (n, r son enteros)

1 ≦ {n!/(n-r)!} < 1 × 10100
nCr

0 ≦ n < 1 × 1010, 0 ≦ rn (n, r son enteros)

1 ≦ n!/r! < 1 × 10100 o 1 ≦ n!/(n-r)! < 1 × 10100
Pol(x, y)

|x|, |y| ≦ 9,999999999 × 1099

x2 + y2 ≦ 9,999999999 × 1099
Rec(r, θ)

0 ≦ r ≦ 9,999999999 × 1099

θ: El mismo que senx
°’ ”

a°bc”: |a|, b, c < 1 × 10100; 0 ≦ b, c

El segundo valor mostrado está sujeto a un error de ±1 en la segunda posición decimal.
°’ ”

|x| < 1 × 10100
Conversiones Decimal ↔ Sexagesimal

0°0’0” ≦ |x| ≦ 9999999°59’59”
xy

x > 0: -1 × 10100 < ylogx < 100
x = 0: y > 0
x < 0: y = n, m2n + 1 (m, n son enteros)

Sin embargo: -1 × 10100 < ylog |x| < 100
xy

y > 0: x ≠ 0, -1 × 10100  < 1/x logy < 100
y = 0: x > 0
y < 0: x = 2n+1, 2n + 1  m  (m ≠ 0; m, n son enteros)

Sin embargo: -1 × 10100 < 1/x log |y| < 100
a b/c La cantidad total de dígitos de esta expresión, incluyendo la parte entera, el numerador y el denominador debe ser de hasta 10 dígitos (incluyendo el símbolo separador).
RanInt#(a, b) a < b; |a|, |b| < 1 × 1010; b - a < 1 × 1010
GCD(a, b) |a|, |b| < 1 × 1010 (a, b son enteros)
LCM(a, b) 0 ≦ a, b < 1 × 1010 (a, b son enteros)

La precisión es esencialmente la misma que se describe en "Rango de cálculo y precisión" anteriormente.

Los tipos de función xy, xy, 3 , x!, nPr, nCr requieren cálculos internos consecutivos que pueden producir una acumulación de los errores producidos en cada cálculo.

El error es acumulativo y tiende a ser grande en la vecindad del punto singular de la función y punto de inflexión.

El rango de los resultados de cálculos que pueden visualizarse en formato π cuando se utiliza el display Natural es |x| < 106. Observe, sin embargo, que por un error de cálculo interno puede que sea imposible ver algunos resultados en formato π. Esto también puede hacer que los resultados del cálculo que deberían aparecer en formato decimal aparezcan en formato π.

imprimir esta página
Ir a inicio de página