Saltar al contenido

Rangos de cálculo, número de dígitos y precisión

El rango de cálculo, el número de dígitos utilizados para el cálculo interno y la precisión de los cálculos dependen del tipo de cálculo que se realice.

Rango de cálculo y precisión

Rango de cálculo ±1 × 10-99 a ±9,999999999 × 1099 o 0
Número de dígitos para cálculo interno 23 dígitos
Precisión En general, ±1 en el décimo dígito para un solo cálculo. La precisión en la visualización exponencial es de ±1 en el dígito menos significativo. En el caso de los cálculos consecutivos, los errores son acumulativos.

Rangos de entrada y precisión del cálculo de funciones

Funciones Rango de entrada
senx
cosx
Grado sexag (D) 0 ≤ |x| < 9 × 109
Radián 0 ≤ |x| < 157079632,7
Grado cent (G) 0 ≤ |x| < 1 × 1010
tanx Grado sexag (D) El mismo que senx, excepto cuando |x| = (2n - 1) × 90.
Radián El mismo que senx, excepto cuando |x| = (2n - 1) × π/2.
Grado cent (G) El mismo que senx, excepto cuando |x| = (2n - 1) × 100.
Arcsenx, Arccosx 0 ≤ |x| ≤ 1
Arctanx 0 ≤ |x| ≤ 9,999999999 × 1099
senhx, coshx 0 ≤ |x| ≤ 230,2585092
Arcsenhx 0 ≤ |x| ≤ 4,999999999 × 1099
Arccoshx 1 ≤ x ≤ 4,999999999 × 1099
tanhx 0 ≤ |x| ≤ 9,999999999 × 1099
Arctanhx 0 ≤ |x| ≤ 9,999999999 × 10-1
logx, lnx 0 < x ≤ 9,999999999 × 1099
10x -9,999999999 × 1099x ≤ 99,99999999
x 0 ≤ x < 1 × 10100
x2 |x| < 1 × 1050
x-1 |x| < 1 × 10100; x ≠ 0
x! 0 ≤ x ≤ 69 (x es un entero)
nPr

0 ≤ n < 1 × 1010, 0 ≤ rn (n, r son enteros)

1 ≤ {n!/(n - r)!} < 1 × 10100
nCr

0 ≤ n < 1 × 1010, 0 ≤ rn (n, r son enteros)

1 ≤ n!/r! < 1 × 10100 o 1 ≤ n!/(n - r)! < 1 × 10100
Pol(x, y)

|x|, |y| ≤ 9,999999999 × 1099

x2 + y2 ≤ 9,999999999 × 1099
Rec(r, θ)

0 ≤ r ≤ 9,999999999 × 1099

θ: El mismo que senx
a°bc

|a|, b, c < 1 × 10100; 0 ≤ b, c
El valor de los segundos mostrado tiene un error de ±1 en el segundo decimal.

a°bc” = x

0°0’0” ≤ |x| ≤ 9999999°59’59”
Un valor sexagesimal fuera del rango anterior se interpreta automáticamente como valor decimal.

xy

x > 0: -1 × 10100 < ylogx < 100
x = 0: y > 0
x < 0: y = n, m2n + 1 (m, n son enteros)

Pero: -1 × 10100 < ylog |x| < 100
xy

y > 0: x ≠ 0, -1 × 10100 < 1/x logy < 100
y = 0: x > 0
y < 0: x = 2n + 1, 2n + 1  m  (m ≠ 0; m, n son enteros)

Pero: -1 × 10100 < 1/x log |y| < 100
a b/c El total del entero, el numerador y el denominador debe tener 10 dígitos o menos (símbolo separador incluido).
RanInt#(a, b) a < b; |a|, |b| < 1 × 1010; b - a < 1 × 1010
MCD(a, b) |a|, |b| < 1 × 1010 (a, b son enteros)
MCM(a, b) 0 ≤ a, b < 1 × 1010 (a, b son enteros)

La precisión es básicamente la misma que la descrita anteriormente en “Rango de cálculo y precisión”.

Las funciones de tipo xy, xy, x!, nPr, nCr requieren cálculos internos consecutivos, lo que puede provocar la acumulación de los errores producidos en cada cálculo.

El error es acumulativo y tiende a ser significativo en las proximidades del punto singular y del punto de inflexión de una función.

El rango de los resultados de cálculo que se puede mostrar en la forma π cuando E Mat/S Mat se selecciona para Entrada/Salida en el menú CONFIG es |x| < 106. No obstante, recuerde que un error de cálculo interno puede imposibilitar la visualización de algunos resultados de cálculo en la forma π. También puede hacer que los resultados de los cálculos que deberían estar en forma decimal aparezcan en forma π.

Inicio de la página