Ir al contenido

Rangos de cálculo, número de dígitos y precisión

El rango de cálculo, el número de dígitos utilizados para el cálculo interno y la precisión del cálculo dependen del tipo de cálculo que esté realizando.

Rango de cálculo y precisión

Rango de cálculo ±1 × 10-99 a ±9,999999999 × 1099 o 0
Número de dígitos para cálculo interno 23 dígitos
Precisión En general, ±1 en el décimo dígito para un solo cálculo. La precisión para la visualización exponencial es de ±1 en el dígito menos significativo. En el caso de cálculos consecutivos, los errores son acumulativos.

Rangos de entrada y precisión del cálculo de funciones

Funciones Range de entrada
senx
cosx
Grado sexag (D) 0 ≤ |x| < 9 × 109
Radián 0 ≤ |x| < 157079632,7
Grado cent (G) 0 ≤ |x| < 1 × 1010
tanx Grado sexag (D) El mismo que senx, excepto cuando |x| = (2n - 1) × 90.
Radián El mismo que senx, excepto cuando |x| = (2n - 1) × π/2.
Grado cent (G) El mismo que senx, excepto cuando |x| = (2n - 1) × 100.
Arcsenx, Arccosx 0 ≤ |x| ≤ 1
Arctanx 0 ≤ |x| ≤ 9,999999999 × 1099
senhx, coshx 0 ≤ |x| ≤ 230,2585092
Arcsenhx 0 ≤ |x| ≤ 4,999999999 × 1099
Arccoshx 1 ≤ x ≤ 4,999999999 × 1099
tanhx 0 ≤ |x| ≤ 9,999999999 × 1099
Arctanhx 0 ≤ |x| ≤ 9,999999999 × 10-1
logx, lnx 0 < x ≤ 9,999999999 × 1099
10x -9,999999999 × 1099x ≤ 99,99999999
x 0 ≤ x < 1 × 10100
x2 |x| < 1 × 1050
x-1 |x| < 1 × 10100; x ≠ 0
x! 0 ≤ x ≤ 69 (x es un entero)
nPr

0 ≤ n < 1 × 1010, 0 ≤ rn (n, r son enteros)

1 ≤ {n!/(n - r)!} < 1 × 10100
nCr

0 ≤ n < 1 × 1010, 0 ≤ rn (n, r son enteros)

1 ≤ n!/r! < 1 × 10100 o 1 ≤ n!/(n - r)! < 1 × 10100
Pol(x; y)

|x|, |y| ≤ 9,999999999 × 1099

x2 + y2 ≤ 9,999999999 × 1099
Rec(r; θ)

0 ≤ r ≤ 9,999999999 × 1099

θ: El mismo que senx
a°bc

|a|, b, c < 1 × 10100; 0 ≤ b, c
El valor de los segundos de la pantalla tiene un error de ±1 en el segundo decimal.

a°bc” = x

0°0’0” ≤ |x| ≤ 9999999°59’59”
Un valor sexagesimal fuera del rango anterior es automáticamente interpretado como un valor decimal.

xy

x > 0: -1 × 10100 < ylogx < 100
x = 0: y > 0
x < 0: y = n, m2n + 1 (m, n son enteros)

Pero: -1 × 10100 < ylog |x| < 100
xy

y > 0: x ≠ 0, -1 × 10100 < 1/x logy < 100
y = 0: x > 0
y < 0: x = 2n + 1, 2n + 1  m  (m ≠ 0; m, n son enteros)

Pero: -1 × 10100 < 1/x log |y| < 100
a b/c El total del entero, el numerador y el denominador debe ser de 10 dígitos o menos (incluido el símbolo del separador).
RanInt#(a; b) a < b; |a|, |b| < 1 × 1010; b - a < 1 × 1010
MCD(a; b) |a|, |b| < 1 × 1010 (a, b son enteros)
MCM(a; b) 0 ≤ a, b < 1 × 1010 (a, b son enteros)

Básicamente, la precisión es la misma que la descrita anteriormente en “Rango de cálculo y precisión”.

Las funciones de tipo xy, xy, x!, nPr, nCr requieren cálculos internos consecutivos, lo que puede provocar la acumulación de errores producidos durante cada cálculo.

El error es acumulativo y tiende a ser significativo en las proximidades del punto singular y del punto de inflexión de una función.

El rango para los resultados de los cálculos que se pueden mostrar en forma π cuando se selecciona E Mat/S Mat para Entrada/Salida en el menú CONFIG es |x| < 106. Sin embargo, tenga en cuenta que un error de cálculo interno puede hacer imposible la visualización de algunos resultados de cálculo en forma π. También puede hacer que los resultados de los cálculos que deberían estar en forma decimal aparezcan en forma π.

Inicio de la página