Rango de cálculo	±1 × 10-99 a ±9,999999999 × 1099 o 0
Número de dígitos para cálculo interno	23 dígitos
Precisión	En general, ±1 en el décimo dígito para un solo cálculo. La precisión para la visualización exponencial es de ±1 en el dígito menos significativo. En el caso de cálculos consecutivos, los errores son acumulativos.

Funciones	Range de entrada
sinx cosx	Degree	0 ≤ |x| < 9 × 109
	Radian	0 ≤ |x| < 157079632,7
	Gradian	0 ≤ |x| < 1 × 1010
tanx	Degree	El mismo que sinx, excepto cuando |x| = (2n - 1) × 90.
	Radian	El mismo que sinx, excepto cuando |x| = (2n - 1) × π/2.
	Gradian	El mismo que sinx, excepto cuando |x| = (2n - 1) × 100.
sin-1x, cos-1x	0 ≤ |x| ≤ 1
tan-1x	0 ≤ |x| ≤ 9,999999999 × 1099
sinhx, coshx	0 ≤ |x| ≤ 230,2585092
sinh-1x	0 ≤ |x| ≤ 4,999999999 × 1099
cosh-1x	1 ≤ x ≤ 4,999999999 × 1099
tanhx	0 ≤ |x| ≤ 9,999999999 × 1099
tanh-1x	0 ≤ |x| ≤ 9,999999999 × 10-1
logx, lnx	0 < x ≤ 9,999999999 × 1099
10x	-9,999999999 × 1099 ≤ x ≤ 99,99999999
√x	0 ≤ x < 1 × 10100
x2	|x| < 1 × 1050
x-1	|x| < 1 × 10100; x ≠ 0
x!	0 ≤ x ≤ 69 (x es un entero)
nPr	0 ≤ n < 1 × 1010, 0 ≤ r ≤ n (n, r son enteros) 1 ≤ {n!/(n - r)!} < 1 × 10100
nCr	0 ≤ n < 1 × 1010, 0 ≤ r ≤ n (n, r son enteros) 1 ≤ n!/r! < 1 × 10100 o 1 ≤ n!/(n - r)! < 1 × 10100
Pol(x, y)	|x|, |y| ≤ 9,999999999 × 1099 √x2 + y2 ≤ 9,999999999 × 1099
Rec(r, θ)	0 ≤ r ≤ 9,999999999 × 1099 θ: El mismo que sinx
a°b’c”	|a|, b, c < 1 × 10100; 0 ≤ b, c El valor de los segundos de la pantalla tiene un error de ±1 en el segundo decimal.
a°b’c” = x	0°0’0” ≤ |x| ≤ 9999999°59’59” Un valor sexagesimal fuera del rango anterior es automáticamente interpretado como un valor decimal.
xy	x > 0: -1 × 10100 < ylogx < 100 x = 0: y > 0 x < 0: y = n, m2n + 1 (m, n son enteros) Pero: -1 × 10100 < ylog |x| < 100
x√y	y > 0: x ≠ 0, -1 × 10100 < 1/x logy < 100 y = 0: x > 0 y < 0: x = 2n + 1, 2n + 1　 m　 (m ≠ 0; m, n son enteros) Pero: -1 × 10100 < 1/x log |y| < 100
a b/c	El total del entero, el numerador y el denominador debe ser de 10 dígitos o menos (incluido el símbolo del separador).
RanInt#(a, b)	a < b; |a|, |b| < 1 × 1010; b - a < 1 × 1010

Básicamente, la precisión es la misma que la descrita anteriormente en “Rango de cálculo y precisión”.

Las funciones de tipo xy, x√y, x!, nPr, nCr requieren cálculos internos consecutivos, lo que puede provocar la acumulación de errores producidos durante cada cálculo.

El error es acumulativo y tiende a ser significativo en las proximidades del punto singular y del punto de inflexión de una función.

El rango para los resultados de los cálculos que se pueden mostrar en forma π cuando se selecciona MathI/MathO para Input/Output en el menú SETTINGS es |x| < 106. Sin embargo, tenga en cuenta que un error de cálculo interno puede hacer imposible la visualización de algunos resultados de cálculo en forma π. También puede hacer que los resultados de los cálculos que deberían estar en forma decimal aparezcan en forma π.