Intervalo do cálculo	±1 × 10-99 to ±9,999999999 × 1099 ou 0
Número de dígitos para cálculo interno	23 dígitos
Precisão	No geral, ±1 no 10º dígito para um cálculo único. A precisão para exibição exponencial é ±1 no dígito menos significante. Os erros são cumulativos no caso de cálculos consecutivos.

Funções	Intervalo de inserção
senx cosx	Graus (D)	0 ≤ |x| < 9 × 109
	Radianos (R)	0 ≤ |x| < 157079632,7
	Grado (G)	0 ≤ |x| < 1 × 1010
tanx	Graus (D)	Igual a senx, exceto quando |x| = (2n - 1) × 90.
	Radianos (R)	Igual a senx, exceto quando |x| = (2n - 1) × π/2.
	Grado (G)	Igual a senx, exceto quando |x| = (2n - 1) × 100.
Arcsenx, Arccosx	0 ≤ |x| ≤ 1
Arctanx	0 ≤ |x| ≤ 9,999999999 × 1099
senhx, coshx	0 ≤ |x| ≤ 230,2585092
Arcsenhx	0 ≤ |x| ≤ 4,999999999 × 1099
Arccoshx	1 ≤ x ≤ 4,999999999 × 1099
tanhx	0 ≤ |x| ≤ 9,999999999 × 1099
Arctanhx	0 ≤ |x| ≤ 9,999999999 × 10-1
logx, lnx	0 < x ≤ 9,999999999 × 1099
10x	-9,999999999 × 1099 ≤ x ≤ 99,99999999
√x	0 ≤ x < 1 × 10100
x2	|x| < 1 × 1050
x-1	|x| < 1 × 10100; x ≠ 0
x!	0 ≤ x ≤ 69 (x é um número inteiro)
nPr	0 ≤ n < 1 × 1010, 0 ≤ r ≤ n (n, r são números inteiros) 1 ≤ {n!/(n - r)!} < 1 × 10100
nCr	0 ≤ n < 1 × 1010, 0 ≤ r ≤ n (n, r são números inteiros) 1 ≤ n!/r! < 1 × 10100 ou 1 ≤ n!/(n - r)! < 1 × 10100
Pol(x, y)	|x|, |y| ≤ 9,999999999 × 1099 √x2 + y2 ≤ 9,999999999 × 1099
Rec(r, θ)	0 ≤ r ≤ 9,999999999 × 1099 θ: Igual a senx
a°b’c”	|a|, b, c < 1 × 10100; 0 ≤ b, c O valor de segundos exibido está sujeito a um erro de ±1 na segunda casa decimal.
a°b’c” = x	0°0’0” ≤ |x| ≤ 9999999°59’59” Um valor sexagesimal fora do intervalo acima é tratado automaticamente como um valor decimal.
xy	x > 0: -1 × 10100 < ylogx < 100 x = 0: y > 0 x < 0: y = n, m2n + 1 (m, n são números inteiros) No entanto: -1 × 10100 < ylog |x| < 100
x√y	y > 0: x ≠ 0, -1 × 10100 < 1/x logy < 100 y = 0: x > 0 y < 0: x = 2n + 1, 2n + 1　 m　 (m ≠ 0; m, n são números inteiros) No entanto: -1 × 10100 < 1/x log |y| < 100
a b/c	O total de número inteiro, numerador e denominador precisa ter 10 dígitos ou menos (incluindo o símbolo separador).
RanInt#(a, b)	a < b; |a|, |b| < 1 × 1010; b - a < 1 × 1010
MDC(a, b)	|a|, |b| < 1 × 1010 (a, b são números inteiros)
MMC(a, b)	0 ≤ a, b < 1 × 1010 (a, b são números inteiros)

A precisão é basicamente a mesma indicada acima em "Intervalo e precisão de cálculo".

As funções tipo xy, x√y, x!, nPr, nCr exigem um cálculo interno consecutivo, que pode provocar um acumular de erros a cada cálculo.

O erro é acumulado e tende a ser maior próximo a funções de ponto único e ponto de inflexão.

O intervalo para resultados de cálculo que pode ser exibido no formato π quando MatE/MatS é selecionado para Entrada/Saída no menu CONFIG é |x| < 106. Perceba, no entanto, que o erro de cálculo interno pode impossibilitar a exibição de alguns resultados de cálculo no formato π. Isso também pode fazer resultados de cálculos que deveriam estar em formato decimal aparecerem em formato π.