Rango de cálculo	±1 × 10-99 a ±9,999999999 × 1099 ou 0
Número de díxitos para o cálculo interno	23 díxitos
Precisión	Por norma xeral, ±1 no 10.º díxito para un cálculo único. A precisión para a vista exponencial é ±1 no díxito menos significativo. Os erros son acumulativos no caso de cálculos consecutivos.

Funcións	Rango de entrada
senx cosx	Grao (D)	0 ≤ |x| < 9 × 109
	Radián	0 ≤ |x| < 157079632,7
	Gradiente	0 ≤ |x| < 1 × 1010
tanx	Grao (D)	Igual a senx, agás cando |x| = (2n - 1) × 90.
	Radián	Igual a senx, agás cando |x| = (2n - 1) × π/2.
	Gradiente	Igual a senx, agás cando |x| = (2n - 1) × 100.
Arcsenx, Arccosx	0 ≤ |x| ≤ 1
Arctanx	0 ≤ |x| ≤ 9,999999999 × 1099
senhx, coshx	0 ≤ |x| ≤ 230,2585092
Arcsenhx	0 ≤ |x| ≤ 4,999999999 × 1099
Arccoshx	1 ≤ x ≤ 4,999999999 × 1099
tanhx	0 ≤ |x| ≤ 9,999999999 × 1099
Arctanhx	0 ≤ |x| ≤ 9,999999999 × 10-1
logx, lnx	0 < x ≤ 9,999999999 × 1099
10x	-9,999999999 × 1099 ≤ x ≤ 99,99999999
√x	0 ≤ x < 1 × 10100
x2	|x| < 1 × 1050
x-1	|x| < 1 × 10100; x ≠ 0
x!	0 ≤ x ≤ 69 (x é un enteiro)
nPr	0 ≤ n < 1 × 1010, 0 ≤ r ≤ n (n, r son enteiros) 1 ≤ {n!/(n - r)!} < 1 × 10100
nCr	0 ≤ n < 1 × 1010, 0 ≤ r ≤ n (n, r son enteiros) 1 ≤ n!/r! < 1 × 10100 ou 1 ≤ n!/(n - r)! < 1 × 10100
Pol(x, y)	|x|, |y| ≤ 9,999999999 × 1099 √x2 + y2 ≤ 9,999999999 × 1099
Rec(r, θ)	0 ≤ r ≤ 9,999999999 × 1099 θ: O mesmo ca senx
a°b’c”	|a|, b, c < 1 × 10100; 0 ≤ b, c O valor de segundos da pantalla está suxeito a un erro de ±1 no lugar do decimal segundo.
a°b’c” = x	0°0’0” ≤ |x| ≤ 9999999°59’59” Un valor sesaxesimal fóra do rango anterior trátase automaticamente como un valor decimal.
xy	x > 0: -1 × 10100 < ylogx < 100 x = 0: y > 0 x < 0: y = n, m2n + 1 (m, n son enteiros) Porén: -1 × 10100 < ylog |x| < 100
x√y	y > 0: x ≠ 0, -1 × 10100 < 1/x logy < 100 y = 0: x > 0 y < 0: x = 2n + 1, 2n + 1　 m　 (m ≠ 0; m, n son enteiros) Porén: -1 × 10100 < 1/x log |y| < 100
a b/c	O total do enteiro, o numerador e o denominador deben ser 10 díxitos ou menos (incluído o símbolo de separador).
RanInt#(a, b)	a < b; |a|, |b| < 1 × 1010; b - a < 1 × 1010
MCD(a, b)	|a|, |b| < 1 × 1010 (a, b son enteiros)
MCM(a, b)	0 ≤ a, b < 1 × 1010 (a, b son enteiros)

A precisión é basicamente a mesma que a descrita na sección anterior “Rango e precisión do cálculo”.

As funcións de tipo xy, x√y, x!, nPr, nCr requiren o cálculo interno consecutivo, o que pode provocar unha acumulación de erros que se produzan con cada cálculo.

O erro é acumulativo e tende a ser maior preto dun punto singular ou de inflexión dunha función.

O rango para os resultados de cálculo que se poden amosar en forma π cando se selecciona E Mat/S Mat para Entrada/Saída no menú CONFIG é |x| < 106. Porén, teña en conta que o erro de cálculo interno pode facer imposible amosar os resultados de cálculo en forma π. Tamén pode facer que os resultados de cálculo que deberían estar en forma decimal aparezan en forma π.