Berekeningsbereik	±1 × 10-99 tot ±9,999999999 × 1099 of 0
Aantal cijfers voor interne berekening	23 cijfers
Nauwkeurigheid	In het algemeen, ±1 op het 10e cijfer voor een enkele berekening. Nauwkeurigheid voor exponentiële waarde is ±1 op het minst significante cijfer. Fouten zijn cumulatief in geval van opeenvolgende berekeningen.

Functies	Invoerbereik
sinx cosx	Degree	0 ≤ |x| < 9 × 109
	Radian	0 ≤ |x| < 157079632,7
	Gradian	0 ≤ |x| < 1 × 1010
tanx	Degree	Idem als sinx, behalve wanneer |x| = (2n - 1) × 90.
	Radian	Idem als sinx, behalve wanneer |x| = (2n - 1) × π/2.
	Gradian	Idem als sinx, behalve wanneer |x| = (2n - 1) × 100.
sin-1x, cos-1x	0 ≤ |x| ≤ 1
tan-1x	0 ≤ |x| ≤ 9,999999999 × 1099
logx, lnx	0 < x ≤ 9,999999999 × 1099
10x	-9,999999999 × 1099 ≤ x ≤ 99,99999999
√x	0 ≤ x < 1 × 10100
x2	|x| < 1 × 1050
x-1	|x| < 1 × 10100; x ≠ 0
x!	0 ≤ x ≤ 69 (x is een geheel getal)
nPr	0 ≤ n < 1 × 1010, 0 ≤ r ≤ n (n, r zijn gehele getallen) 1 ≤ {n!/(n - r)!} < 1 × 10100
nCr	0 ≤ n < 1 × 1010, 0 ≤ r ≤ n (n, r zijn gehele getallen) 1 ≤ n!/r! < 1 × 10100 of 1 ≤ n!/(n - r)! < 1 × 10100
Pol(x; y)	|x|, |y| ≤ 9,999999999 × 1099 √x2 + y2 ≤ 9,999999999 × 1099
Rec(r; θ)	0 ≤ r ≤ 9,999999999 × 1099 θ: Idem als sinx
a°b’c”	|a|, b, c < 1 × 10100; 0 ≤ b, c De secondenwaarde op de display is onderhevig aan een fout van ±1 op de tweede decimale plaats.
a°b’c” = x	0°0’0” ≤ |x| ≤ 9999999°59’59” Een sexagesimale waarde buiten bovenstaand bereik wordt automatisch behandeld als een decimale waarde.
xy	x > 0: -1 × 10100 < ylogx < 100 x = 0: y > 0 x < 0: y = n, m2n + 1 (m, n zijn gehele getallen) Maar: -1 × 10100 < ylog |x| < 100
x√y	y > 0: x ≠ 0, -1 × 10100 < 1/x logy < 100 y = 0: x > 0 y < 0: x = 2n + 1, 2n + 1　 m　 (m ≠ 0; m, n zijn gehele getallen) Maar: -1 × 10100 < 1/x log |y| < 100
a/b	Het totaal van de teller en de noemer moet 10 cijfers of kleiner zijn (inclusief scheidingssymbool).
RanInt#(a; b)	a < b; |a|, |b| < 1 × 1010; b - a < 1 × 1010
GCD(a; b)	|a|, |b| < 1 × 1010 (a, b zijn gehele getallen)
LCM(a; b)	0 ≤ a, b < 1 × 1010 (a, b zijn gehele getallen)

Nauwkeurigheid is in principe dezelfde als hierboven beschreven in “Berekeningsbereik en -nauwkeurigheid”.

Functies van het type xy, x√y, x!, nPr, nCr vereisen opeenvolgende interne berekeningen, wat een accumulatie van fouten kan veroorzaken die bij iedere berekening optreden.

Fout is cumulatief en heeft de neiging groot te zijn nabij het singulaire of buigpunt van een functie.

Het bereik voor berekeningsresultaten dat kan worden weergegeven in π-vorm wanneer MathI/MathO is geselecteerd voor Input/Output in het menu SETTINGS is |x| < 106. Merk echter op dat de interne berekeningsfout het onmogelijk kan maken om sommige berekeningsresultaten in π-vorm weer te geven. Het kan er ook voor zorgen dat berekeningsresultaten die in decimale vorm zouden moeten staan, worden weergegeven in π-vorm.