Utregningsområde	±1 × 10-99 til ±9,999999999 × 1099 eller 0
Antall sifre for intern utregning	23 sifre
Presisjon	Generelt sett ±1 ved den 10. desimalen for en enkelt utregning. Presisjon for eksponentialvisning er ±1 ved det minst signifikante sifferet. Feil er kumulative for etterfølgende utregninger.

Funksjoner	Inndataområde
sinx cosx	Degree	0 ≤ |x| < 9 × 109
	Radian	0 ≤ |x| < 157079632,7
	Gradian	0 ≤ |x| < 1 × 1010
tanx	Degree	Samme som sinx, med unntak av når |x| = (2n - 1) × 90.
	Radian	Samme som sinx, med unntak av når |x| = (2n - 1) × π/2.
	Gradian	Samme som sinx, med unntak av når |x| = (2n - 1) × 100.
sin-1x, cos-1x	0 ≤ |x| ≤ 1
tan-1x	0 ≤ |x| ≤ 9,999999999 × 1099
sinhx, coshx	0 ≤ |x| ≤ 230,2585092
sinh-1x	0 ≤ |x| ≤ 4,999999999 × 1099
cosh-1x	1 ≤ x ≤ 4,999999999 × 1099
tanhx	0 ≤ |x| ≤ 9,999999999 × 1099
tanh-1x	0 ≤ |x| ≤ 9,999999999 × 10-1
logx, lnx	0 < x ≤ 9,999999999 × 1099
10x	-9,999999999 × 1099 ≤ x ≤ 99,99999999
√x	0 ≤ x < 1 × 10100
x2	|x| < 1 × 1050
x-1	|x| < 1 × 10100; x ≠ 0
x!	0 ≤ x ≤ 69 (x er et heltall)
nPr	0 ≤ n < 1 × 1010, 0 ≤ r ≤ n (n, r er heltall) 1 ≤ {n!/(n - r)!} < 1 × 10100
nCr	0 ≤ n < 1 × 1010, 0 ≤ r ≤ n (n, r er heltall) 1 ≤ n!/r! < 1 × 10100 eller 1 ≤ n!/(n - r)! < 1 × 10100
Pol(x, y)	|x|, |y| ≤ 9,999999999 × 1099 √x2 + y2 ≤ 9,999999999 × 1099
Rec(r, θ)	0 ≤ r ≤ 9,999999999 × 1099 θ: Samme som sinx
a°b’c”	|a|, b, c < 1 × 10100; 0 ≤ b, c Sekundverdien som vises, kan ha en feil på ±1 i den andre desimalen.
a°b’c” = x	0°0’0” ≤ |x| ≤ 9999999°59’59” En seksagesimal verdi utenfor området ovenfor blir automatisk behandlet som en desimalverdi.
xy	x > 0: -1 × 10100 < ylogx < 100 x = 0: y > 0 x < 0: y = n, m2n + 1 (m, n er heltall) Men: -1 × 10100 < ylog |x| < 100
x√y	y > 0: x ≠ 0, -1 × 10100 < 1/x logy < 100 y = 0: x > 0 y < 0: x = 2n + 1, 2n + 1　 m　 (m ≠ 0; m, n er heltall) Men: -1 × 10100 < 1/x log |y| < 100
a b/c	Totalen til heltall, teller og nevner må være 10 siffer eller mindre (inkludert skillesymbol).
RanInt#(a, b)	a < b; |a|, |b| < 1 × 1010; b - a < 1 × 1010

Presisjon er i bunn og grunn det samme som det som beskrives under «Utregningsområde og presisjon» ovenfor.

Funksjoner av typene xy, x√y, x!, nPr, nCr krever etterfølgende intern utregning, som kan føre til akkumulering av feil som oppstår med hver utregning.

Feil er kumulative og pleier å være store i nærheten av det singulære punktet og infleksjonspunktet til en funksjon.

Området for utregningsresultater kan vises i π-form når MathI/MathO som er valgt for Input/Output i SETTINGS-menyen, er |x| < 106. Vær imidlertid oppmerksom på at en intern utregningsfeil kan gjøre det umulig å vise enkelte utregningsresultatet i π-form. Det kan også føre til at utregningsresultater som skal være i desimalform, vises i π-form.