Beräkningsintervall	±1 × 10-99 till ±9,999999999 × 1099 eller 0
Antal siffror för intern beräkning	23 siffror
Precision	I allmänhet, ±1 vid den 10:e siffran för en enda beräkning. Precision för exponentiell visning är ±1 för den minst signifikanta siffran. Fel ackumuleras vid efterföljande beräkningar.

Funktioner	Indataintervall
sinx cosx	Degree	0 ≤ |x| < 9 × 109
	Radian	0 ≤ |x| < 157079632,7
	Gradian	0 ≤ |x| < 1 × 1010
tanx	Degree	Samma som sinx, utom för |x| = (2n - 1) × 90.
	Radian	Samma som sinx, utom för |x| = (2n - 1) × π/2.
	Gradian	Samma som sinx, utom för |x| = (2n - 1) × 100.
sin-1x, cos-1x	0 ≤ |x| ≤ 1
tan-1x	0 ≤ |x| ≤ 9,999999999 × 1099
sinhx, coshx	0 ≤ |x| ≤ 230,2585092
sinh-1x	0 ≤ |x| ≤ 4,999999999 × 1099
cosh-1x	1 ≤ x ≤ 4,999999999 × 1099
tanhx	0 ≤ |x| ≤ 9,999999999 × 1099
tanh-1x	0 ≤ |x| ≤ 9,999999999 × 10-1
logx, lnx	0 < x ≤ 9,999999999 × 1099
10x	-9,999999999 × 1099 ≤ x ≤ 99,99999999
√x	0 ≤ x < 1 × 10100
x2	|x| < 1 × 1050
x-1	|x| < 1 × 10100; x ≠ 0
x!	0 ≤ x ≤ 69 (x som ett heltal)
nPr	0 ≤ n < 1 × 1010, 0 ≤ r ≤ n (n, r är heltal) 1 ≤ {n!/(n - r)!} < 1 × 10100
nCr	0 ≤ n < 1 × 1010, 0 ≤ r ≤ n (n, r är heltal) 1 ≤ n!/r! < 1 × 10100 eller 1 ≤ n!/(n - r)! < 1 × 10100
Pol(x, y)	|x|, |y| ≤ 9,999999999 × 1099 √x2 + y2 ≤ 9,999999999 × 1099
Rec(r, θ)	0 ≤ r ≤ 9,999999999 × 1099 θ: Samma som sinx
a°b’c”	|a|, b, c < 1 × 10100; 0 ≤ b, c Det visade värdet för sekunder kan ha ett fel på ±1 vid det andra decimalkommat.
a°b’c” = x	0°0’0” ≤ |x| ≤ 9999999°59’59” Ett sexagesimalvärde utanför ovanstående intervall behandlas automatiskt som ett decimalvärde.
xy	x > 0: -1 × 10100 < ylogx < 100 x = 0: y > 0 x < 0: y = n, m2n + 1 (m, n är heltal) Men: -1 × 10100 < ylog |x| < 100
x√y	y > 0: x ≠ 0, -1 × 10100 < 1/x logy < 100 y = 0: x > 0 y < 0: x = 2n + 1, 2n + 1　 m　 (m ≠ 0; m, n är heltal) Men: -1 × 10100 < 1/x log |y| < 100
a b/c	Summan av heltal, täljare och nämnare måste vara 10 siffror eller mindre (inklusive skiljesymbolen).
RanInt#(a, b)	a < b; |a|, |b| < 1 × 1010; b - a < 1 × 1010

Precision är i princip samma som beskrivs under beräkningsintervall och precision ovan.

xy, x√y, x!, nPr, nCr-typfunktioner kräver en efterföljande intern beräkning, vilket kan leda till att de fel som kan uppstå vid varje beräkning ackumuleras.

Fel är kumulativa och tenderar att vara stora i närheten av en funktions singulära punkt och brytpunkt.

Det intervall för beräkningsresultat som kan visas i π-formuläret när MathI/MathO väljs för Input/Output i SETTINGS-menyn är |x| < 106. Observera dock att det interna beräkningsfelet kan göra det omöjligt att visa några beräkningsresultat i π-formuläret. Det kan också leda till beräkningsresultat som ska vara i decimalform visas i π-form.