Intervallo di calcolo	Da ±1 × 10-99 a ±9,999999999 × 1099 o 0
Numero di cifre per i calcoli interni	23 cifre
Precisione	In generale ±1 alla 10ᵃ cifra per un singolo calcolo. La precisione per la visualizzazione esponenziale è ±1 alla cifra meno significativa. Nel caso di calcoli consecutivi, gli errori sono cumulativi.

Funzioni	Intervallo di inserimento
sinx cosx	Degree	0 ≤ |x| < 9 × 109
	Radian	0 ≤ |x| < 157079632,7
	Gradian	0 ≤ |x| < 1 × 1010
tanx	Degree	Come per sinx, tranne quando |x| = (2n - 1) × 90.
	Radian	Come per sinx, tranne quando |x| = (2n - 1) × π/2.
	Gradian	Come per sinx, tranne quando |x| = (2n - 1) × 100.
sin-1x, cos-1x	0 ≤ |x| ≤ 1
tan-1x	0 ≤ |x| ≤ 9,999999999 × 1099
sinhx, coshx	0 ≤ |x| ≤ 230,2585092
sinh-1x	0 ≤ |x| ≤ 4,999999999 × 1099
cosh-1x	1 ≤ x ≤ 4,999999999 × 1099
tanhx	0 ≤ |x| ≤ 9,999999999 × 1099
tanh-1x	0 ≤ |x| ≤ 9,999999999 × 10-1
logx, lnx	0 < x ≤ 9,999999999 × 1099
10x	-9,999999999 × 1099 ≤ x ≤ 99,99999999
√x	0 ≤ x < 1 × 10100
x2	|x| < 1 × 1050
x-1	|x| < 1 × 10100; x ≠ 0
x!	0 ≤ x ≤ 69 (x è un numero intero)
nPr	0 ≤ n < 1 × 1010, 0 ≤ r ≤ n (n, r sono numeri interi) 1 ≤ {n!/(n - r)!} < 1 × 10100
nCr	0 ≤ n < 1 × 1010, 0 ≤ r ≤ n (n, r sono numeri interi) 1 ≤ n!/r! < 1 × 10100 o 1 ≤ n!/(n - r)! < 1 × 10100
Pol(x, y)	|x|, |y| ≤ 9,999999999 × 1099 √x2 + y2 ≤ 9,999999999 × 1099
Rec(r, θ)	0 ≤ r ≤ 9,999999999 × 1099 θ: Come per sinx
a°b”c”	|a|, b, c < 1 × 10100; 0 ≤ b, c Il valore dei secondi visualizzati è soggetto a un errore di ±1 alla seconda cifra decimale.
a°b”c” = x	0°0’0” ≤ |x| ≤ 9999999°59’59” Un valore sessagesimale esterno all’intervallo indicato viene automaticamente trattato come un valore decimale.
xy	x > 0: -1 × 10100 < ylogx < 100 x = 0: y > 0 x < 0: y = n, m2n + 1 (m, n sono numeri interi) Tuttavia: -1 × 10100 < ylog |x| < 100
x√y	y > 0: x ≠ 0, -1 × 10100 < 1/x logy < 100 y = 0: x > 0 y < 0: x = 2n + 1, 2n + 1　 m　 (m ≠ 0; m, n sono numeri interi) Tuttavia: -1 × 10100 < 1/x log |y| < 100
a b/c	Il totale di numero intero, numeratore e denominatore non deve superare le 10 cifre (compreso il simbolo del separatore).
RanInt#(a, b)	a < b; |a|, |b| < 1 × 1010; b - a < 1 × 1010

La precisione è fondamentalmente la stessa descritta nella sezione “Intervallo di calcolo e precisione”, sopra.

Le funzioni di tipo xy, x√y, x!, nPr, nCr richiedono calcoli interni consecutivi che possono determinare l’accumulo degli errori che si verificano a ogni calcolo.

L’errore è cumulativo e tende ad aumentare in prossimità dei punti di discontinuità e dei punti di flesso delle funzioni.

L’intervallo dei risultati di calcolo visualizzabili in formato π quando per l’impostazione Input/Output del menu SETTINGS si seleziona il valore MathI/MathO è |x| < 106. Tuttavia l’errore nei calcoli interni può impedire la visualizzazione di alcuni risultati in formato π. Può anche causare la visualizzazione in formato π dei risultati del calcolo che dovrebbero apparire in formato decimale.