Plage de calcul	±1 × 10-99 à ±9.999999999 × 1099 ou 0
Nombre de chiffres en interne pour les calculs	23 chiffres
Précision	En général, ±1 au 10e chiffre pour un seul calcul. La précision pour l’affichage exponentiel est ±1 au chiffre le moins significatif. Les erreurs sont cumulatives dans le cas de calculs consécutifs.

Fonctions	Plage de saisie
sinx cosx	Degree	0 ≤ |x| < 9 × 109
	Radian	0 ≤ |x| < 157079632.7
	Gradian	0 ≤ |x| < 1 × 1010
tanx	Degree	Identique à sinx, sauf si |x| = (2n - 1) × 90.
	Radian	Identique à sinx, sauf si |x| = (2n - 1) × π/2.
	Gradian	Identique à sinx, sauf si |x| = (2n - 1) × 100.
sin-1x, cos-1x	0 ≤ |x| ≤ 1
tan-1x	0 ≤ |x| ≤ 9.999999999 × 1099
sinhx, coshx	0 ≤ |x| ≤ 230.2585092
sinh-1x	0 ≤ |x| ≤ 4.999999999 × 1099
cosh-1x	1 ≤ x ≤ 4.999999999 × 1099
tanhx	0 ≤ |x| ≤ 9.999999999 × 1099
tanh-1x	0 ≤ |x| ≤ 9.999999999 × 10-1
logx, lnx	0 < x ≤ 9.999999999 × 1099
10x	-9.999999999 × 1099 ≤ x ≤ 99.99999999
√x	0 ≤ x < 1 × 10100
x2	|x| < 1 × 1050
x-1	|x| < 1 × 10100 ; x ≠ 0
x!	0 ≤ x ≤ 69 (x est un entier)
nPr	0 ≤ n < 1 × 1010, 0 ≤ r ≤ n (n, r sont des entiers) 1 ≤ {n!/(n - r)!} < 1 × 10100
nCr	0 ≤ n < 1 × 1010, 0 ≤ r ≤ n (n, r sont des entiers) 1 ≤ n!/r! < 1 × 10100 ou 1 ≤ n!/(n - r)! < 1 × 10100
Pol(x, y)	|x|, |y| ≤ 9.999999999 × 1099 √x2 + y2 ≤ 9.999999999 × 1099
Rec(r, θ)	0 ≤ r ≤ 9.999999999 × 1099 θ : pareil que sinx
a°b’c”	|a|, b, c < 1 × 10100 ; 0 ≤ b, c La valeur des secondes affichée est sujette à une erreur de ±1 à la deuxième décimale.
a°b’c” = x	0°0’0” ≤ |x| ≤ 9999999°59’59” Une valeur sexagésimale qui dépasse la plage ci-dessus est automatiquement traitée comme une valeur décimale.
xy	x > 0 : -1 × 10100 < ylogx < 100 x = 0 : y > 0 x < 0 : y = n, m2n + 1 (m, n sont des entiers) Cependant : -1 × 10100 < ylog |x| < 100
x√y	y > 0 : x ≠ 0, -1 × 10100 < 1/x logy < 100 y = 0 : x > 0 y < 0 : x = 2n + 1, 2n + 1　 m　 (m ≠ 0 ; m, n sont des entiers) Cependant : -1 × 10100 < 1/x log |y| < 100
a b/c	Le total du nombre entier, du numérateur et du dénominateur doit être de 10 chiffres ou moins (y compris le symbole du séparateur).
RanInt#(a, b)	a < b ; |a|, |b| < 1 × 1010 ; b - a < 1 × 1010

La précision est en principe comme celle indiquée dans « Plage de calcul et précision », ci-dessus.

Les fonctions de type xy, x√y, x!, nPr, nCr nécessitent un calcul interne consécutif qui peut provoquer une accumulation d’erreurs qui se produisent avec chaque calcul.

L’erreur est cumulative et a tendance à devenir très grande dans le voisinage de points singuliers et au point d’inflexion d’une fonction.

La plage des résultats de calcul pouvant être affichés sous la forme π lorsque MathI/MathO est sélectionné pour Input/Output dans le menu SETTINGS est |x| < 106. Notez toutefois qu’une erreur de calcul interne peut empêcher l’affichage des résultats de calcul sous la forme π. Elle peut aussi entraîner l’affichage de résultats de calcul sous la forme π au lieu de la forme décimale attendue.