計算範圍、數字位數和精確度

計算範圍和數字位數用於內部計算，而計算精確度取決於您所執行的計算類型。

計算範圍和精確度

計算範圍	±1 × 10-99 至 ±9.999999999 × 1099 或 0
內部計算的數字位數	23 位
精確度	一般而言，單一計算的精確度為第 10 位數字 ±1。指數顯示的精確度為最小有效數字位 ±1。在連續計算中，誤差會累積。

函數計算輸入範圍和精確度

函數	輸入範圍
sinx cosx	Degree	0 ≤ \|x\| < 9 × 109
	Radian	0 ≤ \|x\| < 157079632.7
	Gradian	0 ≤ \|x\| < 1 × 1010
tanx	Degree	和 sinx 相同，除了 \|x\| = (2n - 1) × 90 之外。
	Radian	和 sinx 相同，除了 \|x\| = (2n - 1) × π/2 之外。
	Gradian	和 sinx 相同，除了 \|x\| = (2n - 1) × 100 之外。
sin-1x、cos-1x	0 ≤ \|x\| ≤ 1
tan-1x	0 ≤ \|x\| ≤ 9.999999999 × 1099
sinhx、coshx	0 ≤ \|x\| ≤ 230.2585092
sinh-1x	0 ≤ \|x\| ≤ 4.999999999 × 1099
cosh-1x	1 ≤ x ≤ 4.999999999 × 1099
tanhx	0 ≤ \|x\| ≤ 9.999999999 × 1099
tanh-1x	0 ≤ \|x\| ≤ 9.999999999 × 10-1
logx、lnx	0 < x ≤ 9.999999999 × 1099
10x	-9.999999999 × 1099 ≤ x ≤ 99.99999999
√x	0 ≤ x < 1 × 10100
x2	\|x\| < 1 × 1050
x-1	\|x\| < 1 × 10100；x ≠ 0
x!	0 ≤ x ≤ 69 (x 為整數)
nPr	0 ≤ n < 1 × 1010，0 ≤ r ≤ n (n、r 為整數) 1 ≤ {n!/(n - r)!}< 1 × 10100
nCr	0 ≤ n < 1 × 1010，0 ≤ r ≤ n (n、r 為整數) 1 ≤ n!/r!< 1 × 10100 或 1 ≤ n!/(n - r)!< 1 × 10100
Pol(x, y)	\|x\|, \|y\| ≤ 9.999999999 × 1099 √x2 + y2 ≤ 9.999999999 × 1099
Rec(r, θ)	0 ≤ r ≤ 9.999999999 × 1099 θ：和 sinx 相同
a°b’c”	\|a\|, b, c < 1 × 10100；0 ≤ b, c 秒的顯示值誤差為第二小數位 ±1。
a°b’c” = x	0°0’0” ≤ \|x\| ≤ 9999999°59’59” 超出上述範圍的六十進位值，會自動視為十進位值。
xy	x > 0：-1 × 10100 < ylogx < 100 x = 0：y > 0 x < 0：y = n，^m_{2n + 1} (m、n 為整數) 但是：-1 × 10100 < ylog \|x\| < 100
x√y	y > 0：x ≠ 0，-1 × 10100 < 1/x logy < 100 y = 0：x > 0 y < 0：x = 2n + 1，^{2n + 1}_m (m ≠ 0；m、n 為整數) 但是：-1 × 10100 < 1/x log \|y\| < 100
a b/c	所有整數、分子和分母都必須不超過十位數（包括分隔符號）。
RanInt#(a, b)	a < b；\|a\|，\|b\| < 1 × 1010；b - a < 1 × 1010

如上述「計算範圍和精確度」中所述，精確度基本上是相同的。

xy、x√y、x!、nPr、nCr 類型函數需要連續的內部計算，這可能會導致每次計算時出現的錯誤累積。

誤差會累積，而且在函數的奇點（奇異點）或拐點（轉折點）附近，誤差會相對較大。

在 SETTINGS 選單上，將 MathI/MathO 選擇作為 Input/Output 時，能夠以 π 格式顯示的計算結果的範圍為 |x| < 106。請注意，該內部計算錯誤可能會使其以 π 格式顯示部分的計算結果。還可能會導致應為小數格式的計算結果以 π 格式顯示。

頁首