跳過內容

CASIO

用戶說明書

尋找

計算範圍、數字位數和精確度

計算範圍和數字位數用於內部計算，而計算精確度取決於您所執行的計算類型。

計算範圍和精確度

計算範圍 ±1 × 10-99 至 ±9.999999999 × 1099 或 0
內部計算的數字位數 15 位
精確度 一般而言，單一計算的精確度為第 10 位數字 ±1。指數顯示的精確度為最小有效數字位 ±1。在連續計算中，誤差會累積。

函數計算輸入範圍和精確度

函數 輸入範圍
sinx
cosx		 Deg 0 ≦ |x| < 9 × 109
Rad 0 ≦ |x| < 157079632.7
Gra 0 ≦ |x| < 1 × 1010
tanx Deg 和 sinx 相同，除了 |x| = (2n-1) × 90 之外。
Rad 和 sinx 相同，除了 |x| = (2n-1) × π/2 之外。
Gra 和 sinx 相同，除了 |x| = (2n-1) × 100 之外。
sin-1x、cos-1x 0 ≦ |x| ≦ 1
tan-1x 0 ≦ |x| ≦ 9.999999999 × 1099
sinhx、coshx 0 ≦ |x| ≦ 230.2585092
sinh-1x 0 ≦ |x| ≦ 4.999999999 × 1099
cosh-1x 1 ≦ x ≦ 4.999999999 × 1099
tanhx 0 ≦ |x| ≦ 9.999999999 × 1099
tanh-1x 0 ≦ |x| ≦ 9.999999999 × 10-1
logx、lnx 0 < x ≦ 9.999999999 × 1099
10x -9.999999999 × 1099 ≦ x ≦ 99.99999999
ex -9.999999999 × 1099 ≦ x ≦ 230.2585092
√x 0 ≦ x < 1 × 10100
x2 |x| < 1 × 1050
x-1 |x| < 1 × 10100；x ≠ 0
3√x |x| < 1 × 10100
x! 0 ≦ x ≦ 69 (x 為整數)
nPr

0 ≦ n < 1 × 1010, 0 ≦ r ≦ n (n、r 為整數)

1 ≦ {n!/(n-r)!} < 1 × 10100
nCr

0 ≦ n < 1 × 1010, 0 ≦ r ≦ n (n、r 為整數)

1 ≦ n!/r! < 1 × 10100 或 1 ≦ n!/(n-r)! < 1 × 10100
Pol(x, y)

|x|, |y| ≦ 9.999999999 × 1099

√x2 + y2 ≦ 9.999999999 × 1099
Rec(r, θ)

0 ≦ r ≦ 9.999999999 × 1099

θ：和 sinx 相同
°’ ”

a°b’c”：|a|, b, c < 1 × 10100；0 ≦ b, c

秒的顯示值誤差為第二小數位 ±1。
°’ ”←

|x| < 1 × 10100
十進位 ↔ 六十進位轉換

0°0’0” ≦ |x| ≦ 9999999°59’59”
xy

x > 0：-1 × 10100 < ylogx < 100
x = 0：y > 0
x < 0：y = n, m2n + 1 (m、n 為整數)

但是：-1 × 10100 < ylog |x| < 100
x√y

y > 0：x ≠ 0, -1 × 10100  < 1/x logy < 100
y = 0：x > 0
y < 0：x = 2n+1, 2n + 1　 m　 (m ≠ 0；m、n 為整數)

但是：-1 × 10100 < 1/x log |y| < 100
a b/c 所有整數、分子和分母都必須不超過十位數 (包括分隔符號)。
RanInt#(a, b) a < b; |a|, |b| < 1 × 1010; b - a < 1 × 1010

如上述「計算範圍和精確度」中所述，精確度基本上是相同的。

xy、x√y、3√ 、x!、nPr、nCr 類型函數需要連續的內部計算，這可能會導致每次計算時出現的錯誤累積。

誤差會累積，而且在函數的奇點 (奇異點) 或拐點 (轉折點) 附近，誤差會相對較大。

使用標準格式時，能夠以 π 格式顯示的計算結果的範圍為 |x| < 106。請注意，該內部計算錯誤可能會使其以 π 格式顯示部分的計算結果。還可能會導致應為小數格式的計算結果以 π 格式顯示。

列印此頁
頁首