Skip to content Skip to content

CASIO

用戶說明書

尋找

計算範圍、數字位數和精確度

計算範圍和數字位數用於內部計算,而計算精確度取決於您所執行的計算類型。

計算範圍和精確度

計算範圍 ±1 × 10-99 至 ±9.999999999 × 1099 或 0
內部計算的數字位數 15 位
精確度 一般而言,單一計算的精確度為第 10 位數字 ±1。指數顯示的精確度為最小有效數字位 ±1。在連續計算中,誤差會累積。

函數計算輸入範圍和精確度

函數 輸入範圍
sinx
cosx
Deg 0 ≦ |x| < 9 × 109
Rad 0 ≦ |x| < 157079632.7
Gra 0 ≦ |x| < 1 × 1010
tanx Deg 和 sinx 相同,除了 |x| = (2n-1) × 90 之外。
Rad 和 sinx 相同,除了 |x| = (2n-1) × π/2 之外。
Gra 和 sinx 相同,除了 |x| = (2n-1) × 100 之外。
sin-1x、cos-1x 0 ≦ |x| ≦ 1
tan-1x 0 ≦ |x| ≦ 9.999999999 × 1099
sinhx、coshx 0 ≦ |x| ≦ 230.2585092
sinh-1x 0 ≦ |x| ≦ 4.999999999 × 1099
cosh-1x 1 ≦ x ≦ 4.999999999 × 1099
tanhx 0 ≦ |x| ≦ 9.999999999 × 1099
tanh-1x 0 ≦ |x| ≦ 9.999999999 × 10-1
logx、lnx 0 < x ≦ 9.999999999 × 1099
10x -9.999999999 × 1099x ≦ 99.99999999
ex -9.999999999 × 1099x ≦ 230.2585092
x 0 ≦ x< 1 × 10100
x2 |x| < 1 × 1050
x-1 |x| < 1 × 10100x ≠ 0
3x |x| < 1 × 10100
x! 0 ≦ x ≦ 69 (x 為整數)
nPr 0 ≦ n< 1 × 1010、0 ≦ rn (nr 為整數)
1 ≦ {n!/(n-r)!} < 1 × 10100
nCr 0 ≦ n< 1 × 1010、0 ≦ rn (nr 為整數)
1 ≦ n!/r! < 1 × 10100 或 1 ≦ n!/(n-r)! < 1 × 10100
Pol(x, y) |x|, |y| ≦ 9.999999999 × 1099
x2 + y2 ≦ 9.999999999 × 1099
Rec(r, θ) 0 ≦ r ≦ 9.999999999 × 1099
θ:和 sinx 相同
°’ ”


°’ ”
a°bc”:|a|, b, c < 1 × 10100 ; 0 ≦ b, c
秒的顯示值誤差為第二小數位 ±1。
|x| < 1 × 10100
十進位 ↔ 六十進位轉換
0°0°0° ≦ |x| ≦ 9999999°59°
xy x > 0:-1 × 10100< ylogx< 100
x = 0:y > 0
x < 0:y = n12n+1 (n 為整數)
但是:-1 × 10100 < ylog |x| < 100
xy y > 0:x ≠ 0、-1 × 10100 < 1/x logy < 100
y = 0:x > 0
y < 0:x = 2n+1、 1n (n ≠ 0;n 為整數)
但是:-1 × 10100 < 1/x log |y| < 100
ab/c 所有整數、分子和分母都必須不超過十位數 (包括分隔符號)。

如上述「計算範圍和精確度」中所述,精確度基本上是相同的。

使用以下所示的任何函數或設定的計算需要執行連續內部計算,會導致每次計算發生的誤差累積。
xyxy3 x!、nPrnCr;°、rg (角度單位:Rad);σx、sx、迴歸係數。

誤差會累積,而且在函數的奇點 (奇異點) 或拐點 (轉折點) 附近,誤差會相對較大。

在統計計算時,當資料值有很多位數而且資料值之間的差異小時,誤差會累積。資料值大於六位數時,誤差會很大。

列印此頁
頁首