跳转到内容

CASIO

用户说明书

查找

计算范围、位数和精确度

内部计算所使用的计算范围、位数和计算精确度取决于您所执行的计算类型。

计算范围和精确度

计算范围 ±1 × 10-99 至 ±9.999999999 × 1099 或 0
内部计算使用的位数 15 位
精确度 一般来说，对于单个计算，在第 10 位有 ±1 的误差。指数显示的精确度为有效位数最后一位 ±1。在连续计算的情况下，误差会累积。

函数计算的输入范围和精确度

函数 输入范围
sinx
cosx		 Deg 0 ≦ |x| < 9 × 109
Rad 0 ≦ |x| < 157079632.7
Gra 0 ≦ |x| < 1 × 1010
tanx Deg 与 sinx 相同，但当 |x| = (2n-1) × 90 时除外。
Rad 与 sinx 相同，但当 |x| = (2n-1) × π/2 时除外。
Gra 与 sinx 相同，但当 |x| = (2n-1) × 100 时除外。
sin-1x、cos-1x 0 ≦ |x| ≦ 1
tan-1x 0 ≦ |x| ≦ 9.999999999 × 1099
sinhx、coshx 0 ≦ |x| ≦ 230.2585092
sinh-1x 0 ≦ |x| ≦ 4.999999999 × 1099
cosh-1x 1 ≦ x ≦ 4.999999999 × 1099
tanhx 0 ≦ |x| ≦ 9.999999999 × 1099
tanh-1x 0 ≦ |x| ≦ 9.999999999 × 10-1
logx、lnx 0 < x ≦ 9.999999999 × 1099
10x -9.999999999 × 1099 ≦ x ≦ 99.99999999
ex -9.999999999 × 1099 ≦ x ≦ 230.2585092
√x 0 ≦ x < 1 × 10100
x2 |x| < 1 × 1050
x-1 |x| < 1 × 10100; x ≠ 0
3√x |x| < 1 × 10100
x! 0 ≦ x ≦ 69（x 为整数）
nPr

0 ≦ n < 1 × 1010, 0 ≦ r ≦ n（n、r 为整数）

1 ≦ {n!/(n-r)!}< 1 × 10100
nCr

0 ≦ n < 1 × 1010, 0 ≦ r ≦ n（n、r 为整数）

1 ≦ n!/r! < 1 × 10100 或 1 ≦ n!/(n-r)! < 1 × 10100
Pol(x, y)

|x|, |y| ≦ 9.999999999 × 1099

√x2 + y2 ≦ 9.999999999 × 1099
Rec(r, θ)

0 ≦ r ≦ 9.999999999 × 1099

θ：与 sinx 相同
°’ ”

a°b’c”: |a|, b, c < 1 × 10100; 0 ≦ b, c

显示的秒数值在第二个小数位中出现 ±1 误差。
°’ ”←

|x| < 1 × 10100
十进制与六十进制互相转换

0°0’0” ≦ |x| ≦ 9999999°59’59”
xy

x > 0: -1 × 10100 < ylogx < 100
x = 0: y > 0
x < 0: y = n, m2n + 1（m、n 为整数）

但是：-1 × 10100 < ylog |x| < 100
x√y

y > 0: x ≠ 0, -1 × 10100  < 1/x logy < 100
y = 0: x > 0
y < 0: x = 2n+1, 2n + 1　 m　（m ≠ 0; m、n 为整数）

但是：-1 × 10100 < 1/x log |y| < 100
a b/c 整数、分子和分母的总位数必须等于或小于 10（包括分隔符）。
RanInt#(a, b) a < b; |a|, |b| < 1 × 1010; b - a < 1 × 1010

精确度基本上与上面“计算范围和精确度”中的描述相同。

xy, x√y, 3√ , x!, nPr, nCr 类型函数需要连续的内部计算，可能会引起每次计算中发生误差累积。

误差是累积的，在靠近函数的连点和拐点处可能误差很大。

当使用“普通显示”时，π 格式可以显示的计算结果范围是 |x| < 106。不过，请注意，内部计算错误可能造成无法以 π 格式显示某些计算结果。还可能造成本来应该以小数格式显示的计算结果却以 π 格式显示。

打印此页
页面顶部