跳转到内容

CASIO

用户说明书

查找

计算范围、位数和精确度

内部计算所使用的计算范围、位数和计算精确度取决于您所执行的计算类型。

计算范围和精确度

计算范围 ±1 × 10-99 至 ±9.999999999 × 1099 或 0
内部计算使用的位数 15 位
精确度 一般来说，对于单个计算，在第 10 位有 ±1 的误差。指数显示的精确度为有效位数最后一位 ±1。在连续计算的情况下，误差会累积。

函数计算的输入范围和精确度

函数 输入范围
logx、lnx 0 < x ≦ 9.999999999 × 1099
10x -9.999999999 × 1099 ≦ x ≦ 99.99999999
ex -9.999999999 × 1099 ≦ x ≦ 230.2585092
√x 0 ≦ x < 1 × 10100
x2 |x| < 1 × 1050
x-1 |x| < 1 × 10100; x ≠ 0
3√x |x| < 1 × 10100
°’ ”

a°b’c”: |a|, b, c < 1 × 10100; 0 ≦ b, c

显示的秒数值在第二个小数位中出现 ±1 误差。
°’ ”←

|x| < 1 × 10100
十进制与六十进制互相转换

0°0’0” ≦ |x| ≦ 9999999°59’59”
xy

x > 0: -1 × 10100 < ylogx < 100
x = 0: y > 0
x < 0: y = n, m2n + 1（m、n 为整数）

但是：-1 × 10100 < ylog |x| < 100
x√y

y > 0: x ≠ 0, -1 × 10100  < 1/x logy < 100
y = 0: x > 0
y < 0: x = 2n+1, 2n + 1m（m ≠ 0; m、n 为整数）

但是：-1 × 10100 < 1/x log |y| < 100

■ < □ 时：分子和分母的总位数必须小于或等于九位数。

■ > □ 时：以带分数表示时，整数、分子和分母的总位数必须小于或等于八位数。

精确度基本上与上面“计算范围和精确度”中的描述相同。

xy, x√y, 3√  类型函数需要连续的内部计算，可能会引起每次计算中发生误差累积。

误差是累积的，在靠近函数的连点和拐点处可能误差很大。

打印此页
页面顶部