计算范围、位数和精确度
内部计算所使用的计算范围、位数和精确度取决于执行的计算类型。
计算范围和精确度
| 计算范围 | ±1 × 10-99 至 ±9.999999999 × 1099 或 0 |
| 内部计算使用的位数 | 23 位 |
| 精确度 | 一般来说，对于单个计算，在第 10 位有 ±1 的误差。指数显示的精确度为有效位数最后一位 ±1。在连续计算的情况下，误差会累积。 |
函数计算的输入范围和精确度
| 函数 | 输入范围 | |
|---|---|---|
| sinx cosx |
度(D) | 0 ≤ |x| < 9 × 109 |
| 弧度(R) | 0 ≤ |x| < 157079632.7 | |
| 百分度(G) | 0 ≤ |x| < 1 × 1010 | |
| tanx | 度(D) | 与 sinx 相同，但当 |x| = (2n - 1) × 90 时除外。 |
| 弧度(R) | 与 sinx 相同，但当 |x| = (2n - 1) × π/2 时除外。 | |
| 百分度(G) | 与 sinx 相同，但当 |x| = (2n - 1) × 100 时除外。 | |
| sin-1x、cos-1x | 0 ≤ |x| ≤ 1 | |
| tan-1x | 0 ≤ |x| ≤ 9.999999999 × 1099 | |
| sinhx、coshx | 0 ≤ |x| ≤ 230.2585092 | |
| sinh-1x | 0 ≤ |x| ≤ 4.999999999 × 1099 | |
| cosh-1x | 1 ≤ x ≤ 4.999999999 × 1099 | |
| tanhx | 0 ≤ |x| ≤ 9.999999999 × 1099 | |
| tanh-1x | 0 ≤ |x| ≤ 9.999999999 × 10-1 | |
| logx、lnx | 0 < x ≤ 9.999999999 × 1099 | |
| 10x | -9.999999999 × 1099 ≤ x ≤ 99.99999999 | |
| √x | 0 ≤ x < 1 × 10100 | |
| x2 | |x| < 1 × 1050 | |
| x-1 | |x| < 1 × 10100; x ≠ 0 | |
| x! | 0 ≤ x ≤ 69 (x 为整数) | |
| nPr | 0 ≤ n < 1 × 1010, 0 ≤ r ≤ n (n, r 为整数) 1 ≤ {n!/(n - r)!}< 1 × 10100 |
|
| nCr | 0 ≤ n < 1 × 1010, 0 ≤ r ≤ n (n, r 为整数) 1 ≤ n!/r!< 1 × 10100 或 1 ≤ n!/(n - r)!< 1 × 10100 |
|
| Pol(x, y) | |x|, |y| ≤ 9.999999999 × 1099 √x2 + y2 ≤ 9.999999999 × 1099 |
|
| Rec(r, θ) | 0 ≤ r ≤ 9.999999999 × 1099 θ：与 sinx 相同 |
|
| a°b’c” | |a|, b, c < 1 × 10100; 0 ≤ b, c |
|
| a°b’c” = x | 0°0’0” ≤ |x| ≤ 9999999°59’59” |
|
| xy | x > 0: -1 × 10100 < ylogx < 100 |
|
| x√y | y > 0: x ≠ 0, -1 × 10100 < 1/x logy < 100 |
|
| a b/c | 整数、分子和分母的总位数必须等于或小于 10（包括分隔符）。 | |
| RanInt#(a, b) | a < b; |a|, |b| < 1 × 1010; b - a < 1 × 1010 | |
精确度基本上与上面“计算范围和精确度”中的描述相同。
xy、x√y、x!、nPr、nCr 类型函数需要连续的内部计算，可能会引起每次计算中发生误差累积。
误差是累积的，在靠近函数的连点和拐点处可能误差很大。
当设置菜单上的输入/输出选择为数学输入/数学输出时，π 格式可以显示的计算结果范围是 |x| < 106。不过，请注意，内部计算错误可能造成无法以 π 格式显示某些计算结果。还可能造成本来应该以小数格式显示的计算结果却以 π 格式显示。
