계산 범위, 자리수 및 정밀도
계산 범위, 내부 계산에 사용되는 자릿수 및 계산 정밀도는 실행하는 계산의 종류에 따라 달라집니다.
계산 범위 및 정밀도
| 계산 범위 | ±1 × 10-99 ~ ±9.999999999 × 1099 또는 0 |
| 내부 계산용 자릿수 | 23자리 |
| 정밀도 | 일반적으로 단일 계산에 대해서 10번째 자릿수에서 ±1입니다. 지수 표시에 대한 정밀도는 최하위의 수에서 ±1입니다. 연속 계산인 경우에는 에러가 누적됩니다. |
함수 계산 입력 범위 및 정밀도
| 함수 | 입력 범위 | |
|---|---|---|
| sinx cosx |
Degree | 0 ≤ |x| < 9 × 109 |
| Radian | 0 ≤ |x| < 157079632.7 | |
| Gradian | 0 ≤ |x| < 1 × 1010 | |
| tanx | Degree | |x| = (2n - 1) × 90인 경우를 제외하고는 sinx와 같은 범위. |
| Radian | |x| = (2n - 1) × π/2인 경우를 제외하고는 sinx와 같은 범위. | |
| Gradian | |x| = (2n - 1) × 100인 경우를 제외하고는 sinx와 같은 범위. | |
| sin-1x, cos-1x | 0 ≤ |x| ≤ 1 | |
| tan-1x | 0 ≤ |x| ≤ 9.999999999 × 1099 | |
| sinhx, coshx | 0 ≤ |x| ≤ 230.2585092 | |
| sinh-1x | 0 ≤ |x| ≤ 4.999999999 × 1099 | |
| cosh-1x | 1 ≤ x ≤ 4.999999999 × 1099 | |
| tanhx | 0 ≤ |x| ≤ 9.999999999 × 1099 | |
| tanh-1x | 0 ≤ |x| ≤ 9.999999999 × 10-1 | |
| logx, lnx | 0 < x ≤ 9.999999999 × 1099 | |
| 10x | -9.999999999 × 1099 ≤ x ≤ 99.99999999 | |
| √x | 0 ≤ x < 1 × 10100 | |
| x2 | |x| < 1 × 1050 | |
| x-1 | |x| < 1 × 10100; x ≠ 0 | |
| x! | 0 ≤ x ≤ 69 (x는 정수) | |
| nPr | 0 ≤ n < 1 × 1010, 0 ≤ r ≤ n (n, r은 정수) 1 ≤ {n!/(n - r)!} < 1 × 10100 |
|
| nCr | 0 ≤ n < 1 × 1010, 0 ≤ r ≤ n (n, r은 정수) 1 ≤ n!/r! < 1 × 10100 또는 1 ≤ n!/(n - r)! < 1 × 10100 |
|
| Pol(x, y) | |x|, |y| ≤ 9.999999999 × 1099 √x2 + y2 ≤ 9.999999999 × 1099 |
|
| Rec(r, θ) | 0 ≤ r ≤ 9.999999999 × 1099 θ: sinx와 동일 |
|
| a°b’c” | |a|, b, c < 1 × 10100; 0 ≤ b, c |
|
| a°b’c” = x | 0°0’0” ≤ |x| ≤ 9999999°59’59” |
|
| xy | x > 0: -1 × 10100 < ylogx < 100 |
|
| x√y | y > 0: x ≠ 0, -1 × 10100 < 1/x logy < 100 |
|
| a b/c | 정수, 분자 및 분모의 합계가 10자릿수 이내(구분 기호 포함). | |
| RanInt#(a, b) | a < b; |a|, |b| < 1 × 1010; b - a < 1 × 1010 | |
정밀도는 위의 “계산 범위 및 정밀도”에서 설명된 것과 기본적으로 같습니다.
xy, x√y, x!, nPr, nCr 타입의 함수는 연속적인 내부 계산을 필요로 해서 각 계산에서 발생하는 에러가 축적될 수 있습니다.
에러는 축적되며 함수의 단일점 및 변곡점 근처에서 커지는 경향이 있습니다.
SETTINGS 메뉴의 Input/Output에 MathI/MathO를 선택했을 때 π 형태로 표시될 수 있는 계산 결과의 범위는 |x| < 106입니다. 그렇지만, 내부 계산 에러로 인해서 일부 계산 결과를 π 표시로 나타낼 수 없는 경우가 있다는 것에 유의해 주십시오. 이것은 또한 소수점 표시이어야 할 계산 결과를 π 표시로 되게 할 수도 있습니다.
