콘텐츠로 건너뛰기

CASIO

사용설명서

찾기

계산 범위, 자리수 및 정밀도

계산 범위, 내부 계산에 사용되는 자리수 및 계산 정밀도는 실행하는 계산의 종류에 따라 달라집니다.

계산 범위 및 정밀도

계산 범위 ±1 × 10-99 에서 ±9.999999999 × 1099 또는 0
내부 계산용 자릿수 15자리
정밀도 일반적으로 단일 계산에 대해서 10번째 자릿수에서 ±1입니다. 지수 표시에 대한 정밀도는 최하위의 수에서 ±1입니다. 연속 계산인 경우에는 에러가 누적됩니다.

함수 계산 입력 범위 및 정밀도

함수 입력 범위
sinx
cosx		 Deg 0 ≦ |x| < 9 × 109
Rad 0 ≦ |x| < 157079632.7
Gra 0 ≦ |x| < 1 × 1010
tanx Deg |x| = (2n-1) × 90인 경우를 제외하고는 sinx와 같은 범위.
Rad |x| = (2n-1) × π/2인 경우를 제외하고는 sinx와 같은 범위.
Gra |x| = (2n-1) × 100인 경우를 제외하고는 sinx와 같은 범위.
sin-1x, cos-1x 0 ≦ |x| ≦ 1
tan-1x 0 ≦ |x| ≦ 9.999999999 × 1099
sinhx, coshx 0 ≦ |x| ≦ 230.2585092
sinh-1x 0 ≦ |x| ≦ 4.999999999 × 1099
cosh-1x 1 ≦ x ≦ 4.999999999 × 1099
tanhx 0 ≦ |x| ≦ 9.999999999 × 1099
tanh-1x 0 ≦ |x| ≦ 9.999999999 × 10-1
logx, lnx 0 < x ≦ 9.999999999 × 1099
10x -9.999999999 × 1099 ≦ x ≦ 99.99999999
ex -9.999999999 × 1099 ≦ x ≦ 230.2585092
√x 0 ≦ x < 1 × 10100
x2 |x| < 1 × 1050
x-1 |x| < 1 × 10100; x ≠ 0
3√x |x| < 1 × 10100
x! 0 ≦ x ≦ 69 (x는 정수)
nPr

0 ≦ n < 1 × 1010, 0 ≦ r ≦ n (n, r은 정수)

1 ≦ {n!/(n-r)!} < 1 × 10100
nCr

0 ≦ n < 1 × 1010, 0 ≦ r ≦ n (n, r은 정수)

1 ≦ n!/r! < 1 × 10100 또는 1 ≦ n!/(n-r)! < 1 × 10100
Pol(x, y)

|x|, |y| ≦ 9.999999999 × 1099

√x2 + y2 ≦ 9.999999999 × 1099
Rec(r, θ)

0 ≦ r ≦ 9.999999999 × 1099

θ: sinx와 동일
°’ ”

a°b’c”: |a|, b, c < 1 × 10100; 0 ≦ b, c

표시되는 초의 값은 소수 2째 자리에서 ±1의 에러를 가집니다.
°’ ”←

|x| < 1 × 10100
10진수 ↔ 60진수 변환

0°0’0” ≦ |x| ≦ 9999999°59’59”
xy

x > 0: -1 × 10100 < ylogx < 100
x = 0: y > 0
x < 0: y = n, m2n + 1 (m, n 은 정수)

단, -1 × 10100 < ylog |x| < 100
x√y

y > 0: x ≠ 0, -1 × 10100  < 1/x logy < 100
y = 0: x > 0
y < 0: x = 2n+1, 2n + 1　 m　 (m ≠ 0; m, n은 정수)

단, -1 × 10100 < 1/x log |y| < 100
a b/c 정수, 분자 및 분모의 합계가 10자릿수 이내(구분 기호 포함).
RanInt#(a, b) a < b; |a|, |b| < 1 × 1010; b - a < 1 × 1010

정밀도는 위의 "계산 범위 및 정밀도"에서 설명된 것과 기본적으로 같습니다.

xy, x√y, 3√ , x!, nPr, nCr 타입의 함수는 연속적인 내부 계산을 필요로 해서 각 계산에서 발생하는 에러가 축적될 수 있습니다.

에러는 축적되며 함수의 단일점 및 변곡점 근처에서 커지는 경향이 있습니다.

자연수 표기를 사용하는 경우에 π 표시로 나타낼 수 있는 계산 결과 범위는 |x| < 106입니다. 그렇지만, 내부 계산 에러로 인해서 일부 계산 결과를 π 표시로 나타낼 수 없는 경우가 있다는 것에 유의해 주십시오. 이것은 또한 소수점 표시이어야 할 계산 결과를 π 표시로 되게 할 수도 있습니다.

이 페이지 인쇄
페이지 위로