Skip to content Skip to content

CASIO

사용설명서

찾기

계산 범위, 자리수 및 정밀도

계산 범위, 내부 계산에 사용되는 자리수 및 계산 정밀도는 실행하는 계산의 종류에 따라 달라집니다.

계산 범위 및 정밀도

계산 범위 ±1 × 10-99 에서 ±9.999999999 × 1099 또는 0
내부 계산용 자리수 15자리
정밀도 일반적으로 단일 계산에 대해서 10번째 자리수에서 ±1입니다. 지수 표시에 대한 정밀도는 최하위의 수에서 ±1입니다. 연속 계산인 경우에는 에러가 누적됩니다.

함수 계산 입력 범위 및 정밀도

함수 입력 범위
sinx
cosx		 Deg 0 ≦ |x| < 9 × 109
Rad 0 ≦ |x| < 157079632.7
Gra 0 ≦ |x| < 1 × 1010
tanx Deg |x| = (2n-1) × 90인 경우를 제외하고는 sinx와 동일.
Rad |x| = (2n-1) × π/2인 경우를 제외하고는 sinx와 동일.
Gra |x| = (2n-1) × 100인 경우를 제외하고는 sinx와 동일.
sin-1x, cos-1x 0 ≦ |x| ≦ 1
tan-1x 0 ≦ |x| ≦ 9.999999999 × 1099
sinhx, coshx 0 ≦ |x| ≦ 230.2585092
sinh-1x 0 ≦ |x| ≦ 4.999999999 × 1099
cosh-1x 1 ≦ x ≦ 4.999999999 × 1099
tanhx 0 ≦ |x| ≦ 9.999999999 × 1099
tanh-1x 0 ≦ |x| ≦ 9.999999999 × 10-1
logx, lnx 0 < x ≦ 9.999999999 × 1099
10x -9.999999999 × 1099 ≦ x ≦ 99.99999999
ex -9.999999999 × 1099 ≦ x ≦ 230.2585092
√x 0 ≦ x < 1 × 10100
x2 |x| < 1 × 1050
x-1 |x| < 1 × 10100 ; x ≠ 0
3√x |x| < 1 × 10100
x! 0 ≦ x ≦ 69 (x는 정수)
nPr 0 ≦ n < 1 × 1010, 0 ≦ r ≦ n (n, r은 정수)
1 ≦ {n!/(n-r)!} < 1 × 10100
nCr 0 ≦ n < 1 × 1010, 0 ≦ r ≦ n (n, r은 정수)
1 ≦ n!/r! < 1 × 10100 또는 1 ≦ n!/(n-r)! < 1 × 10100
Pol(x, y) |x|, |y| ≦ 9.999999999 × 1099
√x2 + y2 ≦ 9.999999999 × 1099
Rec(r, θ) 0 ≦ r ≦ 9.999999999 × 1099
θ: sinx와 동일
°’ ”


°’ ”←		 a°b’c”: |a|, b, c < 1 × 10100 ; 0 ≦ b, c
표시되는 초의 값은 소수 2째 자리에서 ±1의 에러를 가진다.
|x| < 1 × 10100
10진수 ↔ 60진수 변환
0°0°0° ≦ |x| ≦ 9999999°59°
xy x > 0: -1 × 10100 < ylogx < 100
x = 0: y > 0
x < 0: y = n, 12n+1 (n은 정수)
하지만: -1 × 10100 < ylog |x| < 100
x√y y > 0: x ≠ 0, -1 × 10100 < 1/x logy < 100
y = 0: x > 0
y < 0: x = 2n+1, 1n (n ≠ 0; n은 정수)
하지만: -1 × 10100 < 1/x log |y| < 100
ab/c 정수, 분자 및 분모의 합계가 10자리수 이내(단락 마크는 포함).

정밀도는 위의 "계산 범위 및 정밀도"에서 설명된 것과 기본적으로 같습니다.

아래 표시된 기능이나 설정을 사용하는 계산에서는 연속 내부 계산이 수행되어야 합니다. 이로 인해 각각의 계산에서 발생하는 에러가 축적될 수 있습니다.
xy, x√y , 3√ , x!, nPr, nCr; °, r, g (각도 단위: Rad); σx, sx, 회귀 계수.

에러는 축적되며 함수의 단일점 및 변곡점 근처에서 커지는 경향이 있습니다.

통계 계산이 수행되는 동안, 데이터 값에 많은 숫자가 있으며 데이터 값 사이의 차이가 작은 경우 에러가 축적됩니다. 데이터 값이 여섯 자리 숫자보다 큰 경우 에러가 커집니다.

이 페이지 인쇄
페이지 위로