Hoppa till innehåll

CASIO

Instruktionshäfte

 Meny

Beräkningsintervall, antal siffror och precision

Beräkningsintervallet, antalet siffror som används för intern beräkning och beräkningsprecisionen beror på vilken typ av beräkning du utför.

Beräkningsintervall och precision

Beräkningsintervall ±1 × 10-99 till ±9,999999999 × 1099 eller 0
Antal siffror för intern beräkning 23 siffror
Precision I allmänhet, ±1 vid den 10:e siffran för en enda beräkning. Precision för exponentiell visning är ±1 för den minst signifikanta siffran. Fel ackumuleras vid efterföljande beräkningar.

Indataintervall och precision och funktionsberäkning

Funktioner Indataintervall
sinx
cosx
Degree 0 ≤ |x| < 9 × 109
Radian 0 ≤ |x| < 157079632,7
Gradian 0 ≤ |x| < 1 × 1010
tanx Degree Samma som sinx, utom för |x| = (2n - 1) × 90.
Radian Samma som sinx, utom för |x| = (2n - 1) × π/2.
Gradian Samma som sinx, utom för |x| = (2n - 1) × 100.
sin-1x, cos-1x 0 ≤ |x| ≤ 1
tan-1x 0 ≤ |x| ≤ 9,999999999 × 1099
sinhx, coshx 0 ≤ |x| ≤ 230,2585092
sinh-1x 0 ≤ |x| ≤ 4,999999999 × 1099
cosh-1x 1 ≤ x ≤ 4,999999999 × 1099
tanhx 0 ≤ |x| ≤ 9,999999999 × 1099
tanh-1x 0 ≤ |x| ≤ 9,999999999 × 10-1
logx, lnx 0 < x ≤ 9,999999999 × 1099
10x -9,999999999 × 1099x ≤ 99,99999999
x 0 ≤ x < 1 × 10100
x2 |x| < 1 × 1050
x-1 |x| < 1 × 10100; x ≠ 0
x! 0 ≤ x ≤ 69 (x som ett heltal)
nPr

0 ≤ n < 1 × 1010, 0 ≤ rn (n, r är heltal)

1 ≤ {n!/(n - r)!} < 1 × 10100
nCr

0 ≤ n < 1 × 1010, 0 ≤ rn (n, r är heltal)

1 ≤ n!/r! < 1 × 10100 eller 1 ≤ n!/(n - r)! < 1 × 10100
Pol(x, y)

|x|, |y| ≤ 9,999999999 × 1099

x2 + y2 ≤ 9,999999999 × 1099
Rec(r, θ)

0 ≤ r ≤ 9,999999999 × 1099

θ: Samma som sinx
a°bc

|a|, b, c < 1 × 10100; 0 ≤ b, c
Det visade värdet för sekunder kan ha ett fel på ±1 vid det andra decimalkommat.

a°bc” = x

0°0’0” ≤ |x| ≤ 9999999°59’59”
Ett sexagesimalvärde utanför ovanstående intervall behandlas automatiskt som ett decimalvärde.

xy

x > 0: -1 × 10100 < ylogx < 100
x = 0: y > 0
x < 0: y = n, m2n + 1 (m, n är heltal)

Men: -1 × 10100 < ylog |x| < 100
xy

y > 0: x ≠ 0, -1 × 10100 < 1/x logy < 100
y = 0: x > 0
y < 0: x = 2n + 1, 2n + 1  m  (m ≠ 0; m, n är heltal)

Men: -1 × 10100 < 1/x log |y| < 100
a b/c Summan av heltal, täljare och nämnare måste vara 10 siffror eller mindre (inklusive skiljesymbolen).
RanInt#(a, b) a < b; |a|, |b| < 1 × 1010; b - a < 1 × 1010

Precision är i princip samma som beskrivs under beräkningsintervall och precision ovan.

xy, xy, x!, nPr, nCr-typfunktioner kräver en efterföljande intern beräkning, vilket kan leda till att de fel som kan uppstå vid varje beräkning ackumuleras.

Fel är kumulativa och tenderar att vara stora i närheten av en funktions singulära punkt och brytpunkt.

Det intervall för beräkningsresultat som kan visas i π-formuläret när MathI/MathO väljs för Input/Output i SETTINGS-menyn är |x| < 106. Observera dock att det interna beräkningsfelet kan göra det omöjligt att visa några beräkningsresultat i π-formuläret. Det kan också leda till beräkningsresultat som ska vara i decimalform visas i π-form.

Överst på
sidan