Siirry sisältöön

Laskenta-alueet, numeromäärät ja tarkkuus

Laskenta-alue, sisäisessä laskennassa käytetty numeromäärä ja laskennan tarkkuus riippuvat suorittamasi laskutoimituksen tyypistä.

Laskenta-alue ja tarkkuus

Laskenta-alue ±1 × 10-99 – ±9,999999999 × 1099 tai 0
Sisäisen laskennan numeromäärä 23 numeroa
Tarkkuus Yksittäislaskutoimitukselle yleisesti ±1 kymmenennessä numerossa. Eksponentiaalisen näytön tarkkuus on ±1 vähiten merkitsevässä numerossa. Peräkkäisissä laskutoimituksissa virheet kumuloituvat.

Funktiolaskutoimituksien syöttöalueet ja tarkkuus

Funktiot Syöttöalue
sinx
cosx
Degree 0 ≤ |x| < 9 × 109
Radian 0 ≤ |x| < 157079632,7
Gradian 0 ≤ |x| < 1 × 1010
tanx Degree Sama kuin sinx, paitsi kun |x| = (2n - 1) × 90.
Radian Sama kuin sinx, paitsi kun |x| = (2n - 1) × π/2.
Gradian Sama kuin sinx, paitsi kun |x| = (2n - 1) × 100.
sin-1x, cos-1x 0 ≤ |x| ≤ 1
tan-1x 0 ≤ |x| ≤ 9,999999999 × 1099
sinhx, coshx 0 ≤ |x| ≤ 230,2585092
sinh-1x 0 ≤ |x| ≤ 4,999999999 × 1099
cosh-1x 1 ≤ x ≤ 4,999999999 × 1099
tanhx 0 ≤ |x| ≤ 9,999999999 × 1099
tanh-1x 0 ≤ |x| ≤ 9,999999999 × 10-1
logx, lnx 0 < x ≤ 9,999999999 × 1099
10x -9,999999999 × 1099x ≤ 99,99999999
x 0 ≤ x < 1 × 10100
x2 |x| < 1 × 1050
x-1 |x| < 1 × 10100; x ≠ 0
x! 0 ≤ x ≤ 69 (x on kokonaisluku)
nPr

0 ≤ n < 1 × 1010, 0 ≤ rn (n, r ovat kokonaislukuja)

1 ≤ {n!/(n - r)!} < 1 × 10100
nCr

0 ≤ n < 1 × 1010, 0 ≤ rn (n, r ovat kokonaislukuja)

1 ≤ n!/r! < 1 × 10100 tai 1 ≤ n!/(n - r)! < 1 × 10100
Pol(x, y)

|x|, |y| ≤ 9,999999999 × 1099

x2 + y2 ≤ 9,999999999 × 1099
Rec(r, θ)

0 ≤ r ≤ 9,999999999 × 1099

θ: Sama kuin sinx
a°bc

|a|, b, c < 1 × 10100; 0 ≤ b, c
Näytön sekuntiarvon virhe on ±1 toisessa desimaalissa.

a°bc” = x

0°0’0” ≤ |x| ≤ 9999999°59’59”
Yllä olevan alueen ulkopuolella oleva kuusi sexagesimaaliarvo käsitellään automaattisesti desimaalilukuna.

xy

x > 0: -1 × 10100 < ylogx < 100
x = 0: y > 0
x < 0: y = n, m2n + 1 (m, n ovat kokonaislukuja)

Kuitenkin: -1 × 10100 < ylog |x| < 100
xy

y > 0: x ≠ 0, -1 × 10100 < 1/x logy < 100
y = 0: x > 0
y < 0: x = 2n + 1, 2n + 1  m  (m ≠ 0; m, n ovat kokonaislukuja)

Kuitenkin: -1 × 10100 < 1/x log |y| < 100
a b/c Kokonaisluvun, osoittajan ja jakajan kokonaismäärän tulee olla 10 numeroa tai vähemmän (mukaan lukien erotinsymboli).
RanInt#(a, b) a < b; |a|, |b| < 1 × 1010; b - a < 1 × 1010

Tarkkuus on periaatteessa sama kuin mitä on kuvattu yllä kappaleessa ”Laskenta-alue ja tarkkuus”.

xy, xy, x!, nPr, nCr tyyppiset funktiot vaativat peräkkäisiä sisäisiä laskutoimituksia, jotka voivat aiheuttaa jokaisessa laskutoimituksessa tapahtuvaa virheiden kumuloitumista.

Virhe on kumulatiivinen, ja sillä on taipumus olla suuri funktion singulaaripisteen ja käännepisteen läheisyydessä.

Laskentatulosten alue, joka voidaan näyttää π-muodossa, kun SETTINGS-valikossa Input/Output-asetukseksi on valittu MathI/MathO, on |x| < 106. Huomaa kuitenkin, että sisäinen laskentavirhe saattaa tehdä mahdottomaksi joidenkin laskutulosten esittämisen π-muodossa. Tällainen virhe saattaa myös aiheuttaa joidenkin laskutulosten esittämisen π-muodossa, vaikka niiden pitäisi olla desimaalimuodossa.

Sivun yläosa