Laskenta-alueet, numeromäärät ja tarkkuus
Laskenta-alue, sisäisessä laskennassa käytetty numeromäärä ja laskennan tarkkuus riippuvat suorittamasi laskutoimituksen tyypistä.
Laskenta-alue ja tarkkuus
| Laskenta-alue | ±1 × 10-99 – ±9,999999999 × 1099 tai 0 |
| Sisäisen laskennan numeromäärä | 23 numeroa |
| Tarkkuus | Yksittäislaskutoimitukselle yleisesti ±1 kymmenennessä numerossa. Eksponentiaalisen näytön tarkkuus on ±1 vähiten merkitsevässä numerossa. Peräkkäisissä laskutoimituksissa virheet kumuloituvat. |
Funktiolaskutoimituksien syöttöalueet ja tarkkuus
| Funktiot | Syöttöalue | |
|---|---|---|
| sinx cosx |
Degree | 0 ≤ |x| < 9 × 109 |
| Radian | 0 ≤ |x| < 157079632,7 | |
| Gradian | 0 ≤ |x| < 1 × 1010 | |
| tanx | Degree | Sama kuin sinx, paitsi kun |x| = (2n - 1) × 90. |
| Radian | Sama kuin sinx, paitsi kun |x| = (2n - 1) × π/2. | |
| Gradian | Sama kuin sinx, paitsi kun |x| = (2n - 1) × 100. | |
| sin-1x, cos-1x | 0 ≤ |x| ≤ 1 | |
| tan-1x | 0 ≤ |x| ≤ 9,999999999 × 1099 | |
| sinhx, coshx | 0 ≤ |x| ≤ 230,2585092 | |
| sinh-1x | 0 ≤ |x| ≤ 4,999999999 × 1099 | |
| cosh-1x | 1 ≤ x ≤ 4,999999999 × 1099 | |
| tanhx | 0 ≤ |x| ≤ 9,999999999 × 1099 | |
| tanh-1x | 0 ≤ |x| ≤ 9,999999999 × 10-1 | |
| logx, lnx | 0 < x ≤ 9,999999999 × 1099 | |
| 10x | -9,999999999 × 1099 ≤ x ≤ 99,99999999 | |
| √x | 0 ≤ x < 1 × 10100 | |
| x2 | |x| < 1 × 1050 | |
| x-1 | |x| < 1 × 10100; x ≠ 0 | |
| x! | 0 ≤ x ≤ 69 (x on kokonaisluku) | |
| nPr | 0 ≤ n < 1 × 1010, 0 ≤ r ≤ n (n, r ovat kokonaislukuja) 1 ≤ {n!/(n - r)!} < 1 × 10100 |
|
| nCr | 0 ≤ n < 1 × 1010, 0 ≤ r ≤ n (n, r ovat kokonaislukuja) 1 ≤ n!/r! < 1 × 10100 tai 1 ≤ n!/(n - r)! < 1 × 10100 |
|
| Pol(x, y) | |x|, |y| ≤ 9,999999999 × 1099 √x2 + y2 ≤ 9,999999999 × 1099 |
|
| Rec(r, θ) | 0 ≤ r ≤ 9,999999999 × 1099 θ: Sama kuin sinx |
|
| a°b’c” | |a|, b, c < 1 × 10100; 0 ≤ b, c |
|
| a°b’c” = x | 0°0’0” ≤ |x| ≤ 9999999°59’59” |
|
| xy | x > 0: -1 × 10100 < ylogx < 100 |
|
| x√y | y > 0: x ≠ 0, -1 × 10100 < 1/x logy < 100 |
|
| a b/c | Kokonaisluvun, osoittajan ja jakajan kokonaismäärän tulee olla 10 numeroa tai vähemmän (mukaan lukien erotinsymboli). | |
| RanInt#(a, b) | a < b; |a|, |b| < 1 × 1010; b - a < 1 × 1010 | |
Tarkkuus on periaatteessa sama kuin mitä on kuvattu yllä kappaleessa ”Laskenta-alue ja tarkkuus”.
xy, x√y, x!, nPr, nCr tyyppiset funktiot vaativat peräkkäisiä sisäisiä laskutoimituksia, jotka voivat aiheuttaa jokaisessa laskutoimituksessa tapahtuvaa virheiden kumuloitumista.
Virhe on kumulatiivinen, ja sillä on taipumus olla suuri funktion singulaaripisteen ja käännepisteen läheisyydessä.
Laskentatulosten alue, joka voidaan näyttää π-muodossa, kun SETTINGS-valikossa Input/Output-asetukseksi on valittu MathI/MathO, on |x| < 106. Huomaa kuitenkin, että sisäinen laskentavirhe saattaa tehdä mahdottomaksi joidenkin laskutulosten esittämisen π-muodossa. Tällainen virhe saattaa myös aiheuttaa joidenkin laskutulosten esittämisen π-muodossa, vaikka niiden pitäisi olla desimaalimuodossa.
