Laskenta-alueet, numeroiden määrä ja tarkkuus
Sisäisessä laskennassa sovellettava laskenta-alue, numeroiden määrä ja laskennan tarkkuus riippuvat suoritettavan laskutoimituksen tyypistä.
Laskenta-alue ja tarkkuus
| Laskenta-alue | ±1 × 10-99 – ±9,999999999 × 1099 tai 0 |
|---|---|
| Sisäisen laskennan numeromäärä | 15 numeroa |
| Tarkkuus | Yksittäislaskutoimitukselle yleisesti ±1 kymmenennessä numerossa. Eksponentiaalisen näytön tarkkuus on ±1 vähiten merkitsevässä numerossa. Peräkkäisissä laskutoimituksissa virheet kumuloituvat. |
Funktiolaskennan syöttöalueet ja tarkkuus
| Funktiot | Syöttöalue | |
|---|---|---|
| sinx cosx |
Deg | 0 ≦ |x| < 9 × 109 |
| Rad | 0 ≦ |x| < 157079632,7 | |
| Gra | 0 ≦ |x| < 1 × 1010 | |
| tanx | Deg | Sama kuin sinx, paitsi kun |x| = (2n-1) × 90. |
| Rad | Sama kuin sinx, paitsi kun |x| = (2n-1) × π/2. | |
| Gra | Sama kuin sinx, paitsi kun |x| = (2n-1) × 100. | |
| sin-1x, cos-1x | 0 ≦ |x| ≦ 1 | |
| tan-1x | 0 ≦ |x| ≦ 9,999999999 × 1099 | |
| sinhx, coshx | 0 ≦ |x| ≦ 230,2585092 | |
| sinh-1x | 0 ≦ |x| ≦ 4,999999999 × 1099 | |
| cosh-1x | 1 ≦ x ≦ 4,999999999 × 1099 | |
| tanhx | 0 ≦ |x| ≦ 9,999999999 × 1099 | |
| tanh-1x | 0 ≦ |x| ≦ 9,999999999 × 10-1 | |
| logx, lnx | 0 < x ≦ 9,999999999 × 1099 | |
| 10x | -9,999999999 × 1099 ≦ x ≦ 99,99999999 | |
| ex | -9,999999999 × 1099 ≦ x ≦ 230,2585092 | |
| √x | 0 ≦ x < 1 × 10100 | |
| x2 | |x| < 1 × 1050 | |
| x-1 | |x| < 1 × 10100 ; x ≠ 0 | |
| 3√x | |x| < 1 × 10100 | |
| x! | 0 ≦ x ≦ 69 (x on kokonaisluku) | |
| nPr | 0 ≦ n < 1 × 1010, 0 ≦ r ≦ n (n, r ovat kokonaislukuja) 1 ≦ {n!/(n-r)!} < 1 × 10100 |
|
| nCr | 0 ≦ n < 1 × 1010, 0 ≦ r ≦ n (n, r ovat kokonaislukuja) 1 ≦ n!/r! < 1 × 10100 tai 1 ≦ n!/(n-r)! < 1 × 10100 |
|
| Pol(x, y) | |x|, |y| ≦ 9,999999999 × 1099 √x2 + y2 ≦ 9,999999999 × 1099 |
|
| Rec(r, θ) | 0 ≦ r ≦ 9,999999999 × 1099 θ: Sama kuin sinx |
|
| °’ ” °’ ”← |
a°b’c”: |a|, b, c < 1 × 10100 ; 0 ≦ b, c Näytön toinen arvo voi poiketa ±1 toisen desimaalipaikan kohdalla. |
|
| |x| < 1 × 10100 desimaaliluku ↔ seksagesimaalimuunnokset 0°0°0° ≦ |x| ≦ 9999999°59° |
||
| xy | x > 0: -1 × 10100 < ylogx < 100 x = 0: y > 0 x < 0: y = n, 12n+1 (n on kokonaisluku) Kuitenkin: -1 × 10100 < ylog |x| < 100 | |
| x√y | y > 0: x ≠ 0, -1 × 10100 < 1/x logy < 100 y = 0: x > 0 y < 0: x = 2n+1, 1n (n ≠ 0; n on kokonaisluku) Kuitenkin: -1 × 10100 < 1/x log |y| < 100 | |
| ab/c | Kokonaisluvun, osoittajan ja nimittäjän kokonaismäärän tulee olla 10 numeroa tai vähemmän (mukaan lukien jakomerkit). | |
| RanInt#(a, b) | a < b ; |a|, |b| < 1 × 1010 ; b - a < 1 × 1010 (a , b ovat kokonaislukuja) | |
Tarkkuus on periaatteessa sama kuin mitä on kuvattu edellä kappaleessa "Laskenta-alue ja tarkkuus".
Laskut, joissa käytetään seuraavia funktioita tai asetuksia, vaativat peräkkäisiä sisäisiä laskutoimituksia, mikä voi merkitä virheiden kumuloitumista.
xy, x√y , 3√ , x!, nPr, nCr; °, r, g (kulmayksikkö: Rad); σx, sx, regressiokerroin.
Virhe on kumulatiivinen ja sillä on taipumus olla suuri funktion singulaaripisteen ja käännepisteen läheisyydessä.
Virheiden kumuloitumista tapahtuu sellaisissa tilastollisissa laskutoimituksissa, joissa tietoarvot sisältävät runsaasti numeroita ja tietoarvojen välillä on vähän eroja. Virhe on suuri, kun tietoarvoissa on vähintään kuusi numeroa.
