Laskenta-alueet, numeroiden määrä ja tarkkuus
Laskenta-alue ja tarkkuus
Laskenta-alue | ±1 × 10-99 – ±9,999999999 × 1099 tai 0 |
---|---|
Sisäisen laskennan numeromäärä | 15 numeroa |
Tarkkuus | Yksittäislaskutoimitukselle yleisesti ±1 kymmenennessä numerossa. Eksponentiaalisen näytön tarkkuus on ±1 vähiten merkitsevässä numerossa. Peräkkäisissä laskutoimituksissa virheet kumuloituvat. |