Berekeningsbereik, aantal cijfers en nauwkeurigheid
Berekeningsbereik en -nauwkeurigheid
Berekeningsbereik | ±1 × 10-99 tot ±9,999999999 × 1099 of 0 |
---|---|
Aantal cijfers voor interne berekening | 15 cijfers |
Nauwkeurigheid | In het algemeen is de nauwkeurigheid ±1 op het 10e cijfer voor een enkelvoudige berekening. De nauwkeurigheid voor exponentiële weergave is ±1 op het laatste significante cijfer. Fouten zijn cumulatief in geval van opeenvolgende berekeningen. |