Direct naar inhoud

Berekeningsbereik, aantal cijfers en nauwkeurigheid

Berekeningsbereik en -nauwkeurigheid

Berekeningsbereik ±1 × 10-99 tot ±9,999999999 × 1099 of 0
Aantal cijfers voor interne berekening 15 cijfers
Nauwkeurigheid In het algemeen is de nauwkeurigheid ±1 op het 10e cijfer voor een enkelvoudige berekening. De nauwkeurigheid voor exponentiële weergave is ±1 op het laatste significante cijfer. Fouten zijn cumulatief in geval van opeenvolgende berekeningen.
deze pagina afdrukken
Terug naar boven