Zum Inhalt springen

Rechenbereiche, Anzahl der Stellen und Genauigkeit

Rechnungsbereich und Genauigkeit

Rechnungsbereich ±1 × 10-99 bis ±9,999999999 × 1099 oder 0
Anzahl der Stellen für interne Berechnungen 15 Stellen
Genauigkeit Generell ±1 bei der 10. Stelle in jeder Einzelrechnung. Die Genauigkeit der Exponentialanzeige beträgt ±1 an der am wenigsten signifikanten Stelle. Die Fehler summieren sich im Falle von fortlaufenden Rechnungen.
Diese Seite drucken
Seitenanfang