Rechenbereiche, Anzahl der Stellen und Genauigkeit
Rechnungsbereich und Genauigkeit
Rechnungsbereich | ±1 × 10-99 bis ±9,999999999 × 1099 oder 0 |
---|---|
Anzahl der Stellen für interne Berechnungen | 15 Stellen |
Genauigkeit | Generell ±1 bei der 10. Stelle in jeder Einzelrechnung. Die Genauigkeit der Exponentialanzeige beträgt ±1 an der am wenigsten signifikanten Stelle. Die Fehler summieren sich im Falle von fortlaufenden Rechnungen. |