Rangos de cálculo, cantidad de dígitos y precisión
Rango de cálculo y precisión
Rango de cálculo | ±1 × 10-99 a ±9,999999999 × 1099 o 0 |
---|---|
Cantidad de dígitos usados internamente en el cálculo | 15 dígitos |
Precisión | En general, ±1 en el 10.º dígito para un cálculo individual. La precisión con visualización exponencial es ±1 sobre el dígito menos significativo. En el caso de cálculos consecutivos los errores se propagan acumulativamente. |