Intervalos, número de dígitos e precisão de cálculo
Intervalo e precisão de cálculo
Intervalo de cálculo | ±1 × 10-99 até ±9,999999999 × 1099 ou 0 |
---|---|
Número de dígitos para cálculo interno | 15 dígitos |
Precisão | Em geral, ±1 no 10º dígito para um cálculo simples. A precisão da exibição exponencial é ±1 no dígito menos significativo. Os erros são cumulativos no caso de cálculos consecutivos. |