Miền tính toán, số chữ số và độ chính xác
Miền tính toán và độ chính xác
Miền tính toán | ±1 × 10-99 đến ±9,999999999 × 1099 hoặc 0 |
---|---|
Số chữ số cho tính toán nội bộ | 15 chữ số |
Độ chính xác | Nói chung, ±1 ở số thứ 10 trong một phép tính đơn. Độ chính xác cho hiển thị số mũ là ±1 ở chữ số có giá trị nhỏ nhất. Lỗi tích lũy trong trường hợp tính toán liên tiếp. |