Miền tính toán, số chữ số và độ chính xác
Miền tính toán và độ chính xác
Miền tính toán | ±1 × 10-99 đến ±9,999999999 × 1099 hoặc 0 |
Số chữ số cho tính toán nội bộ | 15 chữ số |
Độ chính xác | Nói chung, ±1 ở chữ số thứ 10 cho một tính toán đơn. Độ chính xác cho hiển thị số mũ là ±1 chữ số ít quan trọng nhất. Lỗi tích lũy trong trường hợp tính toán liên tiếp. |