Nhảy sang nội dung

Miền tính toán, số chữ số và độ chính xác

Miền tính toán và độ chính xác

Miền tính toán ±1 × 10-99 đến ±9,999999999 × 1099 hoặc 0
Số chữ số cho tính toán nội bộ 15 chữ số
Độ chính xác Nói chung, ±1 ở số thứ 10 trong một phép tính đơn. Độ chính xác cho hiển thị số mũ là ±1 ở chữ số có giá trị nhỏ nhất. Lỗi tích lũy trong trường hợp tính toán liên tiếp.
In trang này
Đầu trang