Miền tính toán, số chữ số và độ chính xác
Miền tính toán, số chữ số được dùng cho tính toán nội bộ, và độ chính xác phụ thuộc vào kiểu tính toán bạn thực hiện.
Miền tính toán và độ chính xác
| Miền tính toán | ±1 × 10-99 đến ±9,999999999 × 1099 hoặc 0 |
|---|---|
| Số chữ số cho tính toán nội bộ | 15 chữ số |
| Độ chính xác | Nói chung, ±1 ở số thứ 10 trong một phép tính đơn. Độ chính xác cho hiển thị số mũ là ±1 ở chữ số có giá trị nhỏ nhất. Lỗi tích lũy trong trường hợp tính toán liên tiếp. |
Miền đầu vào tính toán hàm và độ chính xác
| Hàm | Miền đầu vào | |
|---|---|---|
| sinx cosx |
Deg | 0 ≦ |x| < 9 × 109 |
| Rad | 0 ≦ |x| < 157079632,7 | |
| Gra | 0 ≦ |x| < 1 × 1010 | |
| tanx | Deg | Như sinx, ngoại trừ khi |x| = (2n-1) × 90. |
| Rad | Như sinx, ngoại trừ khi |x| = (2n-1) × π/2. | |
| Gra | Như sinx, ngoại trừ khi |x| = (2n-1) × 100. | |
| sin-1x, cos-1x | 0 ≦ |x| ≦ 1 | |
| tan-1x | 0 ≦ |x| ≦ 9,999999999 × 1099 | |
| sinhx, coshx | 0 ≦ |x| ≦ 230,2585092 | |
| sinh-1x | 0 ≦ |x| ≦ 4,999999999 × 1099 | |
| cosh-1x | 1 ≦ x ≦ 4,999999999 × 1099 | |
| tanhx | 0 ≦ |x| ≦ 9,999999999 × 1099 | |
| tanh-1x | 0 ≦ |x| ≦ 9,999999999 × 10-1 | |
| logx, lnx | 0 < x ≦ 9,999999999 × 1099 | |
| 10x | -9,999999999 × 1099 ≦ x ≦ 99,99999999 | |
| ex | -9,999999999 × 1099 ≦ x ≦ 230,2585092 | |
| √x | 0 ≦ x < 1 × 10100 | |
| x2 | |x| < 1 × 1050 | |
| x-1 | |x| < 1 × 10100 ; x ≠ 0 | |
| 3√x | |x| < 1 × 10100 | |
| x! | 0 ≦ x ≦ 69 (x là số nguyên) | |
| nPr | 0 ≦ n < 1 × 1010, 0 ≦ r ≦ n (n, r là các số nguyên) 1 ≦ {n!/(n-r)!} < 1 × 10100 |
|
| nCr | 0 ≦ n < 1 × 1010, 0 ≦ r ≦ n (n, r là các số nguyên) 1 ≦ n!/r! < 1 × 10100 hay 1 ≦ n!/(n-r)! < 1 × 10100 |
|
| Pol(x, y) | |x|, |y| ≦ 9,999999999 × 1099 √x2 + y2 ≦ 9,999999999 × 1099 |
|
| Rec(r, θ) | 0 ≦ r ≦ 9,999999999 × 1099 θ: Như sinx |
|
| °’ ” °’ ”← |
a°b’c”: |a|, b, c < 1 × 10100 ; 0 ≦ b, c Giá trị giây hiển thị bị lỗi là ±1 ở vị trí thập phân thứ hai. |
|
| |x| < 1 × 10100 Chuyển đổi số thập phân ↔ hệ lục thập phân 0°0°0° ≦ |x| ≦ 9999999°59° |
||
| xy | x > 0: -1 × 10100 < ylogx < 100 x = 0: y > 0 x < 0: y = n, 12n+1 (n là số nguyên) Tuy nhiên: -1 × 10100 < ylog |x| < 100 | |
| x√y | y > 0: x ≠ 0, -1 × 10100 < 1/x logy < 100 y = 0: x > 0 y < 0: x = 2n+1, 1n (n ≠ 0; n là số nguyên) Tuy nhiên: -1 × 10100 < 1/x log |y| < 100 | |
| ab/c | Toàn bộ số nguyên, tử số và mẫu số phải là 10 chữ số hay ít hơn (kể cả dấu chia). | |
Độ chính xác về căn bản là như đã mô tả tại "Miền tính toán và độ chính xác" ở trên.
Các tính toán dùng bất kỳ hàm nào hay thiết đặt nào nêu dưới đây cần tính toán nội bộ liên tiếp được thực hiện, có thể tạo nên sự tích lũy lỗi xuất hiện cùng mỗi tính toán.
xy, x√y , 3√ , x!, nPr, nCr; °, r, g (Đơn vị góc: Rad); σx, sx, hệ số hồi quy.
Sai số được tích luỹ có xu hướng tăng lên trong lân cận của điểm kỳ dị và điểm uốn của hàm.
Trong tính toán thống kê, lỗi được tích lũy khi các giá trị dữ liệu có số chữ số lớn và sự khác biệt giữa các giá trị dữ liệu là nhỏ. Lỗi sẽ lớn khi các giá trị dữ liệu lớn hơn sáu chữ số.
