Miền tính toán, số chữ số và độ chính xác
Miền đầu vào tính toán hàm và độ chính xác
Hàm | Miền đầu vào | |
---|---|---|
sinx cosx |
Deg | 0 ≦ |x| < 9 × 109 |
Rad | 0 ≦ |x| < 157079632,7> | |
Gra | 0 ≦ |x| < 1 × 1010 | |
tanx | Deg | Như sinx, ngoại trừ khi |x| = (2n-1) × 90. |
Rad | Như sinx, ngoại trừ khi |x| = (2n-1) × π/2. | |
Gra | Như sinx, ngoại trừ khi |x| = (2n-1) × 100. | |
sin-1x, cos-1x | 0 ≦ |x| ≦ 1 | |
tan-1x | 0 ≦ |x| ≦ 9,999999999 × 1099 | |
sinhx, coshx | 0 ≦ |x| ≦ 230,2585092 | |
sinh-1x | 0 ≦ |x| ≦ 4,999999999 × 1099 | |
cosh-1x | 1 ≦ x ≦ 4,999999999 × 1099 | |
tanhx | 0 ≦ |x| ≦ 9,999999999 × 1099 | |
tanh-1x | 0 ≦ |x| ≦ 9,999999999 × 10-1 | |
logx, lnx | 0 < x ≦ 9,999999999 × 1099 | |
10x | -9,999999999 × 1099 ≦ x ≦ 99,99999999 | |
ex | -9,999999999 × 1099 ≦ x ≦ 230,2585092 | |
√x | 0 ≦ x < 1 × 10100 | |
x2 | |x| < 1 × 1050 | |
x-1 | |x| < 1 × 10100 ; x ≠ 0 | |
3√x | |x| < 1 × 10100 | |
x! | 0 ≦ x ≦ 69 (x là số nguyên) | |
nPr | 0 ≦ n < 1 × 1010, 0 ≦ r ≦ n (n, r là các số nguyên) 1 ≦ {n!/(n-r)!} < 1 × 10100 |
|
nCr | 0 ≦ n < 1 × 1010, 0 ≦ r ≦ n (n, r là các số nguyên) 1 ≦ n!/r! < 1 × 10100 hay 1 ≦ n!/(n-r)! < 1 × 10100 |
|
Pol(x, y) | |x|, |y| ≦ 9,999999999 × 1099 √x2 + y2 ≦ 9,999999999 × 1099 |
|
Rec(r, θ) | 0 ≦ r ≦ 9,999999999 × 1099 θ: Như sinx |
|
°’ ” °’ ”← |
a°b’c”: |a|, b, c < 1 × 10100 ; 0 ≦ b, c Giá trị giây hiển thị bị lỗi là ±1 ở vị trí thập phân thứ hai. |
|
|x| < 1 × 10100 Chuyển đổi số thập phân ↔ hệ lục thập phân 0°0°0° ≦ |x| ≦ 9999999°59° |
||
xy | x > 0: -1 × 10100 < ylogx < 100 x = 0: y > 0 x < 0: y = n, 12n+1 (n là số nguyên) Tuy nhiên: -1 × 10100 < ylog |x| < 100> | |
x√y | y > 0: x ≠ 0, -1 × 10100 < 1/x logy < 100 y = 0: x > 0 y < 0: x = 2n+1, 1n (n ≠ 0; n là số nguyên) Tuy nhiên: -1 × 10100 < 1/x log |y| < 100> | |
ab/c | Toàn bộ số nguyên, tử số và mẫu số phải là 10 chữ số hay ít hơn (kể cả dấu chia). |
Độ chính xác về căn bản là như đã mô tả tại "Miền tính toán và độ chính xác" ở trên.
Các tính toán dùng bất kỳ hàm nào hay thiết đặt nào nêu dưới đây cần tính toán nội bộ liên tiếp được thực hiện, có thể tạo nên sự tích lũy lỗi xuất hiện cùng mỗi tính toán.
xy, x√y , 3√ , x!, nPr, nCr; °, r, g (Đơn vị góc: Rad); σx, sx, hệ số hồi quy.
Sai số được tích luỹ có xu hướng tăng lên trong lân cận của điểm kỳ dị và điểm uốn của hàm.
Trong tính toán thống kê, lỗi được tích lũy khi các giá trị dữ liệu có số chữ số lớn và sự khác biệt giữa các giá trị dữ liệu là nhỏ. Lỗi sẽ lớn khi các giá trị dữ liệu lớn hơn sáu chữ số.