Miền tính toán, số chữ số và độ chính xác
Miền tính toán, số chữ số được dùng cho tính toán nội bộ, và độ chính xác của phép tính phụ thuộc vào kiểu phép tính bạn đang thực hiện.
Miền tính toán và độ chính xác
Miền tính toán | ±1 × 10-99 đến ±9,999999999 × 1099 hoặc 0 |
Số chữ số cho tính toán nội bộ | 23 chữ số |
Độ chính xác | Nói chung, ±1 ở chữ số thứ 10 cho một tính toán đơn. Độ chính xác cho hiển thị số mũ là ±1 chữ số ít quan trọng nhất. Lỗi tích lũy trong trường hợp tính toán liên tiếp. |
Miền đầu vào tính toán hàm và độ chính xác
Hàm | Miền đầu vào | |
---|---|---|
sinx cosx |
Degree | 0 ≤ |x| < 9 × 109 |
Radian | 0 ≤ |x| < 157079632,7 | |
Gradian | 0 ≤ |x| < 1 × 1010 | |
tanx | Degree | Như sinx, ngoại trừ khi |x| = (2n - 1) × 90. |
Radian | Như sinx, ngoại trừ khi |x| = (2n - 1) × π/2. | |
Gradian | Như sinx, ngoại trừ khi |x| = (2n - 1) × 100. | |
sin-1x, cos-1x | 0 ≤ |x| ≤ 1 | |
tan-1x | 0 ≤ |x| ≤ 9,999999999 × 1099 | |
sinhx, coshx | 0 ≤ |x| ≤ 230,2585092 | |
sinh-1x | 0 ≤ |x| ≤ 4,999999999 × 1099 | |
cosh-1x | 1 ≤ x ≤ 4,999999999 × 1099 | |
tanhx | 0 ≤ |x| ≤ 9,999999999 × 1099 | |
tanh–1x | 0 ≤ |x| ≤ 9,999999999 × 10-1 | |
logx, lnx | 0 < x ≤ 9,999999999 × 1099 | |
10x | -9,999999999 × 1099 ≤ x ≤ 99,99999999 | |
√x | 0 ≤ x < 1 × 10100 | |
x2 | |x| < 1 × 1050 | |
x-1 | |x| < 1 × 10100; x ≠ 0 | |
x! | 0 ≤ x ≤ 69 (x là số nguyên) | |
nPr | 0 ≤ n < 1 × 1010, 0 ≤ r ≤ n (n, r là các số nguyên) 1 ≤ {n!/(n - r)!} < 1 × 10100 |
|
nCr | 0 ≤ n < 1 × 1010, 0 ≤ r ≤ n (n, r là các số nguyên) 1 ≤ n!/r! < 1 × 10100 hoặc 1 ≤ n!/(n - r)! < 1 × 10100 |
|
Pol(x, y) | |x|, |y| ≤ 9,999999999 × 1099 √x2 + y2 ≤ 9,999999999 × 1099 |
|
Rec(r, θ) | 0 ≤ r ≤ 9,999999999 × 1099 θ: Như sinx |
|
a°b’c” | |a|, b, c < 1 × 10100; 0 ≤ b, c |
|
a°b’c” = x | 0°0’0” ≤ |x| ≤ 9999999°59’59” |
|
xy | x > 0: -1 × 10100 < ylogx < 100 |
|
x√y | y > 0: x ≠ 0, -1 × 10100 < 1/x logy < 100 |
|
a b/c | Toàn bộ số nguyên, tử số và mẫu số phải là 10 chữ số hay ít hơn (kể cả biểu tượng phân tách). | |
RanInt#(a, b) | a < b; |a|, |b| < 1 × 1010; b - a < 1 × 1010 | |
GCD(a, b) | |a|, |b| < 1 × 1010 (a, b là các số nguyên) | |
LCM(a, b) | 0 ≤ a, b < 1 × 1010 (a, b là các số nguyên) |
Độ chính xác về căn bản là như đã mô tả tại "Miền tính toán và độ chính xác" ở trên.
Các hàm dạng xy, x√y, x!, nPr, nCr cần tính toán nội bộ liên tiếp, có thể tạo ra sự tích lũy lỗi xuất hiện với mỗi tính toán.
Sai số được tích luỹ có xu hướng tăng lên trong lân cận của điểm kì dị và điểm uốn của hàm.
Miền cho các kết quả tính toán có thể được hiển thị dưới dạng π khi MathI/MathO được chọn cho Input/Output trên menu SETTINGS là |x| < 106. Tuy nhiên, lưu ý rằng sai số tính toán bên trong có thể gây ra việc không hiển thị được một số kết quả tính toán dưới dạng π. Nó cũng có thể làm cho kết quả tính toán lẽ ra phải ở dạng thập phân lại xuất hiện dưới dạng π.