Miền tính toán, số chữ số và độ chính xác
Miền tính toán, số chữ số được dùng cho tính toán nội bộ, và độ chính xác phụ thuộc vào kiểu tính toán bạn thực hiện.
Miền tính toán và độ chính xác
| Miền tính toán | ±1 × 10-99 đến ±9,999999999 × 1099 hoặc 0 |
| Số chữ số cho tính toán nội bộ | 15 chữ số |
| Độ chính xác | Nói chung, ±1 ở chữ số thứ 10 cho một tính toán đơn. Độ chính xác cho hiển thị số mũ là ±1 chữ số ít quan trọng nhất. Lỗi tích lũy trong trường hợp tính toán liên tiếp. |
Miền đưa vào tính toán hàm và độ chính xác
| Hàm | Miền đưa vào | |
|---|---|---|
| sinx cosx |
Degree | 0 ≦ |x| < 9 × 109 |
| Radian | 0 ≦ |x| < 157079632,7 | |
| Gradian | 0 ≦ |x| < 1 × 1010 | |
| tanx | Degree | Như sinx, ngoại trừ khi |x| = (2n−1) × 90. |
| Radian | Như sinx, ngoại trừ khi |x| = (2n−1) × π/2. | |
| Gradian | Như sinx, ngoại trừ khi |x| = (2n−1) × 100. | |
| sin-1x, cos-1x | 0 ≦ |x| ≦ 1 | |
| tan-1x | 0 ≦ |x| ≦ 9,999999999 × 1099 | |
| sinhx, coshx | 0 ≦ |x| ≦ 230,2585092 | |
| sinh-1x | 0 ≦ |x| ≦ 4,999999999 × 1099 | |
| cosh-1x | 1 ≦ x ≦ 4,999999999 × 1099 | |
| tanhx | 0 ≦ |x| ≦ 9,999999999 × 1099 | |
| tanh-1x | 0 ≦ |x| ≦ 9,999999999 × 10-1 | |
| logx, lnx | 0 < x ≦ 9,999999999 × 1099 | |
| 10x | -9,999999999 × 1099 ≦ x ≦ 99,99999999 | |
| ex | -9,999999999 × 1099 ≦ x ≦ 230,2585092 | |
| √x | 0 ≦ x < 1 × 10100 | |
| x2 | |x| < 1 × 1050 | |
| x-1 | |x| < 1 × 10100; x ≠ 0 | |
| 3√x | |x| < 1 × 10100 | |
| x! | 0 ≦ x ≦ 69 (x là số nguyên) | |
| nPr | 0 ≦ n < 1 × 1010, 0 ≦ r ≦ n (n, r là số nguyên) 1 ≦ {n!/(n−r)!} < 1 × 10100 |
|
| nCr | 0 ≦ n < 1 × 1010, 0 ≦ r ≦n (n, r là số nguyên) 1 ≦ n!/r! < 1 × 10100 hoặc 1 ≦ n!/(n−r)! < 1 × 10100 |
|
| Pol(x, y) | |x|, |y| ≦ 9,999999999 × 1099 √x2 + y2 ≦ 9,999999999 × 1099 |
|
| Rec(r, θ) | 0 ≦ r ≦ 9,999999999 × 1099 θ: Như sinx |
|
| °’ ” | a°b’c”: |a|, b, c < 1 × 10100; 0 ≦ b, c Hiển thị giá trị giây được thay đổi sai số lỗi ±1 tại vị trí thập phân thứ hai. |
|
| °’ ”← | |x| < 1 × 10100 |
|
| xy | x > 0: -1 × 10100 < ylogx < 100 |
|
| x√y | y > 0: x ≠ 0, -1 × 10100 < 1/x logy < 100 |
|
| a b/c | Toàn bộ số nguyên, tử số và mẫu số phải là 10 chữ số hay ít hơn (kể cả biểu tượng phân tách). | |
| RanInt#(a, b) | a < b; |a|, |b| < 1 × 1010; b − a < 1 × 1010 | |
| GCD(a, b) | |a|, |b| < 1 × 1010 (a, b là số nguyên) | |
| LCM(a, b) | 0 ≦ a, b < 1 × 1010 (a, b là số nguyên) | |
Độ chính xác về căn bản là như đã mô tả tại “Miền tính toán và độ chính xác” ở trên.
Các hàm kiểu xy, x√y, 3√ , x!, nPr, nCr cần tính toán nội bộ liên tiếp, có thể tạo nên sự tích lũy lỗi xuất hiện cùng mỗi tính toán.
Sai số được tích luỹ có xu hướng tăng lên trong lân cận của điểm kì dị và điểm uốn của hàm.
Miền cho các kết quả tính toán có thể được hiển thị dưới dạng π khi MathI/MathO được chọn cho Input/Output trên menu thiết đặt là |x| < 106. Tuy nhiên, lưu ý rằng sai số tính toán bên trong có thể gây ra việc không hiển thị được một số kết quả tính toán dưới dạng π. Nó cũng có thể làm cho kết quả tính toán lẽ ra phải ở dạng thập phân lại xuất hiện dưới dạng π.
