Miền tính toán, số chữ số và độ chính xác
Miền đưa vào tính toán hàm và độ chính xác
| Hàm | Miền đưa vào | |
|---|---|---|
| sinx cosx |
Degree | 0 ≦ |x| < 9 × 109 |
| Radian | 0 ≦ |x| < 157079632,7 | |
| Gradian | 0 ≦ |x| < 1 × 1010 | |
| tanx | Degree | Như sinx, ngoại trừ khi |x| = (2n−1) × 90. |
| Radian | Như sinx, ngoại trừ khi |x| = (2n−1) × π/2. | |
| Gradian | Như sinx, ngoại trừ khi |x| = (2n−1) × 100. | |
| sin-1x, cos-1x | 0 ≦ |x| ≦ 1 | |
| tan-1x | 0 ≦ |x| ≦ 9,999999999 × 1099 | |
| sinhx, coshx | 0 ≦ |x| ≦ 230,2585092 | |
| sinh-1x | 0 ≦ |x| ≦ 4,999999999 × 1099 | |
| cosh-1x | 1 ≦ x ≦ 4,999999999 × 1099 | |
| tanhx | 0 ≦ |x| ≦ 9,999999999 × 1099 | |
| tanh-1x | 0 ≦ |x| ≦ 9,999999999 × 10-1 | |
| logx, lnx | 0 < x ≦ 9,999999999 × 1099 | |
| 10x | -9,999999999 × 1099 ≦ x ≦ 99,99999999 | |
| ex | -9,999999999 × 1099 ≦ x ≦ 230,2585092 | |
| √x | 0 ≦ x < 1 × 10100 | |
| x2 | |x| < 1 × 1050 | |
| x-1 | |x| < 1 × 10100; x ≠ 0 | |
| 3√x | |x| < 1 × 10100 | |
| x! | 0 ≦ x ≦ 69 (x là số nguyên) | |
| nPr | 0 ≦ n < 1 × 1010, 0 ≦ r ≦ n (n, r là số nguyên) 1 ≦ {n!/(n−r)!} < 1 × 10100 |
|
| nCr | 0 ≦ n < 1 × 1010, 0 ≦ r ≦n (n, r là số nguyên) 1 ≦ n!/r! < 1 × 10100 hoặc 1 ≦ n!/(n−r)! < 1 × 10100 |
|
| Pol(x, y) | |x|, |y| ≦ 9,999999999 × 1099 √x2 + y2 ≦ 9,999999999 × 1099 |
|
| Rec(r, θ) | 0 ≦ r ≦ 9,999999999 × 1099 θ: Như sinx |
|
| °’ ” | a°b’c”: |a|, b, c < 1 × 10100; 0 ≦ b, c Hiển thị giá trị giây được thay đổi sai số lỗi ±1 tại vị trí thập phân thứ hai. |
|
| °’ ”← | |x| < 1 × 10100 |
|
| xy | x > 0: -1 × 10100 < ylogx < 100 |
|
| x√y | y > 0: x ≠ 0, -1 × 10100 < 1/x logy < 100 |
|
| a b/c | Toàn bộ số nguyên, tử số và mẫu số phải là 10 chữ số hay ít hơn (kể cả biểu tượng phân tách). | |
| RanInt#(a, b) | a < b; |a|, |b| < 1 × 1010; b − a < 1 × 1010 | |
| GCD(a, b) | |a|, |b| < 1 × 1010 (a, b là số nguyên) | |
| LCM(a, b) | 0 ≦ a, b < 1 × 1010 (a, b là số nguyên) | |
Độ chính xác về căn bản là như đã mô tả tại “Miền tính toán và độ chính xác” ở trên.
Các hàm kiểu xy, x√y, 3√ , x!, nPr, nCr cần tính toán nội bộ liên tiếp, có thể tạo nên sự tích lũy lỗi xuất hiện cùng mỗi tính toán.
Sai số được tích luỹ có xu hướng tăng lên trong lân cận của điểm kì dị và điểm uốn của hàm.
Miền cho các kết quả tính toán có thể được hiển thị dưới dạng π khi MathI/MathO được chọn cho Input/Output trên menu thiết đặt là |x| < 106. Tuy nhiên, lưu ý rằng sai số tính toán bên trong có thể gây ra việc không hiển thị được một số kết quả tính toán dưới dạng π. Nó cũng có thể làm cho kết quả tính toán lẽ ra phải ở dạng thập phân lại xuất hiện dưới dạng π.
