Chuyển đến nội dung

Miền tính toán, số chữ số và độ chính xác

Miền tính toán, số chữ số được dùng cho tính toán nội bộ, và độ chính xác của phép tính phụ thuộc vào kiểu phép tính bạn đang thực hiện.

Miền tính toán và độ chính xác

Miền tính toán ±1 × 10-99 đến ±9,999999999 × 1099 hoặc 0
Số chữ số cho tính toán nội bộ 23 chữ số
Độ chính xác Nói chung, ±1 ở chữ số thứ 10 cho một tính toán đơn. Độ chính xác cho hiển thị số mũ là ±1 chữ số ít quan trọng nhất. Lỗi tích lũy trong trường hợp tính toán liên tiếp.

Miền đầu vào tính toán hàm và độ chính xác

Hàm Miền đầu vào
sinx
cosx
Degree 0 ≤ |x| < 9 × 109
Radian 0 ≤ |x| < 157079632,7
Gradian 0 ≤ |x| < 1 × 1010
tanx Degree Như sinx, ngoại trừ khi |x| = (2n - 1) × 90.
Radian Như sinx, ngoại trừ khi |x| = (2n - 1) × π/2.
Gradian Như sinx, ngoại trừ khi |x| = (2n - 1) × 100.
sin-1x, cos-1x 0 ≤ |x| ≤ 1
tan-1x 0 ≤ |x| ≤ 9,999999999 × 1099
sinhx, coshx 0 ≤ |x| ≤ 230,2585092
sinh-1x 0 ≤ |x| ≤ 4,999999999 × 1099
cosh-1x 1 ≤ x ≤ 4,999999999 × 1099
tanhx 0 ≤ |x| ≤ 9,999999999 × 1099
tanh–1x 0 ≤ |x| ≤ 9,999999999 × 10-1
logx, lnx 0 < x ≤ 9,999999999 × 1099
10x -9,999999999 × 1099x ≤ 99,99999999
x 0 ≤ x < 1 × 10100
x2 |x| < 1 × 1050
x-1 |x| < 1 × 10100; x ≠ 0
x! 0 ≤ x ≤ 69 (x là số nguyên)
nPr

0 ≤ n < 1 × 1010, 0 ≤ rn (n, r là các số nguyên)

1 ≤ {n!/(n - r)!} < 1 × 10100
nCr

0 ≤ n < 1 × 1010, 0 ≤ rn (n, r là các số nguyên)

1 ≤ n!/r! < 1 × 10100 hoặc 1 ≤ n!/(n - r)! < 1 × 10100
Pol(x, y)

|x|, |y| ≤ 9,999999999 × 1099

x2 + y2 ≤ 9,999999999 × 1099
Rec(r, θ)

0 ≤ r ≤ 9,999999999 × 1099

θ: Như sinx
a°bc

|a|, b, c < 1 × 10100; 0 ≤ b, c
Giá trị giây hiển thị có sai số ± 1 ở vị trí thập phân thứ hai.

a°bc” = x

0°0’0” ≤ |x| ≤ 9999999°59’59”
Giá trị lục thập phân nằm ngoài miền trên sẽ được tự động xem là giá trị thập phân.

xy

x > 0: -1 × 10100 < ylogx < 100
x = 0: y > 0
x < 0: y = n, m2n + 1 (m, n là các số nguyên)

Tuy nhiên: -1 × 10100 < ylog |x| < 100
xy

y > 0: x ≠ 0, -1 × 10100 < 1/x logy < 100
y = 0: x > 0
y < 0: x = 2n + 1, 2n + 1  m  (m ≠ 0; m, n là các số nguyên)

Tuy nhiên: -1 × 10100 < 1/x log |y| < 100
a b/c Toàn bộ số nguyên, tử số và mẫu số phải là 10 chữ số hay ít hơn (kể cả biểu tượng phân tách).
RanInt#(a, b) a < b; |a|, |b| < 1 × 1010; b - a < 1 × 1010
GCD(a, b) |a|, |b| < 1 × 1010 (a, b là các số nguyên)
LCM(a, b) 0 ≤ a, b < 1 × 1010 (a, b là các số nguyên)

Độ chính xác về căn bản là như đã mô tả tại "Miền tính toán và độ chính xác" ở trên.

Các hàm dạng xy, xy, x!, nPr, nCr cần tính toán nội bộ liên tiếp, có thể tạo ra sự tích lũy lỗi xuất hiện với mỗi tính toán.

Sai số được tích luỹ có xu hướng tăng lên trong lân cận của điểm kì dị và điểm uốn của hàm.

Miền cho các kết quả tính toán có thể được hiển thị dưới dạng π khi MathI/MathO được chọn cho Input/Output trên menu SETTINGS là |x| < 106. Tuy nhiên, lưu ý rằng sai số tính toán bên trong có thể gây ra việc không hiển thị được một số kết quả tính toán dưới dạng π. Nó cũng có thể làm cho kết quả tính toán lẽ ra phải ở dạng thập phân lại xuất hiện dưới dạng π.

Đầu trang