Raspon izračuna, broj znamenki i preciznost
Raspon izračuna, broj znamenki korištenih za interni izračun i preciznost izračuna ovise o vrsti izračuna koji obavljate.
Raspon i preciznost izračuna
| Raspon izračuna | ±1 × 10-99 do ±9,999999999 × 1099 ili 0 |
| Broj znamenki za interne izračune | 23 znamenki |
| Preciznost | U pravilu, ±1 na 10-u znamenku za jedan izračun. Preciznost za eksponencijalni prikaz je ±1 na najmanje značajnoj znamenki. Greške su kumulativne u slučaju kumulativnih izračuna. |
Raspon unosa funkcijskih argumenata i preciznost
| Funkcije | Raspon unosa | |
|---|---|---|
| sinx cosx |
Stupnjevi (Degree) | 0 ≤ |x| < 9 × 109 |
| Radijani (Radian) | 0 ≤ |x| < 157079632,7 | |
| Gradi (Gradian) | 0 ≤ |x| < 1 × 1010 | |
| tanx | Stupnjevi (Degree) | Isto kao sinx, osim ako je |x| = (2n - 1) × 90. |
| Radijani (Radian) | Isto kao sinx, osim ako je |x| = (2n - 1) × π/2. | |
| Gradi (Gradian) | Isto kao sinx, osim ako je |x| = (2n - 1) × 100. | |
| sin-1x, cos-1x | 0 ≤ |x| ≤ 1 | |
| tan-1x | 0 ≤ |x| ≤ 9,999999999 × 1099 | |
| sinhx, coshx | 0 ≤ |x| ≤ 230,2585092 | |
| sinh-1x | 0 ≤ |x| ≤ 4,999999999 × 1099 | |
| cosh-1x | 1 ≤ x ≤ 4,999999999 × 1099 | |
| tanhx | 0 ≤ |x| ≤ 9,999999999 × 1099 | |
| tanh-1x | 0 ≤ |x| ≤ 9,999999999 × 10-1 | |
| logx, lnx | 0 < x ≤ 9,999999999 × 1099 | |
| 10x | -9,999999999 × 1099 ≤ x ≤ 99,99999999 | |
| √x | 0 ≤ x < 1 × 10100 | |
| x2 | |x| < 1 × 1050 | |
| x-1 | |x| < 1 × 10100; x ≠ 0 | |
| x! | 0 ≤ x ≤ 69 (x je cijeli broj) | |
| nPr | 0 ≤ n < 1 × 1010, 0 ≤ r ≤ n (n i r cijeli su brojevi) 1 ≤ {n!/(n - r)!} < 1 × 10100 |
|
| nCr | 0 ≤ n < 1 × 1010, 0 ≤ r ≤ n (n i r cijeli su brojevi) 1 ≤ n!/r! < 1 × 10100 ili 1 ≤ n!/(n - r)! < 1 × 10100 |
|
| Pol(x, y) | |x|, |y| ≤ 9,999999999 × 1099 √x2 + y2 ≤ 9,999999999 × 1099 |
|
| Rec(r, θ) | 0 ≤ r ≤ 9,999999999 × 1099 θ: Isto kao sinx |
|
| a°b’c” | |a|, b, c < 1 × 10100; 0 ≤ b, c |
|
| a°b’c” = x | 0°0’0” ≤ |x| ≤ 9999999°59’59” |
|
| xy | x > 0: -1 × 10100 < ylogx < 100 |
|
| x√y | y > 0: x ≠ 0, -1 × 10100 < 1/x logy < 100 |
|
| a b/c | Cijeli broj, brojnik i nazivnik zajedno moraju imati 10 ili manje znamenki (uključujući simbol razdjelnika). | |
| RanInt#(a, b) | a < b; |a|, |b| < 1 × 1010; b - a < 1 × 1010 | |
Preciznost je u osnovi ista kao preciznost opisana u odjeljku „Raspon i preciznost izračuna”.
Funkcije tipa xy, x√y, x!, nPr, nCr zahtijevaju ulančano računanje koje može dovesti do gomilanja grešaka pri svakom izračunu.
Greška je kumulativna i obično je velika u blizini singularne točke i točke infleksije funkcije.
Raspon za rezultate izračuna koji se mogu prikazati u obliku π ako je za Input/Output u izborniku SETTINGS odabrana opcija MathI/MathO jest |x| < 106. Međutim, imajte na umu da greška pri obavljanju internog izračuna može onemogućiti prikaz nekih rezultata izračuna u obliku π. Također može dovesti do toga da se rezultati izračuna koji trebaju biti u decimalnom obliku prikažu u obliku π.
