Rozsahy výpočtů, počet číslic a přesnost
Rozsah výpočtu, počet číslic používaných pro vnitřní výpočty a přesnost výpočtu závisejí na typu vámi prováděného výpočtu.
Rozsah výpočtu a přesnost
Rozsah výpočtu | ±1 × 10-99 až ±9,999999999 × 1099 nebo 0 |
Počet číslic pro vnitřní výpočty | 15 číslic |
Přesnost | Všeobecně ±1 na desátém místě pro jednoduchý výpočet. Přesnost pro exponenciální zobrazení je ±1 u nejméně významné číslice. V případě po sobě jdoucích výpočtů se chyby kumulují. |
Vstupní rozsahy výpočtu funkcí a přesnost
Funkce | Vstupní rozsah | |
---|---|---|
sinx cosx |
Deg | 0 ≦ |x| < 9 × 109 |
Rad | 0 ≦ |x| < 157079632,7 | |
Gra | 0 ≦ |x| < 1 × 1010 | |
tanx | Deg | Stejné jako sinx, s výjimkou, když |x| = (2n-1) × 90. |
Rad | Stejné jako sinx, s výjimkou, když |x| = (2n-1) × π/2. | |
Gra | Stejné jako sinx, s výjimkou, když |x| = (2n-1) × 100. | |
sin-1x, cos-1x | 0 ≦ |x| ≦ 1 | |
tan-1x | 0 ≦ |x| ≦ 9,999999999 × 1099 | |
sinhx, coshx | 0 ≦ |x| ≦ 230,2585092 | |
sinh-1x | 0 ≦ |x| ≦ 4,999999999 × 1099 | |
cosh-1x | 1 ≦ x ≦ 4,999999999 × 1099 | |
tanhx | 0 ≦ |x| ≦ 9,999999999 × 1099 | |
tanh-1x | 0 ≦ |x| ≦ 9,999999999 × 10-1 | |
logx, lnx | 0 < x ≦ 9,999999999 × 1099 | |
10x | -9,999999999 × 1099 ≦ x ≦ 99,99999999 | |
ex | -9,999999999 × 1099 ≦ x ≦ 230,2585092 | |
√x | 0 ≦ x < 1 × 10100 | |
x2 | |x| < 1 × 1050 | |
x-1 | |x| < 1 × 10100; x ≠ 0 | |
3√x | |x| < 1 × 10100 | |
x! | 0 ≦ x ≦ 69 (x je celé číslo) | |
nPr | 0 ≦ n < 1 × 1010, 0 ≦ r ≦ n (n, r jsou celá čísla) 1 ≦ {n!/(n-r)!} < 1 × 10100 |
|
nCr | 0 ≦ n < 1 × 1010, 0 ≦ r ≦ n (n, r jsou celá čísla) 1 ≦ n!/r! < 1 × 10100 nebo 1 ≦ n!/(n-r)! < 1 × 10100 |
|
Pol(x, y) | |x|, |y| ≦ 9,999999999 × 1099 √x2 + y2 ≦ 9,999999999 × 1099 |
|
Rec(r, θ) | 0 ≦ r ≦ 9,999999999 × 1099 θ: Stejné jako sinx |
|
°’ ” | a°b’c”: |a|, b, c < 1 × 10100; 0 ≦ b, c Zobrazená hodnota vteřin podléhá chybě ±1 na druhém desetinném místě. |
|
°’ ”← | |x| < 1 × 10100 |
|
xy | x > 0: -1 × 10100 < ylogx < 100 |
|
x√y | y > 0: x ≠ 0, -1 × 10100 < 1/x logy < 100 |
|
a b/c | Celé číslo, čitatel a jmenovatel musí mít celkem 10 číslic nebo méně (včetně symbolu oddělovače). | |
RanInt#(a, b) | a < b; |a|, |b| < 1 × 1010; b - a < 1 × 1010 |
Přesnost se víceméně shoduje s tou, která byla výše popsána v odstavci „Rozsah výpočtu a přesnost“.
Funkce typu xy, x√y, 3√ , x!, nPr, nCr vyžadují po sobě jdoucí vnitřní výpočty, které mohou způsobit kumulaci chyb, jež se objevují u každého jednotlivého výpočtu.
Chyba je kumulována a má tendenci se zvětšovat v blízkosti singulárního a inflexního bodu funkce.
Rozsah pro výsledky výpočtu, který lze zobrazit ve tvaru π při použití přirozeného zobrazení je |x| < 106. Vezměte však na vědomí, že chyba při vnitřním výpočtu může znemožnit zobrazení některých výsledků výpočtu ve tvaru π. Může také způsobit, že výsledky výpočtu, které by měly být v desítkovém tvaru, se zobrazí ve tvaru π.