Berekeningsbereik, aantal cijfers en nauwkeurigheid
Het berekeningsbereik, het aantal cijfers dat voor interne berekeningen wordt gebruikt en de berekeningsnauwkeurigheid hangen af van het soort berekening dat u uitvoert.
Berekeningsbereik en -nauwkeurigheid
Berekeningsbereik | ±1 × 10-99 tot ±9,999999999 × 1099 of 0 |
Aantal cijfers voor interne berekening | 23 cijfers |
Nauwkeurigheid | In het algemeen is de nauwkeurigheid ±1 op het 10e cijfer voor een enkelvoudige berekening. De nauwkeurigheid voor exponentiële weergave is ±1 op het laatste significante cijfer. Fouten zijn cumulatief in geval van opeenvolgende berekeningen. |
Invoerbereik van functieberekeningen en nauwkeurigheid
Functies | Invoerbereik | |
---|---|---|
sinx cosx |
Graden (D) | 0 ≤ |x| < 9 × 109 |
Radialen (R) | 0 ≤ |x| < 157079632,7 | |
Gradiënten (G) | 0 ≤ |x| < 1 × 1010 | |
tanx | Graden (D) | Hetzelfde als sinx, behalve wanneer |x| = (2n - 1) × 90. |
Radialen (R) | Hetzelfde als sinx, behalve wanneer |x| = (2n - 1) × π/2. | |
Gradiënten (G) | Hetzelfde als sinx, behalve wanneer |x| = (2n - 1) × 100. | |
sin-1x, cos-1x | 0 ≤ |x| ≤ 1 | |
tan-1x | 0 ≤ |x| ≤ 9,999999999 × 1099 | |
sinhx, coshx | 0 ≤ |x| ≤ 230,2585092 | |
sinh-1x | 0 ≤ |x| ≤ 4,999999999 × 1099 | |
cosh-1x | 1 ≤ x ≤ 4,999999999 × 1099 | |
tanhx | 0 ≤ |x| ≤ 9,999999999 × 1099 | |
tanh-1x | 0 ≤ |x| ≤ 9,999999999 × 10-1 | |
logx, lnx | 0 < x ≤ 9,999999999 × 1099 | |
10x | -9,999999999 × 1099 ≤ x ≤ 99,99999999 | |
√x | 0 ≤ x < 1 × 10100 | |
x2 | |x| < 1 × 1050 | |
x-1 | |x| < 1 × 10100; x ≠ 0 | |
x! | 0 ≤ x ≤ 69 (x is een geheel getal) | |
nPr | 0 ≤ n < 1 × 1010, 0 ≤ r ≤ n (n, r zijn gehele getallen) 1 ≤ {n!/(n - r)!} < 1 × 10100 |
|
nCr | 0 ≤ n < 1 × 1010, 0 ≤ r ≤ n (n, r zijn gehele getallen) 1 ≤ n!/r! < 1 × 10100 of 1 ≤ n!/(n - r)! < 1 × 10100 |
|
Pol(x; y) | |x|, |y| ≤ 9,999999999 × 1099 √x2 + y2 ≤ 9,999999999 × 1099 |
|
Rec(r; θ) | 0 ≤ r ≤ 9,999999999 × 1099 θ: Hetzelfde als sinx |
|
a°b’c” | |a|, b, c < 1 × 10100; 0 ≤ b, c |
|
a°b’c” = x | 0°0’0” ≤ |x| ≤ 9999999°59’59” |
|
xy | x > 0: -1 × 10100 < ylogx < 100 |
|
x√y | y > 0: x ≠ 0, -1 × 10100 < 1/x logy < 100 |
|
a b/c | Het totaal van gehele getallen, tellers en noemers moet 10 cijfers of kleiner zijn (inclusief scheidingsteken). | |
RanInt#(a; b) | a < b; |a|, |b| < 1 × 1010; b - a < 1 × 1010 |
De nauwkeurigheid is in principe dezelfde als die hierboven beschreven in “Berekeningsbereik en -nauwkeurigheid”.
Functies zoals xy, x√y, x!, nPr, nCr vereisen dat opeenvolgende interne berekeningen worden uitgevoerd, die kunnen leiden tot een opeenstapeling van fouten bij elke berekening.
De fout is cumulatief en heeft de neiging groot te worden bij het singulaire punt of het buigpunt van een functie.
Het bereik voor berekeningsresultaten dat kan worden weergegeven in π-formaat wanneer Breuk in/uit is geselecteerd voor Invoer/Uitvoer in het menu SETTINGS is |x| < 106. Houd er echter rekening mee dat een interne berekeningsfout het onmogelijk kan maken om sommige berekeningsresultaten in π-formaat weer te geven. Het kan er ook voor zorgen dat berekeningsresultaten die in decimaal formaat moeten zijn, in π-formaat verschijnen.