Naar inhoud gaan

Berekeningsbereik, aantal cijfers en nauwkeurigheid

Het berekeningsbereik, het aantal cijfers dat voor interne berekeningen wordt gebruikt en de berekeningsnauwkeurigheid hangen af van het soort berekening dat u uitvoert.

Berekeningsbereik en -nauwkeurigheid

Berekeningsbereik ±1 × 10-99 tot ±9,999999999 × 1099 of 0
Aantal cijfers voor interne berekening 23 cijfers
Nauwkeurigheid In het algemeen is de nauwkeurigheid ±1 op het 10e cijfer voor een enkelvoudige berekening. De nauwkeurigheid voor exponentiële weergave is ±1 op het laatste significante cijfer. Fouten zijn cumulatief in geval van opeenvolgende berekeningen.

Invoerbereik van functieberekeningen en nauwkeurigheid

Functies Invoerbereik
sinx
cosx
Graden (D) 0 ≤ |x| < 9 × 109
Radialen (R) 0 ≤ |x| < 157079632,7
Gradiënten (G) 0 ≤ |x| < 1 × 1010
tanx Graden (D) Hetzelfde als sinx, behalve wanneer |x| = (2n - 1) × 90.
Radialen (R) Hetzelfde als sinx, behalve wanneer |x| = (2n - 1) × π/2.
Gradiënten (G) Hetzelfde als sinx, behalve wanneer |x| = (2n - 1) × 100.
sin-1x, cos-1x 0 ≤ |x| ≤ 1
tan-1x 0 ≤ |x| ≤ 9,999999999 × 1099
sinhx, coshx 0 ≤ |x| ≤ 230,2585092
sinh-1x 0 ≤ |x| ≤ 4,999999999 × 1099
cosh-1x 1 ≤ x ≤ 4,999999999 × 1099
tanhx 0 ≤ |x| ≤ 9,999999999 × 1099
tanh-1x 0 ≤ |x| ≤ 9,999999999 × 10-1
logx, lnx 0 < x ≤ 9,999999999 × 1099
10x -9,999999999 × 1099x ≤ 99,99999999
x 0 ≤ x < 1 × 10100
x2 |x| < 1 × 1050
x-1 |x| < 1 × 10100; x ≠ 0
x! 0 ≤ x ≤ 69 (x is een geheel getal)
nPr

0 ≤ n < 1 × 1010, 0 ≤ rn (n, r zijn gehele getallen)

1 ≤ {n!/(n - r)!} < 1 × 10100
nCr

0 ≤ n < 1 × 1010, 0 ≤ rn (n, r zijn gehele getallen)

1 ≤ n!/r! < 1 × 10100 of 1 ≤ n!/(n - r)! < 1 × 10100
Pol(x; y)

|x|, |y| ≤ 9,999999999 × 1099

x2 + y2 ≤ 9,999999999 × 1099
Rec(r; θ)

0 ≤ r ≤ 9,999999999 × 1099

θ: Hetzelfde als sinx
a°bc

|a|, b, c < 1 × 10100; 0 ≤ b, c
De secondewaarde op het scherm heeft een fout van ±1 op de tweede decimale plaats.

a°bc” = x

0°0’0” ≤ |x| ≤ 9999999°59’59”
Een sexagesimale waarde buiten het bovenstaande bereik wordt automatisch als een decimale waarde beschouwd.

xy

x > 0: -1 × 10100 < ylogx < 100
x = 0: y > 0
x < 0: y = n, m2n + 1 (m, n zijn gehele getallen)

Maar: -1 × 10100 < ylog |x| < 100
xy

y > 0: x ≠ 0, -1 × 10100 < 1/x logy < 100
y = 0: x > 0
y < 0: x = 2n + 1, 2n + 1  m  (m ≠ 0; m, n zijn gehele getallen)

Maar: -1 × 10100 < 1/x log |y| < 100
a b/c Het totaal van gehele getallen, tellers en noemers moet 10 cijfers of kleiner zijn (inclusief scheidingsteken).
RanInt#(a; b) a < b; |a|, |b| < 1 × 1010; b - a < 1 × 1010

De nauwkeurigheid is in principe dezelfde als die hierboven beschreven in “Berekeningsbereik en -nauwkeurigheid”.

Functies zoals xy, xy, x!, nPr, nCr vereisen dat opeenvolgende interne berekeningen worden uitgevoerd, die kunnen leiden tot een opeenstapeling van fouten bij elke berekening.

De fout is cumulatief en heeft de neiging groot te worden bij het singulaire punt of het buigpunt van een functie.

Het bereik voor berekeningsresultaten dat kan worden weergegeven in π-formaat wanneer Breuk in/uit is geselecteerd voor Invoer/Uitvoer in het menu SETTINGS is |x| < 106. Houd er echter rekening mee dat een interne berekeningsfout het onmogelijk kan maken om sommige berekeningsresultaten in π-formaat weer te geven. Het kan er ook voor zorgen dat berekeningsresultaten die in decimaal formaat moeten zijn, in π-formaat verschijnen.

Begin van pagina