Berekeningsbereik, aantal cijfers en nauwkeurigheid
Het berekeningsbereik, het aantal cijfers dat voor interne berekeningen wordt gebruikt en de berekeningsnauwkeurigheid hangen af van het soort berekening dat u uitvoert.
Berekeningsbereik en -nauwkeurigheid
| Berekeningsbereik | ±1 × 10-99 tot ±9,999999999 × 1099 of 0 |
|---|---|
| Aantal cijfers voor interne berekening | 15 cijfers |
| Nauwkeurigheid | In het algemeen is de nauwkeurigheid ±1 op het 10e cijfer voor een enkelvoudige berekening. De nauwkeurigheid voor exponentiële weergave is ±1 op het laatste significante cijfer. Fouten zijn cumulatief in geval van opeenvolgende berekeningen. |
Invoerbereik van functieberekeningen en nauwkeurigheid
| Functies | Invoerbereik |
|---|---|
| √x | 0 ≦ x < 1 × 10100 |
| x2 | |x| < 1 × 1050 |
| x-1 | |x| < 1 × 10100 ; x ≠ 0 |
| xy | x > 0: -1 × 10100 < ylogx < 100 x = 0: y > 0 x < 0: y = n, 12n+1 (n is een geheel getal) Maar: -1 × 10100 < ylog |x| < 100 |
| a + b/c | Het totaal van gehele getallen, tellers en noemers moet 10 cijfers of kleiner zijn (inclusief deeltekens). |
| °’ ” ← °’ ” |
a°b’c”: |a|, b, c < 1 × 10100 ; 0 ≦ b, c De tweede waarde van het scherm heeft een fout van ±1 op de tweede decimale plaats. |
| |x| < 1 × 10100 Decimale ↔ sexagesimale conversies 0°0’0” ≦ |x| ≦ 9999999°59’ |
|
| heu | Sexagesimaal ↔ urenconversies 0h ≦ |x| ≦ 9999999,999h |
| min | Sexagesimaal ↔ minutenconversies 0' ≦ |x| ≦ 599999999,9' |
| sec | Sexagesimaal ↔ secondenconversies 0'' ≦ |x| ≦ 9999999999'' |
De nauwkeurigheid is in principe dezelfde als die hierboven beschreven in "Berekeningsbereik en -nauwkeurigheid".
xy berekeningen vereisen opeenvolgende interne berekeningen, wat een accumulatie van fouten kan veroorzaken die bij iedere berekening optreden.
De fout is cumulatief en heeft de neiging groot te worden bij het singulaire punt of het buigpunt van een functie.
