Berekeningsbereik, aantal cijfers en nauwkeurigheid
Invoerbereik van functieberekeningen en nauwkeurigheid
| Functies | Invoerbereik |
|---|---|
| √x | 0 ≦ x < 1 × 10100 |
| x2 | |x| < 1 × 1050 |
| x-1 | |x| < 1 × 10100 ; x ≠ 0 |
| xy | x > 0: -1 × 10100 < ylogx < 100 x = 0: y > 0 x < 0: y = n, 12n+1 (n is een geheel getal) Maar: -1 × 10100 < ylog |x| < 100 |
| a + b/c | Het totaal van gehele getallen, tellers en noemers moet 10 cijfers of kleiner zijn (inclusief deeltekens). |
| °’ ” ← °’ ” |
a°b’c”: |a|, b, c < 1 × 10100 ; 0 ≦ b, c De tweede waarde van het scherm heeft een fout van ±1 op de tweede decimale plaats. |
| |x| < 1 × 10100 Decimale ↔ sexagesimale conversies 0°0’0” ≦ |x| ≦ 9999999°59’ |
|
| heu | Sexagesimaal ↔ urenconversies 0h ≦ |x| ≦ 9999999,999h |
| min | Sexagesimaal ↔ minutenconversies 0' ≦ |x| ≦ 599999999,9' |
| sec | Sexagesimaal ↔ secondenconversies 0'' ≦ |x| ≦ 9999999999'' |
De nauwkeurigheid is in principe dezelfde als die hierboven beschreven in "Berekeningsbereik en -nauwkeurigheid".
xy berekeningen vereisen opeenvolgende interne berekeningen, wat een accumulatie van fouten kan veroorzaken die bij iedere berekening optreden.
De fout is cumulatief en heeft de neiging groot te worden bij het singulaire punt of het buigpunt van een functie.
