Weiter zum Inhalt

Rechnungsbereiche, Anzahl an Stellen und Präzision

Der Rechnungsbereich, die Anzahl an Ziffern für die interne Berechnung sowie die Rechnungsgenauigkeit hängen von der von Ihnen ausgeführten Rechnungsart ab.

Rechnungsbereich und Genauigkeit

Rechnungsbereich ±1 × 10-99 bis ±9,999999999 × 1099 oder 0
Anzahl der Stellen für interne Berechnungen 23 Stellen
Genauigkeit Normalerweise beträgt die Genauigkeit ±1 an der 10. Stelle für eine einzelne Rechnung. Die Genauigkeit für die Exponentialanzeige beträgt ±1 an der am wenigsten signifikanten Stelle. Die Fehler summieren sich im Falle von fortlaufenden Berechnungen.

Eingabebereiche und Genauigkeit von Funktionsrechnungen

Funktionen Eingabebereich
sinx
cosx
Gradmaß (D) 0 ≤ |x| < 9 × 109
Bogenmaß (R) 0 ≤ |x| < 157079632,7
Gon (G) 0 ≤ |x| < 1 × 1010
tanx Gradmaß (D) Wie sinx, außer wenn |x| = (2n - 1) × 90.
Bogenmaß (R) Wie sinx, außer wenn |x| = (2n - 1) × π/2.
Gon (G) Wie sinx, außer wenn |x| = (2n - 1) × 100.
sin-1x, cos-1x 0 ≤ |x| ≤ 1
tan-1x 0 ≤ |x| ≤ 9,999999999 × 1099
sinhx, coshx 0 ≤ |x| ≤ 230,2585092
sinh-1x 0 ≤ |x| ≤ 4,999999999 × 1099
cosh-1x 1 ≤ x ≤ 4,999999999 × 1099
tanhx 0 ≤ |x| ≤ 9,999999999 × 1099
tanh-1x 0 ≤ |x| ≤ 9,999999999 × 10-1
logx, lnx 0 < x ≤ 9,999999999 × 1099
10x -9,999999999 × 1099x ≤ 99,99999999
x 0 ≤ x < 1 × 10100
x2 |x| < 1 × 1050
x-1 |x| < 1 × 10100; x ≠ 0
x! 0 ≤ x ≤ 69 (x ist eine Ganzzahl)
nCr

0 ≤ n < 1 × 1010, 0 ≤ rn (n, r sind Ganzzahlen)

1 ≤ n!/r! < 1 × 10100 oder 1 ≤ n!/(n - r)! < 1 × 10100
a°bc

|a|, b, c < 1 × 10100; 0 ≤ b, c
Der angezeigte Sekundenwert unterliegt einem Fehler von ±1 an der zweiten Dezimalstelle.

a°bc” = x

0°0’0” ≤ |x| ≤ 9999999°59’59”
Ein sexagesimaler Wert, der außerhalb des oben genannten Bereichs liegt, wird automatisch als dezimaler Wert behandelt.

xy

x > 0: -1 × 10100 < ylogx < 100
x = 0: y > 0
x < 0: y = n, m2n + 1 (m, n sind Ganzzahlen)

Jedoch: -1 × 10100 < ylog |x| < 100
xy

y > 0: x ≠ 0, -1 × 10100 < 1/x logy < 100
y = 0: x > 0
y < 0: x = 2n + 1, 2n + 1  m  (m ≠ 0; m, n sind Ganzzahlen)

Jedoch: -1 × 10100 < 1/x log |y| < 100
a/b Zähler und Nenner dürfen insgesamt maximal 10 Stellen haben (einschließlich Trennzeichen).
RanInt#(a; b) a < b; |a|, |b| < 1 × 1010; b - a < 1 × 1010

Die Genauigkeit ist grundsätzlich gleich wie unter „Rechnungsbereich und Genauigkeit“ weiter oben beschrieben.

Funktionen des Typs xy, xy, x!, nCr erfordern fortlaufende interne Berechnungen, sodass sich die in jeder Rechnung auftretenden Fehler summieren können.

Die Fehler summieren sich und sind in der Nähe des singulären Punktes und des Wendepunkts einer Funktion besonders groß.

Der Bereich der Rechenergebnisse, die in der π-Form angezeigt werden können, wenn Mathe -> Mathe für Eingabe/Ausgabe im SETTINGS-Menü ausgewählt ist, ist |x| < 106. Beachten Sie allerdings, dass durch interne Rechenfehler manche Rechenergebnisse möglicherweise nicht in der π-Form angezeigt werden können. Möglicherweise werden auch Rechenergebnisse, die in Dezimalform angezeigt werden sollten, in der π-Form angezeigt.

Nach oben