Rechnungsbereiche, Anzahl an Stellen und Präzision
Der Rechnungsbereich, die Anzahl an Ziffern für die interne Berechnung sowie die Rechnungsgenauigkeit hängen von der von Ihnen ausgeführten Rechnungsart ab.
Rechnungsbereich und Genauigkeit
Rechnungsbereich | ±1 × 10-99 bis ±9,999999999 × 1099 oder 0 |
Anzahl der Stellen für interne Berechnungen | 23 Stellen |
Genauigkeit | Normalerweise beträgt die Genauigkeit ±1 an der 10. Stelle für eine einzelne Rechnung. Die Genauigkeit für die Exponentialanzeige beträgt ±1 an der am wenigsten signifikanten Stelle. Die Fehler summieren sich im Falle von fortlaufenden Berechnungen. |
Eingabebereiche und Genauigkeit von Funktionsrechnungen
Funktionen | Eingabebereich | |
---|---|---|
sinx cosx |
Gradmaß (D) | 0 ≤ |x| < 9 × 109 |
Bogenmaß (R) | 0 ≤ |x| < 157079632,7 | |
Gon (G) | 0 ≤ |x| < 1 × 1010 | |
tanx | Gradmaß (D) | Wie sinx, außer wenn |x| = (2n - 1) × 90. |
Bogenmaß (R) | Wie sinx, außer wenn |x| = (2n - 1) × π/2. | |
Gon (G) | Wie sinx, außer wenn |x| = (2n - 1) × 100. | |
sin-1x, cos-1x | 0 ≤ |x| ≤ 1 | |
tan-1x | 0 ≤ |x| ≤ 9,999999999 × 1099 | |
sinhx, coshx | 0 ≤ |x| ≤ 230,2585092 | |
sinh-1x | 0 ≤ |x| ≤ 4,999999999 × 1099 | |
cosh-1x | 1 ≤ x ≤ 4,999999999 × 1099 | |
tanhx | 0 ≤ |x| ≤ 9,999999999 × 1099 | |
tanh-1x | 0 ≤ |x| ≤ 9,999999999 × 10-1 | |
logx, lnx | 0 < x ≤ 9,999999999 × 1099 | |
10x | -9,999999999 × 1099 ≤ x ≤ 99,99999999 | |
√x | 0 ≤ x < 1 × 10100 | |
x2 | |x| < 1 × 1050 | |
x-1 | |x| < 1 × 10100; x ≠ 0 | |
x! | 0 ≤ x ≤ 69 (x ist eine Ganzzahl) | |
nCr | 0 ≤ n < 1 × 1010, 0 ≤ r ≤ n (n, r sind Ganzzahlen) 1 ≤ n!/r! < 1 × 10100 oder 1 ≤ n!/(n - r)! < 1 × 10100 |
|
a°b’c” | |a|, b, c < 1 × 10100; 0 ≤ b, c |
|
a°b’c” = x | 0°0’0” ≤ |x| ≤ 9999999°59’59” |
|
xy | x > 0: -1 × 10100 < ylogx < 100 |
|
x√y | y > 0: x ≠ 0, -1 × 10100 < 1/x logy < 100 |
|
a/b | Zähler und Nenner dürfen insgesamt maximal 10 Stellen haben (einschließlich Trennzeichen). | |
RanInt#(a; b) | a < b; |a|, |b| < 1 × 1010; b - a < 1 × 1010 |
Die Genauigkeit ist grundsätzlich gleich wie unter „Rechnungsbereich und Genauigkeit“ weiter oben beschrieben.
Funktionen des Typs xy, x√y, x!, nCr erfordern fortlaufende interne Berechnungen, sodass sich die in jeder Rechnung auftretenden Fehler summieren können.
Die Fehler summieren sich und sind in der Nähe des singulären Punktes und des Wendepunkts einer Funktion besonders groß.
Der Bereich der Rechenergebnisse, die in der π-Form angezeigt werden können, wenn Mathe -> Mathe für Eingabe/Ausgabe im SETTINGS-Menü ausgewählt ist, ist |x| < 106. Beachten Sie allerdings, dass durch interne Rechenfehler manche Rechenergebnisse möglicherweise nicht in der π-Form angezeigt werden können. Möglicherweise werden auch Rechenergebnisse, die in Dezimalform angezeigt werden sollten, in der π-Form angezeigt.