Zum Inhalt springen

Rechenbereiche, Anzahl der Stellen und Genauigkeit

Der Rechenbereich, die für die internen Berechnungen verwendete Anzahl der Stellen und die Rechnungsgenauigkeit hängen von dem Rechnungstyp ab, den Sie ausführen.

Rechnungsbereich und Genauigkeit

Rechnungsbereich ±1 × 10-99 bis ±9,999999999 × 1099 oder 0
Anzahl der Stellen für interne Berechnungen 15 Stellen
Genauigkeit Generell ±1 bei der 10. Stelle in jeder Einzelrechnung. Die Genauigkeit der Exponentialanzeige beträgt ±1 an der am wenigsten signifikanten Stelle. Die Fehler summieren sich im Falle von fortlaufenden Rechnungen.

Eingabebereiche und Genauigkeit von Funktionsrechnungen

Funktion Eingabebereich
sinx
cosx
Deg 0 ≦ |x| < 9 × 109
Rad 0 ≦ |x| < 157079632,7
Gra 0 ≦ |x| < 1 × 1010
tanx Deg Gleich wie sinx, außer wenn |x| = (2n-1) × 90.
Rad Gleich wie sinx, außer wenn |x| = (2n-1) × π/2.
Gra Gleich wie sinx, außer wenn |x| = (2n-1) × 100.
sin-1x, cos-1x 0 ≦ |x| ≦ 1
tan-1x 0 ≦ |x| ≦ 9,999999999 × 1099
sinhx, coshx 0 ≦ |x| ≦ 230,2585092
sinh-1x 0 ≦ |x| ≦ 4,999999999 × 1099
cosh-1x 1 ≦ x ≦ 4,999999999 × 1099
tanhx 0 ≦ |x| ≦ 9,999999999 × 1099
tanh-1x 0 ≦ |x| ≦ 9,999999999 × 10-1
logx, lnx 0 < x ≦ 9,999999999 × 1099
10x -9,999999999 × 1099x ≦ 99,99999999
ex -9,999999999 × 1099x ≦ 230,2585092
x 0 ≦ x < 1 × 10100
x2 |x| < 1 × 1050
x-1 |x| < 1 × 10100 ; x ≠ 0
3x |x| < 1 × 10100
x! 0 ≦ x ≦ 69 (x ist eine Ganzzahl)
nPr 0 ≦ n < 1 × 1010, 0 ≦ rn (n, r sind Ganzzahlen)
1 ≦ {n!/(n-r)!} < 1 × 10100
nCr 0 ≦ n < 1 × 1010, 0 ≦ rn (n, r sind Ganzzahlen)
1 ≦ n!/r! < 1 × 10100 oder 1 ≦ n!/(n-r)! < 1 × 10100
Pol(x, y) |x|, |y| ≦ 9,999999999 × 1099
x2 + y2 ≦ 9,999999999 × 1099
Rec(r, θ) 0 ≦ r ≦ 9,999999999 × 1099
θ: Gleich wie sinx
°’ ”


°’ ”
a°bc”: |a|, b, c < 1 × 10100 ; 0 ≦ b, c
Der angezeigte Sekundenwert unterliegt einem Fehler von ±1 an der zweiten Dezimalstelle.
|x| < 1 × 10100
Umwandlung Dezimal ↔ Sexagesimal
0°0°0° ≦ |x| ≦ 9999999°59°
xy x > 0: -1 × 10100 < ylogx < 100
x = 0: y > 0
x < 0: y = n, 12n+1 (n ist eine Ganzzahl)
Aber: -1 × 10100 < ylog |x| < 100
xy y > 0: x ≠ 0, -1 × 10100 < 1/x logy < 100
y = 0: x > 0
y < 0: x = 2n+1, 1n (n ≠ 0; n ist eine Ganzzahl)
Aber: -1 × 10100 < 1/x log |y| < 100
ab/c Ganzzahl, Zähler und Nenner dürfen insgesamt maximal 10 Stellen haben (einschließlich Trennungsmarkierungen).
RanInt#(a, b) a < b ; |a|, |b| < 1 × 1010 ; b - a < 1 × 1010 (a , b sind Ganzzahlen)

Die Genauigkeit ist grundsätzlich gleich wie unter „Rechnungsbereich und Genauigkeit“ weiter oben beschrieben.

Berechnungen, die mit einer der nachfolgenden Funktionen oder Einstellungen durchgeführt werden, erfordern fortlaufende interne Berechnungen, was zur Akkumulation der in den einzelnen Rechnungen aufgetretenen Fehler führen kann.
xy, xy , 3 , x!, nPr, nCr; °, r, g (Winkeleinheit: Rad); σx, sx, Regressionskoeffizient.

Die Fehler summieren sich und sind in der Nähe des singulären Punktes und des Wendepunktes einer Funktion besonders groß.

Bei statistischen Berechnungen summieren sich die Fehler, wenn die Datenwerte eine große Anzahl an Ziffern haben, und die Unterschiede zwischen den Datenwerten klein sind. Der Fehler ist groß, wenn die Datenwerte größer als sechs Ziffern sind.

Diese Seite drucken
Seitenanfang