Rechenbereiche, Anzahl der Stellen und Genauigkeit
Eingabebereiche und Genauigkeit von Funktionsrechnungen
Funktion | Eingabebereich | |
---|---|---|
sinx cosx |
Deg | 0 ≦ |x| < 9 × 109 |
Rad | 0 ≦ |x| < 157079632,7 | |
Gra | 0 ≦ |x| < 1 × 1010 | |
tanx | Deg | Gleich wie sinx, außer wenn |x| = (2n-1) × 90. |
Rad | Gleich wie sinx, außer wenn |x| = (2n-1) × π/2. | |
Gra | Gleich wie sinx, außer wenn |x| = (2n-1) × 100. | |
sin-1x, cos-1x | 0 ≦ |x| ≦ 1 | |
tan-1x | 0 ≦ |x| ≦ 9,999999999 × 1099 | |
sinhx, coshx | 0 ≦ |x| ≦ 230,2585092 | |
sinh-1x | 0 ≦ |x| ≦ 4,999999999 × 1099 | |
cosh-1x | 1 ≦ x ≦ 4,999999999 × 1099 | |
tanhx | 0 ≦ |x| ≦ 9,999999999 × 1099 | |
tanh-1x | 0 ≦ |x| ≦ 9,999999999 × 10-1 | |
logx, lnx | 0 < x ≦ 9,999999999 × 1099 | |
10x | -9,999999999 × 1099 ≦ x ≦ 99,99999999 | |
ex | -9,999999999 × 1099 ≦ x ≦ 230,2585092 | |
√x | 0 ≦ x < 1 × 10100 | |
x2 | |x| < 1 × 1050 | |
x-1 | |x| < 1 × 10100 ; x ≠ 0 | |
3√x | |x| < 1 × 10100 | |
x! | 0 ≦ x ≦ 69 (x ist eine Ganzzahl) | |
nPr | 0 ≦ n < 1 × 1010, 0 ≦ r ≦ n (n, r sind Ganzzahlen) 1 ≦ {n!/(n-r)!} < 1 × 10100 |
|
nCr | 0 ≦ n < 1 × 1010, 0 ≦ r ≦ n (n, r sind Ganzzahlen) 1 ≦ n!/r! < 1 × 10100 oder 1 ≦ n!/(n-r)! < 1 × 10100 |
|
Pol(x, y) | |x|, |y| ≦ 9,999999999 × 1099 √x2 + y2 ≦ 9,999999999 × 1099 |
|
Rec(r, θ) | 0 ≦ r ≦ 9,999999999 × 1099 θ: Gleich wie sinx |
|
°’ ” °’ ”← |
a°b’c”: |a|, b, c < 1 × 10100 ; 0 ≦ b, c Der angezeigte Sekundenwert unterliegt einem Fehler von ±1 an der zweiten Dezimalstelle. |
|
|x| < 1 × 10100 Umwandlung Dezimal ↔ Sexagesimal 0°0°0° ≦ |x| ≦ 9999999°59° |
||
xy | x > 0: -1 × 10100 < ylogx < 100 x = 0: y > 0 x < 0: y = n, 12n+1 (n ist eine Ganzzahl) Aber: -1 × 10100 < ylog |x| < 100 | |
x√y | y > 0: x ≠ 0, -1 × 10100 < 1/x logy < 100 y = 0: x > 0 y < 0: x = 2n+1, 1n (n ≠ 0; n ist eine Ganzzahl) Aber: -1 × 10100 < 1/x log |y| < 100 | |
ab/c | Ganzzahl, Zähler und Nenner dürfen insgesamt maximal 10 Stellen haben (einschließlich Trennungsmarkierungen). | |
RanInt#(a, b) | a < b ; |a|, |b| < 1 × 1010 ; b - a < 1 × 1010 (a , b sind Ganzzahlen) |
Die Genauigkeit ist grundsätzlich gleich wie unter „Rechnungsbereich und Genauigkeit“ weiter oben beschrieben.
Berechnungen, die mit einer der nachfolgenden Funktionen oder Einstellungen durchgeführt werden, erfordern fortlaufende interne Berechnungen, was zur Akkumulation der in den einzelnen Rechnungen aufgetretenen Fehler führen kann.
xy, x√y , 3√ , x!, nPr, nCr; °, r, g (Winkeleinheit: Rad); σx, sx, Regressionskoeffizient.
Die Fehler summieren sich und sind in der Nähe des singulären Punktes und des Wendepunktes einer Funktion besonders groß.
Bei statistischen Berechnungen summieren sich die Fehler, wenn die Datenwerte eine große Anzahl an Ziffern haben, und die Unterschiede zwischen den Datenwerten klein sind. Der Fehler ist groß, wenn die Datenwerte größer als sechs Ziffern sind.