Beräkningsområden, antal tecken och precision
Beräkningsområdet, antal tecken som används för intern beräkning samt beräkningsprecisionen beror på vilken typ av beräkning du utför.
Beräkningsområde och precision
| Beräkningsområde | ±1 × 10-99 till ±9,999999999 × 1099 eller 0 |
|---|---|
| Antal siffror för intern beräkning | 15 tecken |
| Precision | I allmänhet ±1 vid den 10:e siffran i en enstaka beräkning. Precision hos exponentiella visningar är ±1 vid den minst signifikanta siffran. Fel är kumulativa vid konsekutiva beräkningar. |
Inmatning av områden och precision för funktionsberäkningar
| Funktioner | Inmatningsområde | |
|---|---|---|
| sinx cosx |
Deg | 0 ≦ |x| < 9 × 109 |
| Rad | 0 ≦ |x| < 157079632,7 | |
| Gra | 0 ≦ |x| < 1 × 1010 | |
| tanx | Deg | Samma som sinx, utom när |x| = (2n-1) × 90. |
| Rad | Samma som sinx, utom när |x| = (2n-1) × π/2. | |
| Gra | Samma som sinx, utom när |x| = (2n-1) × 100. | |
| sin-1x, cos-1x | 0 ≦ |x| ≦ 1 | |
| tan-1x | 0 ≦ |x| ≦ 9,999999999 × 1099 | |
| sinhx, coshx | 0 ≦ |x| ≦ 230,2585092 | |
| sinh-1x | 0 ≦ |x| ≦ 4,999999999 × 1099 | |
| cosh-1x | 1 ≦ x ≦ 4,999999999 × 1099 | |
| tanhx | 0 ≦ |x| ≦ 9,999999999 × 1099 | |
| tanh-1x | 0 ≦ |x| ≦ 9,999999999 × 10-1 | |
| logx, lnx | 0 < x ≦ 9,999999999 × 1099 | |
| 10x | -9,999999999 × 1099 ≦ x ≦ 99,99999999 | |
| ex | -9,999999999 × 1099 ≦ x ≦ 230,2585092 | |
| √x | 0 ≦ x < 1 × 10100 | |
| x2 | |x| < 1 × 1050 | |
| x-1 | |x| < 1 × 10100 ; x ≠ 0 | |
| 3√x | |x| < 1 × 10100 | |
| x! | 0 ≦ x ≦ 69 (x är ett heltal) | |
| nPr | 0 ≦ n < 1 × 1010, 0 ≦ r ≦ n (n, r är heltal) 1 ≦ {n!/(n-r)!} < 1 × 10100 |
|
| nCr | 0 ≦ n < 1 × 1010, 0 ≦ r ≦ n (n, r är heltal) 1 ≦ n!/r! < 1 × 10100 eller 1 ≦ n!/(n-r)! < 1 × 10100 |
|
| Pol(x, y) | |x|, |y| ≦ 9,999999999 × 1099 √x2 + y2 ≦ 9,999999999 × 1099 |
|
| Rec(r, θ) | 0 ≦ r ≦ 9,999999999 × 1099 θ: Samma som sinx |
|
| °’ ” °’ ”← |
a°b’c”: |a|, b, c < 1 × 10100 ; 0 ≦ b, c Displayens sekundvärde är föremål för ett fel på ±1 vid andra decimalen. |
|
| |x| < 1 × 10100 Konvertering Decimaler ↔ Sexagesimaler 0°0°0° ≦ |x| ≦ 9999999°59° |
||
| xy | x > 0: -1 × 10100 < ylogx < 100 x = 0: y > 0 x < 0: y = n, 12n+1 (n är ett heltal) Emellertid: -1 × 10100 < ylog |x| < 100 | |
| x√y | y > 0: x ≠ 0, -1 × 10100 < 1/x logy < 100 y = 0: x > 0 y < 0: x = 2n+1, 1n (n ≠ 0; n är ett heltal) Emellertid: -1 × 10100 < 1/x log |y| < 100 | |
| ab/c | Totala antalet heltal, täljare och nämnare måste vara 10 siffor eller mindre (inklusive divisionmarkeringar). | |
| RanInt#(a, b) | a < b ; |a|, |b| < 1 × 1010 ; b - a < 1 × 1010 (a , b är heltal) | |
Precisionen är mer eller mindre samma som i beskrivningen under "Beräkningsområde och precision" ovan.
Beräkningar som tillämpar någon av funktionerna eller inställningarna som visas nedan kräver att konsekutiva interna beräkningar utförs, vilket kan orsaka ackumulering av fel som uppstår vid varje beräkning.
xy, x√y , 3√ , x!, nPr, nCr; °, r, g (Vinkelenhet: Rad); σx, sx, regressionskoefficient.
Fel är kumulativa och har en tendens att vara stora i närheten av en funktions singulära punkt och inflexionspunkt.
Under statistiska beräkningar är fel kumulativa när datavärden har ett stort antal siffror och skillnaden mellan datavärden är liten. Felen blir stora när datavärden är större än sex siffror.
