Utregningsområder, antall sifre og presisjon
Utregningsområdet, antall sifre som brukes for intern utregning, og utregningsnøyaktighet er avhengig av typen utregning du utfører.
Utregningsområde og presisjon
Utregningsområde | ±1 × 10-99 til ±9,999999999 × 1099 eller 0 |
Antall sifre for intern utregning | 23 sifre |
Presisjon | Generelt sett ±1 ved den 10. desimalen for en enkelt utregning. Presisjon for eksponentialvisning er ±1 ved det minst signifikante sifferet. Feil er kumulative for etterfølgende utregninger. |
Inndataområder for utregning av funksjon og presisjon
Funksjoner | Inndataområde | |
---|---|---|
sinx cosx |
Degree | 0 ≤ |x| < 9 × 109 |
Radian | 0 ≤ |x| < 157079632,7 | |
Gradian | 0 ≤ |x| < 1 × 1010 | |
tanx | Degree | Samme som sinx, med unntak av når |x| = (2n - 1) × 90. |
Radian | Samme som sinx, med unntak av når |x| = (2n - 1) × π/2. | |
Gradian | Samme som sinx, med unntak av når |x| = (2n - 1) × 100. | |
sin-1x, cos-1x | 0 ≤ |x| ≤ 1 | |
tan-1x | 0 ≤ |x| ≤ 9,999999999 × 1099 | |
sinhx, coshx | 0 ≤ |x| ≤ 230,2585092 | |
sinh-1x | 0 ≤ |x| ≤ 4,999999999 × 1099 | |
cosh-1x | 1 ≤ x ≤ 4,999999999 × 1099 | |
tanhx | 0 ≤ |x| ≤ 9,999999999 × 1099 | |
tanh-1x | 0 ≤ |x| ≤ 9,999999999 × 10-1 | |
logx, lnx | 0 < x ≤ 9,999999999 × 1099 | |
10x | -9,999999999 × 1099 ≤ x ≤ 99,99999999 | |
√x | 0 ≤ x < 1 × 10100 | |
x2 | |x| < 1 × 1050 | |
x-1 | |x| < 1 × 10100; x ≠ 0 | |
x! | 0 ≤ x ≤ 69 (x er et heltall) | |
nPr | 0 ≤ n < 1 × 1010, 0 ≤ r ≤ n (n, r er heltall) 1 ≤ {n!/(n - r)!} < 1 × 10100 |
|
nCr | 0 ≤ n < 1 × 1010, 0 ≤ r ≤ n (n, r er heltall) 1 ≤ n!/r! < 1 × 10100 eller 1 ≤ n!/(n - r)! < 1 × 10100 |
|
Pol(x, y) | |x|, |y| ≤ 9,999999999 × 1099 √x2 + y2 ≤ 9,999999999 × 1099 |
|
Rec(r, θ) | 0 ≤ r ≤ 9,999999999 × 1099 θ: Samme som sinx |
|
a°b’c” | |a|, b, c < 1 × 10100; 0 ≤ b, c |
|
a°b’c” = x | 0°0’0” ≤ |x| ≤ 9999999°59’59” |
|
xy | x > 0: -1 × 10100 < ylogx < 100 |
|
x√y | y > 0: x ≠ 0, -1 × 10100 < 1/x logy < 100 |
|
a b/c | Totalen til heltall, teller og nevner må være 10 siffer eller mindre (inkludert skillesymbol). | |
RanInt#(a, b) | a < b; |a|, |b| < 1 × 1010; b - a < 1 × 1010 |
Presisjon er i bunn og grunn det samme som det som beskrives under «Utregningsområde og presisjon» ovenfor.
Funksjoner av typene xy, x√y, x!, nPr, nCr krever etterfølgende intern utregning, som kan føre til akkumulering av feil som oppstår med hver utregning.
Feil er kumulative og pleier å være store i nærheten av det singulære punktet og infleksjonspunktet til en funksjon.
Området for utregningsresultater kan vises i π-form når MathI/MathO som er valgt for Input/Output i SETTINGS-menyen, er |x| < 106. Vær imidlertid oppmerksom på at en intern utregningsfeil kan gjøre det umulig å vise enkelte utregningsresultatet i π-form. Det kan også føre til at utregningsresultater som skal være i desimalform, vises i π-form.