Berekeningsvariasiewydtes, aantal syfers en presisie
Die berekeningsvariasiewydte, aantal syfers wat vir interne berekening gebruik word, en berekeningspresisie, hang af van die tipe berekening wat uitgevoer word.
Berekeningsvariasiewydte en Presisie
| Berekeningsvariasiewydte | ±1 × 10-99 tot ±9,999999999 × 1099 of 0 |
| Aantal syfers vir interne berekening | 15 syfers |
| Presisie | Oor die algemeen ±1 by die 10de syfer van 'n enkele berekening. Presisie vir eksponensiële vertoon is ±1 by die mins beduidende syfer. Foute is kumulatief in die geval van opeenvolgende berekeninge. |
Insleutelvariasiewydte en Presisie van Funksieberekeninge
| Funksies | Insleutelvariasiewydte | |
|---|---|---|
| sinx cosx |
Deg | 0 ≦ |x| < 9 × 109 |
| Rad | 0 ≦ |x| < 157079632,7 | |
| Gra | 0 ≦ |x| < 1 × 1010 | |
| tanx | Deg | Dieselfde as sinx, behalwe waar |x| = (2n-1) × 90. |
| Rad | Dieselfde as sinx, behalwe waar |x| = (2n-1) × π/2. | |
| Gra | Dieselfde as sinx, behalwe waar |x| = (2n-1) × 100. | |
| sin-1x, cos-1x | 0 ≦ |x| ≦ 1 | |
| tan-1x | 0 ≦ |x| ≦ 9,999999999 × 1099 | |
| sinhx, coshx | 0 ≦ |x| ≦ 230,2585092 | |
| sinh-1x | 0 ≦ |x| ≦ 4,999999999 × 1099 | |
| cosh-1x | 1 ≦ x ≦ 4,999999999 × 1099 | |
| tanhx | 0 ≦ |x| ≦ 9,999999999 × 1099 | |
| tanh-1x | 0 ≦ |x| ≦ 9,999999999 × 10-1 | |
| logx, lnx | 0 < x ≦ 9,999999999 × 1099 | |
| 10x | -9,999999999 × 1099 ≦ x ≦ 99,99999999 | |
| ex | -9,999999999 × 1099 ≦ x ≦ 230,2585092 | |
| √x | 0 ≦ x < 1 × 10100 | |
| x2 | |x| < 1 × 1050 | |
| x-1 | |x| < 1 × 10100; x ≠ 0 | |
| 3√x | |x| < 1 × 10100 | |
| x! | 0 ≦ x ≦ 69 (x is 'n heelgetal) | |
| nPr | 0 ≦ n < 1 × 1010, 0 ≦ r ≦ n (n, r is heelgetalle) 1 ≦ {n!/(n-r)!} < 1 × 10100 |
|
| nCr | 0 ≦ n < 1 × 1010, 0 ≦ r ≦ n (n, r is heelgetalle) 1 ≦ n!/r! < 1 × 10100 of 1 ≦ n!/(n-r)! < 1 × 10100 |
|
| Pol(x; y) | |x|, |y| ≦ 9,999999999 × 1099 √x2 + y2 ≦ 9,999999999 × 1099 |
|
| Rec(r; θ) | 0 ≦ r ≦ 9,999999999 × 1099 θ: Dieselfde as sinx |
|
| °' " | a°b’c”: |a|, b, c < 1 × 10100; 0 ≦ b, c Die sekondewaarde wat vertoon word, is onderhewig aan 'n fout van ±1 by die tweede desimale waarde. |
|
| °' "← | |x| < 1 × 10100 |
|
| xy | x > 0: -1 × 10100 < ylogx < 100 |
|
| x√y | y > 0: x ≠ 0, -1 × 10100 < 1/x logy < 100 |
|
| a b/c | Die totaal van die heelgetal, noemer en teller moet 10 of minder syfers wees. Dit sluit die deelstreep in. | |
| RanInt#(a; b) | a < b; |a|, |b| < 1 × 1010; b - a < 1 × 1010 | |
| GCD(a; b) | |a|, |b| < 1 × 1010 (a, b is heelgetalle) | |
| LCM(a; b) | 0 ≦ a, b < 1 × 1010 (a, b is heelgetalle) | |
Presisie is basies dieselfde soos beskryf is onder "Berekeningsvariasiewydte en Presisie" hierbo.
xy, x√y, 3√ , x!, nPr, nCr-tipe funksies vereis opeenvolgende interne berekening, wat veroorsaak dat foute ophoop wat tydens elke berekening voorkom.
Fout (Error) is kumulatief en neig om groot te wees by die funksie se singuliere punt en infleksiepunt.
Die variasiewydte vir berekeningsresultate wat vertoon word in π-formaat wanneer natuurlike vertoon gebruik word, is |x| < 106. Let daarop dat interne berekeningsfoute dit onmoontlik kan maak om antwoorde in π-formaat te gee. Dit kan ook veroorsaak dat antwoorde wat in desimale formaat gegee moet word in π-formaat gegee word.
