Диапазоны вычислений, количество знаков и точность
Диапазон вычислений, количество цифр, используемых для внутренних вычислений, и точность вычислений зависит от типа выполняемого вычисления.
Диапазон и точность вычислений
| Диапазон вычислений | От ±1 × 10-99 до ±9,999999999 × 1099 или 0 |
| Количество цифр для внутреннего расчета | 15 цифр |
| Точность | В среднем ±1 на 10-й цифре для единичного вычисления. Точность для представления в экспоненциальном формате ±1 на наименее значимой цифре. В случае выполнения последовательных вычислений погрешность накапливается. |
Диапазоны вводимых значений и точность при вычислении функций
| Функции | Диапазон вводимых значений | |
|---|---|---|
| sinx cosx |
Deg | 0 ≦ |x| < 9 × 109 |
| Rad | 0 ≦ |x| < 157079632,7 | |
| Gra | 0 ≦ |x| < 1 × 1010 | |
| tanx | Deg | Как для sinx, за исключением |x| = (2n-1) × 90. |
| Rad | Как для sinx, за исключением |x| = (2n-1) × π/2. | |
| Gra | Как для sinx, за исключением |x| = (2n-1) × 100. | |
| sin-1x, cos-1x | 0 ≦ |x| ≦ 1 | |
| tan-1x | 0 ≦ |x| ≦ 9,999999999 × 1099 | |
| sinhx, coshx | 0 ≦ |x| ≦ 230,2585092 | |
| sinh-1x | 0 ≦ |x| ≦ 4,999999999 × 1099 | |
| cosh-1x | 1 ≦ x ≦ 4,999999999 × 1099 | |
| tanhx | 0 ≦ |x| ≦ 9,999999999 × 1099 | |
| tanh-1x | 0 ≦ |x| ≦ 9,999999999 × 10-1 | |
| logx, lnx | 0 < x ≦ 9,999999999 × 1099 | |
| 10x | -9,999999999 × 1099 ≦ x ≦ 99,99999999 | |
| ex | -9,999999999 × 1099 ≦ x ≦ 230,2585092 | |
| √x | 0 ≦ x < 1 × 10100 | |
| x2 | |x| < 1 × 1050 | |
| x-1 | |x| < 1 × 10100; x ≠ 0 | |
| 3√x | |x| < 1 × 10100 | |
| x! | 0 ≦ x ≦ 69 (x является целым числом) | |
| nPr | 0 ≦ n < 1 × 1010, 0 ≦ r ≦ n (n, r являются целыми числами) 1 ≦ {n!/(n-r)!} < 1 × 10100 |
|
| nCr | 0 ≦ n < 1 × 1010, 0 ≦ r ≦ n (n, r являются целыми числами) 1 ≦ n!/r! < 1 × 10100 или 1 ≦ n!/(n-r)! < 1 × 10100 |
|
| Pol(x, y) | |x|, |y| ≦ 9,999999999 × 1099 √x2 + y2 ≦ 9,999999999 × 1099 |
|
| Rec(r, θ) | 0 ≦ r ≦ 9,999999999 × 1099 θ: Как для sinx |
|
| °’ ” | a°b’c”: |a|, b, c < 1 × 10100; 0 ≦ b, c При отображении значений в секундах возникает погрешность ±1 на втором десятичном символе. |
|
| °’ ”← | |x| < 1 × 10100 |
|
| xy | x > 0: -1 × 10100 < ylogx < 100 |
|
| x√y | y > 0: x ≠ 0, -1 × 10100 < 1/x logy < 100 |
|
| a b/c | В общей сложности целое число, числитель и знаменатель должны включать не более 10 цифр (с учетом символа разделителя). | |
| RanInt#(a, b) | a < b; |a|, |b| < 1 × 1010; b - a < 1 × 1010 | |
Точность обычно совпадает с описанной выше в разделе «Диапазон и точность вычислений».
Типы функций xy, x√y, 3√ , x!, nPr, nCr требуют выполнения последовательных внутренних вычислений, что приводит к накоплению погрешностей, образующихся при проведении отдельных вычислительных операций.
Погрешность является совокупной и имеет тенденцию становится значительной вблизи точек сингулярности и перегиба кривой функции.
Диапазон результатов вычислений, которые могут отображаться в форме π при использовании естественного отображения чисел составляет |x| < 106. Однако следует принимать во внимание, что погрешность внутренних вычислений делает возможным отображение некоторых результатов в форме π. Она же приводит к тому, что некоторые результаты, которые должны представляться в десятичной форме, отображаются в форме π.
