Перейти к содержанию

CASIO

ИНСТРУКЦИЯ ПО ЭКСПЛУАТАЦИИ

Найти

Диапазоны вычислений, количество знаков и точность

Диапазон вычислений, количество цифр, используемых для внутренних вычислений, и точность вычислений зависит от типа выполняемого вычисления.

Диапазон и точность вычислений

Диапазон вычислений От ±1 × 10-99 до ±9,999999999 × 1099 или 0
Количество цифр для внутреннего расчета 15 цифр
Точность В среднем ±1 на 10-й цифре для единичного вычисления. Точность для представления в экспоненциальном формате ±1 на наименее значимой цифре. В случае выполнения последовательных вычислений погрешность накапливается.

Диапазоны вводимых значений и точность при вычислении функций

Функции Диапазон вводимых значений
sinx
cosx		 Deg 0 ≦ |x| < 9 × 109
Rad 0 ≦ |x| < 157079632,7
Gra 0 ≦ |x| < 1 × 1010
tanx Deg Как для sinx, за исключением |x| = (2n-1) × 90.
Rad Как для sinx, за исключением |x| = (2n-1) × π/2.
Gra Как для sinx, за исключением |x| = (2n-1) × 100.
sin-1x, cos-1x 0 ≦ |x| ≦ 1
tan-1x 0 ≦ |x| ≦ 9,999999999 × 1099
sinhx, coshx 0 ≦ |x| ≦ 230,2585092
sinh-1x 0 ≦ |x| ≦ 4,999999999 × 1099
cosh-1x 1 ≦ x ≦ 4,999999999 × 1099
tanhx 0 ≦ |x| ≦ 9,999999999 × 1099
tanh-1x 0 ≦ |x| ≦ 9,999999999 × 10-1
logx, lnx 0 < x ≦ 9,999999999 × 1099
10x -9,999999999 × 1099 ≦ x ≦ 99,99999999
ex -9,999999999 × 1099 ≦ x ≦ 230,2585092
√x 0 ≦ x < 1 × 10100
x2 |x| < 1 × 1050
x-1 |x| < 1 × 10100; x ≠ 0
3√x |x| < 1 × 10100
x! 0 ≦ x ≦ 69 (x является целым числом)
nPr

0 ≦ n < 1 × 1010, 0 ≦ r ≦ n (n, r являются целыми числами)

1 ≦ {n!/(n-r)!} < 1 × 10100
nCr

0 ≦ n < 1 × 1010, 0 ≦ r ≦ n (n, r являются целыми числами)

1 ≦ n!/r! < 1 × 10100 или 1 ≦ n!/(n-r)! < 1 × 10100
Pol(x, y)

|x|, |y| ≦ 9,999999999 × 1099

√x2 + y2 ≦ 9,999999999 × 1099
Rec(r, θ)

0 ≦ r ≦ 9,999999999 × 1099

θ: Как для sinx
°’ ”

a°b’c”: |a|, b, c < 1 × 10100; 0 ≦ b, c

При отображении значений в секундах возникает погрешность ±1 на втором десятичном символе.
°’ ”←

|x| < 1 × 10100
Преобразование Десятичные значения ↔ Шестидесятеричные значения

0°0’0” ≦ |x| ≦ 9999999°59’59”
xy

x > 0: -1 × 10100 < ylogx < 100
x = 0: y > 0
x < 0: y = n, m2n + 1 (m, n являются целыми числами)

Однако: -1 × 10100 < ylog |x| < 100
x√y

y > 0: x ≠ 0, -1 × 10100  < 1/x logy < 100
y = 0: x > 0
y < 0: x = 2n+1, 2n + 1　 m　 (m ≠ 0; m, n являются целыми числами)

Однако: -1 × 10100 < 1/x log |y| < 100
a b/c В общей сложности целое число, числитель и знаменатель должны включать не более 10 цифр (с учетом символа разделителя).
RanInt#(a, b) a < b; |a|, |b| < 1 × 1010; b - a < 1 × 1010

Точность обычно совпадает с описанной выше в разделе «Диапазон и точность вычислений».

Типы функций xy, x√y, 3√ , x!, nPr, nCr требуют выполнения последовательных внутренних вычислений, что приводит к накоплению погрешностей, образующихся при проведении отдельных вычислительных операций.

Погрешность является совокупной и имеет тенденцию становится значительной вблизи точек сингулярности и перегиба кривой функции.

Диапазон результатов вычислений, которые могут отображаться в форме π при использовании естественного отображения чисел составляет |x| < 106. Однако следует принимать во внимание, что погрешность внутренних вычислений делает возможным отображение некоторых результатов в форме π. Она же приводит к тому, что некоторые результаты, которые должны представляться в десятичной форме, отображаются в форме π.

Распечатать эту страницу
Начало страницы