Функция округления (Rnd)
Аргумент этой функции принимает форму десятичного значения, а затем округляется в соответствии с текущей настройкой количества отображаемых цифр (Norm, Fix или Sci).
При использовании настройки Norm 1 или Norm 2 аргумент округляется до 10 цифр.
При использовании настроек Fix и Sci аргумент округляется до указанного десятичного разряда.
Например, при использовании настройки отображения десятичных разрядов Fix 3 результат вычисления выражения 10 ÷ 3 отображается в формате 3,333, но для внутренних расчетов калькулятор сохраняет значение 3,33333333333333 (15 цифр).
При вычислении функции Rnd(10÷3) = 3,333 (с использованием настройки Fix 3) и отображаемое значение, и внутреннее значение калькулятора равны 3,333.
Поэтому последовательные вычисления дают разный результат, если настройка Rnd используется (Rnd(10÷3) × 3 = 9,999) или не используется (10 ÷ 3 × 3 = 10,000).
Пример. Выполнение следующих вычислений при выборе настройки Fix 3 для количества отображаемых цифр: 10 ÷ 3 × 3 и Rnd(10 ÷ 3) × 3 (LineIO)
- (SETUP)(Fix)
1033 - 10,000
- (Rnd) 1033
- 9,999