Cálculos numéricos
En esta sección se explican los comandos y funciones que puede introducir después de realizar la operación: – [Numeric Calc].
Absolute Value
Cuando se realiza un cálculo de números reales, esta función simplemente obtiene el valor absoluto.
Ejemplo: |2 - 7| = Abs(2 - 7) = 5
(Input/Output: MathI/MathO)
- – [Numeric Calc] > [Absolute Value]
27
(Input/Output: LineI/LineO)
- – [Numeric Calc] > [Absolute Value]
27
Round Off
El uso de la función Round Off (Rnd) hace que los valores de las fracciones decimales del argumento se redondeen de acuerdo con el ajuste actual de Number Format. Por ejemplo, el resultado interno y de visualización de Rnd(10 ÷ 3) es 3,333 cuando el ajuste de Number Format es Fix 3. El uso de los ajustes Norm 1 o Norm 2 hace que el argumento se redondee en el 11º dígito de la parte de la mantisa.
Ejemplo: Para realizar los cálculos que se indican a continuación cuando se selecciona Fix 3 para el número de dígitos de la pantalla: 10 ÷ 3 × 3 y Rnd(10 ÷ 3) × 3
(Input/Output: MathI/DecimalO, Number Format: Fix 3)
- 1033
- – [Numeric Calc] > [Round Off]
1033