Numerieke berekeningen
Dit hoofdstuk legt de commando’s en functies uit die u kunt invoeren na de bewerking:
– [Numeric Calc].
Absolute Value
Wanneer u een berekening met een reëel getal uitvoert, gaat deze functie enkel op zoek naar de absolute waarde.
Voorbeeld: |2 - 7| = Abs(2 - 7) = 5
(Input/Output: MathI/MathO)
– [Numeric Calc] > [Absolute Value]
2
7

(Input/Output: LineI/LineO)
– [Numeric Calc] > [Absolute Value]
2
7


Round Off
Met de Round Off-functie (Rnd) worden decimale breukwaarden van het argument afgerond volgens de huidige instelling van Number Format. Het interne en weergegeven resultaat van Rnd(10 ÷ 3) is bijvoorbeeld 3,333 wanneer de Number Format-instelling Fix 3 is. Met de instellingen Norm 1 of Norm 2 wordt het argument afgerond aan het 11e cijfer van het mantissegedeelte.
Voorbeeld: De volgende berekeningen uitvoeren wanneer Fix 3 is geselecteerd voor het aantal weergegeven cijfers: 10 ÷ 3 × 3 en Rnd(10 ÷ 3) × 3
(Input/Output: MathI/DecimalO, Number Format: Fix 3)
- 10
3
3

– [Numeric Calc] > [Round Off]
10
3
3

