Numerieke berekeningen
In deze sectie worden commando’s en functies uitgelegd die u kunt invoeren nadat u de volgende bewerking hebt uitgevoerd:
– [Numeric Calc].
Absolute Value
Wanneer u een berekening met een reëel getal uitvoert, krijgt deze functie gewoon de absolute waarde.
Voorbeeld: |2 - 7| = Abs(2 - 7) = 5
(Input/Output: MathI/MathO)
– [Numeric Calc] > [Absolute Value]
2
7

(Input/Output: LineI/LineO)
– [Numeric Calc] > [Absolute Value]
2
7


Round Off
Met de functie Round Off (Rnd) worden decimale breukwaarden van het argument afgerond in overeenstemming met de huidige instelling Number Format. Het interne en weergegeven resultaat van Rnd(10 ÷ 3) is bijvoorbeeld 3,333 wanneer de instelling Number Format Fix 3 is. Als u de instelling Norm 1 of Norm 2 gebruikt, wordt het argument op het 11e cijfer van het mantissegedeelte afgerond.
Voorbeeld: Om de volgende berekeningen uit te voeren als Fix 3 is geselecteerd voor het aantal weer te geven cijfers: 10 ÷ 3 × 3 en Rnd(10 ÷ 3) × 3
(Input/Output: MathI/DecimalO, Number Format: Fix 3)
- 10
3
3

– [Numeric Calc] > [Round Off]
10
3
3

