Numerieke berekeningen
Dit hoofdstuk legt de commando’s en functies uit die u kunt invoeren na de bewerking: – [Numeric Calc].
GCD, LCM
GCD bepaalt de grootste gemene deler van twee waarden en LCM bepaalt het kleinste gemene veelvoud.
Voorbeeld 1: De grootste gemene deler van 28 en 35 bepalen
- – [Numeric Calc] > [GCD]
2835
Voorbeeld 2: Het kleinste gemene veelvoud van 9 en 15 bepalen
- – [Numeric Calc] > [LCM]
915
Absolute Value
Wanneer u een berekening met een reëel getal uitvoert, gaat deze functies enkel op zoek naar de absolute waarde.
Voorbeeld: |2 - 7| = Abs(2 - 7) = 5
(Input/Output: MathI/MathO)
- – [Numeric Calc] > [Absolute Value]
27
(Input/Output: LineI/LineO)
- – [Numeric Calc] > [Absolute Value]
27
Integer Part
Deze functie haalt het gehele gedeelte uit een waarde.
Voorbeeld: Het gehele gedeelte uit -3,5 halen
- – [Numeric Calc] > [Integer Part]
((-))35
Round Off
Met de Round Off-functie (Rnd) worden decimale breukwaarden van het argument afgerond volgens de huidige instelling van Number Format. Het interne en weergegeven resultaat van Rnd(10 ÷ 3) is bijvoorbeeld 3,333 wanneer de Number Format-instelling Fix 3 is. Met de instellingen Norm 1 of Norm 2 wordt het argument afgerond aan het 11e cijfer van het mantissegedeelte.
Voorbeeld: De volgende berekeningen uitvoeren wanneer Fix 3 is geselecteerd voor het aantal weergegeven cijfers: 10 ÷ 3 × 3 en Rnd(10 ÷ 3) × 3
(Input/Output: MathI/DecimalO, Number Format: Fix 3)
- 1033
- – [Numeric Calc] > [Round Off]
1033
Largest Integer
Deze functie bepaalt het grootste geheel getal dat een waarde niet overschrijdt.
Voorbeeld: Het grootste geheel getal bepalen dat -3,5 niet overschrijdt
- – [Numeric Calc] > [Largest Integer]
((-))35
Round Internal
Deze functie rondt een waarde af naar het aangegeven aantal decimalen (0 tot 9).
Voorbeeld: RndFix(1,23456; 4) = 1,2346
- – [Numeric Calc] > [Round Internal]
1234564