Overslaan en naar inhoud gaan

Numerieke berekeningen

Dit hoofdstuk legt de commando’s en functies uit die u kunt invoeren na de bewerking: – [Numeric Calc].

Absolute Value

Wanneer u een berekening met een reëel getal uitvoert, gaat deze functie enkel op zoek naar de absolute waarde.


Voorbeeld: |2 - 7| = Abs(2 - 7) = 5

(Input/Output: MathI/MathO)

  • – [Numeric Calc] > [Absolute Value]
    27

(Input/Output: LineI/LineO)

  • – [Numeric Calc] > [Absolute Value]
    27

Round Off

Met de Round Off-functie (Rnd) worden decimale breukwaarden van het argument afgerond volgens de huidige instelling van Number Format. Het interne en weergegeven resultaat van Rnd(10 ÷ 3) is bijvoorbeeld 3,333 wanneer de Number Format-instelling Fix 3 is. Met de instellingen Norm 1 of Norm 2 wordt het argument afgerond aan het 11e cijfer van het mantissegedeelte.


Voorbeeld: De volgende berekeningen uitvoeren wanneer Fix 3 is geselecteerd voor het aantal weergegeven cijfers: 10 ÷ 3 × 3 en Rnd(10 ÷ 3) × 3

(Input/Output: MathI/DecimalO, Number Format: Fix 3)

  • 1033
  • – [Numeric Calc] > [Round Off]
    1033
Begin van pagina