Numerische Berechnungen
In diesem Abschnitt werden Befehle und Funktionen erläutert, die Sie nach der Durchführung der Operation eingeben können:
– [Numeric Calc].
Absolute Value
Wenn Sie eine Berechnung mit reellen Zahlen ausführen, bestimmt diese Funktion einfach den Absolutwert.
Beispiel: |2 - 7| = Abs(2 - 7) = 5
(Input/Output: MathI/MathO)
– [Numeric Calc] > [Absolute Value]
2
7

(Input/Output: LineI/LineO)
– [Numeric Calc] > [Absolute Value]
2
7


Round Off
Mit der Round Off-Funktion (Rnd) werden Dezimalbruchwerte des Arguments entsprechend der aktuellen Number Format-Einstellung gerundet. Zum Beispiel ist das interne und das angezeigte Ergebnis von Rnd(10 ÷ 3) 3.333, wenn die Number Format-Einstellung Fix 3 ist. Mit der Einstellung Norm 1 oder Norm 2 wird das Argument an der 11. Stelle des Mantissenteils abgerundet.
Beispiel: Ausführen folgender Berechnungen, wenn Fix 3 für die Anzahl an Anzeigeziffern gewählt wurde: 10 ÷ 3 × 3 und Rnd(10 ÷ 3) × 3
(Input/Output: MathI/DecimalO, Number Format: Fix 3)
- 10
3
3

– [Numeric Calc] > [Round Off]
10
3
3

