Numeriska beräkningar
I det här avsnittet beskrivs kommandon och funktioner som du kan mata in efter att du har utfört operationen: – [Numeric Calc].
Absolute Value
När du utför en beräkning av reella tal erhåller den här funktionen helt enkelt det absoluta värdet.
Exempel: |2 - 7| = Abs(2 - 7) = 5
(Input/Output: MathI/MathO)
– [Numeric Calc] > [Absolute Value]
27
(Input/Output: LineI/LineO)
– [Numeric Calc] > [Absolute Value]
27
Round Off
Om du använder Round Off-funktionen avrundas decimalbråkvärdena för argumentet i enlighet med den aktuella Number Format-inställningen. Till exempel är det interna och visade resultatet för Rnd(10 ÷ 3) 3,333 när Number Format-inställningen är Fix 3. Om du använder inställningen Norm 1 eller Norm 2 så avrundas argumentet med den 11:e siffran i mantissadelen.
Exempel: Så här utför du följande beräkningar när Fix 3 väljs för antalet visningssiffror: 10 ÷ 3 × 3 och Rnd(10 ÷ 3) × 3
(Input/Output: MathI/DecimalO, Number Format: Fix 3)
- 10
3
3
– [Numeric Calc] > [Round Off]
103
3