Numeriska beräkningar

I det här avsnittet beskrivs kommandon och funktioner som du kan mata in efter att du har utfört operationen: – [Numeric Calc].

Absolute Value

När du utför en beräkning av reella tal erhåller den här funktionen helt enkelt det absoluta värdet.

Exempel: |2 - 7| = Abs(2 - 7) = 5

(Input/Output: MathI/MathO)

– [Numeric Calc] > [Absolute Value]
27

(Input/Output: LineI/LineO)

– [Numeric Calc] > [Absolute Value]
27

Round Off

Om du använder Round Off-funktionen avrundas decimalbråkvärdena för argumentet i enlighet med den aktuella Number Format-inställningen. Till exempel är det interna och visade resultatet för Rnd(10 ÷ 3) 3,333 när Number Format-inställningen är Fix 3. Om du använder inställningen Norm 1 eller Norm 2 så avrundas argumentet med den 11:e siffran i mantissadelen.

Exempel: Så här utför du följande beräkningar när Fix 3 väljs för antalet visningssiffror: 10 ÷ 3 × 3 och Rnd(10 ÷ 3) × 3

(Input/Output: MathI/DecimalO, Number Format: Fix 3)