Numeriske utregninger
Denne delen forklarer kommandoer og funksjoner du kan sette inn etter å ha utført operasjonen: – [Numeric Calc].
Absolute Value
Når du utfører en utregning med et reelt tall, inneholder denne funksjonen den absolutte verdien.
Eksempel: |2 - 7| = Abs(2 - 7) = 5
(Input/Output: MathI/MathO)
– [Numeric Calc] > [Absolute Value]
27
(Input/Output: LineI/LineO)
– [Numeric Calc] > [Absolute Value]
27
Round Off
Hvis du bruker Round Off-funksjonen (Rnd) fører det til at desimalbrøkverdier av argumentet blir avrundet i henhold til den gjeldende innstillingen for Number Format. For eksempel er det interne og det viste resultatet for Rnd(10 ÷ 3) 3,333 når innstillingen for Number Format er Fix 3. Hvis du bruker innstillingen Norm 1 eller Norm 2, blir argumentet avrundet ved det 11. sifferet av mantissedelen.
Eksempel: Slik utfører du de følgende utregningene når Fix 3 er valgt for antall sifre som skal vises: 10 ÷ 3 × 3 og Rnd(10 ÷ 3) × 3
(Input/Output: MathI/DecimalO, Number Format: Fix 3)
- 10
3
3
– [Numeric Calc] > [Round Off]
103
3