Hopp til innhold

Numeriske utregninger

Denne delen forklarer kommandoer og funksjoner du kan sette inn etter å ha utført operasjonen: – [Numeric Calc].

Absolute Value

Når du utfører en utregning med et reelt tall, inneholder denne funksjonen den absolutte verdien.


Eksempel: |2 - 7| = Abs(2 - 7) = 5

(Input/Output: MathI/MathO)

  • – [Numeric Calc] > [Absolute Value]
    27

(Input/Output: LineI/LineO)

  • – [Numeric Calc] > [Absolute Value]
    27

Round Off

Hvis du bruker Round Off-funksjonen (Rnd) fører det til at desimalbrøkverdier av argumentet blir avrundet i henhold til den gjeldende innstillingen for Number Format. For eksempel er det interne og det viste resultatet for Rnd(10 ÷ 3) 3,333 når innstillingen for Number Format er Fix 3. Hvis du bruker innstillingen Norm 1 eller Norm 2, blir argumentet avrundet ved det 11. sifferet av mantissedelen.


Eksempel: Slik utfører du de følgende utregningene når Fix 3 er valgt for antall sifre som skal vises: 10 ÷ 3 × 3 og Rnd(10 ÷ 3) × 3

(Input/Output: MathI/DecimalO, Number Format: Fix 3)

  • 1033
  • – [Numeric Calc] > [Round Off]
    1033
Toppen av siden