跳過內容

數值計算

本節說明執行操作後可輸入的命令及函數: – [Numeric Calc]。

Absolute Value

執行實數計算時,此函數只會求得絕對值。


範例:|2 - 7| = Abs(2 - 7) = 5

(Input/Output:MathI/MathO)

  • – [Numeric Calc] > [Absolute Value]
    27

(Input/Output:LineI/LineO)

  • – [Numeric Calc] > [Absolute Value]
    27

Round Off

使用 Round Off 函數(Rnd)會使引數的十進位小數值按照目前的 Number Format 設定進行捨入。例如,當 Number Format 設定為 Fix 3 時,Rnd(10 ÷ 3) 的內部及顯示結果為 3.333。使用 Norm 1 或 Norm 2 設定時,會在引數尾數部分的第 11 位數字進行四捨五入。


範例:若要在選擇 Fix 3 作為顯示位數時執行以下計算式:10 ÷ 3 × 3 和 Rnd(10 ÷ 3) × 3

(Input/Output:MathI/DecimalO,Number Format:Fix 3)

  • 1033
  • – [Numeric Calc] > [Round Off]
    1033
頁首