數值計算
本節說明執行操作後可輸入的命令及函數: – [Numeric Calc]。
Absolute Value
執行實數計算時,此函數只會求得絕對值。
範例:|2 - 7| = Abs(2 - 7) = 5
(Input/Output:MathI/MathO)
- – [Numeric Calc] > [Absolute Value]
27
(Input/Output:LineI/LineO)
- – [Numeric Calc] > [Absolute Value]
27
Round Off
使用 Round Off 函數(Rnd)會使引數的十進位小數值按照目前的 Number Format 設定進行捨入。例如,當 Number Format 設定為 Fix 3 時,Rnd(10 ÷ 3) 的內部及顯示結果為 3.333。使用 Norm 1 或 Norm 2 設定時,會在引數尾數部分的第 11 位數字進行四捨五入。
範例:若要在選擇 Fix 3 作為顯示位數時執行以下計算式:10 ÷ 3 × 3 和 Rnd(10 ÷ 3) × 3
(Input/Output:MathI/DecimalO,Number Format:Fix 3)
- 1033
- – [Numeric Calc] > [Round Off]
1033