跳过内容

算术运算

本部分介绍执行操作: – [数值计算] 后可输入的命令和函数。

绝对值

执行实数计算时,此函数仅会得到绝对值。


示例:|2 - 7| = Abs(2 - 7) = 5

(输入/输出:数学输入/数学输出)

  • – [数值计算] > [绝对值]
    27

(输入/输出:线性输入/线性输出)

  • – [数值计算] > [绝对值]
    27

四舍五入

使用四舍五入函数 (Rnd) 会根据当前显示格式设定舍入该参数的小数值。例如,显示格式设定为位数(Fix) 3 时,Rnd(10 ÷ 3) 的内部和显示结果为 3.333。如果使用常规(Norm) 1 或 常规(Norm) 2 设置,自变量将舍入至尾数部分的第 11 位。


示例:要在为显示位数选择位数(Fix) 3 时执行以下计算:10 ÷ 3 × 3 和 Rnd(10 ÷ 3) × 3

(输入/输出:数学输入/小数输出、显示格式:位数(Fix) 3)

  • 1033
  • – [数值计算] > [四舍五入]
    1033
页面顶部