算术运算
本部分介绍执行操作: – [数值计算] 后可输入的命令和函数。
绝对值
执行实数计算时,此函数仅会得到绝对值。
示例:|2 - 7| = Abs(2 - 7) = 5
(输入/输出:数学输入/数学输出)
- – [数值计算] > [绝对值]
27
(输入/输出:线性输入/线性输出)
- – [数值计算] > [绝对值]
27
四舍五入
使用四舍五入函数 (Rnd) 会根据当前显示格式设定舍入该参数的小数值。例如,显示格式设定为位数(Fix) 3 时,Rnd(10 ÷ 3) 的内部和显示结果为 3.333。如果使用常规(Norm) 1 或 常规(Norm) 2 设置,自变量将舍入至尾数部分的第 11 位。
示例:要在为显示位数选择位数(Fix) 3 时执行以下计算:10 ÷ 3 × 3 和 Rnd(10 ÷ 3) × 3
(输入/输出:数学输入/小数输出、显示格式:位数(Fix) 3)
- 1033
- – [数值计算] > [四舍五入]
1033