数值计算
本部分介绍执行操作:
– [数值计算] 后可输入的命令和函数。
最大公约数(GCD)、最小公倍数(LCM)
最大公约数(GCD)计算两个整数的最大公约数,而最小公倍数(LCM)计算两个整数的最小公倍数。
示例1: 计算 28 和 35 的最大公约数
– [数值计算] > [最大公约数(GCD)]
28
(,)35


示例2: 计算 9 和 15 的最小公倍数
– [数值计算] > [最小公倍数(LCM)]
9
(,)15


绝对值(Abs)
执行实数计算时,此函数仅会得到绝对值。
示例:|2 − 7| = Abs(2 − 7) = 5
(输入/输出:数学输入/数学输出)
– [数值计算] > [绝对值(Abs)]
2
7

(输入/输出:线性输入/线性输出)
– [数值计算] > [绝对值(Abs)]
2
7


循环小数(
)
可使用以下菜单操作输入循环小数。
– [数值计算] > [循环小数(
)]
详细信息,请参见“循环小数转换(循环小数计算)”。
取整数部分(Int)
此函数提取数值的整数部分。
示例: 提取 −3.5 的整数部分
– [数值计算] > [取整数部分(Int)]
3
5


显示格式四舍五入(Rnd)
使用显示格式四舍五入函数 (Rnd) 会根据当前显示格式设置进行四舍五入。例如,显示格式设定为“Fix3:0.123”时,Rnd(10 ÷ 3) 的内部和显示结果为 3.333。如果使用 Norm1:1.23
或 Norm2:0.00123 设置,计算结果将按内部有效数字的第 11 位进行四舍五入。
示例:在为小数位数选择“Fix3:0.123”时执行以下计算:10 ÷ 3 × 3 和 Rnd(10 ÷ 3) × 3
(输入/输出:数学输入/小数输出、显示格式:Fix3:0.123)
- 10
3
3

– [数值计算] > [显示格式四舍五入(Rnd)]
10
3
3

向下取整(Intg)
此函数提取不超过数值的最大整数。
示例: 提取不超过 −3.5 的最大整数
– [数值计算] > [向下取整(Intg)]
3
5


小数位数四舍五入(RndFix)
此函数将数值四舍五入到指定的小数位数 (0~9)。
示例: RndFix(1.23456, 4) = 1.2346
– [数值计算] > [小数位数四舍五入(RndFix)]
1
23456
(,)4


