跳过内容

数值计算

本部分介绍执行操作: – [数值计算] 后可输入的命令和函数。

最大公约数(GCD)、最小公倍数(LCM)

最大公约数(GCD)计算两个整数的最大公约数,而最小公倍数(LCM)计算两个整数的最小公倍数。


示例1: 计算 28 和 35 的最大公约数

  • – [数值计算] > [最大公约数(GCD)]
    28(,)35

示例2: 计算 9 和 15 的最小公倍数

  • – [数值计算] > [最小公倍数(LCM)]
    9(,)15

绝对值(Abs)

此函数可用于计算实数的绝对值。使用 (||) 或 – [数值计算] > [绝对值(Abs)] 来输入绝对值函数。


示例:|2 − 7| = Abs(2 − 7) = 5

(输入/输出:数学输入/数学输出)

  • (||)27

(输入/输出:线性输入/线性输出)

  • (||)27

循环小数()

可使用以下菜单操作输入循环小数。
– [数值计算] > [循环小数()] 详细信息,请参见“循环小数转换(循环小数计算)”

取整数部分(Int)

此函数提取数值的整数部分。


示例: 提取 −3.5 的整数部分

  • – [数值计算] > [取整数部分(Int)]
    35

显示格式四舍五入(Rnd)

使用显示格式四舍五入函数 (Rnd) 会根据当前显示格式设置进行四舍五入。例如,显示格式设定为“Fix3:0.123”时,Rnd(10 ÷ 3) 的内部和显示结果为 3.333。如果使用 Norm1:1.23 或 Norm2:0.00123 设置,计算结果将按内部有效数字的第 11 位进行四舍五入。


示例:在为小数位数选择“Fix3:0.123”时执行以下计算:10 ÷ 3 × 3 和 Rnd(10 ÷ 3) × 3

(输入/输出:数学输入/小数输出、显示格式:Fix3:0.123)

  • 1033
  • – [数值计算] > [显示格式四舍五入(Rnd)]
    1033

向下取整(Intg)

此函数提取不超过数值的最大整数。


示例: 提取不超过 −3.5 的最大整数

  • – [数值计算] > [向下取整(Intg)]
    35

小数位数四舍五入(RndFix)

此函数将数值四舍五入到指定的小数位数 (0~9)。


示例: RndFix(1.23456, 4) = 1.2346

  • – [数值计算] > [小数位数四舍五入(RndFix)]
    123456(,)4
页面顶部