Calculs numériques

Cette section explique les commandes et fonctions que vous pouvez saisir après avoir effectué l’opération : – [Numeric Calc].

Absolute Value

Lorsque vous effectuez un calcul de nombre réel, cette fonction permet simplement d’obtenir la valeur absolue.

Exemple : |2 - 7| = Abs(2 - 7) = 5

(Input/Output : MathI/MathO)

– [Numeric Calc] > [Absolute Value]
27

(Input/Output : LineI/LineO)

– [Numeric Calc] > [Absolute Value]
27

Round Off

L’utilisation de la fonction Round Off (Rnd) permet d’arrondir les valeurs de fraction décimale de l’argument selon le réglage Number Format actuel. Par exemple, le résultat interne et affiché de Rnd(10 ÷ 3) est 3.333 lorsque le réglage Number Format est Fix 3. L’utilisation du réglage Norm 1 ou Norm 2 arrondit l’argument à la 11e décimale de la mantisse.

Exemple : pour effectuer le calcul suivant lorsque Fix 3 est sélectionné comme le nombre de chiffres à afficher : 10 ÷ 3 × 3 et Rnd(10 ÷ 3) × 3

(Input/Output : MathI/DecimalO, Number Format : Fix 3)