Metrohm 840 PC Control 5.0 / Touch Control - Manuel (Page 353)

6 Annexe
PC Control / Touch Control
343
6.8 Algorithmes de calcul utilisés dans le Titrando
Vous trouverez ci-dessous des explications relatives à certains des al-
gorithmes utilisés dans les logiciels d’appareil, ainsi que sur les formats
numériques.
Format numérique
Le standard IEEE 754 (1985) pour l’arithmétique binaire à virgule flot-
tante, respectivement simple précision (32 bits), est implémenté dans
le logiciel.
Procédure permettant d’arrondir les valeurs numériques
Les valeurs mesurées et les résultats sont, suivant le réglage utilisateur
employé, représentés sous leur forme arrondie. La valeur numérique
est arrondie arithmétiquement selon la procédure suivante:
Exemple pour arrondir une valeur à n = 3 décimales après la virgule:
1. 99.644499
99644.499
2. 99644.499 99644.999
3. 99644.499 99644
4. 99644 99.644
Statistique
La moyenne arithmétique, ainsi que la déviation standard absolue et la
déviation standard relative des résultats R, points finaux EP et variables
C sont calculées:
Sur la base d’une détermination, il est possible d’évaluer statistique-
ment neuf résultats au maximum, disposant chacun au plus de 20 dé-
terminations.
La convention suivante est valable dans les formules suivantes:
1 ≤ n ≤ 20
1 ≤ k ≤ 9
Valeur moyenne
k
x :
∑
=
⋅ =
n
1 i
i, k k
R
n
1
x
Déviation standard absolue S abs
k
:
( )
1 n
x R
abs S
n
1 i
2
k i, k
k −
−
+ =
∑
=
Déviation standard relative S rel
k
(in %):
k
k
k x
abs S
100 rel S ⋅ =
cut
⋅ 10 -n
+ 0.5
⋅ 10 n