Donnée aberrante

 

Dans le cas de données normalement distribuées, la règle des trois sigmas indique qu'à peu près 1 observation sur 22 aura un écart avec la moyenne égal ou supérieur à 2 fois l'écart-type et qu'environ 1 observation sur 370 aura un écart avec la moyenne égal ou supérieur à 3 fois l'écart-type^[5]. Ainsi, cette loi empirique nous permet de déterminer si le nombre de données aberrantes trouvées est normal ou s'il faut rechercher une autre cause que celle du hasard statistique. Par exemple, dans un échantillon de 1000 valeurs, le fait de trouver 5 données aberrantes qui diffèrent de la moyenne d'un écart supérieur à 3 fois l'écart-type est « normal » - voir la distribution de Poisson - et ne suggère aucune anomalie dans la série de valeurs. Cependant, si la taille de l'échantillon est de 100 valeurs, le fait de trouver seulement 3 données aberrantes suffit à montrer qu'il y a une raison autre que le simple hasard (valeurs issues d'une autre population ou biais du modèle...) car cela représente plus de 11 fois le nombre attendu avec la règle des trois sigmas.

En général, si la nature de la distribution de la population est connue a priori, il est possible de tester si le nombre de données aberrantes diffère significativement de ce qui est attendu: pour un seuil donné (donc les valeurs ont une probabilité p de se situer dans l'intervalle [-seuil;seuil]) d'une distribution donnée, le nombre de données aberrantes suivra une distribution binomiale de paramètre p, qui peut généralement être approximée par une distribution de Poisson de paramètre λ = pn. Ainsi, si l'on prend une distribution normale avec un seuil à 3 écart-types de la moyenne, p est d'environ 0,3%, et donc pour 1000 valeurs, on peut approximer le nombre de valeurs dont l'écart est supérieur au seuil (donc 3σ) par une distribution de Poisson avec λ = 3.

Les données aberrantes peuvent avoir de multiples causes. Un appareil de mesure peut avoir un défaut de fonctionnement passager. Il peut y avoir une erreur dans la transmission ou dans la retranscription des données. Il peut y avoir eu un changement dans les procédures, un comportement frauduleux ou une erreur humaine. Un échantillon peut aussi avoir été « contaminé » par des individus n'appartenant pas à la population étudiée. Attention ! une donnée peut sembler aberrante alors qu'elle n'est qu’extrême et compatible avec les variations naturelles d'une population. Son caractère apparemment aberrant peut aussi révéler la mauvaise adéquation du modèle statistique utilisé pour interpréter les données, appelant à une enquête plus approfondie par le chercheur. L'aspect pathologique des données aberrantes d'une certaine forme (le mot pathologique est utilisé dans le sens où, quelles que soient les conditions de l'expérience, il y aura toujours des données extrêmes dues au hasard), qui apparaît dans une variété de séries de valeurs, peut indiquer que le mécanisme causal diffère entre les données aux extrémités de la série (King effect).

Il n'y a pas de définition mathématique claire sur ce qu'est une donnée aberrante. Déterminer si une observation est ou n'est pas une donnée aberrante est un exercice très subjectif. Il existe cependant des méthodes variées pour la détection des données aberrantes^[6],[7],[8]. Quelques-unes sont graphiques telles que la technique de la droite de Henry, d'autres sont basées sur des modèles, la technique des boites à moustaches est un hybride.

Les méthodes basées sur des modèles sont utilisées pour l'identification des données aberrantes lorsque les données sont issues d'une distribution normale. Ces méthodes identifient les observations qui sont considérées comme « peu probables » sur la base de la moyenne et de l'écart-type :

• test de Chauvenet ;
• test de Grubbs ;
• MMS^[9], test d'identification des données aberrantes en régression linéaire ;
• test de Peirce (en)^{[10],[11],[12],[13]}.

  « Il est proposé de déterminer dans une série de ${\displaystyle m}$  observations le seuil à partir duquel toutes les observations peuvent être rejetées, à condition qu'il y ait un nombre ${\displaystyle n}$  d'observations rejetées. On résout ce problème en considérant que les observations doivent être rejetées lorsque la probabilité d'erreur obtenue en les conservant est inférieure à la probabilité d'erreur obtenue en les rejetant multipliée par la probabilité de faire autant, et pas plus, d'observations anormales » (phrase citée dans l'éditorial à la page 516 sur Peirce (édition de 1982) du A Manual of Astronomy 2:558 de Chauvenet) ;

• test Q de Dixon ;
• les conventions E178 énoncées par l'ASTM International pour traiter les données aberrantes ;
• la distance de Mahalanobis et la technique de l'influence sont souvent utilisées pour détecter les données aberrantes, particulièrement lors du développement de modèle de régression linéaire.

D'autres méthodes existent également et sont basées sur des mesures telles que l'écart interquartile. Par exemple, si ${\displaystyle Q_{1}}$  et ${\displaystyle Q_{3}}$  sont respectivement le premier quartile et le troisième quartile, alors on peut définir une donnée aberrante comme étant toute valeur située à l'extérieur de l'intervalle:

${\displaystyle {\big [}Q_{1}-k(Q_{3}-Q_{1}),Q_{3}+k(Q_{3}-Q_{1}){\big ]}}$ 

avec ${\displaystyle k}$  une constante positive.

Dans la tâche d'exploration de données consistant en la détection d'anomalies, d'autres approches sont basées sur des distances^[14],[15] ou sur la densité^[16], et un grand nombre d'entre elles utilisent la méthode des k plus proches voisins pour identifier une valeur comme étant une donnée aberrante ou non^[17].

Le test Tau de Thompson modifié^[18] est une méthode utilisée pour déterminer s'il existe des données aberrantes dans une série de valeurs. La force de cette méthode réside dans le fait qu'elle prend en compte l'écart-type et la moyenne de la série et fournit un seuil de rejet déterminée statistiquement ; cela offre donc une méthode objective pour déterminer si une valeur est une donnée aberrante.

Déroulement du test: Premièrement, on détermine la moyenne de la série. Ensuite, on détermine l'écart à la moyenne de chaque valeur. Puis, un seuil de rejet est déterminé en utilisant la formule suivante : ${\displaystyle Seuil{=}{\frac {{t_{\alpha /2}}{\left(n-1\right)}}{{\sqrt {n}}{\sqrt {n-2+{t_{\alpha /2}^{2}}}}}}}$ ; où ${\displaystyle {t_{\alpha /2}}}$  est la valeur critique provenant de la table de la Loi de Student, ${\displaystyle n}$  est l'effectif de l'échantillon et ${\displaystyle s}$  est l'écart-type de l'échantillon.

Pour déterminer si une valeur est une donnée aberrante, calculer δ = ${\displaystyle {\frac {X-{\bar {x}}}{s}}}$  :

si δ > Seuil, la valeur est une donnée aberrante ;

si δ ≤ Seuil, la valeur n'est pas une donnée aberrante.

Le test Tau de Thompson modifié est utilisé pour trouver une donnée aberrante à la fois (la plus grande valeur de δ est changée si c'est une donnée aberrante). En ce sens, si une valeur est calculée comme étant une valeur aberrante, elle est enlevée de la série de valeurs et le test est appliqué à nouveau avec une nouvelle moyenne et un nouveau seuil de rejet. Ce procédé est renouvelé jusqu'à ce qu'il n'y ait plus de données aberrantes dans la série.

Certains travaux ont également tenté de décrire les données aberrantes pour des séries de valeurs nominales. Par exemple, dans un contexte d'une série d'exemples (ou de cas) dans une série de valeurs, on crée un indicateur nommé la solidité des cas qui mesure la probabilité qu'un cas soit mal classé (${\displaystyle 1-p(y|x)}$  où ${\displaystyle y}$  est le terme assigné à la classe et ${\displaystyle x}$  représente la valeur attribuée à un cas dans la série d'exemples ${\displaystyle t}$ )^[19]. Idéalement, la solidité des cas sera calculée en faisant la somme sur la série de toutes les hypothèses ${\displaystyle H}$  possibles:

${\displaystyle {\begin{aligned}IH(\langle x,y\rangle )&=\sum _{H}(1-p(y,x,h))p(h|t)\\&=\sum _{H}p(h|t)-p(y,x,h)p(h|t)\\&=1-\sum _{H}p(y,x,h)p(h|t).\end{aligned}}}$ 

De manière pratique, cette formule est irréalisable car ${\displaystyle H}$  est potentiellement infinie et calculer ${\displaystyle p(h|t)}$  est impossible pour bon nombre d'algorithmes. Ainsi, la robustesse des cas peut être approximée en utilisant un sous-ensemble ${\displaystyle L\subset H}$ :

${\displaystyle IH_{L}(\langle x,y\rangle )=1-{\frac {1}{|L|}}\sum _{j=1}^{|L|}p(y|x,g_{j}(t,\alpha ))}$ 

où ${\displaystyle g_{j}(t,\alpha )}$  est l'hypothèse induite par l'algorithme d'apprentissage ${\displaystyle g_{j}}$  formé sur la série de valeurs ${\displaystyle t}$  avec des hyperparamètres ${\displaystyle \alpha }$ . La solidité des cas fournit une valeur continue pour déterminer si un cas est une donnée aberrante.

Le choix de composer ou non avec une donnée aberrante dépend de la cause de cette dernière.

Même quand un modèle de distribution normale est approprié pour analyser des valeurs, des données aberrantes sont attendues pour de grands échantillons et elle ne doivent pas être automatiquement exclues. En effet, il est préférable d'utiliser des algorithmes robustes face aux données aberrantes plutôt que des modèles qui écartent systématiquement ces valeurs.

La suppression des données aberrantes est une pratique controversée désapprouvée par de nombreux scientifiques et professeurs; tant qu'il n'y aura pas de critères mathématiques permettant d'offrir une méthode objective et quantitative pour le rejet de valeurs, il sera impossible de rendre la pratique de suppression des données aberrantes scientifiquement et méthodologiquement plus acceptable. En particulier pour les petits échantillons et si la nature de la distribution est inconnue et ne peut être approximée par une loi normale. Le rejet de données aberrantes est plus acceptable si le modèle sous-jacent au phénomène a été mesuré et que la distribution des erreurs de mesures est connue précisément. Une donnée aberrante résultant d'un instrument dont on sait qu'il fait des erreurs peut être exclue mais il est préférable de vérifier avant si l'instrument fait réellement des erreurs.

Les deux approches les plus utilisées pour exclure les données aberrantes sont la méthode de césure (ou tronquage) et de Winsorising. La césure élimine les données aberrantes alors que le Winsorising remplace les données aberrantes par les valeurs « non suspectes » les plus proches^[20]. L'exclusion peut aussi être une conséquence du processus de mesure. En effet, si lors d'une expérience un instrument n'est pas capable de mesurer de telles valeurs extrêmes, il en résulte des valeurs censurées^[21].

Dans des problèmes de régression, une autre approche consiste à exclure uniquement les valeurs qui présentent un haut degré d'influence sur les coefficients estimés, notamment en utilisant une mesure telle que la distance de Cook^[22].

Si une valeur (ou donnée) est exclue de l'analyse des données, cela doit être clairement indiqué sur tous les rapports émanant de l'analyse.

Il faut également considérer que les valeurs de la série étudiée ne suivent pas une distribution normale et qu'elles peuvent avoir des « queues épaisses ». Par exemple, lors de l'échantillonnage à partir d'une distribution de Cauchy^[23], la variance augmente avec la taille de l'échantillon, la moyenne de l'échantillon est biaisée et ne converge pas lorsque la taille de l'échantillon augmente. De plus, les données aberrantes sont attendues à un taux beaucoup plus important que pour une distribution normale. Même une légère différence dans l'épaisseur de la queue peut créer une importante différence dans le nombre de valeurs extrêmes attendues.

 

Une approche d'appartenance à l'ensemble considère que l'incertitude correspondant à la mesure d'une variable aléatoire x est représentée par un ensemble X_i (au lieu d'une fonction de densité de probabilité). Si aucune donnée aberrante n’apparaît, x appartient à l'intersection de tous les X_i. Si une donnée aberrante apparaît, cette intersection est vide et nous relâchons un petit nombre de X_i (aussi petit que possible) afin d'éviter toute incohérence^[24]. Cela peut être fait en utilisant la notion d'intersection q-relâchée. Comme illustré par la figure, l'intersection q-relâchée correspond à l'ensemble de tous les x qui appartiennent à tous les ensembles X_i exceptés q d'entre eux. Les ensembles X_i qui ne coupent pas l'intersection q-relâchée peuvent être soupçonnés de rassembler des données aberrantes.

Dans le cas où la cause des données aberrantes est connue, il peut être possible d'incorporer cet effet dans le modèle. Par exemple en utilisant un modèle hiérarchique de Bayes ou un modèle de mélange^[25],[26].

• Anomalie des séries de temps
• Régression robuste
• Résidu studentisé
• Transformation de données (statistiques)
• Facteur local de données aberrantes
• Robustesse (statistiques)

• Notices d'autorité  :

  • BnF (données)
  • IdRef
  • LCCN
  • GND
  • Israël
• Ressource relative à la santé  :
  • Medical Subject Headings
• (en) John Renze, « Outlier », sur MathWorld
• (en) N. Balakrishnan et A. Childs, « Outlier », dans Michiel Hazewinkel, Encyclopædia of Mathematics, Springer, 2002 (ISBN 978-1556080104, lire en ligne)
• Grubbs test described by NIST manual
• « how to detect univariate outliers »^{(Archive.org • Wikiwix • Archive.is • Google • Que faire ?)} (consulté le 21 septembre 2017), « how to detect multivariate outliers »^{(Archive.org • Wikiwix • Archive.is • Google • Que faire ?)} (consulté le 21 septembre 2017) and « how to deal with outliers »^{(Archive.org • Wikiwix • Archive.is • Google • Que faire ?)} (consulté le 21 septembre 2017)

•   Portail des probabilités et de la statistique