Summe der Abweichungsquadrate

Die Abweichungsquadratsumme ergibt sich als Summe der quadratischen Abweichungen der Messwerte von ihrem arithmetischen Mittelwert ${\displaystyle (x_{i}-{\overline {x}})^{2}}$ 

${\displaystyle S_{xx}:=SQ_{x}({\overline {x}}):=(x_{1}-{\overline {x}})^{2}+(x_{2}-{\overline {x}})^{2}+\ldots +(x_{n}-{\overline {x}})^{2}=\sum \limits _{i=1}^{n}(x_{i}-{\overline {x}})^{2}}$ .

Alternativ lässt sich die Abweichungsquadratsumme durch den Verschiebungssatz von Steiner wie folgt angeben:

${\displaystyle SQ_{x}=\left(\sum _{i=1}^{n}x_{i}^{2}\right)-{\frac {1}{n}}\left(\sum _{i=1}^{n}x_{i}\right)^{2}}$ .

Um den Unterschied zur Produktsumme deutlicher herauszustellen, wird sie auch als ${\displaystyle S_{xx}}$  notiert. Für Anwendungen, besonders in der Varianzanalyse, wird die Notation der Abweichungsquadratsumme mit ${\displaystyle SQ}$  bevorzugt.

Falls das Merkmal keinerlei Variabilität aufweist, d. h. ${\displaystyle x_{1}=x_{2}=\ldots =x_{n}={\overline {x}}}$ , dann ergibt sich eine Quadratsumme (und eine Varianz) von Null. In die Berechnung der Summe gehen insgesamt ${\displaystyle n}$  Abweichungsquadrate ein, sodass die Abweichungsquadratsumme umso größer ist, je größer die Stichprobengröße ist.

Um ein von der Stichprobengröße unabhängiges Maß für die Variation der Merkmalswerte zu erhalten, muss eine Normierung vorgenommen werden. Die Normierung geschieht dadurch, dass man die Abweichungsquadratsumme durch die Anzahl der Freiheitsgrade ${\displaystyle FG}$  dividiert:^[2]

${\displaystyle MQ_{x}={\frac {SQ_{x}}{FG}}={\frac {\sum \nolimits _{i=1}^{n}\left(x_{i}-{\overline {x}}\right)^{2}}{n-1}}=s_{x}^{2}}$ .^[3]

Das so gewonnene Streuungsmaß stellt eine Art „mittleres“ bzw. „durchschnittliches“ Abweichungsquadrat dar (englisch mean square, kurz: MS), das mit ${\displaystyle MQ}$  bzw. ${\displaystyle DQ}$  (Mittlere Quadrate der Abweichungen bzw. Durchschnittliche Quadrate der Abweichungen) abgekürzt wird. Das „mittlere Abweichungsquadrat“ (oft fälschlicherweise „mittlere Quadratsumme“ genannt) ist die empirische Varianz, wird aber in der Varianzanalyse nicht als Varianz, sondern als mittlere Abweichungsquadrat bezeichnet. Die Abweichungsquadratsumme ist also die ${\displaystyle (n-1)}$ -fache empirische Varianz ${\displaystyle s_{x}^{2}}$  der Messwerte.^[4] Das mittlere Quadrat der Residuen heißt „mittleres Residuenquadrat“.^[5]

Die Abweichungsproduktsumme bzw. die Summe der Abweichungsprodukte^[6] ist eine Verallgemeinerung der Abweichungsquadratsumme und ist definiert als Summe der Produkte der mittelwertbereinigten Messwertpaare:

${\displaystyle S_{xy}:=SP_{xy}:=(x_{1}-{\overline {x}})(y_{1}-{\overline {y}})+(x_{2}-{\overline {x}})(y_{2}-{\overline {y}})+\ldots +(x_{n}-{\overline {x}})(y_{n}-{\overline {y}})=\sum \limits _{i=1}^{n}(x_{i}-{\overline {x}})(y_{i}-{\overline {y}})}$  .

Insbesondere gilt ${\displaystyle SQ_{x}=SP_{xx}}$ . Die empirische Kovarianz ${\displaystyle s_{xy}}$  ist die Summe der Abweichungsprodukte der Messwerte von ${\displaystyle X}$  und ${\displaystyle Y}$  dividiert durch ${\displaystyle n-1}$ :

${\displaystyle s_{xy}={\frac {1}{n-1}}SP_{xy}}$ .

Die empirische Kovarianz kann somit als „mittleres“ bzw. „durchschnittliches“ Abweichungsprodukt interpretiert werden.

Ausgehend von den Residuen, die den vertikalen Abstand zwischen Beobachtungspunkt und der geschätzten Regressionsgerade messen, lässt sich eine Residuenquadratsumme durch die Summe der Abweichungsquadrate der Residuen wie folgt definieren

${\displaystyle SQR:=SQ_{\text{Rest}}:=\sum _{i=1}^{n}{\hat {\varepsilon }}_{i}^{2}=\sum _{i=1}^{n}(y_{i}-{\hat {y}}_{i})^{2}}$ .

Die Hypothesenquadratsumme (englisch sum of squares due to hypothesis) tritt beim Testen der allgemeinen linearen Hypothese auf. Sei ${\displaystyle {\boldsymbol {R}}}$  eine ${\displaystyle q\times (k+1)}$  Restriktionsmatrix, mit ${\displaystyle q\leq (k+1)}$  Sei weiterhin angenommen, dass die ${\displaystyle q}$  Restriktionen an den ${\displaystyle (k+1)\times 1}$  Parametervektor ${\displaystyle {\boldsymbol {\beta }}}$  ausgedrückt werden können als :${\displaystyle H_{0}:{\boldsymbol {R}}{\boldsymbol {\beta }}={\boldsymbol {r}}}$ , wobei ${\displaystyle {\boldsymbol {r}}}$  ein ${\displaystyle q\times 1}$ -Vektor bestehend aus bekannten Konstanten darstellt. Die Hypothesenquadratsumme ist dann gegeben durch^[7]

${\displaystyle SQH=({\boldsymbol {R}}{\boldsymbol {\hat {\beta }}}-{\boldsymbol {r}})^{\top }({\boldsymbol {R}}(\mathbf {X} ^{\top }\mathbf {X} )^{-1}{\boldsymbol {R}}^{\top })^{-1}({\boldsymbol {R}}{\boldsymbol {\hat {\beta }}}-{\boldsymbol {r}})}$ .

1. ↑ Das gemeinsame Variieren zweier oder mehrerer Merkmale bezeichnet man als „Ko-Variation“.
2. ↑ Werner Timischl: Angewandte Statistik. Eine Einführung für Biologen und Mediziner. 2013, 3. Auflage, S. 109.
3. ↑ Lothar Sachs: Statistische Auswertungsmethoden, S. 400.
4. ↑ Ludwig von Auer: Ökonometrie. Eine Einführung. Springer, ISBN 978-3-642-40209-8, 6. durchges. u. aktualisierte Aufl. 2013, S. 46.
5. ↑ Werner Timischl: Angewandte Statistik. Eine Einführung für Biologen und Mediziner. 2013, 3. Auflage, S. 335.
6. ↑ Lothar Sachs, Jürgen Hedderich: Angewandte Statistik: Methodensammlung mit R. 8., überarb. und erg. Auflage. Springer Spektrum, Berlin/ Heidelberg 2018, ISBN 978-3-662-56657-2, S. 404
7. ↑ Jeffrey Marc Wooldridge: Introductory econometrics: A modern approach. 4. Auflage. Nelson Education, 2015, S. 810