Normalverteilung und Regressionsanalyse

Die Voraussetzung der Normalverteilung der Variablen bei der Regressionsanalyse ist ein Luxus-Problem, das eher auf einem Missverständnis beruht und keine Voraussetzung für die Regressionsanalyse darstellt. Zurückzuführen ist das Missverständnis wahrscheinlich darauf, dass die Residuen normalverteilt sein sollten und dass die Auswahl des richtigen Regressionsverfahrens von der Verteilungseigenschaften der Zielvariable (Abhängige Variable) abhängt.

Nach Gelman and Hill (2009) Seite 45 gelten folgende Voraussetzungen für die (lineare) Regressionsanalyse in absteigender Wichtigkeit

  1. Gültigkeit des Models (Validity).
  2. Additivität und Linearität.
  3. Unabhängigkeit der Fehler (Independence of errors)
  4. Gleiche Fehlervarianz (Equal variance of errors)
  5. Normalverteilung des Fehlers (Normality of errors)

Die Prüfung dieser Voraussetzungen erfolgt am zweckmäßigsten durch Streudiagramme der Daten und einer Residualanalyse.

Zur Veranschaulichung habe ich hier die Anscombe-Daten Anscombe (1973) untersucht. Der Datensatz beinhaltet 4 Beispieldaten (a, b, c und d) mit den gleichen statistischen Eigenschaften (Mittelwert, Varianz, Korrelation, usw.) aber mit ganz unterschiedlichen Voraussetzungen.

Tab 1: Deskriptive Analyse mit Mittelwerte, Standardabweichung und mit Kolmogorov-Smirnov-Anpassungstest
Item n m ks.test
y1 (mean) 11 7.50 (2.03) W=0.12, p=.991
y2 (mean) 11 7.50 (2.03) W=0.25, p=.416
y3 (mean) 11 7.50 (2.03) W=0.19, p=.742
y4 (mean) 11 7.50 (2.03) W=0.16, p=.884
x1 (mean) 11 9.00 (3.32) W=0.09, p=1.000
x2 (mean) 11 9.00 (3.32) W=0.09, p=1.000
x3 (mean) 11 9.00 (3.32) W=0.09, p=1.000
x4 (mean) 11 9.00 (3.32) W=0.53, p=.004

In der Tabelle 1 sind die Mittelwerte mit Standardabweichung sowie der Normalverteilungs-Test abgebildet. Bei Anwendung des Statistik-Programm SPSS wird zur Prüfung auf die Normalverteilung oft der KS-Test empfohlen. Im vorliegenden Beispiel zeigt sich, dass mit Ausnahme des letzten Datensatzes (x4) alle Daten annähernd normalverteilt sind, also die Voraussetzung Normalverteilung erfüllt ist. In Tabelle 2 sind die Ergebnisse der Regressionsanalyse abgebildet. Es zeigt sich, dass alle Koeffizienten, sowie die Modelgüte identisch sind.

Tab 3:
  a   b   c   d
Quelle   b SE   b SE   b SE   b SE
Parameter
(Intercept)    3* 1.12    3* 1.13    3* 1.12    3* 1.12
x1    0.5** 0.118      
x2      0.5** 0.118    
x3        0.5** 0.118  
x4          0.5** 0.118
Goodness of fit
r.squared   0.67   0.67   0.67   0.67
adj.r.squared   0.63   0.63   0.63   0.63
RMSE   1.12   1.12   1.12   1.12
Obs   11   11   11   11

Zusammenfassend würde man aus den vorliegenden Ergebnissen zu den 4 Datensätzen schließen, dass bei allen 4 Beispielen ein statistisch signifikanter linearer Zusammenhang besteht und nur beim Datensatz (d) hinsichtlich der Normalverteilung Unsicherheiten bestehen.

Betrachtet man aber zusätzlich die Streudiagramme der Daten (Abbildung 1) wird schnell deutlich, dass nur bei Datensatz (a) die Voraussetzung der Linearität gegeben ist und es nur hier gerechtfertigt ist, mittels linearer Regression zu rechnen. Bei den Daten (b) ist eine Kurve (nicht linearer Zusammenhang) gegeben, bei (c) liegt ein Ausreißer vor der das Ergebnis verzerrt und bei (d) ist gar kein Zusammenhang vorhanden sondern das Ergebnis ist nur ein Artefakt eines extremen Ausreißers.

Streudiagramm

Figure 1: Streudiagramm

Die Residual-Analyse in Abbildung 2 zeigt deutlich, dass nur Datensatz (a) die Voraussetzungen erfüllt. Wenn man sich also nur auf die klassischen Parameter wie Signifikanz (p-Wert) und R-Quadrat und auf die falschen Voraussetzungen verlässt, kann es leicht passieren, dass man zu falschen Interpretationen der Ergebnisse kommt.

standartisierte Residuen

Figure 2: standartisierte Residuen

Literatur

Anscombe, Francis J. 1973. “Graphs in Statistical Analysis.” American Statistician.

Gelman, Andrew, and Jennifer Hill. 2009. Data Analysis Using Regression and Multilevel/Hierarchical Models. Vol. Analytical methods for social research. New York: Cambridge University Press.

Ähnliches