Lineare Regression einfach erklärt und berechnet

Stell dir ein Streudiagramm vor, dessen Punkte ungefähr entlang einer steigenden oder fallenden Geraden liegen. Eine lineare Regression fasst dieses Muster in einer Gleichung zusammen: \hat y=a+bx Dabei ist x der Wert der erklärenden Größe und \hat y der vorhergesagte Wert der Zielgröße. a ist der Achsenabschnitt, also die Vorhersage für x=0, und b die Steigung. Ist b>0, steigt die Vorhersage mit x, ist b<0, fällt sie. Bei b=0 beschreibt die Gerade keinen linearen Zusammenhang. Der Achsenabschnitt ist rechnerisch nötig, aber nicht immer sinnvoll: Eine Vorhersage für die Körpergröße 0 bedeutet nichts.

Zu jedem beobachteten Punkt (x_i,y_i) liefert die Gerade eine Vorhersage \hat y_i=a+bx_i. Der senkrechte Unterschied zwischen Beobachtung und Vorhersage heißt Residuum: e_i=y_i-\hat y_i. Ein positives Residuum heißt, der Punkt liegt über der Geraden, ein negatives, er liegt darunter. Mit den Mittelwerten \bar x und \bar y gilt: b=\frac{\sum_i(x_i-\bar x)(y_i-\bar y)}{\sum_i(x_i-\bar x)^2}\qquad a=\bar y-b\bar x Das geht nur, wenn die x-Werte nicht alle gleich sind. Aus der Formel für a folgt: Die Regressionsgerade geht immer durch den Punkt (\bar x,\bar y).

Für die Rechnung von Hand ist oft die gleichwertige Rohsummenform bequem: b=\frac{\sum x_iy_i-n\bar x\bar y}{\sum x_i^2-n\bar x^2} Danach berechnest du a=\bar y-b\bar x. Zum Schluss prüfst du die Gerade mit den Residuen: Für jeden Punkt ziehst du die Vorhersage vom beobachteten Wert ab.

Liegt ein neuer x-Wert innerhalb des beobachteten Bereichs, heißt die Vorhersage Interpolation, außerhalb Extrapolation. Im Beispiel reichen die Daten von x=1 bis x=3: Eine Vorhersage für x=2{,}5 ist eine Interpolation, für x=4 eine Extrapolation, und die ist unsicher. Außerhalb der Daten kann sich der Zusammenhang ändern. Das Bestimmtheitsmaß vergleicht die Fehler der Geraden mit der gesamten Streuung der y-Werte: R^2=1-\frac{\sum_i(y_i-\hat y_i)^2}{\sum_i(y_i-\bar y)^2} Bei einer einfachen Regression mit Achsenabschnitt liegt R^2 zwischen 0 und 1, sofern die y-Werte überhaupt streuen. Bei R^2=1 liegen alle Punkte auf der Geraden. Bei R^2=0 erklärt die Gerade nicht mehr als der Mittelwert. Ein kleines R^2 heißt nicht, dass es keinen Zusammenhang gibt: Ein gekrümmter Zusammenhang kann stark sein und von einer Geraden trotzdem schlecht erfasst werden. Prüfe deshalb immer das Streudiagramm und die Residuen: Zeigen sie eine Kurve, eine Trichterform oder einzelne Ausreißer, passt das lineare Modell schlecht. Und: Zusammenhang ist nicht Ursache. Steigen zwei Größen gemeinsam, kann eine dritte Größe beide beeinflussen.