Prognoseintervall

Kernidee und Abgrenzung

Ein Prognoseintervall, auch Vorhersageintervall oder Prädiktionsintervall genannt, ist in der Inferenzstatistik ein Bereich um die Vorhersage eines Modells. In diesem Bereich soll eine zukünftige Realisierung einer Messung mit hoher Wahrscheinlichkeit liegen, zum Beispiel mit 95 %.

Es ähnelt einem Konfidenzintervall, darf aber nicht mit ihm verwechselt werden. Ein Konfidenzintervall für einen Schätzer des bedingten Erwartungswertes {\hat {E}}[Y|X=x]={\hat {Y}} beschreibt, wie unsicher dieser Erwartungswert-Schätzer ist. Ein Prognoseintervall beschreibt dagegen die Streuung des Prognosefehlers. Deshalb ist {\hat {Var}}[(Y-{\hat {Y}})|X=x] zentral.

Vorhersageintervalle können gegebenenfalls mit dem Standardfehler der Regression berechnet werden. Außerdem ist das Prognoseintervall vom Toleranzintervall abzugrenzen.

Mindestbreite und Beispiel

Aus dem Verzerrung-Varianz-Dilemma folgt, dass Var[(Y-{\hat {Y}})|X=x] nicht kleiner sein kann als die Streuung \sigma ^{2}=Var[Y|X=x] der Messwerte selbst. Für eine erwartungstreue Schätzung dieser Varianz {\hat {Var}}[(Y-{\hat {Y}})|X=x] gilt daher ebenfalls, dass sie nicht kleiner als \sigma ^{2}=Var[Y|X=x] sein kann. Für korrekt kalibrierte Prognoseintervalle bedeutet das: Ihre Minimalgröße wird durch die Breite der Verteilung der Messwerte Y vorgegeben.

Ein einfaches Beispiel ist ein sechsseitiger Würfel mit Augenzahlen 1 bis 6. Das Konfidenzintervall für den geschätzten Erwartungswert der Augenzahl wird um 3,5 liegen und mit mehr Stichproben enger werden. Das Prognoseintervall für den nächsten Wurf wird dagegen näherungsweise von 1 bis 6 reichen, auch wenn beliebig viele frühere Würfe beobachtet wurden.

Lineares Modell

In der multiplen linearen Regression ergibt sich das Prognosemodell durch {\mathbf {y}}_{0}={\mathbf {X}}_{0}{\boldsymbol {\beta }}+{\boldsymbol {\varepsilon }}_{0}.

Dabei bezeichnet {\mathbf {y}}_{0} den Vektor zukünftiger abhängiger Variablen. {\mathbf {X}}_{0} ist die Matrix der erklärenden Variablen zum Zeitpunkt T_{0}. Die Prognose wird als {\hat {\mathbf {y}}}_{0}={\mathbf {X}}_{0}{\mathbf {b}} dargestellt.

Für das Prognoseintervall ist die Varianz des Prognosefehlers wichtig. Sie beschreibt die Variation des Prognosefehlers und damit die Zuverlässigkeit der Prognose.

Berechnung in der einfachen Regression

In der linearen Einfachregression ist die Varianz des Prognosefehlers gegeben durch: \sigma _{0}^{2}=\operatorname {Var} ({\hat {y}}_{0}-y_{0})=\sigma ^{2}\left(1+{\frac {1}{n}}+{\frac {(x_{0}-{\bar {x}})^{2}}{\sum \limits _{i=1}^{n}(x_{i}-{\bar {x}})^{2}}}\right).

Mithilfe dieser Varianz erhält man als (1-\alpha)-Prognoseintervall für den prognostizierten Wert von y_{0}: {\hat {y}}_{0}\pm t_{(1-\alpha /2,n-2)}\cdot {\sqrt {{\hat {\operatorname {Var} }}({\hat {y}}_{0}-y_{0})}}={\hat {y}}_{0}\pm t_{(1-\alpha /2,n-2)}\cdot {\sqrt {{\hat {\sigma }}^{2}\left(1+{\frac {1}{n}}+{\frac {(x_{0}-{\bar {x}})^{2}}{\sum \limits _{i=1}^{n}(x_{i}-{\bar {x}})^{2}}}\right)}}.

Die Breite des Prognoseintervalls nimmt an den Rändern des Trägers der Trainingsdaten typischerweise zu. Der Grund ist, dass nicht nur die konstante Varianz der Residuen {\hat {\sigma }}^{2} einfließt, sondern auch die Unsicherheit bei der Schätzung des Modells. Diese Schätzunsicherheit ist an den Rändern typischerweise größer.

Weitere Konstruktionsmethoden

Beim Bootstrap können durch Bootstrapping mehrere Regressionsmodelle erzeugt werden. Deren Streuung und Residuen können anschließend verwendet werden, um Bootstrap-Prognoseintervalle zu konstruieren.

Bei einem bayesschen Ansatz kann die Posterior predictive distribution zur Konstruktion von Bayesschen Prognoseintervallen verwendet werden.

Conformal Prediction kann unter der Annahme von Austauschbarkeit Prognoseintervalle erzeugen. Konforme Punkte sind Punkte, die den bisher beobachteten Punkten „ähnlich“ sind. Bei der Split Conformal Prediction wird der Datensatz in Trainings- und Validierungsdatensatz aufgeteilt. Die Non-conformity, also das Maß dafür, wie wenig ein Punkt zum Modell passt, kann zum Beispiel mit der absoluten Abweichung vom angepassten Modell gemessen werden. Je größer die Abweichung, desto weniger konform ist ein Punkt. Für einen neuen Testpunkt (x_{i},y) werden alle möglichen y durchgetestet, eventuell diskretisiert. Das 95% Prognoseintervall ist die Menge der y-Werte, bei denen der Non-conformity Score des Testpunkts einen kleineren Rang in der aufsteigend sortierten Liste der Non-conformity Scores des Validierungsdatensatzes hatte als 95 % der Validierungspunkte.

Bei der Quantilsregression kann ein 95-%-Prognoseintervall konstruiert werden, indem das 97.5-Quantil und das 2.5-Quantil geschätzt werden.