Bayesscher Wahrscheinlichkeitsbegriff

Grundidee und Abgrenzung

Der bayessche Wahrscheinlichkeitsbegriff interpretiert Wahrscheinlichkeit als Grad persönlicher Überzeugung („degree of belief“). Eine Wahrscheinlichkeit beschreibt demnach, wie sicher eine Person aufgrund der verfügbaren Informationen ist, dass eine Aussage wahr ist oder ein Ereignis eintritt. Neue Erkenntnisse können dazu führen, diese Einschätzung und damit die Wahrscheinlichkeit neu zu bestimmen.

Damit unterscheidet sich der Ansatz von objektivistischen Auffassungen wie dem frequentistischen Wahrscheinlichkeitsbegriff. Dieser deutet Wahrscheinlichkeit als relative Häufigkeit. Der bayessche Wahrscheinlichkeitsbegriff darf außerdem nicht mit dem ebenfalls auf Thomas Bayes zurückgehenden Satz von Bayes verwechselt werden, der in der Statistik vielfach angewendet wird.

Entwicklung und Deutung als Wette

Pierre-Simon Laplace entdeckte den zugrunde liegenden Ansatz 1812 unabhängig von Bayes. Er verwendete ihn unter anderem für Probleme der Himmelsmechanik und der medizinischen Statistik sowie einigen Berichten zufolge auch in der Rechtsprechung.

Ein Beispiel ist Laplaces Schätzung der Saturnmasse anhand astronomischer Beobachtungen der Umlaufbahn. Seine Unsicherheit drückte er als Wette aus: „Ich wette 11.000 zu 1, dass der Fehler in diesem Ergebnis nicht größer ist als 1/100 seines Wertes.“ Tatsächlich wurde das Ergebnis 150 Jahre später aufgrund neuer Daten nur um 0,37 % korrigiert.

Anfang des 20. Jahrhunderts wurde die bayessche Interpretation vor allem in England ausgearbeitet, unter anderem von Harold Jeffreys (1891–1989) und Frank Plumpton Ramsey (1903–1930). Ramseys Ansatz wurde unabhängig davon von Bruno de Finetti (1906–1985) in Italien aufgenommen. Der Grundgedanke besteht darin, vernünftige Einschätzungen („rational belief“) als Verallgemeinerung von Wettstrategien zu verstehen: Ausgehend von vorhandenen Informationen, Messungen oder Datenpunkten fragt man, wie viel man auf die Richtigkeit einer Einschätzung setzen oder welche Wettquote man anbieten würde. Wer besonders sicher ist, wäre bereit, mehr zu wetten. Diese Vorstellung beeinflusste auch die Spieltheorie. Seit den 1950er-Jahren wird über solche Ansätze zwischen Bayesianern und Frequentisten debattiert.

Anforderungen an widerspruchsfreie Einschätzungen

Wenn Wahrscheinlichkeit die Sicherheit einer persönlichen Einschätzung ausdrückt, muss sie bestimmte logische Eigenschaften erfüllen, damit die Einschätzungen nicht widersprüchlich werden. Richard Threlkeld Cox formulierte dazu 1946 wesentliche Prinzipien:

• Transitivität: Ist A wahrscheinlicher als B und B wahrscheinlicher als C, muss A auch wahrscheinlicher als C sein. Erst dadurch lassen sich Wahrscheinlichkeiten durch transitiv geordnete reelle Zahlen darstellen. Ohne Transitivität könnte jemand beim Wetten wiederholt gegen Aufpreis von A zu B, von B zu C und schließlich von C zu A wechseln. Am Ende hätte er wieder dieselbe Wette, aber weniger Geld.

• Negation: Eine Erwartung über die Wahrheit einer Aussage enthält zugleich eine Erwartung über ihre Unwahrheit.

• Konditionierung: Besteht eine Erwartung über die Wahrheit von H und außerdem über die Wahrheit von D unter der Bedingung, dass H wahr ist, so ergibt sich daraus auch eine Erwartung über die gleichzeitige Wahrheit von H und D.

• Schlüssigkeit („soundness“): Lassen sich bestimmte Informationen auf mehreren Wegen verarbeiten, muss jeder Weg zu derselben Schlussfolgerung führen.

Regeln für Wahrscheinlichkeitswerte

Für den Wahrscheinlichkeitswert W(H) gelten folgende Regeln:

• Wertebereich: 0 ≤ W(H) ≤ c; dabei wird c = 1 gewählt.

• Summenregel: W(H) + W(!H) = c = 1.

• Produktregel: W(H,D) = W(D | H)W(H).

Dabei bezeichnet H beziehungsweise D die Aussage, dass die jeweilige Hypothese wahr ist oder das jeweilige Ereignis eintritt. W(H) ist die Wahrscheinlichkeit von H. !H bedeutet „nicht H“, also dass H nicht wahr ist oder nicht eintritt. H,D bezeichnet im Text die Verbindung von H und D; W(D | H) ist die bedingte Wahrscheinlichkeit, dass D wahr ist beziehungsweise eintritt, falls H wahr wäre beziehungsweise eintreten würde. Aus diesen Grundregeln können weitere Regeln für Wahrscheinlichkeiten abgeleitet werden.

Bedeutung für statistische Modelle

In der frequentistischen Interpretation wird Unsicherheit bei entsprechenden Problemen mithilfe einer zusätzlich eingeführten variablen Zufallsgröße beschrieben. Die bayessche Wahrscheinlichkeitstheorie benötigt diese Hilfsgröße nicht. Sie verwendet stattdessen die A-priori-Wahrscheinlichkeit: eine Wahrscheinlichkeitsverteilung, in der das Vorwissen und die Grundannahmen des Beobachters zusammengefasst werden.

Vertreter des bayesschen Ansatzes betrachten es als wichtigen Vorteil, dass dieses Vorwissen und die A-priori-Annahmen ausdrücklich im statistischen Modell dargestellt werden.