Maximum-a-posteriori-Schätzung

Grundidee und Definition

Die Maximum-a-posteriori-Methode (MAP) ist ein Schätzverfahren der mathematischen Statistik und ein spezieller Bayes-Schätzer. Sie schätzt einen unbekannten Parameter θ durch den Modalwert, also den wahrscheinlichsten Wert, seiner A-posteriori-Verteilung. Diese Verteilung beschreibt das Wissen über θ nach Einbeziehung beobachteter Daten.

Gegeben sind Beobachtungen x und ein unbekannter Parameter θ aus dem Parameterraum Θ. Die Stichprobenverteilung f(x|θ) gibt an, wie wahrscheinlich die Beobachtungen x sind, wenn θ der wahre Parameterwert ist. Als Funktion von θ heißt θ ↦ f(x|θ) Likelihood-Funktion. Der Maximum-Likelihood-Schätzer maximiert diese Funktion:

θ̂_ML(x) = arg max_θ f(x|θ).

Bei der MAP-Methode steht zusätzlich eine A-priori-Verteilung g(θ) zur Verfügung. Sie beschreibt das Vorwissen über θ vor der Beobachtung der Daten. Nach dem Satz von Bayes ergibt sich die A-posteriori-Verteilung:

f(θ|x) = [f(x|θ)g(θ)] / [∫_Θ f(x|θ′)g(θ′) dθ′].

Der MAP-Schätzer maximiert diese A-posteriori-Verteilung. Weil der Nenner des Bruchs nicht von θ abhängt, genügt es, das Produkt aus Likelihood und A-priori-Verteilung zu maximieren:

θ̂_MAP(x) = arg max_(θ∈Θ) f(θ|x) = arg max_(θ∈Θ) [f(x|θ)g(θ)].

Vergleich mit anderen bayesschen Schätzern

Der MAP-Schätzer wird als bayessches Gegenstück zum Maximum-Likelihood-Schätzer beschrieben. In der bayesschen Statistik besitzt er jedoch nicht dieselbe zentrale Rolle wie der ML-Schätzer in der frequentistischen Statistik. Bayessche Statistiker geben die Information über einen unbekannten Parameter gewöhnlich durch die gesamte A-posteriori-Verteilung und nicht nur durch einen einzelnen Punktschätzer an.

Welcher Punktschätzer am besten ist, hängt vom verwendeten Gütemaß beziehungsweise von der Verlustfunktion ab. Wird die A-posteriori-Varianz eines Schätzers als Gütemaß verwendet, ist der Erwartungswert der A-posteriori-Verteilung dem MAP-Schätzer überlegen. In vielen Fällen ist auch der Median besser geeignet.

In der bayesschen Entscheidungstheorie gelten insbesondere folgende Regeln:

• Bei einer quadratischen Verlustfunktion ist der Erwartungswert der A-posteriori-Verteilung die optimale Schätzfunktion.

• Beim absoluten Schätzfehler L(θ,a) = |θ − a|, wobei a eine beliebige Schätzfunktion ist, ist der Median der A-posteriori-Verteilung optimal.

Verhältnis zur Maximum-Likelihood-Methode

Der wesentliche Unterschied liegt im Umgang mit Vorwissen: Die MAP-Methode berücksichtigt A-priori-Wahrscheinlichkeiten und verbindet sie nach dem Satz von Bayes mit der Stichprobe. Sie wählt anschließend den wahrscheinlichsten Parameterwert der A-posteriori-Verteilung. Die ML-Methode berücksichtigt dagegen kein solches Vorwissen und wählt allein den Parameterwert mit der höchsten Likelihood. Für einen streng frequentistischen Statistiker ist die Verwendung einer A-priori-Verteilung nicht akzeptabel; in der klassischen Statistik wird deshalb die ML-Methode verwendet.

Der ML-Schätzer ist ein Spezialfall des MAP-Schätzers, wenn g(θ) nichtinformativ ist. Für einen beschränkten Wertebereich kann beispielsweise eine Gleichverteilung verwendet werden. Dann trägt das Vorwissen nicht zur Bevorzugung eines Parameterwertes bei, sodass MAP- und ML-Schätzung übereinstimmen.

Umgekehrt lässt sich jeder MAP-Schätzer mit Stichprobenverteilung f(x|θ) und A-priori-Verteilung g(θ) als ML-Schätzer für die Stichprobenverteilung h_θ(x) auffassen:

h_θ(x) = [f(x|θ) · g(θ)] / [∫_Θ f(x|θ′) · g(θ′) dθ′].

Damit können beide Verfahren einander simulieren und sind in diesem Sinn „gleichmächtig“.

Urnenbeispiel

In einer Urne befinden sich rote und schwarze Kugeln. Durch zehn Ziehungen mit Zurücklegen soll der wahre Anteil π der roten Kugeln bestimmt werden. Die Anzahl der gezogenen roten Kugeln folgt einer Binomialverteilung Bin(10,π). Beobachtet werden 7 rote Kugeln.

Die Maximum-Likelihood-Methode schätzt den roten Anteil unmittelbar auf 7/10 beziehungsweise 70 %.

Als nichtinformative A-priori-Verteilung kann Beta(1,1) verwendet werden. Sie entspricht der stetigen Gleichverteilung auf [0,1] und behandelt alle möglichen Werte von π als gleich wahrscheinlich. Nach den Beobachtungen ergibt sich die A-posteriori-Verteilung Beta(8,4). Ihr Modalwert beträgt 0,7, weshalb auch die MAP-Schätzung 70 % ergibt. Der A-posteriori-Erwartungswert beträgt dagegen 2/3; mit ihm würde man 66,67 % schätzen. Falls die Annahme gleicher A-priori-Wahrscheinlichkeiten die Verteilung der wahren Werte über viele solche Urnen korrekt beschreibt, minimiert dieser Erwartungswert die mittlere quadratische Abweichung vom jeweiligen wahren Wert.

Bei informativem Vorwissen wird stattdessen Beta(5,5) als A-priori-Verteilung angenommen. Das kann beispielsweise dem Vorwissen entsprechen, dass zuvor 4 von 8 gezogenen Kugeln rot waren. Zusammen mit den neuen Daten entsteht die A-posteriori-Verteilung Beta(12,8). Ihr Modalwert ist 0,611, sodass die MAP-Methode den Anteil roter Kugeln auf 61,1 % schätzt. Dieser Wert liegt zwischen dem Modalwert der A-priori-Verteilung und der ML-Schätzung von 70 %. Der Erwartungswert der A-posteriori-Verteilung beträgt 0,6; bei Verwendung dieses Schätzers ergäbe sich daher ein Anteil von 60 %.