4.6 Probabilistische Modelle & Maximum Likelihood

Motivation: Woher kommt die Verlustfunktion?

📄 04_linear_methods_ws26.pdf, Folie 38 stellt die bisherigen Modelle gegenüber:

	Lineare Regression	Perceptron
Modell	$\hat y = a\cdot x + b \in \mathbb R$	$\hat y = \operatorname{sign}(z)$, $z = w_1x_1 + w_2x_2 + b$
Verlust	$\sum_i (y_i - \hat y_i)^2$ (quadratisch)	$\sum_{i\in\mathcal M} -y_iz_i$ (0, wenn getrennt)
Idee	kleine Abweichungen von den Daten	die beiden Klassen einfach trennen
Aber	Warum quadratisch? Warum nicht $\lvert y_i - \hat y_i\rvert$?	Welche der Trennlinien? Wie sicher ist der Klassifikator?

Beide Verluste sind plausibel, aber keiner ist zwingend. Die probabilistische Behandlung löst das: Die Verlustfunktion folgt aus dem Modell (Maximum Likelihood).

Warum probabilistisch?

📄 04_linear_methods_ws26.pdf, Folie 39

• Schlussfolgerungen aus Daten sind grundsätzlich unsicher. Wahrscheinlichkeitstheorie modelliert diese Unsicherheit, statt sie zu ignorieren.
• Vereinheitlichender Rahmen: Maximum Likelihood liefert die Verlustfunktion. Viele ML-Algorithmen und fast alle DL-Algorithmen lassen sich so auffassen.
• Verallgemeinerungen werden einfach: lineare Regression → logistische Regression, multinomiale Regression, Zähldaten. AdaBoost → XGBoost.
• Literatur: Bishop Kap. 1.2.5, Deep Learning Book Kap. 3, Murphy Probabilistic Machine Learning: An Introduction.

Probabilistische Modelle

Ein Würfel als einfachstes Beispiel

📄 04_linear_methods_ws26.pdf, Folie 41 Ein unbedingtes Modell (unconditional model) $p_\theta(y)$ beschreibt die Wahrscheinlichkeitsverteilung der Daten ohne Eingabe $x$. Beim Würfel sind die Parameter $\theta_1 = P(1)$, $\theta_2 = P(2)$, … Die Folie zeigt einen gezinkten Würfel mit $P(6) = 0{,}35$ und $P(1) = \dots = P(5) = 0{,}13$.

Quiz: Wie viele Parameter hat ein Würfel? Sechs Wahrscheinlichkeiten, die sich zu 1 summieren müssen. Also 5 freie Parameter, der sechste ergibt sich.

Das berühmteste probabilistische Modell

📄 04_linear_methods_ws26.pdf, Folie 42 Ein Large Language Model (LLM) ist ein bedingtes Modell $p_\theta(y\mid x)$: die Wahrscheinlichkeit für das nächste Token (Wort) $y$ gegeben den Kontext $x$. Für „The weather is really nice today. I'm thinking about going for a …“ gibt es eine Verteilung über alle möglichen nächsten Wörter.

Quiz: Wie viele Parameter hat ein LLM? Ergänzung: Milliarden bis Billionen.

Die Normalverteilung

📄 04_linear_methods_ws26.pdf, Folie 43 Der „Archetyp“ probabilistischer Modelle ist die Gaußverteilung mit Dichte

$$N(y;\,\mu,\sigma) = \frac{1}{\sqrt{2\pi\sigma^2}}\exp\!\left(-\frac{(y-\mu)^2}{2\sigma^2}\right).$$

Quiz: Wie viele Parameter? Zwei, $\mu$ und $\sigma$.

Lineare Regression als probabilistisches Modell

📄 04_linear_methods_ws26.pdf, Folie 44 Der Trick: $\mu$ ist für jedes $x$ anders, $\sigma$ wird bei der Standard-Regression als konstant angenommen („homoskedastisch“, homoscedastic):

$$p_\theta(y_i\mid x_i) = N(y_i;\,\mu_{x_i},\sigma), \qquad \mu_{x_i} = a\cdot x_i + b$$

Das Bild auf der Folie: Über jedem $x$-Wert (Alter 22, 47, 71) steht eine Glockenkurve, deren Mitte auf der Regressionsgeraden liegt. Alle Glocken sind gleich breit. Die Gerade sagt also nicht mehr „der Blutdruck ist $a x + b$“, sondern „der Blutdruck ist im Mittel $a x + b$ und streut mit $\sigma$ darum“.

Quiz: Wie viele Parameter hat die 1D-Regression? Drei: $a$, $b$ und $\sigma$.

Die interaktive Demo 📄 04_linear_methods_ws26.pdf, Folie 45 zeigt das Modell mit den Glocken („violins“) über jedem Punkt und die negative Log-Likelihood als Gütemaß.

Zusammenfassung probabilistische Modelle

📄 04_linear_methods_ws26.pdf, Folie 46 Man modelliert eine Zufallsvariable $Y\mid x$. Das Modell liefert nicht einen Wert, sondern die Parameter einer Verteilung:

$$x \;\longrightarrow\; \text{Modell mit Parametern } \theta \;\longrightarrow\; \text{Parameter der Verteilung}, \qquad p_\theta(y\mid x) = \text{pdf}(\text{para} = f(x))$$

Modell	Verteilung
Lineare Regression	$p_\theta(y\mid x) = N(y;\,\mu = w\cdot x,\,\sigma = \text{const.})$
LLM	$p_\theta(y\mid x) = \text{Categorical}(\text{NN}_\theta(x))$
Würfel	$p_\theta(y) = \text{Categorical}((\theta_1, \theta_2, \dots))$

Weitere Beispiele: Zähldaten (Übung, 4.8), zensierte Daten, …

Generative Modelle: Wahrscheinlichkeitstheorie vs. Statistik

📄 04_linear_methods_ws26.pdf, Folie 47 zeigt das Urnenbild:

• Wahrscheinlichkeitstheorie (sampling): Man kennt den Inhalt der Urne (das Modell) und fragt, welche Daten man mit welcher Wahrscheinlichkeit ziehen wird.
• (Inferenz-)Statistik (inference / training): Man hat die Daten in der Hand und fragt, was man daraus über die Urne (die Parameter) sagen kann und wie sicher man sich ist.

Training eines ML-Modells ist der zweite Weg: von den Daten auf die Parameter schließen.

Maximum-Likelihood-Optimierung

Mit Maximum Likelihood lassen sich alle probabilistischen Modelle anpassen 📄 04_linear_methods_ws26.pdf, Folie 48. ChatGPT beschreibt sich selbst als „trained with maximum likelihood principle“ 📄 04_linear_methods_ws26.pdf, Folie 49.

📄 04_linear_methods_ws26.pdf, Folie 50: Hat man ein probabilistisches Modell $p_\theta(y\mid x)$, hat man über das Maximum-Likelihood-Prinzip automatisch die Verlustfunktion. Es ist „der Hammer“ der klassischen Statistik, des (probabilistischen) maschinellen Lernens und des Deep Learning (in 99,5 % der Fälle). Mit der Warnung: Wer eine andere Verlustfunktion nimmt, wird von Thor heimgesucht.

Wahrscheinlichkeit der beobachteten Daten

📄 04_linear_methods_ws26.pdf, Folie 51 Gegeben:

• Beobachtete Trainingsdaten $D = (x_i, y_i)_{i=1}^N$,
• ein probabilistisches Modell $p_\theta(y\mid x)$.

Annahme: Die Trainingsdaten sind unabhängig und identisch verteilt (independent identically distributed, iid). Für unabhängige Ereignisse gilt $P(A,B) = P(A)\cdot P(B)$, also:

$$p_\theta(D) = p_\theta(y_1\mid x_1)\cdot p_\theta(y_2\mid x_2)\cdots p_\theta(y_N\mid x_N) = \prod_{i=1}^N p_\theta(y_i\mid x_i)$$

Diese Größe heißt Likelihood und wird manchmal $p(D\mid\theta)$ geschrieben.

Wahrscheinlichkeit vs. Likelihood

Ergänzung: Als Funktion von $y$ bei festem $\theta$ ist $p_\theta(y\mid x)$ eine Wahrscheinlichkeit (bzw. Dichte). Beim Training sind die Daten fest und $\theta$ variiert. Als Funktion von $\theta$ heißt derselbe Ausdruck Likelihood. Sie ist keine Wahrscheinlichkeitsverteilung über $\theta$ (sie integriert sich über $\theta$ im Allgemeinen nicht zu 1).

Das Prinzip

📄 04_linear_methods_ws26.pdf, Folie 52 „Eine der schönsten Ideen der Statistik“ (Ronald Fisher 1913, vorher schon Gauß und Laplace):

Maximum-Likelihood-Prinzip

Stelle die Parameter $\theta$ des Modells $p_\theta(D)$ so ein, dass die (beobachteten) Daten $D$ am wahrscheinlichsten sind:

$$\hat\theta = \operatorname{argmax}_\theta\; p_\theta(D)$$

Rezept zum Training probabilistischer Modelle

📄 04_linear_methods_ws26.pdf, Folie 53 und 📄 04_linear_methods_ws26.pdf, Folie 54:

Schritt 1: Probabilistisches Modell bauen. Ein Modell mit Parametern $\theta$, das für beobachtete Daten eine Wahrscheinlichkeit ausgibt. Bei Regression:

$$p_\theta(D) = \prod_{i=1}^N p_\theta(y_i\mid x_i),$$

wobei $p_\theta(y_i\mid x_i)$ die Wahrscheinlichkeit(sdichte) ist, mit der das Modell den $i$-ten Datenpunkt beobachtet.

Schritt 2: Wahrscheinlichkeit der beobachteten Daten optimieren.

$$\hat\theta_\text{ML} = \operatorname{argmax}_\theta\prod_{i=1}^N p_\theta(y_i\mid x_i)$$

Stattdessen rechnet man meist (mit demselben $\hat\theta$):

$$\hat\theta_\text{ML} = \operatorname{argmax}_\theta\sum_{i=1}^N\log p_\theta(y_i\mid x_i) = \operatorname{argmin}_\theta\left(-\frac1N\sum_{i=1}^N\log p_\theta(y_i\mid x_i)\right)$$

Der Ausdruck in der Klammer ist die negative Log-Likelihood:

$$\text{NLL} = -\frac1N\sum_{i=1}^N\log p_\theta(y_i\mid x_i)$$

Warum darf man das?

1. Logarithmieren: $\log$ ist streng monoton wachsend. Wo $p_\theta(D)$ maximal ist, ist auch $\log p_\theta(D)$ maximal. Der Logarithmus macht aus dem Produkt eine Summe.
2. Minus: Aus Maximieren wird Minimieren, damit es zu „Verlust minimieren“ passt.
3. Faktor $\frac1N$: Ein positiver konstanter Faktor verschiebt das Optimum nicht. Er macht den Wert aber unabhängig von der Datenmenge vergleichbar.

Warum will man das? Ergänzung: Ein Produkt aus tausenden Zahlen kleiner als 1 wird numerisch sofort 0 (Unterlauf). Auf der Demo-Folie liegt das Maximum der Likelihood schon bei wenigen Datenpunkten bei etwa $10^{-8}$. Summen von Logarithmen sind numerisch harmlos und lassen sich Summand für Summand ableiten.

Beispiel: Normalverteilung anpassen

📄 04_linear_methods_ws26.pdf, Folie 55 Gegeben Datenpunkte $D = (y_1, \dots, y_N)$ mit $y_i \sim N(\mu,\sigma)$. Man stellt $\theta = (\mu,\sigma)$ so ein, dass

$$p_\theta(D) = \prod_{i=1}^N N(y_i;\,\mu,\sigma)$$

maximal wird, technisch: Man minimiert $\text{NLL}(\theta) = -\frac1N\sum_{i=1}^N\log N(y_i;\,\mu,\sigma)$.

Ergänzung, nicht auf den Folien: Das lässt sich analytisch lösen.

$$\text{NLL}(\mu,\sigma) = \log\sqrt{2\pi} + \log\sigma + \frac{1}{2\sigma^2 N}\sum_i (y_i-\mu)^2$$

• $\partial/\partial\mu = -\frac{1}{\sigma^2N}\sum_i(y_i-\mu) = 0 \;\Rightarrow\; \hat\mu = \frac1N\sum_i y_i$ (der Mittelwert).
• $\partial/\partial\sigma = \frac1\sigma - \frac{1}{\sigma^3N}\sum_i(y_i-\mu)^2 = 0 \;\Rightarrow\; \hat\sigma^2 = \frac1N\sum_i(y_i-\hat\mu)^2$.

Zahlen: $D = (1, 2, 3, 6)$. Dann $\hat\mu = 3$ und $\hat\sigma^2 = \frac14(4 + 1 + 0 + 9) = 3{,}5$. Zum Vergleich mit festem $\sigma = 1$:

$\mu$	$\sum_i (y_i-\mu)^2$	$\text{NLL} = 0{,}919 + \frac{1}{8}\sum_i(y_i-\mu)^2$
3	14	2,669
2	18	3,169

Der Mittelwert hat die kleinere NLL, die Daten sind unter $\mu = 3$ wahrscheinlicher.

Fallstrick: $\frac1N$ oder $\frac1{N-1}$?

Der ML-Schätzer der Varianz teilt durch $N$ und ist verzerrt (er unterschätzt die Varianz im Mittel). Die übliche Stichprobenvarianz teilt durch $N-1$. Beide sind sinnvoll, nur ist eben nur die erste die Maximum-Likelihood-Lösung.

Lineare Regression mit Maximum Likelihood

📄 04_linear_methods_ws26.pdf, Folie 56 Man maximiert

$$\prod_i N(y_i;\,a\cdot x_i + b,\,\sigma)$$

für alle Datenpunkte gleichzeitig. In der Demo liefert „Fit MLE“ z. B. $w = 1{,}26$, $b = 0{,}22$, $\sigma = 0{,}39$, samt Unsicherheitsintervallen für die Parameter.

Herleitung des MSE

📄 04_linear_methods_ws26.pdf, Folie 57 Modell: $y_i \sim N(\mu_i,\sigma)$ mit $\mu_i = \sum_{j=1}^d w_jx_{ij} + b$, Parameter $\theta = (w_1, \dots, w_d, b)$, $\sigma$ fest.

$$\begin{aligned} \hat\theta &= \underset{\theta}{\operatorname{argmax}}\left\{\prod_{i=1}^N p_\theta(y_i\mid x_i)\right\} = \underset{\theta}{\operatorname{argmax}}\left\{\prod_{i=1}^N N\Big(y_i;\,\sum_j w_jx_{ij} + b,\,\sigma\Big)\right\} && (1)(2)\\ &= \underset{\theta}{\operatorname{argmax}}\left\{\prod_{i=1}^N\frac{1}{\sqrt{2\pi\sigma^2}}\exp\!\left(-\frac{(\sum_j w_jx_{ij} + b - y_i)^2}{2\sigma^2}\right)\right\} && (3)\\ &= \underset{\theta}{\operatorname{argmin}}\left\{-\log\left(\prod_{i=1}^N\frac{1}{\sqrt{2\pi\sigma^2}}\exp\!\left(-\frac{(\sum_j w_jx_{ij} + b - y_i)^2}{2\sigma^2}\right)\right)\right\} && (4)\\ &= \underset{\theta}{\operatorname{argmin}}\left\{\sum_{i=1}^N -\log\left(\frac{1}{\sqrt{2\pi\sigma^2}}\right) + \frac{1}{2\sigma^2}\Big(\sum_j w_jx_{ij} + b - y_i\Big)^2\right\} && (5)\\ &= \underset{\theta}{\operatorname{argmin}}\left\{\frac{1}{2\sigma^2}\sum_{i=1}^N\Big(\sum_j w_jx_{ij} + b - y_i\Big)^2\right\} && (6) \end{aligned}$$

Die einzelnen Schritte:

1. Unabhängige Daten: Die Likelihood ist das Produkt der Dichten.
2. Modell einsetzen: $y_i \sim N(\mu_i,\sigma)$.
3. Gauß-Dichte ausschreiben.
4. $-\log$ ist fallend: Aus max wird min, das $\hat\theta$ bleibt dasselbe.
5. Log eines Produkts = Summe der Logs, und $\log(\exp(z)) = z$. Das Minus vor dem $\log$ hebt das Minus im Exponenten auf.
6. Konstante weglassen: $-N\log\frac{1}{\sqrt{2\pi\sigma^2}}$ enthält kein $\theta$. Übrig bleibt die Summe der quadrierten Fehler $= N\cdot\text{MSE}$, mal $\frac{1}{2\sigma^2}$. Positive Faktoren ändern das Minimum nicht.

Ergebnis

Kleinste Quadrate = Maximum Likelihood unter der Annahme normalverteilter Fehler mit konstanter Varianz. Der MSE ist damit nicht mehr willkürlich, sondern folgt aus einer überprüfbaren Modellannahme. Nimmt man stattdessen eine Laplace-Verteilung an, erhält man den mittleren absoluten Fehler (MAE), siehe 4.8.

Ergänzung: Nachdem $\boldsymbol w$ und $b$ bestimmt sind, liefert die Ableitung nach $\sigma$ (wie oben bei der Normalverteilung) $\hat\sigma^2 = \text{MSE}$. Das Modell sagt damit auch, wie stark die Daten um die Gerade streuen. Diese Unsicherheitsangabe ist ein Bonus der probabilistischen Sicht.