Zum Hauptinhalt springen

Lernplan: 9. November 2026 – 31. Januar 2027

Zwölf Wochen bis zur Klausur. Der Machine-Learning-Teil endet am 17.11., ab dem 24.11. kommt Deep Learning. Die Gefahr: Der ML-Stoff vom Oktober gerät in Vergessenheit, während DL läuft. Deshalb ist jede Woche zweigeteilt: DL nacharbeiten und ein ML-Kapitel wiederholen, und zwar so, dass bis Weihnachten jedes ML-Kapitel einmal dran war. Nebenher wächst das A4-Blatt für die Klausur.

Zum Abhaken

Die Wochen und die Abgaben stehen auch im Lernplan-Kalender, zusammen mit den anderen Fächern.

Prüfung (laut Moodle-Kurs Deep Learning)

90-minütige Klausur im Prüfungszeitraum. Erlaubt ist nur ein DIN-A4-Blatt, vorne und hinten handschriftlich beschrieben (nicht ausgedruckt, nicht vom iPad). Keine KI (📄 Folie 13).

Annahmen
  • Der Plan nimmt an, dass die Klausur ML und DL zusammen abdeckt (Kombiveranstaltung). Im Moodle steht die Prüfungsform nur im DL-Kurs. Falls ML extra geprüft wird, bleibt der Plan trotzdem sinnvoll.
  • ML laut Zeitplan: am 10.11. SVM III, am 17.11. als letzte ML-Vorlesung Ensembles.
  • DL laut Moodle: Beginn am 24.11., Foliensätze 01 Neuronale Netze, 02 Backpropagation, 03 Verbessertes Training, 04 Keras, 05 Faltungsnetze, 08 Vision Transformers. Teil 2 (probabilistische und generative Modelle, Unsicherheit) liegt im Google Drive. Welcher Foliensatz an welchem Dienstag drankommt, ist geschätzt. Was wirklich drankommt, steht in der Vorlesung, die Spalte „Neu“ passt sich an.
  • DL-Übungen: Blatt 1 (Backpropagation) Abgabe 1.12., Blatt 2 (CNN: Keras-Framework, Edge Lover) Abgabe 15.12. Übungsgruppen für Dienstag bis 27.11. eintragen.
  • Weihnachtspause etwa 21.12.–6.1. ohne Vorlesung.
  • 20 h Arbeit pro Woche und jeden zweiten Samstag unterwegs, siehe Kalender.

Der Wochenrhythmus​

Rund 3–4 Stunden pro Woche plus die Übungsblätter. Die Tage passen zum Numa-Rhythmus.

WannWasDauer
DiVorlesung (zwei Termine)3 h
Mi oder DoNacharbeiten: Folien durchgehen, jede Formel einmal selbst herleiten, Notebook der Vorlesung laufen lassen1.5 h
nach AbspracheÜbungsblatt bzw. Praktikum im Team. Jede:r sollte jede Zelle erklären können, nicht nur die eigene1–2 h
SoML-Wiederholung: die Selbsttest-Fragen des Wochenkapitels beantworten, eine Herleitung auf leeres Papier, dann die wichtigsten Formeln des Kapitels ins A4-Blatt45 min

Freie Samstage sind wie bei Numa Puffer.

Das A4-Blatt

Nicht erst im Januar schreiben. Jede Woche einen Entwurf in eine Notiz (Formeln, die man nicht herleiten will, Ableitungen von Aktivierungsfunktionen, Parameterzahlen). In Woche 11 wird daraus das echte Blatt, von Hand. Allein das Abschreiben und Verdichten ist schon eine gute Wiederholung.

Ohne KI üben

Die Folien warnen: Wer sich beim Üben die Lösungen von einer KI geben lässt, schneidet in der Prüfung schlechter ab als ganz ohne KI (📄 Folie 13). Für die Wiederholung also erst selbst auf Papier, dann im Skript nachsehen.

Überblick​

WocheDatumNeu (Vorlesung)ÜbungML-Wiederholung
19.–15.11.SVM IIIArbeitsblatt 3Kap. 6–7 SVM & Kernel
216.–22.11.Ensembles (letzte ML-Vorlesung)Arbeitsblatt 3Kap. 1 Statistik
323.–29.11.DL 01 Neuronale Netze, 02 BackpropagationGruppe bis 27.11., Blatt 1Kap. 2 PCA & k-means
430.11.–6.12.DL 03 Verbessertes Training, 04 KerasBlatt 1 Abgabe 1.12., Blatt 2Kap. 3 Bayes & ROC
57.–13.12.DL 05 FaltungsnetzeBlatt 2Kap. 4 lineare Methoden
614.–20.12.DL Faltungsnetze / RNNBlatt 2 Abgabe 15.12.Kap. 5 Modellbewertung
721.–27.12.Pause–Großwiederholung ML Kap. 1–4
828.12.–3.1.Pause–Großwiederholung ML Kap. 5–7 + Ensembles
94.–10.1.Pause bis 6.1.–Wiederholung DL 01–05
1011.–17.1.DL RNN / 08 Vision Transformersggf. neues BlattKap. 4 + 6 (Optimierung)
1118.–24.1.DL Teil 2: probabilistische Modelleggf. BlattA4-Blatt schreiben
1225.–31.1.DL Teil 2: generative Modelle, Unsicherheit–Probeklausuren

Woche für Woche​

Woche 1 (9.–15.11.): SVM III​

  • Vorlesung SVM III (a und b) nacharbeiten, Formeln selbst herleiten.
  • SVM I und II dazu wiederholen: Lagrange-Dual auf leeres Papier, Soft-Margin und die Rolle von CC.
  • Kernel-Trick erklären: Warum taucht Φ\Phi im Dual nur in Skalarprodukten auf?
  • Praktikum: Arbeitsblatt 3 (SVM, Random Forests, Boosting), SVM-Teil.
  • A4-Entwurf anlegen: SVM-Primal, Dual, Kernbeispiele.

Woche 2 (16.–22.11.): Ensembles​

Letzte ML-Vorlesung (Di 17.11., Dürr).

  • Ensemble I nacharbeiten (📄 11_trees_and_ensemble_methods_ws26.pdf): Entscheidungsbaum, Split nach Gini/Entropie einmal von Hand.
  • Bagging (Bootstrap + Mitteln) und Random Forest: Warum sinkt die Varianz? Verbindung zu Bootstrap und Bias-Varianz.
  • Ensemble II: Boosting, Idee von AdaBoost in drei Sätzen, Unterschied zu Bagging.
  • Wiederholung Kapitel 1: Dichte vs. Wahrscheinlichkeitsfunktion, Erwartungswert, Schätzer, Korrelation.
  • Praktikum: Arbeitsblatt 3, Random-Forest- und Boosting-Teil.

Woche 3 (23.–29.11.): Start Deep Learning​

  • Bis Fr 27.11. in eine Übungsgruppe eintragen (Moodle DL).
  • 01 Neuronale Netze nacharbeiten: abstraktes Neuron, Aktivierungsfunktionen, mehrschichtiges Netz, warum „tief“.
  • 02 Backpropagation für ein Netz mit einer versteckten Schicht selbst herleiten (Kettenregel). Das MLP-Notebook auf MNIST laufen lassen.
  • Verbindung zu ML: Ein Neuron mit Sigmoid und Cross-Entropy ist die logistische Regression.
  • Blatt 1 (Backpropagation für MLPs) anfangen.
  • Wiederholung Kapitel 2: PCA über Eigenwerte der Kovarianz herleiten, k-means-Schritte an 6 Punkten von Hand.

Woche 4 (30.11.–6.12.): Besser trainieren​

  • Abgabe Blatt 1 am Di 1.12.
  • 03 Verbessertes Training: verlangsamtes Lernen (Sättigung, warum Cross-Entropy statt quadratischem Fehler), Overfitting und Regularisierung, Initialisierung.
  • 04 Keras: ein Modell aus der Vorlesung selbst bauen und trainieren.
  • Blatt 2 anfangen (eigene Verlustfunktion in Keras).
  • Wiederholung Kapitel 3: Bayes-Klassifikator, Naive Bayes, ROC-Kurve und AUC.
  • Prüfungsanmeldung im Dezember im Blick behalten.

Woche 5 (7.–13.12.): Faltungsnetze​

  • 05 Faltungsnetze: Faltung, Pooling, Anzahl Parameter einer Faltungsschicht ausrechnen können. Notebook Faltungsnetze laufen lassen.
  • Blatt 2: Edge Lover (Kanten mit Faltungsfiltern).
  • Verbindung zu ML: Weight Decay = Ridge.
  • Wiederholung Kapitel 4: Normalgleichung, Maximum Likelihood ⇒ kleinste Quadrate.

Woche 6 (14.–20.12.): Faltungsnetze vertiefen​

  • Abgabe Blatt 2 am Di 15.12.
  • DL der Woche nacharbeiten (Faltungsnetze weiter oder Start RNN).
  • Wiederholung Kapitel 5: Gütemaße, Kreuzvalidierung, Bias-Varianz-Zerlegung auf Papier.
  • A4-Entwurf: DL-Teil anfangen (Backprop-Gleichungen, Aktivierungen und ihre Ableitungen, CNN-Parameter).

Woche 7 (21.–27.12.): Großwiederholung ML 1–4​

Locker angehen, 3 Stunden über die Woche reichen.

  • Selbsttest-Fragen Kapitel 1–4 komplett, Fragen mit Zögern markieren.
  • Herleitungen auf Papier: PCA, Naive Bayes, Normalgleichung, Gradient der Cross-Entropy.
  • Arbeitsblatt 2 noch einmal von oben laufen lassen und jede Zelle erklären.

Woche 8 (28.12.–3.1.): Großwiederholung ML 5–7​

  • Selbsttest-Fragen Kapitel 5–7 komplett.
  • Herleitungen: Bias-Varianz, Hard-Margin-SVM bis zum Dual, Soft-Margin und Hinge-Loss, Mercer-Bedingung.
  • Ensembles: Gini von Hand, Bagging vs. Boosting.
  • Liste „kann ich noch nicht“ anlegen.

Woche 9 (4.–10.1.): Wiederholung DL​

  • DL 01–05 ohne Unterlagen: Backprop für ein kleines Netz von Hand, Sättigung und Cross-Entropy, Regularisierung, CNN-Parameter zählen.
  • Blatt 1 und 2 noch einmal ohne Lösung.
  • A4-Entwurf ergänzen.

Woche 10 (11.–17.1.): RNN und Transformer​

  • DL der Woche nacharbeiten (RNN bzw. 08 Vision Transformers: Attention, Patches).
  • Wiederholung Kapitel 4 und 6 zusammen: Gradientenabstieg, konvexe Optimierung, Pegasos, SGD in DL. Wo ist das Problem konvex, wo nicht?

Woche 11 (18.–24.1.): A4-Blatt​

  • DL Teil 2 nacharbeiten (probabilistische Modelle, Folien im Google Drive).
  • A4-Blatt von Hand schreiben: aus den Entwürfen nur das, was man in der Klausur nicht in 2 Minuten herleiten kann.
  • Liste „kann ich noch nicht“ abarbeiten.

Woche 12 (25.–31.1.): Probeklausuren​

  • DL Teil 2 der letzten Vorlesung nacharbeiten (generative Modelle, Unsicherheit).
  • Zwei Probeklausuren unter echten Bedingungen: 90 min, nur das A4-Blatt, ohne KI. Aufgaben aus den Selbsttests, Übungsblättern und dem Abschnitt „Klausurvorbereitung“ im Moodle. Danach mit dem Skript korrigieren und das A4-Blatt nachbessern.
  • Querverbindungen, die gern gefragt werden:
    • Maximum Likelihood ↔ kleinste Quadrate ↔ Cross-Entropy
    • Ridge ↔ Weight Decay ↔ Soft-Margin-CC
    • Bias-Varianz ↔ Bagging ↔ Dropout
    • logistische Regression ↔ einzelnes Neuron
  • Ab Februar bis zum Termin: täglich eine Herleitung und 10 Fragen, sonst nichts Neues mehr.

Wenn es mal nicht klappt​

  • Arbeitswoche zu voll? Die ML-Wiederholung dieser Woche fällt aus, Nacharbeiten und Übungsblatt bleiben. Die ausgefallenen Kapitel holt die Großwiederholung in der Pause nach.
  • Übungsblatt frisst die Woche? Im Team die Aufgaben aufteilen, aber am Ende alles gemeinsam durchgehen. Das ist gleichzeitig Wiederholung.
  • DL fehlt hier noch? Die DL-Skriptseiten können im gleichen Stil ergänzt werden, sobald die Folien hier im Repo liegen.