KI (4) die Delta Lernregel

Das Wichtigste aus dem Video

Tipp auf eine Zeit – das Video springt genau dorthin.

1. 1:25 Ziel des Lernens ist, die Gewichte so einzustellen, dass die Verlustfunktion minimal wird. Statt die Gewichte optisch oder durch Probieren zu finden, soll eine mathematische Optimierung den passenden Punkt bestimmen.
2. 2:05 Das Ausgangssignal eines einzelnen Neurons ist die Aktivierungsfunktion der gewichteten Summe seiner Eingangssignale. Der Fehler ergibt sich als Sollwert minus tatsächlichem Ausgabewert.
3. 3:36 Für die erste Herleitung wird die Identitätsfunktion als Aktivierungsfunktion angenommen: Der Ausgang entspricht dann direkt dem Eingang. Diese Vereinfachung hilft, das Vorzeichen und die Grundidee der Gewichtsänderung zu verstehen.
4. 4:14 Ist der Fehler größer als null, ist der Ausgabewert zu klein; ist der Fehler kleiner als null, ist der Ausgabewert zu groß. Daraus folgt: Ein zu kleines Gewicht muss erhöht, ein zu großes Gewicht verringert werden.
5. 6:43 Das neue Gewicht lässt sich als altes Gewicht plus ein Delta beschreiben. Der Fehler selbst liefert zunächst eine plausible Richtung für dieses Delta, weil sein Vorzeichen anzeigt, ob erhöht oder verringert werden soll.
6. 7:49 Das Eingangssignal der Kante muss in die Gewichtsänderung einbezogen werden, weil ein negatives Eingangssignal das Vorzeichen der Wirkung umdreht. Deshalb wird das Delta mit dem Eingangswert der Kante multipliziert.
7. 8:21 Ein Lernfaktor wird eingeführt, weil Fehler und Eingangswert allein nicht garantieren, dass die Gewichtsänderung passend groß ist. Dieser Faktor bestimmt die Lerngeschwindigkeit beziehungsweise Schrittweite.
8. 9:30 Die vereinfachte Regel mit Identitätsfunktion reicht nicht für beliebige Aktivierungsfunktionen, besonders wenn eine Funktion auch fällt. Für eine allgemeiner nutzbare Regel muss die lokale Steigung der Aktivierungsfunktion berücksichtigt werden.
9. 10:21 Bei der Identitätsfunktion ist die Steigung überall 1; deshalb funktioniert die einfache Herleitung dort direkt. Bei anderen Aktivierungsfunktionen ersetzt die Ableitung diese feste 1 durch die Steigung an der aktuellen Stelle.
10. 11:49 Die Ableitung beschreibt die Steigung an der Stelle, an der sich das Eingangssignal gerade befindet. In der Lernregel wird deshalb die Ableitung der Aktivierungsfunktion an der aktuellen Eingangsposition verwendet.
11. 13:19 Die Verlustfunktion wird minimiert, indem man sich mithilfe der Ableitung entgegen der Steigung bewegt. Fehler mal Ableitung liefert die Richtung, in der die Gewichte angepasst werden sollen, um dem Minimum näherzukommen.
12. 16:52 Grafisch bedeutet Optimierung: Für ein aktuelles Gewicht zeigt die Ableitung, ob man nach links oder rechts gehen muss, um den Verlust zu senken. Das Gewicht wird mit Fehler, Ableitung, Eingangswert und Lernrate aktualisiert.
13. 20:25 Eine kleinere Lernrate erhöht die Chance, nahe am Minimum zu landen, benötigt aber mehr Rechenschritte. Eine zu große Lernrate kann dazu führen, dass das Verfahren am Minimum vorbeispringt und chaotische Ergebnisse liefert.
14. 22:08 Im Zahlenbeispiel wird aus den Gewichten und Eingängen zunächst der Eingang der Aktivierungsfunktion berechnet, daraus der Ausgabewert und anschließend der Fehler. Mit Ableitung, Eingangswert und Lernrate ergibt sich dann das neue Gewicht.
15. 25:46 Für die Implementierung müssen Aktivierungsfunktionen nicht nur ihren Funktionswert, sondern auch ihre Ableitung bereitstellen. Beispiele sind Identität mit Ableitung 1, Sigmoid mit `sigmoid(x) * (1 - sigmoid(x))`, Tangens hyperbolicus mit `1 - tanh(x)^2` und ReLU abschnittsweise mit 0 oder 1.
16. 27:44 Im Neuron muss die gewichtete Eingangssumme gespeichert werden, weil dort die Ableitung der Aktivierungsfunktion ausgewertet wird. Danach kann eine Delta-Lernregel-Methode alle eingehenden Kanten durchlaufen und deren Gewichte anpassen.
17. 31:46 Im neuronalen Netz wird die Lernregel über Sollwerte aufgerufen, wobei die Anzahl der Sollwerte zur Anzahl der Output-Neuronen passen muss. Diese einfache Delta-Regel funktioniert hier nur ohne Hidden Layer, weil nur für Output-Neuronen direkte Erwartungswerte bekannt sind.
18. 34:27 Für das Training werden Gewichte initialisiert, Eingangskombinationen und erwartete Ausgänge als Datentabelle hinterlegt sowie Lernrate und Epochenzahl festgelegt. Die Lernregel wird dann wiederholt für jede Eingangskombination mit dem zugehörigen Sollwert ausgeführt.
19. 38:18 Beim OR-Gatter verbessern mehr Epochen die Ausgaben, weil die Gewichte durch wiederholtes Lernen näher an geeignete Werte wandern. Die Resultate sind wegen der Aktivierungsfunktion nicht zwingend exakt, können aber durch Runden das gewünschte Verhalten zeigen.
20. 40:35 Unterschiedliche Aktivierungsfunktionen führen zu unterschiedlich guten Lernergebnissen. Beim Tangens hyperbolicus wird für das OR-Gatter kaum ein Bias benötigt, weil diese Funktion durch den Ursprung geht.
21. 41:44 Wenn bei der Identitätsfunktion unsinnige Werte entstehen, deutet das auf eine zu große Lernrate hin. Eine kleinere Lernrate kann die Ergebnisse stabilisieren.
22. 42:58 Durch Ändern der erwarteten Ausgabewerte kann dasselbe Netz statt eines OR-Gatters ein AND-Gatter lernen. Die Struktur bleibt gleich; gelernt wird über die Sollwerte und die daraus folgenden Gewichtsänderungen.
23. 46:08 Um den Gradientenabstieg grafisch darzustellen, wird ein Gewicht festgehalten, damit nur zwei Gewichte auf einer Fläche sichtbar verändert werden. So lässt sich zeigen, wie die Gewichte entlang der Verlustfunktion wandern.
24. 49:14 Bei steilen Bereichen der Verlustfunktion bewegt sich das Lernen schneller, bei flachen Bereichen langsamer. Das liegt daran, dass die Ableitung als lokale Steigung direkt in die Gewichtsänderung eingeht.
25. 51:56 Plateaus können das Lernen stark verlangsamen, weil die Ableitung dort nahe null ist. Ungünstige Startwerte können deshalb dazu führen, dass sich Gewichte lange kaum bewegen, bis genug Epochen gerechnet wurden.
26. 54:42 Genau genommen ist die Delta-Regel ohne Ableitung die einfache Form, während die erweiterte Delta-Regel die Ableitung einbezieht. Lernregeln geben allgemein vor, wie ein Netz seine Gewichte automatisch so verändert, dass ein besseres Ergebnis entsteht.
27. 55:55 Für Hidden Layer reicht diese Delta-Regel nicht aus, weil dort keine direkten Sollwerte für die Neuronen bekannt sind. Dafür wird später ein Verfahren wie Backpropagation benötigt, das dieses Zuordnungsproblem löst.

Zum Nachlesen