Einführung in Künstliche Neuronale Netzwerke!
datasolut
https://www.youtube.com/watch?v=r7mhCVBop68

Transkript (automatisch erstellt)

0:00 als scienceberater spreche ich häufig mit Kunden über die Möglichkeiten deep learning in Projekten anzuwenden und da kommt oft zuvor noch die Frage auf
0:08 kannst du mir das mit den künstlichen neuralen Netzen noch mal in 5 Minuten erklären und genau das möchte ich in diesem Video tun was ist ein künstliches
0:16 neuronales Netzwerk künstliche neuronale Netzwerke sind computeralgorithmen die von der Funktionsweise des menschlichen Kerns inspiriert sind sie bestehen aus
0:26 miteinander verknüpften virtuellen Neuronen die Daten aufnehmen transformieren und auf Ausgabedaten überführen die dann an
0:35 andere Neuron weitergegeben werden und am Ende so eines Netzwerks dann in eine Gesamtausgabe überführen die Eingabedaten können dabei sehr
0:43 unterschiedliche Arten von Datentypen sein das können Bild Videodaten sein Tonspuren ganz normale Datentabellen Texte
0:52 Zeitreihendaten und noch verschiedene andere man kann sehr komplexe neuronale Netze bauen die dann auch sehr komplexe Fragestellung beantw können in vielen
1:01 Bereichen die für Computer sehr komplex sind z.B die Bilderkennung die Spracherkennung die Sprachverarbeitung haben künstliche neuronalnetze in den
1:11 letzten 10 15 Jahren unsere technischen Möglichkeiten revolutioniert dabei muss so ein künstliches neuronales Netz nicht von Anfang an perfekt eingestellt werden
1:22 es ist ein machine learning Algoritmus das heißt sobald die grobearchitektur feststeht kann es mit Hilfe von Trainings Daten trainiert werden
1:31 Beispieldaten werden in das Modell eingefüttert und die Parameter des Modells werden so angepasst dass für diese Beispieldaten die optimal
1:39 Antworten die optimalen Ausgaben erzeugt werden und das so optimierte das trainierte Modell kann dann anewendet werden um für neue unbekannte Datensätze
1:49 auch die Ausgaben die wir wünschen zu erzeugen schauen wir uns jetzt noch einmal genauer an wie so ein künstliches
1:58 Neuron funktioniert die verschiedenen Inputs x1 x2 und so weiter werden gewichtet und aufadiert das Ergebnis wird dann mit einer Aktivierungsfunktion
2:08 in den Output des Neurons übersetzt diese Aktivierungsfunktion kann z.B eine schwellwertfunktion sein überschreitete Input eine gewisse Schwelle feuert das
2:17 Neuron mit Wert 1 so funktioniert z.B bei den Neuronen im menschlichen Gehirn in künstlichen neuronalen Netzen allerdings werden meistens andere
2:27 aktivierungsfunktionen verwendet z.B die sigmafunktion die Ausgabewerte zwischen 0 und 1 erlaubt oder aber eine rectifier Funktion die positive Werte unverändert
2:37 lässt und negative Werte auf Null setzt es teilen sich übrigens immer alle Neuronen einer Schicht dieselbe Aktivierungsfunktion was sich
2:45 unterscheidet und sie individuell macht sind die eins die Gewichte der Verbindung zwischen den einzelnen
2:53 Neuronen und wie lernt ja zu ein neurales Netz sobald wir unser Netz in Grundzügen definiert haben also die Anzahl der Neuronen die Architektur die
3:02 aktivierungsfunktionen können wir das nicht mehr ändern was sich ändern kann sind die Gewichte der Verbindung zwischen den Neuronen und um die
3:09 anzupassen und zu optimieren kommt jetzt das supervised learning aus dem machine learning zum Einsatz die trainingsdatensätze die wir zur
3:17 Verfügung haben mit den richtigen Ausgabewert mit den richtigen Antworten vergleichen wir für jedes einzelne für jeden beispieldatensatz die Ausgabe das
3:24 Modell erzeugt mit der korrekten mit der richtigen Ausgabe und dann können wir mit Hilfe des back propagation Algorithmus bestimmen für jede einzelne
3:33 Verbindung ob ihr Wert größer oder kleiner werden muss um eine bessere Vorhersage zu erzeugen das ganze läuft hier von rechts nach links also erst die
3:43 inputgewichte des Output layers die inputgewichte des H layers und so weiter nach links bis man fertig ist so funktionieren zumindest die meisten
3:51 neuronalen Netze bei einigen neuronalen Netz gibt es auch andere Trainingsmethoden es gibt eine möglicher Architekturen für künstliche Neal Netze
4:02 ich möchte nur über die wichtigsten reden zunächst einmal das perzeptron das ist sozusagen der Großvater und die Basis der neuronalen Netze dies ist das
4:12 Modell eines einzelnen künstlichen neurons so wie wir es vorhin beschrieben haben der direkteste Weg daraus jetzt ein neuronelles Netz zu konstruieren ist
4:21 das sogenannte multilayer oder viel mehrschichtige mehrebenen perzeptor sieht so aus wir haben ein Schichtenmodell wie vorhin schon
4:31 gesehen auf einer eingabeschicht folgt jeweils ein Hidden Layer von perzeptronen von Neuronen und die sind jeweils jeweils alle perzeptronen der
4:42 ersten Schicht sind mit allen perzeptronen der nächsten Schicht verbunden und so weiter dieses ist die grundlegende Struktur für viele neuronal
4:51 Netze und wird auch oft in Kombination in Architektur mit anderen Architekturen verwendet und ist dabei z.B die Grundlage für verschiedene
5:00 Anwendungsfälle wie z.B Empfehlungssysteme das multilayer perzepton ist dabei nur ein Beispiel für die Klasse von neuronalen Netzen die
5:10 Feed forward neur Network genannt werden das heißt neuronal Netze bei denen die Inputs jeweils immer nur von den Neuronen einer Schicht zu den Neuronen
5:19 der nächsten Schicht bis zum Output vorwärts weitergegeben werden eine weitere Gruppe aus eine weitere Art von neuralen Netzen in dieser Gruppe sind
5:29 diese sogenannten convolutional neural networks convolutional Neural Networks sind ebenfalls Feed forward neural networks allerdings im Gegensatz zu
5:39 multilayer perceptrons ist dort nicht jeders Neuron eines Layers mit jedem Neuron des nächsten layers verknüpft sondern ist es von vorne rein eine
5:47 gewisse Struktur vorgeben die optimiert ist für die Verarbeitung von Bildern das funktioniert meistens so dass eine Abfolge von convolution und pooling
5:56 Layern verwendet wird grob gesagt die der convolution Layer im convolution Layer achtet jedes Neuron nur auf einen kleinen Bereich von Pixeln einem
6:06 gewissen Bereich des Bildes und identifiziert ob dort ein gewisses Muster eine gewisse Struktur auftaucht pooling Layer vereinfacht das dann diese
6:14 Information dann über das ganze Bild hinweg um eine aggregierte Information das ganze Bild zu gewinnen so können viele kleinteilige Strukturen Kanten
6:25 Ecken gewisse Formen erkannt werden aber wie genau diese Form erkannt wird lernt das Netz selber conversal neur Networks sind der state of the art bei allen
6:37 Anwendungen bei denen es heutzutage darum geht Bild Bilder zu erkennen und Bilder zu verarbeiten aber auch bei anderen Anwendungen wie z.B der
6:46 Sprachverarbeitung der zeitreinenanalyse und so weiter kommen sie zum Einsatz eine weitere Klasse von neuronalen Netzen die eben nicht Feed forward sind
6:54 sind die sogenannten Rekurrenten neuronalen Netze der Unterschied zum Feed forward Network ist hier dass der Zustand des Netzes bei einem beim
7:04 vorherigen Datenpunkt auch als zusätzlicher Input für die Berechnung des Zustands amim nächsten Datenpunkt verwendet wird das erlaubt dem Modell
7:13 eine Art Gedächtnis über die Zeit hin weg zu entwickeln und sozusagen die die vorherigen Aussagen oder die vorher Geschehenen Dinge als Input für den
7:23 nächste Verarbeitungsschritt beizubehalten rekurrente neuronal Netze sind haben ihre besonderen Stärken bei Daten die eben Sequenzen vorleegen
7:32 zeitreinaten insbesondere bei der Verarbeitung von menschlicher Sprache Text oder Audio die hidden Layer können sehr unterschiedlich aussehen am
7:42 populärsten Art sind aber die sogenannte gated recurrent unit oder der die lstm long shortter Memory Unit den Rekurrenten neuralen Netzen wurde aber
7:52 in den letzten Jahren der Rang vor allem was die Sprachverarbeitung angingeht von einer neuen Klasse avon nzen abgelaufen und zwar von den sogenannten Transformer
8:04 der genau Mechanismus ist etwas komplex zu erklären aber aber kurz gesagt geht es um den sogenannten attention Mechanismus anstatt dass versucht wird
8:13 den Kontext eines Wortes aus der Erinnerung an den gesamten bisherigen Satz zu bestimmen wie bei Rekurrenten neuronalen nitzen lernt der Transformer
8:22 mit Hilfe des attention Mechanismus ganz konkret auf welche anderen Wörter im Satz er achten muss um die Bedeutung eines Wortes richtig codieren zu können
8:34 eine der Anwendungen von Transformers ist z.B bird ein von Google öffentlich zur Verfügung gestelltes Modell zur numerischen Repräsentation von Texten
8:46 die diese Repräsentation kann dann verwendet werden um andere machine learning use casases umzusetzen z.B Sentiment analysis von Tweets oder die
8:56 Klassifikation von Sachtexten und so weiter ein anderes eher lustiges als bis jetzt sehr hilfreiches Modell ist z.B gpt3 ein Modell das anhand eines
9:07 gelernten Stils und dem Beginn eines Textes einen erstaunlich menschenähnlich klingenden Text weiter fortführen kann und es gibt noch eine Vielzahl anderer
9:16 weiter spannender Anwendungsfälle für Transformers generative ADV Networks sind ein weiterer sehr spannender Ansatz hauptsälich aus dem Bereich der
9:25 Bilderzeugung und Bilderkennung bei dem zwei Neuron Netzwerke gegeneiner antreten ein sogenannter Generator versucht Bilder zu erzeugen die einem
9:35 echten Bild täuschend ähnlich sehen und ein Diskriminator versucht die echten Bilder von Fakes zu unterscheiden beide werden dadurch immer besser dieser
9:44 Ansatz wird für kann für viele verschiedene Fälle eingesetzt werden manche eher lustig und unterhaltsam wie z.B Bilder von einem Stil in den Stil
9:54 eines bestimmten Malers zu übertragen es können sehr hilfreiche Dinge sein wie z.B die Verbesserung oder Wiederherstellung von Fotografien oder
10:02 z.B bei der medizinischen Bildgebung aber natürlich auch etwas gruseligere Anwendung wie z.B die bekannten deepfakes bei denen die Bewegung und
10:11 Mund gesichtbewegung von bestimmten Personen auf die Gesichter anderer Personen übertragen werden das war ein erster kurzer Überblick über künstliche
10:19 neuronal Netze wie funktionieren sie welche Arten gibt es und W fürür werden die eingesetzt ich hoffe euch hat das Video gefallen wenn ja wir wollen bald
10:27 ein weiteres Video zum Thema deep learning herausbringen wann lohnt es sich die learning Gegensatz zu anderen maschinenlearning Methoden einzusetzen
10:34 was sind die Chancen was sind die Herausforderungen ich hoffe auch das Video interessiert euch dann und ihr schaltet wieder ein bis dahin macht's
10:42 gut [Musik]