Das Video kommt von YouTube: erst beim Abspielen verbindet sich die Seite mit YouTube (Google).
Einführung in Künstliche Neuronale Netzwerke!
Das Wichtigste aus dem Video
Tipp auf eine Zeit – das Video springt genau dorthin.
Transkriptautomatisch erstellt · 70 Zeilen
- als scienceberater spreche ich häufig mit Kunden über die Möglichkeiten deep learning in Projekten anzuwenden und da kommt oft zuvor noch die Frage auf
- kannst du mir das mit den künstlichen neuralen Netzen noch mal in 5 Minuten erklären und genau das möchte ich in diesem Video tun was ist ein künstliches
- neuronales Netzwerk künstliche neuronale Netzwerke sind computeralgorithmen die von der Funktionsweise des menschlichen Kerns inspiriert sind sie bestehen aus
- miteinander verknüpften virtuellen Neuronen die Daten aufnehmen transformieren und auf Ausgabedaten überführen die dann an
- andere Neuron weitergegeben werden und am Ende so eines Netzwerks dann in eine Gesamtausgabe überführen die Eingabedaten können dabei sehr
- unterschiedliche Arten von Datentypen sein das können Bild Videodaten sein Tonspuren ganz normale Datentabellen Texte
- Zeitreihendaten und noch verschiedene andere man kann sehr komplexe neuronale Netze bauen die dann auch sehr komplexe Fragestellung beantw können in vielen
- Bereichen die für Computer sehr komplex sind z.B die Bilderkennung die Spracherkennung die Sprachverarbeitung haben künstliche neuronalnetze in den
- letzten 10 15 Jahren unsere technischen Möglichkeiten revolutioniert dabei muss so ein künstliches neuronales Netz nicht von Anfang an perfekt eingestellt werden
- es ist ein machine learning Algoritmus das heißt sobald die grobearchitektur feststeht kann es mit Hilfe von Trainings Daten trainiert werden
- Beispieldaten werden in das Modell eingefüttert und die Parameter des Modells werden so angepasst dass für diese Beispieldaten die optimal
- Antworten die optimalen Ausgaben erzeugt werden und das so optimierte das trainierte Modell kann dann anewendet werden um für neue unbekannte Datensätze
- auch die Ausgaben die wir wünschen zu erzeugen schauen wir uns jetzt noch einmal genauer an wie so ein künstliches
- Neuron funktioniert die verschiedenen Inputs x1 x2 und so weiter werden gewichtet und aufadiert das Ergebnis wird dann mit einer Aktivierungsfunktion
- in den Output des Neurons übersetzt diese Aktivierungsfunktion kann z.B eine schwellwertfunktion sein überschreitete Input eine gewisse Schwelle feuert das
- Neuron mit Wert 1 so funktioniert z.B bei den Neuronen im menschlichen Gehirn in künstlichen neuronalen Netzen allerdings werden meistens andere
- aktivierungsfunktionen verwendet z.B die sigmafunktion die Ausgabewerte zwischen 0 und 1 erlaubt oder aber eine rectifier Funktion die positive Werte unverändert
- lässt und negative Werte auf Null setzt es teilen sich übrigens immer alle Neuronen einer Schicht dieselbe Aktivierungsfunktion was sich
- unterscheidet und sie individuell macht sind die eins die Gewichte der Verbindung zwischen den einzelnen
- Neuronen und wie lernt ja zu ein neurales Netz sobald wir unser Netz in Grundzügen definiert haben also die Anzahl der Neuronen die Architektur die
- aktivierungsfunktionen können wir das nicht mehr ändern was sich ändern kann sind die Gewichte der Verbindung zwischen den Neuronen und um die
- anzupassen und zu optimieren kommt jetzt das supervised learning aus dem machine learning zum Einsatz die trainingsdatensätze die wir zur
- Verfügung haben mit den richtigen Ausgabewert mit den richtigen Antworten vergleichen wir für jedes einzelne für jeden beispieldatensatz die Ausgabe das
- Modell erzeugt mit der korrekten mit der richtigen Ausgabe und dann können wir mit Hilfe des back propagation Algorithmus bestimmen für jede einzelne
- Verbindung ob ihr Wert größer oder kleiner werden muss um eine bessere Vorhersage zu erzeugen das ganze läuft hier von rechts nach links also erst die
- inputgewichte des Output layers die inputgewichte des H layers und so weiter nach links bis man fertig ist so funktionieren zumindest die meisten
- neuronalen Netze bei einigen neuronalen Netz gibt es auch andere Trainingsmethoden es gibt eine möglicher Architekturen für künstliche Neal Netze
- ich möchte nur über die wichtigsten reden zunächst einmal das perzeptron das ist sozusagen der Großvater und die Basis der neuronalen Netze dies ist das
- Modell eines einzelnen künstlichen neurons so wie wir es vorhin beschrieben haben der direkteste Weg daraus jetzt ein neuronelles Netz zu konstruieren ist
- das sogenannte multilayer oder viel mehrschichtige mehrebenen perzeptor sieht so aus wir haben ein Schichtenmodell wie vorhin schon
- gesehen auf einer eingabeschicht folgt jeweils ein Hidden Layer von perzeptronen von Neuronen und die sind jeweils jeweils alle perzeptronen der
- ersten Schicht sind mit allen perzeptronen der nächsten Schicht verbunden und so weiter dieses ist die grundlegende Struktur für viele neuronal
- Netze und wird auch oft in Kombination in Architektur mit anderen Architekturen verwendet und ist dabei z.B die Grundlage für verschiedene
- Anwendungsfälle wie z.B Empfehlungssysteme das multilayer perzepton ist dabei nur ein Beispiel für die Klasse von neuronalen Netzen die
- Feed forward neur Network genannt werden das heißt neuronal Netze bei denen die Inputs jeweils immer nur von den Neuronen einer Schicht zu den Neuronen
- der nächsten Schicht bis zum Output vorwärts weitergegeben werden eine weitere Gruppe aus eine weitere Art von neuralen Netzen in dieser Gruppe sind
- diese sogenannten convolutional neural networks convolutional Neural Networks sind ebenfalls Feed forward neural networks allerdings im Gegensatz zu
- multilayer perceptrons ist dort nicht jeders Neuron eines Layers mit jedem Neuron des nächsten layers verknüpft sondern ist es von vorne rein eine
- gewisse Struktur vorgeben die optimiert ist für die Verarbeitung von Bildern das funktioniert meistens so dass eine Abfolge von convolution und pooling
- Layern verwendet wird grob gesagt die der convolution Layer im convolution Layer achtet jedes Neuron nur auf einen kleinen Bereich von Pixeln einem
- gewissen Bereich des Bildes und identifiziert ob dort ein gewisses Muster eine gewisse Struktur auftaucht pooling Layer vereinfacht das dann diese
- Information dann über das ganze Bild hinweg um eine aggregierte Information das ganze Bild zu gewinnen so können viele kleinteilige Strukturen Kanten
- Ecken gewisse Formen erkannt werden aber wie genau diese Form erkannt wird lernt das Netz selber conversal neur Networks sind der state of the art bei allen
- Anwendungen bei denen es heutzutage darum geht Bild Bilder zu erkennen und Bilder zu verarbeiten aber auch bei anderen Anwendungen wie z.B der
- Sprachverarbeitung der zeitreinenanalyse und so weiter kommen sie zum Einsatz eine weitere Klasse von neuronalen Netzen die eben nicht Feed forward sind
- sind die sogenannten Rekurrenten neuronalen Netze der Unterschied zum Feed forward Network ist hier dass der Zustand des Netzes bei einem beim
- vorherigen Datenpunkt auch als zusätzlicher Input für die Berechnung des Zustands amim nächsten Datenpunkt verwendet wird das erlaubt dem Modell
- eine Art Gedächtnis über die Zeit hin weg zu entwickeln und sozusagen die die vorherigen Aussagen oder die vorher Geschehenen Dinge als Input für den
- nächste Verarbeitungsschritt beizubehalten rekurrente neuronal Netze sind haben ihre besonderen Stärken bei Daten die eben Sequenzen vorleegen
- zeitreinaten insbesondere bei der Verarbeitung von menschlicher Sprache Text oder Audio die hidden Layer können sehr unterschiedlich aussehen am
- populärsten Art sind aber die sogenannte gated recurrent unit oder der die lstm long shortter Memory Unit den Rekurrenten neuralen Netzen wurde aber
- in den letzten Jahren der Rang vor allem was die Sprachverarbeitung angingeht von einer neuen Klasse avon nzen abgelaufen und zwar von den sogenannten Transformer
- der genau Mechanismus ist etwas komplex zu erklären aber aber kurz gesagt geht es um den sogenannten attention Mechanismus anstatt dass versucht wird
- den Kontext eines Wortes aus der Erinnerung an den gesamten bisherigen Satz zu bestimmen wie bei Rekurrenten neuronalen nitzen lernt der Transformer
- mit Hilfe des attention Mechanismus ganz konkret auf welche anderen Wörter im Satz er achten muss um die Bedeutung eines Wortes richtig codieren zu können
- eine der Anwendungen von Transformers ist z.B bird ein von Google öffentlich zur Verfügung gestelltes Modell zur numerischen Repräsentation von Texten
- die diese Repräsentation kann dann verwendet werden um andere machine learning use casases umzusetzen z.B Sentiment analysis von Tweets oder die
- Klassifikation von Sachtexten und so weiter ein anderes eher lustiges als bis jetzt sehr hilfreiches Modell ist z.B gpt3 ein Modell das anhand eines
- gelernten Stils und dem Beginn eines Textes einen erstaunlich menschenähnlich klingenden Text weiter fortführen kann und es gibt noch eine Vielzahl anderer
- weiter spannender Anwendungsfälle für Transformers generative ADV Networks sind ein weiterer sehr spannender Ansatz hauptsälich aus dem Bereich der
- Bilderzeugung und Bilderkennung bei dem zwei Neuron Netzwerke gegeneiner antreten ein sogenannter Generator versucht Bilder zu erzeugen die einem
- echten Bild täuschend ähnlich sehen und ein Diskriminator versucht die echten Bilder von Fakes zu unterscheiden beide werden dadurch immer besser dieser
- Ansatz wird für kann für viele verschiedene Fälle eingesetzt werden manche eher lustig und unterhaltsam wie z.B Bilder von einem Stil in den Stil
- eines bestimmten Malers zu übertragen es können sehr hilfreiche Dinge sein wie z.B die Verbesserung oder Wiederherstellung von Fotografien oder
- z.B bei der medizinischen Bildgebung aber natürlich auch etwas gruseligere Anwendung wie z.B die bekannten deepfakes bei denen die Bewegung und
- Mund gesichtbewegung von bestimmten Personen auf die Gesichter anderer Personen übertragen werden das war ein erster kurzer Überblick über künstliche
- neuronal Netze wie funktionieren sie welche Arten gibt es und W fürür werden die eingesetzt ich hoffe euch hat das Video gefallen wenn ja wir wollen bald
- ein weiteres Video zum Thema deep learning herausbringen wann lohnt es sich die learning Gegensatz zu anderen maschinenlearning Methoden einzusetzen
- was sind die Chancen was sind die Herausforderungen ich hoffe auch das Video interessiert euch dann und ihr schaltet wieder ein bis dahin macht's
- gut [Musik]
Zum Nachlesen
Künstliches neuronales NetzEin künstliches neuronales Netz besteht aus mehreren künstlichen Neuronen, die miteinander verbunden sind und in der Regel in Schichten organisiert werden. Im …
Multi-Layer-PerzeptronDer Backpropagation-Algorithmus wird oft verwendet, um die Gewichtsaktualisierung zu berechnen. Der Backpropagation-Algorithmus nutzt das Konzept der …
Convolutional Neural NetworkIm Jahr 1987 trainierte Alex Waibel ein CNN namens TDNN durch Backpropagation und erzielte damit Bewegungsinvarianz. Auch Yann LeCun publizierte ab dem …
Deep LearningDeep Learning erlaubt die Verarbeitung und Analyse komplexer Datenmuster; dazu verwendet Deep Learning tiefe hierarchische neuronale Netze, die automatisch …