Wofür werden die verschiedenen Arten von neuronalen Netzen verwendet?

11

Ich habe das folgende Spickzettel für neuronale Netze gefunden (Spickzettel für KI, Neuronale Netze, Maschinelles Lernen, Deep Learning und Big Data ).

Geben Sie hier die Bildbeschreibung ein

Wofür werden all diese verschiedenen Arten von neuronalen Netzen verwendet? Welche neuronalen Netze können beispielsweise zur Regression oder Klassifizierung, welche zur Sequenzgenerierung usw. verwendet werden? Ich brauche nur einen kurzen Überblick (1-2 Zeilen) über ihre Anwendungen.

neural-networks machine-learning deep-learning applications datdinhquoc
quelle
1
Diese Frage ist zu weit gefasst, wenn Sie Anwendungen für jedes der abgebildeten Netzwerke kennen möchten. Stellen Sie eine Frage zu einem bestimmten Netzwerk.
nbro
1
nbro ist richtig, dass dies eine äußerst breite Frage ist. Aber Sie haben sich einen guten Willen verdient, weil Sie eine so hervorragende Grafik veröffentlicht haben. Deshalb halte ich das Schließen zurück, bis weitere enge Stimmen aus der Community vorliegen. (Mal sehen, ob es eine Antwort gibt - obwohl breit, würde eine Zusammenfassung der Anwendbarkeit für verschiedene Varianten sicherlich Wert haben.)
DukeZhou
2
Ich weiß, dass es breit ist, aber nur ein paar grundlegende Zeilen für jeden Netzwerktyp, ok?
datdinhquoc
2
@DukeZhou Ich habe es versucht, aber das fühlt sich fast so an, als ob es ein Community-Wiki sein sollte.
John Doucette

Antworten:

8

Ich stimme zu, dass dies zu weit gefasst ist, aber hier ist eine Antwort mit einem Satz für die meisten von ihnen. Diejenigen, die ich ausgelassen habe (am Ende der Tabelle), sind sehr modern und sehr spezialisiert. Ich weiß nicht viel über sie, also kann vielleicht jemand, der das tut, diese Antwort verbessern.

  • Perceptron: Lineare oder logistische Regression (und damit Klassifizierung).
  • Feed Forward: Normalerweise nichtlineare Regression oder Klassifizierung mit sigmoidaler Aktivierung. Im Wesentlichen ein mehrschichtiges Perzeptron.
  • Radial Basis Network: Feed Forward-Netzwerk mit Radial Basis-Aktivierungsfunktionen. Wird zur Klassifizierung und für einige Arten der Video- / Audiofilterung verwendet
  • Deep Feed Forward: Feed Forward mit mehr als 1 versteckten Ebene. Wird verwendet, um komplexere Muster bei der Klassifizierung oder Regression zu lernen, möglicherweise um das Lernen zu verstärken.
  • Wiederkehrendes neuronales Netzwerk: Ein Deep Feed Forward-Netzwerk, in dem einige Knoten eine Verbindung zu früheren Schichten herstellen. Wird beim verstärkten Lernen und zum Lernen von Mustern in sequentiellen Daten wie Text oder Audio verwendet.
  • LSTM: Ein wiederkehrendes neuronales Netzwerk mit spezialisierten Kontrollneuronen (manchmal auch als Gates bezeichnet), mit denen Signale für längere Zeiträume gespeichert oder selektiv vergessen werden können. Wird in jeder RNN-Anwendung verwendet und kann häufig Sequenzen lernen, die eine sehr lange Wiederholungszeit haben.
  • GRU: Ähnlich wie LSTM, eine andere Art von RNN mit spezialisierten Kontrollneuronen.
  • Auto Encoder: Lernt, Daten zu komprimieren und dann zu dekomprimieren. Nach dem Erlernen dieses Modells kann es in zwei nützliche Unterteile unterteilt werden: eine Zuordnung vom Eingaberaum zu einem niedrigdimensionalen Merkmalsraum, die möglicherweise leichter zu interpretieren oder zu verstehen ist; und eine Abbildung von einem kleinen dimensionalen Unterraum einfacher Zahlen in komplexe Muster, die verwendet werden können, um diese komplexen Muster zu erzeugen. Grundlage vieler moderner Arbeiten in den Bereichen Vision, Sprache und Audioverarbeitung.
  • VAE, DAE, SAE: Spezialisierungen des Auto Encoders.
  • Markov-Kette: Eine neuronale Netzwerkdarstellung einer Markov-Kette: Der Zustand wird in der Menge der aktiven Neuronen codiert, und Übergangswahrscheinlichkeiten werden somit durch die Gewichte definiert. Wird zum Lernen von Übergangswahrscheinlichkeiten und zum unbeaufsichtigten Lernen von Funktionen für andere Anwendungen verwendet.
  • HN, BM, RBM, DBM: Spezialisierte Architekturen basierend auf der Markov-Ketten-Idee, mit denen nützliche Funktionen für andere Anwendungen automatisch erlernt werden.

  • Deep Convolutional Network: Wie ein Feed-Forward-Netzwerk, aber jeder Knoten ist wirklich eine Bank von Knoten, die eine Faltung von der vorhergehenden Schicht lernen. Dies ermöglicht es im Wesentlichen, Filter, Kantendetektoren und andere Muster zu lernen, die für die Video- und Audioverarbeitung von Interesse sind.

  • Deep Deconvolutional Network: In gewissem Sinne das Gegenteil eines Convolutional Network. Lernen Sie eine Zuordnung von Features, die Kanten oder andere Eigenschaften eines unsichtbaren Bildes auf hoher Ebene darstellen, zurück zum Pixelraum. Generieren Sie Bilder aus Zusammenfassungen.

  • DCIGN: Im Wesentlichen ein Auto-Encoder aus einem DCN und einem DN, die zusammenkleben. Wird verwendet, um generative Modelle für komplexe Bilder wie Gesichter zu lernen.

  • Generatives kontradiktorisches Netzwerk: Wird verwendet, um generative Modelle für komplexe Bilder (oder andere Datentypen) zu lernen, wenn für ein DCIGN nicht genügend Trainingsdaten verfügbar sind. Ein Modell lernt, Daten aus zufälligem Rauschen zu erzeugen, und das andere lernt, die Ausgabe des ersten Netzwerks als von den verfügbaren Trainingsdaten verschieden zu klassifizieren.

John Doucette
quelle