Netzwerkstruktur inspiriert von vereinfachten Modellen biologischer Neuronen (Gehirnzellen). Neuronale Netze werden durch "überwachte und unbeaufsichtigte Techniken" zum "Lernen" trainiert und können verwendet werden, um Optimierungsprobleme, Approximationsprobleme, Klassifizierungsmuster und Kombinationen davon zu lösen.
Backprop-Netzwerke, die vollständig miteinander verbunden sind (mindestens Schicht für Schicht mit mehr als 2 verborgenen Schichten), sind universelle Lerner. Leider lernen sie oft nur langsam und neigen zu Überanpassung oder zu unangenehmen Verallgemeinerungen. Beim Herumalbern mit diesen...
Einer der Hyperparameter für LSTM-Netzwerke ist die Temperatur. Was ist
Was ist der Unterschied zwischen einem neuronalen Netzwerk, einem Deep Learning System und einem Deep Belief Network? Soweit ich mich recht erinnere, handelt es sich bei Ihrem neuronalen Grundnetz um eine Sache mit drei Schichten, und Deep Belief Systems wurde als übereinander gestapelte neuronale...
Mein Ziel ist es, das folgende Problem zu lösen, das ich durch seine Eingabe und Ausgabe beschrieben habe: Eingang: Ein gerichteter azyklischer Graph mit Knoten, Quellen und Senke ( ).GGGmmmnnn111m > n ≥ 1m>n≥1m > n \geq 1 Ausgabe: Die VC-Dimension (oder eine Annäherung davon) für das...
Einführung Schritt eins Ich habe ein standardmäßiges neuronales Backpropegating-Netzwerk geschrieben und mich zum Testen für eine XOR-Zuordnung entschieden. Es ist ein 2-2-1-Netzwerk (mit Tanh-Aktivierungsfunktion) X1 M1 O1 X2 M2 B1 B2 Zu Testzwecken habe ich das obere mittlere Neuron (M1) manuell...
Ich habe erst kürzlich etwas über die Existenz dieses hierarchischen Zeitgedächtnisses (HTM) gelernt . Ich habe bereits das Dokument Hierarchical Temporal Memory: Concepts, Theory and Terminology (von Jeff Hawkins und Dileep George) gelesen , das ziemlich einfach zu verstehen scheint, aber eine...
Wann sagen wir, dass ein künstliches neuronales Netzwerk ein mehrschichtiges Perceptron ist ? Und wann sagen wir, dass ein künstliches neuronales Netzwerk mehrschichtig ist ? Bezieht sich der Begriff Perzeptron auf die Lernregel zur Aktualisierung der Gewichte? Oder handelt es sich um...
Ich benutze neuronale Netze, um eine Zeitreihe vorherzusagen. Die Frage, mit der ich jetzt konfrontiert bin, ist, wie ich Datum / Uhrzeit / Seriennummer codiere. jedes Eingangssatzes als Eingang für das neuronale Netzwerk? Soll ich 1 von C verwenden kodieren (verwendet für die Codierung von...
Ich habe auf dieser Site einige Fragen zu Deep Dream gesehen, aber keine von ihnen scheint tatsächlich darüber zu sprechen, was DeepDream speziell tut. Soweit ich festgestellt habe, scheinen sie die Zielfunktion und auch die Backpropagation geändert zu haben, sodass sie das Eingabebild...
Nachdem ich die Erfolge von Google Deepmind in Ataris Spielen gelesen habe , versuche ich, das Q-Learning und die Q-Netzwerke zu verstehen, aber ich bin ein bisschen verwirrt. Die Verwirrung entsteht im Konzept des Abzinsungsfaktors. Kurze Zusammenfassung dessen, was ich verstehe. Ein tiefes...
Ich habe kürzlich einen wirklich interessanten Blogeintrag aus dem Google Research Blog gelesen, in dem es um neuronale Netze geht. Grundsätzlich nutzen sie diese neuronalen Netze zur Lösung verschiedener Probleme wie der Bilderkennung. Sie verwenden genetische Algorithmen, um die Gewichte der...
Es ist erwiesen, dass neuronale Netze mit rationalen Gewichten die Rechenleistung der Universal Turing Machine besitzen Turing-Berechenbarkeit mit neuronalen Netzen besitzen . Nach allem, was ich bekomme, scheint die Verwendung von realwertigen Gewichten noch mehr Rechenleistung zu bringen, obwohl...
Gibt es irgendwelche Vorteile, wenn mehr als zwei verborgene Schichten in einem neuronalen Netzwerk vorhanden sind? Ich habe einige Orte gesehen, die es empfehlen, andere beweisen, dass es keinen Vorteil gibt. Welcher ist
Ich bin ein CS-Student (aber ich weiß nicht viel über KI, habe keine Kurse besucht und definitiv nichts über NN bis vor kurzem), der im Begriff ist, ein Schulprojekt in KI zu machen, also wähle ich ein Thema aus Grammatikinduktion (der kontextfreien Sprache und möglicherweise einer Teilmenge der...
Ich habe ein neuronales Netzwerk (mit CUDA) mit 2 Schichten implementiert. (2 Neuronen pro Schicht). Ich versuche, 2 einfache quadratische Polynomfunktionen mithilfe der Backpropagation zu lernen . Aber anstatt zu konvergieren, divergiert es (die Ausgabe wird unendlich) Hier sind einige weitere...
Warum werden Anfangsgewichte neuronaler Netze als Zufallszahlen initialisiert? Ich hatte irgendwo gelesen, dass dies getan wird, um "die Symmetrie zu brechen" und dies das neuronale Netzwerk schneller lernen lässt. Wie kann das Brechen der Symmetrie schneller lernen? Wäre es nicht besser, die...
Ich habe etwas über neuronale Netze und SVMs gelernt. In den Tutorials, die ich gelesen habe, wurde hervorgehoben, wie wichtig die Kernelisierung für SVMs ist. Ohne Kernelfunktion sind SVMs nur ein linearer Klassifikator. Mit der Kernelisierung können SVMs auch nichtlineare Features enthalten, was...
Könnte ein künstlicher neuronaler Netzwerkalgorithmus in Form von Kartenreduktionsoperationen ausgedrückt werden? Ich interessiere mich auch allgemeiner für Parallelisierungsmethoden für ANNs und deren Anwendung für Cloud Computing. Ich würde denken, ein Ansatz würde darin bestehen, auf jedem...
Für viele maschinelle Lernprojekte, die wir durchführen, beginnen wir mit dem Klassifikator k Nearest Neighbor. Dies ist ein idealer Startklassifikator, da wir normalerweise genügend Zeit haben, um alle Entfernungen zu berechnen, und die Anzahl der Parameter begrenzt ist (k, Entfernungsmetrik und...
Sollte bei der Aktualisierung der Gewichte eines neuronalen Netzwerks unter Verwendung des Backpropagation-Algorithmus mit einem Impulsausdruck die Lernrate auch auf den Impulsausdruck angewendet werden? Die meisten Informationen, die ich über die Verwendung von Momentum finden konnte, sehen...