Erste Schritte mit neuronalen Netzen für die Vorhersage

Ich benötige einige Ressourcen, um mit der Verwendung neuronaler Netze für die Vorhersage von Zeitreihen zu beginnen. Ich bin vorsichtig, wenn ich etwas Papier umsetze und dann herausfinde, dass sie das Potenzial ihrer Methoden stark überbewertet haben. Wenn Sie also Erfahrung mit den Methoden haben, die Sie vorschlagen, wird es noch großartiger sein.

time-series neural-networks forecasting references Richard Hardy
quelle

Bitte beachten Sie, dass NNs eher ... veraltet sind.

@jason, NN wurden als "Regression ohne Ethik" charakterisiert, da sie nicht nur überbewertet sind, sondern den Fehler machen, "den Daten zu glauben", anstatt "die Daten auf Konsistenz des Signals zu

prüfen

NNs sind absolut nicht überholt. Sie erzielen die besten Ergebnisse bei mehreren wichtigen Benchmarks, an denen sich die ML-Community derzeit orientiert. Sie sind außerdem die besten multifunktionalen differenzierbaren Funktionsapproximatoren. Schauen Sie sich die Arbeit der Gruppen von Bengio, Hinton und Lecun der letzten 5 Jahre an.

Bayerj

Ich habe die Zeitung von Bengio & Lecun gelesen und es ändert meine Meinung ein wenig, aber was sie tun, ist ganz anders als bei historischen neuronalen Netzen. Das OP möchte mit Zeitreihen arbeiten, wobei es mehrere Methoden gibt, die mit univariaten Zeitreihen arbeiten können und Ihnen nützliche Informationen über die Zeitreihen geben (DLMs fallen Ihnen ein). Wenn Sie Daten haben, die über die Zeitreihe selbst hinausgehen, können Sie eine Vielzahl anderer Methoden (LMs usw.) verwenden, die unkompliziert und auch aufschlussreich sind. Warum eine Blackbox mit unbeschrifteten Wählern verwenden, wenn Sie etwas Verständliches tun können?

Wayne

Natürlich unterscheiden sich die in den 80er / 90er Jahren verwendeten neuronalen Netze von denen, die Sie heute verwenden, und sind immer noch ein sehr aktives Forschungsgebiet. Außerdem verwenden Sie niemals neuronale Netze, wenn Sie Wert auf Interpretierbarkeit legen. Sie verwenden sie, wenn Sie sich für Vorhersagefehler interessieren. Neuronale Netze sind schnell und lösen Probleme, an denen andere Methoden scheitern. Sie sind nett, weil sie aus konzeptioneller Sicht einfach sind, da keine Annahmen zu den Daten vorliegen, die Sie modellieren (mit Ausnahme des Gaußschen Rauschens bei Verwendung mit dem quadratischen Fehler). Sie haben ihre eigenen Verdienste und Fehler.

Bayerj

Antworten:

Hier ist eine gute kurze Einführung: Einführung in neuronale Netze. Beachten Sie, dass R über Funktionen für neuronale Netze verfügt. Sie müssen NN also erst dann selbst implementieren, wenn Sie es getestet haben und festgestellt haben, dass es für Ihre Anwendung vielversprechend ist.

Neuronale Netze sind nicht veraltet, aber sie haben einige Hype-Zyklen durchlaufen, und nachdem sie erkannt haben, dass sie nicht alles tun, was behauptet wurde, geht ihr Ruf für eine Weile in die Sackgasse (wir befinden uns derzeit in einer solchen Phase). . Neuronale Netze sind bei bestimmten Aufgaben gut und im Allgemeinen besser für Aufgaben geeignet, bei denen ein Mensch eine ähnliche Aufgabe ausführen kann, jedoch nicht genau erklären kann, wie sie ausgeführt werden.

Neuronale Netze geben Ihnen nicht viel Einblick in das System, mit dem Sie sie analysieren, selbst wenn sie trainiert sind und gut funktionieren. Das heißt, sie können vorhersagen, was passieren wird (für einige Systeme), aber nicht sagen, warum. In einigen Fällen ist das in Ordnung. Bei anderen ist das nicht in Ordnung. Im Allgemeinen können Sie, wenn Sie möchten oder vor allem, wenn Sie bereits ein Verständnis für die Regeln der Funktionsweise haben, andere Techniken anwenden.

Aber für bestimmte Aufgaben funktionieren sie gut.

Insbesondere für Zeitreihen wird auf die Diskussion dieser Frage verwiesen: Richtige Verwendung des rekurrenten neuronalen Netzwerks für die Zeitreihenanalyse

rossdavidh
quelle

Während es sich eher auf die statistische Mustererkennung als auf die Vorhersage von Zeitreihen konzentriert, würde ich Chris Bishops Buch Neuronale Netze für die Mustererkennung wärmstens empfehlen, da es die beste Einführung in neuronale Netze im Allgemeinen darstellt und ich denke, dass dies eine gute Idee wäre die potenziellen Fallstricke bei der Verwendung neuronaler Netze in einem einfacheren Kontext in den Griff zu bekommen, in dem die Probleme leichter visualisiert und verstanden werden können. Fahren Sie dann mit dem Buch über wiederkehrende neuronale Netze von Mandic und Chambers fort . Das Bischofsbuch ist ein Klassiker. Niemand sollte neuronale Netze für irgendetwas verwenden, bis er sich sicher ist, das in diesem Buch enthaltene Material zu verstehen. ANN mach es dir einfach, dich in den Fuß zu schießen!

Ich stimme auch nicht mit mbq überein, nn sind nicht veraltet, während viele Probleme besser mit linearen Modellen oder moderneren Techniken des maschinellen Lernens (z. B. Kernel-Methoden) gelöst werden können, gibt es einige Probleme, bei denen sie gut funktionieren, und andere nicht. Es ist immer noch ein Werkzeug, das in unseren Werkzeugkästen sein sollte.

Dikran Beuteltier
quelle