Fourier-Transformation im maschinellen Lernen

7

Ich möchte wissen, in welchen spezifischen Bereichen Fourier-Methoden beim maschinellen Lernen eingesetzt werden. Neben der Merkmalsextraktion und der Spektralanalyse möchte ich wissen, ob es Lernalgorithmen gibt, die auf Fourier-Methoden basieren.

Ich möchte auch wissen, ob es eine Motivation gibt, Fourier-Methoden für probabilistische grafische Modelle zu verwenden.

Injitea
quelle
1
Hier sind einige neuere Forschungen zur Verwendung von Fourier-Methoden zur variablen Eliminierung in probabilistischen grafischen Modellen: variable Eliminierung im Fourier-Bereich
Michael Tamillow

Antworten:

7

Ein paar Dinge fallen mir ein ...

Effiziente Durchführung von Faltungen als Produkte im Fourier-Bereich. Ein Beispiel wäre das Training großer neuronaler Faltungsnetze.

Siehe zum Beispiel: Schnelles Training von Faltungsnetzwerken durch FFTs (Mathieu et al. 2013)

Eine andere Anwendung ist die Verarbeitung spärlicher Signale, bei der das Ziel darin besteht, ein Signal als eine spärliche lineare Kombination von Basisfunktionen aus einem "Signalwörterbuch" zu approximieren. Die Verbindung hier ist, dass die Menge der Sinuskurven natürlich ein gutes Wörterbuch für Signale ist, die im Fourier-Bereich spärlich sind. Wenn ich mich richtig erinnere, tauchen in dieser Literatur Fourier-Wörterbücher auf.

In einem ähnlichen Zusammenhang sollten Sie auch in der Lage sein, Fourier-Methoden in der Literatur zur komprimierten Erfassung zu finden

user20160
quelle
6

In einer Theorie zufälliger Prozesse verwenden wir die Fourier-Transformation, um die spektrale Dichte einer Kovarianzfunktion zu erhalten.

Dann kann die spektrale Dichte verwendet werden, um zu verifizieren, dass die Funktion eine Kovarianzfunktion ist (Satz von Bochner-Khinchin). Auch die spektrale Dichte ist nützlich, um theoretische Ergebnisse über die Qualität von Gaußschen Prozessregressionsmodellen nachzuweisen (siehe aktuelle Arbeiten von Van der Vaart oder Steins Buch über Interpolation für räumliche Daten).

Alexey Zaytsev
quelle