Maschinelles Lernen: Gedichte schreiben

8

Ich bin ein Student des maschinellen Lernens und in diesen Tagen habe ich versucht zu lernen, wie man die TensorFlow-Bibliothek benutzt. Ich habe verschiedene Tutorials und Versuche mit Tensorflow durchlaufen und dachte, der beste Weg, dies wirklich zu lernen, wäre, es in einem kleinen eigenen Projekt zu verwenden.

Ich habe beschlossen, dass ich versuchen sollte, ein Programm zu erstellen, das Gedichte schreibt. Ich strebe kein erstklassiges Qualitätsprogramm an. Für mein erstes Modell würde ich mich über eine Reihe unsinniger Wortgruppen im Gedichtformat freuen. Das Problem ist, dass ich Probleme habe, Bücher oder Videos über maschinelle Lernprogramme nachzuschlagen, die sich mit dem Schreiben von Satzstrukturen befassen.

Können Sie Vorschläge machen, wonach ich suchen könnte (sogar Google-Keywords sind in Ordnung), um die Beispielprogramme und Grundkenntnisse zu erhalten, die ich benötige?

Vielen Dank.

machine-learning neural-network tensorflow Daniel
quelle
2
Ich habe vorher eine Markov-Kette verwendet, um Namen mit einem gewissen Sinn zu generieren. Wäre das wahrscheinlich eine gute Strategie für Gedichte?
Mephy
6
Untersuchung der unangemessenen Wirksamkeit wiederkehrender neuronaler Netze .
Emre

Antworten:

5

Dies ist nur der Kommentar von Emre, der erweitert wurde, aber ja, Sie sollten sich wiederkehrende neuronale Netze ansehen, um Text im Stil eines bestimmten Korpus zu generieren. RNNs und LSTM funktionieren hierfür sehr gut.

Der Artikel unter http://karpathy.github.io/2015/05/21/rnn-effectiveness/ wird häufig zitiert und zeigt auf Ihre Frage, wie einfach es ist, so etwas zu generieren, wenn man den Text von Shakespeares Stücken berücksichtigt :

PANDARUS: Leider denke ich, dass er angesprochen werden wird und der Tag, an dem wenig Srain erreicht werden würde, um niemals gefüttert zu werden. Und wer nur eine Kette und Untertanen seines Todes ist, sollte ich nicht schlafen.

Zweiter Senator: Sie sind weg von diesem Elend, das auf meiner Seele erzeugt wurde. Brechen und sollten stark begraben werden, wenn ich die Erde und die Gedanken vieler Staaten umkomme.

Wenn Sie https://github.com/jcjohnson/torch-rnn folgen , können Sie dies problemlos auch auf Ihrer lokalen GPU ausführen, um Text aus beliebigen Eingabepoesien zu generieren. Ich habe ziemlich gute Ergebnisse mit 0,1-0,5 Ausfallenden, 2 Schichten, Schichten der Größe 512-1024 erzielt.

Sean Owen
quelle