Wie verwende ich den Tensorboard-Rückruf von Keras?

Ich habe mit Keras ein neuronales Netzwerk aufgebaut. Ich würde seine Daten mit Tensorboard visualisieren, daher habe ich verwendet:

keras.callbacks.TensorBoard(log_dir='/Graph', histogram_freq=0,
                            write_graph=True, write_images=True)

wie in keras.io erklärt . Wenn ich den Rückruf starte, erhalte ich <keras.callbacks.TensorBoard at 0x7f9abb3898>, aber ich bekomme keine Datei in meinem Ordner "Graph". Stimmt etwas nicht, wie ich diesen Rückruf verwendet habe?

keras.callbacks.TensorBoard(log_dir='./Graph', histogram_freq=0,  
          write_graph=True, write_images=True)

Diese Zeile erstellt ein Callback Tensorboard-Objekt. Sie sollten dieses Objekt erfassen und der fitFunktion Ihres Modells zuweisen .

tbCallBack = keras.callbacks.TensorBoard(log_dir='./Graph', histogram_freq=0, write_graph=True, write_images=True)
...
model.fit(...inputs and parameters..., callbacks=[tbCallBack])

Auf diese Weise haben Sie der Funktion Ihr Rückrufobjekt übergeben. Es wird während des Trainings ausgeführt und gibt Dateien aus, die mit Tensorboard verwendet werden können.

Wenn Sie die während des Trainings erstellten Dateien visualisieren möchten, führen Sie sie in Ihrem Terminal aus

tensorboard --logdir path_to_current_dir/Graph 

Hoffe das hilft !

So verwenden Sie den TensorBoard-Rückruf :

from keras.callbacks import TensorBoard

tensorboard = TensorBoard(log_dir='./logs', histogram_freq=0,
                          write_graph=True, write_images=False)
# define model
model.fit(X_train, Y_train,
          batch_size=batch_size,
          epochs=nb_epoch,
          validation_data=(X_test, Y_test),
          shuffle=True,
          callbacks=[tensorboard])

Veränderung

keras.callbacks.TensorBoard(log_dir='/Graph', histogram_freq=0,  
          write_graph=True, write_images=True)

zu

tbCallBack = keras.callbacks.TensorBoard(log_dir='Graph', histogram_freq=0,  
          write_graph=True, write_images=True)

und stellen Sie Ihr Modell ein

tbCallback.set_model(model)

Führen Sie in Ihrem Terminal

tensorboard  --logdir Graph/

Wenn Sie mit der Keras-Bibliothek arbeiten und Tensorboard zum Drucken Ihrer Genauigkeitsdiagramme und anderer Variablen verwenden möchten, gehen Sie wie folgt vor.

Schritt 1: Initialisieren Sie die Keras-Rückrufbibliothek mit dem folgenden Befehl, um Tensorboard zu importieren

from keras.callbacks import TensorBoard

Schritt 2: Fügen Sie den folgenden Befehl direkt vor dem Befehl "model.fit ()" in Ihr Programm ein.

tensor_board = TensorBoard(log_dir='./Graph', histogram_freq=0, write_graph=True, write_images=True)

Hinweis: Verwenden Sie "./graph". Der Diagrammordner wird in Ihrem aktuellen Arbeitsverzeichnis generiert. Vermeiden Sie die Verwendung von "/ graph".

Schritt 3: Fügen Sie einen Tensorboard-Rückruf in "model.fit ()" ein. Das Beispiel ist unten angegeben.

model.fit(X_train,y_train, batch_size=batch_size, epochs=nb_epoch, verbose=1, validation_split=0.2,callbacks=[tensor_board])

Schritt 4: Führen Sie Ihren Code aus und prüfen Sie, ob sich Ihr Diagrammordner in Ihrem Arbeitsverzeichnis befindet. Wenn die oben genannten Codes korrekt funktionieren, befindet sich in Ihrem Arbeitsverzeichnis der Ordner "Graph".

Schritt 5: Öffnen Sie Terminal in Ihrem Arbeitsverzeichnis und geben Sie den folgenden Befehl ein.

tensorboard --logdir ./Graph

Schritt 6: Öffnen Sie nun Ihren Webbrowser und geben Sie die folgende Adresse ein.

http://localhost:6006

Nach der Eingabe wird die Tensorbaord-Seite geöffnet, auf der Sie Ihre Diagramme verschiedener Variablen sehen können.

Hier ist ein Code:

K.set_learning_phase(1)
K.set_image_data_format('channels_last')

tb_callback = keras.callbacks.TensorBoard(
    log_dir=log_path,
    histogram_freq=2,
    write_graph=True
)
tb_callback.set_model(model)
callbacks = []
callbacks.append(tb_callback)

# Train net:
history = model.fit(
    [x_train],
    [y_train, y_train_c],
    batch_size=int(hype_space['batch_size']),
    epochs=EPOCHS,
    shuffle=True,
    verbose=1,
    callbacks=callbacks,
    validation_data=([x_test], [y_test, y_test_coarse])
).history

# Test net:
K.set_learning_phase(0)
score = model.evaluate([x_test], [y_test, y_test_coarse], verbose=0)

Grundsätzlich histogram_freq=2ist dies der wichtigste Parameter, der beim Aufrufen dieses Rückrufs optimiert werden muss: Er legt ein Intervall von Epochen fest, in denen der Rückruf aufgerufen wird, mit dem Ziel, weniger Dateien auf Datenträgern zu generieren.

Hier ist eine beispielhafte Visualisierung der Entwicklung der Werte für die letzte Faltung während des Trainings, die einmal in TensorBoard unter der Registerkarte "Histogramme" angezeigt wurde (und ich fand, dass die Registerkarte "Verteilungen" sehr ähnliche Diagramme enthielt, aber auf der Seite umgedreht war):

Wenn Sie ein vollständiges Beispiel im Kontext sehen möchten, können Sie auf dieses Open-Source-Projekt verweisen: https://github.com/Vooban/Hyperopt-Keras-CNN-CIFAR-100

Wenn Sie Google-Colab verwenden, wäre eine einfache Visualisierung des Diagramms:

import tensorboardcolab as tb

tbc = tb.TensorBoardColab()
tensorboard = tb.TensorBoardColabCallback(tbc)


history = model.fit(x_train,# Features
                    y_train, # Target vector
                    batch_size=batch_size, # Number of observations per batch
                    epochs=epochs, # Number of epochs
                    callbacks=[early_stopping, tensorboard], # Early stopping
                    verbose=1, # Print description after each epoch
                    validation_split=0.2, #used for validation set every each epoch
                    validation_data=(x_test, y_test)) # Test data-set to evaluate the model in the end of training

Du hast geschrieben, log_dir='/Graph'meintest du ./Graphstattdessen? Du hast es /home/user/Graphim Moment an geschickt.

Sie sollten sich Losswise ( https://losswise.com ) ansehen . Es enthält ein Plugin für Keras, das einfacher zu verwenden ist als Tensorboard und einige nette zusätzliche Funktionen bietet. Mit Losswise würden Sie nur from losswise.libs import LosswiseKerasCallbackund dann verwenden callback = LosswiseKerasCallback(tag='my fancy convnet 1')und los geht's (siehe https://docs.losswise.com/#keras-plugin ).

Es gibt wenige Dinge.

Erstens nicht /Graphaber./Graph

Zweitens, wenn Sie den TensorBoard-Rückruf verwenden, übergeben Sie immer Validierungsdaten, da diese ohne sie nicht starten würden.

Drittens, wenn Sie etwas anderes als skalare Zusammenfassungen verwenden möchten, sollten Sie nur die fitMethode verwenden, da dies fit_generatornicht funktioniert. Oder Sie können den Rückruf neu schreiben, um damit zu arbeiten fit_generator.

Um Rückrufe hinzuzufügen, fügen Sie sie einfach hinzu model.fit(..., callbacks=your_list_of_callbacks)

Erstellen Sie den Tensorboard-Rückruf:

from keras.callbacks import TensorBoard
from datetime import datetime
logDir = "./Graph/" + datetime.now().strftime("%Y%m%d-%H%M%S") + "/"
tb = TensorBoard(log_dir=logDir, histogram_freq=2, write_graph=True, write_images=True, write_grads=True)

Übergeben Sie den Tensorboard-Rückruf an den Fit-Aufruf:

history = model.fit(X_train, y_train, epochs=200, callbacks=[tb])

Wenn Sie beim Ausführen des Modells einen Keras-Fehler von erhalten

"Sie müssen einen Wert für den Platzhaltertensor eingeben"

Versuchen Sie, die Keras-Sitzung vor der Modellerstellung zurückzusetzen, indem Sie Folgendes tun:

import keras.backend as K
K.clear_session()