In Andrew Ngs Kurs über Neuronale Netze und tiefes Lernen über Coursera sagt er, dass die Verwendung von fast immer der Verwendung von vorzuziehen ist .tanhtanhtanhsigmoidsigmoidsigmoid Der Grund, den er angibt, ist, dass die Ausgaben mit center um 0 statt mit 's 0,5 erfolgen, und dies "erleichtert...
Ich habe mit einem einfachen neuronalen Netzwerk mit nur einer ausgeblendeten Ebene von Tensorflow gespielt und dann verschiedene Aktivierungen für die ausgeblendete Ebene ausprobiert: Relu Sigmoid Softmax (na ja, normalerweise wird Softmax in der letzten Schicht verwendet.) Relu bietet die beste...
Die logistische Funktion hat einen Ausgabebereich von 0 bis 1 und die asymptotische Steigung ist auf beiden Seiten Null. Was ist eine Alternative zu einer Logistikfunktion, die an ihren Enden nicht vollständig abgeflacht ist? Wessen asymptotische Steigungen nähern sich Null, aber nicht Null, und...