Angenommen, wir haben ein einschichtiges neuronales Feed-Forward-Netzwerk mit k Eingängen und einem Ausgang. Es berechnet eine Funktion aus . Es ist ziemlich leicht zu erkennen, dass diese mindestens die gleiche Rechenleistung wie A C 0 hat . Nur zum Spaß nennen wir den Satz von Funktionen, die von einem neuronalen Einschichtnetzwerk berechenbar sind, " N e u r a l ".
Es scheint jedoch, dass es mehr Rechenleistung als allein haben könnte.
Also ... ist oder ist N e u r a l = A C 0 ? Wurde diese Art von Komplexitätsklasse auch schon einmal untersucht?
Antworten:
Es gibt einige Referenzen, die ich finden könnte: Allzweckberechnung mit neuronalen Netzen: Eine Übersicht über komplexitätstheoretische Ergebnisse, 2003 und Zählhierarchien: Polynomzeit- und Konstanttiefenschaltungen, 1993 .
Es scheint, dass neuronale Netze als Schwellenwertschaltungen betrachtet werden; dh diese Schaltkreise, die MAJORITY-Gatter verwenden. In (2) ist es der Fall , dass eine Tiefe neurale Netzwerkkomplexität hat T C 0 D (hier ist ein Link zu Link zu Komplexität Zoo Eintrag über T C 0 ).d TC0d TC0
quelle