Bei der Vorhersagemodellierung können unverzerrte Modelle eine höhere Varianz aufweisen und daher weniger genau sein. Modellierer bevorzugen möglicherweise eine gewisse Verzerrung, um die Genauigkeit zu maximieren. Verwenden Sie dieses Tag auch für Fragen zur Bias-Varianz-Zerlegung.
Wie vergleichen sich verschiedene Kreuzvalidierungsmethoden in Bezug auf Modellvarianz und Verzerrung? Meine Frage ist zum Teil durch diesen Thread motiviert: Optimale Anzahl von Falten bei der fachen Kreuzvalidierung: Ist ein ausschließlicher Lebenslauf immer die beste Wahl? KKK. Die dortige...
Gibt es abgesehen von Überlegungen zur Rechenleistung Gründe zu der Annahme, dass eine Erhöhung der Anzahl der Falten bei der Kreuzvalidierung zu einer besseren Modellauswahl / -validierung führt (dh je höher die Anzahl der Falten, desto besser)? Wird das Argument auf die Spitze getrieben, führt...
Ich lese gerade das Kapitel über den Kompromiss zwischen Bias-Varianz und den Elementen des statistischen Lernens und bezweifle, dass die Formel auf Seite 29 basiert. Die Daten ergeben sich aus einem Modell, bei dem wobei zufällig ist Zahl mit dem erwarteten Wert und Varianz . Der erwartete...
Ich versuche den Bias-Varianz-Kompromiss, die Beziehung zwischen dem Bias des Schätzers und dem Bias des Modells und die Beziehung zwischen der Varianz des Schätzers und der Varianz des Modells zu verstehen. Ich bin zu folgenden Schlussfolgerungen gekommen: Wir neigen dazu, die Daten zu überdecken,...
Ich lese über die Auswahl der besten Teilmengen im Buch Elemente des statistischen Lernens. Wenn ich 3 Prädiktoren , erstelle ich 2 3 = 8 Teilmengen:x1,x2,x3x1,x2,x3x_1,x_2,x_323=823=82^3=8 Teilmenge ohne Prädiktoren Teilmenge mit Prädiktor x1x1x_1 Teilmenge mit Prädiktor x2x2x_2 Teilmenge mit...
In 'Die Elemente des statistischen Lernens' wird der Ausdruck für die Bias-Varianz-Zerlegung des linearen Modells gegeben als wobei die eigentliche Zielfunktion ist, die Varianz des Zufallsfehlers im Modell und ist der lineare Schätzer von .f ( x 0 ) σ 2 ε y = f ( x ) + εE.r r ( x0) = σ2ϵ+ E.[ f(...
Ich möchte Datenpunkte so klassifizieren, dass sie entweder ein komplexeres Modell oder kein komplexeres Modell benötigen. Mein derzeitiger Gedanke ist es, alle Daten an ein einfaches lineares Modell anzupassen und die Größe der Residuen zu beobachten, um diese Klassifizierung vorzunehmen. Ich habe...
Ich verstehe die Angelegenheit in den Begriffen Unteranpassung / Überanpassung, aber ich habe immer noch Schwierigkeiten , die genaue Mathematik dahinter zu verstehen . Ich habe mehrere Quellen überprüft ( hier , hier , hier , hier und hier ), aber ich verstehe immer noch nicht, warum sich...
Die Verzerrung und Varianz eines Klassifikators bestimmt den Grad, in dem er die Daten unter- bzw. überanpassen kann. Wie könnte man einen Klassifikator bestimmen, der als hohe Verzerrung oder hohe Varianz charakterisiert werden soll? Ich bin mir ziemlich klar darüber, was ein...
Ich habe die Einführung in das statistische Lernen gelesen. Hier wird gezeigt, dass: - In einem späteren Beispiel werden der Zug und die Test-MSE aufgezeichnet. Ich wollte wissen, ob sowohl der Bias ^ 2 als auch die Varianz positive Größen sind, wie MSE dann niedriger sein kann als die...