Können wir alle Ensemblemethoden durch Abstimmung verallgemeinern? Verwenden Boosting-Methoden auch Abstimmungen, um die schwachen Lernenden in das endgültige Modell zu bringen? Mein Verständnis der Technik: Boosting: Fügt kontinuierlich schwache Lernende hinzu, um die Datenpunkte zu verbessern,...
Ich habe mein Modell auf meinem lokalen Computer trainiert, wo der Speicher nur für 10 Beispiele pro Stapel ausreicht. Als ich jedoch mein Modell auf AWS migrierte und eine größere GPU (Tesla K80) verwendete, konnte ich eine Stapelgröße von 32 aufnehmen. Die AWS-Modelle zeigten jedoch alle eine...
Ich lese über PCA und verstehe die meisten Vorgänge in Bezug auf die Ableitung, abgesehen von der Annahme, dass Eigenvektoren orthogonal sein müssen und in welcher Beziehung sie zu den Projektionen (PCA-Scores) stehen, die nicht korreliert sind. Ich habe unten zwei Erklärungen, die einen...
Wenn meine Wahrscheinlichkeit die Form einer Beta-Verteilung hat und ich Jeffreys 'Prior für seine Parameter verwenden möchte, welche Form hat der Prior? Für einige Distributionen ist es ziemlich einfach zu berechnen. Im Binomialfall ergibt die Erwartung der zweiten Ableitung beispielsweise...
Eine grundlegende Eigenschaft der Regression mit zufälligen Effekten besteht darin, dass die zufälligen Abschnittsschätzungen in Abhängigkeit von der relativen Varianz jeder Schätzung in Richtung des Gesamtmittelwerts der Antwort "geschrumpft" werden. U.^j= ρjy¯j+ ( 1 - ρj) y¯U.^j=ρjy¯j+(1-...
Kann jemand eine intuitive Vorstellung davon geben, warum es besser ist, eine kleinere Beta zu haben? Für LASSO kann ich verstehen, dass es hier eine Feature-Auswahlkomponente gibt. Weniger Funktionen machen das Modell einfacher und daher weniger wahrscheinlich, dass es überpasst. Für den Grat...
Kontext: Ich bin daran interessiert zu verstehen, wie Daten aus klinischen Studien mit einer naturgeschichtlichen Kontrolle analysiert werden können, dh einer klinischen Studie, in der eine Gruppe von Personen (z. B. Personen mit genetischem Risiko für eine Krankheit) rekrutiert wird, mit denen...
Ich sehe kürzlich einen Begriff "semi-parametrisch" in den Antworten meiner Frage , verstehe aber nicht wirklich, was dieser Begriff bedeutet. Wikipedia sagt In der Statistik ist ein semiparametrisches Modell ein statistisches Modell mit parametrischen und nichtparametrischen Komponenten. Und...
Ich habe das folgende Setup für ein Forschungsprojekt im Bereich Finanzen / Maschinelles Lernen an meiner Universität: Ich wende ein (Deep) Neural Network (MLP) mit der folgenden Struktur in Keras / Theano an, um überdurchschnittliche Aktien (Label 1) von unterdurchschnittlichen Aktien zu...
Ich habe einen Datensatz, der sich mit Einwanderungsanträgen und Visumannahmen (Erteilung von Visa) befasst. Die Preise werden für "akzeptiert" und "abgelehnt" von Visumanträgen berechnet. Der Datensatz enthält jedoch auch Werte für Fälle, die geschlossen wurden. Normalerweise ist dies der Fall,...
Ich kann mich nicht mit dieser Eigenschaft stationärer Reihen und der Autokorrelationsfunktion auseinandersetzen. Das muss ich beweisen ∑h=1n−1ρ^(h)=−12∑h=1n−1ρ^(h)=−12\begin{align} \sum_{h=1}^{n-1}\hat\rho(h)=-\frac{1}{2} \end{align} Wobei und die Autokovarianzfunktion...
Der Artikel zeigt für jeweils 100 Frauen, die eine bestimmte Verhütungsmethode anwenden, die Anzahl der ungeplanten Schwangerschaften im Zeitverlauf. https://www.nytimes.com/interactive/2014/09/14/sunday-review/unplanned-pregnancies.html?_r=0 Insbesondere am Ende des Artikels heißt es: Die Zahlen...
Ich bin auf eine Fehlermetrik gestoßen, mit der der Rekonstruktionsfehler eines Modells quantifiziert wurde: wobei der te Datenpunkt ist, die Modellschätzung des ten Datenpunkts ist und der Mittelwert aller Datenpunkte ist. Der Zähler ist der quadratische Gesamtfehler des Modells, und der Nenner...
Motivation Leeb & Pötscher (2005) schreiben im Zusammenhang mit der Inferenz nach der Modellauswahl : Obwohl seit langem bekannt ist, dass die Einheitlichkeit (zumindest lokal) der Parameter ein wichtiges Thema bei der asymptotischen Analyse ist, wurde diese Lektion in der täglichen Praxis...
Ich habe Probleme, online eine Ressource zu finden, die die erwartete Fisher-Informationsmatrix für die T-Verteilung des univariaten Schülers ableitet. Kennt jemand eine solche Ressource? Da keine Ressource vorhanden ist, die die erwartete Fisher-Informationsmatrix für die T-Verteilung ableitet,...
Belichtung und Versatz sind zwei Techniken, die häufig bei Poisson-Regressionen von Aktuaren verwendet werden, um die Häufigkeit von Ansprüchen vorherzusagen. Nach meinem Verständnis sind Offset und Belichtung dasselbe, daher verstehe ich nicht, warum es zwei Begriffe gibt, die dasselbe...
Richtlinien- und Wertiterationsalgorithmen können verwendet werden, um Markov-Entscheidungsprozessprobleme zu lösen. Es fällt mir schwer, die notwendigen Bedingungen für die Konvergenz zu verstehen. Wenn sich die optimale Richtlinie in zwei Schritten (dh während der Iterationen i und i + 1 ) nicht...
Laut Lee und Little 2017 wird bei Verwendung von Propensity Score (PS) -Methoden die Gewichtung der Gewinnchancen den durchschnittlichen Behandlungseffekt auf die behandelte Person (ATT) erzeugen, während die Verwendung der Unterklassifizierung und Gewichtung nach der inversen Wahrscheinlichkeit...
Betrachten Sie das folgende einfache Beispiel: library( rms ) library( lme4 ) params <- structure(list(Ns = c(181L, 191L, 147L, 190L, 243L, 164L, 83L, 383L, 134L, 238L, 528L, 288L, 214L, 502L, 307L, 302L, 199L, 156L, 183L), means = c(0.09, 0.05, 0.03, 0.06, 0.07, 0.07, 0.1, 0.1, 0.06,...
Ich habe mich gefragt, warum Menschen Gaußsche Prozesse (GP) verwenden, um eine unbekannte (manchmal deterministische) Funktion zu modellieren. Betrachten Sie zum Beispiel eine unbekannte Funktion . Wir haben drei unabhängige Beobachtungen von dieser