Mir ist bewusst, dass kategoriale Variablen mit k Ebenen mit k-1 Variablen in Dummy-Codierung codiert werden sollten (ähnlich für mehrwertige kategoriale Variablen). Ich habe mich gefragt, wie problematisch eine One-Hot-Codierung (dh die Verwendung von k Variablen) gegenüber einer Dummy-Codierung...
Ich weiß, wie man eine Sequenz mit dem Mittelwert . Wenn ich in Matlab beispielsweise eine Sequenz mit einer Länge von generieren möchte , lautet dies:±1±1\pm 1000±1±1\pm 1100001000010000 2*(rand(1, 10000, 1)<=.5)-1 Wie kann man jedoch eine -Sequenz mit einem Mittelwert von erzeugen , dh wobei...
Das Testen von Hypothesen ähnelt einem Klassifizierungsproblem. Nehmen wir also an, wir haben zwei mögliche Bezeichnungen für eine Beobachtung (Subjekt) - Schuldig gegen Nichtschuldig. Sei Nichtschuld die Nullhypothese. Wenn wir das Problem unter dem Gesichtspunkt der Klassifizierung betrachten...
Wenn ich zwei unabhängige Zufallsvariablen X und Y habe, wie ist die Korrelation zwischen X und dem Produkt XY? Wenn dies nicht bekannt ist, wäre ich daran interessiert, zumindest zu wissen, was im speziellen Fall passiert, wenn X und Y mit dem Mittelwert Null normal sind, wenn dies einfacher zu...
Ich habe mir die CS231N-Vorlesungen von Stanford angesehen und versuche, mich mit einigen Problemen in CNN-Architekturen zu befassen. Ich versuche zu verstehen, ob es einige allgemeine Richtlinien für die Auswahl der Faltungsfiltergröße und Dinge wie Schritte gibt oder ob dies eher eine Kunst als...
Ich benutze den Kalman-Filter ganz normal. Das System wird durch die Zustandsgleichung und die Beobachtungsgleichung .xt + 1= F.xt+ vt + 1xt+1=F.xt+vt+1x_{t+1}=Fx_{t}+v_{t+1}yt= H.xt+ A zt+ wtyt=H.xt+EINzt+wty_{t}=Hx_{t}+Az_{t}+w_{t} Lehrbücher lehren, dass wir nach dem Anwenden des Kalman-Filters...
Bei der Auswahl des Regularisierungsparameters Lambda in Ridge oder Lasso wird empfohlen, verschiedene Lambda-Werte auszuprobieren, den Fehler im Validierungssatz zu messen und schließlich den Lambda-Wert auszuwählen, der den niedrigsten Fehler zurückgibt. Es ist mir kein Problem, wenn die Funktion...
Folgendes habe ich in Ian Goodfellows Buch Deep Learning gelesen . Im Zusammenhang mit neuronalen Netzen "wird die L2-Parameternormstrafe allgemein als Gewichtsabfall bezeichnet. Diese Regularisierungsstrategie bringt die Gewichte näher an den Ursprung [...]. Allgemeiner könnten wir die Parameter...
Mein Verständnis von SVM ist, dass es einer logistischen Regression (LR) sehr ähnlich ist, dh eine gewichtete Summe von Merkmalen wird an die Sigmoidfunktion übergeben, um eine Wahrscheinlichkeit der Zugehörigkeit zu einer Klasse zu erhalten, jedoch anstelle des Verlusts der Kreuzentropie...
Ich lese das Kapitel 13 "Adventures in Covariance" in dem ( hervorragenden ) Buch Statistical Rethinking von Richard McElreath, in dem er das folgende hierarchische Modell vorstellt: ( Rist eine Korrelationsmatrix) Der Autor erklärt, dass dies LKJcorrein schwach informativer Prior ist, der als...
Ich versuche, den Nelder-Mead-Algorithmus zur Optimierung einer Funktion zu implementieren. Die Wikipedia-Seite über Nelder-Mead ist überraschend klar über den gesamten Algorithmus, mit Ausnahme seines Stoppkriteriums. Dort heißt es leider: Auf Konvergenz prüfen [Klarstellung erforderlich] . Ich...
Ich möchte mein Verständnis der neuronalen Netze und ihrer Vorteile im Vergleich zu anderen Algorithmen für maschinelles Lernen verbessern. Mein Verständnis ist wie folgt und meine Frage ist: Können Sie bitte mein Verständnis korrigieren und ergänzen? :) :) Mein Verständnis: (1) Künstliche...
Wenn wir Parameter der linearen Regression schätzen wollen, machen wir normale Gleichungen, so viele wie das lineare Modell die Anzahl der Unbekannten enthält. Warum heißen diese Gleichungen
Ich möchte ein Maß für die Volatilität oder das Rauschen für stationäre Zeitreihendaten berechnen. Dies kann ein Maß für eine einzelne Zeitreihe oder ein relatives Maß sein, das mehrere Zeitreihen miteinander vergleicht. Nehmen wir an, dass bereits ein Dickey-Fuller-Test durchgeführt wurde und alle...
Soweit ich weiß, normalisiert die Batch-Norm alle Eingabemerkmale einer Schicht auf eine Einheitsnormalverteilung . Der Mittelwert und die Varianz μ , σ 2 werden geschätzt, indem ihre Werte für die aktuelle Mini-Charge gemessen werden.N.( μ = 0 , σ= 1 )N(μ=0,σ=1)\mathcal{N}(\mu=0,\sigma=1)μ ,...
Ich führe Experimente mit dem EMNIST-Validierungssatz unter Verwendung von Netzwerken mit RMSProp, Adam und SGD durch. Ich erreiche eine Genauigkeit von 87% mit SGD (Lernrate von 0,1) und Dropout (0,1 Dropout Prob) sowie L2-Regularisierung (1e-05-Strafe). Wenn ich die gleiche exakte Konfiguration...
Ich habe ANOVA bisher auf zwei Arten gesehen: Zunächst wurde in meinem einführenden Statistiktext ANOVA eingeführt, um Mittelwerte von drei oder mehr Gruppen zu vergleichen, als Verbesserung gegenüber dem paarweisen Vergleich, um festzustellen, ob eines der Mittelwerte einen statistisch...
Ich habe zwei Regressionen des gleichen Y und des dreistufigen X. Insgesamt n = 15, mit n = 5 in jeder Gruppe oder Stufe von X. Die erste Regression behandelt das X als kategorisch und weist den Stufen 2 und 3 mit Stufe Indikatorvariablen zu eine davon ist die Referenz. Indikatoren / Dummies sind...
Titel sagt alles. Ich verstehe, dass die kleinsten Quadrate und die maximale Wahrscheinlichkeit das gleiche Ergebnis für Regressionskoeffizienten liefern, wenn die Fehler des Modells normal verteilt sind. Aber was passiert, wenn die Fehler nicht normal verteilt sind? Warum sind die beiden Methoden...
In den univariaten Regressionseinstellungen versuchen wir zu modellieren y=Xβ+noisey=Xβ+noisey = X\beta +noise wobei ein Vektor von n Beobachtungen und X ∈ R n × m die Entwurfsmatrix mit m Prädiktoren ist. Die Lösung ist β 0 = ( X T X ) - 1 X y .y∈Rny∈Rny \in \mathbb{R}^nnnnX.∈ R.n × mX∈R.n×mX \in...