Was ist gemeinsame Schätzung?

12

Meine Frage ist so einfach: Was ist gemeinsame Schätzung? Und was bedeutet das im Kontext der Regressionsanalyse? Wie wird es gemacht? Ich bin einige Zeit im mächtigen Internet herumgewandert, habe aber keine Antworten auf diese Fragen gefunden.

In der Regression verloren
quelle
1
Vielen Dank für all die hilfreichen Antworten und die Mühe, die Sie unternommen haben, um mir dies zu erklären!
Verloren in der Regression

Antworten:

14

Gemeinsame Schätzung bedeutet einfach, zwei (oder mehr) Dinge gleichzeitig gemeinsam zu schätzen. Dies kann so einfach sein wie das Schätzen des Mittelwerts und der Standardabweichung von einer Stichprobe.

In vielen Literaturstellen wird der Begriff verwendet, weil ein spezielles Schätzverfahren angewendet werden muss. Dies ist normalerweise der Fall, wenn eine Größe von der anderen abhängt und umgekehrt, so dass eine analytische Lösung des Problems nicht möglich ist. Wie genau die gemeinsame Schätzung erfolgt, hängt ganz vom Problem ab.

Eine Methode, die häufig für "gemeinsame Modellierung" oder gemeinsame Schätzung auftaucht, ist der EM-Algorithmus. EM steht für Erwartung - Maximierung. Durch Abwechseln dieser Schritte füllt der E-Schritt die fehlenden Daten aus, die ansonsten von Komponente A abhängen, und der M-Schritt findet optimale Schätzungen für Komponente B. Durch Iterieren der E- und M-Schritte können Sie eine maximale Wahrscheinlichkeitsschätzung von A finden und B, also schätzen diese Dinge gemeinsam.

AdamO
quelle
1
Können Sie ein Beispiel geben, wo wir den Mittelwert und die Standardabweichung einer Variablen nicht schätzen? Welche Art von Algorithmus wird dann verwendet?
smci
@smci lineare gemischte Modellierung schätzt gemeinsam die festen und zufälligen Komponenten.
AdamO
Danke, ich meine, bitte bearbeiten Sie das (und alle anderen Beispiele) in Ihrer Antwort. Ist der Algorithmus völlig anders als EM? (Wie schafft es, beide Komponenten gleichzeitig zu schätzen? Garantiert es Konvergenz?
Usw.
@smci Ich bin anderer Meinung. a) Das ist nicht die Frage des OP. b) Es gibt unendlich viele "andere Beispiele". c) Was ist der LME-Algorithmus und wie unterscheidet er sich von EM? Eine andere Frage.
AdamO
Es hilft, die Antwort anhand von Beispielen zu veranschaulichen. Und das ergibt eine bessere Antwort, daher ist es Teil dessen, was gefragt wurde.
smci
6

In einem statistischen Kontext könnte der Begriff "gemeinsame Schätzung" möglicherweise eines von zwei Dingen bedeuten:

    1. Die gleichzeitige Schätzung von zwei oder mehr Skalarparametern (oder äquivalent die Schätzung eines Vektorparameters mit mindestens zwei Elementen); oder
    1. Die Schätzung eines einzelnen Parameters, der sich auf ein Gelenk bezieht (z. B. bei der Untersuchung von Zimmerei, Sanitärsystemen oder Marihuana-Rauchen).

Von diesen beiden Optionen ist die zweite ein Scherz, so dass sich die gemeinsame Schätzung mit ziemlicher Sicherheit auf die gleichzeitige Schätzung von zwei Skalarparametern bezieht.

Stellen Sie Monica wieder her
quelle
1
um pedantisch zu sein, zwei oder mehr
qwr
1
Pedanterie akzeptiert - bearbeitet.
Stellen Sie Monica
2

Bei der gemeinsamen Schätzung werden Daten verwendet, um zwei oder mehr Parameter gleichzeitig zu schätzen. Bei einer separaten Schätzung wird jeder Parameter einzeln ausgewertet.

Die Schätzung ist das Ergebnis eines Optimierungsprozesses. Aus diesem Grund gibt es in der Statistik keine eindeutigen Schätzlösungen. Wenn Sie Ihr Ziel ändern, ändern Sie, was optimal ist. Wenn Sie zum ersten Mal Dinge wie Regression lernen, sagt Ihnen niemand, warum Sie das tun, was Sie tun. Das Ziel des Lehrers ist es, Ihnen mit Methoden, die unter einer Vielzahl von Umständen funktionieren, ein gewisses Maß an grundlegender Funktionalität zu vermitteln. Zu Beginn lernen Sie nichts über Regression. Stattdessen lernen Sie eine oder zwei Regressionsmethoden, die unter einer Vielzahl von Umständen weit verbreitet sind.

Die Tatsache, dass Sie nach Lösungen suchen, die ein verstecktes Ziel lösen, macht es etwas schwierig zu verstehen.

z=βxx+βyy+α
z(x,y){βx,βy,α}}{x,y,z}}

Bei einer separaten Schätzung würden Sie jeweils einen Parameter schätzen. Bei der gemeinsamen Schätzung würden Sie alle auf einmal schätzen.

xzyy

xzxzz=βxx+αz=βyy+α

Nun, wie es gemacht wird. Alle Schätzungen, mit Ausnahme einiger Ausnahmefälle, verwenden Kalkül, um einen Schätzer zu finden, der irgendeine Form von Verlust oder irgendeine Art von Risiko minimiert. Die Sorge ist, dass Sie bei der Auswahl Ihrer Probe Pech haben werden. Leider gibt es unendlich viele Verlustfunktionen. Es gibt auch unendlich viele Risikofunktionen.

Ich habe mehrere Videos für Sie gefunden, da es sich um ein riesiges Thema handelt, damit Sie es allgemeiner betrachten können. Sie sind vom mathematischen Mönch.

https://www.youtube.com/watch?v=6GhSiM0frIk

https://www.youtube.com/watch?v=5SPm4TmYTX0

https://www.youtube.com/watch?v=b1GxZdFN6cY

und

https://www.youtube.com/watch?v=WdnP1gmb8Hw .

Dave Harris
quelle