Angenommen, Sie passen eine lineare / logistische Regression mit dem Ziel einer unverzerrten Schätzung von . Sie sind sehr zuversichtlich, dass sowohl als auch in Bezug auf das Rauschen in ihren Schätzungen sehr positiv sind.a 1 a1a2
Wenn Sie die gemeinsame Kovarianz von , können Sie die Antwort berechnen oder zumindest simulieren. Gibt es bessere Möglichkeiten, und wie viel Mühe bereitet es Ihnen bei Problemen mit vielen Daten im wirklichen Leben, das Verhältnis der Schätzungen zu ermitteln oder einen halben Schritt zu machen und anzunehmen, dass die Koeffizienten unabhängig sind?
Antworten:
Ich würde vorschlagen, eine Fehlerweitergabe für den Variablentyp durchzuführen und entweder den Fehler oder den relativen Fehler von minimieren . Zum Beispiel aus Strategien zur Varianzschätzung oder Wikipediaein1ein2
Vermutlich möchten Sie minimieren . Es ist wichtig zu verstehen, dass man die Anpassungsgüte aufgegeben hat, wenn man eine Regression durchführt, um ein bestes Parameterziel zu finden. Der Anpassungsprozess findet ein bestes , und dies hängt definitiv nicht mit der Minimierung von Residuen zusammen. Zuvor wurden Logarithmen einer nichtlinearen Anpassungsgleichung verwendet, für die mehrere lineare Gleichungen mit einem anderen Zielparameter und einer Tikhonov-Regularisierung angewendet wurden .( σff)2 EINB
Die Moral dieser Geschichte ist, dass man diese Antwort nicht erhalten wird, wenn man die Daten nicht fragt, um die gewünschte Antwort zu erhalten. Und eine Regression, die die gewünschte Antwort nicht als Minimierungsziel angibt, beantwortet die Frage nicht.
quelle