Warum ist der OLS-Schätzer des AR (1) -Koeffizienten voreingenommen?

Ich versuche zu verstehen, warum OLS einen voreingenommenen Schätzer für einen AR (1) -Prozess liefert. Betrachten Sie In diesem Modell wird die strikte Exogenität verletzt, dh und sind korreliert, aber und sind nicht korreliert . Aber wenn dies zutrifft, warum gilt dann die folgende einfache Ableitung nicht?

\begin{aligned} y_{t} & = α + β y_{t - 1} + ϵ_{t}, \\ ϵ_{t} & \overset{i i d}{\sim} N (0, 1) . \end{aligned}

$\begin{aligned} y_{t} &= \alpha + \beta y_{t-1} + \epsilon_{t}, \\ \epsilon_{t} &\stackrel{iid}{\sim} N(0,1). \end{aligned}$

y_{t}

$y_t$

ϵ_{t}

$\epsilon_t$

y_{t - 1}

$y_{t-1}$

ϵ_{t}

$\epsilon_t$

\begin{aligned} plim \hat{β} & = \frac{Cov (y_{t}, y_{t - 1})}{Var (y_{t - 1})} \\ = \frac{Cov (α + β y_{t - 1} + ϵ_{t}, y_{t - 1})}{Var (y_{t - 1})} \\ = β + \frac{Cov (ϵ_{t}, y_{t - 1})}{Var (y_{t - 1})} \\ = β . \end{aligned}

$\begin{aligned} \text{plim} \ \hat{\beta} &= \frac{\text{Cov}(y_{t},y_{t-1})}{\text{Var}(y_{t-1})} \\ &=\frac{\text{Cov}(\alpha + \beta y_{t-1}+\epsilon_{t}, y_{t-1})}{\text{Var}(y_{t-1})} \\ &= \beta+ \frac{\text{Cov}(\epsilon_{t}, y_{t-1})}{\text{Var}(y_{t-1})} \\ &=\beta. \end{aligned}$

time-series least-squares bias autoregressive estimators Florestan
quelle

Bei Cross Validated gab es einige verwandte Fragen. Sie könnten davon profitieren, wenn Sie sie nachschlagen.

Richard Hardy

Ich habe sie gesehen, aber sie haben mir nicht wirklich geholfen. Ich habe einen Beweis und Simulationen gefunden, die dieses Ergebnis zeigen. Was mich interessiert, ist, was mit meiner obigen Argumentation falsch ist.

Florestan

Wenn Sie

plim

$\text{plim}$ , sprechen Sie nicht eher die Konsistenz als die (Un-) Voreingenommenheit an? Für (Un-) Voreingenommenheit sollten Sie Erwartungen verwenden.

Richard Hardy

Sie haben völlig Recht, das könnte das Rätsel lösen. Wenn also die obige Gleichung nicht ohne Plim gilt, würde sie der Voreingenommenheit von OLS in kleinen Stichproben nicht widersprechen und gleichzeitig die Konsistenz von OLS zeigen. Obwohl ich mir ein bisschen unsicher bin: Gilt diese Kovarianz über die Varianzformel wirklich nur für den Plim und nicht auch für die Erwartung? Vielen Dank schon!

Florestan

Der OLS-Schätzer selbst enthält keine s. Sie sollten nur die Erwartungen in endlichen Stichproben betrachten.

plim

$\text{plim}$

Richard Hardy

Antworten:

Wie im Wesentlichen in den Kommentaren erörtert, ist Unparteilichkeit eine Eigenschaft endlicher Stichproben, und wenn sie gilt, würde sie ausgedrückt als

E (\hat{β}) = β

$E (\hat \beta ) = \beta$

(wobei der erwartete Wert der erste Moment der endlichen Stichprobenverteilung ist)

während Konsistenz eine asymptotische Eigenschaft ist, ausgedrückt als

plim \hat{β} = β

$\text{plim} \hat \beta = \beta$

Das OP zeigt, dass OLS zwar in diesem Zusammenhang voreingenommen ist, aber dennoch konsistent.

E (\hat{β}) \neq β but plim \hat{β} = β

$E (\hat \beta ) \neq \beta\;\;\; \text{but}\;\;\; \text{plim} \hat \beta = \beta$

Kein Widerspruch hier.

Alecos Papadopoulos
quelle

@Alecos erklärt nett, warum ein korrekter Plim und Unvoreingenommenheit nicht dasselbe sind. Was den zugrunde liegenden Grund betrifft, warum der Schätzer nicht unverzerrt ist, sei daran erinnert, dass die Unparteilichkeit eines Schätzers erfordert, dass alle Fehlerterme unabhängig von allen Regressorwerten Mittelwert sind , . $E(\epsilon|X)=0$

Im vorliegenden Fall besteht die Regressormatrix aus den Werten , so dass - siehe Kommentar von mpiktas - die Bedingung in für alle . $y_1,\ldots,y_{T-1}$ $E(\epsilon_s|y_1,\ldots,y_{T-1})=0$ $s=2,\ldots,T$

Hier haben wir

y_{t} = β y_{t - 1} + ϵ_{t},

$\begin{equation*} y_{t}=\beta y_{t-1}+\epsilon _{t}, \end{equation*}$ Auch unter der Annahme wir haben das Aber ist auch ein Regressor für zukünftige Werte in einem AR-Modell, da .

E (ϵ_{t} y_{t - 1}) = 0

$E(\epsilon_{t}y_{t-1})=0$

E (ϵ_{t} y_{t}) = E (ϵ_{t} (β y_{t - 1} + ϵ_{t})) = E (ϵ_{t}^{2}) \neq 0.

$\begin{equation*} E(\epsilon_ty_{t})=E(\epsilon_t(\beta y_{t-1}+\epsilon _{t}))=E(\epsilon _{t}^{2})\neq 0. \end{equation*}$

y_{t}

$y_t$

y_{t + 1} = β y_{t} + ϵ_{t + 1}

$y_{t+1}=\beta y_{t}+\epsilon_{t+1}$

Christoph Hanck
quelle

Ich würde die Klarstellung hinzufügen, dass in diesem Fall für jedes in . Dann wird die weitere Diskussion etwas klarer.

E (ε | X)

$E(\varepsilon | X)$

E (ε_{s} | y_{1}, . . ., y_{T})

$E(\varepsilon_s|y_{1},...,y_T)$

s

$s$

mpiktas

Guter Punkt, ich habe eine Bearbeitung vorgenommen

Christoph Hanck

Erweiterung auf zwei gute Antworten. Notieren Sie den OLS-Schätzer:

\hat{β} = β + \frac{\sum_{t = 2}^{T} y_{t - 1} ε_{t}}{\sum_{t = 2}^{T} y_{t - 1}^{2}}

$\hat\beta =\beta + \frac{\sum_{t=2}^Ty_{t-1}\varepsilon_t}{\sum_{t=2}^Ty_{t-1}^2}$

Für Unvoreingenommenheit brauchen wir

E [\frac{\sum_{t = 2}^{T} y_{t - 1} ε_{t}}{\sum_{t = 2}^{T} y_{t - 1}^{2}}] = 0.

$E\left[\frac{\sum_{t=2}^Ty_{t-1}\varepsilon_t}{\sum_{t=2}^Ty_{t-1}^2}\right]=0.$

Dafür brauchen wir aber für jedes . Für das AR (1) -Modell schlägt dies eindeutig fehl, da mit den zukünftigen Werten . $E(\varepsilon_t|y_{1},...,y_{T-1})=0,$ $t$ $\varepsilon_t$ $y_{t},y_{t+1},...,y_{T}$

mpiktas
quelle

Nur um zu überprüfen, ob ich es richtig verstanden habe: Das Problem ist nicht der Zähler, denn jedes t und sind nicht korreliert. Das Problem ist der Nenner, der höhere ts aufweist, so dass eine Korrelation zwischen Zähler und Nenner besteht, so dass ich die Erwartung nicht innerhalb der Summe des Zählers annehmen kann (unter strenger Exogenität könnte ich dies tun?!). Ist das die richtige mathematische Intuition?

y_{t - 1}

$y_{t-1}$

ϵ_{t}

$\epsilon_{t}$

Florestan

Ja, das ist die richtige Intuition. Beachten Sie, dass in diesem Fall keine strikte Exogenität möglich ist, für die Unparteilichkeit jedoch eine strikte Exogenität erforderlich wird.

mpiktas