Beweisen Sie die Beziehung zwischen Mahalanobis Abstand und Hebelwirkung?

Ich habe Formeln auf Wikipedia gesehen. die Mahalanobis Distanz und Hebelwirkung in Beziehung setzen:

Der Mahalanobis-Abstand hängt eng mit der Verschuldungsstatistik , hat jedoch eine andere Skala:$h$

$$D^2 = (N - 1)(h - \tfrac{1}{N}).$$

In einem verlinkten Artikel beschreibt Wikipedia :$h$

Im linearen Regressionsmodell die Hebel Punktzahl für die wird Dateneinheit definiert ist als: die Diagonalelement des Hutes Matrix , wobei die Matrixtransponierte bezeichnet.$i^{th}$

$$h_{ii}=(H)_{ii},$$ $i^{th}$$H=X(X^{\top}X)^{-1}X^{\top}$⊤$^{\top}$

Ich kann nirgendwo einen Beweis finden. Ich habe versucht, von den Definitionen auszugehen, aber ich kann keine Fortschritte machen. Kann jemand einen Hinweis geben?

Meine Beschreibung der Mahalanobis-Distanz von unten nach oben Erklärung der Mahalanobis-Distanz? beinhaltet zwei wichtige Ergebnisse:

1. Per Definition ändert es sich nicht, wenn die Regressoren gleichmäßig verschoben werden.

2. Der quadratische Mahalanobis-Abstand zwischen den Vektoren und ist gegeben durch wobei die Kovarianz der Daten ist.$x$$y$

   $$D^2(x,y) = (x-y)^\prime \Sigma^{-1}(x-y)$$ $\Sigma$

(1) erlaubt uns anzunehmen, dass die Mittel der Regressoren alle Null sind. Es bleibt zu berechnen . Damit die Behauptung jedoch wahr ist, müssen wir eine weitere Annahme hinzufügen:$h_i$

Das Modell muss einen Achsenabschnitt enthalten.

Lassen Sie dies zu, und geben Sie $k \ge 0$ Regressoren und $n$ Daten an, und schreiben Sie den Wert des Regressors $j$ für die Beobachtung $i$ als $x_{ij}$ . Der Spaltenvektor dieser $n$ Werte für den Regressor $j$ sei $\mathbf{x}_{,j}$ und der Zeilenvektor dieser $k$ Werte für die Beobachtung $i$ sei $\mathbf{x}_i$ . Dann wird die Modellmatrix ist ,

$$X = \pmatrix{ 1 &x_{11} &\cdots &x_{1k} \\ 1 &x_{21} &\cdots &x_{2k} \\ \vdots &\vdots &\vdots &\vdots \\ 1 &x_{n1} &\cdots &x_{nk}}$$

und per definitionem ist die Hutmatrix

$$H = X(X^\prime X)^{-1} X^\prime,$$

woher Eintrag $i$ entlang der Diagonale ist

$$h_i = h_{ii} = (1; \mathbf{x}_i) (X^\prime X)^{-1} (1; \mathbf{x}_i)^\prime.\tag{1}$$

Es bleibt nichts anderes übrig, als diese zentrale Matrixinverse zu berechnen - aber aufgrund des ersten Schlüsselergebnisses ist es einfach, insbesondere wenn wir es in Blockmatrixform schreiben:

$$X^\prime X = n\pmatrix{1 & \mathbf{0}^\prime \\ \mathbf{0} & C}$$

wobei $\mathbf{0} = (0,0,\ldots,0)^\prime$ und

$$C_{jk} = \frac{1}{n} \sum_{i=1}^n x_{ij} x_{ik} = \frac{n-1}{n}\operatorname{Cov}(\mathbf{x}_j, \mathbf{x}_k) = \frac{n-1}{n}\Sigma_{jk}.$$

(Ich habe $\Sigma$ für die Sample- Kovarianzmatrix der Regressoren geschrieben.) Da dies eine Blockdiagonale ist, kann ihre Inverse einfach durch Invertieren der Blöcke ermittelt werden:

$$(X^\prime X)^{-1} = \frac{1}{n}\pmatrix{1 & \mathbf{0}^\prime \\ \mathbf{0} & C^{-1}} = \pmatrix{\frac{1}{n} & \mathbf{0}^\prime \\ \mathbf{0} & \frac{1}{n-1}\Sigma^{-1}}.$$

Aus der Definition $(1)$ wir

$$\eqalign{ h_i &= (1; \mathbf{x}_i) \pmatrix{\frac{1}{n} & \mathbf{0}^\prime \\ \mathbf{0} & \frac{1}{n-1}\Sigma^{-1}}(1; \mathbf{x}_i)^\prime \\ &=\frac{1}{n} + \frac{1}{n-1}\mathbf{x}_i \Sigma^{-1}\mathbf{x}_i^\prime \\ &=\frac{1}{n} + \frac{1}{n-1} D^2(\mathbf{x}_i, \mathbf{0}). }$$

$D_i^2 = D^2(\mathbf{x}_i, \mathbf{0})$

$$D_i^2 = (n-1)\left(h_i - \frac{1}{n}\right),$$

QED .

$1/n$$X$$n-1$$n-1$$n$

---

$i$

---

R-Code, um zu zeigen, dass die Beziehung tatsächlich gilt:

x <- mtcars

# Compute Mahalanobis distances
h <- hat(x, intercept = TRUE); names(h) <- rownames(mtcars)
M <- mahalanobis(x, colMeans(x), cov(x))

# Compute D^2 of the question
n <- nrow(x); D2 <- (n-1)*(h - 1/n)

# Compare.
all.equal(M, D2)               # TRUE
print(signif(cbind(M, D2), 3))