Lineare Projektion in „Die Elemente des statistischen Lernens“ verstehen

In dem Buch "Die Elemente des statistischen Lernens" in Kapitel 2 ("Lineare Modelle und kleinste Quadrate; Seite Nr. 12") steht das geschrieben

Im (p + 1) -dimensionalen Eingabe-Ausgabe-Raum repräsentiert (X, Y) eine Hyperebene. Wenn die Konstante in X enthalten ist, enthält die Hyperebene den Ursprung und ist ein Unterraum. Wenn nicht, handelt es sich um eine affine Menge, die die Y-Achse am Punkt (0, ) schneidet . $\beta$

Ich verstehe den Satz "wenn Konstante ... (0, )" nicht ". Bitte helfen Sie? Ich denke, die Hyperebene würde in beiden Fällen die Y-Achse bei (0, ) schneiden. Ist das richtig? $\beta$ $\beta$

Die Antwort unten hat etwas geholfen, aber ich suche nach einer genaueren Antwort. Ich verstehe, dass wenn im , es keinen Ursprung enthält, aber wie würde dann das den Ursprung enthalten? Sollte es nicht vom Wert von abhängen ? Wenn intercept nicht , sollte nach meinem Verständnis keinen Ursprung enthalten? $1$ $X$ $(X,Y)$ $\beta$ $\beta_0$ $0$ $(X,Y)$

regression machine-learning Abhinav Gupta
quelle

Wie viel lineare Algebra haben Sie getan? Wissen Sie, was Vektoren sind? Was ist mit Vektorräumen, Teilräumen, ...?

Adrian

Ich habe ein grundlegendes Verständnis von linearer Algebra, Vektor und Vektorräumen.

Abhinav Gupta

en.wikipedia.org/wiki/Hyperplane hat ein bisschen über affine Hyperebenen und Vektor-Hyperebenen

Adrian

Thnaks! Lies einfach diesen Artikel. Aber ich verstehe immer noch nicht, wie man sagen kann, dass die Hyperebene den Ursprung enthält, wenn der Contant in X enthalten ist. Wenn dies klar ist, verstehe ich, warum die Hyperebene ein Unterraum ist.

Abhinav Gupta

Seite Nr.: 12. Ich habe die Frage auch bearbeitet.

Abhinav Gupta

Antworten:

Das Einfügen der Konstante 1in den Eingabevektor ist ein gängiger Trick, um eine Verzerrung einzuschließen (denken Sie an den Y-Achsenabschnitt), aber alle Begriffe des Ausdrucks symmetrisch zu halten: Sie können überall anstelle von schreiben . $\beta X$ $\beta_0 + \beta X$

Wenn Sie dies tun, ist es richtig, dass die Hyperebene den Ursprung enthält, da der Ursprung ein Vektor von Werten ist und das Multiplizieren mit den Wert ergibt . $Y = \beta X$ $0$ $\beta$ $0$

Ihre Eingabevektoren haben jedoch immer das erste Element gleich ; Daher werden sie niemals den Ursprung enthalten und auf einer kleineren Hyperebene platziert, die eine Dimension weniger hat. $1$

Sie können dies visualisieren, indem Sie an eine Linie auf Ihrem Blatt Papier denken (2 Dimensionen). Die entsprechende Hyperebene, wenn Sie die Vorspannung $Y=mx+q$ $q$ $X = [x, x_0=1]$ $\beta = [m, q]$ $x_0=1$

giorgiosironi
quelle

Ich verstehe es immer noch nicht ganz. Das Buch sagt: "Wenn die Konstante in X enthalten ist, enthält die Hyperebene den Ursprung und ist ein Unterraum." Wie Sie bereits angegeben haben, haben Eingabevektoren immer das erste Element = 1, enthalten also niemals den Ursprung. Wie kann also eine Konstante eingeschlossen werden?

Ich

x_{0}

$x_0$

x_{0} = 1

$x_0 = 1$

x_{0} = 1

$x_0 = 1$

Um Ihnen das Verständnis zu erleichtern, habe ich einen sehr einfachen Fall visualisiert.

$X_1$ $Y$ $\beta_0 = 5$ $\beta_1 = 2$ $X_1$

$\hat{Y} = \beta_0 + \beta_1 \times X_1$

Daher wäre die offensichtliche Darstellung in diesem Fall (2d) eine Hyperebene (eine Linie) im (p + 1) -dimensionalen Raum:

$X_0$ $\hat{Y} = \beta_0 \times X_0 + \beta_1 \times X_1$

$X_0$

$X_0 = 1$

grll
quelle