GLMs müssen in den Parametern linear sein.

Ich habe eine gewisse kognitive Dissonanz darüber, was "linear in den Parametern" bedeutet. Zum Beispiel hier und hier .

Zum Beispiel ist mein Verständnis ist in den Parametern nicht linear, da zwei Parametervariablen miteinander multipliziert sind (nämlich ). $y_i = \beta_0 + \beta_1\beta_2x_1 + \exp(\beta_3)(x_2)^2 + \epsilon$ ${\beta_1, \beta_2}$

Wenn (sagen wir) durch , eine Konstante, ersetzt würde, wäre dies der Fall. $\beta_1$ $\gamma_1$

Schätzen Sie, ob jemand diesen Punkt klären könnte.

generalized-linear-model linear parameterization Ben S.
quelle

Während Sie korrekt sind, ist die Funktion in den Parametern nicht linear, kann aber mit einer Protokolltransformation durchgeführt werden

Repmat

@Repmat Wie so? Wie hilft die Protokolltransformation hier?

Nick Cox

Ich sehe nicht, dass irgendetwas , linear oder nichtlinear, separat abschätzbar macht. Beobachten Sie positiver, dass GLM in verschiedenen Kontexten allgemeine lineare Modelle und verallgemeinerte lineare Modelle bedeutet, die sich überlappen, aber keineswegs identische Klassen sind.

β_{1}, β_{2}

$\beta_1, \beta_2$

Nick Cox

Entfernen des Produkts und der exp

Repmat

OK, Sie parametrisieren also neu. Das ist keine Transformation (von Variablen), worauf ich geschlossen habe.

Nick Cox

Antworten:

Ihr Beispielmodell kann erneut ausgedrückt werden, um in den Parametern linear zu sein $\alpha=\beta_1\beta_2$ & $\zeta=\exp\beta_3$ ::

g (E Y) = β_{0} + α x_{1} + ζ x_{2}^{2}

$g(\operatorname{E} Y) = \beta_0 + \alpha x_1 + \zeta x_2^2$

(Deutlich $\beta_1$ & $\beta_2$ sind nicht separat abschätzbar; Ein nichtlineares Modell würde dort nicht helfen. Und beachte das $\hat\zeta$ muss eingeschränkt werden, um positiv zu sein.) Einige Modelle können nicht so neu ausgedrückt werden:

g (E Y) = β_{0} + β_{1} x_{1} + x_{2}^{β_{2}}

$g(\operatorname{E} Y) = \beta_0 + \beta_1 x_1 + x_2^{\beta_2}$

Einige können sein, obwohl es zunächst nicht offensichtlich ist: https://stats.stackexchange.com/a/60504/17230 .

Es gibt eine sehr gründliche Diskussion der verschiedenen Bedeutungen von "linear" unter Wie kann man den Unterschied zwischen linearen und nichtlinearen Regressionsmodellen erkennen? .

Scortchi - Monica wieder einsetzen
quelle

Der erneute Ausdruck verliert die Information, dass

ζ

$\zeta$ ist gezwungen, positiv zu sein.

Juho Kokkala

@JuhoKokkala: Guter Punkt - das werde ich beachten.

Scortchi - Monica wieder einsetzen

Linear in den Parametern bedeutet, dass Sie Ihre Vorhersage als schreiben können

β_{0} + \sum_{j = 1}^{p} x_{i j} β_{j}

$\beta_0+\sum_{j=1}^px_{ij}\beta_j$

Für eine Definition von $x_{ij}$ . Diese x müssen jedoch keine linearen Funktionen Ihrer Daten sein. Zum Beispiel hat die ploynomiale Anpassung einer Zeitreihe $x_{ij}=t_i^j$ wo $t_i$ ist die mit dem Datenpunkt verbundene Zeit $i$ . Die Vorhersage ist eine nichtlineare Funktion der Zeit, aber in den Betas linear.

AKTUALISIEREN

Als Antwort auf den Kommentar lautet die Antwort "irgendwie". Wenn $\beta_2$ konstant war, dann ist der Prädiktor linear in $\beta_0,\beta_1,\exp (\beta_3)$ . Es ist nicht linear in $\beta_3$ , aber eine Transformation von $\beta_3$ . In Bezug auf Schätzungen der kleinsten Quadrate macht es hier keinen großen Unterschied.

Wahrscheinlichkeitslogik
quelle

Vielen Dank für die Antwort. Vielleicht wird meine Frage nicht durch eine Transformation der x geklärt. Ich frage nach den Beta (Parametern), nicht nach Transformationen von x. Vielleicht, wenn Sie mein spezielles Beispiel oben kommentieren könnten.

Ben S

Ich denke, es ist besser für Sie, die drei Komponenten des GLM zu verstehen. Insbesondere müssen Sie verstehen, wie die Verknüpfungsfunktion definiert ist.

Sie können auf Seite 7 in den folgenden Folien verweisen. 'linear in den Parametern' ist wahr, nachdem es durch die Verknüpfungsfunktion transformiert wurde.

Geben Sie hier die Linkbeschreibung ein

Shijia Bian
quelle

Obwohl Links im Allgemeinen von entscheidender Bedeutung sind, scheinen sie für diesen Thread nicht relevant zu sein.

Nick Cox

Die Parameter sind bereits vor der Transformation linear.

Daeyoung Lim