Ich bin ziemlich oft auf den Begriff "geschlossene Lösung" gestoßen. Was bedeutet eine geschlossene Lösung? Wie kann man feststellen, ob es für ein bestimmtes Problem eine formschlüssige Lösung gibt? Bei der Online-Suche habe ich einige Informationen gefunden, aber nichts im Zusammenhang mit der Entwicklung eines statistischen oder probabilistischen Modells / einer probabilistischen Lösung.
Ich verstehe Regression sehr gut. Wenn also jemand das Konzept mit Bezug auf Regression oder Modellanpassung erklären kann, ist es leicht zu konsumieren. :)
Antworten:
und
Ein Beispiel für eine geschlossene Lösung in linearer Regression wäre die kleinste quadratische Gleichung
quelle
Die meisten Schätzverfahren beinhalten das Auffinden von Parametern, die eine objektive Funktion minimieren (oder maximieren). Zum Beispiel minimieren wir mit OLS die Summe der quadratischen Residuen. Mit der Maximum-Likelihood-Schätzung maximieren wir die Log-Likelihood-Funktion. Der Unterschied ist trivial: Minimierung kann durch Verwendung des Negativs der Zielfunktion in Maximierung umgewandelt werden.
Manchmal kann dieses Problem algebraisch gelöst werden und eine geschlossene Lösung ergeben. Mit OLS lösen Sie das System der Bedingungen erster Ordnung und erhalten die vertraute Formel (obwohl Sie wahrscheinlich noch einen Computer benötigen, um die Antwort auszuwerten). In anderen Fällen ist dies mathematisch nicht möglich und Sie müssen mit einem Computer nach Parameterwerten suchen. In diesem Fall spielen der Computer und der Algorithmus eine größere Rolle. Nichtlineare kleinste Quadrate sind ein Beispiel. Sie erhalten keine explizite Formel. Alles, was Sie erhalten, ist ein Rezept, das Sie für die Implementierung auf dem Computer benötigen. Das Rezept könnte mit einer ersten Vermutung beginnen, wie die Parameter lauten und wie sie variieren können. Sie probieren dann verschiedene Parameterkombinationen aus und sehen, welche Ihnen den niedrigsten / höchsten Zielfunktionswert liefert. Dies ist der Brute-Force-Ansatz und dauert lange. Zum Beispiel,105
Oder Sie beginnen mit einer Vermutung und verfeinern diese Vermutung in eine Richtung, bis die Verbesserungen in der Zielfunktion unter einem bestimmten Wert liegen. Diese werden normalerweise als Gradientenmethoden bezeichnet (obwohl es andere gibt, die den Gradienten nicht verwenden, um zu bestimmen, in welche Richtung sie gehen sollen, wie genetische Algorithmen und simuliertes Tempern). Einige Probleme wie dieses garantieren, dass Sie schnell die richtige Antwort finden (quadratische Zielfunktionen). Andere geben keine solche Garantie. Sie könnten befürchten, dass Sie sich nicht mehr auf ein globales, sondern auf ein lokales Optimum festgelegt haben, und versuchen, eine Reihe von ersten Vermutungen anzustellen. Möglicherweise stellen Sie fest, dass sehr unterschiedliche Parameter denselben Wert für die Zielfunktion liefern, sodass Sie nicht wissen, welcher Satz ausgewählt werden soll.
quelle
Ich denke, dass diese Website eine einfache Intuition bietet, ein Auszug davon ist:
quelle
Suchen Sie nach Laienbegriffen oder dem schmerzhaften Wortschatz, der die Bedeutung genau definiert? Ich gehe davon aus, dass Laienbegriffe überall zu finden sind. Angenommen, Sie wollten die geschlossene Lösung der Quadratwurzel von 8. Die geschlossene Lösung ist 2 * (2) ^ 1/2 oder das Zweifache der Quadratwurzel von zwei. Dies steht im Gegensatz zu der nicht geschlossenen Lösung 2.8284. (siehe Wikipedia-Quadratwurzel von 2, um zu sehen, dass sie bei 69 Dezimalstellen auf 1 / 10.000 genau ist). Eine ist mathematisch absolut definiert, die andere nicht. Eine Lösung mit geschlossener Form liefert eine genaue Antwort, und eine Lösung ohne geschlossene Form ist eine Annäherung. Sie können jedoch eine Lösung ohne geschlossene Form erhalten, die der Lösung mit geschlossener Form so nahe kommt, wie Sie möchten. Klingt kontraintuitiv, aber wenn Sie es genauer brauchen, müssen Sie nur ein bisschen mehr Berechnungen anstellen.
quelle
Geschlossene Form = geschlossene (funktionale) Form
Geschlossen bedeutet, dass nichts mehr hineingehen kann. keine Alternative => nur eine Lösung => nur eine Funktion, die die Beziehung zwischen dem Ergebnis und den Prädiktoren herstellen kann.
quelle