Wer ist der Vater (oder die Mutter) der linearen Analyse der kleinsten Quadrate, wie wir sie kennen?

7

Hintergrund:
Die kleinste quadratische Fehleranpassung gibt es schon seit einiger Zeit.

Laplace, PS "Des méthodes analytiques du Calcul des Probabilités." CH. 4 in Théorie analytique des probabilités, Livre 2, 3. Aufl. Paris: Kurier, 1820.

Gauß, CF "Theoria Kombination ist obsevationum erroribus minimis obnoxiae." Werke, Bd. 4. Göttingen, Deutschland: p. 1, 1823.

Wikipedia schreibt Gauß und Legendre dafür zu. ( Link )

Viele Softwaretools führen grundlegende lineare Anpassungen mit Analyse der Anpassungsqualität durch. (JMP, R 'lm', ...)

Zwischen 2020 und 1820 liegt eine Zeitspanne von 200 Jahren. Irgendwo dort wurden die Details hinzugefügt.

Frage:
Wer ist der effektive "Vater" (oder die Mutter) der Analyse, wie wir sie kennen?

Es muss jemanden "back in day" geben, der das "erste" gemacht hat, das ~ 80% (oder mehr) so ist wie diese grundlegende Analysemethode?

Können Sie einen Hinweis auf diese "erste Arbeit" geben?

least-squares linear-model history EngrStudent
quelle
4
Ich bin mir nicht sicher, ob diese Frage eine bessere Antwort hat als Laplace und Gauss. Sind Sie sicher, dass die Verfeinerungen der Methode seit ihrer Einführung nicht schrittweise waren?
Kodiologe
4
Warum sagst du eher "Wikipedia beschuldigt" als Attribute? Die Aussage impliziert, dass etwas nicht stimmt.
Michael R. Chernick
@MichaelChernick - etwas ist falsch mit der Wikipedia. Es wird nicht als maßgebliche Quelle angesehen. Sogar eine kaputte Uhr ist zweimal am Tag genau. Selbst wenn Wikipedia jetzt korrekt ist, gibt es keine Garantie dafür, dass es morgen beibehalten wird. Ich werde den Text bearbeiten.
EngrStudent
2
Ich denke, Leute wie Galton fallen definitiv in jedes vernünftige "ish". Ich bin mir nicht sicher, wie ein weniger genaues Lesen der Frage das Problem verbessern würde, auf das ich komme.
Glen_b -Reinstate Monica
1
@Glen_b In Anlehnung an "wie wir es [derzeit] kennen" könnte auch für RA Fisher und das einflussreiche Buch Statistical Methods for Research Workers aus dem Jahr 1925 ein starkes Argument angeführt werden .
Matthew Gunn

Antworten:

12

Ich kann Prof. Stephen Stiglers A History of Statistics: Messung der Unsicherheit vor 1900 nur empfehlen . In Kapitel 1 wird Ihre Frage ausführlich erörtert. (Ein Link ist hier verfügbar .)

Legendre entwickelte zuerst die Methode der kleinsten Quadrate und leitete 1805 die Normalgleichungen ab, um ein überbestimmtes System linearer Gleichungen zu lösen.

Stigler zitiert: "Für eine klare Darstellung ist die Darstellung [von Legendre] unübertroffen. Sie muss als eine der klarsten und elegantesten Einführungen einer neuen statistischen Methode in die Geschichte der Statistik angesehen werden."

Der Kontext gewöhnlicher kleinster Quadrate

Ein faszinierender Punkt ist, dass die Entwicklung der kleinsten Quadrate vor der Entdeckung der Normalverteilung und moderner Rechtfertigungen für die Verwendung der kleinsten Quadrate erfolgte.

Die kleinsten Quadrate wurden entwickelt, um mehrere unvollständige astronomische Beobachtungen zu kombinieren, um die zugrunde liegenden Parameter für die Bewegungen der Himmelskörper wiederherzustellen.

Jede astronomische Beobachtung definiert eine lineare Gleichung, und mit mehr Beobachtungen als Parametern waren die Astronomen der Zeit mit einem inkonsistenten System konfrontiert. Was ist zu tun? Mayer entwickelte eine Methode, bei der Beobachtungen in Gruppen aufgeteilt wurden, die Gleichungen in jeder Gruppe zusammen gemittelt wurden und dann das zugrunde liegende System gelöst werden konnte (Stigler 1990). Legendre schlug stattdessen vor, einen Fehlerterm einzuführen und die Summe der quadratischen Fehler zu minimieren.k

Verweise

Stigler, Stephen, Eine Geschichte der Statistik: Messung der Unsicherheit vor 1900, 1990. Belknap Press

Matthew Gunn
quelle