Was ist der Begriff, wenn ein Modell auf das zu modellierende Objekt einwirkt und damit das Konzept ändert?

8

Ich versuche herauszufinden, ob es einen herkömmlichen Begriff für dieses Konzept gibt, der mir bei meiner Literaturrecherche und beim Schreiben hilft. Wenn ein maschinelles Lernmodell bewirkt, dass in der realen Welt eine Aktion ausgeführt wird, die sich auf zukünftige Instanzen auswirkt, wie heißt das?

Ich denke an so etwas wie ein Empfehlungssystem, das ein bestimmtes Produkt empfiehlt und kein anderes Produkt empfiehlt. Dann haben Sie die Wahrscheinlichkeit erhöht, dass jemand das erste Produkt kauft, und die Wahrscheinlichkeit verringert, dass jemand das zweite Produkt kauft. Dann werden diese Verkaufszahlen schließlich zu Schulungsinstanzen, wodurch eine Art Rückkopplungsschleife entsteht.

Gibt es dafür einen Begriff?

machine-learning terminology jsmith54
quelle
Ja, "Rückkopplungsschleife" würde ich immer so beschreiben.
Sean Owen
Ich denke, Feedback-Schleife ist definitiv nützlich zu sagen, aber die Literatur zu Performativität und Reflexivität scheint mehr von dem komplexen Zusammenspiel zu sprechen, das ich zu diskutieren versuchte. Daher halte ich es für nützlich, etwas zu sagen wie: "Ein Modell, das auf das Konzept einwirken kann, um das Konzept zu ändern, kann sich somit in einer Art Rückkopplungsschleife ändern. Nennen wir diese Eigenschaft (Performativität / Reflexivität). Dies unterscheidet sich von der Konzeptdrift , weil das Modell die Ursache für die Drift ist. "
jsmith54

Antworten:

6

Es gibt drei sozialwissenschaftliche Begriffe, die für Ihre Situation gelten:

  1. Reflexivität - bezieht sich auf zirkuläre Beziehungen zwischen Ursache und Wirkung. Insbesondere könnten Sie die Definition des von George Soros verwendeten Begriffs verwenden, um sich auf die umgekehrte Kausalschleife zwischen Aktienkursen (dh Barwert der Fundamentaldaten) und Geschäftsgrundlagen zu beziehen. In gewisser Weise ist der Aktienkurs ein "Modell" der grundlegenden Geschäftsprozesse. Normalerweise gehen die Leute davon aus, dass Kausalität eine Einbahnstraße ist, von den Grundlagen bis zum Aktienkurs.

  2. Performativität - Wie von Donald MacKenzie (z. B. hier ) verwendet, sind viele Wirtschaftsmodelle keine "Kameras", die Bilder der wirtschaftlichen Realität aufnehmen, sondern "Motoren" - ein wesentlicher Bestandteil der Konstruktion der wirtschaftlichen Realität. Er hat ein Buch mit diesem Titel: Ein Motor, keine Kamera .

  3. Sich selbst erfüllende Prophezeiung - eine Vorhersage, die sich direkt oder indirekt aufgrund der positiven Rückkopplung zwischen Glauben und Verhalten durch die Bedingungen der Prophezeiung selbst wahr werden lässt. Dies ist der breiteste Begriff und am wenigsten spezifisch für die von Ihnen beschriebene Situation.

Von den drei Begriffen schlage ich vor, dass MacKenzies "Performativität" am besten zu Ihrer Situation passt. Er behauptet unter anderem, dass die Gültigkeit der Wirtschaftsmodelle (z. B. Black-Scholes-Optionspreise) durch ihre Verwendung durch die Marktteilnehmer und damit durch ihre Auswirkungen auf die Optionspreise und Handelsmuster verbessert worden sei.

MrMeritology
quelle
Alle nützlichen Begriffe, aber ich denke, ich stimme zu, dass Performativität am besten anwendbar ist, zumindest im Hinblick auf den Versuch, das Konzept schriftlich auszudrücken. Offensichtlich gibt es jedoch ein gewisses Maß an Heterogenität der Terminologie zwischen den Bereichen. Ich bin mir also nicht sicher, ob mir eines davon wirklich bei der Literaturrecherche helfen wird. Aber das ist wahrscheinlich der Begriff, den ich versuchen werde zu verwenden.
jsmith54
3

Es ist zwar kein spezifischer Begriff, der sich auf maschinelles Lernen konzentriert , aber ich würde mich auf ein solches Verhalten eines statistischen Modells beziehen, indem ich einen allgemeinen Begriff Nebeneffekt verwende (während ich einige klärende Adjektive hinzufüge , wie erwartet oder unerwartet, erwünscht oder unerwünscht und ähnliches ). Das Modellierungsergebnis oder das Ergebnis einer transitiven Rückkopplungsschleife könnten einige der alternativen Begriffe sein.

Aleksandr Blekh
quelle
@ jsmith54: Es war mir ein Vergnügen.
Aleksandr Blekh
0

Ich denke, in der Literatur ist der häufig verwendete übergeordnete Begriff aktives Lernen Aktives Lernen ... insbesondere Multi-Armed Contextual Bandit

seanv507
quelle
Während aktives Lernen (AL) ein naheliegendes Konzept zu sein scheint, denke ich, dass es einen signifikanten Unterschied zwischen AL und Situation gibt, der vom OP beschrieben wird - ersteres impliziert absichtliche Überwachungsbemühungen , während letzteres das Fehlen solcher Bemühungen impliziert und sogar , Intentionen. Daher bevorzuge ich entweder Nebeneffekte oder Rückkopplungsschleifenbegriffe .
Aleksandr Blekh
Ich würde sagen, dass aktives Lernen, obwohl es definitiv verwandt ist, eher auf eine ziemlich spezifische Technik verweist, die absichtlich eingesetzt wird, als auf die unbeabsichtigte Konsequenz eines willkürlichen Modelltyps, der auf das Konzept einwirkt. Es scheint mir ähnlich wie das Lernen der Verstärkung. Diese Techniken sind wahrscheinlich nützlich, wenn Sie festgestellt haben, dass Ihr System eine Rückkopplungsschleife aufweist, aber ich stimme Aleksandr zu, dass sie eine von mir implizierte Entwurfsabsicht ausdrücken, die in meinem Beispiel nicht vorhanden ist.
jsmith54
0

"Ich erkläre Sie jetzt zu Mann und Frau", ein Beispiel für eine Äußerung, mit der der Sprecher eine bestimmte Handlung ausführt, ist eine Instanz einer performativen Handlung, die das zu modellierende Objekt und damit das Konzept verändert. Reflexiv, iterativ, rekursiv, rückwirkend, selbsterzeugend sind verwandte Begriffe.

Laurent Duval
quelle