"Investigator Intention" und Schwellenwerte / p-Werte

21

Ich lese John Kruschkes Folien "Doing Bayesian Data Analysis" , habe aber tatsächlich eine Frage zu seiner Interpretation von t-Tests und / oder dem gesamten Nullhypothesen-Signifikanztest-Framework. Er argumentiert, dass p-Werte schlecht definiert sind, weil sie von den Absichten des Untersuchers abhängen.

Insbesondere gibt er ein Beispiel (Seite 3-6) für zwei Labore, in denen identische Datensätze erfasst werden, in denen zwei Behandlungen verglichen werden. Ein Labor verpflichtet sich, Daten von 12 Probanden zu sammeln (6 pro Bedingung), während das andere für eine feste Dauer Daten sammelt, was ebenfalls 12 Probanden ergibt. Nach den Dias, die kritische - Wert für p < 0,05 unterscheidet sich zwischen diesen beiden Datenerfassungssysteme: t krit = 2,33 für das ehemalige, aber t krit = 2,45 für das letztere!tp<0,05tkrit=2,33tkrit=2,45

Ein Blogbeitrag - den ich jetzt nicht finden kann - schlug vor, dass das Szenario mit fester Dauer mehr Freiheitsgrade hat, da sie Daten von 11, 13 oder einer anderen Anzahl von Probanden hätten sammeln können, während das Szenario mit festem N von Definition hat .N=12

Könnte mir bitte jemand erklären:

  • Warum würde sich der kritische Wert zwischen diesen Bedingungen unterscheiden?

  • (Angenommen, es ist ein Problem) Wie würde man die Auswirkungen verschiedener Stoppkriterien korrigieren / vergleichen?

Ich weiß, dass das Einstellen der Stoppkriterien basierend auf der Signifikanz (z. B. Stichprobe bis ) die Wahrscheinlichkeit eines Fehlers vom Typ I erhöhen kann, aber das scheint hier nicht vor sich zu gehen, da keine der Stoppregeln vom Ergebnis von abhängt Die Analyse.p<0,05

Matt Krause
quelle

Antworten:

11

Weitere Informationen: http://doingbayesiandataanalysis.blogspot.com/2012/07/sampling-distributions-of-t-when.html

Eine ausführlichere Beschreibung finden Sie hier: http://www.indiana.edu/~kruschke/BEST/ In diesem Artikel werden p-Werte für das Anhalten bei Schwelle N, das Anhalten bei Schwellendauer und das Anhalten bei Schwelle t berücksichtigt.

John K. Kruschke
quelle
Wow! Sozusagen direkt aus dem Maul des Pferdes ... Es ist definitiv eine interessante Idee, die mir nicht in den Sinn gekommen war. Danke für die zusätzlichen Infos.
Matt Krause
Ich wollte hinzufügen, dass dies in Dr. Kruschkes Buch (in Kapitel 11) ausführlich besprochen wird .
Matt Krause
13

Ich habe endlich den Artikel gefunden, der mit den Dias zu tun hat : Kruschke (2010) , der hier auch direkt beim Autor (über CiteSeerX) erhältlich ist , da die Zeitschrift nicht weit verbreitet ist. Die Erklärung ist ein bisschen prosaisch, aber ich bin mir immer noch nicht sicher, ob ich sie kaufe.

Im Fall mit festem N wird der kritische Wert wie folgt berechnet: 2 N Stichproben werden zufällig aus der (gleichen) Grundgesamtheit gezogen und ein t- Wert berechnet. Dieser Vorgang wird mehrmals wiederholt, um eine Nullverteilung aufzubauen. Schließlich ist t c r i t das 95. Perzentil dieser Verteilung.t2Nttcricht

Für den Fall der festen Dauer geht er davon aus, dass die Probanden eine mittlere Rate . Die Nullverteilung wird durch Wiederholen von zwei Schritten erstellt. Im ersten Schritt wird die Anzahl der Probanden für jede Bedingung N 1 und N 2 aus einer Possionsverteilung mit dem Parameter λ gezogen . Als nächstes werden zufällige N 1 - und N 2 -Ziehungen aus der Grundgesamtheit verwendet, um einen t- Wert zu berechnen . Dies wird viele Male wiederholt, und t C r i t gesetzt , um das 95. Perzentil der Verteilung dieser sein.λN1N2λN1N2ttcricht

tNNt2N-2

In der anderen Bedingung scheint es, dass die " " -ähnliche Verteilung tatsächlich eine Kombination von Proben aus vielen verschiedenen t- Verteilungen ist , abhängig von den spezifischen Ziehungen. Durch Setzen von λ = N könnte man die durchschnittlichen Freiheitsgrade auf 2 N - N bringen , aber das reicht nicht ganz aus. Zum Beispiel scheint der Durchschnitt der t- Verteilungen für ν = 1 und ν = 5 nicht die t- Verteilung mit 3 Freiheitsgraden zu sein.ttλ=N2N-Ntν=1ν=5t

Zusammenfassend:

  • tcricht
  • t
  • Ich bin nach wie vor nicht davon überzeugt, dass dies tatsächlich ein Problem ist, würde mich aber freuen, Antworten zu lesen / zu bewerten / anzunehmen, wenn jemand anders darüber nachdenkt.
Matt Krause
quelle
Warum können Sie Ihre eigene Frage beantworten und mit einem Häkchen versehen? Scheint nicht so, als ob Sie sich selbst einen Tipp geben könnten!
Michael R. Chernick
5
Es ist nichts falsch, seine eigene Frage zu beantworten , Michael.
CHL
@MichaelChernick, ich glaube, du bekommst keine Wiederholung, wenn du deine eigene Antwort akzeptierst. Zu der Zeit schien es das Richtige zu sein, da ich die Antwort in den letzten zwei Wochen mehr oder weniger aufgespürt hatte, aber ich habe mein Einverständnis mit der Antwort von John K. Kruschke gewechselt, da er eindeutig die Autorität für sich selbst ist Folien :-)
Matt Krause
Interessanter Dank. Aber ich verstehe nicht, warum man seine eigene Antwort jederzeit überprüfen sollte, auch wenn sie richtig und die beste zu sein scheint. Wir haben festgestellt, dass die Überprüfung Ihrer eigenen Antwort keine Wiederholungspunkte ergibt.
Michael R. Chernick
3
Da das Markieren einer Antwort als akzeptiert keinen anderen Zweck hat, als eine korrekte Lösung (für zukünftige Besucher) anzugeben, insbesondere wenn keine andere vorgeschlagen wurde, sehe ich kein Problem damit. Persönlich habe ich diese Antwort vor langer Zeit positiv bewertet, da ich es zu schätzen weiß, dass das OP uns von seiner eigenen Forschung profitieren lässt. Und es tut mir wirklich leid, dass ich keine zusätzliche Stimme für die einfache Tatsache abgeben kann, diesem Thread zu folgen und seine Entscheidung zu aktualisieren. PS "Wir haben festgestellt ..." bezieht sich auf Warum ist es möglich, sich Reputationspunkte zu geben? .
CHL