Simpsons Paradoxon

Das Simpson-Paradoxon ist ein Phänomen der Wahrscheinlichkeitstheorie und Statistik , bei dem ein Trend in mehreren Datengruppen auftritt, aber verschwindet oder sich umkehrt, wenn die Gruppen zusammengefasst werden. Dieses Ergebnis ist häufig in der sozialwissenschaftlichen und medizinischen Statistik zu beobachten ^{[ 1 ] [ 2 ] [ 3 ]} und besonders problematisch, wenn Häufigkeitsdaten fälschlicherweise als kausal interpretiert werden ^{[ 4 ]} . Das Paradoxon lässt sich auflösen, wenn Störvariablen und Kausalzusammenhänge in der statistischen Modellierung angemessen berücksichtigt werden ^{[ 4 ] [ 5 ]} (z. B. durch Clusteranalyse ) ^{[ 6 ] .}

Das Simpson-Paradoxon wurde herangezogen, um zu veranschaulichen, welche irreführenden Ergebnisse durch den Missbrauch von Statistiken entstehen können. ^{[ 7 ] [ 8 ]}

Edward H. Simpson beschrieb dieses Phänomen erstmals 1951 in einer Facharbeit. ^{[ 9 ]} Die Statistiker Karl Pearson (1899) ^{[ 10 ]} und Udny Yule (1903) ^{[ 11 ]} hatten bereits zuvor ähnliche Effekte erwähnt. Der Name Simpson-Paradoxon wurde 1972 von Colin R. Blyth eingeführt. ^{[ 12 ]} Es wird auch als Simpson-Umkehrung , Yule-Simpson-Effekt , Amalgamationsparadoxon oder Umkehrparadoxon bezeichnet . ^{[ 13 ]}

Eines der bekanntesten Beispiele für Simpsons Paradoxon stammt aus einer Studie zur geschlechtsspezifischen Benachteiligung bei der Zulassung zum Graduiertenstudium an der University of California, Berkeley . Die Zulassungszahlen für Herbst 1973 zeigten, dass Männer mit höherer Wahrscheinlichkeit zugelassen wurden als Frauen, und der Unterschied war so groß, dass er kaum auf Zufall beruhen konnte. ^{[ 14 ] [ 15 ]}

Berücksichtigt man jedoch die Informationen zu den gewählten Fachbereichen, so zeigen die unterschiedlichen Ablehnungsquoten den unterschiedlichen Schwierigkeitsgrad der Zulassung. Gleichzeitig zeigt sich, dass Frauen sich tendenziell für wettbewerbsintensivere Fachbereiche mit niedrigeren Zulassungsquoten bewerben, selbst unter qualifizierten Bewerberinnen (wie beispielsweise im Fach Anglistik), während Männer sich eher für weniger wettbewerbsintensive Fachbereiche mit höheren Zulassungsquoten bewerben (wie beispielsweise im Fach Ingenieurwesen). Die zusammengefassten und korrigierten Daten ergaben eine „geringe, aber statistisch signifikante Verzerrung zugunsten von Frauen“. ^{[ 15 ]}

Die Daten der sechs größten Abteilungen sind unten aufgeführt:

Die vollständigen Daten zeigten, dass insgesamt 4 von 85 Fachbereichen eine signifikante Benachteiligung von Frauen und 6 eine signifikante Benachteiligung von Männern aufwiesen (nicht alle sind in der obigen Tabelle der „sechs größten Fachbereiche“ aufgeführt). Bemerkenswerterweise bildeten nicht die Anzahl der benachteiligten Fachbereiche die Grundlage für die Schlussfolgerung, sondern die geschlechtsspezifischen Zulassungsquoten aller Fachbereiche, gewichtet nach der jeweiligen Ablehnungsquote aller Bewerber. ^{[ 15 ]}

Ein weiteres Beispiel stammt aus einer realen medizinischen Studie ^{[ 16 ]} , in der die Erfolgsraten zweier Behandlungsmethoden für Nierensteine ​​verglichen wurden . ^{[ 17 ]} Die folgende Tabelle zeigt die Erfolgsraten ( hier wird der Anteil erfolgreicher Behandlungen genannt) und die Anzahl der Behandlungen für kleine und große Nierensteine. Behandlung A umfasst offene chirurgische Eingriffe, Behandlung B geschlossene chirurgische Eingriffe. Die Zahlen in Klammern geben den Anteil der erfolgreichen Fälle an der Gesamtgröße der Gruppe an.

Die paradoxe Schlussfolgerung lautet, dass Behandlung A sowohl bei kleinen als auch bei großen Steinen wirksamer ist, Behandlung B jedoch bei Betrachtung beider Größen gleichzeitig wirksamer zu sein scheint. In diesem Beispiel ist die Größe der Steine ​​die „versteckte“ Variable (oder Störvariable ), die das Paradoxon verursacht. Ihre Bedeutung war Forschern zuvor nicht bewusst, bis ihre Auswirkungen in die Studie einbezogen wurden.

Welche Behandlung als besser gilt, hängt davon ab, welche Erfolgsquote (Erfolge/Gesamtzahl) höher ist. Die Umkehrung der Ungleichheit zwischen den beiden Quoten bei Betrachtung der kombinierten Daten, die das Simpson-Paradoxon erzeugt, ergibt sich aus dem Zusammenwirken zweier Effekte:

1. Die Gruppengrößen, die bei Vernachlässigung der Störvariable zusammengefasst werden, unterscheiden sich stark. Ärzte neigen dazu, Patienten mit großen Steinen die bessere Behandlung A und Patienten mit kleinen Steinen die weniger gute Behandlung B zuzuweisen. Daher werden die Gesamtzahlen von den Gruppen 3 und 2 dominiert, nicht aber von den beiden deutlich kleineren Gruppen 1 und 4.
2. Die schwer zu erfassende Variable, die Steingröße, hat einen großen Einfluss auf die Verhältnisse; d. h., die Erfolgsrate wird stärker vom Schweregrad des Falls als von der Wahl der Behandlung beeinflusst. Daher schneidet die Patientengruppe mit großen Steinen, die mit Behandlung A (Gruppe 3) behandelt wird, schlechter ab als die Gruppe mit kleinen Steinen, selbst wenn letztere die weniger wirksame Behandlung B (Gruppe 2) erhält.

Aufgrund dieser Effekte ergibt sich das paradoxe Ergebnis, da der Einfluss der Steingröße die Vorteile der besseren Behandlung (A) überlagert. Kurz gesagt, die weniger wirksame Behandlung B erschien wirksamer, weil sie häufiger bei den kleineren, leichter zu behandelnden Steinen angewendet wurde, sodass die gewählte Behandlung mit höherer Wahrscheinlichkeit zum Erfolg führte. ^{[ 17 ]}

Jaynes argumentiert, dass die richtige Schlussfolgerung lautet, dass, obwohl Behandlung A deutlich besser als Behandlung B ist, die Größe des Nierensteins wichtiger ist. ^{[ 18 ]}

Ein gängiges Beispiel für das Simpson-Paradoxon betrifft die Schlagdurchschnitte von Profi-Baseballspielern . Es ist möglich, dass ein Spieler über mehrere Jahre hinweg jedes Jahr einen höheren Schlagdurchschnitt als ein anderer Spieler aufweist, sein Gesamtdurchschnitt jedoch niedriger ist. Dieses Phänomen kann auftreten, wenn die Anzahl der Schlagversuche zwischen den Jahren stark variiert. Der Mathematiker Ken Ross demonstrierte dies anhand der Schlagdurchschnitte der beiden Baseballspieler Derek Jeter und David Justice in den Jahren 1995 und 1996: ^{[ 19 ] [ 20 ]}

Sowohl 1995 als auch 1996 hatte Justice einen höheren Schlagdurchschnitt (fettgedruckt) als Jeter. Betrachtet man jedoch die beiden Baseball-Saisons zusammen, weist Jeter einen höheren Schlagdurchschnitt als Justice auf. Laut Ross tritt dieses Phänomen bei den möglichen Spielerpaaren etwa einmal pro Jahr auf. ^{[ 19 ]}

Das Simpson-Paradoxon lässt sich auch mithilfe eines zweidimensionalen Vektorraums veranschaulichen . ^{[ 21 ]} Eine Erfolgsrate (d. h. Erfolge/Versuche ) kann durch einen Vektor mit der Steigung dargestellt werden . Ein steilerer Vektor repräsentiert somit eine höhere Erfolgsrate. Werden zwei Raten und kombiniert, wie in den obigen Beispielen, so ergibt sich das Ergebnis als Summe der Vektoren und , was gemäß der Parallelogrammregel dem Vektor mit der Steigung entspricht . ${\textstyle {\frac {p}{q}}}$${\displaystyle {\vec {A}}=(q,p)}$${\textstyle {\frac {p}{q}}}$${\textstyle {\frac {p_{1}}{q_{1}}}}$${\textstyle {\frac {p_{2}}{q_{2}}}}$${\displaystyle (q_{1},p_{1})}$${\displaystyle (q_{2},p_{2})}$${\displaystyle (q_{1}+q_{2},p_{1}+p_{2})}$${\textstyle {\frac {p_{1}+p_{2}}{q_{1}+q_{2}}}}$

Das Simpson-Paradoxon besagt, dass selbst wenn ein Vektor (orange in der Abbildung) eine kleinere Steigung als ein anderer Vektor (blau) und dieser wiederum eine kleinere Steigung als hat , die Summe der beiden Vektoren dennoch eine größere Steigung aufweisen kann als die Summe der beiden Vektoren , wie im Beispiel gezeigt. Damit dies eintritt, muss einer der orangen Vektoren eine größere Steigung als einer der blauen Vektoren (hier und ) haben. Diese sind in der Regel länger als die alternativ indizierten Vektoren und dominieren somit den Gesamtvergleich. ${\displaystyle {\vec {L}}_{1}}$${\displaystyle {\vec {B}}_{1}}$${\displaystyle {\vec {L}}_{2}}$${\displaystyle {\vec {B}}_{2}}$${\displaystyle {\vec {L}}_{1}+{\vec {L}}_{2}}$${\displaystyle {\vec {B}}_{1}+{\vec {B}}_{2}}$${\displaystyle {\vec {L}}_{2}}$${\displaystyle {\vec {B}}_{1}}$

Simpsons Umkehrung kann auch bei Korrelationen auftreten , bei denen zwei Variablen beispielsweise positiv korreliert zu sein scheinen, tatsächlich aber negativ korreliert sind. Diese Umkehrung wird durch einen „versteckten“ Störfaktor hervorgerufen. Berman et al. ^{[ 22 ]} führen ein Beispiel aus der Wirtschaftswissenschaft an, in dem ein Datensatz eine positive Korrelation zwischen Gesamtnachfrage und Preis nahelegt (d. h. höhere Preise führen zu höherer Nachfrage), was den Erwartungen widerspricht. Die Analyse zeigt, dass die Zeit die Störvariable ist: Trägt man Preis und Nachfrage über die Zeit auf, ergibt sich die erwartete negative Korrelation über verschiedene Perioden. Diese kehrt sich jedoch um und wird positiv, wenn man den Einfluss der Zeit ignoriert und lediglich die Nachfrage gegen den Preis aufträgt.

Das psychologische Interesse am Simpson-Paradoxon zielt darauf ab, zu erklären, warum Menschen eine Vorzeichenumkehr zunächst für unmöglich halten. Die Frage ist, woher diese starke Intuition stammt und wie sie im Gehirn verankert ist .

Simpsons Paradoxon zeigt, dass diese Intuition weder aus der klassischen Logik noch aus der Wahrscheinlichkeitsrechnung allein abgeleitet werden kann. Daher vermuteten Philosophen , dass sie auf einer angeborenen Kausallogik beruht, die das Denken über Handlungen und deren Folgen leitet. ^{[ 4 ]} Savages Prinzip der sicheren Sache ^{[ 12 ]} ist ein Beispiel für die möglichen Implikationen einer solchen Logik. Eine qualifizierte Version von Savages Prinzip der sicheren Sache lässt sich tatsächlich aus Pearls Do -Kalkül ^{[ 4 ]} ableiten und lautet: „Eine Handlung A , die die Wahrscheinlichkeit eines Ereignisses B in jeder Teilpopulation C_{_i} von C erhöht , muss auch die Wahrscheinlichkeit von B in der Gesamtpopulation erhöhen, vorausgesetzt, die Handlung verändert nicht die Verteilung der Teilpopulationen.“ Dies legt nahe, dass Wissen über Handlungen und Folgen in einer Form gespeichert ist, die kausalen Bayes'schen Netzen ähnelt .

Eine Arbeit von Pavlides und Perlman liefert einen Beweis von Hadjicostas, dass das Simpson-Paradoxon in einer zufälligen 2 × 2 × 2-Tabelle mit Gleichverteilung mit einer Wahrscheinlichkeit von genau 1/60 auftritt . [ 23 ] Eine ^{Studie von Kock} legt nahe, dass die Wahrscheinlichkeit für das zufällige Auftreten des Simpson-Paradoxons in Pfadmodellen (d. h. Modellen, die durch Pfadanalyse generiert werden ) mit zwei Prädiktoren und einer Kriteriumsvariablen etwa 12,8 Prozent beträgt; etwas höher als 1 Auftreten pro 8 Pfadmodellen. ^{[ 24 ]}

Ein zweites, weniger bekanntes Paradoxon wurde ebenfalls in Simpsons Arbeit von 1951 diskutiert. Es kann auftreten, wenn die „sinnvolle Interpretation“ nicht unbedingt in den getrennten Daten zu finden ist, wie im Beispiel mit den Nierensteinen, sondern stattdessen in den kombinierten Daten. Ob die getrennte oder die kombinierte Form der Daten verwendet werden sollte, hängt vom Prozess ab, der die Daten erzeugt hat. Das bedeutet, dass die korrekte Interpretation der Daten nicht immer allein durch Betrachten der Tabellen bestimmt werden kann. ^{[ 25 ]}

Judea Pearl hat gezeigt, dass die partitionierenden Variablen, damit die partitionierten Daten die korrekten Kausalbeziehungen zwischen je zwei Variablen, und , darstellen können, eine grafische Bedingung erfüllen müssen, die als „Backdoor-Kriterium“ bezeichnet wird: ^{[ 26 ] [ 27 ]}${\displaystyle X}$${\displaystyle Y}$

1. Sie müssen alle falschen Verbindungen zwischen und blockieren .${\displaystyle X}$${\displaystyle Y}$
2. Keine Variable kann beeinflusst werden durch${\displaystyle X}$

Dieses Kriterium liefert eine algorithmische Lösung für Simpsons zweites Paradoxon und erklärt, warum die richtige Interpretation nicht allein anhand der Daten bestimmt werden kann; zwei verschiedene Graphen, die beide mit den Daten kompatibel sind, können zwei verschiedene Hintertürkriterien vorgeben.

Wenn das Backdoor-Kriterium von einer Menge Z von Kovariaten erfüllt wird, liefert die Anpassungsformel (siehe Confounding ) den korrekten kausalen Effekt von X auf Y. Existiert keine solche Menge, kann Pearls Do -Kalkül herangezogen werden, um andere Möglichkeiten zur Schätzung des kausalen Effekts zu finden. ^{[ 4 ] [ 28 ]} Die Vollständigkeit des Do -Kalküls ^{[ 29 ] [ 28 ]} kann als vollständige Lösung des Simpson-Paradoxons angesehen werden.

Ein Kritikpunkt lautet, dass das Paradoxon gar kein wirkliches Paradoxon sei, sondern vielmehr darauf zurückzuführen sei, dass Störvariablen nicht ausreichend berücksichtigt oder Kausalzusammenhänge zwischen Variablen nicht beachtet würden. ^{[ 30 ]} Die Fokussierung auf das Paradoxon kann von diesen wichtigeren statistischen Fragestellungen ablenken. ^{[ 31 ]}

Ein weiterer Kritikpunkt am scheinbaren Simpson-Paradoxon ist, dass es durch die spezifische Art der Datenstratifizierung oder -gruppierung bedingt sein könnte. Das Phänomen könnte verschwinden oder sich sogar umkehren, wenn die Daten anders stratifiziert oder andere Störvariablen berücksichtigt werden. Simpsons Beispiel verdeutlichte ein Phänomen namens Nicht-Kollapsibilität ^{[ 32 ]} , das auftritt, wenn Untergruppen mit hohen Anteilen keine einfachen Mittelwerte ergeben. Dies deutet darauf hin, dass das Paradoxon kein universelles Phänomen, sondern vielmehr ein spezifischer Fall eines allgemeineren statistischen Problems ist.

Trotz dieser Kritik bleibt das scheinbare Simpson-Paradoxon ein beliebtes und faszinierendes Thema in der Statistik und Datenanalyse. Es wird weiterhin von Forschern und Praktikern verschiedenster Fachrichtungen untersucht und diskutiert und dient als wertvolle Erinnerung an die Bedeutung sorgfältiger statistischer Analysen und die potenziellen Gefahren simplistischer Dateninterpretationen.

• Aliasing  – Signalverarbeitungseffekt
• Anscombes Quartett  – Vier Datensätze mit denselben deskriptiven Statistiken, aber sehr unterschiedlichen Verteilungen
• Berksons Paradoxon  – Tendenz zur Fehlinterpretation statistischer Experimente mit bedingten Wahrscheinlichkeiten
• Rosinenpickerei  – Fehlschluss unvollständiger Beweise
• Condorcet-Paradoxon  – Selbstwiderspruch der Mehrheitsregel
• Ökologischer Fehlschluss  – Formaler Fehlschluss in der statistischen Interpretation
• Wahlkreismanipulation  – eine Form der politischen Manipulation
• Paradoxon des niedrigen Geburtsgewichts  – Statistische Besonderheit des Geburtsgewichts von Babys
• Das Problem der modifizierbaren Flächeneinheiten  – Quelle statistischer Verzerrungen
• Fehlschluss des Staatsanwalts  – Logischer Fehler aufgrund der Nichtbeachtung des BasiszinssatzesPages displaying short descriptions of redirect targets
• Das Will-Rogers-Phänomen  – Statistisches Phänomen und Paradoxon
• Scheinkorrelation
• Verzerrung durch ausgelassene Variablen

• Leila Schneps und Coralie Colmez , Mathematik vor Gericht. Wie Zahlen im Gerichtssaal verwendet und missbraucht werden , Basic Books, 2013. ISBN 978-0-465-03292-1(Sechstes Kapitel: „Mathematischer Fehler Nummer 6: Simpsons Paradoxon. Der Berkeley-Fall der Geschlechterdiskriminierung: Diskriminierungserkennung“).

• Simpsons Paradoxon in der Stanford Encyclopedia of Philosophy , von Jan Sprenger und Naftali Weinberger.
• Wie Statistiken irreführend sein können – Mark Liddell – TED-Ed-Video und -Lektion.
• Pearl, Judea , „Das Simpson-Paradoxon verstehen“ (PDF)
• Simpsons Paradoxon , ein kurzer Artikel von Alexander Bogomolny über die Vektorinterpretation des Simpson-Paradoxons
• Die Kolumne „Der Zahlenmann“ im Wall Street Journal vom 2. Dezember 2009 befasste sich mit aktuellen Fällen des Simpson-Paradoxons in den Nachrichten. Insbesondere wurde ein Simpson-Paradoxon im Vergleich der Arbeitslosenquoten der Rezession von 2009 mit denen der Rezession von 1983 festgestellt.
• Am Schlagmal – ein statistisches Rätsel: Simpsons Paradoxon verstehen von Arthur Smith, 20. August 2010
• Simpsons Paradoxon , ein Video von Henry Reich von MinutePhysics