Gliederung

$\newcommand{\indep}{\perp \!\!\! \perp}$ $\newcommand{\notindep}{\not\!\perp\!\!\!\perp}$

Studie A: Östrogen

Was raten Sie dem Arzt? Medikament einnehmen, ja oder nein?

• Die Daten stammen aus einer (fiktiven) klinischen Studie, $n=700$, hoher Qualität (Beobachtungsstudie).
• Bei Männern scheint das Medikament zu helfen; bei Frauen auch.
• Aber insgesamt (Summe von Frauen und Männern) nicht?!
• Was sollen wir den Arzt raten? Soll er das Medikament verschreiben? Vielleicht nur dann, wenn er das Geschlecht kennt?

(Pearl, Glymour, and Jewell, 2016)

Kausalmodell zur Studie A

Betrachtung der Teildaten (stratifziert pro Gruppe) zeigt den wahren, kausalen Effekt.

Betrachtung der Gesamtdaten zeigt einen konfundierten Effekt: Geschlecht konfundiert den Zusammenhang von Medikament und Heilung.

Studie B: Blutdruck

Was raten Sie dem Arzt? Medikament einnehmen, ja oder nein?

• Die Daten stammen aus einer (fiktiven) klinischen Studie, $n=700$, hoher Qualität (Beobachtungsstudie).
• Bei geringem Blutdruck scheint das Medikament zu schaden.
• Bei hohem Blutdrck scheint das Medikamenet auch zu schaden.
• Aber insgesamt (Summe über beide Gruppe) nicht, da scheint es zu nutzen?!
• Was sollen wir den Arzt raten? Soll er das Medikament verschreiben? Vielleicht nur dann, wenn er den Blutdruck nicht kennt?

(Pearl, Glymour, and Jewell, 2016)

Kausalmodell zur Studie B

Betrachtung der Gesamtdaten zeigt den wahren, kausalen Effekt.

Studie A und B: Gleiche Daten, unterschiedliches Kausalmodell

Kausale Interpretation - und damit Entscheidungen für Handlungen - war nur möglich, wenn das Kausalmodell bekannt ist. Die Daten alleine reichen nicht.

Sorry, Statistik: Du allein schaffst es nicht

• Für Entscheidungen ("Was soll ich tun?") braucht man kausales Wissen.
• Kausales Wissen basiert auf einer Theorie (Kausalmodell) plus Daten.

Studie C: Nierensteine

Kausalmodell zur Studie C

Soll ich heiraten?

Soll ich mich beeilen?

Datensatz 'Hauspreise im Saratoga County'

Datenquelle; Beschreibung des Datensatzes

d_path <- "https://tinyurl.com/3jn3cc5u"

Immobilienpreise in einer schicken Wohngegend vorhersagen

Modell 1: Preis als Funktion der Anzahl der Zimmer

Posteriori-Verteilung von Modell 1

m1 <- stan_glm(price ~ bedrooms,
               refresh = 0,
               data = d)
coef(m1)

## (Intercept)    bedrooms 
##    60024.63    48169.31

dons_house <- tibble(bedrooms = 2)
mean(posterior_predict(m1, dons_house))

## [1] 155760.4

Don hat eine Idee

dons_new_house <- tibble(bedrooms = 4)
mean(posterior_predict(m1, dons_new_house))

## [1] 251673.1

Mit 4 statt 2 Schlafzimmer steigt der Wert auf 250k, laut m1.

"Volltreffer! Jetzt verdien ich 100 Tausend mehr! 🤑" 🧑

R-Funktionen, um Beobachtungen vorhersagen

• posterior_predict(): (Hilfeseite)

  • Was macht der Befehl? Zieht Stichproben aus der PPV.
  • Wozu braucht man den Befehl?
    • Um neue Beobachtungen vorherzusagen; falls man z.B. an einem Vorhersage-Wettbewerb teilnimmt 🤓.
    • Um die Modellgüte zu prüfen: sagt unser Modell den Datensatz gut vorher?

• predictive_intervals(): (Hilfeseite)

  • Was macht der Befehl? Berechnet Perzentilintervalle auf Basis der PPV.
  • Wozu braucht man den Befehl? Um die Ungenauigkeit (Ungewissheit) des Modells einzuschätzen.

• predictive_error(): (Hilfeseite)

  • Was macht der Befehl: Berechnet die Vorhersagefehler (Residuen): $r=y-\hat{y}$.
  • Wozu braucht man den Befehl? Ein anderer Blickt auf die Ungewissheit des Modells.

Modell 2: Preis als Funktion von Zimmerzahl und von Quadratmetern

Modell 2 hat schlechte Nachrichten für Don.

m2 <- stan_glm(price ~ bedrooms + livingArea, data = d)

coef(m2)

## (Intercept)    bedrooms  livingArea 
##  36807.7910 -14282.1494    125.4225

mean(posterior_predict(m2, newdata = tibble(bedrooms = 4, livingArea = 1200)))

## [1] 129759.7

Die Zimmerzahl ist negativ mit dem Preis korreliert

... wenn man die Wohnfläche (Quadratmeter) kontrolliert.

"Ne-Ga-Tiv!" 👩

Quellcode

Kontrollieren von Variablen

💡 Durch das Aufnehmen von Prädiktoren in die multiple Regression werden die Prädiktoren kontrolliert (adjustiert, konditioniert):

• Die Koeffizienten einer multiplen Regression zeigen den Zusammenhang $\beta$ des einen Prädiktors mit $y$, wenn man den (oder die) anderen Prädiktoren statistisch konstant hält.

• Man nennt die Koeffizienten einer multiplen Regression daher auch parzielle Regressionskoeffizienten. Manchmal spricht man auch vom "Netto-Effekt" eines Prädiktors, oder davon, dass ein Prädiktor "bereinigt" wurde vom (linearen) Einfluss der anderen Prädiktoren auf $y$.

• Damit kann man die Regressionskoeffizienten so interpretieren, dass Sie den Effekt des Prädiktors $x_1$ auf $y$ anzeigen unabhängig vom Effekt der anderen Prädiktoren, $x_2,x_3,...$ auf $y$

• Man kann sich dieses Konstanthalten vorstellen als eine Aufteilung in Gruppen: Der Effekt eines Prädiktors $x_1$ wird für jede Ausprägung (Gruppe) des Prädiktors $x_2$ berechnet.

Das Hinzufügen von Prädiktoren kann die Gewichte der übrigen Prädiktoren ändern

In Beobachtungsstudien hilft nur ein (korrektes) Kausalmodell

Welches Modell richtig ist, kann die Statistik nicht sagen

Often people want statistical modeling to do things that statical modeling cannot do. For example, we'd like to know wheter an effect is "real" or rather spurios. Unfortunately, modeling merely quantifies uncertainty in the precise way that the model understands the problem. Usually answers to lage world questions about truth and causation depend upon information not included in the model. For example, any observed correlation between an outcome and predictor could be eliminated or reversed once another predictor is added to the model. But if we cannot think of the right variable, we might never notice. Therefore all statical models are vulnerable to and demand critique, regardless of the precision of their estimates and apparaent accuracy of their predictions. Rounds of model criticism and revision embody the real tests of scientific hypotheses. A true hypothesis will pass and fail many statistical "tests" on its way to acceptance.

(McElreath, 2020, S. 139)

Kausalmodell für Konfundierung, km1

Wenn dieses Kausalmodell stimmt, findet man eine Scheinkorrelation zwischen price und bedrooms.

Eine Scheinkorrelation ist ein Zusammenhang, der nicht auf eine kausalen Einfluss beruht.

d_connected heißt, dass die betreffenden Variablen "verbunden" sind durch einen gerichteten (d wie directed) Pfad, durch den die Assoziation (Korrelation) wie durch einen Fluss fließt 🌊. d_separated heißt, dass sie nicht d_connected sind.

m2 kontrolliert die Konfundierungsvariable livingArea

Wenn das Kausalmodell stimmt, dann zeigt m2 den kausalen Effekt von livingArea.

Konfundierer kontrollieren

Quellcode

m1 und m2 passen nicht zu den Daten, wenn km1 stimmt

Kausalmodell 2, km2

Unser Modell m2 sagt uns, dass beide Prädiktoren jeweils einen eigenen Beitrag zur Erklärung der AV haben.

Schoki macht Nobelpreis! (?)

Eine Studie fand eine starke Korrelation, $r=0.79$ zwischen (Höhe des) Schokoladenkonsums eines Landes und (Anzahl der) Nobelpreise eines Landes (Messerli, 2012).

💣 Korrelation ungleich Kausation!

Kausalmodell für die Schoki-Studie

Dons Kausalmodell, km3

## # A tibble: 1 × 1
##   `cor(bedrooms, livingArea)`
##                         <dbl>
## 1                       0.656

Unabhängigkeiten laut km1

b: bedrooms, p: price, a area (living area)

Unabhängigkeiten laut km2

b: bedrooms, p: price, a area (living area)

Unabhängigkeiten laut km3

b: bedrooms, p: price, a area (living area)

DAGs: Directed Acyclic Graphs

Leider passen potenziell viele DAGs zu einer Datenlage

b: bedrooms, p: price, a area (living area)

Was ist eigentlich Kausation?

Fazit

• Sind zwei Variablen korreliert (abhängig, assoziiert), so kann es dafür zwei Gründe geben:

  • Kausaler Zusammenhang
  • Nichtkausaler Zusammenhang ("Scheinkorrelation")

• Eine mögliche Ursache einer Scheinkorrelation ist Konfundierung.

• Konfundierung kann man entdecken, indem man die angenommene Konfundierungsvariable kontrolliert (adjustiert), z.B. indem man ihn als Prädiktor in eine Regression aufnimmt.

• Ist die Annahme einer Konfundierung korrekt, so löst sich der Scheinzusammenhang nach dem Adjustieren auf.

• Löst sich der Scheinzusammenhang nicht auf, sondern drehen sich die Vorzeichen der Zusammenhänge nach Adjustieren um, so spricht man einem Simpson Paradox.

• Die Daten alleine können nie sagen, welches Kausalmodell der Fall ist in einer Beobachtungsstudie. Fachwissen (inhaltliches wissenschaftliches Wisseen) ist nötig, um DAGs auszuschließen.

Kein Zusammenhang von Intelligenz und Schönheit

Gott ist gerecht (?)

Aber Ihre Dates sind entweder schlau oder schön

Wie kann das sein?

DAG zur Rettung

Dieser DAG bietet eine rettende Erklärung:

Was ist eine Kollision?

Vgl. Rohrer (2018).

Man kann also zu viele oder falsche Prädiktoren einer Regression hinzufügen, so dass die Koeffizienten nicht die kausalen Effekte zeigen, sondern durch Scheinkorrelation verzerrte Werte.

Einfaches Beispiel zur Kollision

Don muss reich sein.

Noch ein einfaches Beispiel zur Kollision

Durch Kontrolle entsteht eine Verzerrung bei der Kollision

• Ohne Kontrolle von date entsteht keine Scheinkorrelation zwischen Looks und Talent. Der Pfad ("Fluss") von Looks über date nach Talent ist blockiert.

• Kontrolliert man date, so öffnet sich der Pfad Looks->date-> Talent und die Scheinkorrelation entsteht: Der Pfad ist nicht mehr blockiert.

• Das Kontrollieren von date geht zumeist durch Bilden einer Auswahl einer Teilgruppe von sich.

IQ, Fleiss und Eignung fürs Studium

set.seed(42)  # Reproduzierbarkeit
N <- 1e03
d_eignung <-
tibble(
  iq = rnorm(N),
  fleiss = rnorm(N),
  glueck = rnorm(N, 0, sd = .1),
  eignung = 
    1/2 * iq + 1/2 * fleiss + 
    glueck,
  studium = ifelse(eignung > 0, 
                   1, 0)
  )

Schlagzeile "Schlauheit macht Studentis faul!"

Eine Studie untersucht den Zusammenhang von Intelligenz (iq) und Fleiß (f) bei Studentis (s).

Ergebnis: Ein negativer Zusammenhang.

m_eignung <-
  stan_glm(
    iq ~ fleiss,
    data = d_eignung %>% 
      filter(studium == 1))

## (Intercept)      fleiss 
##   0.7806146  -0.4428830

Kollisionsverzerrung nur bei Stratifizierung

Nur durch das Stratifizieren (Aufteilen in Subgruppen, Kontrollieren, Adjustieren) tritt die Scheinkorrelation auf.

Kontrollieren einer Variablen - Aufnehmen in die Regression - kann genausogut schaden wie nützen.

Nur Kenntnis des DAGs verrät die richtige Entscheidung.

Einfluss von Großeltern und Eltern auf Kinder

R-Syntax stammt von Kurz (2021).

Der Gespenster-DAG

Die Sache ist chancenlos. Wir müssen den DAG verloren geben. 👻

(McElreath, 2020, S. 180)

Zur Erinnerung: Konfundierung

Gute Experimente zeigen den echten kausalen Effekt

Hintertür schließen auch ohne Experimente

• Konfundierende Pfade zu blockieren zwischen der UV und der AV nennt man auch die Hintertür schließen (backdoor criterion).

• Wir wollen die Hintertüre schließen, da wir sonst nicht den wahren, kausalen Effekt bestimmen können.

• Zum Glück gibt es neben Experimenten noch andere Wege, die Hintertür zu schließen, wie die Konfundierungsvariable a in eine Regression mit aufzunehmen.

• Warum blockt das Kontrollieren von aden Pfad $b \leftarrow a \rightarrow p$?

• Stellen Sie sich den Pfad als eigenen Modell vor.
• Sobald Sie a kennen, bringt Ihnen Kenntnis über b kein zusätzliches Wissen über p.
• Wissen Sie hingegen nichts über a, lernen Sie bei Kenntnis von b auch etwas über p.

• Konditionieren ist wie "gegeben, dass Sie a schon kennen...".

• $b \indep p \,|\,a$

Die vier Atome der Kausalanalyse

Mediation

Der Nachfahre

Kochrezept zur Analyse von DAGs

Wie kompliziert ein DAG auch aussehen mag, er ist immer aus diesen vier Atomen aufgebaut.

Hier ist ein Rezept, das garantiert, dass Sie welche Variablen Sie kontrollieren sollten und welche nicht:

1. Listen Sie alle Pfade von UV (X) zu AV (Y) auf.
2. Beurteilen Sie jeden Pfad, ob er gerade geschlossen oder geöffnet ist.
3. Beurteilen Sie für jeden Pfad, ob er ein Hintertürpfad ist (Hintertürpfade haben einen Pfeil, der zur UV führt).
4. Wenn es geöffnete Hinterpfade gibt, prüfen Sie, welche Variablen mann kontrollieren muss, um den Pfad zu schließen (falls möglich).

Schließen Sie die Hintertür (wenn möglich)!, bsp1

UV: $X$, AV: $Y$, drei Covariaten (A, B, C) und ein ungemessene Variable, U

Es gibt zwei Hintertürpfade:

1. $X \leftarrow U \leftarrow A \rightarrow C \rightarrow Y$, offen
2. $X \leftarrow U \rightarrow B \leftarrow C \rightarrow Y$, geschlossen

Kontrollieren von $A$ oder (auch) $C$ schließt die offene Hintertür.

(McElreath, 2020; Kurz, 2021), s.S. 186.

Schließen Sie die Hintertür (wenn möglich)!, bsp2

UV: $W$, AV: $D$

Kontrollieren Sie diese Variablen, um die offenen Hintertüren zu schließen:

• entweder $A$ und $M$
• oder $S$

Mehr Infos

(McElreath, 2020; Kurz, 2021), s.S. 188.

Implizierte bedingte Unabhängigkeiten von bsp2

• Ein Graph ohne Us ist eine starke - oft zu starke (unrealistisch optimistische) - Annahme.
• Auch wenn die Daten nicht sagen können, welcher DAG der richtige ist, können wir zumindest lernen, welcher DAG falsch ist.
• Die vom Modell implizierten bedingten Unabhängigkeiten geben uns Möglichkeiten, zu prüfen, ob wir einen DAG verwerfen (ausschließen) können.

• Bedingten Unabhängigkeit zwischen zwei Variablen sind Variablen, die nicht assoziiert (also stochastisch unabhängig) sind, wenn wir eine bestimmte Menge an Drittvariablen kontrollieren.

• bsp2 impliziert folgende bedingte Unabhängigkeiten:

## A _||_ W | S
## D _||_ S | A, M, W
## M _||_ W | S

Fazit

• Wie (und sogar ob) Sie statistische Ergebnisse (z.B. eines Regressionsmodells) interpretieren können, hängt von der epistemologischen Zielrichting der Forschungsfrage ab:
  • Bei deskriptiven Forschungsfragen können die Ergebnisse (z.B. Regressionskoeffizienten) direkt interpretiert werden. Z.B. "Der Unterschied zwischen beiden Gruppen beträgt etwa ...". Allerdings ist eine kausale Interpretation nicht zulässig.
  • Bei prognostischen Fragestellungen spielen die Modellkoeffizienten keine Rolle, stattdessen geht es um vorhergesagten Werte, $\hat{y}_i$, z.B. auf Basis der PPV. Kausalaussagen sind zwar nicht möglich, aber auch nicht von Interesse.
  • Bei kausalen Forschungsfragen dürfen die Modellkoeffizienten nur auf Basis eines Kausalmodells (DAG) oder eines (gut gemachten) Experiments interpretiert werden.
• Modellkoeffizienten ändern sich (oft), wenn man Prädiktoren zum Modell hinzufügt oder wegnimmt.
• Entgegen der verbreiteten Annahme ist es falsch, möglichst viele Prädiktoren in das Modell aufzunehmen, wenn das Ziel eine Kausalaussage ist.
• Kenntniss der "kausalen Atome" ist Voraussetzung zur Ableitung von Kausalschlüsse in Beobachtungsstudien.

Zu diesem Skript

• Dieses Skript bezieht sich auf folgende Lehrbücher:
  • Regression and other stories

• Dieses Skript wurde erstellt am 2021-12-13 10:31:39

• Lizenz: MIT-Lizenz

• Autor: Sebastian Sauer.

• Um diese HTML-Folien korrekt darzustellen, ist eine Internet-Verbindung nötig.

• Mit der Taste ? bekommt man eine Hilfe über Shortcuts.

• Wenn Sie die Endung .html in der URL mit .pdf ersetzen, bekommen Sie die PDF-Version der Datei.

• Alternativ können Sie im Browser Chrome die Folien als PDF drucken (klicken Sie auf den entsprechenden Menüpunkt).

• Den Quellcode der Skripte finden Sie hier.

• Eine PDF-Version kann erzeugt werden, indem man im Chrome-Browser die Webseite druckt (Drucken als PDF).

Literatur

Diese R-Pakete wurden verwendet.