[The Brave and True] 1. Introduction to causality

 

 

👀 인과추론 개인 공부용 포스트 글입니다. 출처는 첨부한 링크를 참고해주세요!

 

 

 

 

①  인과추론에 관심을 가져야 하는 이유 

---

 

•  머신러닝은 인과관계 유형의 문제를 잘 다루지 못한다. 가령 호텔 산업에선, 가격이 비수기일때 저렴하고 성수기일때 높다. 머신러닝이 Naive 한 prediction 을 하게 되면 가격을 인상했을 때 더 많은 객실이 팔릴 것이라 제안할 수 있다. 

 

•  인과추론은 Counterfactual 이라 부르는 "만약에" 라는 질문에 답할 것을 요구한다. 

 

•  머신러닝은 상관관계 유형 예측에 의존하여 인과추론의 문제를 해결할 수 없다. 상관관계와 인과관계는 다르다. 

 

 

 

 

②  Notation 

---

 

◯  예제

 

•  학생들에게 태블릿을 제공했을 때 성과에 미치는 인과효과 밝혀내기 

 

 

◯  Ti 

 

•  unit i 에 대한 Treatment 여부를 나타낸다. 

 

•  effect 를 알고자 하는 일부 intervention 을 나타내는데 사용하는 용어

•  T 대신 D로 표시되는 경우도 종종 있다. 

•  위의 예시사례에선 태블릿 제공이 Treatment 에 해당 

 

 

 

◯  Yi

 

•  unit i 에 대한 관찰된 결과변수 (Outcome variable) 

•  관심있는 변수로, Treatment 가 Outcome 에 영향을 미치는지에 대해 알고자 한다. 

•  위의 예시 사례에선 학업 성취가 결과변수가 된다. 

 

 

 

◯  인과추론의 근본적인 문제 

 

•  Treatment 가 있든 없든 같은 실험 대상에 대해 동시에 관찰할 수 없다는 것 

•  Potential outcome : 실제로 일어나지 않았으나 발생할 수 있는 결과 

•  발생한 잠재적 결과를 factual 이라고 부르고 일어나지 않은 결과를 counterfactual 이라고 부르기도 한다. 

 

•  Y0i : 실험대상 i가 Treatment 를 받지 않은 잠재적 결과 

•  Y1i : 같은 실험대상 i가 Treatment 를 받은 잠재적 결과 

 

•  예제에서 Y1i 는 태블릿이 있는 교실에 있는 경우 학생 i에 대한 학업성취도를 나타낸다. 태블릿을 받지 못한 경우라면 Y0i가 관측된다. 그러나 태블릿을 받지 못한 경우의 Y1i 는 관측 불가능하다. 이러한 경우를 counterfactual potential outcome 이라 부른다. 

 

 

◯  ITE

 

•  potential outcomes 를 통해 개별 처치효과 ITE 를 정의할 수 있다 : Y1i - Y0i 

•  그러나 인과추론의 근본적인 문제로 같은 i 에 대해 잠재적 결과 중 하나만 관측 가능하기 때문에 ITE 를 알 수 없다 ⇨ 대신 ATE 를 추정

 

 

◯  ATE

 

•  Average treatment effect 

•  ATE = E[Y1-Y0] 

 

 

◯  ATET (ATT)

 

•  average treatment effect on the treated

•  처치받은 그룹에 대한 평균 처치효과로 ATE보다 추정하기 좀 더 쉽다. 

•  ATT = E[Y1-Y0 | Y=1] 

 

 

 

◯  예제 계산 예시 

 

 

•  4개의 학교에 대한 데이터를 수집 : i = {1,2,3,4}

•  학생들에게 태블릿을 제공하는 경우 : t=1 

•  y0 : before treatment, y1 : after treatment, te = treatment effect = y1 - y0 

•  y : 실제 관측치 ⇨ t=0 일 때는 y0 값을 가지고, t=1 일 때는 y1 값을 가진다. 

•  t=0 일 때의 y1 값은 처치받은 Y0 으로 counterfactual 값에 해당한다. 유사하게 t=1 일 때 y0 도 counterfactual 에 해당한다. 

 

•  ATE 는 마지막 칼럼에 대한 평균, 즉 개별 처치효과에 대한 평균이다.

↪ 태블릿이 학생들의 학업 성취도를 평균적으로 50점 감소시켰음을 의미한다. 

 

•  ATT 는 T=1 일 때 마지막 열의 평균이다.

↪ 태블릿을 받은 학교는 태블릿이 학생들의 학업 성취도를 평균적으로 75점 감소시켰음을 의미한다. 

 

 

 

•  그러나 실제로 ATE 와 ATT 를 계산해낼 수는 없다. (counterfactual) 실제로 마주하는 데이터는 아래와 같다. 

 

 

 

 

 

 

 

 

③  Bias 

---

 

◯  예제에서 bias 

 

•  학생들에게 태블릿을 제공하는 학교가 더 높은 시험 점수를 얻는다는 주장에 부딛혔을 때,  해당 학교는 부유하기 때문에 태블릿을 제공 할 수 있었던 것이고, 따라서 태블릿 없이도 더 능력이 좋은 교사를 고용해 어쨌든 더 높은 시험 점수를 얻을 것이라고 말함으로써 이 주장을 반박할 수 있다. 즉, treatment group 과 control group 이 비교 가능하지 않은 경우에 해당한다. 

 

 

◯  Bias

 

•  Counterfactual 은 관찰 불가능하나, 해당 부분에 대한 추론은 도메인 지식등을 통해 가능하다. 

•  위의 예시의 경우 처치를 받은 학교의 Y0 가 처치를 받지 않은 학교의 Y0 보다 크다고 볼 수 있다. 즉, 학생들에게 태블릿을 제공할 수 있는 능력이 있는 학교는 더 높은 시험점수에 영향을 주는 다른 요인들도 존재할 수 있기 때문이다. (ex. 국제학교라던지) 

 

•  처치를 받은 경우 관찰된 결과를 Y1, 처치를 받지 않은 경우에 관찰된 결과를 Y0 이라고 앴을 때, 

 

 

로 볼 수 있고, counterfactual outcome (처치를 받지 않았다면 처치의 결과) 인 E[Y0 | T=1] 를 더하고 뺐을 때 

 

 

와 같이 작성해볼 수 있으며, 수식을 재정리하고 기댓값을 합친 이후의 수식은 아래와 같다. 

 

인과관계가 아니다

 

이때 bias 는 실험군과 대조군이 처치를 받지 않은 경우, 처치 전에 실험군과 대조군이 어떻게 다른지를 나타낸다. 태블릿 예제에서 주장하는 반박대로 bias 를 작성해보면 E[Y0 | T=0] < E[Y0 | T=1] 이라 볼 수 있다. (이미 능력있는 학교) 

 

•  Bias 가 발생하는 이유는, 우리가 통제할 수 없는 많은 변수들이 Treatment 와 함께 바뀌기 때문에 발생한다. 결과적으로 처치를 받은 학교와 처치를 받지 않은 학교는 태블릿에서만 차이가 있는 것이 아니다. 수업료, 위치, 교사 등 다른 요인들도 영향을 미칠 수 있다. 만약, 태블릿 제공과 학업성적 향상의 인과관계를 명확히 밝히고 싶다면, 태블릿이 있는 학교와 없는 학교가 평균적으로 서로 비슷해야 한다. 즉, E[Y0 | T=0] = E[Y0 | T=1] 이여야 인과관계로 해석할 수 있는 것이다. (또는 실험군이 처치를 받지 않았을 때를 관측할 수 있으면 된다) 

 

 

•  bias 가 없다면, ATT 는 E[Y|T=1] - E[Y|T=0] 이 된다. 즉, 비교 가능한 그룹일 경우 두 집단의 평균차이가 인과효과가 된다. 

 

 

•  만약 처치 후에도 실험군과 대조군이 교환 가능한, 즉, E[Y1 | T=0] = E[Y1 | T=1] 상태가 되면 아래와 같이 ATT 가 ATE 가 된다. (※ 참고) 

 

 

 

•  실험군과 대조군을 단순 평균을 비교했을 때는 아래와 같다. 

 

파란점 : 처치받지 않은 그룹

 

그러나 실제 처치효과는 아래의 왼쪽 그림과 같이 잠재적 결과를 관찰할 수 있는 경우에만 가능하다. 아래의 오른쪽 그래프는 bias 를 나타낸다. 

 

반사실 결과는 밝은 색으로 표시됨

 

bias 가 없는 가상의 상황은 아래와 같은데, 태블릿이 학교에 무작위로 할당된 경우를 나타낸다. 이 경우에는 처치를 받은 그룹과 받지 않은 그룹의 차이는 평균 인과효과에 해당한다. (ATE) treatment 이외에 처치그룹과 통제그룹 차이에 다른 원인이 없기 때문이다. 

 

 

 

⇨  Bias을 제거하고 실험군과 대조군을 비교가능하게 하는 현명한 방법을 찾아서, 모든 차이가 평균적인 처리 효과(ATE)만으로 추정할 수 있게끔하는 것이 인과추론이다. Identifying causal effect