[Causal ML] Causal inference 고려대 산공 세미나 내용정리

 

•  본문 내용에 대한 출처 

 

 

 

① 상관관계와 인과관계 

---

 

◯ 상관관계와 인과관계 

 

•  상관관계 : 통계적 변수와 다른 변수들이 covariance (공변) 하는 관계 ⇨ 예측 목적 

•  인과관계 : 선행하는 한 변수가 후행하는 다른 변수의 원인이 되고 있다고 믿어지는 관계 ⇨ 원인설명 목적 

•  AI 는 데이터의 상관관계 패턴을 학습한다. 외부 환경에 따른 데이터의 변화나 패턴 변화가 적은 분야에서는 상관관계를 학습하는 것만으로도 성능이 뛰어나다 (NLP, vision, collaboration filtering) 

•  그러나 왜 그러한 결과가 나왔는지에 대해서는 설명하지 못한다. 

 

 

◯ 예시 

 

•  구독갱신여부를 예측하는 모델링을 진행한 후 SHAP 기반의 변수 중요도를 그려본 그림은 아래와 같다. 광고지출, 버그 리포트, 구독할인이 예측에 중요한 변수로 나왔다. 

 

 

 

 

•  그러나 EconML 을 활용해서 인과관계를 살펴본 결과, 구독 할인과는 음의 상관관계였지만 양의 인과관계를 가진 것으로 나타났고, Sales Calls 가 오히려 구독갱신과 관련하의 양의 인과관계를 가지고 있음을 발견했다. 

 

 

 

 

 

② 인과관계 분석 방법 

---

 

1. Randomization: AB test, MAB 
2. Causal graphical models (Bayesian network) 
3. Potential outcome: ATE, CATE 

 

 

 

 

 

◯  Randomization 

 

⑴ A/B test

 

•  Randomized clinical test 무작위 임상시험 ⇨ A/B test 라고도 불림 

•  측정하고자 하는 변수 이외에는 모든 것들을 최대한 고정하여 확인할 변수만 변경하면서 실험하는 방법  ⇨ 실험기반 

•  무작위 배정으로 평균적인 효과 측정이 가능 

 

A/B test 예시

 

 

•  무작위 임상시험의 결과를 해석할 때에는 표면적인 결과 뿐 아니라, 통계적으로도 유의한지 확인하는 과정이 필요하다 !

 

 

 

 

 

⑵ Multi-Armed Bandit (MAB) 

 

•  Exploration 탐색 (새로운 정보를 찾아내기 위해 탐색) : A가 더 좋을 것이라는 것을 알고 있어도 B를 test 하면서 모든 Bandit machine 을 계속 당긴다 - 예상대로 A가 좋았다. 어차피 A가 좋았기 때문에 B를 수행하는 비용이 발생되었다. 

•  Exploitation 활용 (그동안의 정보를 기반으로 최적의 결정을 내림) : 모든 Bandit machine 를 한 두번만 당겨보고 가장 수익률이 높은 머신을 선택한다 - 신뢰성 문제 - 만약 테스트를 오래한다면 어떤 결과가 나왔을까 

•  A/B test 는 Exploration-Exploitation Tradeoff 가 존재한다 ⇨ MAB 는 강화학습 기반으로 탐색과 활용을 최적화 하여 수익률을 극대화 한다. 

 

 

 

•  MAB 알고리즘: Greedy, Epsilon Greedy, Upper Confidence Bound 

 

 

↪  Greedy : 한 번씩 해보고 Reward 가 가장 좋은 알고리즘을 선택 

↪  Epsilon Greedy : ε 의 확률로 랜덤하게 action 을 선택, 1 - ε 확률로는 greedy 알고리즘을 수행 

↪  UCB : 현재 시점까지 행동 a를 한 횟수 Nt(a) 를 정의하여, 분모에 이를 넣어 탐험하지 않은 행동에 가중치를 부여한다. 

 

 

 

 

ABtest, MAB

 

 

 

◯  Causal Graphical models = Bayesian network 

 

•  인과 그래프 모형 : Directed Acyclic Graphs (DAG) 

•  Randomization 의 경우에는 평균적인 인과효과만 확인이 가능하다. 어떤 사람들에게 더 효과적인지 세부적인 정보의 확인이 어렵다. 

•  인과 그래프 모형은 인과관계를 DAG 라는 그래프로 표현하는 방식으로, 명확한 인과관계 파악이 가능하다. 

 

•  변수들의 결합확률분포를 DAG 로 나타낸 모형으로, 딥러닝과 달리 조건부 확률이 투명하게 공개되므로 white-box model 이라 할 수 있다. 

 

 

 

오른쪽 결합확률분포 예시 참고

 

 

 

 

 

◯  Potential Outcome

 

•  인과관계는 모든 결과를 관측할 수 없는 한계가 존재 (현실에서는 시간을 되돌리기가 불가능) 

•  관측되지 않은 가상의 결과 Counterfactual 를 고려해서 처리효과를 계산하는 방식 

 

•  Treatment Effect 처리효과 : τ = Y(1) - Y(0) : (대학원을 진학한 사람의 계약연봉) - (대학원을 진학하지 않은 사람의 계약연봉) 

 

•  동시에 관측이 불가능하므로, Counterfactual 를 머신러닝으로 예측해 채워넣고, 개인에 대한 효과를 측정하는 대신 모든 사람의 효과를 비교하교 평균을 구해보자 : ATE (average treatment effect) 

 

 

•  CATE :  conditional ATE : 교란변수를 고려하여 조건부 확률로 causal effect 를 계산한다. 

 

 

↪ P(Y|T)  vs  P(Y|T,S)P(S) 

 

 

 

•  정리 

 

 

 

 

•  Machine learning Based 

 

↪  머신러닝 방법을 기반으로 CATE 를 추정하는 방법 중 하나 : Meta learners 

 

↪ T-learner : control 과 treatment 각각을 다른 모형으로 학습시켜 이들의 차이로 CATE 추정 

 

 

↪ S-learner : Y를 반응변수, 처리여부 W를 설명변수로 설정해 단일한 모형 M 을 학습한다. W=1 일때 추정값에서 W=0 일때 추정값의 차이로 CATE 추정 

 

 

↪ X-learner : T-learner 처럼 학습한 뒤, 모델의 예측값을 다시 Counterfactual 로 사용해 차이를 학습한다. CATE0, CATE1이 만들어지고 이를 가중평균하여 final CATE 를 만든다. 이를 통해 두 집단 간 데이터 양의 차이를 해결한다. 

 

 

 

 

•  Neural Net Based

 

↪  NN 기반의 CATE 추정방법 

 

 

 

↪  Representation layer 는 공유하면서, control/treatment 집단의 결과를 나누어 예측한다.