인과추론의 데이터 과학 - 인과추론을 위한 머신러닝 모델

 

👀 인과추론 개인 공부용 포스트 글입니다. 출처는 첨부한 링크를 참고해주세요!

 

 

 

•  Econ ML : Microsoft EconML 

•  Causal Graph : Microsoft DoWhy 

 

→ 메뉴얼을 읽고 논문을 읽어보는 것을 추천 

 

•  Multi-armed Bandits : 온라인 파이프라인 구축이 까다롭고 이를 할 수 있는 코딩 능력이면 프레임은 별 의미 없음 

 

 

 

①  ECON ML models (Potential outcomes) 

---

 

•   인과 관계/구조를 이미 알고있다고 가정한다. 

 

 

•   접근 방식은 각기 다르지만, 비슷한 목적을 달성하기 위해 존재하는 모델들이다. A/B testing 이 되는 환경에서 EconML 을 적용해보면 좋다. (Same Goal, Different approach) 

 

 

 

◯  ML 모델 기반의 causal model 을 사용하는 이유 

 

•   show better performance (with abundant data 데이터가 풍부할 때만 성능이 더 좋게 나옴) 

 

•   measure heterogeneity effects of treatment (CATE > ATE) 

↪ 쿠폰 지급 여부에 따른 두 그룹의 평균적인 차이 : ATE 
↪ ML 이 들어가면서 condition 이 따라 붙을 수 있음. (퉁쳐서 평균내는 방식이 아니라) 사람의 특성마다 effect 가 다를 수 있는 부분들을 반영할 수 있음 

 

•   address high-dim and sparse data (e.g. lasso with Double ML) 

•   address flexible data forms (e.g. continuous treatment effects) : 이미지, 텍스트 데이터로부터 새로운 feature 를 뽑아 causal effect 를 추정하는데 사용한다. 

 

•   have less restrictive assumptions (e.g. non-parametric) 

 

 

 

◯  여러 모델들을 조합해서도 사용할 수 있다. 

 

모델 별 특징

 

 

 

◯  EconML 의 Motivating 

 

•   heterogeneity effects of treatment 를 통해 effect 가 비슷한 대상끼리 묶어서 Targeting, Segmentation, Personalization 등 비즈니스 task 들을 다룰 수 있다. 

 

 

 

◯  EconML - Example : Uplift 

 

•   random 하게 campaign 을 assign 하면 loss 가 발생하므로 highly effective 한 유저들을 선택하는 것이 중요하다. 

•   Potential 에 가깝게 효율을 높이자 = Uplift 

 

 

•   Uplift Process : A/B testing 실행 → characteristics 에 따른 heterogeneity effect 를 개인 별로 뽑아냄 → effect 를 ranking 순으로 나열해서 상위부터 적용해 나아감 (예산을 ranking 이 높은 사람부터 적용해 나아가는 방식) 

•   Uplift 방식을 통해 예산을 사용할 때에는 그래프에서 20%만 사용했는데도 Top quantile ranking 방식에선 40%의 효과가 나옴,  40%의 예산을 썼는데 70%의 효과가 나옴

 

 

 

◯  EconML 구현 방법 

 

 

 

•   CATE 에서 중요한 건 X (covariates - ex. demographic information) 

 

•   구현 자체는 문제가 되지 않는다. 결국 모델링을 위한 Theory & Domain knowledge 가 필수이다. 즉 ML/DL causal model 은 여전히 manual design 이 핵심이고, 데이터가 중요하다. Unobserved important confounder 가 없어야 한다 ⇨ A/B test 를 여러번 해보면서 Treatment 를 바꿔보는 Agile 한 방식으로 실험을 진행해보자! 실무에서는 실험데이터+Uplift 를 먼저 적용하는 경우가 많다. 

 

 

 

◯  어떤 모델을 선택해야 할까

 

•   머신러닝 

 

•   Econ ML model 도 머신러닝과 철학은 다르지만 하는 일은 같다. 딥러닝의 경우에는 왜 잘되는지 설명을 할 수 없다. 우리는 다 구현해보고 가장 잘 작동하는 모델을 사용하면 된다. (cross validation) 

•   Application 의 value 와 impact 에 더 초점을 맞추자! 

 

 

 

◯  자동화 모델 

 

•   Google's Bayesian structural time series (a.k.a Causal Impact) 

 

광고를 사용했을 때 효과가 좋다는 것을 보여줌

 

↪  명백한 패턴만 잡을 수 있다는 단점이 존재한다. trend/seasonal/cyclical 한 obvious 한 패턴이 보이는 경우에만 잘 동작한다. 

 

 

•   Transfer Entropy : Multivariate TS features 

 

데이터가 깔끔하고, 분명한 인과패턴이 있다면 시도해볼만한 모델

 

 

 

 

②  Graph-Based causal models 

---

 

•  베이지안 네트워크를 만든 사람 

 

 

 

•  Bayesian Network can incorporate complex relationships : 데이터가 풍부하고 분명한 인과관계를 가지고 있으면 추천하는 방식 

 

 

↪  냉장고를 팔아도 기사를 부르면 인건비에 의해 마진이 안남음. 콜센터에 냉장고 고장이 났을 때 메뉴얼을 causal relation 으로 넣어서 상담하도록 함. 기사가 필요 없이 수리가 가능한 케이스들을 많이 발굴해 비용을 절감한 사례  

 

 

•  Do-calculus 

 

•   Graph-based model 은 사회과학 분야에 적용하기는 조금 어렵다. 주로 데이터가 깔끔하고 + 인과 관계가 명확한 경우에만 적용이 가능하다. 

 

→ 딥러닝에서 그래프 기반 인과모델이 사용되는 예시에 대한 논문

 

 

 

③  Multi-armed Bandits 

---

 

•  기본은 강화학습에 있다. 

 

•  Exploration (안해 본 것을 해보는 것) and Exploitation (현재 알고있는 것에 더 집중)

 

 

•  MAB : 최소한의 노력으로 최대한의 노력을, Exploration & Exploitation  을 적절히 조합해서 달성할까 

 

 

•  MAB 는 Advanced AB testing 이다. 

 

ex. 광고채널 배분 문제

 

•  Two naive approaches : (완전 exploration 방식으로 시도해보는 것 = Random), (완전 exploitation 방식으로 시도해보는 것 = Greedy) 

 

 

•  Epsilon greedy approach : 랜덤하게 exploit 와 explore 중에 하나를 선택하는 방식으로 섞어서 선택하는 방식 (Epsilon 의 비율로) 

 

 

•  Sampling 을 하는 방식이니까 Confidence interval 을 해놓고 신뢰가 들 정도의 수준이 아니면 exploration 을 더 하자는 방식 : UCB 

 

 

 

 

•  특정 분포에서 sampling 을 해보자는 방식 : Thompson Sampling 

↪ 좀 더 잘 동작하는 방식이라 baseline 으로 많이 설정함 

 

일반적으로 Binary 에서 beta distribution 을 사용

 

 

•  채널들의 covariate 을 넣어서 고려하는 방식 (CATE) : Contextual bandits