인과추론의 데이터 과학 - 머신러닝의 해석 가능성과 인과추론

 

 

 

 

👀 인과추론 개인 공부용 포스트 글입니다. 출처는 첨부한 링크를 참고해주세요!

 

 

 

 

 

 

①  Value of Causality 

---

 

•  인과성은 actionable 한 전략을 제공한다. 상관성은 action 으로 이어지기가 어렵다 (e.g. 초콜릿 소비가 많을수록 노벨상 수상자가 많다는 상관관계)

 

•  그러나 실제로 인과성을 도출해내는 것은 매우 어려움 (Prediction 도 마찬가지) 

↪  실제 세상은 매우 복잡하며 dynamic 한 system 으로 동작한다. 하지만 분석을 할 때는 이런 dynamic 한 특성을 없애고 static 한 가정에서 진행하기 때문에 관점이 제한적일 수 있다. 

 

•  또한 데이터가 완전하지 않다. (imperfect and proxy - e.g. 행복지수) 

 

•  비즈니스는 Causal law 를 알고있다고 해도 이를 적용하는 것은 쉽지 않을 수 있다 : different context, existence of unobserved exogeneous factors (e.g. 경쟁사) 

 

 

 

⇨  도메인 지식이나 이론 없이 ML/DL 모델이 Causality 를 자동으로 찾아줄 수는 없나? 

 

 

 

◯ 결론 

 

 

•  Pros : 기존에는 선형 모델을 가정했다면, ML/DL 을 사용하면 풍부한 데이터로부터 선형 모델 이상으로 복잡한 feature space 를 모델링 할 수 있다는 점 

 

•  Cons : 데이터가 불완전하면 해결이 불가능하고 또한 도메인 지식이 모델링에 아예 필요하지 않은 것은 아니다. 

 

•  Usage : 가장 효율적인 방식은 여전히 실험 방식이다. (페이스북이 제일 잘함) 현업에서는 Agile 한 A/B testing pipeline 을 구축하는데 최선을 다하고 있다. 

 

 

 

 

 

◯  Case Study

 

 

 

 

 

 

 

②   Interpretability 

---

 

◯  SHAP : 가능한 모든 경우의 수를 계산 

 

 

 

•  Local interpretability : 가령 시력을 예측하는데 있어서, 사람마다 시력 예측에 미치는 영향 변수들이 다름 

 

 

 

 

 

◯  Counterfactual 

 

•  SHAP provides the heterogeneity effect of each feature while controlling other feature values 

 

 

 

◯  Confounding 

 

•  confounding feature 를 해결하지 못하면 인과효과를 잘못 예측한다.