인과추론의 데이터 과학 - 인과추론의 어려움과 인과추론 전략

참고영상 : Bootcamp 1-2. 인과추론의 어려움과 인과추론 전략 

 

 

 

1. Challenges in causal inference 

---

 

•  상관관계는 인과관계를 의미하지 않는다. 

 

 

◯ Ex1. 최저임금과 고용률 

 

    •  인과추론을 적용하기 매우 어려운 주제이고 갑론을박이 계속 이어지는 주제 

    •  최저임금에 대한 자연실험 연구 

    •  인과추론 연구의 약점 : external validity and transportability 다른 상황으로의 적용 

 

 

 

 

 

◯  Ex2. 추천시스템 

 

•  알고리즘의 성과를 높이는 것뿐만 아니라, 이러한 알고리즘을 도입했을 때 실질적인 제품 판매 증가로 이어졌는가가 더 중요할 것

•   추천시스템을 개발하는 건 알고리즘적인 문제지만, 이러한 추천시스템을 도입할지 말지를 결정하는 것은 인과추론 문제가 될 수 있다. 

•  사용자 A가 사용자 B와 특성이 비슷하기 때문에 생수를 B에 추천해 줄 수 있다. 추천 이후에, 사용자 B가 생수를 구매했다면, 이는 추천시스템의 인과적인 효과가 맞을까? 추천시스템 때문에 해당 물품을 구매한 게 맞을까? ⇨ 그렇게 쉽지만은 않은 문제! 

 

 

•   Homophily, correlation : 추천시스템이 추천해주지 않았어도 내 고유의 취향/특성에 의해 해당 제품을 구매했을 것 ⇨ 인과관계가 아닌 상관관계로 해석 가능 

•  peer effect, causation : 친구의 안목을 믿고 (혹은 좋아하는 인플루언서가 구매하는 것은 무조건 따라사는) 구매하는 경우는 ⇨ 인과적인 효과가 분명함 

 

⇒ 추천시스템을 통한 구매는 correlation 으로 볼 수도 있고 causation 으로도 볼 수 있다. 

 

 

 

•  넷플릭스에서 진행했던 실험 : 하우스오브카드와 유사한 콘텐츠를 추천해주는 하단 목록이 있고, 하우스오브카드와 유사성은 좀 떨어지지만 대중적으로 인기있는 콘텐츠를 추천해주는 상단 목록이 있을 때, 알고리즘의 성능은 아래 것이 더 높게 나왔지만 실제 소비자들에게 적용했을 때는 위의 목록이 선택될 확률이 높았다. 

 

•  좋은 성능을 가진 추천시스템을 개발한는 것도 중요하지만, 해당 추천시스템을 도입했을 때, 비즈니스 성과가 있는지를 인과추론적으로 살펴보는 것 또한 중요하다. 

 

 

•  따라서 넷플릭스는 알고리즘을 도입하기 전에, 항상 A/B test 를 통해 인과적인 효과를 추론한다. 대부분의 IT 기업들은 알고리즘을 도입하기 전에 A/B test 를 많이 한다. 사회과학 분야 뿐 아니라 IT 등의 다양한 분야에서 인과추론이 많이 활용되고 있다. 

 

 

 

◯  Ex3. 반려동물과 우울증

 

•  반려동물을 키우는 사람들의 우울증이 더 높게 나왔었음 ⇨ 잘못된 해석이 될 수 있다. 

•  성향이 비슷한 사람들끼리 그룹화를 해서 그 안에서 반려동물 유무를 살펴봤을 땐, 결과 해석이 반려동물을 키우면 우울감이 낮아지는 것으로 타당했다. 

•  이처럼 어떠한 가정을 도입할 것인지, 어떠한 분석 방법론을 사용할 것인지에 따라 결과해석이 뒤바뀔 수 있다. 

 

 

 

 

◯  Ex4. Treatment effectiveness 

 

•  Casual inference 에 대한 framework 와 causal model 은 매우 중요하다. 어떠한 가정을 도입하는지, 어떠한 분석방법을 사용하는지에 따라 결과 해석이 뒤바뀔 수 있다. 

 

 

 

 

 

◯  Ex5. Effectiveness of Paid Search Ads 

 

•  키워드 광고를 할까말까 : 유료 검색을 타고 오는 신규 고객의 비율과 구매 비율을 살펴보기 ⇨ 그러나 그렇게 쉽게 답할 수 있는 문제는 아니다. 

 

 

•  시나리오1처럼 기업은 기존 고객들은 그대로 유지되면서 고객이 아니었던 사람들은 광고를 보고 유입되지 않았을까 기대함

 

•  그러나 기존 고객들이 어쨋든 광고링크가 더 상위단에 있으니까 자연스럽게 그 위에 있는 광고를 클릭하고 들어올 수 있음. 이런 경우에는, 예산을 많이 투자해도 신규고객을 유치하지 못하게 됨 

 

⇨ 그러나 이러한 두 시나리오를 데이터 상에서는 전혀 구분할 수 없다. 

 

 

 

◯  Ex5. 사업 다각화 

 

•  기업에서 매우 중요한 의사결정 

•  초기에는 사업 다각화가 기업가치와 음의 상관성을 가진다는 연구 결과가 대부분이었다. 그러나 최근 들어서 데이터 분석 방법론들이 개선되면서, 다시 분석을 해보니, 인과관계 분석 결과 전혀 관련이 없거나 오히려 야의 상관성을 보임을 확인했다. 

•  위기를 맞이한 기업들이 산업 다각화를 하는 경우가 많기 때문에 초기에 그런 결과가 나온것이다. (방향성이 반대로 된 것). 이런 요인들을 제외하고 순수한 인과관계를 분석해야 한다. 

 

 

 

 

 

2. What is Causal inference 

---

 

•  데이터분석 방법론 

 

 

 

•  이세상 모든 것은 내생적이다. Endogenous 가 인과추론에 있어서 가장 중요한 가정이고 근본적인 어려움이다. 

 

 

 

•  관심있는 원인변수 이외에도, 결과에 영향을 미치는 교란 요인들이 서로 내생적으로 얽혀있어서, 이를 밝히기가 매우 어렵다. 따라서 이러한 내생성을 해결하는 것 (제거하는 것)이 인과추론이라고도 볼 수 있다. 

 

 

↪ 데이터 생성 과정에 대해서, selection process 를 어떻게 받았는지는 파악하기 어려움 : 여러한 confounder 요인들이 존재한다. 내생적인 요인들을 파악하기 어렵다. 

 

 

 

•  인과추론 분석은 Data generation process 를 이해하고, 모델링하고, 분석하는 것이다. 

 

 

↪ 첫번째로 생각해볼 수 있는 접근은, data generation 을 알 수 있는 research design 을 활용하는 것이다. 가장 쉽게 생각해볼 수 있는 것은 연구자가 직접 디자인 해보는 것! (실험 상황을 실험자가 완벽히 통제 - randomized controlled trial : 그러나 현실에서는 이러한 완전한 통제가 어려움), (자연실험/준실험 - 연구자가 통제하긴 하는데, 제약조건이 조금 더 적은 경우), (LATE - 가상의 연구 디자인) 

 

↪ Research design 을 통해서 selection 과정이나 data generation 과정을 통제한다 : selection model, causal graph 

 

 

 

•  여러가지 형태를 띄는 내생성