본문 바로가기

LinkedIn
깃허브 바로가기

1️⃣ AI•DS/🥎 Casual inference47

인과추론의 데이터 과학 - 머신러닝의 해석 가능성과 인과추론 👀 인과추론 개인 공부용 포스트 글입니다. 출처는 첨부한 링크를 참고해주세요! ① Value of Causality • 인과성은 actionable 한 전략을 제공한다. 상관성은 action 으로 이어지기가 어렵다 (e.g. 초콜릿 소비가 많을수록 노벨상 수상자가 많다는 상관관계) • 그러나 실제로 인과성을 도출해내는 것은 매우 어려움 (Prediction 도 마찬가지) ↪ 실제 세상은 매우 복잡하며 dynamic 한 system 으로 동작한다. 하지만 분석을 할 때는 이런 dynamic 한 특성을 없애고 static 한 가정에서 진행하기 때문에 관점이 제한적일 수 있다. • 또한 데이터가 완전하지 않다. (imperfect and proxy - e.g. 행복지수) • 비즈니스는 Causal law 를 .. 2023. 6. 29.

[The Brave and True] 7. Beyond Confounders 👀 인과추론 개인 공부용 포스트 글입니다. 출처는 첨부한 링크를 참고해주세요! 📜 정리 ① 포함해야 되는 변수 • Treatment 를 예측하지 않더라도 Outcome 에 대해 좋은 예측을 하는 변수 (⁂ Y를 예측하면 분산이 낮아지고 인과관계를 추정할 때 통계적으로 유의한 결과가 나타날 가능성이 높아지기 때문) • 교란 요인 ② 포함시키면 안되는 변수 • Treatment 를 예측하지만 Outcome 을 예측하지 않는 변수 (⁂ treatment의 변동성을 줄여 인과효과를 찾기 어렵게 만들기 때문) • Treatment 와 outcome 사이의 매개변수 • Treatment 와 outcome 의 공통효과인 변수 ① Good controls ◯ 통제변수 • 통제변수가 Confounder 인 경우 모형에 .. 2023. 6. 29.

[The Brave and True] 6. Grouped and Dummy Regression 👀 인과추론 개인 공부용 포스트 글입니다. 출처는 첨부한 링크를 참고해주세요! ① 그룹화된 데이터를 사용한 회귀 ◯ 이분산성 • 분산이 낮은 영역과 높은 영역을 동시에 갖는 현상, 즉 변수의 모든 값에서 분산이 일정하지 않은 경우다. • 분산이 달라지는 가장 일반적인 이유는 그룹화된 데이터 때문이다. ◯ smf.ols 와 smf.wls 차이 • smf.ols : OLS 회귀모델을 구축하는데 사용된다. • smf.wls : 최소자승법의 변형으로 잔차의 가중치를 고려해 모델을 적합시킨다. 가중치는 각 데이터 포인트의 중요도를 나타내며, 특정 데이터 포인트에 더 큰 가중치를 부여해 모델이 해당 포인트에 더 적합하게 만든다. 오차의 분산이 다른 경우나 이상치에 덜 민감한 모델을 구축하고자 할 때 유용하다. ◯ .. 2023. 6. 28.

[The Brave and True] 5. The Unreasonable Effectiveness of Linear Regression 👀 인과추론 개인 공부용 포스트 글입니다. 출처는 첨부한 링크를 참고해주세요! ① All you need is regression ◯ Review • 인과추론에서 각 개인에게서 얻을 수 있는 결과 값은 Y0 (처치를 받지 않았을 때 얻는 결과), Y1 (처치를 받았을 때 결과) 이 있다. 그러나 T가 0이나 1로 정해지면 다른 하나의 결과는 영영 알 수 없게 된다. 때문에 개인에 대한 처치효과 δi = Y1i - Y0i 는 알 수 없다. • 그러나 평균적인 인과 효과 ATE 는 추정할 수 있다 : ATE = E[Y1 - Y0] • 여기서 일정한 처치효과 k 는 Y1i = Y0i + k 를 만족한다. k 가 양수라면 평균적으로 처치가 양의 효과를 가지고 있다고 말한다. • 편향 bias 때문에 평균의 차이.. 2023. 6. 27.

인과추론의 데이터 과학 - 인과추론을 위한 머신러닝 모델 👀 인과추론 개인 공부용 포스트 글입니다. 출처는 첨부한 링크를 참고해주세요! • Econ ML : Microsoft EconML • Causal Graph : Microsoft DoWhy → 메뉴얼을 읽고 논문을 읽어보는 것을 추천 • Multi-armed Bandits : 온라인 파이프라인 구축이 까다롭고 이를 할 수 있는 코딩 능력이면 프레임은 별 의미 없음 ① ECON ML models (Potential outcomes) • 인과 관계/구조를 이미 알고있다고 가정한다. • 접근 방식은 각기 다르지만, 비슷한 목적을 달성하기 위해 존재하는 모델들이다. A/B testing 이 되는 환경에서 EconML 을 적용해보면 좋다. (Same Goal, Different approach) ◯ ML 모델 기.. 2023. 6. 26.

[The Brave and True] 4. Graphical causal model 👀 인과추론 개인 공부용 포스트 글입니다. 출처는 첨부한 링크를 참고해주세요! ① 인과에 대해 생각해보기 ◯ Potential outcome 에 대한 조건부 독립 가정 • 조건부 독립 가정은 오직 처치에 의한 효과를 측정할 수 있게 한다 • X에 대한 conditioning : 가령 약을 처방할 때, 심각한 케이스의 환자와 덜 심각한 케이스의 환자로 하위 그룹을 나누고 약의 효과를 분석한다면 더 명확한 그림을 얻을 수 있다. ◯ 인과 그래프 모형 ② 그래프 모델 • [참고] Coursera Stanford 강의 : Probabilistic Graphical models • 그래프 모형이 수반하는 독립성과 조건부 독립성 가정이 무엇인지에 대해 이해하는 것이 매우 중요하다. ◯ Blocked • Y가 조건화.. 2023. 6. 26.

[The Brave and True] 3. The-Most-Dangerous-Equation 👀 인과추론 개인 공부용 포스트 글입니다. 출처는 첨부한 링크를 참고해주세요! ① Intro • 예제. 교육 데이터 : ENEM 점수(SAT와 유사한 브라질 표준 고등학교 점수)를 3년 동안 다른 학교들에서 수집 ⇨ 학생 규모가 작을 때 상위 1%에 해당하는 학교가 많았다. 그러나 하위 1% 학교를 살펴보았을 때도 학생수가 매우 적었다. 이는 학생 수가 적은 학교들의 경우, 분산이 크기 때문에 예측이 불확실해서 운에 의해 매우 높거나 낮은 분포를 보인 것이다. • 불확실성을 계산하는 방법 중 하나는 분산의 추정량을 구하는 것이다. 불확실성은 관측된 데이터가 클 수록 줄어든다. ATE 를 포함한 어떠한 요약 통계에 대해서도 이는 마찬가지다. 표본이 커질수록 분산은 줄어든다. ② Standard error .. 2023. 6. 22.

인과추론의 데이터 과학 - ML for Causal inference : 인과추론 기반의 예측 모델링 평가 👀 인과추론 개인 공부용 포스트 글입니다. 출처는 첨부한 링크를 참고해주세요! ① Evaluating Recommendation algorithms in Netflix • 실제로 산업 현장에선 알고리즘에 대한 Evaluation 이 A/B test 로 이루어지고 있다. • Test set 에서의 효과가 실제 비즈니스 현장에 적용했을 때까지 그대로 나타나려면, 사람들이 새로운 알고리즘에 대해 이전과 동일한 행동양상으로 대응할 것이라는 가정이 만족되어야 하는데, 실제로는 그렇지 않다. 따라서 Test set 에서 좋은 성능을 보였다 하더라도, 실제로는 performance 가 나오지 않을 수 있다. 따라서 과거 데이터에서 ofline experiment 를 한 후에, 과거의 알고리즘과 새로운 알고리즘 사이의.. 2023. 6. 21.

[The Brave and True] 2. Randomized Experiments 👀 인과추론 개인 공부용 포스트 글입니다. 출처는 첨부한 링크를 참고해주세요! ① The golden standard • E(Y0 | T=0) = E(Y0 | T=1) 를 만족할 때 Bias 가 없다. 즉, 타겟군과 대조군이 처치를 받은 것을 제외하고 동등하거나 유사하면 인과관계가 성립한다. • 위와 같은 이론을 만족시킬 첫번 째 도구로는 Randomized experiments 가 있다. 무작위 실험은 Treatment Group과 Control group에 개개인을 랜덤하게 분배하는 방식이다. 이때 처치를 받는 타겟군의 비율이 꼭 50%일 필요는 없다. 랜덤하게 분배함으로써 potential outcome 을 treatment 로부터 독립적으로 만들어 bias 를 제거한다. • 무작위 실험에서는 tr.. 2023. 6. 21.

[The Brave and True] 1. Introduction to causality 👀 인과추론 개인 공부용 포스트 글입니다. 출처는 첨부한 링크를 참고해주세요! ① 인과추론에 관심을 가져야 하는 이유 • 머신러닝은 인과관계 유형의 문제를 잘 다루지 못한다. 가령 호텔 산업에선, 가격이 비수기일때 저렴하고 성수기일때 높다. 머신러닝이 Naive 한 prediction 을 하게 되면 가격을 인상했을 때 더 많은 객실이 팔릴 것이라 제안할 수 있다. • 인과추론은 Counterfactual 이라 부르는 "만약에" 라는 질문에 답할 것을 요구한다. • 머신러닝은 상관관계 유형 예측에 의존하여 인과추론의 문제를 해결할 수 없다. 상관관계와 인과관계는 다르다. ② Notation ◯ 예제 • 학생들에게 태블릿을 제공했을 때 성과에 미치는 인과효과 밝혀내기 ◯ Ti • unit i 에 대한 Tre.. 2023. 6. 20.

이전 1 2 3 4 5 다음

728x90

티스토리툴바