[The Brave and True] 10. Matching

 

 

 

👀 인과추론 개인 공부용 포스트 글입니다. 출처는 첨부한 링크를 참고해주세요!

 

 

 

※ 정리 

 

 

 

📜 정리 

 

•   회귀 : 데이터를 셀로 분할하고, 각 셀에서 ATE 를 계산한 다음, 셀의 ATE 를 전체 데이터셋에 대한 단일 ATE 로 결합하는 것 

•   매칭 estimator 

 

 

 

 

 

 

①  What is Regression Doing After All?

---

 

◯   회귀분석 

 

•  회귀분석을 적용하면 Treatment group 과 Control group 을 비교할 때, 추가적인 변수들을 제어할 수 있다. 즉, X를 통제함으로써 ATE 를 식별할 수 있다 : (Y0, Y1) ⊥ T | X  ⇨ 조건부 독립성 가정 

 

•  회귀분석과 Matching 은 functional form 을 가정하느냐 안 하느냐의 차이만 존재한다. 

 

 

 

 

 

②  The Subclassification Estimator

---

 

 

•  추정하고자 하는 인과효과가 있으나 교란요인 X 때문에 추정이 어려운 경우, 교란요인의 효과가 동일한 소그룹 내에서 Treatment 와 control group 을 비교해야 한다. 조건부 독립 가정으로 만족한다면 ATE 는 아래와 같이 계산될 수 있다. 

 

 

↪  변수 X가 K 개의 서로 다른 셀 {X1, X2, ... , Xk} 을 취한다고 말할 수 있으며, 각 셀의 treatment 효과를 계산하고 이를 ATE 로 결합한다. 

 

 

 

 

 

 

 

③  Matching Estimator

---

 

◯   예제1

 

•  ex. 연수 프로그램이 수입에 미치는 영향 추정 

 

 

...

 

•  평균적으로 단순 비교해보면 연수생이 연수를 받지 않은 사람보다 돈을 더 번다는 것을 알 수 있다. 

 

trainee.query("trainees==1")["earnings"].mean() - trainee.query("trainees==0")["earnings"].mean()

# -4297.49373433584

 

 

•  그러나 표를 보면, 연수생이 연수생이 아닌 사람보다 훨씬 어리다는 것을 발견할 수 있다. 따라서 이를 반영하기 위해 나이를 동일하게 맞춰준다. 가령 28세로 나이가 동일한 unit 1 과 unit 27 을 매칭하는 식으로 진행할 수 있다. 

 

•  1개 이상의 unit 이 일치하는 경우, 해당 그룹 중에서 무작위로 선택할 수 있다. 

 

 

# make dataset where no one has the same age
unique_on_age = (trainee
                 .query("trainees==0")
                 .drop_duplicates("age"))

matches = (trainee
           .query("trainees==1")
           .merge(unique_on_age, on="age", how="left", suffixes=("_t_1", "_t_0"))
           .assign(t1_minuts_t0 = lambda d: d["earnings_t_1"] - d["earnings_t_0"]))

matches.head(7)

같은 age 를 가진 unit 끼리 matching

 

 

•   마지막 열 (t1-t0) 의 평균을 취하면 연령을 통제하면서 ATET 추정치를 얻을 수 있다. 

 

matches["t1_minuts_t0"].mean()

# 2457.8947368421054

 

 

•   하지만 실제로 매칭에선 일반적으로 하나 이상의 변수를 가지고 있는 경우가 많으며 unit 의 값이 완벽하게 일치하는 경우는 드물다. 이러한 경우 unit 이 서로 얼마나 가까운지 비교하기 위해 측정하는 방식이 필요하고 일반적으로 유클리디안 거리를 사용한다. 이때 유클리디안 거리를 계산하려면 변수가 대략 같은 스케일이 되도록 조정해야 하는 과정이 필요하다. 

 

 

 

◯   예제2

 

•  ex. 환자가 회복까지 며칠이 걸리는지를 통해 약물의 효과를 계산 

 

med = pd.read_csv("./data/medicine_impact_recovery.csv")
med.head()

 

 

•  단순히 평균 차이를 계산한다면 E(Y|T=1) - E(Y|T=0) 이고, 이를 계산하면 약물을 투약한 환자가 회복하는데 평균 16.9일이 더 걸린다는 결과를 도출한다. 교란요인으로 인해 이러한 (직관과 반대된) 결과가 나온 것으로 추측해 볼 수 있다. 

 

med.query("medication==1")["recovery"].mean() - med.query("medication==0")["recovery"].mean()

# 16.895799546498726

 

•  이러한 편향을 조정하기 위해 X를 통제한다. 일단 변수를 스케일링해준다. 

 

# scale features
X = ["severity", "age", "sex"]
y = "recovery"

med = med.assign(**{f: (med[f] - med[f].mean())/med[f].std() for f in X})
med.head()

 

 

 

•   KNN 알고리즘을 이용해 매칭을 진행한다. mt0 는 처치되지 않은 관측치를 저장하고, mt1 은 처치된 관측치를 저장한다. 

 

 

from sklearn.neighbors import KNeighborsRegressor

treated = med.query("medication==1")
untreated = med.query("medication==0")

mt0 = KNeighborsRegressor(n_neighbors=1).fit(untreated[X], untreated[y])
mt1 = KNeighborsRegressor(n_neighbors=1).fit(treated[X], treated[y])

predicted = pd.concat([
    # find matches for the treated looking at the untreated knn model
    treated.assign(match=mt0.predict(treated[X])),
    
    # find matches for the untreated looking at the treated knn model
    untreated.assign(match=mt1.predict(untreated[X]))
])

predicted.head()

 

 

•   매칭을 통해 ATE 를 계산해낼 수 있다. 

 

np.mean((2*predicted["medication"] - 1)*(predicted["recovery"] - predicted["match"]))

# -0.9954

 

매칭을 통해, X를 통제할 때, 약이 평균적으로 약 1일정도 회복시간을 단축한다는 것을 확인해볼 수 있다. 

 

 

 

 

 

 

④ Matching bias 

---

 

◯   ols 를 활용한 bias 보정 

 

•   ATET 는 편향된 estimator 이다. (증명 과정 생략)

•   Bias 는 매칭 불일치의 정도가 클 때 발생한다. bias 를 줄이기 위해 ATET 를 아래의 수식과 같이 정의할 수 있다. μ^0(x) 는 E[Y|X,T=0] 으로 처치되지 않은 샘플에 피팅한 선형회귀와 같다. 

 

 

•   OLS 는 추정기의 부차적인 요소이다. 

 

from sklearn.linear_model import LinearRegression

# fit the linear regression model to estimate mu_0(x)
ols0 = LinearRegression().fit(untreated[X], untreated[y])
ols1 = LinearRegression().fit(treated[X], treated[y])

# find the units that match to the treated
treated_match_index = mt0.kneighbors(treated[X], n_neighbors=1)[1].ravel()

# find the units that match to the untreatd
untreated_match_index = mt1.kneighbors(untreated[X], n_neighbors=1)[1].ravel()

predicted = pd.concat([
    (treated
     # find the Y match on the other group
     .assign(match=mt0.predict(treated[X])) 
     
     # build the bias correction term
     .assign(bias_correct=ols0.predict(treated[X]) - ols0.predict(untreated.iloc[treated_match_index][X]))),
    (untreated
     .assign(match=mt1.predict(untreated[X]))
     .assign(bias_correct=ols1.predict(untreated[X]) - ols1.predict(treated.iloc[untreated_match_index][X])))
])

predicted.head()

 

 

 

•   또한 매칭은 비모수적 추정량이다. 선형성이나 어떤 종류의 매개변수 모델도 가정하지 않는다. 따라서 선형회귀보다 유연한 방식이며 비선형성이 매우 강한 상황에서 작동할 수 있다. 

 

 

np.mean((2*predicted["medication"] - 1)*((predicted["recovery"] - predicted["match"])-predicted["bias_correct"]))


## -7.36266090614141

 

 

 

 

◯   CausalModel 을 활용한 추정 

 

from causalinference import CausalModel

cm = CausalModel(
    Y=med["recovery"].values, 
    D=med["medication"].values, 
    X=med[["severity", "age", "sex"]].values
)

cm.est_via_matching(matches=1, bias_adj=True)

print(cm.estimates)

 

⇨  약물이 실제로 환자의 병원 입원 기간을 줄여준다고 자신 있게 말할 수 있다. 

 

 

 

 

 

 

⑤ The Curse of Dimensionality

---

 

•  매칭된 관측치들이 유사하지 않을 때 편향이 발생한다. 더 많은 변수가 존재할 수록 해당 관측치와 매칭되는 관측치 사이의 거리가 더 멀어진다. 즉, 차원의 저주 현상이 발생한다. 

 

•  선형회귀의 경우 이 문제를 잘 처리한다. 모든 변수 X를 단일 차원 Y로 투영하기 때문이다. 해당 투영에 대한 처치 및 통제에 대한 비교를 진행한다.