two-way fixed effects model
๐ ์ธ๊ณผ์ถ๋ก ๊ฐ์ธ ๊ณต๋ถ์ฉ ํฌ์คํธ ๊ธ์ ๋๋ค. ์ถ์ฒ๋ ์ฒจ๋ถํ ๋งํฌ๋ฅผ ์ฐธ๊ณ ํด์ฃผ์ธ์!
โ Two-way fixed effects model
โฏ Staggered DiD
• ์ด๋ฉ์ผ ๋ฑ๋ก์ด ๊ณ ๊ฐ ์ฐธ์ฌ์ ๋ฏธ์น๋ ์ํฅ์ ๋ถ์ํ๋ Task โจ ์ด๋ฉ์ผ ๋ฑ๋ก์ ์ ์ ๋ง๋ค ๋ค๋ฅธ ์์ ์์ ์์ํ๊ธฐ ๋๋ฌธ์ ์ ์ง์ ์ธ ์ด์ค์ฐจ๋ถ๋ฒ (Staggered DiD) ๋ฅผ ์ ์ฉํ ์ ์๋ค.
โฏ DiD ์ ๋ํ ๊ฐ๋จํ ์ค๋ช
• ์ฐ๋ฆฌ๊ฐ ๊ถ๊ธํ ์ ์ฑ ์ ํจ๊ณผ๋ฅผ ๊ฒ์ฆํ๊ธฐ ์ํด์ ์ ์ฑ ์ด ๋์ ๋ ํน์ ๊ทธ๋ฃน๊ณผ ๊ทธ๋ ์ง ์์ ๊ทธ๋ฃน์ ์ ์ฑ ๋์ ์ ํ๋ฅผ ๋น๊ตํ๋ ๊ธฐ๋ฒ
• ์๋ฅผ๋ค์ด ๋ชจ๋ฐ์ผ ์ฑ์์ ์ ๋ฐ์ดํธ๋ฅผ ํ๋๋ฐ ๊ทธ ํจ๊ณผ๋ฅผ ์ธก์ ํ๊ธฐ ์ํด, ์๋๋ก์ด๋ ์ฑ์์๋ ๊ฐํธ์ ์์ํ๊ณ iOS ์ฑ์์๋ ๊ธฐ์กด์ ์ ์ฑ ์ ์ ์งํ๋ฉด์ ๊ทธ ์ฐจ์ด๊ฐ ์ด๋ป๊ฒ ๋ณํ๋์ง ๊ตฌํ ์ ์๋ค. ์ด๋ ๋ ์ฑ ์ ์ ์ MAU ์ ์ฐจ์ด๊ฐ ๊ทธ ์ด์ ํด์๋ ์ ์ฌํ๋ค๋ ํ์ธ์ด ํ์ํ๋ค. ์ ์ฑ ์คํ ์ดํ ์ฐจ์ด๊ฐ ์ปค์ก๋ค๋ฉด ์ ๋ฐ์ดํธ๊ฐ MAU ์ ๊ธ์ ์ ์ธ ํจ๊ณผ๊ฐ ์์์ ์ ์ ์๋ค.
โฏ Staggered DiD ์ two-way fixed effects model
• ์๋ฅผ๋ค์ด AB ํ ์คํ ํด์ ๋ณด๊ธ์ด ๊ธฐ์ ์ ์ฑ๊ณผ์ ๋ฏธ์น๋ ํจ๊ณผ๋ฅผ ์ถ์ ํ๊ณ ์ถ๋ค๊ณ ํ์. AB ํ ์คํ ํด์ ๋์ ํ๋ ์๊ธฐ๋ ๊ธฐ์ ๋ง๋ค ์ ๊ฐ๊ฐ์ด๋ค. ๋ง์ฝ ๋์ ํ ๊ธฐ์ ๊ณผ ๋์ ํ์ง ์์ ๊ธฐ์ ์ ๋จ์ ๋น๊ตํ๊ฒ ๋๋ค๋ฉด ์ถ์ ์น์๋ ํ ์คํ ์ ํจ๊ณผ ๋ฟ ์๋๋ผ ๋์ ํ ๊ธฐ์ ์ ๋ด์ฌ๋ ํน์ฑ์ผ๋ก ๋ฐ์ํ๋ ํจ๊ณผ๋ ํจ๊ป ํฌํจ๋๋ค. AB ํ ์คํ ์ ๋์ ๋๋ฌธ์ด ์๋๋ผ ๊ทธ๋ฅ ๊ธฐ์กด์ ์ฑ๊ณผ๊ฐ ์ข์ ํน์ฑ์ ๊ฐ์ง ๊ธฐ์ ์ด์๊ธฐ ๋๋ฌธ์ ๋๊ฒ ๋์ฌ ์ ์๋ค. ๋ํ ์๊ธฐ์ ๋ฐ๋ผ์ ๋ค๋ฅด๊ฒ ๋ํ๋ ๊ฐ๋ฅ์ฑ๋ ์กด์ฌํ๋ค. ํน์ ์๊ธฐ์ ๊ธฐ์ ์ ์ฑ๊ณผ๊ฐ ์ข์์ง๊ธฐ๋ ํ๋๋ฐ, ๊ทธ ์๊ธฐ์ ๋ง๋ฌผ๋ ค ํด ๋์ ์ด ์ฆ๊ฐํ ์ ์๊ธฐ ๋๋ฌธ์ด๋ค.
• ์ด๋ฌํ ๊ฒฝ์ฐ์๋ two-way fixed effects model ์ ์ ์ฉํด ๊ธฐ์ ์ ๊ฐ๋ณ ํน์ฑ๊ณผ ์๊ธฐ์ ํน์ฑ์ ํต์ ํ ์ ์๋ค.
โก ๋ ผ๋ฌธ ์์
โป ๋ ผ๋ฌธ
โฏ ๋ฐ์ดํฐ ์ค๋ช
• Crunchbase, SimilarWeb, BuiltWith ๋ฑ์ผ๋ก๋ถํฐ ๊ธฐ์ ์ ๊ดํ ์ ๋ณด๋ฅผ ์์ง
• 35,6262๊ฐ์ ๊ธฐ์ ์ ๋ํด์ 2015๋ 4์ 5์ผ ๋ถํฐ 2019๋ 3์ 24์ผ๊น์ง 208๊ฐ์ ์ฃผ (week) ์ ๋ํด์ ์ด 7,334,496๊ฐ์ ๊ธฐ์ -์ฃผ ๋จ์ ๊ด์ธก์น๊ฐ ์์ง
โฏ ๋ณ์ ์ค๋ช
• AB ํ ์คํ ์ฌ์ฉ ์ฌ๋ถ๋ ํด๋น ๊ธฐ์ ์ด AB Tasty, Adobe Target Standard, Experimentl.ly, Google Optimize, Google Website Optimizer, Omniture Adobe Test and Target, Optimizely, Optimost, Split Optimizer, Visual Website Optimizer ๋ฅผ ์ฌ์ฉํ๋์ง ์ฌ๋ถ
• ๋ ผ๋ฌธ์ ๋ฐ๋ฅด๋ฉด, ํด๋น ๊ธฐ๊ฐ ๋์ ์ฝ 18%์ ๊ธฐ์ ์์ ์ ์ด๋ ์ผ์ฃผ์ผ์ AB ํ ์คํ ๊ฒฝํ์ด ์๋ค๊ณ ํ๋ค.
• ๊ธฐ์ ์คํ (Technology Stack) ์ AB ํ ์คํ ์ด์ธ์ ๊ธฐ์ ์์ ์ฑํํ ๊ธฐ์ ์ ๊ฐ์์ด๋ค.
โฏ ํ๊ท์
• i : ๊ธฐ์ , t : ์ฃผ
• y_it : t ์ฃผ์ ๊ธฐ์ i ์ ๋ฐฉ๋ฌธ์์ ๋ก๊ทธ๊ฐ
• ABTesting_it : t์ฃผ์ ๊ธฐ์ i ์ AB ํ ์คํ ๋์ ์ฌ๋ถ
• TechStack_it : t์ฃผ์ ๊ธฐ์ i ์ AB ํ ์คํ ์ด์ธ์ ๊ธฐ์ ์คํ์ ๊ฐ์์ ๋ก๊ทธ๊ฐ
• β : AB ํ ์คํ ๋์ ์ด ์คํํธ์ ํผํฌ๋จผ์ค์ ๋ฏธ์น ํจ๊ณผ
• θ : AB ํ ์คํ ์ด์ธ ๊ธฐ์ ์คํ์ ๋์ ์ด ์คํํธ์ ํผํฌ๋จผ์ค์ ๋ฏธ์น ํจ๊ณผ
• αi : ๊ธฐ์ ์ ๊ณ ์ ํจ๊ณผ
โช ๋ณํ์ง ์๋ ๊ธฐ์ ๊ณ ์ ์ ํน์ง๋ค์ ํต์ . ํน๋ณํ ์ ๋ต์ ์ ๋ฌด๋, ์ฅ์์ ์ธ ์ด์ , ํ์ด๋์ ํ๋ ฅ ๋ฑ ๊ด์ธก๋์ง ์์ ํน์ฑ๋ค ๋ฑ
• γt : week ์ฃผ ๊ณ ์ ํจ๊ณผ
โช ์ฃผ๋ง๋ค ์คํํธ์ ์ ํผํฌ๋จผ์ค์ ๋ฏธ์น๋ ์ํฅ์ ํต์ ํ๋ค. ํน์ ์ฃผ์ ๊ฒฝ์ ํ๊ฒฝ์ด ๋ค๋ฅด๊ฑฐ๋ ์ธํฐ๋ท ์ฌ์ฉ๋์ด ๋ฌ๋๊ฑฐ๋ ํ๋ ๋ฑ์ ์์ธ์ ํต์
โฏ Demeaning ํ๊ท ๋นผ์ฃผ๊ธฐ
• ๊ฐ ๋ณ์์์ ๊ณ ์ ํจ๊ณผ (αi, γt) ์ ๊ฑฐํ๋ ๋ฐฉ๋ฒ
โฏ ์ถ์ ๊ฒฐ๊ณผ
• ์ด (4) ์์๋ ๊ธฐ์ ์ ๊ณ ์ ํจ๊ณผ์ ๊ธฐ์ ์คํ ๋์ ์ฌ๋ถ๋ฅผ ๋ชจ๋ ํต์ . ์ถ์ ์น๊ฐ ๊ฐ์
• ํต์ ๋ณ์๊ฐ ์์ผ๋ฉด ์ด (1) ์ฒ๋ผ AB ํ ์คํ ์ ํจ๊ณผ๋ฅผ ๊ณผ๋ค์ถ์ ํ๊ฒ ๋๋ค.