๋ณธ๋ฌธ ๋ฐ”๋กœ๊ฐ€๊ธฐ
2๏ธโƒฃ Study/๐Ÿ“‘ ๋…ผ๋ฌธ์ฝ๊ธฐ

์•ฑ ๋ฆฌ๋ทฐ ๋ถ„์„์— ๊ด€ํ•œ ๋…ผ๋ฌธ ์ •๋ฆฌ โ‘ก

by isdawell 2022. 6. 15.
728x90

๐Ÿ‘€ ๋…ผ๋ฌธ ์ฝ๊ธฐ๋ฅผ ํ†ตํ•ด ํ•ด๊ฒฐํ•˜๊ณ  ์‹ถ์€ ๋ถ€๋ถ„ 

 

1. ํ‘œ๋ณธ์ด ์ž‘์€ ๋ฐ์ดํ„ฐ์—๋„ ํ† ํ”ฝ๋ชจ๋ธ๋ง๊ณผ ๊ฐ์„ฑ๋ถ„์„์„ ์ ์šฉํ•ด๋„ ๊ดœ์ฐฎ์„๊นŒ

2. ์–ดํ”Œ ๋ฆฌ๋ทฐ ํ…์ŠคํŠธ ๋ฐ์ดํ„ฐ๋Š” ์–ด๋– ํ•œ ๋ฐฉ๋ฒ•๋ก ์œผ๋กœ ์ ‘๊ทผํ•˜์—ฌ ์–ด๋– ํ•œ ์ธ์‚ฌ์ดํŠธ๋ฅผ ์–ป์–ด๋‚ผ๊นŒ 

3. ์•ฑ์Šคํ† ์–ด ๋ฆฌ๋ทฐ + ๊ตฌ๊ธ€ ํ”Œ๋ ˆ์ด ์Šคํ† ์–ด ๋ฆฌ๋ทฐ ๋ถ„์„ ๋กœ์ง ์„ค๊ณ„ํ•˜๊ธฐ 

 

 

 


 

 

1๏ธโƒฃ  ์ง€์—ญํ™”ํ ์•ฑ ์‚ฌ์šฉ์ž ๋ฆฌ๋ทฐ ๋ถ„์„์„ ํ†ตํ•œ ๋งˆ์ผ€ํŒ… ์ „๋žต ์ˆ˜๋ฆฝ - '๋™๋ฐฑ์ „'๊ณผ '์ธ์ฒœ e์Œ'์„ ์ค‘์‹ฌ์œผ๋กœ (2020.11)


โœจ ์—ฐ๊ตฌ ๋ชฉ์  

 

โ—พ ์ง€์—ญํ™”ํ ์•ฑ ์‚ฌ์šฉ์ž ๋ฆฌ๋ทฐ๋ฅผ ๋ถ„์„ํ•˜์—ฌ ์ง€์—ญํ™”ํ ์‚ฌ์šฉ์ž์˜ ๊ธ์ •/๋ถ€์ • ์š”์ธ์„ ํŒŒ์•…ํ•˜๊ณ  ์ด๋ฅผ ๋ฐ”ํƒ•์œผ๋กœ ๋งˆ์ผ€ํŒ… ์ „๋žต์„ ์ˆ˜๋ฆฝํ•œ๋‹ค. ์ง€์—ญํ™”ํ ๋‹ด๋‹น ๊ณต๋ฌด์›๋“ค๊ณผ ๋งˆ์ผ€ํ„ฐ๋“ค์—๊ฒŒ ์ง€์—ญํ™”ํ์— ๋Œ€ํ•œ ์œ ์˜๋ฏธํ•œ ์ •๋ณด๋ฅผ ์ œ๊ณตํ•ด ์ค„ ์ˆ˜ ์žˆ๋‹ค.

 

 

โœจ ํ•ต์‹ฌ ์ •๋ฆฌ 

 

โ—พ ์•ฑ ์‚ฌ์šฉ์ž ๋ฆฌ๋ทฐ๋ฅผ '๋ณ„์ '์„ ๊ธฐ์ค€์œผ๋กœ ๊ธ์ •๊ณผ ๋ถ€์ •์œผ๋กœ ๋ถ„๋ฅ˜ํ•˜๊ณ  ๊ฐ๊ฐ ์›Œ๋“œํด๋ผ์šฐ๋“œ, ํ† ํ”ฝ๋ชจ๋ธ๋ง, ์†Œ์…œ ๋„คํŠธ์›Œํฌ ๋ถ„์„์„ ์ˆ˜ํ–‰ํ•˜์˜€๋‹ค. 

 

 

 

โ‘   ์ด๋ก ์  ๋ฐฐ๊ฒฝ 

 

โœ” ์„œ๋ก  : ์ง€์—ญํ™”ํ์˜ ํ™œ์šฉ์„ฑ์ด ์ง€์†์ ์œผ๋กœ ์ฆ๊ฐ€, ์ง€์—ญํ™”ํ์— ๋Œ€ํ•œ ์—ฐ๊ตฌ์˜ ์ˆ˜๊ฐ€ ์ ๊ณ  ์‚ฌ์šฉ์ž ๋Œ€์ƒ์˜ ๋งŒ์กฑ๊ฐ์— ๋Œ€ํ•œ ์—ฐ๊ตฌ๊ฐ€ ๊ฑฐ์˜ ์—†๊ธฐ ๋•Œ๋ฌธ์— ์‚ฌ์šฉ์ž ๋ฆฌ๋ทฐ๋ฅผ ๋ถ„์„ํ•˜์—ฌ ๊ธ๋ถ€์ • ์š”์ธ์„ ํŒŒ์•…ํ•œ๋‹ค. 

 

โœ” ์ง€์—ญํ™”ํ์˜ ๊ฐœ๋…/ํ˜„ํ™ฉ/๊ด€๋ จ ์—ฐ๊ตฌ : ์ง€์—ญํ™”ํ์— ๋Œ€ํ•œ ์ •์ฑ…์  ์—ฐ๊ตฌ ๋ฐฉํ–ฅ์„ ์ œ์‹œํ•œ ๋…ผ๋ฌธ์ด ๋Œ€๋‹ค์ˆ˜์˜€๊ธฐ ๋•Œ๋ฌธ์—, ๋ณธ ์—ฐ๊ตฌ์—์„œ๋Š” ์‚ฌ์šฉ์ž ๋ฆฌ๋ทฐ๋ฅผ ๋Œ€์ƒ์œผ๋กœ ๋ถ„์„ํ•˜์—ฌ ๋งˆ์ผ€ํŒ… ๋ฐฉ์•ˆ์„ ์ œ์‹œํ•œ๋‹ค. 

 

โœ” ์ž์—ฐ์–ด feature ์ถ”์ถœ ๋ฐฉ๋ฒ• : TF-IDF 

 

โœ” ํ† ํ”ฝ๋ชจ๋ธ๋ง : ๋น„๊ตฌ์กฐ์ ์ธ ๋ฌธ์„œ์—์„œ ์ž ์žฌ์ ์œผ๋กœ ๋‚ดํฌ๋˜์–ด ์žˆ๋Š” ์ฃผ์ œ๋ฅผ ์ฐพ๊ธฐ ์œ„ํ•ด ํ‚ค์›Œ๋“œ๋ฅผ ์ถ”์ถœํ•˜๊ณ  ํ™•๋ฅ ์  ์ถ”๋ก ์„ ํ•˜๋Š” ์•Œ๊ณ ๋ฆฌ์ฆ˜์ด๋‹ค. ๋ฌธ์„œ์—์„œ ์ž ์žฌ์ ์œผ๋กœ ๊ฐ€์ง€๊ณ  ์žˆ๋Š” ์ฃผ์ œ๋ฅผ ํŒŒ์•…ํ•˜๊ณ  ๊ณ„์‚ฐํ•˜์—ฌ ์œ ์‚ฌ ํ‚ค์›Œ๋“œ๋ฅผ ์ฐพ์•„๋‚ด๋Š” ๊ฒƒ 

 

  • ์—ฐ๊ตฌ ์˜ˆ์ œ. ํ† ํ”ฝ๋ชจ๋ธ๋ง์„ ํ†ตํ•œ ๋ธ”๋ก์ฒด์ธ ๊ธฐ์ˆ ๋™ํ–ฅ ํŒŒ์•… 

 

โœ” ์†Œ์…œ๋„คํŠธ์›Œํฌ๋ถ„์„ : ๋น„์ •ํ˜• ๋ฐ์ดํ„ฐ๋ฅผ ์ด์šฉํ•ด ํ‚ค์›Œ๋“œ ๊ฐ„์˜ ๊ด€๊ณ„์™€ ํŒจํ„ด์„ ํƒ์ƒ‰ํ•ด ์‹œ๊ฐํ™” ํ•  ์ˆ˜ ์žˆ๋‹ค๋Š” ์žฅ์ ์ด ์žˆ๋‹ค. node ๋Š” ๋‹จ์–ด(ํ‚ค์›Œ๋“œ) ๋ฅผ ์˜๋ฏธํ•˜๊ณ  ๋‹ค์–‘ํ•œ ์—ฐ๊ฒฐ๊ด€๊ณ„๋กœ ํ‘œํ˜„๋˜๋Š” link ๋กœ ํ‘œํ˜„๋œ๋‹ค. 

 

 

โ‘ก ์—ฐ๊ตฌ๋ฐฉ๋ฒ•

 

 

โœ” ๋ฐ์ดํ„ฐ ์ˆ˜์ง‘ : ์ง€์ž์ฒด์—์„œ ์šด์˜ํ•˜๊ณ  ์žˆ๋Š” ์ง€์—ญํ™”ํ ์•ฑ (๋™๋ฐฑ์ „, ์ธ์ฒœe์Œ) ์— ๋Œ€ํ•œ ๊ณ ๊ฐ ๋ฆฌ๋ทฐ ์ˆ˜์ง‘ 

 

  • ์ธ์ฒœ e์Œ 2,227๊ฐœ ๋ฆฌ๋ทฐ , ๋™๋ฐฑ์ „ 1,533๊ฐœ ๋ฆฌ๋ทฐ ์ˆ˜์ง‘
  • 1,2 ์ ์€ ๋ถ€์ •์  ๋ฆฌ๋ทฐ, 4์ ,5์ ์€ ๊ธ์ • ๋ฆฌ๋ทฐ, 3์ ์€ ์ค‘๋ฆฝ ๋ฆฌ๋ทฐ๋กœ 3์  ๋ฆฌ๋ทฐ๋“ค์€ ๋ถ„์„์—์„œ ์ œ์™ธํ•˜์˜€๋‹ค. 
  • R ํ…์ŠคํŠธ ๋ถ„์„ ํŒจํ‚ค์ง€๋ฅผ ์ด์šฉํ•ด ๋ฐ์ดํ„ฐ ์ „์ฒ˜๋ฆฌ ์ง„ํ–‰ 

 

โœ” ๋ถ„์„๋ฐฉ๋ฒ•

 

(1) ํ‚ค์›Œ๋“œ ๋ถ„์„ 

 

  • ๋ถˆ์šฉ์–ด ์ œ๊ฑฐ → ํ‚ค์›Œ๋“œ ์ถ”์ถœ , ๊ธ์ •๊ณผ ๋ถ€์ • ๋ฆฌ๋ทฐ๋กœ ๋‚˜๋ˆ„์–ด ๊ณ„์‚ฐ 
  • ํ‚ค์›Œ๋“œ์— ๋Œ€ํ•œ ๋นˆ๋„ ๋ถ„์„์„ ์‹œํ–‰ 
  • ์ถ”์ถœ๋œ ํ‚ค์›Œ๋“œ์— ๋Œ€ํ•ด TF-IDF ์‚ฐ์ถœ ๐Ÿ‘‰ ์ตœ์ข… ํ‚ค์›Œ๋“œ๋Š” ๋นˆ๋„๊ฐ’๊ณผ TF-IDF ๊ฐ’์„ ์ด์šฉํ•ด ์‚ฐ์ •
  • ์›Œ๋“œํด๋ผ์šฐ๋“œ๋กœ ๊ฒฐ๊ณผ๋ฅผ ๋„์ถœ 

 

 

(2) ํ† ํ”ฝ๋ชจ๋ธ๋ง 

 

โ—ป LDA 

 

  • ์ถœํ˜„๋นˆ๋„๊ฐ€ ๋†’์€ ๋‹จ์–ด์˜ ๊ทธ๋ฃน์„ ํ•˜๋‚˜์˜ ํ† ํ”ฝ์œผ๋กœ ๊ทธ๋ฃนํ™”ํ•˜๊ณ  ํ™•๋ฅ ๋ถ„ํฌ์— ๋”ฐ๋ผ ํ† ํ”ฝ์ด ์ •ํ•ด์ง„๋‹ค. 
  • ์ตœ์ ์˜ ํ† ํ”ฝ ๊ฐœ์ˆ˜๋Š” 'ํ˜ผ์žก๋„' perplexity ๋ฅผ ์ด์šฉํ•ด ๊ฒฐ์ •ํ•œ๋‹ค. 
  • ํ† ํ”ฝ๋ณ„๋กœ ์ถ”์ถœ๋œ ํ‚ค์›Œ๋“œ๋“ค์˜ ์ „์ฒด์ ์ธ ์˜๋ฏธ๋ฅผ ๊ธฐ๋ฐ˜์œผ๋กœ ํ† ํ”ฝ์„ ๋ช…๋ช…ํ•˜๊ณ  ํ•ด์„ํ•œ๋‹ค. 

 

 

(3) ์†Œ์…œ ๋„คํŠธ์›Œํฌ ๋ถ„์„ 

 

โ—ป ํ…์ŠคํŠธ ๋ถ„์„ ์—ฐ๊ตฌ์—์„œ ๊ฐ€์žฅ ๋งŽ์ด ์‚ฌ์šฉ๋˜๋Š” ์‹œ๊ฐํ™” ๊ธฐ๋ฒ•์ด๋‹ค. 

 

  • ๋‹จ์–ด๋Š” ๋…ธ๋“œ node ๋กœ ํ‘œํ˜„๋˜๊ณ  ๋…ธ๋“œ์˜ ํฌ๊ธฐ๊ฐ€ ์ปค์งˆ์ˆ˜๋ก ๋‹จ์–ด์˜ ์ถœํ˜„๋นˆ๋„๊ฐ€ ๋†’๋‹ค๋Š” ๊ฒƒ์„ ์˜๋ฏธํ•œ๋‹ค. 
  • ์—ฐ๊ฒฐ์„  link ๋Š” ๋‹จ์–ด ๊ฐ„์˜ ๊ด€๊ณ„๋กœ ๊ตฌ๋ถ„ํ•˜๋ฉฐ ์„ ์ด ๊ตต์„์ˆ˜๋ก ๋ฐ€์ ‘ํ•œ ๊ด€๊ณ„์„ฑ์ด ์žˆ์Œ์„ ์˜๋ฏธํ•œ๋‹ค. 
  • ๋ณธ ์—ฐ๊ตฌ์—์„œ๋Š” ๋‹จ์–ด ๊ฐ„์˜ ๋™์‹œ์ถœํ˜„ ๊ด€๊ณ„๋ฅผ ๊ด€์ฐฐํ•˜๊ธฐ ์œ„ํ•ด ๋™์‹œ ์ถœํ˜„ ๋นˆ๋„ ํ–‰๋ ฌ ๊ณ„์‚ฐ๋ฒ•์„ ์ด์šฉํ•œ๋‹ค. 

 

 

โ‘ข ์—ฐ๊ตฌ๊ฒฐ๊ณผ

 

โœ” ์›Œ๋“œํด๋ผ์šฐ๋“œ ํ‚ค์›Œ๋“œ ๋ถ„์„ : ๊ธ์ •,๋ถ€์ • ๋ฆฌ๋ทฐ๋ฅผ ๋ถ„๋ฅ˜ํ•ด์„œ ๊ฐ๊ฐ ์‚ฌ์šฉ์ž ๋งŒ์กฑ/๋ถˆ๋งŒ์กฑ ์š”์ธ ๋„์ถœ 

 

์ถœ์ฒ˜ : ๋…ผ๋ฌธ ๊ทธ๋ฆผ

 

 

โœ” ํ† ํ”ฝ๋ชจ๋ธ๋ง : R์„ ์ด์šฉํ•ด lda, LDAvis ํŒจํ‚ค์ง€๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ ์ตœ์ ์˜ ํ† ํ”ฝ ์ˆ˜ k=7์„ ๋„์ถœ

 

 

  • ๋ถ€์ •/๊ธ์ • ๋ฆฌ๋ทฐ๋กœ ๋‚˜๋ˆ„์–ด ํ† ํ”ฝ๋ชจ๋ธ๋ง์„ ์ ์šฉ 
  • ์–ดํ”Œ์—์„œ ์ œ๊ณตํ•˜๋Š” ๊ธฐ๋Šฅ์— ๋Œ€ํ•œ ํŒŒ์•… + ๊ธฐ๋Šฅ ๋ฐ ์„œ๋น„์Šค์˜ ํŠน์ง•์ /๋ฌธ์ œ์  ํŒŒ์•…์ด ๊ฐ€๋Šฅ 

 

์ถœ์ฒ˜ : ๋…ผ๋ฌธ

 

 

 

โœ” ํ‚ค์›Œ๋“œ ๋„คํŠธ์›Œํฌ ๋ถ„์„ : ์ค‘์‹ฌ์„ฑ์ด ๋†’์€ ํ‚ค์›Œ๋“œ ํŒŒ์•…, ์—ฐ๊ฒฐ์„ฑ์„ ํ†ตํ•ด ํŠน์ • ํ‚ค์›Œ๋“œ์™€ ๊ด€๋ จ๋œ ๋‹จ์–ด๋“ค ํ™•์ธ (๋งฅ๋ฝ ์œ ์ถ”) 

 

 

 

โ‘ฃ ์—ฐ๊ตฌ ์‹œ์‚ฌ์ /ํ•œ๊ณ„์  

 

โœ” ๋ฆฌ๋ทฐ ์ ์ˆ˜๋ฅผ ๊ธฐ์ค€์œผ๋กœ ๊ธ๋ถ€์ •์„ ๋‚˜๋ˆˆ์  : ์‚ฌ์šฉ์ž๋“ค์ด ๋ฆฌ๋ทฐ๋ฅผ ์ž‘์„ฑํ•  ๋•Œ ์ƒ๋ฐ˜๋œ ๋‚ด์šฉ์œผ๋กœ ์ž‘์„ฑํ•˜๋Š” ๊ฒฝํ–ฅ์ด ์žˆ๊ธฐ ๋•Œ๋ฌธ์— ์ •ํ™•ํ•œ ๊ธ๋ถ€์ • ๋ถ„๋ฅ˜๋ฅผ ์œ„ํ•œ ๊ฐ์„ฑ๋ถ„์„์„ ํ†ตํ•ด ๋ถ„๋ฅ˜ ๊ธฐ์ค€์„ ์žฌ์„ค์ • ํ•  ํ•„์š”๊ฐ€ ์žˆ๋‹ค. 

 

 

 

 

 

 

 

 

 

2๏ธโƒฃ  ํ…์ŠคํŠธ๋งˆ์ด๋‹ ๊ธฐ๋ฒ•๊ณผ ARIMA ๋ชจํ˜•์„ ํ™œ์šฉํ•œ ๋ฐฐ๋‹ฌ์˜ ๋ฏผ์กฑ ์•ฑ ๋ฆฌ๋ทฐ ๋ถ„์„ (2021.9)


โœจ ์—ฐ๊ตฌ ๋ชฉ์  

 

โ—พ ์‚ฌ์šฉ์ž ๋ฆฌ๋ทฐ ์ค‘ ์œ ์˜๋ฏธํ•œ ์„œ๋น„์Šค ์ด์Šˆ๋ฅผ ํƒ์ง€ํ•˜๊ธฐ ์œ„ํ•ด ํ…์ŠคํŠธ ๋งˆ์ด๋‹ ๊ธฐ๋ฒ•๊ณผ ์‹œ๊ณ„์—ด ์ด์ƒ์น˜ ํƒ์ง€ ๋ชจํ˜• ARIMA ๋ฅผ ์‚ฌ์šฉํ•œ๋‹ค. 

 

 

โœจ ํ•ต์‹ฌ ์ •๋ฆฌ 

 

โ—พ ๋ฐฐ๋‹ฌ์˜ ๋ฏผ์กฑ ๋ฆฌ๋ทฐ ์•ฝ 7๋งŒ๊ฑด์„ ํฌ๋กค๋งํ•˜์—ฌ ์ˆ˜์ง‘ํ•˜๊ณ  ํ† ํ”ฝ๋ชจ๋ธ๋ง ๊ธฐ๋ฒ•์„ ์ ์šฉํ•˜์—ฌ 5๊ฐœ์˜ ํ† ํ”ฝ์„ ์ถ”์ถœ

โ—พ ์‹œ๊ณ„์—ด ๊ธฐ๋ฐ˜ ์ด์ƒ์น˜ ํƒ์ง€ ARIMA ๋ชจ๋ธ์„ ์‚ฌ์šฉํ•ด ๋ฆฌ๋ทฐ์ˆ˜๊ฐ€ ๊ธ‰์ฆํ•œ ์ด์ƒ์น˜ ์ผ์ž๋ฅผ ํƒ์ง€ํ•˜๊ณ  ํ•ด๋‹น ์ผ์ž๋ฅผ ํ† ํ”ฝ ๋ณ„ ๊ฐ์„ฑ๋ถ„์„ ๊ฒฐ๊ณผ๋ฅผ ๋ฐ”ํƒ•์œผ๋กœ ์ด์Šˆ ์š”์ธ์„ ๋ถ„์„ 

 

 

 

โ‘   ์„œ๋ก  

 

โœ” ๋ชจ๋ฐ”์ผ ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜ ์‚ฌ์šฉ์ž ๋ฆฌ๋ทฐ๋Š” ์•ฑ์— ๋Œ€ํ•œ ์ฆ‰๊ฐ์ ์ธ ์‚ฌ์šฉ์ž ๊ฒฝํ—˜์„ ์žฌ๊ตฌ์„ฑํ•œ ์‚ฌ์šฉ์ž๋“ค์˜ ์ง์ ‘์ ์ธ ํ”ผ๋“œ๋ฐฑ์œผ๋กœ ์„œ๋น„์Šค์˜ ํ’ˆ์งˆ์„ ๊ฐœ์„ ํ•˜๊ณ  ๋ˆ„๋ฝ๋œ ๊ธฐ๋Šฅ์„ ๋ณด์™„ํ•˜๋Š” ๋ฐ ์œ ์šฉํ•œ ์ •๋ณด๋ฅผ ์ œ๊ณตํ•œ๋‹ค. 

 

โœ” ์•ฑ ๋ฆฌ๋ทฐ ๋ถ„์„์œผ๋กœ ํ† ํ”ฝ๋ชจ๋ธ๋ง์˜ ์ ์šฉ ์‚ฌ๋ก€๊ฐ€ ๊ฐ€์žฅ ๋งŽ์ง€๋งŒ, ํŠน์ •ํ•œ ์ด์Šˆ์— ๋Œ€ํ•œ ๋ฆฌ๋ทฐ๊ฐ€ ๋‹ค๋Ÿ‰์œผ๋กœ ๋ฐœ์ƒํ•˜๋Š” ์ƒํ™ฉ์„ ํƒ์ง€ํ•˜๊ธฐ ์œ„ํ•œ ์—ฐ๊ตฌ๋Š” ๋ฏธ๋ฏธํ•˜๋‹ค → ๋ณธ ์—ฐ๊ตฌ์—์„œ ํ† ํ”ฝ ๋ชจ๋ธ๋ง์œผ๋กœ ๋ฆฌ๋ทฐ์˜ ์ฃผ์ œ๋ฅผ ๋ถ„๋ฅ˜ํ•œ ํ›„, ๋ฆฌ๋ทฐ๊ฐ€ ๊ธ‰์ฆํ•˜๋Š” ์ผ์ž์˜ ๋ฆฌ๋ทฐ๋ฅผ ๋”ฐ๋กœ ์ถ”์ถœํ•ด ๋ถ„๋ฅ˜๋œ ์ฃผ์ œ์™€ ๊ฐ์„ฑ๋ถ„์„ ๊ฒฐ๊ณผ๋ฅผ ๋ฐ”ํƒ•์œผ๋กœ ์ธ์‚ฌ์ดํŠธ๋ฅผ ์–ป๊ณ ์ž ํ•œ๋‹ค. 

 

 

โ‘ก ์ด๋ก ์  ๋ฐฐ๊ฒฝ 

 

โœ” ๊ตญ๋‚ด ๋ฐฐ๋‹ฌ ์•ฑ ํ˜„ํ™ฉ & ์—ฐ๊ตฌ ๋™ํ–ฅ 

 

โœ” ํ…์ŠคํŠธ ๋งˆ์ด๋‹ ๊ธฐ๋ฒ•์„ ํ™œ์šฉํ•œ ์‚ฌ์šฉ์ž ๋ฆฌ๋ทฐ ๋ถ„์„ 

 

  • ์ตœ๊ทผ ์•ฑ ๋ฆฌ๋ทฐ์— ๋Œ€ํ•œ ๊ตญ๋‚ด ํ…์ŠคํŠธ ๋งˆ์ด๋‹ ์—ฐ๊ตฌ๋Š” ์ฃผ๋กœ ํ† ํ”ฝ ๋ถ„์„์„ ํ†ตํ•œ ํŠน์ • ๋ถ„์•ผ์˜ ์•ฑ ๋งŒ์กฑ๋„์— ์˜ํ–ฅ์„ ์ฃผ๋Š” ์š”์ธ์„ ์กฐ์‚ฌํ•œ ์—ฐ๊ตฌ๊ฐ€ ์ฃผ๋ฅผ ์ด๋ฃจ๊ณ  ์žˆ๋‹ค. 
  • ์–‘์œ ์ • ์™ธ 4์ธ(2019) ๋Š” ๋‹จ์–ด ์ž„๋ฒ ๋”ฉ ๋ฐ ๋ฒกํ„ฐ ์œ ์‚ฌ๋„๋ฅผ ๊ธฐ๋ฐ˜์œผ๋กœ ๊ฒŒ์ž„ ์•ฑ ๋ฆฌ๋ทฐ๋ฅผ ์ž๋™์œผ๋กœ ๋ถ„๋ฅ˜ํ•˜๋Š” ์‹œ์Šคํ…œ ๊ฐœ๋ฐœ์— ๊ด€ํ•œ ์—ฐ๊ตฌ๋ฅผ ์ง„ํ–‰ํ•œ ๋ฐ” ์žˆ๋‹ค. 
  • ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜ ๋ฆฌ๋ทฐ ์ฒ˜๋ฆฌ์˜ ์ž๋™ํ™”์— ๋Œ€ํ•œ ๋‹ค์–‘ํ•œ ์—ฐ๊ตฌ๊ฐ€ ์ง„ํ–‰์ค‘์ด๋‚˜ ์ฃผ์ œ ๋ถ„๋ฅ˜ ๋‹จ๊ณ„์—๋งŒ ๊ทธ์น˜๊ณ  ์žˆ๋‹ค. ์ ์‹œ์— ํƒ์ง€ํ•˜๋Š” ์—ฐ๊ตฌ๋Š” ๋ฏธ๋ฏธํ•œ ์‹ค์ •์ด๋ฏ€๋กœ ๋ณธ ์—ฐ๊ตฌ์—์„œ ๊ณผ๋„ํ•œ ๋ฆฌ๋ทฐ ๋ฐœ์ƒ ์‹œ๊ธฐ๋ฅผ ํƒ์ง€ํ•˜๊ณ  ํ† ํ”ฝ์„ ์ž๋™์œผ๋กœ ํ• ๋‹นํ•˜๋Š” ๋ฐฉ๋ฒ•์„ ์ œ์•ˆํ•œ๋‹ค. 

 

 

โ‘ข ์—ฐ๊ตฌ๋ฐฉ๋ฒ• 

 

โœ” ๋ฐ์ดํ„ฐ ์ˆ˜์ง‘ : ๋ฐฐ๋‹ฌ์˜ ๋ฏผ์กฑ ๋ฆฌ๋ทฐ ๋ฐ์ดํ„ฐ 

 

โœ” ๋ฐ์ดํ„ฐ ์ „์ฒ˜๋ฆฌ : ๋ถˆ์šฉ์–ด ์ œ๊ฑฐ ๋ฐ ํ˜•ํƒœ์†Œ ๋ถ„์„

 

  • mecab ํ˜•ํƒœ์†Œ๋ถ„์„๊ธฐ๋กœ ๋ช…์‚ฌ๋งŒ์„ ์ถ”์ถœ 
  • ๋ถ„์„์— ์œ ์˜๋ฏธํ•˜์ง€ ์•Š์€ '๋ฐฐ๋ฏผ', '๋ฏผ์กฑ', '์–ดํ”Œ' ๋“ฑ์˜ ๋‹จ์–ด๋“ค์€ ๋ถˆ์šฉ์–ด ์ฒ˜๋ฆฌ 
  • ์ถ”์ถœ๋œ ๋ช…์‚ฌ ์ˆ˜๊ฐ€ 5๊ฐœ ๋ฏธ๋งŒ์ธ ๋ฆฌ๋ทฐ๋ฅผ ์ œ์™ธํ•˜์—ฌ 15,511 ๊ฑด์„ ์„ ์ • 

 

โœ” ๋ฐ์ดํ„ฐ ๋ถ„์„ : LDA ํ† ํ”ฝ ๋ชจ๋ธ๋ง, ์‹œ๊ณ„์—ด ์ด์ƒ์น˜ ํƒ์ง€, ๊ฐ์„ฑ๋ถ„์„ 

 

๐Ÿ’จ ํ† ํ”ฝ๋ชจ๋ธ๋ง 

 

  • ํ† ํ”ฝ๋ชจ๋ธ๋ง์„ ์ง„ํ–‰ํ•œ ํ›„ ๋ชจ๋ธ์ด ๊ฒฐ๊ณผ๋ฅผ ์–ผ๋งˆ๋‚˜ ์ž˜ ์˜ˆ์ธกํ–ˆ๋Š”์ง€ Perplexity ํ† ํ”ฝ์˜ ํ˜ผ์žก๋„๋ฅผ ๊ณ„์‚ฐํ•˜๊ธฐ ์œ„ํ•ด python ์˜ TEANAPS ํŒจํ‚ค์ง€๋ฅผ ํ™œ์šฉํ•˜์—ฌ ์ผ๊ด€์„ฑ๊ณผ ์‘์ง‘๋„ ์ ์ˆ˜๋ฅผ ๋ถ„์„ํ•˜์—ฌ ์ตœ์ ์˜ ํ† ํ”ฝ ๊ฐœ์ˆ˜๋ฅผ ์„ค์ •ํ–ˆ๋‹ค. 

 

https://github.com/fingeredman/teanaps

 

GitHub - fingeredman/teanaps: ์ž์—ฐ์–ด ์ฒ˜๋ฆฌ์™€ ํ…์ŠคํŠธ ๋ถ„์„์„ ์œ„ํ•œ ์˜คํ”ˆ์†Œ์Šค ํŒŒ์ด์ฌ ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ ์ž…๋‹ˆ๋‹ค.

์ž์—ฐ์–ด ์ฒ˜๋ฆฌ์™€ ํ…์ŠคํŠธ ๋ถ„์„์„ ์œ„ํ•œ ์˜คํ”ˆ์†Œ์Šค ํŒŒ์ด์ฌ ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ ์ž…๋‹ˆ๋‹ค. Contribute to fingeredman/teanaps development by creating an account on GitHub.

github.com

 

https://github.com/fingeredman/advanced-text-mining

 

GitHub - fingeredman/advanced-text-mining: TEANAPS ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ๋ฅผ ํ™œ์šฉํ•œ ์ž์—ฐ์–ด ์ฒ˜๋ฆฌ์™€ ํ…์ŠคํŠธ ๋ถ„์„ ๋ฐฉ๋ฒ•๋ก 

TEANAPS ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ๋ฅผ ํ™œ์šฉํ•œ ์ž์—ฐ์–ด ์ฒ˜๋ฆฌ์™€ ํ…์ŠคํŠธ ๋ถ„์„ ๋ฐฉ๋ฒ•๋ก ์— ๋Œ€ํ•ด ๋‹ค๋ฃน๋‹ˆ๋‹ค. Contribute to fingeredman/advanced-text-mining development by creating an account on GitHub.

github.com

 

 

 

๐Ÿ’จ ์‹œ๊ณ„์—ด ์ด์ƒ์น˜ ํƒ์ง€ 

 

  • ๊ณผ๊ฑฐ์˜ ์‹œ๊ณ„์—ด ๋ฐ์ดํ„ฐ๋ฅผ ๋ฐ”ํƒ•์œผ๋กœ ๋ชจ๋ธ์„ ์ƒ์„ฑํ•˜๊ณ  ๋ชจ๋ธ์ด ํŒ๋‹จํ•œ ์‹ ๋ขฐ์ˆ˜์ค€์„ ๋ฒ—์–ด๋‚˜๋Š” ๋ฐ์ดํ„ฐ๋ฅผ ์ด์ƒ์น˜๋ผ ํŒ๋‹จํ•œ๋‹ค. 
  • ์ด์ƒ์น˜ ํ˜•ํƒœ๋ฅผ AO, IO, LS, TC ๋กœ ๊ตฌ๋ถ„ํ•˜๋Š” ๋ฐฉ๋ฒ•๋ก ์„ ์‚ฌ์šฉํ•œ๋‹ค. AO ๋Š” ์ด์ƒ์น˜๊ฐ€ ๋ฐœ์ƒ ์‹œ์ ์—๋งŒ ์˜ํ–ฅ์„ ๋ผ์น˜๋Š” ์ด์ƒ์น˜, IO ๋Š” ์ด์ƒ์น˜๊ฐ€ ๋ฐœ์ƒํ•œ ๋’ค์—๋„ ์ง€์†์ ์œผ๋กœ ์˜ํ–ฅ์„ ๋ผ์น˜๋Š” ์ด์ƒ์น˜, LS ๋Š” ์ด์ƒ์น˜๊ฐ€ ๋ฐœ์ƒํ•œ ๋’ค ์˜๊ตฌ์ ์œผ๋กœ ๋ฐ์ดํ„ฐ ํŒจํ„ด์„ ๋ณ€ํ™”์‹œํ‚ค๋Š” ๊ฒƒ, TC ๋Š” ์ด์ƒ์น˜๊ฐ€ ๋ฐœ์ƒํ•œ ๋’ค ์ ์ฐจ์ ์œผ๋กœ ์ค„์–ด๋“œ๋Š” ํ˜•ํƒœ 
  • R ์˜ tsoutliers ํŒจํ‚ค์ง€๋ฅผ ํ™œ์šฉํ•œ๋‹ค. 
  • Lopez(2016) ์—ฐ๊ตฌ์—์„œ ํ‘œ๋ณธ์˜ ํฌ๊ธฐ๊ฐ€ 450๋ณด๋‹ค ๋†’์„ ๋•Œ ์ž„๊ณ„๊ฐ’์„ 4.0์„ ์‚ฌ์šฉํ•œ๋‹ค๋Š” ๊ทผ๊ฑฐ์— ์ž…๊ฐํ•ด ์ž„๊ณ„๊ฐ’์„ 4.0์œผ๋กœ ์„ค์ •ํ•˜์—ฌ ์ด์ƒ์น˜๋ฅผ ๋ฐœ์ƒ์‹œํ‚จ ๊ฐœ์ž… ์‚ฌ๊ฑด์„ ๋ถ„์„ํ–ˆ๋‹ค. 
  • ๋‹จ์ˆœํ•œ ์„œ๋น„์Šค ์ด์šฉ๋Ÿ‰ ์ฆ๊ฐ€๋กœ ๊ธ‰์ฆํ•œ ๊ฒฝ์šฐ๋ฅผ ์ œ์™ธํ•˜๊ธฐ ์œ„ํ•ด ๊ฐ€์žฅ ๋งŽ์ด ๋ฐœ์ƒํ•œ ํ† ํ”ฝ์ด ์ „์ฒด ๋ฆฌ๋ทฐ์ค‘์—์„œ ์ฐจ์ง€ํ•˜๋Š” ๋น„์œจ์ด 30% ์ด์ƒ์„ ์ดˆ๊ณผํ•˜๋Š” ๊ฒฝ์šฐ๋งŒ ์ด์ƒ์น˜๋กœ ๋ถ„๋ฅ˜ 

 

๐Ÿ’จ ๊ฐ์„ฑ๋ถ„์„ 

 

  • ์‚ฌ์ „๊ธฐ๋ฐ˜ ๊ฐ์„ฑ๋ถ„์„, ๋จธ์‹ ๋Ÿฌ๋‹ ๊ธฐ๋ฐ˜ ๊ฐ์„ฑ๋ถ„์„์ด ์žˆ๋Š”๋ฐ, ์‚ฌ์ „๊ธฐ๋ฐ˜์€ ๋ฏธ๋ฆฌ ์ •์˜๋œ ๊ฐ์ •์‚ฌ์ „์„ ๊ธฐ๋ฐ˜์œผ๋กœ ์–ดํœ˜๋ฅผ ํŒ๋‹จํ•ด ๋ฌธ์žฅ ๋“ฑ์˜ ๊ฐ์„ฑ ๊ทน์„ฑ์„ ํŒ๋‹จํ•œ๋‹ค. ๋จธ์‹ ๋Ÿฌ๋‹ ๊ฐ์„ฑ๋ถ„์„์€ ๋ฌธ๋งฅ ์•ˆ์—์„œ ๋‹จ์–ด์˜ ๊ฐ์„ฑ์„ ํŒ๋‹จํ•˜๊ณ  ๋ฌธ๋งฅ ๋‚ด์˜ ๊ฐ์„ฑ์˜ ๊ฐ€์ค‘์น˜๋ฅผ ์ข…ํ•ฉํ•ด ๋ฌธ๋งฅ์˜ ๊ฐ์„ฑ์„ ํŒ๋‹จํ•œ๋‹ค. 
  • ์—ฐ๊ตฌ์—์„œ๋Š” TEANAPS ํŒจํ‚ค์ง€์˜ KoBERT ๋ชจ๋ธ์„ ์‚ฌ์šฉํ•˜์—ฌ ๊ฐ์„ฑ๋ถ„์„์„ ์ง„ํ–‰ํ•˜๊ณ  ์ผ์ž๋ณ„ ํ‰๊ท  ๋ถ€์ • ๋ฆฌ๋ทฐ์˜ ๋น„์œจ์„ ๋„์ถœํ•œ๋‹ค. 

 

โ‘ฃ ์—ฐ๊ตฌ๊ฒฐ๊ณผ 

 

โœ” ํ† ํ”ฝ ๋ชจ๋ธ๋ง : ๊ฒฐ์ œ๋ฐฉ์‹, ๊ธฐ์—…์œค๋ฆฌ, ์ด๋ฒคํŠธ, ๊ณ ๊ฐ๋ฆฌ๋ทฐ, ์„œ๋น„์Šค ์˜ค๋ฅ˜, ์Œ์‹์  ์„œ๋น„์Šค ๋ผ๋Š” ํ† ํ”ฝ ์ถ”์ถœ 

 

โœ” ์‹œ๊ณ„์—ด ์ด์ƒ์น˜ ํƒ์ง€  : ๊ฐ ํ† ํ”ฝ๋ณ„๋กœ ์ด์ƒ์น˜๋ฅผ ๊ฐ€์ง„ ์ผ์ž๋ฅผ ๋ฐœ๊ฒฌํ•˜์—ฌ ๊ฐ์„ฑ๋ถ„์„์„ ์ง„ํ–‰ํ•ด ๋ถ€์ •์  ๊ฐ์ •์„ ํ‘œ์ถœํ•œ ํ† ํ”ฝ์— ๋Œ€ํ•ด ์‚ดํŽด๋ณด์•˜๋‹ค. ์„œ๋น„์Šค ์˜ค๋ฅ˜ (๋„คํŠธ์›Œํฌ ์„œ๋น„์Šค, ์ฃผ๋ง ์‹œ๊ฐ„๋Œ€ ๋กœ๋”ฉ ์ง€์—ฐ) , ๊ธฐ์—…์œค๋ฆฌ (๊ฐœ์ธ์ •๋ณด ์ด์Šˆ, ๋ฐฐ๋ฏผ ์‹ ์ถ˜๋ฌธ์˜ˆ ์ด์Šˆ, ์ˆ˜์ˆ˜๋ฃŒ ์ด์Šˆ) ๋“ฑ์ด ์กด์žฌํ–ˆ๋‹ค. 

 

์ถœ์ฒ˜ : ๋…ผ๋ฌธ ๊ทธ๋ฆผ

 

 

โ‘ค ์—ฐ๊ตฌ์˜์˜

 

โœ” ์œ ์˜๋ฏธํ•œ ๋ฆฌ๋ทฐ ์„ ๋ณ„ : ์œ ์˜๋ฏธํ•œ ๋ฆฌ๋ทฐ ๋ถ„์„์„ ์œ„ํ•ด ํ˜•ํƒœ์†Œ ๋ถ„์„ ์ง„ํ–‰ ํ›„ ๋ช…์‚ฌ์˜ ์ˆ˜๋ฅผ ๊ทผ๊ฑฐ๋กœ ์œ ์˜๋ฏธํ•œ ๋ฆฌ๋ทฐ๋ฅผ ์„ ๋ณ„ 

 

โœ” ๋ฆฌ๋ทฐ ์ฃผ์ œ ๋ถ„๋ฅ˜ : ๋น„์ง€๋„ํ•™์Šต์œผ๋กœ ๋ชจ๋“  ๋ฆฌ๋ทฐ์˜ ์ฃผ์ œ๋ฅผ ์‚ฌ์ „์— ๋ถ„๋ฅ˜ 

 

โœ” ์‹œ๊ณ„์—ด ์ด์ƒ์น˜ ํƒ์ง€ ๋ถ„์„ : ARIMA ๋ชจ๋ธ์„ ์ด์šฉํ•ด ๋ฆฌ๋ทฐ ์ˆ˜๊ฐ€ ๊ธ‰์ฆํ•˜๋Š” ์ผ์ž๋ฅผ ์ถ”์ถœํ•˜์˜€๊ณ  ํŠน์ • ์ฃผ์ œ๋กœ ๋ถ„๋ฅ˜๋œ ๋น„์œจ์ด ๋†’์€ ์ผ์ž๋ฅผ ์„ ๋ณ„ํ•ด ํŠน์ • ์ฃผ์ œ๊ฐ€ ์ง‘์ค‘์ ์œผ๋กœ ๋ฐœ์ƒํ•œ ์ผ์ž์˜ ์„œ๋น„์Šค ์ด์Šˆ๋ฅผ ํŒŒ์•…

 

๐Ÿ‘‰ ์‹œ๊ณ„์—ด ๋ถ„์„์œผ๋กœ ์„œ๋น„์Šค ์œ„ํ—˜ ์š”์†Œ๋ฅผ ์ ์‹œ์— ๊ฐ์ง€ + ํ† ํ”ฝ๋ชจ๋ธ๋ง์„ ๊ทผ๊ฑฐ๋กœ ์ด์Šˆ๋ฅผ ์ž๋™ ๋ถ„๋ฅ˜ 

 

 

 

 

 

 

 

 

728x90

๋Œ“๊ธ€