본문 바로가기

LinkedIn
깃허브 바로가기

1️⃣ AI•DS/📙 Model4

HMM 기본 코드/응용사례 정리 ① 개념 보충 ◯ Markov chain • HMM 은 마르코프 체인을 확장한 모델이다. • 마르코프 연쇄는 마르코프 성질을 가진 이산확률과정 (discrete-time stochastic process) 을 의미한다. 시간에 따른 시스템 상태의 변화를 타나내며 이를 전이 Transition 이라고 부른다. • 마르코프 성질 : 미래의 상태는 오직 현재의 상태 혹은 더 이전의 일정기간에만 영향을 받는다. 미래의 어떤 상태를 예측하기 위해 과거의 긴 이력을 필요로 하지 않는 성질을 의미한다. 즉, 과거와 현재 상태가 주어졌을 때의 미래 상태 조건부 확률 분포는 과거 상태와는 독립적으로 현재 상태에 의해서만 결정된다. • 이산확률과정 : 시간이 연속적으로 변하지 않고, 이산적으로 변하며 (현재 상태에서 그냥.. 2024. 1. 5.

HMM 기초 개념 정리 - ② Decoding, Learning ※ 참고링크 ① HMM - Part2 (Decoding) ◯ Decoding Problem → HMM 의 핵심 ▢ Decoding 문제 정의 • Problem : HMM(λ*) 과 O 가 주어졌을 때, 최적의 S 를 찾는 것 (가장 그럴싸한 은닉상태의 시퀀스 결정) • Solution : Viterbi algorithm • ex. 정 박사가 오늘 산책, 내일 산책, 모레 연구, 글피 쇼핑했다면, 각 날들 날씨는 ? ▢ Viterbi algorithm • vt(i) : t 번째 시점의 i 은닉상태의 확률 [t=1 에서의 계산] • v1(1) = (S1이 t=1에서 발생할 확률) • (S1 은닉상태에서 산책이 관찰될 확률) = π1•b1(산책) • v1(2) = (S2가 t=1에서 발생할 확률) • (S2 .. 2024. 1. 4.

HMM 기초 개념 정리 - ① 개념, Evaluation ※ 참고링크 ① HMM - Part1 (개념) ◯ 순차 데이터 • 시간에 따라 얻어지는 데이터 • 시간성 특성이 있음 • 예시 ↪ 하나의 제품이 완성품이 될 때까지는 10개의 공정을 거치고, 각 공정별로 여러 설비 종류를 가지고 있음 ↪ 공정을 거치는 것을 시간의 흐름으로 볼 수 있음 • 순차 데이터 인식 예시 ◯ Hidden Markove Model (HMM) • 순차 데이터를 확률적 (Stochasic) 으로 모델링 하는 생성 모델 (Generative model) ◯ Markove Model 이란 • state 로 이루어진 sequence 를 상태 전이 확률 행렬로 표현하는 것 • 상태 전이 확률 행렬 : 상태가 변화하는 것을 확률로 표현 ↪ 상태 전이 확률을 sum 으로 나눠주기 ↪ ex. 비에서.. 2024. 1. 3.

Tabnet 0️⃣ Tabnet Tree 기반 모델의 변수 선택 특징을 네트워크 구조에 반영한 딥러닝 모델 1️⃣ 배경 ✔ 기존 딥러닝 모델은 이미지, 음성, 언어와 같은 비정형 데이터에만 적용되었음 ✔ 정형 데이터 Tabular Data 는 최근까지도 kaggle 같은 여러 대회에서 XGBoost, LightGBM, CatBoost와같은 Tree기반의 앙상블 모델을 주로 사용했음 👀 딥러닝의 점진적 학습 특성 + 사전학습 가능성은 새로운 분석 기회를 도출 👀 트리기반 모델 + 신경망 모델 구조 의 장점을 모두 갖는 Tabnet 을 제안 👉 feature selection & engineering + 모델 해석력을 갖춘 신경망 모델 2️⃣ Tabnet 논문 리뷰 🧐 앙상블 모델이 딥러닝 모델보다 우수한 이유 (1) .. 2022. 3. 31.

이전 1 다음

728x90

티스토리툴바