본문 바로가기

LinkedIn
깃허브 바로가기

1️⃣ AI•DS/📕 머신러닝12

Uplift modeling 참고 아티클1 참고 아티클2 • 업리프트 모델은 treatment 반응으로 얻을 수 있는 점진적 가치 ( incremental value ) 를 예측한다. https://pylift.readthedocs.io/en/latest/index.html Welcome to pylift’s documentation! — pylift 0.1.3 documentation Welcome to pylift’s documentation! pylift is an uplift library that provides, primarily, (1) fast uplift modeling implementations and (2) evaluation tools. While other packages and more exact meth.. 2023. 6. 6.

데이터마이닝 Classification (decision tree) 1. Basic Concepts ① Definition • Classification task • Given a collection of records (training set), we find a model for the class attribute as a function of the values of other attributes. Each record contains a set of attributes, and one of the attributes is the class. • Previously unseen records (test set) should be assigned a class as accurately as possible ↪ A test set is used to determine .. 2023. 4. 15.

데이터마이닝 Association analysis 1. Basic Concepts ① Overview • Motivation : finding inherent regularities in data ↪ 함께 구매되는 상품이 무엇이 있을까 ↪ PC 를 사고난 직후에 구매하는 상품은 뭐가 있을까 ↪ 새로운 약에 민감한 DNA는 어떤 종류가 있을까 ↪ 웹문서를 자동으로 분류할 수 있을까 ⇨ 연관된 규칙을 찾아보자 • Application ↪ Basket data analysis, cross-marketing, catalog design, sale campaign analysis, Web log (click stream) analysis, and DNA sequence analysis ② Association Rule Mining • Given a set of .. 2023. 3. 29.

데이터마이닝 Preprocessing ③ 1. Data Cleaning ① Data quality → preprocess 를 하는 이유 • Accuracy, Completeness, Consistency, Timeliness, Believability, Interpretability ② Data Cleansing • Data in the real world is dirty • Incomplete, Noisy, Inconsistent, Intentional ③ Incomplete: lacking attribute values, lacking certain attributes of interest or containing only aggregate data ex. missing data ↪ 센서기기가 고장났거나, 정보가 쉽게 모이지 않거나, 아이들.. 2023. 3. 29.

데이터마이닝 Preprocessing ② 1. Types of data sets • Relational Records ↪ collections of records, each of which consists of a fixed set of attributes • Data matrix: record data ↪ If the data objects have the same fixed set of numeric attributes, the data objects can be thought of as points in a multi-dimensional space, where each dimension represents a distinct attribute ↪ m by n matrix, m rows, n columns • Document data: r.. 2023. 3. 15.

데이터마이닝 Preprocessing ① 1. GOAL of the course • 데이터마이닝의 기본 개념들 • 데이터 전처리 (data preprocessing) • Association, correlation, and frequent pattern analysis • Classification • Cluster and outlier analysis • Data Mining: Industry efforts and social impacts 2. Technology Trend • Explosive growth of data : from terabytes to petabytes ↪ Big data, Internet of Things, Web2.0, Scientific simulation • Motivation of Data Mining ↪ In.. 2023. 3. 15.

[05. 클러스터링] K-means, 평균이동, GMM, DBSCAN 1️⃣ K-means clustering 👀 개요 💡 k-means clustering ✔ 군집화에서 가장 일반적으로 사용되는 알고리즘 ✔ Centroid = 군집 중심점 이라는 특정한 지점을 선택해 해당 중심에 가장 가까운 포인트들을 선택하는 군집화 기법이다. 1. k 개의 군집 중심점을 설정 2. 각 데이터는 가장 가까운 중심점에 소속 3. 중심점에 할당된 데이터들을 대상으로 평균값을 구하고 그것을 새로운 중심점으로 설정 4. 각 데이터는 새로운 중심점을 기준으로 다시 가장 가까운 중심점에 소속됨 👉 중심점의 이동이 더이상 없을 때까지 반복 💡 장단점 💨 장점 ✔ 일반적인 군집화에서 가장 많이 활용되는 알고리즘 ✔ 알고리즘이 쉽고 간결함 💨 단점 ✔ 거리기반 알고리즘으로 속성의 개수가 많으면 군집화 .. 2022. 5. 7.

[06. 차원축소] PCA, LDA, SVD, NMF 01. 차원축소 👀 개요 매우 많은 피처로 구성된 다차원 데이터 세트의 차원을 축소해 새로운 차원의 데이터 세트를 생성하는 것 PCA, LDA, SVD, NMF 알고리즘 차원이 큰 경우 차원이 작은 경우 sparse 한 구조 👉 예측 신뢰도 하락 시각화가 가능해 직관적으로 데이터를 해석하는 것이 가능해진다. 피처별 상관관계가 높을 수 있음 👉 다중 공선성 문제로 예측 성능 저하 학습에 필요한 처리 능력을 줄일 수 있다. 📌 피처 선택 vs 피처 추출 피처 선택 : 특정 피처에 종속성이 강한 불필요한 피처를 아예 제거하여 데이터의 특징을 잘 나타내는 주요한 피처만 선택하는 방식 피처 추출 : 기존 피처를 저차원의 중요 피처로 압축해서 추출 👉 단순한 압축이 아닌, 피처를 함축적으로 더 잘 설명할 수 있는 .. 2022. 4. 24.

[05. 회귀] 선형회귀, 다항회귀, 규제회귀, 로지스틱회귀, 회귀트리 👀 회귀분석 - 데이터 값이 평균과 같은 일정한 값으로 돌아가려는 경향을 이용한 통계학 기법 - 여러 개의 독립변수와 한 개의 종속변수 간의 상관관계를 모델링 하는 기법을 통칭한다. - 종속변수는 숫자값(연속값) 이다. - 머신러닝 회귀 예측의 핵심은 '최적의 회귀계수' 를 찾아내는 것! 독립변수의 개수 회귀 계수의 결합 1개 : 단일회귀 선형 : 선형 회귀 여러개 : 다중 회귀 비선형 : 비선형 회귀 - 회귀 분석의 objective : RSS (오차제곱합) 을 최소로하는 회귀 변수 (w) 찾기 03. 경사하강법 📌 개요 💡 경사하강법 데이터를 기반으로 알고리즘이 스스로 학습한다는 개념을 가능하게 만들어준 핵심 기법 점진적으로 반복적인 계산을 통해 W 파라미터 값을 업데이트하면서 오류 값이 최소가 되는.. 2022. 3. 25.

[04. 분류] LightGBM, 스태킹 앙상블, Catboost 07. LightGBM 📌 개요 💡 LightGBM XGBoost 와 예측 성능은 비슷하지만 학습에 걸리는 시간이 훨씬 적으며 다양한 기능을 보유하고 있다. 카테고리형 피처의 자동 변환(원핫인코딩을 하지 않아도 됨) 과 최적 분할 수행 균형 트리 분할 방식이 아닌 리프 중심 트리 분할 방식을 사용한다. 그러나 적은 데이터 세트 (10,000건 이하) 에 적용할 경우 과적합이 발생하기 쉽다. 리프중심 트리 분할 Leaf wise : 트리의 균형을 맞추지 않고 최대 손실값을 가지는 리프노드를 지속적으로 분할한다. 학습의 반복을 통해 결국 균형트리 분할 방식보다 예측 오류 손실을 최소화할 수 있게 된다. 📌 하이퍼 파라미터 LightGBM 은 XGBoost 와 파라미터가 매우 유사하지만, 주의할점은 리프노드가.. 2022. 3. 20.

이전 1 2 다음

728x90

티스토리툴바