[딥러닝 파이토치 교과서] 1장 머신러닝과 딥러닝

 

✅  머신러닝과 딥러닝  

 

 

 

1️⃣  인공지능, 머신러닝과 딥러닝 

---

 

◇ 인공지능 : '인간의 지능을 모방' 하여 사람이 하는 일을 기계가 할 수 있도록 하는 기술  

 

◇ 인공지능 > 머신러닝 > 딥러닝 

 

∘  머신러닝 : 인공신경망, 서포트 벡터 머신, 결정 트리 ∙∙∙

∘  딥러닝 : CNN, RNN, RBM ∙∙∙

 

✔ https://koreapy.tistory.com/1223 : RBM 설명 참고 

 

 

◇ 머신러닝과 딥러닝의 차이 

 

∘  머신러닝 : Input > 특성 추출 (인간이 처리) > 분류 (컴퓨터가 처리) > output 

∘  딥러닝 : Input > 특성 추출 + 분류  (컴퓨터가 처리) > output 

∘  데이터에 대한 특징을 스스로 처리하는지의 여부에 따라 딥러닝과 머신러닝이 구분된다. 

 

 

✔ feature extraction 특성 추출 : 사람이 인지하는 데이터를 컴퓨터가 인지할 수 있는 데이터로 변환하는 작업으로, 데이터 별로 어떤 특징이 있는지 찾아내고 이를 바탕으로 데이터를 벡터로 변환하는 작업 

 

 

 

 

 

 

 

2️⃣  머신러닝이란 

---

 

지식이나 패턴을 찾아 학습하고 예측을 수행하는 것

컴퓨터가 학습할 수 있게 하는 알고리즘과 기술을 개발하는 분야 

 

 

 

◇ 머신러닝 학습 과정 

 

∘  크게 학습 단계 Training 와 예측 단계 prediction 으로 구분할 수 있다. 

∘  구성 요소는 데이터와 모델 

 

• 데이터 : 편향되지 않은 훈련 데이터를 확보하는 것이 중요, 수집 후 훈련 데이터셋과 테스트 데이터셋으로 용도를 분리하여 사용한다. 
• 모델 : '가설' 이라고 한다. "입력 데이터의 패턴은 A 와 같다" 라는 가정을 '모델' 이라고 한다. 

 

✔ 검증 데이터셋  (모델 성능 평가) 이 필요한 이유 

 

∘ 참고로 학습에 사용되는 데이터셋의 양이 많으면 검증 데이터셋을 사용하는 것은 좋지 않다. 

∘ First. 딥러닝의 목적은 새롭게 수집될 데이터에 대해 정확한 예측을 하는 것이므로, 테스트 데이터셋에 대한 성능을 검증 데이터로 가늠해볼 수 있다는 장점 

∘ Second. 모델의 성능을 높이는데 도움을 준다. 검증 데이터에서 정확도가 낮으면 과적합이 일어났을 가능성을 고려해 정규화를 하거나 에포크를 줄이는 방식으로 과적합을 미리 막을 수 있다. 

 

 

 

◇ 머신러닝 학습 알고리즘 

 

∘  지도학습, 비지도학습, 강화학습 

∘  지도학습 : 정답이 주어지는 학습 방법 

∘  비지도학습 : 유사도 기반 (데이터 간 거리 측정) 으로 특징이 유사한 데이터끼리 묶어서 분류 

∘  강화학습 : 행동에 대한 보상을 받으며 학습을 진행 

 

 

 

 

 

3️⃣ 딥러닝이란 

---

 

◇ 딥러닝이란 

 

∘  인간의 뇌를 기초로 설계

∘  수많은 뉴런을 병렬연산 하여 컴퓨터가 수행하지 못했던 음성, 영상 인식 등 처리를 가능하게 한다. 

∘  데이터 준비 → 모델 정의 → 모델 컴파일 (옵티마이저 선택, 손실함수 선택) → 모델 훈련 → 모델 예측 

∘  모델 정의 단계에서 신경망을 생성하는데, 이때 은닉층의 개수가 많을수록 성능은 좋아지나 과적합이 발생하기 때문에 신경망을 제대로 형성하는 것이 중요하다. 

∘  모델 컴파일 단계에서 활성화 함수, 손실함수, 옵티마이저를 선택한다. 데이터 형태에 따라 다양한 옵션이 존재한다. 

∘  모델 훈련 단계에서는 한번에 처리할 데이터 양을 지정한다. 즉, 일정한 묶음으로 나누어 처리할 수 있는 배치와 훈련의 횟수인 에포크 선택이 중요하다. 훈련 과정에서 성능을 살펴보며 파라미터와 하이퍼파라미터에 대한 최적 값을 찾아야 한다. 

∘  딥러닝 핵심 구송요소는 신경망과 역전파 

 

 

✔ 배치 : 1000개의 데이터셋에 대한 배치 크기가 20이면, 샘플 단위 20개일 때마다 모델 가중치를 한 번씩 업데이트 한다는 의미 

 

✔ 성능이 좋다는 것 : 예측을 잘한다 (정확도가 높다), 훈련 속도가 빠르다 

 

 

 

 

◇ 딥러닝 학습 알고리즘 

 

 

∘  지도학습 

 

• 합성곱 신경망 CNN : 이미지 분류, 이미지 인식, 이미지 분할 
• 순환 신경망 RNN : 시계열 데이터를 분류 (ex. LSTM) 

 

 

∘  비지도학습

 

• 워드 임베딩 : 단어를 벡터로 표현하는 기법. Word2Vec, GloVe
• 군집 : 머신러닝의 군집화와 함께 사용하는 경우가 주로 많음. GMM, SOM
• 차원축소 : AutoEncoder, PCA 

 

∘  전이학습 

 

• 사전에 학습이 완료된 pre trained model 을 가지고 원하는 학습에 미세조정 (fine tuning) 기법을 이용해 학습시키는 방법
• 사전에 학습이 완료된 모델이 필요하다. 사전학습모델은 풀고자 하는 문제와 비슷하면서 많은 데이터로 이미 학습이 되어있는 모델이다. VGG, Inception, MobileNet 같은 사전학습 모델을 사용하면 효율적인 학습이 가능하다. 
• BERT, MobileNetV2