비전공자도 쉽게 배우는 인공지능 : Model

목차

서론

• 학습도 중요하지만, 학습-배포 프로세스 관리도 중요하다.

• 실제 ML Code 뿐만이 아니라 데이터 전처리, 검증 과정, 배포 등 여러 신경 쓸 것들이 많다.

• Kaggle : 데이터 수집 및 여러 문제들에 대한 경쟁 사이트

  • 데이터 정제에 대한 시간을 줄여야 하기 때문
  • House Prices
    • 정형 데이터셋

• 딥러닝 말고도 좋은 예측모델을 쓰면 딥러닝보다 좋은 결과를 도출 가능하다!

  

  딥 러닝은 머신러닝 안에 포함되어 있는 하나의 방법 중 하나로써, 이 외에도 여러 모델들이 있다!

예측 모델

MLP (Multi-Layer Perceptron)

• FC (Fully Connected Layer)
  • Matrix(행렬)로 이해하기
    • 각각 component들이 연결된 선들이 weight를 의미.
    • hidden layer의 의미는 weight를 묶은 하나의 행렬이다.
• MLP
  • FC가 여러개 겹쳐져 있는 것
  • One-Hot Encoding
    • ex) 5 → [0,0,0,0,1,0,0,0] 이런식으로 만들어주는 것.
    • categorical 하게 만들 때 사용
  • param 갯수 : x*y+bias(y)
    • ex) 256 X 128 hidden layer → 256*128+128=32896

Decision Tree

• Machine Learning 알고리즘 중 하나!
• 개념

  • Impurity : 정보의 순도

    • 두 갈래로 나누었을 때 정확도가 높은 feature를 표현.
    • Decision Tree의 Node는 Impurity를 활용하여 결정!

  • Gini

    • Impurity 측정 방법은 여러가지, Gini 계수가 대표적
    • 낮으면 낮을수록 순도가 높은 것.
    • Tree의 Gini 계수 구하는 방법.

    

    • 항목의 Gini 계수 구하는 방법. (Weighted Sum)

    

  • Decision Tree 자라는 정도

    • Tree를 만들었을 때 자체의 Gini 계수가 높아지면 그만두고 그 항목을 의사결정 항목으로 만들어버림.

Ensemble

Random Forest

• Decision tree를 여러개 만들고, 결과를 voting하여 최종 결과 값으로 사용.
• 서로 다른 Tree 제작
  • Data를 전부 사용하는 것이 아닌, sampling하여 일부만 사용하여 Decision Tree 제작
  • 여러 개의 tree를 사용하여 결과 종합.