인공지능 및 기계학습 개론/ML_LEC

ML lec 06-2 Softmax classifier 의 cost함수

개구리는 개꿀개꿀 2020. 2. 11. 10:37

Where is sigmoid?

  • 0~1로 데이터를 압축 시켜줌

 

Softmax

  • N개의 데이터를 입력하게 되면 출력값이 0~1 사이의 값이 나옴
  • 출력 값들의 총 합은 항상 1이 되도록 함
  • One-hot encoding 으로 max값인 데이터를 선택 가능

 

cost function

  • cross-entropy
    • 예측값 S(y), 실제 값 L의 차이

 

Cross-entropy cost function

  • 예측이 맞을 경우 작은 값이되고
  • 예측이 틀린경우 큰 값을 주어 패널티

 

Logistic cost VS cross entropy

 

여러개의 training set -> cost function -> Gradient descent