ML lec 06-1 Softmax Regression: 기본 개념 소개

여러개의 그룹이 있을때 어느 그룹에 속할지 분류하는 Multinomial classification

그중 가장 많이 사용되는 softmax regression

 

Logistic regression : binary classification

• Linear hypothesis(H(X)=WX)에서 출발했지만 return값이 0~1 범위를 벗어남
• sigmoid(logistic) function g(z)로 압축

 

Multinomial classification

• x1, x2, y -> group A, B, C
• Linear(Binary) Classifier for A or not, B or not, C or not
• A classifier Matrix : WX=H(X)
• B classifier Matrix : WX=H(X)
• C classifier Matrix : WX=H(X)
• 하나로 합쳐보자 -> W_ABC * X = H_ABC(X)

Binary Classification 여러개를 사용해서 여러 그룹으로 분류

 

3개의 classifier들을 하나의 matrix 로 표현 가능