핸즈온 머신러닝 3장. 분류

 

2장에서 캘리포니아 주택 가격을 예측하는 모델을 만드는 전체 과정을 다뤘다면 이번 장에서는 분류에 대해서 다룰 것이다.

목차는 다음과 같다.

 

 

1. 데이터셋 들여다보기
2. 이진 분류기 테스트
3. 분류 성능 측정
4. 다중 분류
5. 오류 분석
6. 다중 레이블 분류
7. 다중 출력 분류

 

 

---

1. 데이터셋 들여다보기

 

< MNIST 데이터셋 >

 

• 2장에서는 값을 예측하는 회귀를 다뤘고 이번 장에서는 클래스를 나누고 예측하는 분류에 대해 알아볼 것이다
• 여기서는 MNIST라는 숫자 손글씨 이미지를 다뤄보겠다. 이 데이터셋은 간단한 토이 프로젝트나 공부하기에 자주 사용되는 데이터셋이며 0에서 9까지 10개의 숫자들이 손글씨로 써진 이미지를 가지고 있다

 

 

• 데이터의 형태는 X.shape, y.shape ⇒ ((70000, 784), (70000,)) 이며 28x28 픽셀의 이미지들이 784 크기 한 줄로 총 70000장이며 채널이 하나인 흑백 이미지이다
• 이미지들은 0(흰색)부터 255(검정색)까지의 픽셀로 표현되어 있다.

 

 

• 이전 2장에서 배운대로 모델 최종 성능 평가를 위한 테스트셋을 미리 분리해두겠다.
• 데이터가 만약 1111222233334444 이렇게 순서대로 들어있는데 섞지않고 분리하면 학습할 때 편향이 생길 수 있으니 잘 섞어야하지 않을까- 라는 생각이 들텐데 그럼 2장에서 아주 잘 배운것이다. 다행히 이 MNIST는 이미 잘 섞여있기 때문에 여기서는 순서대로 데이터셋을 분할해보겠다
• 불러온 데이터셋이 종종 잘 섞여 있지 않은 경우도 있다고 하니 2장에서 배운 데이터를 분할해주는 기능들, 랜덤 셔플링과 계층적 샘플링을 추가로 사용하면 좋다!
• 그럼 이제 본격적으로 이진 분류기 훈련을 시작해보겠다

 

 

---

2. 이진 분류기 테스트

• 분류에는 여러가지 종류가 있다. 둘 중 하나, Yes or No 두 가지를 분류하는 이진부류 부터 현재 예제로 사용하고 있는 0~9의 숫자를을 분류하는 다중 분류, 하나의 이미지에 대해 여러 개의 정보를 분류하는 다중 레이블 분류, 다중 출력 분류까지 하나씩 알아볼 것이다
• 여기서는 MNIST 데이터를 이용해 숫자 하나를 선택하고 그 숫자인가 아닌가를 판별하는 이진 분류기를 만들어보겠다.
• 숫자는 5로 정하고 5임, 5가 아님 2개의 클래스로 진행하겠다

 

 

 

5와 5가 아닌 정답으로 새로운 y값 만들기

 

• 이진 분류기에 맞게 데이터셋을 준비하는 과정은 간단하다. 데이터셋에 조건을 줘서 True, False로 이루어진 배열을 만드는 것이다. PPT의 코드처럼 배열에 5를 조건으로 주면 5인 숫자들은 True로, 그 외에 숫자들은 False로 표기된다
  

 

• 모델은 책에서 제시한 SGDClassifier를 사용하여 학습시키고 이미지를 넣어봤더니 정확히 5를 맞추는 것을 볼 수 있다!

 

---

3. 분류 성능 측정

3.1 교차 검증과 정확도

• 2장에서 사용했던 교차 검증을 통해 이진 분류기를 평가해보겠다. 전에 배운 K-Fold를 활용할 것이다.
• cv=3는 이전에 봤던 3개의 폴드로 나눠서 평가한다-였고 scoring=’accuracy’, accuracy, 정확도는 분류 평가 지표 중 하나로 이전의 회귀에서 사용했던 RMSE와는 다른 평가 방법을 가진다
• accuracy. 정확도에 대해서 간단히 설명하자면 전체 데이터 개수 중 정답을 맞춘 개수, 비율을 의미한다.
  100개 중 70개를 맞췄다면 accuracy는 70%이다.

 

 

• 교차검증을 통해 나온 정확도는 각각 0.95, 0.96, 0.96으로 정말 높은 성능을 보여주고 있다. 이렇게 5를 판별하는 이진 분류기의 성능은 정확도 0.95 이상을 보여주며 매우 뛰어나다고 생각할 수 있다
• 하지만 정말 성능이 좋은게 맞는걸까?? 숫자 5의 이미지는 전체 이미지에서 10%, 정말 일부에 불과하다..
• 잠깐 정확도에 대해서 설명했었는데 정확도는 5라고 맞추든 5가 아니라고 맞추든 정답을 맞추기만 하면 높게 나온다!!
• 그럼 여기서 의문점이 하나 들어야한다.
  분명 숫자 5의 이미지는 전체 데이터에서 10% 밖에 되지 않고 정말 적은데 그럼 숫자5가 아니라고 대충 때려도 거의다 맞지 않을까?? ⇒ 맞다.. 90% 이상의 데이터가 5가 아닌 이미지들이므로 전부 5가 아니라고 해도 90% 이상의 성능이 보장되는 것이다.
• 이런 모델은 5를 맞추는 것이 더이상 중요하지 않다. 이렇게 클래스의 불균형한 데이터셋 (5는 10%, 5아님은 90%)을 다룰 때 accuracy, 정확도는 모델의 성능을 나타내는 지표가 될 수 없다.
• 따라서 분류기의 정확한 성능을 평가하기 위해서는 오차 행렬을 활용한다.

 

---

3.2 오차 행렬

• 오차 행렬, Confusion Matrix라고도 하는 이 행렬은 무엇일까?? 왜 불균형한 데이터셋에서 분류기의 성능을 이 오차 행렬을 사용해서 평가해야 할까??
• 간단히 말하자면 모델이 맞춘 것과 틀린 것을 한눈에 보여주는 표, 예측의 성공과 실패를 숫자로 나타낸 표 -라고 할 수 있다. 자세한 내용은 책의 내용과 같이 보면서 하나씩 설명하도록 하겠다

 

실제값과 모델의 예측값을 이용해 오차행렬을 구해주는 sklearn의 confusion_matrix

 

• 오차 행렬을 그리기 위해선 데이터에 대한 실제값과 예측값을 비교하는 과정이 필요하므로 먼저 예측값을 만들어주었다
• 그리고 실제값과 예측값, 사이킷런의 오차 행렬을 만들어주는 기능을 사용하여 2x2의 행렬을 만들었다

 

.

오차행렬 (Confusion Matrix)

 

• 먼저 단어들에 대해 설명해보자면
  • TN, TP, FN, FP 이렇게 4개가 있는데 처음 본다면 뭐가 뭔지 굉장히 헷갈릴 것이다. 그래서 먼저 위치를 인지하고 있는 것이 매우 중요하다
  • 4개 단어를 잘 살펴보면 앞글자는 T 아니면 F이고 뒷글자는 P 아니면 N이다. 다른 자료들을 찾아봐도 NT, PT, PF, NF 이렇게 거꾸로 되어 있는 것은 볼 수가 없을 것이다.
  • True, False는 예측을 맞췄는지, 틀렸는지이다.
  • Positive, Negative는 예측한 결과이다
  • 그래서 해석할때는 Positive or Negative로 예측했는데! → 맞췄다! True or 틀렸다… False 이렇게 하면 된다

 

 

• 그럼 이제 숫자들을 한번 해석해보겠다
  • 53,892, Negative, 5가 아님으로 예측했는데 / 실제로도 Negative, 5가 아님이여서 맞췄다! 그래서 TN ⇒ 모델이 '5'가 아닌 숫자들 중에서 53,892개를 정확히 '5'가 아니라고 맞췄어요.
  • 687, Positive, 5로 예측했는데 / 실제로는 Negative, 5가 아니였다… 틀렸다ㅠㅠ 그래서 FP ⇒ 모델이 '5'가 아닌 숫자들 중에서 687개를 잘못해서 '5'라고 예측했어요.
  • 1891, Negative, 5가 아님으로 예측했는데 / 실제로는 Positive, 5였다.. 틀렸다ㅠㅠ 그래서 FN ⇒ 모델이 '5'인 숫자들 중에서 1,891개를 잘못해서 '5'가 아니라고 예측했어요.
  • 3530, Positive, 5로 예측했는데 / 실제로도 Positive, 5였다! 맞췄다! 그래서 TP ⇒ 모델이 '5'인 숫자들 중에서 3,530개를 정확히 '5'라고 맞췄어요.
• (이 행렬은 출력값과 책의 내용에 기반하여 그린 것이다. 다른 자료에서 Negative와 Positive 위치나 Actual, Predict가 바뀌어있는 경우가 많은데 내용만 잘 이해한다면 위치는 크게 상관없다. 하지만 헷갈리기 쉬우므로 고정된 위치로 외우는 것을 추천한다.)

---

3.3 정밀도와 재현율, F1-Score

 

 

정밀도와 재현율.. 앞의 오차 행렬에서 TN, TP, FN, FP만큼이나 많이 헷갈릴 것이다. 분자는 똑같으니 분모를 집중적으로 보고, 분모가 어떤 데이터들로 이루어져 있는지에 집중하면 이해하기 좀 더 수월하다.

 

정밀도

• 정밀도는 모델이 양성, Positive로 예측한 샘플 중 실제로 양성인 샘플의 비율을 나타낸다. 정밀도가 높다면 양성 예측이 정확하다는 의미이다
• 쉽게 말하자면 우리가 예측한 것 중에서 실제로 맞춘 개수의 비율이다.
• 분모에서 TP + FP를 보면 둘다 뒷글자가 P로 통일되어 있는데 이건 맞든 틀리든 일단 Positive로 예측한다는 것이다. 그리고 거기서 실제로 맞춘 비율을 구하면 정밀도를 구할 수 있다
• 그럼 어느 상황에 정밀도라는 지표가 사용하기 적합할까?? 식을 보면 알 수 있듯이 TP는 분자와 분모에 공통으로 들어있기 때문에 정밀도가 높아지려면 FP가 낮아야한다
• 이전 CCTV 회사의 사례를 들자면 FP는 실무에서 보통 오탐이라고 부른다. 사람이나 연기를, 원하는 객체를 탐지해야 하는데 엉뚱한 곳을 탐지했을 때 웹과 핸드폰 앱에 불필요한 알람이 늘어나기 때문에 항상 해결해야하는 문제였다
• 사람을 탐지하는 CCTV의 경우 사람이 없는 시간대에서 잘못된 예측을 할 경우 불필요한 알람 발생과 신뢰도 저하 등 여러모로 부정적인 영향이 있으므로 정밀하게 예측하는 것, 정밀도가 높아야한다!

 

 

재현율

• 재현율이란 실제 양성, Positive 샘플 중에서 모델이 양성으로 정확히 예측한 샘플의 비율을 말한다. 재현율이 높으면 실제 양성 샘플을 잘 찾아낸다는 의미이다
• Positive, 실제값 전체 개수 중 맞춘 비율을 말한다.
• 분모의 TP + FN을 보면 Positive로 맞춘 것, Negative로 예측했는데 틀린것 = positive인 것. 전부 Positive인 것들로만 이루어져있다. 실제로 있는 값에서 얼마나 정확히 예측을 해내는가, 얼마나 잘 찾아내는가-가 포인트이다.
• 아마 앞의 정밀도와 많이 헷갈릴 것 같은데 둘의 차이점은 딱 하나, 분모에 무엇이 있는지, FP이냐 FN이냐 이다.
• FN은 미탐이라 한다. 없다고 생각했는데 사실은 있었던, 못 잡아낸 것이다.
• 앞의 CCTV 회사를 예시로 계속 이어가자면 사람 탐지하는 카메라? 비슷한 물체를 사람으로 오탐지하거나 사람을 못잡아내어 미탐이 발생하더라도 큰 치명적인 문제까진 이어지지 않는다
• 하지만 화재를 잡아내기 위해 연기를 탐지해야 한다면 놓쳤을 경우 매우 치명적이므로 이런 경우에 재현율을 높이는 것이 필요하다

 

한마디로 정리하자면 정밀도는 예측을 정확하게, 오탐지를 줄이는 것, 그리고 재현율은 하나도 빠짐없이 잡아내는 것, 미탐지를 줄이는 것이 각각의 핵심이라고 할 수 있다

 

책의 예제로 간단히 정밀도와 재현율을 계산해보았다. 정밀도는 0.8370이, 재현율은 0.6511이 나왔다

 

이렇게 정밀도와 재현율 값은 오차행렬을 계산하여 직접 대입해서 구할 수도 있으며 사이킷런에서 실제값과 예측값을 넣어주면 정밀도와 재현율을 구해주는 기능을 사용할 수도 있다

 

 

F1-Score

 

• 정밀도와 재현율 값을 구했을 때 의문점이 들 것이다.
  그래서 이 점수들이 어느 정도로 높아야 좋은걸까?? 둘 중 하나가 더 높은데 이걸 좋다고 받아들여도 되는걸까??
  
  
• 모델의 성능은 정밀도와 재현율 2개의 값을 조화평균이란 계산을 통해 구한 값, F1-Score라는 하나의 값으로 평가하기도 한다
• 두 지표의 균형을 평가하는데 사용되며, 정밀도와 재현율의 균형을 고려하여 모델의 전반적인 성능을 한번에 평가할 수 있다
  • 조화 평균에 대해서 간단히 설명해보자면 조화 평균은 수학적 평균의 한 종류로 주로 비율을 다룰 때 유용하다.
    우리가 아는 전체 값을 다 더하고 개수로 나누는 일반적인 평균은 산술평균이라 한다.
    
    

 

 

 

• 왜 F1-Score를 사용하면 좋을지 간단하게 설명하자면
  • 정밀도와 재현율은 서로 트레이드오프 관계로 하나가 높으면 다른 하나가 낮아지는데 F1-Score는 이 둘의 조화 평균을 사용하여 균형 잡힌 평가를 제공할 수 있다.
    
  • 조화 평균은 매우 작은 값에 더 큰 가중치를 부여하기 때문에 만약 두 값 중 하나가 매우 낮으면 F1-Score도 낮아지며, 이는 모델이 어느 한 측면에서 매우 성능이 떨어진다는 것을 알 수 있다. 즉, 치우치지 않은 평가를 한다.
  • 대부분의 데이터셋은 클래스가 불균형한데 이럴 경우 정확도는 모델의 성능 측정 지표가 될 수 없다. F1-Score는 정밀도와 재현율을 동시에 고려하므로 데이터 불균형으로 발생하는 문제를 완화시킨다
  • 정밀도와 재현율 두 개의 값 대신 하나의 값으로 표현하면 모델의 성능을 한 눈에 파악하기 쉽다.
• 앞의 설명에서 정밀도와 재현율이 서로 트레이드오프 관계라고 얘기했었는데 여기에 대해서 더 자세하게 알아보겠다

 

 

 

---

3.4 정밀도와 재현율 트레이드 오프

 

• 정밀도와 재현율 트레이드 오프 관계를 이해하기 위해서는 모델의 출력값과 Positive와 Negative를 결정하는 임계값, threshold라는 값을 잘 알아야한다
• 먼저 모델의 출력에 대해 이해해야 한다. 이진 분류 모델의 경우 마지막 출력 레이어에 시그모이드 함수를 거쳐 0과 1사이의 확률값으로 출력한다.
• 그리고 그 확률이 임계값이라는 기준보다 높다면 1, 그렇지 않으면 0으로 최종 분류하는 식이다. 보통은 0.5로 되어 있으나 조정할 수 있다.
• 따라서 임계값이 얼마인가에 따라 Positive였던 값이 Negative가 되기도 하고 그 반대가 되기도 한다.
• 임계값이 높을수록 재현율이 낮아지고 정밀도가 높아진다.
• 왜 임계값이 높아지면 재현율은 낮아지고 정밀도는 높아질까??
  • 재현율은 미탐, 실제로 있는데 못잡는 걸 줄여야하는데 기준이 너무 높아지면 실제로 5인 이미지들도 확률이 기준보다 낮기 때문에 5가 아니라고 판단해서 재현율이 낮아지게 된다
  • 임계값이 높아지면 기준이 엄격해지면서 5로 판별한 확률이 높은 것들만 5라고 인정되기 때문에 틀릴 확률이 굉장히 낮아지며 예측확률이 높아지므로 정밀도가 높아지게 된다

 

• 책에 있는 그래프들을 보면 Threshold 값에 따라 정밀도와 재현율이 서로 교차하는 것을 볼 수 있다
• 그래프를 보면 두 값의 교차지점을 확인할 수 있는데 이 때가 재현율과 정밀도가 둘다 높은 최적 지점임을 알 수 있다

 

 

• threshold가 확률값 기준으로 되어 있는 예시를 보여주기 위해 책에서 사용한 SGD 모델이 아닌 로지스틱 모델로 그린 그래프를 가져왔다
• 밑의 threshold 값에 따라 정밀도와 재현율이 서로 교차하는 모습을 볼 수 있다
• 정밀도와 재현율 그래프가 다소 이상하게 보이는 이유는 정밀도가 0.5 이하일 때 재현율 값이 1에 근접한 값을 가지기 떄문이다
• 이렇게 그래프를 보면서 혹은 직접 정밀도와 재현율 값을 통해 원하는 목적에 맞는 임계값을 설정할 수 있다
• 다음은 ROC 곡선에 대해 알아보겠다

 

 

 

---

3.5 ROC Curve & ROC AUC Score

 

 

 

• ROC 커브란 이진 분류에서 널리 사용되는 도구로 FPR(False Positive Rate)에 대한 TPR(True Positive Rate, =재현율) 곡선 그래프를 말한다
• TPR, 재현율에 대해서는 이미 얘기했으니 FPR이 무엇인지, FPR을 어떻게 구하는지에 대해 알아야한다
• 거짓 양성률, FPR이란 분류 모델이 전체 실제 Negative 샘플을 Positive로 잘못 분류한 비율을 말한다.

 

 

 

 

• roc_curve 함수를 통해 fpr, tpr, thresholds 값을 구할 수 있다. 정밀도와 재현율처럼 threshold값에 따라 fpr과 tpr값이 달라지며 이를 그래프로 그릴 수 있다.

 

 

 

• RoC 커브는 위와 같다. FPR이 커질수록 TPR도 같이 커지는 것을 볼 수 있다. 이 곡선이 좌측 상단에 가까울수록 좋은 성능을 나타낸다.
• 왼쪽 상단은 높은 재현율과 낮은 FPR을 의미한다. 왜 재현율이 높고 FPR이 낮으면 성능이 좋을까?? 재현율이 높다는 것은 실제 Positive 샘플 중에서 모델이 대부분 찾아낸다는 것이며 FPR이 낮다는 것은 FP로 탐지하는 비율이 낮다는 것을 의미하므로 성능이 좋다고 할 수 있다

 

 

• AUC는 Area Under the Curve의 약자로 ROC 곡선 아래의 면적을 말한다.
• AUC는 0과 1사이의 값을 가지며 0에 가까울수록 모델의 성능이 안좋고 1에 가까울수록 좋다
• AUC는 모든 범위의 임계값을 고려하기 때문에 모델의 성능을 종합적으로 평가할 수 있다. 또한 ROC커브를 그래프로 그림으로써 모델의 전반적인 성능을 시각화할 수 있다는 장점이 있다

 

 

• roc auc score는 함수를 통해 간단히 구할 수 있다. 0.96! 정말 높게 나왔는데 이 점수를 신뢰할 수 있을까??
• 아쉽게도 책의 예제로 사용한 5양성와 5아님 음성 데이터는 극단적인 불균형 데이터이다. 음성에 비해 양성이 매우 적어도 ROC 곡선 자체는 좋게 그려질 수 있다.
• 따라서 양성 클래스가 드물 때 (거짓 음성, FN보다 거짓 양성, FP가 더 중요할 때는) PR 곡선을 사용하고 그렇지 않으면 ROC 곡선을 사용하는 것이 좋다

 

---

4. 다중 분류

• 2개 이상의 클래스를 분류하는 것을 다중 분류라고 한다. 다중 분류를 하는 방법은 3가지가 있다
  
  
• 첫 번째. 다중 분류를 지원하는 모델을 사용하는 것이다. 로지스틱 회귀, 트리 기반 모델, 그래디언트 부스팅 계열 등 여러 가지 모델들은 다중 분류를 지원한다
  
  

• 두 번째. 클래스 하나와 나머지를 분류하는 일대다 방식(OvA, One-versus-All, OvR, One-verse-Rest)
  • 앞에서 예제로 사용했던 SGDClassifier와 같은 알고리즘은 이진 분류만 가능한데, 클래스 개수만큼 분류기를 만들어서 각 클래스인지 아닌지 이진분류 하는 접근법을 사용한다
  • n개의 클래스 개수만큼 분류기가 필요하다

 

 

 

 

• 세 번째. 두 개의 클래스마다 분류기를 훈련하는 일대일 방식(OvO, One-verse-One)
  • 마찬가지로 이진분류를 이용한 접근법이지만 클래스끼리 한 쌍씩 묶어서 비교하는 방식이다. 0과 1구별, 0과 2구별, 0과 3구별, 1과 2구별 이렇게 이진 분류를 한다
  • 클래스 개수에서 한 쌍씩 가능한 조합 마다 분류기를 학습시켜야 하기 때문에 더 많은 학습을 필요로 한다
  • 분류기 개수는 N x (N-1) / 2 개가 필요하다

 

 

 

---

5. 오류 분석

• 분류에서는 앞에서 배웠던 오차 행렬을 분석함으로써 모델의 성능을 향상시킬 수 있는 힌트를 얻을 수 있다.
• 앞의 내용에서는 이진 분류였기 때문에 2x2 크기의 행렬이 나왔지만 현재 사용중인 숫자 손글씨 데이터는 클래스가 10개므로 10x10 크기의 오차 행렬이 나온다
• 모델을 통해 예측값을 구하고 오차 행렬을 그리면서 하나씩 보도록하겠다

 

 

• 먼저 1번 그래프. 각 클래스당 얼마나 맞췄고 얼마나 다른 클래스로 예측했는지를 확인해보았다. 대각선에 많은 숫자들이 있는데 이는 자기 자신을 맞춘 개수를 의미한다. 여기서 보이는 점은 숫자 5를 상대적으로 많이 못 맞춘 것. 일단 5번 클래스에 어떤 문제점이 있다는 것을 인지했다
• 다음 2번 그래프. 개수만으로는 크게 와닿지 않기 때문에 맞고 틀린 비율로 표시하였다. 여기서 눈에 띄는 곳은 숫자 8. 많은 숫자들을 8로 잘못 분류한 것을 알 수 있다. 그럼 여기서 또 한가지, 모델은 여러 숫자들을 8로 많이 헷갈려한다는 점

 

 

• 3번과 4번 그래프는 잘못 탐지한 오류들이 어느 숫자들로 잘못 분류했는지를 더 자세하게 표시하였다.
  잘못 탐지한 케이스들만 가져왔기 때문에 대각선, 자기 자신을 탐지한 경우는 비어있다.
• 2번 그래프에서 보았던 여러 숫자들을 8로 많이 잘못 분류하고 있음에 더 확실한 근거를 얻을 수 있었다
• 이렇게 오차 행렬 분석을 통해 우리는 모델의 성능을 해치는 요소, 문제점을 발견했으며 이 부분을 개선한다면 더 뛰어난 성능을 기대할 수 있게 되었다

 

 

 

• 이 이미지는 데이터셋의 숫자 3과 5를 한눈에 보이도록 그린 이미지이다. 사람의 눈으로는 구분이 가능하지만 일부 헷갈릴만한 숫자들도 적지 않게 존재하는 것을 볼 수 있다
• 3과 5를 구별할 수 있는 특징을 더해주거나 전처리를 해주는 방법 등이 있으나 모델이 다양한 형태의 숫자를 학습하도록 많은 데이터를 확보하는 것도 좋은 방법 중 하나이다. 이러한 방법은 data augmentation이라 하며 책의 뒷내용에서 더 자세하게 다룰 것이다. 이러한 방법론들이 있음을 알고 있으면 충분하다

 

 

 

 

---

6. 다중 레이블 분류

 

 

• 지금까지 다룬 데이터들은 하나의 데이터에 하나의 클래스만 할당되어 있었다. 하지만 하나의 데이터가 여러 개의 클래스를 가지고 있으며 이를 분류해야하는 경우가 있다. 이것을 다중 레이블 분류라고 한다.
• 쉽게 풀자면 인스타에 여러 개의 태그를 다는 것을 생각하면 좋다.
  하나의 사진은 여러개의 샾 태그를 가진다. 다중 레이블 분류는 이런 이미지들과 태그를 학습시켜서 내가 게시하고 싶은 사진을 모델에 넣었을 때 모델이 사진에 맞는 태그들을 분류 및 예측하는 것이다.

 

 

• 간단한 예시들을 더 들어보자면 문서분류. 어떤 하나의 아티클, 기사는 기술, 정치, 경제와 같은 여러 카테고리에 동시에 속할 수 있다
• 이미지 태깅도 다중 레이블 분류에 속한다. 인스타의 예시가 여기에 속한다. 여행가서 찍은 사진에 여행, 강아지, 노을과 같은 여러 개의 태그를 동시에 가질 수 있다
• 문서분류와 이미지 태깅에서는 각각 해당하는 조건들에 대해 True, False 로 표시하여 조건을 만족하는지를 표시한다

 

 

• 책의 내용에서는 숫자 데이터에 2가지 조건을 주어 임의로 다중 레이블을 만들어주었다.
  7이상의 숫자인지, 홀수인지 2가지 조건에 따라 True, False로 2개의 클래스를 가지는 정답값을 만들었다

 

 

• PPT의 표는 실제 숫자가 어떻게 라벨링이 되는지를 표로 만든 것이다. 이렇게 데이터셋을 만들어주고 학습을 시킨 뒤 숫자 5롤 예측했을 때, 각 조건을 True, False로 예측하는 것을 볼 수 있다
• 5는 7이상 숫자가 아니므로 False, 홀수이므로 True. 정확히 예측한 것을 볼 수 있다

 

 

 

---

7. 다중 출력 분류

 

 

• 다중 레이블 분류에서 한 레이블이 다중 클래스가 될 수 있도록 일반화한 것이다… 이렇게 말하면 무슨 말인지 이해하기 어렵다. 나도 무슨 말인지 모르겠다
• 간단하게 설명해보자면 다중 레이블 분류에서는 하나의 데이터에서 여러 개의 조건에 따라 True, False로 표시를 했다면
  다중 출력 분류는 True, False 이진 분류가 아닌 여러 개의 클래스, 말 그대로 다중 클래스를 갖는 것이다
• 이해하기 쉽게 예시들을 들어보자면
  • 자동차 이미지에서 하나의 모델이 동시에 색상, 제조년도, 차종 등을 예측하는 것이다. 색상이든 차종이든 둘 이상의 정말 많은 종류들이 존재한다
  • 앞의 다중 레이블 분류에서는 데이터에 대한 여러 개의 조건에 대해 True, False로만 표시했다면 자동차의 예시처럼 하나의 데이터에 대해 여러가지 정보들을 다양하게 예측 및 분류하는 것이다

 

 

 

---

 

 

 

 

 

• 지금까지 분류의 종류에 대해 보기좋게 정리한 이미지가 있어서 가져왔다.
• 다중 레이블 분류와 다중 출력 분류가 헷갈리기 쉬운데 위의 이미지를 참고하여 정리하면 좋을 것 같다
• 이렇게 오늘은 분류에 대해 살펴보았다. 분류는 가장 기본적인 태스크이기 때문에 어떻게 작동하고 어떤 성능지표를 사용하는지를 잘 알아두면 나중에 더 복잡한 문제를 푸는 것에 큰 도움이 될 것이다
• 다음 4장에서는 모델이 어떻게 학습되는지 모델 내부에 대해 살펴보겠다

 

 

 

 

 

 

 

 

 

 

참고 레퍼런스

• RoC Curve AUC 이미지
• 분류 종류 정리 이미지