Label Smoothing이란

 

- 데이터 정규화(regularization) 테크닉 가운데 하나로 모델의 일반화 성능을 높힘

- Szegedy et al. (2016)이 제안한 기법으로 레이블을 깎아서(스무딩) 모델의 일반화 성능을 높힘

- hard target(one-hot-representation)에서 soft target으로 바꾸어 활용

 

Hard target 예시 : [0,0,1,0]

Soft target 예시 :[0.01,0.01,0.98,0.01]