Long-Tail Distribution

• Long-Tail Distribution(LTD)은 현실 세계의 데이터 셋에서 많이 발생하는 문제
• 모델이 다양한 task에서 좋은 성능을 내기 위해서는 각  class의 representation을 잘 학습하는 것이 중요
• LTD를 개선하기 위한 방법에는 Re-sampling, Cost-Sensitive Learning, Transfer Learning, Representation Learning, Decoupled Training이 있음

 

[Re-Sampling]

1. Under-Sampling

2. Over-Sampling

 

[Cost-Sensitive Learning]

클래스 별 loss 다르게 줌

 

[Transfer Learning]

 

[Representation Learning]