data augmentation은 엄밀히 regularization 기법이라 하긴 어렵지만 비슷한 효과를 가져와서 이렇게 구분을 해보았다
https://arxiv.org/pdf/1806.03852.pdf
소프트웨어적으로 training data를 늘려 과적합을 막고 variance를 줄일 수 있는 방법이다
이 때 주의할점은 label이 유지되도록 augmentation을 해야한다는 점이다
예를 들어 손으로 쓴 숫자 이미지가 있다고 하자
처음 4라는 데이터 하나를 좌우로 회전시켜 2,3번째 데이터를 만든 경우 새로 만든 데이터도 label이 4가 될 것이다
하지만 이렇게 6을 data augementation 시킨다면 너무 많이 회전 시키는 경우 6인지 9인지 모호한 경우가 발생할 수 있다
따라서 data augmentation은 input의 종류에 알맞게 사용해야한다
ITE4053 : Deep Lerarning ( Hanyang University )
'AI' 카테고리의 다른 글
Batch Normalization (0) | 2021.04.18 |
---|---|
Regularization 4 - Early Stopping (0) | 2021.04.18 |
Regularization 2 - Dropout regularization (0) | 2021.04.18 |
Regularization 1 - L1,L2 regularization (0) | 2021.04.18 |
Activation Functions (0) | 2021.04.13 |