WEEK6 : convNet 사용에 도움이 될 지식

<content>

• open-source implemention을 활용하라
• Transfer Learning 이용하기
• Data Augmentation
• 그 외

 

---

convNet 사용에 도움이 될 지식

 

1. open-source implemention을 활용하라

• 많은 neural network는 복제하기가 어렵다.
  • learning decay나 다른 hyperparameter에 따라 성능 차이가 나기 때문이다.
• 사용해보고 싶은 논문이 있다면 먼저 오픈소스를 찾아보라.
  • 딥러닝 연구자가 github에 공개한 코드를 활용하자.
  • git clone해서 사용하기

---

2. Transfer Learning 이용하기

• 다른 사람들이 훈련시켜 놓은 가중치를 이용하여 pre-training model로 활용하라
  • 작은 데이터로도 좋은 성능을 낼 수 있는 방법이다 
  • 이후 fine-tuning 진행
  • 데이터의 수가 많을수록 가중치 고정하는 layer의 수 줄일 수 있다.

---

3. Data Augmentation

 

• 1. mirroring
  • 좌우 반전
  • 상하 반전
• 2. random cropping
  • 이미지의 일부분만 잘라서 학습하는 것
• 3. rotation
  • 좌우 회전
  • 상하 회전
• 4. shearing
  • 사진 찌그러뜨리기 (왜곡)
• 5. local warping
  • 지역적인 뒤틀림 적용
• 6. color shifting
  • model이 색상의 변화에 robust해지도록 색상 변화
    • ex1) R +20, G -20, B +20
    • ex2) R -20, G +20, B -20
  • PCA를 이용한 color augmentation
    • PCA를 통해 찾은 주요 성분이 R, B라면 R, B 위주로 color shifting을 수행하는 것

---

4. 추가 내용

• two source of knowledge
  • labeled data
  • hand engineering (feature 디자인) - labeled data가 적다면 hand engineering에 대한 노력이 더 필요하다
• Tips for doing well on winning competitions
  • ensemble
    • 실제 제공하는 서비스 만들 경우에 거의 사용하지 않는다. (메모리 공간이 많이 필요하고, 계산비용이 크기 때문에)
    • 대회에서 성능을 조금이라도 더 올리기 위해 주로 사용한다.
    • 각각의 모델(3~15)을 독립적으로 학습한 후, output을 average 취한다.
  • multi-crop at test time
    
    • test image의 여러개의 crop에 대해서 모델 예측치를 구하고, 평균 취하여 최종 예측치로 선정
• 특정 이미지에서 잘 동작하는 모델은 다른 이미지에서도 잘 동작할 확률이 높다.
  • 따라서 새로운 모델을 구축할 때 기존의 신경망 구조에서부터 시작하는 것이 좋다.
• 가능하다면 오픈소스를 활용하라 (여러가지 hyperparameter를 이미 테스트해본 결과이기 때문에)
• pretrained model을 사용하고, 우리의 데이터로 fine-tuning하자