WEEK5 : Transfer Learning

<content>

• learning from multiple task
  • transfer learning
  • multi-task learning

---

Transfer Learning

 

1) Transfer Learning이란?

• 사전 작업(source task)에 대하여 학습된 정보를 목표 작업(target task)에 활용하는 방법

 

---

2) Transfer Learning의 장점

• target task에 대한 수렴 속도 향상, 성능 향상
• source task에 대한 충분한 데이터가 있다면, target task에 대한 데이터가 부족하더라도 비교적 높은 성능 보임

 

---

3) Transfer Learning이 도움이 되는 이유

• 미리 pre-trained된 모델의 가중치를 이용하면 low level에 대한 지식 습득하고 시작하는 것이기 때문 
  • 이러한 장점을 이용하기 위해서 pre-trained 모델은 모든 task에 적용될 수 있는 공통적인 특징을 학습하는 것이 좋다.

 

---

4) Transfer Learning의 접근 방식

• weight initialization
  • source task에 사용된 구조를 target task를 위한 모델에 적용
    • 일부 layer를 추가/제거 등 수정하기도 한다.
  • 사전학습한 모델의 가중치로 초기화
    • target task 학습하기 위한 데이터가 충분한 경우, 전체를 fine-tuning
    • target task 학습하기 위한 데이터가 부족한 경우, 일부 layer만 fine-tuning
    • * source task에 대해 가중치 학습 = pre-training
    • * pre-training된 weight를 target task에 대해 갱신 = fine-tuning
• feature extraction
  • feature 추출을 위해서 source model 사용 
  • source task에 사용된 구조를 target task를 위한 모델에 적용하지만 fine-tuning 수행하지 않음

 

---

5) Transfer Learning을 사용하는 기준

A에서의 지식을 B에게로 transfer하는 상황이라면

1. A task와 B task의 input이 동일할 때 (ex. image, text, audio 등)
2. A task 데이터의 양 >> B task 데이터의 양
3. A에서의 low feature가 B 학습에 도움이 되는 경우

 

---

6) Transfer Learning의 다양한 종류

• same task (-> transductive transfer learning)
  • 1) domain adaptation : 사전작업과 목표작업 동일하지만, 영역이 다른 경우
    • A. gradient reversal domain adaptation
      • task classifier와 domain classifier가 존재하는데, domain classifier의 loss는 reverse하여 전달
      • 즉, domain classifier는 loss가 maximize되는 방향으로 가중치 업데이트
    • B. adversarial discriminative domain adaption
      • 1) feature extractor 고정 / domain classifier 학습 (이 때 domain에 대한 real 정답 이용)
      • 2) domain classifier 고정 / feature extractor와 task classifier 학습
        • 이 때 domain에 대한 오답을 주고 feature extractor의 weight 학습 (domain specific한 영역이 학습되지 못하도록)
  • 2) cross-lingual learning : 사전작업과 목표작업 동일하지만, 언어가 다른 경우
• different task (-> inductive transfer learning)
  • 1) multi-task learning : tasks learned simultaneously
    • 관련있는 작업들의 표현을 공유하여 모델의 일반화 능력을 향상
    • 1) hard parameter sharing
    • 2) soft parameter sharing
  • 2) sequential transfer learning : tasks learned sequentially
    • 사전작업과 목표작업이 다르고 각 작업에 대해서 순차적으로 학습을 수행

 

 

---