Transfer Learning

참고 코드 : https://jeinalog.tistory.com/entry/Transfer-Learning-%ED%95%99%EC%8A%B5%EB%90%9C-%EB%AA%A8%EB%8D%B8%EC%9D%84-%EC%83%88%EB%A1%9C%EC%9A%B4-%ED%94%84%EB%A1%9C%EC%A0%9D%ED%8A%B8%EC%97%90-%EC%A0%81%EC%9A%A9%ED%95%98%EA%B8%B0

1. 개요

1.1 역사

  • 1995년 NIPS workshop에서 "Learning to learn"이라는 주제로 소개
  • Domain Adaptation : knowledge transfer
  • Transfer learning

1.2 장점

높은 정확도를 비교적 짧은 시간 내에 달성

1.3 방법

사전학습 된 모델 (pre-trained model) 을 이용, eg. 밑바닥에서부터 모델을 쌓아올리는 대신에 이미 학습되어있는 패턴들을 활용

1.4 제약

해결하려는 문제와 비슷한 유형에 적용

만약 이미지셋이 100만개보다 적다면 pre-train 모델을 사용하라!!!

1.5 pipeline

  1. 원래 모델에 있던 classifier를 없애는 것
  2. 내 목적에 맞는 새로운 classifier를 추가
  3. 다음 세 가지 전략 중 한 가지 방법을 이용해 파인튜닝(fine-tune)을 진행
    • 전략 1 : 전체 모델을 새로 학습시키기
    • 전략 2 : Convolutional base의 일부분은 고정시킨 상태로, 나머지 계층과 classifier를 새로 학습시키기
    • 전략 3 : Convloutional base는 고정시키고, classifier만 새로 학습시키기

1.6 용어

  • Finetuning : 모델의 파라미터를 미세하게 조정하는 행위, 이미 존재하는 모델에 추가 데이터를 투입하여 파라미터를 업데이트하는 것을 말한다

  • 보틀넥 피쳐(Bottleneck feature) : 모델의 마지막 부분으로 보통 Pooling 다음 FC 전, 모델에서 가장 추상화된 피쳐

2. 적용 방법(상세)

2.1 사전 학습 모델 선별

다양하게 공개되어 있는 사전학습 모델 중에서, 내 문제를 푸는 것에 적합해보이는 모델을 선택

2.2 적용 시나리오 선별 하기

내 문제가 [데이터크기(약, 1000개)-유사성] 그래프에서 어떤 부분에 속하는지 알아보기

2.3 내 모델을 Fine-tuning 하기

Quadrant 1 : 크기가 크고 유사성이 작은 데이터셋일 때 -> 전략 1

많은 레이어를 fine-tune 한다.

  • 충분한 데이터가 있으므로 그냥 처음부터 학습 하는게 좋을수 있다.
  • 그러나 현실에서는 전체 층에 대해서 Fine-Tune을 수행 한다.
Quadrant 2 : 크기가 크고 유사성도 높은 데이터셋일 때 -> ALL (추천 : 전략 2)

추가한 레이어와 몇개 레이어를 fine-tune 한다.

  • 추가 데이터가 생긴것과 비슷
  • 더 많은 자료를 가졌기 때문에, 전체 망을 통해 Fine-tune을 시도한다면 과적합 없는 더 신뢰를 가질 수 있다.
  • More High layer의 일부를 적절 제거 한후 새로 합습 한다. (FC 무조건 재 학습)
for layer in model.layers:
   layer.trainable = True
#The default is already set to True. I have mentioned it here to make things clear.
for layer in model.layers[:5]:
   layer.trainable = False.
# Here I am freezing the first 5 layers

코드 출처

Quadrant 3 : 크기가 작고 유사성도 작은 데이터셋일 때 -> 전략 2

큰일이다…..

  • 데이터가 적기 때문에 only train a linear classifier하는것이 최선이다.
  • 추천 : train the SVM classifier from activations somewhere earlier in the network
  • 비추 : train the classifier form the top of the network(=more dataset-specific features)
  • data augmentation도 고려 필요
Quadrant 4 : 크기가 작지만 유사성은 높은 데이터셋일 때 -> 전략 3

끝 레이어(top layer)에 도메인에 맞는 레이어를 추가하고 추가한 레이어만 학습한다.

  • 데이터양이 적기 때문에 Fine Tune을 할경우 Overfitting될 우려가 있다.
  • 데이터가 기본 데이터셋과 비슷하므로 ConvNet의 Higher-Lever의 특징이 비슷하다고 가정 할수 있음
  • [결론] 새 classifier만 학습시키는 것

for layer in model.layers:
   layer.trainable = False
#Now we will be training only the classifiers (FC layers)

코드 출처

1. [도메인이 기존 데이터셋과 매우 다르]XS≠XTXS≠XT. The feature spaces of the source and target domain are different, e.g. the documents are written in two different languages. In the context of natural language processing, this is generally referred to as cross-lingual adaptation.

2. P(XS)≠P(XT)P(XS)≠P(XT). The marginal probability distributions of source and target domain are different, e.g. the documents discuss different topics. This scenario is generally known as domain adaptation.

3. YS≠YTYS≠YT. The label spaces between the two tasks are different, e.g. documents need to be assigned different labels in the target task. In practice, this scenario usually occurs with scenario 4, as it is extremely rare for two different tasks to have different label spaces, but exactly the same conditional probability distributions.

4. P(YS|XS)≠P(YT|XT)P(YS|XS)≠P(YT|XT). The conditional probability distributions of the source and target tasks are different, e.g. source and target documents are unbalanced with regard to their classes. This scenario is quite common in practice and approaches such as over-sampling, under-sampling, or SMOTE are widely used.

출처 : http://sebastianruder.com/transfer-learning/index.html

출처 : http://nmhkahn.github.io/CNN-Practice

출처 : http://cs231n.github.io/transfer-learning

출처 : http://sebastianruder.com/transfer-learning/index.html

Trasfer Learing 제약

  • 함부로 기존 네트워크를 변경 할수 없다. 하지만 일부 항목들은 가능한다(eg. 이미지 크기)
  • Learging rate를 기본의 값보다 작게 가져라 [출처]

Bottlenecking

  • FC만 변경하여 학습 해도 시간이 많이 걸린다면 Bottlenecking기법 적용

  • FC레이어가 없는 기존넷(VGG16)을 이용하여 예측한 값을 사용

    • `bottleneck_features = model.predict_generator(generator,)
    • 학습보다 예측이 Back Propagation이 없으므로 속도가 빠름

PathNet

인공지능은 전이학습을 통해 이전의 학습에서 배운 지식을 완전히 새로운 과제에 활용할 수 있음.

  • 이전의 지식을 활용함으로써 인공지능은 새로운 과제에 새로이 신경망을 구축할 필요가 없으며, 전이학습은 과제 이행의 질과 시간적 효율성을 높여줌.

전이학습은 신경망을 구축하고 학습하는데 있어서 가장 큰 과제이며, DeepMind는 PathNet을 통해 이를 해결하기 위해 노력중임.

  • PathNet이란 SGD(stochastic gradient descent)와 유전 선발방법(genetic selection method)을 사용하여 학습한 신경망 네트워크를 뜻함.
  • PathNet은 여러 층(layer)의 모듈로 이루어져 있으며, 각각의 모듈은 다양한 형태의 신경망임(예: 나선형(convolutional), 피드포워드(feedforward) 또는 반복되는(recurrent) 형태).

학습을 하기에 앞서, 모듈에 대한 정의를 해야 함(L = 층수(number of layers), N = 하나의 층이 가질 수 있는 최대 모듈수).

  • 마지막 층은 복잡하게 이루어져 있으며, 다른 과제와 함께 공유되지 않음.

  • A3C(Advantage Actor-critic)를 활용하는 마지막 층은 가치함수(value function)와 정책평가(policy evaluation)을 나타냄.

  • 모듈에 대한 정의가 이루어진 후, P 유전자형(또는 경로)가 네트워크에 생성됨. 각각의 유전자형 평가를 통해 최적화된 경로를 파악하고, 이 경로를 통해 학습을 힘.

  • 경로의 학습은 백 프로퍼게이션(back propagation)을 사용한 SGD(stochastic gradient descent)를 통해 이루어지며, 한 번에 하나의 경로를 통해 실행됨.

과제를 학습한 후 네트워크는 최적 경로의 모든 매개변수(parameters)를 수정하며, 모든 매개변수는 다시 초기화 됨.

  • A3C는 이전지식이 지워지지 않도록 이전과제의 최적경로가 수정되지 않도록 함.

출처 : 미래금융연구센터

Tensorflow 공식 Inception GitHUb

Article / post

What is important to know about global average pooling is that it allows the network to accept any Tensor/image size, instead of expecting the size that it was originally trained on.

paper

Implementation

[전이학습]

깃허브 : https://github.com/Transfer-Learning-with-Python

자료 : https://drive.google.com/drive/folders/1JPPMFYlGMl1BbjjMnG2WqakWwBkiHgzP

동영상 : https://www.youtube.com/playlist?list=PLqkITFr6P-oQlgZS4-XNRcYW2FBUPrc0h

results matching ""

    No results matching ""