자연어 처리 모델 학습 - 파인 튜닝(Fine tuning)이란?

목표 - 사전 학습된 모델의 가중치를 미세하게 조정하여, 특정 task를 수행하도록 학습하는 파인 튜닝의 목적과 작동 원리에 대해 이해할 수 있다.

전이 학습 패러다임

그럼 전이 학습이랑 파인튜닝의 차이점이 뭔데...?

 

파인 튜닝 이전의 학습 방법

데이터를 만드는 일의 비용이 많이 든다. - 지도 학습의 라벨링을 하는 경우

 

파인 튜닝의 효과

간에 엄청난 차이가 있을 것인데, 아까 말했듯 사전 학습된 모델의 초반 레이어는 자연어에 대한 유용한 특징을 잘 추출해 낼 수 있다.

보통 사전 학습한 모델의 초반 레이어를 freezing하고 이 후 레이어를 학습시키거나 새로운 레이어를 추가하여 해당 레이어학습하는 등의 방법을 사용한다.

'

데이터가 충분히 크다면 프리징하지 않아도 되지만 보통 파인 튜닝을 할 경우 데이터가 그렇게 많지 않다.

 

언어 모델의 파인 튜닝

 

1. GPT

2. 전설과 가설을 기호로 분류하여 입력

3. AB 순서와 BA 순서의 유사도가 같아야 한다. 

4. 답변중의 유사도가 가장 높은 것 선택, 적합한 것 선택

2. BERT