[자연어 처리] 프롬프트 튜닝(Prompt Tuning)

1. 개요

프롬프트 튜닝(Prompt Tuning)은 인공지능 모델, 특히 자연어 처리 모델을 사용할 때 사용되는 기법. 이 기법의 핵심은 모델에 입력되는 프롬프트(명령이나 요청 등의 텍스트)를 조정하여, 모델이 원하는 방식으로 응답하도록 하는 것.

 

2. 특징

• 정확한 명령어 선택: 모델이 이해할 수 있고, 원하는 결과를 낼 수 있는 명확한 단어와 문장을 사용
• 문맥 설정: 때때로 프롬프트에 추가적인 정보나 문맥을 제공하여 모델이 보다 정확한 답변을 할 수 있도록 한다.
  반복적 시도와 수정: 원하는 결과를 얻기 위해 프롬프트를 여러 번 시도하고 수정하는 과정
• 모델의 특성 이해: 다른 모델은 각각 다른 방식으로 반응하기 때문에, 사용하는 모델의 특성을 이해하는 것이 중요

3. 목표

같은 모델을 사용하면서도 다양한 종류의 출력을 얻기 위함 이는 사용자의 입력에 따라 유연하게 반응하는 것을 목표로 한다.

 

4. 장점

• 프롬프트 튜닝의 장점은 유연성에 있다. 사용자는 동일한 모델을 사용하면서 다양한 종류의 출력을 얻을 수 있다. 즉, 하나의 모델을 이용해 여러 상황에 사용이 가능한 것이다.
• 추가적인 학습이나 데이터가 필요 없기 때문에, 비전문가도 쉽게 사용할 수 있다.
• 시간 및 자원 절약: 파인튜닝에 비해 적은 컴퓨팅 자원과 시간이 필요하다.
• 프롬프트를 어떻게 작성하느냐에 따라 여러 분야에 광범위하게 적용 가능하다.

5. 한계점

• 모델이 학습하지 않은 형식의 질문에 정확한 출력을 하지 않음
• 모델 자체의 한계가 있는 경우, 모델이 잘못 학습된 경우나 특정 도메인의 지식이 부족한 경우, 제한된 결과를 얻을 수 있음
• 효과적인 프롬프트 작성을 위한 경험이 필요함.

 

6. 비교: 파인 튜닝(fine tuning)

• 특징
  • 기존에 학습된 모델에 추가적인 학습 데이터를 사용하여 모델의 가중치를 조정하는 과정
  • 모델을 재학습 하므로 큰 비용이 들어감.
  • 충분한 양의 데이터가 필요함
• 목적
  • 특정 작업이나 도메인에 모델을 더 잘 적응시키기 위함. 예를 들어, 일반적인 언어 처리 모델을 법률 문서 분석에 특화시키는 경우 등

7. 결론

• 모델을 궁극적으로 활용하기 위해 반드시 적용되야 하는 기술로 볼 수 있다. 왜냐하면 다른 사람에게 일을 시킬 때를 생각해보면 쉽게 이해할 수 있는데, 어떠한 대답을 원하는지 명확하게 전달을 해야 명확한 답변을 받을 수 있기 때문이다. 특히 포멧이 정해져 있는 형태의 글을 받고 싶다면 필수적이라고 할 수 있다. 
• 파인튜닝이 어려운 경우에 약간의 꼼수로 사용할 수 있다. 대답을 받고싶은 정보가 있는 문서를 추출하여, 입력으로 넣어 알기 쉽도록 요약해 정보를 받을 수 있다. 데이터가 충분히 구축이 되어 있고, 데이터를 찾기 쉬운 서비스를 LLM과 연동해 사용한다면 파인튜닝 대신 임시로 사용할 수 있을 것으로 보인다.