dew's CSE Studying

Abstractexplore "prompt tuning," a simple yet effective mechanism for learning "soft prompts" to condition frozen language models to perform speific downstream tasks  prompt tuning:모델에 입력되는 프롬프트(명령이나 요청등의 text)를 조정하여 모델이 원하는 방식으로 응답하도록 하는 것chat gpt에 내가 입력하는 명령을 조정하여 모델의 성능을 높이는 것이다.model parameter의 수정 필요X soft prompts:자연어가 아닌 학습가능한 연속적인 벡터(continuous한 입력값을 말하는 것 같은데 이정도 개념으로 알아두자!)continuous&tun..