생각하는 아져씨

LLM의 효율적인 파인튜닝, PEFT 연구는 어떻게 흘러왔을까?🤩 본문

Machine & Deep Learning/Generative AI

LLM의 효율적인 파인튜닝, PEFT 연구는 어떻게 흘러왔을까?🤩

azeomi 2023. 10. 20. 13:30

"A golden retriever dog is sitting with a keyboard in one hand and a mouse in the other. The background has neon signs like the future smart city. Write the word 'Parameter Efficient Fine Tuning' at the top." Bing Image Creator 사용하여 만들었습니다. DALL-E에서 제공

 

LLM의 효율적인 파인튜닝인 PEFT 연구의 중요성과 현재까지의 흐름을 정리해보았다.

주로 공부할 땐 노션에 정리한 후 다듬어 블로그에 올리는데, 이번 포스팅은 양이 많아서 노션 링크를 공유한다.

PEFT의 최신 연구 동향에 대해 대략적으로 파악할 수 있도록 요약해봤다. PEFT를 공부하는 분들께 조금이라도 도움이 되었으면 좋겠다.

부족한 부분은 계속해서 보완할 예정이다.

 

https://www.notion.so/azeomi/LLM-PEFT-182685e9cfc447f7bbb651e7c80eef7d?pvs=4

 

LLM의 효율적인 파인튜닝, PEFT 연구는 어떻게 흘러왔을까?🤩

Why is the Fine-Tuning LLMs important?

www.notion.so

 

저작자표시

'Machine & Deep Learning > Generative AI' 카테고리의 다른 글

PEFT, LoRA 입문하기✌️  (0) 2023.10.20
파라미터를 효율적으로 파인튜닝한다?! 🤩  (1) 2023.10.20
Fine tuning 후 Model Evaluation(ROUGE, BLEU, Benchmarks)  (0) 2023.09.14
Instruction Fine-tuning과 Catastrophic Forgetting  (0) 2023.09.13
Fine-tuning - Instruction Fine-tuning에 대해서  (0) 2023.09.12
'Machine & Deep Learning/Generative AI' Related Articles more