Notice
Recent Posts
Recent Comments
Link
일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | 5 | 6 | 7 |
8 | 9 | 10 | 11 | 12 | 13 | 14 |
15 | 16 | 17 | 18 | 19 | 20 | 21 |
22 | 23 | 24 | 25 | 26 | 27 | 28 |
29 | 30 |
Tags
- 완전탐색
- 최단경로
- 프로그래머스
- 데이터분석
- peft
- 플로이드와샬
- 알고리즘
- Fine-Tuning
- 판다스
- 코딩테스트
- Coursera
- 코드트리
- Scaling Laws
- 그래프이론
- Python
- speaking
- Study
- 코딩테스트실력진단
- DP
- 파인튜닝
- Lora
- paper review
- 이분탐색
- Generative AI
- 스터디
- English
- LLM
- 파이썬
- bfs/dfs
- 머신러닝
Archives
- Today
- Total
목록Low Rank Adaptation (1)
생각하는 아져씨
PEFT, LoRA 입문하기✌️
앤드류 응 교수님의 강의를 듣고 정리 및 공부한 글임을 알려드립니다. Generative AI with LLMs In Generative AI with Large Language Models (LLMs), created in partnership with AWS, you’ll learn the fundamentals of how generative AI works, and how to deploy it in real-world applications. LoRA(Low Rank Adaptation) PEFT 중 Reparameterization 테크닉에 속하는 기법으로, 사전학습 모델에 학습이 가능한 Rank decomposition 행렬을 삽입한 것으로 파인튜닝 동안 학습되는 파라미터를 줄이는 전략 오리..
Machine & Deep Learning/Generative AI
2023. 10. 20. 12:21