목록전체 글 (99)

생각하는 아져씨

[Coursera] 도메인을 고려한 사전학습과 BloombergGPT

앤드류 응 교수님의 강의를 듣고 정리 및 공부한 글임을 알려드립니다. Generative AI with LLMs In Generative AI with Large Language Models (LLMs), created in partnership with AWS, you’ll learn the fundamentals of how generative AI works, and how to deploy it in real-world applications. 애플리케이션을 개발할 때 일반적으로 LLM을 사용한다면 많은 이점을 얻을 수 있습니다. LLM을 통해 시간도 절약할 수 있을뿐더러 빠르게 프로토타입도 작성해 볼 수 있으니까요.👍 하지만, 응용하려는 분야가 일반적으로 사용하지 않는 언어구조를 가지고 있다면 ..
Machine & Deep Learning/Generative AI 2023. 9. 4. 10:14
[Coursera] 모델 성능 개선을 위해 선택할 수 있는 요소 : compute budget, model size, dataset size

앤드류 응 교수님의 강의를 듣고 정리 및 공부한 글임을 알려드립니다. Generative AI with LLMs In Generative AI with Large Language Models (LLMs), created in partnership with AWS, you’ll learn the fundamentals of how generative AI works, and how to deploy it in real-world applications. 이제 LLM은 사전학습 시 단일 GPU가 아니라 Multi-GPU를 사용해야 할 만큼 크기가 매우 크고 많은 예산이 필요하게 되었습니다. 무작정 컴퓨팅 예산만 투자한다고 해서 최적의 모델을 만들 수 있을까요? 더 적은 컴퓨팅 예산으로 비슷한 수준의 성능을 ..
Machine & Deep Learning/Generative AI 2023. 9. 3. 23:15
[Coursera] LLM에 필요한 효율적인 Multi-GPU 활용 전략

앤드류 응 교수님의 강의를 듣고 공부한 글임을 알려드립니다. Generative AI with LLMs In Generative AI with Large Language Models (LLMs), created in partnership with AWS, you’ll learn the fundamentals of how generative AI works, and how to deploy it in real-world applications. 오늘은 효율적으로 Multi-GPU를 사용하는 전략에 대해 공부해 보겠습니다. 저번 공부에 따르면, Large Language Model(LLM)을 학습하려면 Multi-GPU 사용이 꼭 필요합니다. Single GPU로도 학습할 수 있는 작은 모델이더라도 Mult..
Machine & Deep Learning/Generative AI 2023. 9. 2. 19:49
[Coursera] LLM을 학습할 때 마주하는 문제점

앤드류 응 교수님의 강의를 듣고 정리 및 공부한 글임을 알려드립니다. Generative AI with LLMs In Generative AI with Large Language Models (LLMs), created in partnership with AWS, you’ll learn the fundamentals of how generative AI works, and how to deploy it in real-world applications. Computational challenges 대규모 언어 모델을 학습할 때 가장 흔히 직면하는 문제 중 하나는 메모리 부족입니다. 아마 Nvidia GPU에서 모델을 훈련하거나 로드해 본 적이 있다면 이 오류 메시지가 익숙할지도 모릅니다. OutofMemo..
Machine & Deep Learning/Generative AI 2023. 9. 2. 19:47
[Coursera] Pre-training LLM 구별하기

앤드류 응 교수님의 강의를 듣고 정리 및 공부한 글임을 알려드립니다. Generative AI with LLMs In Generative AI with Large Language Models (LLMs), created in partnership with AWS, you’ll learn the fundamentals of how generative AI works, and how to deploy it in real-world applications. Generative AI 프로젝트 시작하기 전에 Large Language Models(이하 LLMs)를 활용해 어떤 Generative AI 프로젝트를 시작할 때 가장 먼저 하는 것은 주제를 정하는 것입니다. Use case를 정의하고 applicatio..
Machine & Deep Learning/Generative AI 2023. 8. 16. 13:01
LLM을 활용한 Prompt Engineering 도전해보기 💪

Large Language Model을 활용해 Dialogue Summary Task 실험을 진행합니다. Prompt Engineering으로 모델의 출력에 어떻게 영향을 줄 지 확인할 수 있습니다. 😙 💡 앤드류 응 교수님의 강의를 듣고 정리 및 공부한 글임을 알려드립니다. Generative AI with LLMs In Generative AI with Large Language Models (LLMs), created in partnership with AWS, you’ll learn the fundamentals of how generative AI works, and how to deploy it in real-world applications Code Jupyter notebook 티스토리에 ..
Machine & Deep Learning/Generative AI 2023. 8. 10. 23:44
이전 Prev 1 2 3 4 5 6 7 ··· 17 Next 다음