LLM SYSTEMS ENGINEERING · 한국어 학습 노트
모델이 실행되는
시스템을 이해하기.
모델, 하드웨어, 워크로드.
세 가지 관점으로 기초부터 추론·학습·RL까지 차근차근 연결합니다.
모델어떤 계산과 상태가 필요한가하드웨어어디서 어떻게 실행하는가워크로드어떤 조건과 목표를 가지는가
LEARNING PATH
작은 실행에서 시작하는 네 단계
01준비 중
기초
모델의 계산이 GPU 실행으로 이어지는 과정
02준비 중
추론
고정된 가중치로 요청을 효율적으로 처리하기
03준비 중
학습
Pretraining과 SFT, 한 GPU에서 여러 노드까지
04준비 중
RL
생성·평가·학습을 하나의 과정으로 연결하기
이곳에서는 Pretraining·SFT를 학습 과정으로, RL을 별도 과정으로 다룹니다. 일반적인 용어에서 SFT도 post-training에 포함됩니다.
ARTICLES
지금 읽을 수 있는 글
첫 번째 글을 준비하고 있습니다. 공개되는 글은 이곳에서 순서대로 읽을 수 있습니다.