Skip to content

Text Generation 실험 생성 ​

LLM 파인튜닝 실험을 생성하고 학습을 시작합니다. 생성 페이지는 Configuration(1페이지) → Publish(2페이지) 두 단계로 구성되며, 하단 Next 버튼으로 페이지를 이동합니다.

아래 화면의 번호를 따라 각 페이지의 항목 위치와 역할을 확인하세요.

생성 진입 버튼 ​

실험 목록 우측 상단의 Create experiment 버튼. 클릭하면 실험 생성 페이지로 이동한다.

생성 진입 버튼

실험 생성 — Configuration ​

Text Generation 학습 실험을 정의하는 페이지. Configuration·Publish 두 탭으로 구성되며, 우측 Summary에서 입력 상태를 확인한다.

실험 생성 — Configuration
번호기능항목설명
2-1실험 이름Experiment name * (필수)· 실험을 식별할 이름을 입력한다.
2-2로컬 큐Local queue selection * (필수)· 실험을 실행할 로컬 큐를 선택(프로젝트에 큐가 없으면 No Data).
2-3설명Description (선택)· 실험 부가 설명을 입력한다(선택).
2-4템플릿 선택Select template 버튼· 미리 정의된 학습 설정 템플릿을 불러온다.
2-5학습 GPUTotal GPUs * (슬라이더 1~8)· 학습에 사용할 GPU 수를 슬라이더로 선택.
2-6베이스 모델Base model * (검색 · All/Base/Fine-tuning 탭 · 카드)· 파인튜닝할 베이스 모델을 검색·탭으로 좁혀 카드로 선택.
2-7요약 패널Summary (Configuration · Publish)· 입력 완료 상태를 단계별로 표시. 2페이지(Publish)에서 데이터셋·학습 설정을 입력한다.
2-8다음 단계 / 취소Cancel / Create· Configuration을 다 채운 뒤 폼 맨 아래 Next를 누르면 Publish 단계로 넘어갑니다. Create는 Publish까지 입력해야 활성화됩니다.
· Cancel: 생성을 취소한다.

실험 생성 — Publish · 데이터셋/모델 (2페이지) ​

Next 로 진입하는 2페이지. 학습 데이터셋을 고르고 학습 방식/모델을 지정한다.

실험 생성 — Publish · 데이터셋/모델 (2페이지)
번호기능항목설명
3-1데이터셋 선택Thaki Datasets / Custom Datasets 탭 · Add· 학습에 사용할 데이터셋을 Thaki/Custom 탭에서 선택하고 Add 로 추가한다.
3-2학습 방식Method * (SFT · Full Fine-Tuning 등)· 파인튜닝 방식을 선택한다(SFT, Full Fine-Tuning 등).
3-3학습 모델Training model * (드롭다운)· 학습에 사용할 모델을 선택한다.

실험 생성 — Publish · 하이퍼파라미터 ​

학습 하이퍼파라미터를 입력한다. Basic·Resource·Advanced·Early stopping·Expert 섹션으로 구성.

실험 생성 — Publish · 하이퍼파라미터
번호기능항목설명
4-1섹션 헤더Hyperparameters settings· 하이퍼파라미터 설정 영역 전체 헤더.
4-2최대 스텝Max Steps· 총 학습 스텝 수.
4-3학습 길이 기준Max Steps / Epochs· 학습 길이를 스텝 수(Max Steps)로 정할지 에폭 수(Epochs)로 정할지 고릅니다.
4-4학습률Learning Rate· 가중치 갱신 폭(기본 5e-5).
4-5배치 크기Per Device Batch Size· GPU당 스텝별 처리 샘플 수.
4-6그래디언트 누적Gradient Accumulation Steps· 가중치 갱신 전 누적할 스텝 수.
4-7최대 시퀀스 길이Max Sequence Length· 학습 샘플 최대 시퀀스 길이(메모리 사용량에 큰 영향).

실험 생성 — Publish · 리소스/고급 설정 + 생성 ​

리소스·고급 하이퍼파라미터를 조정하고 우측 하단 Create 로 실험을 생성한다.

실험 생성 — Publish · 리소스/고급 설정 + 생성
번호기능항목설명
5-1리소스 설정Resource settings (접기/펴기 — CPU · Memory · Distributed Strategy · Number of Nodes)· 펼치면 학습에 할당할 CPU·메모리·분산 전략(DDP 등)·노드 수를 설정한다.
5-2고급 설정Advanced settings (Warmup · LR Scheduler · Logging · Precision)· 펼치면 Warmup Steps·LR Scheduler·Logging Steps·Precision 등 고급 파라미터를 조정한다.
5-3조기 종료Early stopping settings· 펼치면 조기 종료(Early stopping) 조건을 설정한다.
5-4전문가 설정Expert settings· 펼치면 고급 사용자용 추가 파라미터를 설정한다.
5-5실험 생성Create / Cancel 버튼· Create: 실험을 생성·시작한다.
· Cancel: 생성을 취소한다.

1단계. Configuration (1페이지) ​

Create experiment(번호 1) 클릭 후, Configuration 페이지에서 실험 기본 정보와 베이스 모델을 설정합니다.

항목번호설명
Experiment name2-1실험 식별 이름(필수)
Local queue selection2-2실험을 실행할 로컬 큐(필수)
Description2-3실험 설명(선택)
Select template2-4미리 정의된 학습 설정 템플릿 불러오기
Total GPUs2-5학습 GPU 수(슬라이더 1~8)
Base model2-6파인튜닝할 베이스 모델(검색·All/Base/Fine-tuning 탭)
Summary2-7단계별 입력 완료 상태
Next / Cancel2-8Publish 단계로 이동 / 취소

2단계. Publish · 데이터셋·학습 모델 (2페이지) ​

Next를 누르면 Publish 페이지로 이동합니다. 학습 데이터셋과 학습 방식·모델을 지정합니다.

항목번호설명
Dataset3-1Thaki Datasets / Custom Datasets 탭에서 데이터셋 선택·Add
Method3-2학습 방식(SFT · Full Fine-Tuning 등)
Training model3-3학습에 사용할 모델
Teacher3-4증류(distillation)용 교사 모델(카드 선택)

3단계. Publish · 하이퍼파라미터 ​

Hyperparameters settings(번호 4-1)는 Basic·Resource·Advanced·Early stopping·Expert 섹션으로 구성됩니다. Basic settings 주요 항목은 다음과 같습니다.

항목번호설명
Max Steps4-2총 학습 스텝 수
Epochs4-3데이터셋 반복 학습 횟수
Learning Rate4-4가중치 갱신 폭(기본 5e-5)
Per Device Batch Size4-5GPU당 스텝별 처리 샘플 수
Gradient Accumulation Steps4-6가중치 갱신 전 누적 스텝 수
Max Sequence Length4-7학습 샘플 최대 시퀀스 길이

4단계. Publish · 리소스·고급 설정 후 생성 ​

섹션번호설명
Resource settings5-1CPU · Memory · Distributed Strategy(DDP 등) · Number of Nodes
Advanced settings5-2Warmup Steps · LR Scheduler · Logging Steps · Precision
Early stopping settings5-3조기 종료 조건
Expert settings5-4고급 사용자용 추가 파라미터
Create / Cancel5-5실험 생성·시작 / 취소

설정을 확인한 뒤 Create(번호 5-5)를 클릭하면 실험이 생성·시작됩니다.

AI 인프라의 새로운 기준