Benchmark 생성

새 벤치마크 실행을 생성하여 모델 성능을 측정합니다.

1단계. New Benchmark Run 진입

Evaluation → Benchmarks → Benchmark Run 탭에서 우측 상단 New Benchmark Run(번호 1) 버튼을 클릭하면 우측에 실행 설정 드로어가 열립니다.

아래 화면의 번호를 따라 입력 항목을 확인하세요.

실행 진입

Benchmark Run 탭 우측 상단 버튼을 클릭하면 실행 설정 드로어가 열립니다.

실행 설정

평가할 모델과 엔드포인트, 벤치마크 종류, 실행 대기열을 정합니다.

번호	기능	항목	설명
2-1	Model	모델 이름	· 평가할 모델 이름을 입력합니다(예: thakicloud/Qwen3-8B).
2-2	Endpoint	엔드포인트 주소	· 평가 요청을 보낼 엔드포인트 주소입니다. AI Inference 엔드포인트의 Service URL을 붙여 넣으면 됩니다.
2-3	Benchmark suite	벤치마크 종류	· 실행할 벤치마크 묶음을 고릅니다.
2-4	Local queue	실행 대기열	· 벤치마크를 실행할 Kueue 로컬 큐입니다(기본 default).
2-5	Run	실행	· Run을 클릭하면 벤치마크가 시작되고 Benchmark Run 목록에 추가됩니다. Cancel은 드로어를 닫습니다.

---

2단계. 설정 입력

필드	번호	필수	설명
Serverless Endpoint	2-1	✓	평가에 사용할 실행 중인 Serverless 엔드포인트를 선택. 없으면 AI Inference에서 먼저 엔드포인트를 생성·시작해야 한다.
Local Queue Selection	2-2	✓	실행할 로컬 큐를 선택(기본 default).

---

3단계. 실행

Run(번호 2-3)을 클릭하면 벤치마크 실행이 시작됩니다. Cancel은 실행을 취소합니다.

동일 모델(엔드포인트)에 대해 여러 벤치마크를 실행해 성능 변화를 추적할 수 있습니다.