Skip to content

Kueue Scheduler ​

Kueue Scheduler는 Workload를 Queue에 배정하고 우선순위에 따라 클러스터 리소스를 할당하는 스케줄링 정책을 관리합니다.


1단계. 스케줄러 현황 조회 ​

상단의 기간 드롭다운으로 집계 기간을 선택하면 KPI 카드(번호 2)와 성능·큐 메트릭(번호 3)이 갱신됩니다. 아래 화면의 번호를 따라 주요 기능의 위치와 역할을 확인하세요.

Kueue (SNB) ​

좌측 사이드바 Kueue 트리 아래의 메뉴로 이동한다.

Kueue (SNB)
번호기능항목설명
1-1Kueue QueueKueue Queue· Cluster·Local 큐 관리.
1-2Kueue WorkloadsWorkloads· 워크로드 현황 조회.
1-3Kueue AnalyticsAnalytics· 큐 분석 대시보드.
1-4Kueue SchedulerScheduler· 스케줄러 대시보드.
1-5Resource InventoryResource Inventory· 리소스 인벤토리 조회.

KPI · 기간 ​

스케줄러 결정 핵심 지표 요약.

KPI · 기간
번호기능항목설명
2-1기간 선택기간 드롭다운(예: 24 hours)· 집계 기간을 선택.
2-2KPI 카드Total Decisions / Success Rate / Avg Queue Time / Avg Decision Time· 총 결정·성공률·평균 큐/결정 시간.

성능 · 큐 메트릭 ​

결정 지연·큐 시간·공정성 등 상세 메트릭.

성능 · 큐 메트릭
번호기능항목설명
3-1Performance MetricsDecision Latency / Queue Time Stats / Throughput· 결정 지연(Avg·P95·P99)과 큐 시간, 처리량.
3-2Queue PerformancePriority Balance / Resource Sharing / Overall Fairness· 우선순위 밸런스·자원 공정성 점수.
3-3Queue Scheduler Metrics큐별 메트릭 테이블· Queue name·Type·Pending·Admitted·Rejected 등.

스케줄링 정책 개요 ​

Kueue 스케줄러는 다음 순서로 Workload를 처리합니다:

  1. Quota 검사: Cluster Queue의 nominalQuota 내에서 Workload 실행 가능 여부 확인
  2. Cohort Borrowing: Cohort 내 미사용 Quota를 다른 Cluster Queue에서 빌려 실행 가능 여부 재검사
  3. Preemption: 우선순위 높은 Workload를 위해 낮은 우선순위 Workload를 선점

우선순위 설정 ​

설정설명
WorkloadPriorityClassWorkload에 직접 적정 우선순위 클래스 지정
PriorityClass (k8s)Kubernetes 기본 PriorityClass 참조

Cohort 구성 ​

Cohort는 여러 Cluster Queue가 Quota를 공유하는 그룹입니다:

  • nominalQuota: 기본 보장 리소스량
  • borrowingLimit: 다른 Queue에서 빌릴 수 있는 최대 리소스량
  • lendingLimit: 다른 Queue에 빌려줄 수 있는 최대 리소스량

Preemption 정책 ​

정책설명
NeverPreemption 비활성화
LowerPriority낮은 우선순위 Workload만 선점
LowerOrNewerEqualPriority낮거나 동등한 우선순위의 최신 Workload 선점

WARNING

Preemption 정책을 변경하면 실행 중인 Workload에 영향을 줄 수 있습니다. 변경 전 팀과 사전 협의하세요.

AI 인프라의 새로운 기준