Metis

AI 모델을 프로덕션 서비스로 운영하는 AI Inference Platform입니다.

준비된 추론 엔진으로 서버리스 엔드포인트를 띄우고, 워크로드·템플릿·볼륨으로 추론 인프라를 구성하며, Benchmark로 엔드포인트 성능을 평가합니다. 관리자는 Kueue 스케줄링과 클러스터 모니터링으로 자원을 운영합니다.

모델 학습은 Maxis에서, 모델·데이터셋 등 AI 자산 관리는 Signum의 Hub에서 합니다.

구성 요소

AI Inference

서버리스 엔드포인트(vLLM 등)로 모델을 배포하고, 워크로드·템플릿·볼륨과 Benchmark로 추론 환경을 운영합니다.

→

AI Inference Admin

전체 엔드포인트·워크로드를 관리자 관점에서 조회하고, Kueue 스케줄링·모니터링·프로젝트를 관리합니다.

→

Metis Container

공용 Kubernetes 환경에서 Workload·네트워크·스토리지·정책을 관리합니다.

→

빠른 시작

Metis를 처음 이용해보신다면 아래 대표 가이드를 따라해보세요!

1. AI Inference에서 서버리스 엔드포인트 배포하기

a. AI Inference의 Serverless로 이동합니다.
b. 배포할 모델과 추론 엔진을 선택하고 리소스를 설정합니다.
c. 엔드포인트를 생성한 뒤 상태가 실행 중이 되는지 확인합니다.
d. 발급된 엔드포인트로 요청을 보내 응답을 확인합니다.

2. Hub 자산을 활용해 AI Inference에서 Workload 배포하기

a. Hub에서 사용할 모델, 데이터셋, 패키지 등 리소스를 확인합니다.
b. AI Inference의 Infrastructure로 이동해 Workload를 생성합니다.
c. Hub에서 확인한 리소스와 필요한 볼륨, 이미지, 실행 템플릿을 선택합니다.
d. Workload를 배포한 뒤 실행 상태와 로그를 확인합니다.