Serverless (Docker)

직접 만든 컨테이너 이미지를 서버리스 엔드포인트로 배포합니다. 이미지 주소와 포트, 환경 변수, 하드웨어·오토스케일링 설정을 지정하면 요청량에 맞춰 레플리카 수가 늘거나 줄어듭니다.

모델만 골라 바로 서빙하려면 vLLM을 쓰세요. 엔드포인트를 만든 뒤의 URL 확인·테스트·수정·삭제 방법은 vLLM과 같습니다 → 엔드포인트 관리.