Token metering

엔드포인트가 처리한 토큰과 요청을 기간별로 집계해 봅니다. 사용량을 프로젝트·사용자·모델·엔드포인트별로 나눠 보고 CSV로 내려받을 수 있어, 사용량 점검이나 내부 정산에 씁니다.

사전 조건

• AI Inference Admin에 접근할 수 있는 관리자 계정

---

사이드바에서 Evaluation → Token metering을 클릭합니다.

기간 · 내보내기

집계할 기간을 고르고 결과를 CSV로 내려받습니다.

번호	기능	항목	설명
1-1	기간	Last 7d 등	· 최근 7일 같은 미리 정한 기간이나 직접 지정한 기간(Custom)을 고릅니다.
1-2	Export CSV	내보내기	· 현재 기간·구분의 집계 결과를 CSV 파일로 내려받습니다.

요약 지표

선택한 기간에 엔드포인트가 처리한 토큰과 요청 수의 합계입니다.

번호	기능	항목	설명
2-1	지표	Total tokens	입력과 출력을 합친 전체 토큰 수입니다.
		Prompt tokens	요청으로 들어온 입력 토큰 수입니다.
		Completion tokens	모델이 만든 출력 토큰 수입니다.
		Requests	처리한 요청 수입니다.
		Streamed requests	그중 스트리밍으로 응답한 요청 수입니다.

Tokens over time

날짜별 토큰 사용량을 막대로 보여줍니다.

번호	기능	항목	설명
3-1	Group by	막대 구분 기준	· 막대를 프로젝트·사용자·모델·엔드포인트 중 무엇으로 나눠 색칠할지 고릅니다.

구분별 사용량

사용자·프로젝트·모델·엔드포인트별로 토큰 사용량을 표로 봅니다.

번호	기능	항목	설명
4-1	구분 탭	By user / By project / By model / By endpoint	· 표를 어떤 기준으로 나눠 볼지 고릅니다. 검색창으로 해당 항목을 찾을 수 있습니다.
4-2	표 컬럼	Prompt · Completion · Total · Requests · % of total	· 항목별 입력·출력·전체 토큰, 요청 수, 전체 대비 비율입니다. 프로젝트 이름을 클릭하면 해당 프로젝트로 이동합니다.