Container Apps 서버리스 GPU 실제 비용
시간당 $0.263이에요. Azure Container Apps 서버리스 T4 가격표에 적힌 이 숫자를 보고, AI 코딩 도우미는 "음성 1시간 처리에 3센트"라고 계산했어요. 이 글은 Container Apps 서버리스 GPU로 오픈 음성 인식 모델을 돌리면 실제로 얼마인지에 답해요. 답부터 말하면 GPU 요금보다 vCPU·RAM 요금이 더 컸고, 크기를 줄이자 시간당 약 $0.78로 내려갔어요.
왜 Container Apps에 GPU를 붙였나
우리 음성 전사는 지금 관리형 API인 MAI-Transcribe-2로 돌아요. 같은 음성을 오픈 모델로도 받아써서 품질과 비용을 견줘 보고 싶었어요. 모델은 Qwen3-ASR 1.7B와 강제 정렬 모델 0.6B예요.
평소라면 이미 쓰는 Azure ML low priority 클러스터에 올렸을 거예요. 마일스톤 기간이라 "VM을 직접 잡지 않는 GPU"를 써 볼 계기가 생겼어요(0일차 글의 규칙 참고). 솔직히 우리라면 먼저 고르지 않았을 서비스예요.
Container Apps 소비형 환경에 서버리스 GPU 프로필을 붙이면, 작업(Job)이 도는 동안만 T4 한 장이 잡혀요. eastus에서는 할당량 신청 없이 바로 붙었어요. 참고로 한국 리전에는 Container Apps GPU가 아직 없었어요.
시간당 $0.263이 아니었다
첫 실행은 10분 남짓한 음성 파일 하나였어요. 성공은 했지만 시간 대부분이 이미지 받기였어요. 모델을 넣은 8.9GB 이미지를 받는 데 622초, 받아쓰기는 66초였어요.
결과를 보고 나는 "온디맨드인데 왜 이렇게 싸지?"라고 물었어요. 다시 계산하니 틀린 숫자였어요. 서버리스 GPU는 GPU-초에 vCPU-초와 RAM(GiB)-초를 함께 받아요. 프로필 최대치인 8 vCPU·56GiB로 띄웠더니 합이 시간당 약 $1.56이었어요. 같은 T4 VM 온디맨드(약 $0.75)의 두 배예요.
받아쓰기는 GPU가 일하고 CPU는 거의 놀아요. 그래서 4 vCPU·16GiB로 줄였어요. 속도는 그대로였고 값은 시간당 약 $0.78로 절반이 됐어요. 서버리스 프로필 이름의 크기는 최대치일 뿐이에요. 작업마다 CPU·RAM을 직접 골라야 해요.
GPU를 몇 퍼센트나 쓰고 있었나
다음 질문은 "GPU를 100% 쓰냐"였어요. 재 보지 않았으니 알 수 없었어요. 그래서 작업 안에서 5초마다 사용률을 남기게 하고 세 가지를 바꿨어요.
- 배치를 24에서 48로 키웠어요.
- 다음 파일의 말소리 구간 찾기(VAD)를 CPU에서 미리 해서 GPU 일과 겹쳤어요.
- 이미지를 8.9GB에서 3.8GB로 줄이고, 모델은 시작할 때 받게 했어요.
약 66분 분량의 음성 파일 묶음으로 다시 돌렸어요. 예열이 끝난 뒤 GPU 사용률은 파일마다 72~94%, 전체 평균 77%였어요. 속도는 예열 뒤 약 45배속이라 음성 1시간 처리에 약 $0.017이에요. MAI의 지금 할인 단가(시간당 $0.10)와 비교해도 약 6분의 1이에요. 다만 이번 표본에서 품질은 MAI가 더 나았어요. 특히 띄어쓰기가 그랬어요.
남은 병목은 시작 시간이에요. 실행마다 이미지를 새로 받아서 약 8분이 깔려요. 그래서 짧게 자주 띄우지 않고 하루 한 번 몰아서 돌리기로 했어요. Azure Functions의 정기 실행이 매일 작업을 띄우고, 작업은 88분이 되면 처리 중인 파일까지 끝내고 멈춰요. 비용 상한을 실행 시간으로 묶은 셈이에요. 다음에는 vLLM으로 바꿔 T4 VRAM 안에서 처리량을 더 올려 볼 거예요.
써 보고 느낀 점
"GPU를 초 단위로 빌린다"는 경험은 솔직히 기대보다 좋았어요. 노드 풀도, 드라이버 설치도, 끄는 스크립트도 없어요. 반대로 값은 싸지 않아요. 회수 걱정 없는 온디맨드라 low priority T4(시간당 약 $0.1 남짓)보다 몇 배 비싸요. 큰 이미지의 콜드 스타트도 아직 아파요.
내 판정은 이래요. 하루 한두 시간짜리 배치 GPU 일에는 잘 맞아요. 24시간 도는 추론이라면 여전히 VM이나 low priority 클러스터가 낫다고 봐요.
이 작업은 이제 Azure에서 혼자 돌고, 나는 보고 메일로 결과를 봐요. 편하지만 메일이 오기 전까지 정말 돌았는지 모른다는 게 아직 조마조마해요.
서버리스 GPU 가격표를 볼 때는 GPU 한 줄이 아니라 GPU·vCPU·RAM을 더한 값을 보세요.
그 밖에 오늘
- MAI-Transcribe-2는 eastus2에서 아직 지원하지 않아 eastus로 불렀어요. m4a는 받지 않아서 MP3(모노 16kHz)로 바꿨어요.
- 그 전에 쓰던 Speech 일괄 전사가 큰 m4a에서 실패한 원인은 메타데이터(moov)가 파일 끝에 있던 거였어요. 앞쪽으로 옮기면(faststart) 풀려요.
- 정기 작업 지휘를 AKS로 옮길지 따져 봤지만, 우리 규모에선 Functions 정기 실행으로 충분해서 만들지 않았어요.