<?xml version="1.0" encoding="UTF-8"?><rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom" xmlns:content="http://purl.org/rss/1.0/modules/content/"><channel><atom:link href="https://blog.nest.codes/ko/feed.xml" rel="self" type="application/rss+xml"/><title>Azure 크레딧 마일스톤 개발 일지</title><link>https://blog.nest.codes/ko/</link><description>Microsoft for Startups 마일스톤을 진행하며 쓰는 Azure 해커톤 일지</description><language>ko</language><lastBuildDate>Fri, 20 Nov 2026 13:52:30 +0000</lastBuildDate><item><title>Azure 서비스 실사용, 사용 지표로 점검한 법</title><link>https://blog.nest.codes/ko/azure-service-usage-metrics-audit/</link><guid>https://blog.nest.codes/ko/azure-service-usage-metrics-audit/</guid><pubDate>Fri, 20 Nov 2026 12:00:00 +0000</pubDate><description>켜 두기만 한 Azure 서비스가 있나? 요청·질의 지표로 확인해 보니, 조용한 Load Balancer까지 장애 대비로 실제 쓰이고 있었어요.</description><content:encoded><![CDATA[<p>Well-Architected 문서에서 '워크로드'는 해법 전체를 뜻하지만, 스타트업 프로그램 문서에서는 실제로 쓰는 Azure 서비스 하나를 뜻해요. 이 차이를 짚다가 '우리가 붙인 서비스들은 정말 일하고 있나?'를 지표로 점검했어요. 답은 '모두 일하고 있다'였고, 거의 조용한 Load Balancer도 장애 때 일하는 보험이었어요.</p>
<h2 id="같은-워크로드인데-왜-세는-단위가-다를까요">같은 '워크로드'인데 왜 세는 단위가 다를까요?</h2>
<p>마일스톤은 여러 서비스를 60일 동안 꾸준히 실제로 쓰는 규칙이에요(<a href="/ko/why-azure-nvidia-inception-credits/">0일차 글</a>). 그 '실제로'를 우리가 잘 지키는지, Claude Code 서브에이전트에게 Well-Architected 문서와 대조를 맡겼어요.</p>
<p>두 문서는 같은 낱말을 다른 단위로 써요. Well-Architected의 워크로드는 리소스·코드·모델·데이터가 함께 하나의 비즈니스 결과를 내는 묶음이에요. 그 기준이면 우리 해법은 미디어 처리, 음성 전사, 검색, 웹, GPU 추론 정도예요.</p>
<p>스타트업 문서는 '솔루션에서 실제로 쓰는 고유한 서비스 하나'를 하나로 세요. 그래서 우리는 Well-Architected를 셈 기준이 아니라 거울로 쓰기로 했어요. 서비스마다 서비스 가이드가 말하는 용도대로 쓰는지 비춰 보는 거예요.</p>
<p>리뷰어는 대부분이 가이드 용도 그대로라고 했고, 몇 가지를 의심했어요. 저우선(low priority) GPU 노드를 늘 1대 켜 두는 것, Developer 등급 API Management, 트래픽이 거의 없는 Load Balancer예요. GPU 노드는 바로 결론이 났어요. 이 구독에서는 전용 GPU 한도를 받을 수 없어서, 여러 리전 저우선 클러스터로 상시 추론을 받치는 게 우리 설계예요. 나머지는 숫자로 보기로 했어요.</p>
<h2 id="지표로-보면-켜-두기만-한-서비스가-있었나요">지표로 보면 켜 두기만 한 서비스가 있었나요?</h2>
<p>감으로 답하지 않고 지난 이틀 지표를 뽑았어요.</p>
<ul>
<li>API Management: 요청이 하루 4,741건, 다음 날 5,266건이에요. 전사 교정, 관리 화면 분석, 검색 임베딩이 모두 관문을 거쳐요.</li>
<li>AI Search: 질의가 1,992건, 148건이에요. 첫날은 색인을 채우느라 많았어요.</li>
<li>Container Registry: 이미지 받기가 하루 18~222번이에요. 요금은 등급 고정비와 저장 용량이라 받는 횟수로는 안 늘어요.</li>
<li>Front Door: 요청이 하루 1,000~6,500건이에요. 관리 화면, 매일 보는 보고서 페이지, 이 블로그가 뒤에 있어요.</li>
</ul>
<p>눈에 띄게 적은 건 GPU 쪽 Load Balancer 하나였어요. 하루 몇 MB, 상태 검사 수준이었어요. 처음엔 나도 '이건 빼야 하나' 싶었어요. 그런데 하는 일을 다시 보니 평소엔 조용한 게 맞았어요.</p>
<ul>
<li>라우팅용 Redis가 안 될 때 앱 자체 라우팅으로 넘어가도, 같은 리전 노드 2대에 요청을 나눠 줘요. 없으면 한 대에 몰려 대기가 길어져요.</li>
<li>백엔드가 고른 노드에 직접 연결이 실패하면, 그 요청을 LB로 한 번 더 보내는 예비 길이 돼요.</li>
</ul>
<p><strong>장애 때 일하는 서비스는 평소 트래픽으로 판정하면 안 된다</strong>는 게 이번에 배운 것이에요. 우리는 이 역할을 해법 문서에 적고 그대로 두기로 했어요.</p>
<h2 id="api-management-관문과-검색-비용은-왜-이렇게-짰나요">API Management 관문과 검색 비용은 왜 이렇게 짰나요?</h2>
<p>API Management는 솔직히 우리 규모엔 과하다고 생각했던 서비스예요. 마일스톤 기간에 Azure OpenAI 앞 관문으로 세워 보니 생각이 바뀌었어요.</p>
<p>이유는 두 가지예요. 첫째, 모델 키를 작업 코드와 PC에 흩어 두지 않아요. 부르는 쪽은 관문 키 하나만 알아요. 둘째, 하루 토큰 한도(100만 토큰)로 폭주를 막아요. 전에 교정 작업이 버그로 같은 일을 몇 시간 되풀이한 적이 있는데, 이제 그런 일은 관문에서 멈춰요.</p>
<p>관문이 죽으면 일도 멈추니, 5xx·401·연결 끊김이면 직접 주소로 한 번 다시 부르게 했어요. 한도 초과(403)는 일부러 그대로 멈춰요. 아쉬운 점도 있어요. Developer 등급은 가이드에도 운영용이 아니라고 적혀 있고, 만드는 데 오래 걸렸어요.</p>
<p>검색은 Foundry의 Cohere 임베딩(embed-v-4-0)으로 벡터를 만들어 AI Search 색인에 넣어요. 질의 결과는 Cohere 리랭커(rerank v5 pro)로 다시 줄 세워요. 둘 다 Azure 직접 판매 모델이라 크레딧으로 청구돼요. Marketplace 서버리스 배포는 크레딧이 안 돼서 쓰지 않는다는 규칙도 이때 정했어요.</p>
<p>AI Search의 자동 벡터화 연결 대신 코드에서 직접 임베딩을 부른 것도 청구 경로를 확실히 하려고서예요. 대가는 비용이었어요. 11-19 하루 Foundry 모델 비용 약 $6 가운데 <strong>리랭크와 임베딩이 절반 넘게</strong> 차지했어요. 색인을 처음 채우는 일회성 작업 탓이라, 평소 하루 10~20번 검색으로 돌아가면 줄어들 거예요(추정).</p>
<h2 id="cosmos-db-autoscale-권고는-왜-따르지-않았나요">Cosmos DB autoscale 권고는 왜 따르지 않았나요?</h2>
<p>리뷰어와 Advisor 모두 Cosmos DB autoscale을 권했어요. 우리는 고정 600 RU/s에 429 재시도를 그대로 두기로 했어요. 재시도 설계는 <a href="/ko/cosmos-db-429-retry-backoff/">3일차 글</a>에 있어요.</p>
<p>근거는 숫자였어요. 429는 하루 70건 남짓이고 재시도로 다 끝나요. autoscale은 한 시간 안의 최고치로 그 시간을 청구하는데, 지난 72시간 중 66시간이 순간적으로 600을 채웠어요. 바꾸면 하루 비용이 두세 배로 오를 수 있었어요(추정). 얻는 건 '몰릴 때 조금 더 빨리'뿐이었어요.</p>
<p>앞 글 정정: 앞 글의 하루 비용 약 $33은 일회성 작업을 뺀 '평소' 추정이었어요. 최근 실제 청구 평균은 약 $45예요. 새로 붙인 관문 같은 고정비와 색인 채우기 같은 일회성 사용이 들어간 값이에요.</p>
<p>이번에 느낀 게 하나 있어요. 로컬 Claude 창에서 지휘하던 일을 Functions 정기 실행으로 보내 놓으니, 이런 지표가 내 유일한 눈이에요. 편하지만 눈앞에 안 보여서, 지표 없이 '잘 돌겠지' 하는 건 이제 불안해요. 다음 걸음은 Cosmos 429, 관문 5xx, 로그 상한에 지표 알림을 붙이는 거예요.</p>
<p>켜 두기만 한 서비스가 있는지 점검할 때 우리가 쓴 순서예요.</p>
<ul>
<li>서비스마다 '일의 단위' 지표(요청·질의·받기)를 이틀치 뽑는다.</li>
<li>요금이 고정비로 나가는지, 사용량으로 나가는지 따로 본다.</li>
<li>트래픽이 적으면 장애 때 하는 역할부터 묻는다.</li>
<li>권고는 지금 오류가 실제로 남는지 보고 따른다.</li>
</ul>
<h2 id="그-밖에-오늘">그 밖에 오늘</h2>
<ul>
<li>Event Grid 구독 두 개에 실패 이벤트 보관(dead-letter)을 걸었어요. 여러 번 실패한 이벤트가 조용히 사라지지 않고 Blob에 남아 디버깅이 쉬워졌어요.</li>
<li>지원팀에 장애 대비용 AML 전용 T4 한도를 마지막으로 물었고, 스폰서 구독에는 새 GPU 할당이 당분간 어렵다는 답과 Foundry 모델을 대안으로 권하는 안내를 받았어요. 그래서 GPU 일은 AML 저우선 클러스터, Container Apps 서버리스 GPU, Foundry로만 설계해요.</li>
<li>Log Analytics는 무료 사용량 안에서 쓰도록 하루 상한을 걸고, 대신 GPU 클러스터의 노드 이벤트와 사용률 로그를 붙였어요. 로그 대부분이 한 모델 라이브러리의 같은 경고 줄이었다는 것도 이때 알았어요.</li>
</ul>]]></content:encoded></item><item><title>Container Apps 작업 시작 8분→1.8분, Blob으로</title><link>https://blog.nest.codes/ko/container-apps-job-image-blob-startup/</link><guid>https://blog.nest.codes/ko/container-apps-job-image-blob-startup/</guid><pubDate>Wed, 18 Nov 2026 12:00:00 +0000</pubDate><description>다른 리전 ACR에서 큰 이미지를 받느라 GPU 작업 시작이 8분 걸렸어요. 지역 복제 대신 공개 기본 이미지와 같은 리전 Blob으로 1.8분까지 줄인 과정이에요.</description><content:encoded><![CDATA[<p>GPU 작업은 미국 동부(eastus)에서 도는데, 그 작업이 쓸 컨테이너 이미지는 서울 레지스트리에 있었어요. 이 글은 "다른 리전 레지스트리 때문에 느리게 뜨는 Container Apps 작업을 어떻게 빠르게 하나"에 답해요. 우리 답은 ACR 지역 복제가 아니었어요. 작은 공개 이미지에 같은 리전 Blob을 붙였고, 시작이 약 8분에서 약 1.8분으로 줄었어요.</p>
<h2 id="advisor는-왜-지역-복제를-권했나요">Advisor는 왜 지역 복제를 권했나요?</h2>
<p>오늘 Azure Advisor 권고 70개를 하나씩 봤어요. 그중 하나가 Container Registry(ACR) 지역 복제였어요. 우리 음성 전사 작업은 Container Apps 서버리스 GPU 작업이고, 하루 몇 번 eastus에서 떠요. 뜰 때마다 수 GB짜리 이미지를 서울 ACR에서 끌어왔어요.</p>
<p>큰 이미지의 콜드 스타트는 <a href="/ko/container-apps-serverless-gpu-asr/">2일차 글</a>에서 이미 겪었어요. 그때는 몰아 돌려서 횟수만 줄였어요. 이미지가 어디 있는지는 손대지 않았어요. 그런데 이미지를 받는 시간도 GPU 작업 시간으로 청구돼요.</p>
<p>Advisor 말대로 하면 쉬워요. 다만 지역 복제는 Premium 등급에서만 돼요. 복제본 하나마다 레지스트리 한 대 값이 더 붙어요(공개 가격 기준 한 달 약 $50).</p>
<h2 id="복제-새-레지스트리-blob-중-무엇을-골랐나요">복제, 새 레지스트리, Blob 중 무엇을 골랐나요?</h2>
<p>선택지는 셋이었어요.</p>
<ul>
<li>ACR을 eastus로 복제: 고칠 코드는 없지만 매달 값이 늘어요.</li>
<li>eastus에 Standard ACR 하나 더: 싸지만 빌드·푸시 경로가 둘로 갈라져요.</li>
<li>이미지를 작게: 공개 기본 이미지만 쓰고, 패키지·모델·코드는 같은 리전 Blob에서 받기.</li>
</ul>
<p>나는 처음에 복제 쪽으로 기울었어요. 그런데 다시 보니 Advisor가 짚은 건 증상이고, 원인은 설계였어요. GPU 작업이 eastus에 있으면 재료도 eastus에 있어야 했어요. 그래서 우리는 셋째를 골랐어요.</p>
<h2 id="바꾼-구조는-어떻게-생겼나요">바꾼 구조는 어떻게 생겼나요?</h2>
<p>구조 변경은 Claude Code 서브에이전트에게 맡겼고, 결과는 내가 직접 확인했어요.</p>
<ul>
<li>이미지: Microsoft 레지스트리(MCR)의 python 3.11 slim 미러예요. Azure 안에서 빠르고, Docker Hub 익명 받기 한도도 피해요.</li>
<li>시작 명령: 몇 줄짜리 부트 코드예요. 작업의 시스템 관리 ID(키 없이 Azure 인증을 받는 신원)로 토큰을 받아 Blob에서 시작 스크립트를 받아요.</li>
<li>Blob: eastus에 이미 있던 저장소 계정에 컨테이너만 하나 더 만들었어요. 같은 리전이라 전송 요금이 없어요.</li>
<li>권한: 작업 ID에 그 컨테이너 한정 Storage Blob Data Reader만 줬어요. 키는 이미지에도 환경 변수에도 없어요.</li>
<li>패키지: 약 7GB짜리 tar 묶음 하나예요. 파일 이름에 날짜를 붙여 버전을 나눠요.</li>
</ul>
<pre><code class="language-python"># 시작 명령의 개념 (이름은 일반화)
token = get_managed_identity_token(&quot;https://storage.azure.com/&quot;)
boot = http_get(f&quot;{BLOB_URL}/code/boot.py&quot;, bearer=token)
exec(boot)  # boot.py 가 패키지 묶음 · 모델 · 코드를 받고 작업을 시작
</code></pre>
<p>시험 실행 세 번이 모두 정상으로 기록됐어요. 옛 이미지와 레지스트리는 되돌릴 때를 위해 그대로 뒀어요. ACR은 웹 컨테이너가 계속 쓰니 지우지 않아요.</p>
<p>맞바꾼 것도 있어요. 이미지 하나에 모든 게 굳어 있던 때보다, 무엇이 어느 버전으로 떴는지 따라가기 어려워요. 지금은 묶음 이름과 부트 로그로 메우고 있어요. 솔직히 이 방식은 기대보다 깔끔했어요. 이미지를 다시 빌드하지 않고 코드만 Blob에 올리면 되니 배포도 빨라졌어요.</p>
<h2 id="첫-자동-실행-전에-잡힌-설정-하나">첫 자동 실행 전에 잡힌 설정 하나</h2>
<p>저녁에 리뷰 에이전트로 자동화 설정을 한 번 더 훑었어요. 급한 게 하나 나왔어요. 작업을 띄우는 Functions 앱 설정에 옛 이미지 주소가 남아 있었어요. 코드는 이 설정을 기본값보다 먼저 읽어요.</p>
<p>그대로 두면 내일 첫 자동 실행은 옛 이미지와 새 부트 코드라는, 한 번도 시험하지 않은 조합으로 떴을 거예요. 배포된 코드가 새 버전인지 먼저 확인하고, 앱 설정 한 줄만 지웠어요.</p>
<p>이건 좀 아찔했어요. 코드도 시험도 맞았는데, 앱 설정이 조용히 코드를 이기고 있었어요. 일을 Azure로 넘기고 나니 이런 건 눈앞에 안 보여요. 내일 아침 보고 메일이 와야 마음이 놓일 것 같아요.</p>
<p>앞 글 정정: 4일차 글의 하루 $41은 11-16 하루 청구 합계였어요. 평소 하루 비용은 약 $33으로 보고 있어요. 값이 틀렸다기보다 기준이 달라요.</p>
<p>다른 리전에서 무거운 걸 끌어오고 있다면, 복제를 사기 전에 그게 꼭 이미지 안에 있어야 하는지부터 물어보세요.</p>
<h2 id="그-밖에-오늘">그 밖에 오늘</h2>
<ul>
<li>Azure Communication Services Email: 알림 메일을 ACS로 먼저 보내고, 실패하면 기존 메일 경로로 넘기게 했어요. 도메인 DNS 기록 4개를 넣고 Function에서 202 Accepted를 확인했어요.</li>
<li>Event Grid: 2분마다 Blob을 훑던 타이머를 BlobCreated 이벤트 트리거로 바꾸고, 타이머는 1시간 백업으로 남겼어요.</li>
<li>Key Vault 참조: Function 앱 설정 19개를 금고 참조로 바꿨어요. Windows 셸이 az CLI 인자의 <code>;</code>와 괄호를 깨뜨려서, ARM REST로 직접 고쳤어요.</li>
</ul>]]></content:encoded></item><item><title>Cosmos DB에 자막 JSON 저장, 새 컨테이너 없이 나눈 법</title><link>https://blog.nest.codes/ko/cosmos-db-transcript-json-documents/</link><guid>https://blog.nest.codes/ko/cosmos-db-transcript-json-documents/</guid><pubDate>Tue, 17 Nov 2026 12:00:00 +0000</pubDate><description>전사 자막을 DB에서 바로 찾으려면? 파일은 R2에 두고, Cosmos DB 기존 컨테이너에 한 편당 JSON 문서로 종류 칸만 나눠 넣었어요.</description><content:encoded><![CDATA[<p>자막 파일을 객체 스토리지에만 두면, 한 회차의 대사를 보고 싶을 때마다 어떻게 해야 할까요? 매번 파일을 받아서 파싱해야 해요. 오늘 우리는 파일은 Cloudflare R2에 그대로 두고, Azure Cosmos DB에 자막 한 편당 JSON 문서 하나를 같이 넣기로 했어요. 새 컨테이너는 만들지 않았어요. 이미 돌고 있는 컨테이너 안에서 종류 칸으로만 나눴어요.</p>
<h2 id="파일만으로는-왜-부족했나요">파일만으로는 왜 부족했나요?</h2>
<p>우리 음성 전사 파이프라인은 Container Apps와 MAI 전사가 만든 SRT 파일을 Azure Blob에 올려요. 오늘 이 파일들을 R2에도 옮겼어요. 여러 클라우드에서 같은 자료를 읽자는 <a href="/ko/why-azure-nvidia-inception-credits/">0일차 글</a>의 원칙 때문이에요.</p>
<p>옮기고 나니 조회가 불편하다는 게 보였어요. 경로만 알면 파일은 바로 받을 수 있어요. 하지만 "이 회차 몇 분쯤에 뭐라고 했지?"를 보려면 받아서 파싱하는 코드가 매번 필요해요. 그래서 DB에서 바로 꺼낼 수 있게 문서로도 남기자고 정했어요.</p>
<h2 id="세-갈래-중-기존-컨테이너를-고른-이유">세 갈래 중 기존 컨테이너를 고른 이유</h2>
<p>선택지는 셋이었어요.</p>
<ul>
<li>PostgreSQL에 jsonb 표를 만든다. 이미 쓰고 있는 DB예요.</li>
<li>Cosmos DB에 자막 전용 컨테이너를 새로 만든다. 깔끔하지만 최소 400 RU/s(Cosmos DB 처리량 단위)가 따로 붙어요. 월 약 $23이 늘어요.</li>
<li>작업 큐가 쓰는 기존 Cosmos 컨테이너(600 RU/s 고정)에 종류 칸 <code>q</code>로 구분해 넣는다.</li>
</ul>
<p>기준은 추가 고정비, 한 편 단위 조회, 기존 코드 재사용이었어요. 우리는 세 번째를 골랐어요. 큐 작업이 이미 이 컨테이너에 쓰고 있어서 클라이언트와 권한을 그대로 쓸 수 있었어요. 문서 모양은 이래요.</p>
<pre><code class="language-json">{
  &quot;q&quot;: &quot;sub&quot;,
  &quot;w&quot;: &quot;tv:&lt;id&gt;:&lt;시즌&gt;:&lt;회&gt;&quot;,
  &quot;source&quot;: &quot;&lt;전사 모델&gt;&quot;,
  &quot;r2&quot;: &quot;&lt;R2 경로&gt;&quot;,
  &quot;n&quot;: 180,
  &quot;lines&quot;: [[0.0, 2.4, &quot;첫 대사&quot;], [2.4, 5.1, &quot;둘째 대사&quot;]]
}
</code></pre>
<p>조회는 <code>WHERE c.q='sub' AND c.w='...'</code> 한 줄이에요. 성격이 다른 긴 녹음 전사본은 <code>q</code> 값만 다르게 해서 같은 컨테이너에 넣었어요. 솔직히 PostgreSQL jsonb로도 충분했을 거예요. Cosmos를 고른 건 성능보다 이미 깔린 길을 쓰는 편이 빨라서였어요.</p>
<h2 id="그-대가로-챙긴-세-가지">그 대가로 챙긴 세 가지</h2>
<p>첫째는 색인이에요. Cosmos DB는 기본으로 모든 칸을 색인해요. 대사 배열까지 색인되면 문서 하나 쓸 때마다 RU가 크게 들어요. 그래서 조회 키 <code>w</code>만 색인에 더하고 나머지는 빼 두었어요.</p>
<pre><code class="language-json">{
  &quot;includedPaths&quot;: [{ &quot;path&quot;: &quot;/q/?&quot; }, { &quot;path&quot;: &quot;/w/?&quot; }],
  &quot;excludedPaths&quot;: [{ &quot;path&quot;: &quot;/*&quot; }]
}
</code></pre>
<p>우리 환경에서는 데이터 쪽 키로는 색인 정책을 못 바꿨어요. 관리 쪽 권한이 있는 az CLI로 바꿨어요.</p>
<p>둘째는 문서 한도 2MB예요. 아주 긴 자막은 이 한도를 넘을 수 있어요. 그런 문서는 대사를 빼고 R2 경로만 남기게 했어요.</p>
<p>셋째는 429예요. 큐와 RU를 나눠 쓰니 몰아 쓰면 큐가 밀려요. 기존 자막을 채울 때는 동시 2줄로 천천히 넣고, 429가 나면 쉬었다가 다시 하게 했어요(<a href="/ko/cosmos-db-429-retry-backoff/">3일차 글</a>의 방식 그대로예요). 다 채우는 데 1시간 20분쯤 걸렸고 실패는 0이었어요.</p>
<p>새 자막은 Functions 타이머가 맡아요. 2분마다 Blob을 훑어서 아직 안 옮긴 파일을 R2에 올려요. 그다음 메타데이터 DB에 주소를 적고, Cosmos 문서를 만들어요. Container Apps 쪽 전사 코드는 한 줄도 안 고쳤어요. Cosmos 쓰기가 실패해도 파일은 이미 R2에 있어서, 나중에 다시 채우면 돼요.</p>
<p>그날 느낀 점이 하나 있어요. 전사, 보관, 색인이 타이머 하나로 이어지니 정말 편해요. 그런데 2분마다 도는 게 눈에 안 보여서 조마조마해요. 그래서 매일 보고 메일에 이 단계 줄을 하나 더 넣었어요.</p>
<h2 id="그-밖에-오늘">그 밖에 오늘</h2>
<ul>
<li>Front Door 요청 수를 하루 한 칸으로 묶어 조회했더니 1건으로 나왔어요. 시간 단위로 다시 세니 하루 수천 건이었어요. 메트릭 집계 단위부터 확인하세요.</li>
<li>Functions Flex Consumption은 켜져 있는 시간 × 인스턴스 크기로 청구돼요. 하루만 쓰려던 일정 설정이 남아서 그날 실행 시간이 평소의 약 3배가 됐어요. 날짜가 지난 설정은 바로 지웠어요.</li>
<li>Azure OpenAI의 GPT 모델로 전사 교정을 시험했어요. 1시간 분량에 약 $0.11이었어요. 전사 규칙상 숫자를 한글로 적어야 해서, 그 규칙을 프롬프트에 꼭 박아야 했어요.</li>
</ul>
<p>아직 모르는 게 있어요. 전사가 몰리는 날, 같은 600 RU/s를 나눠 쓰는 큐가 눈에 띄게 밀릴까요? 그렇다면 데이터베이스 단위 공유 처리량이 새 컨테이너보다 나은 답일지도 몰라요. 아직 재 보지 못했어요.</p>]]></content:encoded></item><item><title>Cosmos DB 429, 평균 RU 1%에서 재시도로 푼 법</title><link>https://blog.nest.codes/ko/cosmos-db-429-retry-backoff/</link><guid>https://blog.nest.codes/ko/cosmos-db-429-retry-backoff/</guid><pubDate>Mon, 16 Nov 2026 12:00:00 +0000</pubDate><description>평균 RU 1% 미만인 Cosmos DB에서 429가 난 건 초 단위 몰림 때문이었어요. RU/s를 올리지 않고 동시 쓰기 축소와 지수 재시도로 풀었어요.</description><content:encoded><![CDATA[<p>평균 사용률은 1%도 안 되는데, 429(요청이 너무 많음)는 한 시간에 많게는 약 4,000번 났어요. 이 글은 "Cosmos DB 처리량이 남는데 왜 막히나, RU/s를 올려야 하나"에 답해요. 우리 답은 올리지 않는다였어요. 문제는 용량이 아니라 몇 초 사이에 몰리는 쓰기였고, 동시 쓰기를 줄이고 재시도를 넣어 풀었어요.</p>
<h2 id="평균-1인데-왜-429가-났을까요">평균 1%인데 왜 429가 났을까요</h2>
<p>우리는 Cosmos DB for NoSQL 컨테이너 하나를 작업 큐와 기록 저장소로 같이 써요. 처리량은 수동(고정) 600 RU/s예요. RU/s는 Cosmos가 1초에 처리해 주는 요청 비용의 양이에요. 여러 Azure Functions와 전사 작업이 이 컨테이너를 나눠 써요.</p>
<p>문제는 Functions 오류 기록에서 먼저 보였어요. 전사 결과를 줄 단위 문서로 넣는 단계가 계속 실패하고 있었어요. 전사 하나가 끝나면 문서 수백 개를 8개씩 동시에 upsert했거든요.</p>
<p>시간대별 지표를 열어 보니 그림이 갈렸어요. 평소에는 한 시간 평균이 600 RU/s의 0.1~0.3%였어요. 그런데 전사가 끝나는 순간에는 Normalized RU Consumption(정규화된 RU 사용률)이 100%를 찍었어요. 한도는 초 단위로 걸리는데, 우리는 시간 평균만 보고 있었던 거예요.</p>
<p>처음에 나는 "429가 날 정도면 600 RU/s를 꽉 채워 쓰는 거다"라고 생각했어요. 다시 보니 틀린 말이었어요. 하루 전체로는 1%도 안 쓰고, 몰린 몇 초만 넘쳤어요.</p>
<h2 id="조용히-실패한-쓰기는-어디에-숨어-있었나">조용히 실패한 쓰기는 어디에 숨어 있었나</h2>
<p>더 아팠던 건 실패가 안 보였다는 점이에요. 코드는 쓰기가 실패하면 기록만 남기고 넘어가게 되어 있었어요. 매일 받는 보고 메일에는 경고가 하나도 없었어요. 결과 파일과 PostgreSQL 기록은 멀쩡해서, 빠진 건 Cosmos 쪽 줄뿐이었어요.</p>
<p>지난 24시간 동안 전사 18건의 줄이 통째로 빠져 있었어요. 로컬 PC의 Claude 창에서 직접 돌릴 때는 빨간 오류가 바로 눈에 들어왔어요. Functions로 옮긴 뒤로는 일이 저절로 돌고, 나는 메일로만 결과를 봐요. 편해졌지만, 이런 조용한 실패가 제일 무섭다는 걸 이번에 느꼈어요.</p>
<p>고친 내용은 두 가지예요.</p>
<ul>
<li>동시에 넣는 수를 8개에서 2개로 줄였어요.</li>
<li>429가 오면 1초, 2초, 4초… 최대 60초까지 늘려 기다렸다가 최대 12번 다시 넣어요.</li>
</ul>
<pre><code class="language-python">for attempt in range(12):
    try:
        container.upsert_item(doc)
        break
    except CosmosHttpResponseError as e:
        if e.status_code != 429:
            raise
        time.sleep(min(60, 2 ** attempt))
</code></pre>
<p>고친 코드로 빠졌던 줄 약 4만 9천 개를 다시 채웠어요. 채우는 동안에도 429는 났지만, 재시도가 받아 내서 실패는 0건이었어요. 같은 줄은 같은 ID로 덮어써서 중복도 생기지 않았어요.</p>
<h2 id="rus를-올릴까-autoscale로-갈까-그대로-둘까">RU/s를 올릴까, autoscale로 갈까, 그대로 둘까</h2>
<p>선택지는 셋이었어요.</p>
<ol>
<li>고정 RU/s를 올리기</li>
<li>autoscale(최대치 안에서 시간마다 오르내림)로 바꾸기</li>
<li>600 RU/s를 두고 재시도로 흡수하기</li>
</ol>
<p>autoscale은 그 시간에 실제로 올라간 최대치로 청구되고, 단가가 고정의 1.5배예요. 몇 시간씩 바쁜 일에는 맞지만, 우리 몰림은 몇 초짜리라 이득이 작았어요. 무료 등급(Free tier)도 봤어요. 성능 차이 없이 1,000 RU/s와 25GB만큼 깎아 주는 순수 할인이라 좋아 보였어요. 다만 계정을 만들 때만 켤 수 있고 구독당 하나뿐이라, 큐를 새 계정으로 옮겨야 했어요.</p>
<p>결정 전에 Azure 지원에 그대로 물어봤어요. "평균 사용률 1% 미만인데 순간 429가 난다, RU/s를 올려야 하나?" 답의 요지는 이랬어요. 429는 장애가 아니라 정상적인 속도 제한 신호이고, 재시도로 실패가 사라지면 RU/s를 올릴 필요는 없다는 거예요. 그래서 <strong>3번, 그대로 두고 재시도</strong>로 정했어요. 대가는 몰리는 순간 쓰기가 몇십 초 늦어진다는 점인데, 우리 일에는 문제가 없어요.</p>
<p>지원 문의에서도 하나 배웠어요. Developer 지원 플랜에서는 Support API로 문의를 만들 수 없어요(Professional Direct 이상 필요). 목록과 답장 읽기는 API로 돼서, 만들기는 포털, 읽기는 API로 나눴어요. 포털이 문제 유형을 '처리량 및 크기 조정 / 요청 빈도가 너무 높음'으로 알아서 골라 준 건 기대보다 좋았어요.</p>
<p>솔직히 Cosmos는 처음에 우리 규모에 과하다고 생각했어요. 마일스톤 기간에 큐로 써 보니, 지표가 초 단위 문제까지 보여 줘서 원인을 빨리 찾았어요. 다만 기본 그래프가 시간 평균이라 몰림을 놓치기 쉬운 점은 아직 불편해요. 다음 걸음은 시간대별 429 건수를 다시 보고, 실제 쓰기 실패가 0인지 확인하는 거예요.</p>
<p>같은 일을 겪는 팀을 위한 점검 목록이에요.</p>
<ul>
<li>시간 평균 말고 Normalized RU Consumption의 최대값을 보세요.</li>
<li>대량 upsert는 동시 수부터 줄이세요.</li>
<li>429에는 지수 백오프 재시도를 넣으세요.</li>
<li>실패를 기록만 하고 넘기는 코드가 있으면 알림에 올리세요.</li>
<li>무료 등급은 계정을 만들 때만 켤 수 있다는 걸 미리 알아 두세요.</li>
</ul>
<h2 id="그-밖에-오늘">그 밖에 오늘</h2>
<ul>
<li>앞 글 정정: <a href="/ko/container-apps-serverless-gpu-asr/">2일차 글</a>에서 서버리스 GPU 비용을 GPU+vCPU+RAM 합으로 잡았어요. 실제 청구에는 T4 사용료(시간당 약 $0.263)만 붙었고, vCPU와 메모리는 매달 주는 무료분이 받아 냈어요. 무료분이 남은 달 초에는 실제 비용이 추정보다 낮아요.</li>
<li>Cosmos NoSQL 쿼리에서 <code>by</code>를 별칭으로 썼다가 예약어라 문법 오류가 났고, 매일 도는 작업 하나가 시작되지 않았어요. 별칭을 바꿔 다시 배포했어요.</li>
<li>Azure ML 컴퓨팅 클러스터의 최소 노드를 0으로 바꿨어요. 노드에 붙는 Premium SSD OS 디스크는 Storage로 청구되는데, 노드가 꺼지면 함께 사라져요.</li>
</ul>]]></content:encoded></item><item><title>Container Apps 서버리스 GPU 실제 비용</title><link>https://blog.nest.codes/ko/container-apps-serverless-gpu-asr/</link><guid>https://blog.nest.codes/ko/container-apps-serverless-gpu-asr/</guid><pubDate>Sun, 15 Nov 2026 12:00:00 +0000</pubDate><description>서버리스 T4는 시간당 $0.26로 보이지만 vCPU·RAM 요금이 따로 붙어요. 4 vCPU로 줄여 값을 절반으로, GPU 사용률은 77%로 올린 실험이에요.</description><content:encoded><![CDATA[<p>시간당 $0.263이에요. Azure Container Apps 서버리스 T4 가격표에 적힌 이 숫자를 보고, AI 코딩 도우미는 "음성 1시간 처리에 3센트"라고 계산했어요. 이 글은 Container Apps 서버리스 GPU로 오픈 음성 인식 모델을 돌리면 실제로 얼마인지에 답해요. 답부터 말하면 GPU 요금보다 vCPU·RAM 요금이 더 컸고, 크기를 줄이자 시간당 약 $0.78로 내려갔어요.</p>
<h2 id="왜-container-apps에-gpu를-붙였나">왜 Container Apps에 GPU를 붙였나</h2>
<p>우리 음성 전사는 지금 관리형 API인 MAI-Transcribe-2로 돌아요. 같은 음성을 오픈 모델로도 받아써서 품질과 비용을 견줘 보고 싶었어요. 모델은 Qwen3-ASR 1.7B와 강제 정렬 모델 0.6B예요.</p>
<p>평소라면 이미 쓰는 Azure ML low priority 클러스터에 올렸을 거예요. 마일스톤 기간이라 "VM을 직접 잡지 않는 GPU"를 써 볼 계기가 생겼어요(<a href="/ko/why-azure-nvidia-inception-credits/">0일차 글</a>의 규칙 참고). 솔직히 우리라면 먼저 고르지 않았을 서비스예요.</p>
<p>Container Apps 소비형 환경에 서버리스 GPU 프로필을 붙이면, 작업(Job)이 도는 동안만 T4 한 장이 잡혀요. eastus에서는 할당량 신청 없이 바로 붙었어요. 참고로 한국 리전에는 Container Apps GPU가 아직 없었어요.</p>
<h2 id="시간당-0263이-아니었다">시간당 $0.263이 아니었다</h2>
<p>첫 실행은 10분 남짓한 음성 파일 하나였어요. 성공은 했지만 시간 대부분이 이미지 받기였어요. 모델을 넣은 8.9GB 이미지를 받는 데 622초, 받아쓰기는 66초였어요.</p>
<p>결과를 보고 나는 "온디맨드인데 왜 이렇게 싸지?"라고 물었어요. 다시 계산하니 틀린 숫자였어요. 서버리스 GPU는 GPU-초에 vCPU-초와 RAM(GiB)-초를 함께 받아요. 프로필 최대치인 8 vCPU·56GiB로 띄웠더니 합이 시간당 약 $1.56이었어요. 같은 T4 VM 온디맨드(약 $0.75)의 두 배예요.</p>
<p>받아쓰기는 GPU가 일하고 CPU는 거의 놀아요. 그래서 4 vCPU·16GiB로 줄였어요. 속도는 그대로였고 값은 시간당 약 $0.78로 절반이 됐어요. 서버리스 프로필 이름의 크기는 최대치일 뿐이에요. 작업마다 CPU·RAM을 <strong>직접 골라야</strong> 해요.</p>
<h2 id="gpu를-몇-퍼센트나-쓰고-있었나">GPU를 몇 퍼센트나 쓰고 있었나</h2>
<p>다음 질문은 "GPU를 100% 쓰냐"였어요. 재 보지 않았으니 알 수 없었어요. 그래서 작업 안에서 5초마다 사용률을 남기게 하고 세 가지를 바꿨어요.</p>
<ul>
<li>배치를 24에서 48로 키웠어요.</li>
<li>다음 파일의 말소리 구간 찾기(VAD)를 CPU에서 미리 해서 GPU 일과 겹쳤어요.</li>
<li>이미지를 8.9GB에서 3.8GB로 줄이고, 모델은 시작할 때 받게 했어요.</li>
</ul>
<p>약 66분 분량의 음성 파일 묶음으로 다시 돌렸어요. 예열이 끝난 뒤 GPU 사용률은 파일마다 72~94%, 전체 평균 77%였어요. 속도는 예열 뒤 약 45배속이라 음성 1시간 처리에 약 $0.017이에요. MAI의 지금 할인 단가(시간당 $0.10)와 비교해도 약 6분의 1이에요. 다만 이번 표본에서 품질은 <strong>MAI가 더 나았어요</strong>. 특히 띄어쓰기가 그랬어요.</p>
<p>남은 병목은 시작 시간이에요. 실행마다 이미지를 새로 받아서 약 8분이 깔려요. 그래서 짧게 자주 띄우지 않고 하루 한 번 몰아서 돌리기로 했어요. Azure Functions의 정기 실행이 매일 작업을 띄우고, 작업은 88분이 되면 처리 중인 파일까지 끝내고 멈춰요. 비용 상한을 실행 시간으로 묶은 셈이에요. 다음에는 vLLM으로 바꿔 T4 VRAM 안에서 처리량을 더 올려 볼 거예요.</p>
<h2 id="써-보고-느낀-점">써 보고 느낀 점</h2>
<p>"GPU를 초 단위로 빌린다"는 경험은 솔직히 기대보다 좋았어요. 노드 풀도, 드라이버 설치도, 끄는 스크립트도 없어요. 반대로 값은 싸지 않아요. 회수 걱정 없는 온디맨드라 low priority T4(시간당 약 $0.1 남짓)보다 몇 배 비싸요. 큰 이미지의 콜드 스타트도 아직 아파요.</p>
<p>내 판정은 이래요. 하루 한두 시간짜리 배치 GPU 일에는 잘 맞아요. 24시간 도는 추론이라면 여전히 VM이나 low priority 클러스터가 낫다고 봐요.</p>
<p>이 작업은 이제 Azure에서 혼자 돌고, 나는 보고 메일로 결과를 봐요. 편하지만 메일이 오기 전까지 정말 돌았는지 모른다는 게 아직 조마조마해요.</p>
<p>서버리스 GPU 가격표를 볼 때는 GPU 한 줄이 아니라 GPU·vCPU·RAM을 더한 값을 보세요.</p>
<h2 id="그-밖에-오늘">그 밖에 오늘</h2>
<ul>
<li>MAI-Transcribe-2는 eastus2에서 아직 지원하지 않아 eastus로 불렀어요. m4a는 받지 않아서 MP3(모노 16kHz)로 바꿨어요.</li>
<li>그 전에 쓰던 Speech 일괄 전사가 큰 m4a에서 실패한 원인은 메타데이터(moov)가 파일 끝에 있던 거였어요. 앞쪽으로 옮기면(faststart) 풀려요.</li>
<li>정기 작업 지휘를 AKS로 옮길지 따져 봤지만, 우리 규모에선 Functions 정기 실행으로 충분해서 만들지 않았어요.</li>
</ul>]]></content:encoded></item><item><title>Azure PostgreSQL 이전, 할당량 있어도 서울에 못 만든 이유</title><link>https://blog.nest.codes/ko/azure-postgresql-flexible-server-migration/</link><guid>https://blog.nest.codes/ko/azure-postgresql-flexible-server-migration/</guid><pubDate>Sat, 14 Nov 2026 12:00:00 +0000</pubDate><description>할당량이 남아도 서울에 Azure PostgreSQL이 안 만들어졌어요. 원인은 SKU 사용 허가였고, DSQL 이전은 정렬 · 색인 · 문법에서 걸렸어요.</description><content:encoded><![CDATA[<p>저는 할당량 화면에 숫자가 남아 있으면 서버는 만들어진다고 믿었어요. 오늘 Azure Database for PostgreSQL을 서울 리전에 만들려다 그 믿음이 깨졌어요. 할당량(quota)은 '몇 개까지'를 정하고, SKU 사용 허가는 '이 등급을 이 구독에 내주느냐'를 정해요. <strong>둘은 따로 움직였고</strong>, 데이터 이전 자체는 정렬 규칙 · 색인 · 전용 문법 세 곳에서 걸렸어요.</p>
<h2 id="왜-관리형-postgresql로-옮겼나">왜 관리형 PostgreSQL로 옮겼나</h2>
<p>검색 워크로드가 쓰는 Postgres 호환 DB가 AWS의 Aurora DSQL에 있었어요. 서버리스라 편했지만 문법이 표준 Postgres와 조금씩 달랐어요. 벡터 검색도 붙이고 싶었는데, DSQL에서는 pgvector를 쓸 수 없었어요.</p>
<p>마일스톤 기간이 아니었다면 아마 그대로 뒀을 거예요. 옮길 계기가 생긴 김에 Azure Database for PostgreSQL Flexible Server로 정했어요. 벡터 전용 서비스인 Azure AI Search도 봤지만 우리 규모에는 과했어요. Postgres 하나로 관계형과 벡터를 같이 처리하는 쪽을 골랐어요.</p>
<p>등급은 Burstable B2s(2 vCore, 메모리 4GB)예요. 가격표 기준 하루 약 $2이고, 가끔 조회하는 DB라 이 정도면 충분해요.</p>
<h2 id="dsql에서-꺼낼-때-걸린-세-가지">DSQL에서 꺼낼 때 걸린 세 가지</h2>
<p>작업용 PC에 pg_dump가 없었어요. 그래서 Claude Code와 psycopg의 COPY로 표를 하나씩 옮기는 작은 스크립트를 만들었어요. 전체가 수백 MB라 복사는 십여 분이면 끝났어요. 문제는 복사 뒤에 드러났어요.</p>
<p>첫째는 색인이에요. DSQL은 기본 키와 색인에 나머지 칸을 INCLUDE로 붙여 둬요. 일반 Postgres에서는 긴 글이 든 칸 때문에 색인 행 크기 한도를 넘었어요. INCLUDE만 빼고 키 칸은 그대로 두니 동작은 같았어요.</p>
<p>둘째는 정렬이에요. 줄 수는 다 맞는데 order by 결과 순서가 달랐어요. DB의 기본 정렬 규칙(collation)이 달랐던 거예요. DB를 C 정렬로 다시 만들고 복사하니 순서까지 똑같아졌어요.</p>
<p>셋째는 코드예요. 스크립트 세 곳에 DSQL 전용인 CREATE INDEX ASYNC가 있었어요. 일반 CREATE INDEX로 바꿨어요.</p>
<p>pgvector는 바로 켜지지 않아요. 서버 매개변수 azure.extensions 허용 목록에 먼저 넣어야 해요.</p>
<pre><code class="language-sql">-- 서버 매개변수 azure.extensions 에 VECTOR, PG_TRGM 을 넣은 뒤
CREATE EXTENSION IF NOT EXISTS vector;
CREATE INDEX ON items USING hnsw (embedding vector_cosine_ops);
</code></pre>
<p>검증은 줄 수로 끝내지 않았어요. 표마다 모든 줄을 정렬해 해시를 비교했고, 차이는 0건이었어요. 그걸 보고 나서야 옛 DSQL 클러스터를 지웠어요.</p>
<p>솔직히 표준 Postgres로 돌아오니 마음이 편했어요. 허용 목록 한 줄로 pgvector와 pg_trgm(글자 검색 색인)을 쓸 수 있는 건 기대보다 좋았어요.</p>
<h2 id="서울에는-왜-안-만들어졌나">서울에는 왜 안 만들어졌나</h2>
<p>처음 서버는 그때 DB를 읽던 워커 가까이 두려고 Spain Central에 만들었어요. 이 구독에서 PostgreSQL을 처음 써서 리소스 공급자 등록부터 해야 했어요. 등록한 뒤에는 바로 만들어졌어요.</p>
<p>오후에 다시 보니 실제로 조회하는 곳은 아시아 쪽이었어요. 그래서 서울로 옮기려 했어요. 그런데 Korea Central에서 B2s가 가용 영역 1 · 2 · 3 모두 SkuNotAvailable로 거절됐어요. 영역 3은 몇 분 동안 만드는 중으로 보이다가 결국 실패했어요.</p>
<p>Korea South는 'location is restricted'였어요. 서울의 짝 리전이라 새 구독에는 기본으로 닫혀 있는 것으로 보여요.</p>
<p>API로 할당량을 보니 서울 Burstable은 0/40으로 비어 있었어요. 할당량은 넉넉한데 등급을 내주지 않은 거예요. 이유는 공개돼 있지 않아요. 수요가 많은 리전에서 일부 구독 유형에 값싼 등급을 막는 것으로 추정해요.</p>
<p>서울에서 Burstable을 빼면 가장 작은 등급이 2 vCore 범용이고, 하루 약 $6이에요. 같은 일에 세 배를 낼 이유는 없었어요. 미리 보기인 HorizonDB도 봤지만 더 비싸고 SLA가 없어서 뺐어요.</p>
<h2 id="결국-어디에-두었나">결국 어디에 두었나</h2>
<p>Southeast Asia(싱가포르)에 같은 B2s를 만들어 봤더니 바로 됐어요. 관리자 계정, 읽기 전용 계정, 비밀번호, DB 이름을 스페인 서버와 같게 맞췄어요. <strong>그래서 이전 뒤 바꾼 건 접속 주소 하나뿐이었어요.</strong></p>
<p>두 번째 이전은 첫 번째보다 훨씬 빨랐어요. 같은 스크립트로 옮기고 같은 방식으로 검증했어요. 이번에도 차이는 0건이었어요. 그다음 스페인 서버를 지웠어요.</p>
<p>맞바꾼 것도 있어요. 웹 앱은 서울에 있고 DB는 싱가포르에 있어서, 조회가 많은 화면은 1초 남짓 걸려요. 한 리전에 다 두는 게 이상적이지만, 이번에는 등급 제한이 대신 결정했어요.</p>
<p>그날 느낀 점이 있어요. AWS에서는 리전을 고르면 대개 거기서 끝났어요. Azure는 할당량, 등급 허가, 리전 접근이 층층이 따로 있어서 '만들어 봐야 안다'가 많아요. 이 부분은 아직 불편해요. CLI도 명령마다 --name과 --server-name이 섞여 있어서 오늘 몇 번 틀렸어요.</p>
<p>남은 위험도 있어요. 여러 곳에서 붙어야 해서 DB 방화벽 규칙을 아직 넓게 열어 두었어요. SSL 접속만 받고 읽기 계정은 쓰기가 막혀 있지만, 이건 임시 상태예요. 접속하는 곳을 좁히거나 사설 경로로 바꾸기 전까지는 이 서버가 가장 약한 고리예요.</p>
<h2 id="그-밖에-오늘">그 밖에 오늘</h2>
<ul>
<li>Azure ML low priority로 리전별 GPU 노드 할당을 시험했어요. H100 8장짜리가 실제로 뜬 곳은 eastus2뿐이었고, A100 80GB 8장은 다섯 리전 모두 자리가 없었어요. 그래서 GPU 주력 리전은 eastus2로 정했어요.</li>
<li>App Service는 Southeast Asia 할당량이 모든 등급에서 0이라 Korea Central에 만들었어요. ZIP 배포가 503으로 실패해서, ACR 안에서 이미지를 빌드하고 관리 ID에 AcrPull을 주는 컨테이너 배포로 바꿨어요.</li>
<li>그 앞에 Azure Front Door Standard를 붙였어요. 관리 인증서가 엣지에 퍼지기 전 몇십 분은 이름 불일치 경고가 나요. HSTS를 쓰는 도메인이면 브라우저에서 경고를 넘어가지도 못해요. 설정 오류가 아니니 기다리면 돼요.</li>
</ul>]]></content:encoded></item><item><title>Azure 크레딧, NVIDIA Inception에서 시작된 이전</title><link>https://blog.nest.codes/ko/why-azure-nvidia-inception-credits/</link><guid>https://blog.nest.codes/ko/why-azure-nvidia-inception-credits/</guid><pubDate>Fri, 13 Nov 2026 12:00:00 +0000</pubDate><description>GPU 추론 · 웹 워크로드를 어느 클라우드로 옮길까? NVIDIA Inception으로 Azure 크레딧 길이 열려, T4 상시 추론부터 Azure로 옮기기로 했어요.</description><content:encoded><![CDATA[<p>작업용 PC 화면에 Claude Code 창이 여러 개 떠 있었어요. 창마다 GPU 일감 하나를 지휘하고, 나는 그 사이를 오가며 결과를 확인했죠. 이 글은 그런 우리가 왜 워크로드를 Azure로 옮기기로 했는지에 답해요. 짧게 말하면, NVIDIA Inception 가입이 Azure 크레딧으로 이어졌고, 마침 GPU 추론을 늘 켜 둘 관리형 자리가 필요했어요.</p>
<p>우리는 모델을 만들고, 추론 서버를 돌리고, SaaS를 운영하는 작은 팀이에요. 워크로드는 크게 미디어 처리 · 음성 전사 · 검색 · 웹 · GPU 추론이에요. 지금까지는 거의 다 다른 클라우드의 스팟 GPU와 작업용 PC에서 돌았어요.</p>
<h2 id="nvidia-inception-가입이-어떻게-azure로-이어졌나">NVIDIA Inception 가입이 어떻게 Azure로 이어졌나</h2>
<p>시작은 Azure가 아니었어요. GPU를 많이 쓰다 보니 NVIDIA Inception(NVIDIA의 스타트업 프로그램)에 먼저 가입했어요. 혜택 목록을 보다가 Azure 크레딧 항목을 발견했어요.</p>
<p>순서는 이랬어요. Inception 쪽에서 Azure 크레딧 혜택을 먼저 요청했어요. 그다음 Microsoft for Startups에 따로 신청했어요. 심사는 Microsoft가 한다는 안내를 받았어요.</p>
<p>솔직히 쉽지만은 않았어요. 본인 확인이 생각보다 오래 걸렸고, 그 사이 한 번은 첫 크레딧의 기한이 지나기도 했어요. 그래도 포털에는 시작용 크레딧과 다음 단계 마일스톤이 보였어요.</p>
<p>같은 시기에 다른 클라우드의 스타트업 크레딧(AWS Activate 등)도 신청했어요. 어느 한 곳에 기대기보다, 크레딧이 있는 곳으로 계산을 옮겨 다닐 수 있게 하자는 생각이었어요.</p>
<h2 id="왜-굳이-azure로-옮겨-보기로-했나">왜 굳이 Azure로 옮겨 보기로 했나</h2>
<p>우리 주력은 오랫동안 AWS였어요. 내 느낌으로 AWS는 필요한 건 다 있는 공구 창고예요. GCP는 구글 로그인(OAuth) 때문에 어차피 써야 하는 필수품에 가까웠고요.</p>
<p>Azure에 기대한 건 세 가지였어요.
- GPU 추론을 관리형 클러스터에 늘 켜 둘 수 있는가. Azure Machine Learning의 컴퓨트 클러스터는 최소 노드를 1로 두면 노드가 꺼져도 다시 올라와요.
- T4 같은 추론용 GPU를 싸게 쓸 수 있는가. 공개 가격 기준으로 4 vCPU T4 저우선순위(스팟) 노드는 시간당 0.1달러대였어요.
- Azure OpenAI · Foundry 같은 AI 서비스를 같은 구독에서 바로 붙일 수 있는가.</p>
<p>반대로 걱정도 있었어요. 콘솔과 CLI가 AWS보다 손에 덜 익었어요. 또 크레딧에 끌려 한 클라우드에 묶이는 건 피하고 싶었어요. 그래서 원칙을 하나 세웠어요. 데이터와 서버는 PostgreSQL · 도커 이미지 · 오브젝트 스토리지 같은 표준 형태로 두기로요.</p>
<h2 id="시작-전에-무엇을-준비했나">시작 전에 무엇을 준비했나</h2>
<p>먼저 마일스톤 규칙을 읽었어요. 요지는 여러 Azure 서비스를 60일 동안 꾸준히 실제로 쓰는 거예요. 하루라도 빠지면 처음부터 다시 세는 구조라, 해커톤 규칙을 받아 든 기분이었어요. 우리 쪽 원칙은 간단히 정했어요. 실제로 일을 하는 서비스만 붙이고, 붙일 때마다 무슨 일을 하려는지 먼저 적기로요.</p>
<p>그다음 Azure CLI로 우리 사용자와 가까운 리전의 T4 계열 크기와 스팟 할당량을 확인했어요. 같은 T4라면 다른 클라우드의 T4 인스턴스에서 미리 실험하고, 완성본만 Azure로 보내면 된다는 계산도 섰어요.</p>
<p>통신 구조도 미리 그렸어요. 예전에는 웹 서버와 GPU 서버가 사설 네트워크로 이야기했어요. Azure에서는 웹 쪽과 GPU 노드를 같은 VNet(가상 네트워크)의 다른 서브넷에 두기로 했어요. GPU 추론 포트는 웹 서브넷에서만 열고, 공인 IP로는 닿지 않게 하는 방향이에요.</p>
<p>옮기는 순서는 GPU 추론 → 웹 → DB · 검색 → 미디어 처리 · 음성 전사로 잡았어요. 효과가 가장 크고 되돌리기 쉬운 것부터예요. 첫 걸음은 Azure ML에 T4 한 대를 늘 켜 두는 일이에요.</p>
<h2 id="그-밖에-오늘">그 밖에 오늘</h2>
<ul>
<li>Foundry 모델 목록을 훑었어요. 쓸 만한 모델과 할당량 구조를 먼저 알아 두는 게 나중에 덜 헤매요.</li>
<li>새 음성 모델이 Azure Speech 쪽으로 청구되는지 확인했어요. 같은 이름이라도 어느 서비스로 묶이는지가 설계에 영향을 줘요.</li>
<li>처음 쓰는 리소스 공급자는 등록이 필요할 수 있어, 미리 확인해 두기로 했어요.</li>
</ul>
<p>최근 Inception 경로의 Azure 크레딧이 승인됐다는 소식을 받았어요. 금액은 프로그램 공개 금액 수준인 몇천 달러예요. 작은 팀에는 실험 몇 달을 버틸 만한 크기라, 설계 판단의 근거로 아껴 쓰려고 해요.</p>
<p>이 블로그에 적는 것과 일부러 빼는 것은 이렇게 정했어요.
- 적는 것: 고른 Azure 서비스와 이유, 설정, 막힌 곳과 고친 방법, 반올림한 비용
- 적는 것: 다른 클라우드 · 이전 방식과 비교한 솔직한 장단점
- 빼는 것: 워크로드의 구체적 내용과 데이터, 계정 · 리소스 이름, 심사 뒷이야기
- 빼는 것: 비용을 맞추는 요령 같은 것. 우리가 하는 건 실제 일을 옮기는 거예요.</p>]]></content:encoded></item></channel></rss>