AI 기능의 매출총이익률은 출시 전에 측정한다
Updated September 2, 2026 · first published September 2, 2026
추론은 개발비가 아니라 서비스 제공 원가입니다. 고객의 모든 작업마다 실행되며 사용량에 비례하여 증가합니다. 출시 직전까지 이를 R&D로 취급하면 첫 번째 청구서가 도착한 후에야 마진 실패를 깨닫게 됩니다.
출시 전에 계측하라
스테이징 환경에서 각 모델 호출에 계정, 워크플로우, 결과 태그를 지정하고 실제 트래픽을 재생합니다. p50, p90, p99 백분위수별 성공 작업당 비용과 실패/재시도 비율을 측정해야 합니다.
계정당 비용으로 집계
성공 작업당 비용에 예상 월간 작업 수를 곱하고 유료 실패 비용을 합산하여 요금제 가격과 비교합니다. 정액 요금제는 헤비 유저 구간에서 마진 붕괴가 발생합니다.
4대 비용 요인
매 턴 재전송되는 긴 컨텍스트, 전액 청구되는 재시도, 에이전트 다중 분기, 비효율적인 모델 기본 라우팅을 점검해야 합니다.
Related
Want this applied to your own LLM spend? FinOps LLM runs a free audit of your AI costs and shows where the savings are. Book free audit →