본문으로 이동

Codex 입력 토큰의 98%가 캐시였습니다. 캐시가 없었다면 청구액은 12배: 실측 청구서

업데이트 October 9, 2026 · 최초 게시 October 9, 2026

핵심 답변: Codex를 ChatGPT Pro $100에서 12일 동안 집중해서 쓰면서 13.0B 입력 토큰을 보내고 47M 출력 토큰을 받았습니다. 이 입력의 97.6%는 캐시 적중이었습니다. OpenAI API 가격으로 계산하면 작업 비용은 $1,211입니다. 같은 토큰을 캐시 적중 없이 계산하면 $14,198, 12배입니다. 입력 대 출력 비율: 출력 토큰 1개당...

Codex를 ChatGPT Pro $100에서 12일 동안 집중해서 쓰면서 13.0B 입력 토큰을 보내고 47M 출력 토큰을 받았습니다. 이 입력의 97.6%는 캐시 적중이었습니다. OpenAI API 가격으로 계산하면 작업 비용은 $1,211입니다. 같은 토큰을 캐시 적중 없이 계산하면 $14,198, 12배입니다.

12일 동안 모델별 Codex API 가치: 캐시 적용 vs 캐시 없음$0$2k$4k$6k$8k$10k$12k$14k$1,073$13,299Sol$95$655Luna$27$144GPT-5.5$16$99Astra주황: 캐시를 적용해 API 기준으로 실제 낸 금액파랑: 캐시 적중 없이 같은 토큰을 보냈을 때
12일 동안 모델별 Codex API 가치: 캐시 적용 vs 캐시 없음

코딩 에이전트 입력이 거의 전부 캐시인 이유

에이전트 루프는 매 단계마다 전체 대화를 다시 보냅니다. 시스템 프롬프트, 도구 정의, 읽은 파일, 이전 도구 결과 전부입니다. 단계마다 조금씩 더해지고 모든 것을 다시 읽습니다. 그래서 입력은 세션 길이의 제곱으로 커지고 출력은 작게 유지됩니다. 12일 동안 이것은 입력 대 출력 279:1 비율로 나타났습니다.

프롬프트 캐싱이 이 비용을 감당 가능하게 만듭니다. OpenAI API에서 캐시 입력은 일반 입력의 10분의 1 이하입니다. 대부분의 작업을 맡은 GPT-6 Sol은 입력 100만 토큰당 $2, 캐시 입력 100만 토큰당 $0.10을 받습니다.

돈이 어디로 갔나

모델입력 토큰캐시출력 토큰API 가치캐시 없을 때
Sol6.56B98.1%17.5M$1,073$13,299
Luna6.41B97.2%29.0M$95$655
GPT-5.50.03B93.5%0.2M$27$144
Astra0.01B94.5%0.0M$16$99
합계13.01B97.6%47M$1,211$14,198
비용 항목API 가치비중
캐시 입력$72860%
캐시 없는 입력$28824%
출력$19616%

95% 할인을 받아도 캐시 입력이 가장 큰 단일 항목입니다. 이것이 에이전트 작업부하의 특징입니다. 가장 싼 토큰 종류가 엄청난 양으로 쓰입니다. 모델별 합계는 codex-pro-100-model-mix.csv에 있습니다.

캐시를 깨뜨리는 것

캐시 적중에는 동일한 접두사가 필요합니다. 컨텍스트 앞부분을 바꾸면 그 뒤의 모든 것을 정가로 다시 읽어야 합니다.

이것이 Codex 한도에 중요한 이유

Codex 게이지가 캐시 입력을 API 가격에 가깝게 가중한다면, 캐시 적중률 1포인트 하락은 비쌉니다. 우리 규모에서 Sol이 98.1%에서 90%로 캐시가 줄면 Sol 입력만으로 약 $1,004가 추가되고, 대략 Pro $100 창 6개 분량입니다. 캐시 관리가 곧 할당량 관리입니다. 창 하나에 무엇이 들어가는지는 Pro $100 배율 측정을, 12일 동안 창 8개를 어떻게 얻었는지는 리셋 로그를 보세요.

측정 방법

Codex는 모든 세션의 JSONL 로그를 ~/.codex/sessions/ 아래에 씁니다. 각 요청에는 누적 입력, 캐시 입력, 출력 토큰과 주간 게이지(used_percent) 및 그 resets_at 시각이 기록됩니다. 요청마다 토큰 증분을 그 요청이 실행된 모델의 API 정가로 계산했고, 요청을 주간 창별로 묶었습니다. 달러 금액은 API 기준 환산 가치이며, 실제로 낸 돈이 아닙니다.

출처

관련 글


이 내용을 현재 스택에 적용하고 싶으신가요? 공급업체 청구서, 게이트웨이 로그, 주요 워크플로를 가져오시면 비용 요인과 절감 경로를 정리해드립니다. 무료 감사 예약 →

finopsllm.com으로 돌아가기