토큰 가격 너머의 AI 요청 원가The Full Cost of AI Requests
📅
들어가기 전에 🔗
사용자는 “이 문서를 요약해 주세요”를 한 번 눌렀습니다.
서버는 문서를 검색하고 모델을 호출한 뒤, 답변에 근거가 빠져 다시 호출했습니다.
사용자 행동은 한 번인데 청구 대상 모델 응답은 두 번입니다.
요청 한 건과 모델 호출 한 번을 같은 단위로 세면 원가를 과소평가할 수 있습니다.
예제는 가상의 문서 요약·질의응답 서비스입니다.
이 글의 호출 수·토큰 수·품질 결과는 실측이 아닌 설명용 기록이며, 공식 단가만 실제 가격표에서 가져왔습니다.
가격 확인일은 2026년 10월 15일이고 환율은 1달러=1,400원이라는 가정입니다.
비용의 단위 🔗
사용자 요청은 사람이 시도한 업무이고, 모델 호출은 API에 보낸 개별 요청입니다.
성공 작업은 응답을 받은 것만이 아니라 서비스가 정한 완료 기준을 충족한 업무입니다.
예제의 완료 기준은 질문에 답하고, 답변의 주요 주장에 문서 근거가 연결되는 것입니다.
완료 여부를 판정하는 규칙이나 사람의 검토 비용도 실제 운영에서는 따로 기록해야 합니다.
사용자 요청이 검색·모델 호출·품질 검사를 거치며 기준 미달이면 유료 재시도가 추가되는 원가 흐름
이 구조에서는 모델 API 외에 문서 전처리·임베딩·검색·저장과 서버 실행이 필요할 수 있습니다.
저장은 보통 보관량과 기간, 임베딩은 처리량처럼 각기 다른 단위로 계산해야 합니다.
월 기본 요금에 포함된 자원까지 작업별 비용으로 다시 더하면 이중 계산입니다.
포함량을 넘어서 실제로 증가한 비용이나 별도 외부 서비스 사용료만 증분 원가로 분리합니다.
공식 단가의 적용 🔗
Claude Sonnet 5.5의 표준 API 단가는 일반 입력 100만 토큰당 2달러, 출력 10달러입니다.
5분 캐시 쓰기는 2.5달러, 캐시 읽기는 0.1달러입니다.
아래는 글로벌·비배치 기준이며 다른 처리 옵션의 할인이나 할증을 섞지 않았습니다. Claude API 가격표↗
| 호출당 가정 | 토큰 수 | 달러 비용 |
|---|---|---|
| 일반 입력 | 8,000 | $0.016 |
| 출력 | 1,000 | $0.010 |
| 합계 | 캐시 미사용 | $0.026 |
따라서 호출 한 번은 가정 환율에서 36.4원입니다.
입력에는 시스템 지시·문서·대화·도구 정의 등 실제 청구되는 맥락이 포함되어야 합니다.
재시도는 앞선 답변을 함께 보내 토큰 수가 달라질 수 있지만, 이번 계산에서는 모든 호출을 같은 크기로 단순화했습니다.
같은 문서가 다른 모델에서도 같은 토큰 수가 된다는 뜻은 아닙니다.
모델을 바꿔 비교할 때는 해당 모델의 사용량 필드로 다시 계산합니다.실패를 포함한 원가 🔗
가정 기록에는 최초 작업 100건이 있습니다.
90건은 바로 품질 기준을 통과했고, 10건은 응답을 받았지만 근거가 부족했습니다.
그 10건을 한 번씩 다시 호출해 모두 통과했다고 가정합니다.
| 기록 항목 | 건수·금액 |
|---|---|
| 최초 작업 | 100건 |
| 최초 모델 호출 | 100회 |
| 품질 미달 후 재호출 | 10회 |
| 과금 대상 호출 합계 | 110회 |
| 최종 성공 작업 | 100건 |
| 모델 비용 | 110 × 36.4 = 4,004원 |
| 비모델 증분 원가 가정 | 100 × 3.6 = 360원 |
| 전체 작업 비용 | 4,364원 |
| 성공 작업당 비용 | 4,364 ÷ 100 = 43.64원 |
360원은 별도 외부 전처리·임베딩 등 추가 사용료의 예산 가정이지 특정 제공사의 검색 단가가 아닙니다.
실제로는 월 증분 청구액과 해당 작업 묶음을 대조해 배분해야 합니다.
이 43.64원을 1편의 손익 계산에 적용하면 사용자당 200건의 작업 원가는 8,728원입니다.
여기서 실패는
HTTP 오류가 아니라 유료 응답의 품질 미달
입니다.
Claude는 실패 요청을 과금하지 않는다고 안내하지만, 성공할 예정이었던 요청 중 클라이언트 연결이 끊기거나 타임아웃이 난 경우에는 과금될 수 있다고 설명합니다.
따라서 모든 오류를 유료라고 가정하거나, 사용자에게 실패로 보였다는 이유만으로 무료라고 판단하지 않습니다. Claude API 결제 안내↗👨💻
호출 기록에는
task_id, attempt, model, 입력·출력·캐시 토큰, 공급자 요청 ID, 비용과 품질 판정을 함께 남깁니다.
사용자 문서 원문 대신 비용 추적에 필요한 메타데이터를 우선 기록하고, 공급자 청구 내역과 대조합니다.캐시와 품질의 변화 🔗
같은 가정 기록에서 캐시가 잡히면 얼마나 달라질까요?
8,000개 입력 중 공통 6,000개를 첫 호출에서 캐시에 쓰고, 나머지 109회가 5분 안에 같은 캐시를 읽는 이상적인 묶음을 가정합니다.
각 호출의 나머지 입력 2,000개와 출력 1,000개는 그대로 과금합니다.
첫 호출 = 6,000 × $2.5/백만 + 2,000 × $2/백만 + 1,000 × $10/백만
= $0.029
이후 호출 = 6,000 × $0.1/백만 + 2,000 × $2/백만 + 1,000 × $10/백만
= $0.0146
전체 비용 = ($0.029 + 109 × $0.0146) × 1,400 + 360
= 2,628.56원
성공 작업당 비용 = 26.2856원캐시 쓰기 비용까지 넣어도 이 조건에서는 성공 작업당 원가가 낮아집니다.
그러나 서로 다른 고객의 비공개 문서가 자동으로 같은 캐시를 쓰거나, 하루 전체 요청이 5분 안에 몰린다는 뜻은 아닙니다.
이 숫자는 가능한 효과를 보는 별도 시나리오이며 1편의 기준 원가를 몰래 바꾸지 않습니다.
설정과 적중 조건은 프롬프트 캐싱 글에서 이어 확인할 수 있습니다.반대로 같은 4,364원을 쓰고도 80건만 기준을 통과하면 성공 작업당 비용은 54.55원입니다.
성공이 0건이면 비용이 0원이 되는 것이 아니라
성공 작업당 비용을 계산할 수 없는 상태
입니다.
총비용과 실패 건수는 그대로 남겨야 합니다.
모델을 바꾸는 실험도 검증 루프와 연결해 품질·응답 시간·사람 수정 시간을 함께 비교합니다.구독과 크레딧 🔗
서비스 API 청구서와 개발 도구 구독료는 따로 기록합니다.
Codex를 API 키로 쓰는 개발 작업은 API 과금 대상이므로 고객 응답용 호출과 프로젝트·키·용도별로 분리해야 합니다. OpenAI 요금 안내↗
다만 “구독은 항상 API와 완전히 무관하다”도 정확한 설명은 아닙니다.
Claude Max 5x·20x에는 각각 월 100·200달러의 API 크레딧이 안내되어 있습니다.
자격과 계정 연결이 필요하고, 해당 크레딧은 Claude Code의 추가 사용에는 적용되지 않으며 남은 금액은 주기 말 만료됩니다. Claude 포함 API 크레딧 안내↗
크레딧이 있더라도 토큰으로 계산한 자원 원가는 남겨 둡니다.
그 아래에 적용 크레딧과 추가 현금 지출을 별도로 적어야 만료·소진 후 손익도 비교할 수 있습니다.
이번 세 편의 기준은 저가 월 구독 하나와 API 크레딧 0달러이며, Max의 구독료나 혜택을 섞지 않았습니다.
결론 🔗
원가는 요청 버튼을 누른 횟수가 아니라
품질을 충족한 업무를 끝내는 데 든 전체 비용
에서 출발합니다.
먼저 자신의 작업 100건을 묶고, 최초 호출·재시도·최종 성공·증분 비용을 같은 기간으로 기록해 보시기 바랍니다.
그다음 토큰을 줄였을 때 완료율과 사람의 수정 시간이 유지되는지 확인합니다.
다음 편에서는 이 원가를 회수하면서 사용자도 이해할 수 있는 AI 서비스 요금제를 설계합니다.