BroadRouter
시작하기

AI 코딩 에이전트 1회 실행 비용: 단계 수, 컨텍스트 증가, 캐싱

BroadNet Inference 팀 · 7분 분량 · 게시

에이전트는 단계마다 전체 컨텍스트를 다시 보내므로 입력은 단계 수의 제곱에 비례해 늘어납니다. 60단계는 30단계보다 입력이 약 3.5배입니다. 청구액의 대부분은 캐싱이 결정하며, 대화 기록을 덧붙이기만 하면 입력의 90% 이상이 캐시 요금으로 과금될 수 있습니다. 실행당 비용에 월 실행 횟수를 곱해 정액 세션과 비교하세요.

코딩 에이전트는 작업 단위로 비용을 내지 않습니다. 단계 단위로 내며, 단계마다 지금까지의 대화 전체를 다시 보냅니다. 그래서 1회 실행 비용은 토큰당 가격보다 몇 단계가 걸리는지, 컨텍스트 중 얼마가 캐시되는지에 훨씬 더 크게 좌우됩니다. 이 글은 그 요소들로 1회 실행 비용을 숫자와 함께 쌓아 올리고, 정액 세션이 토큰당 과금보다 유리해지는 시점을 보여 줍니다.

각 호출 안의 토큰이 어디서 오는지(도구 스키마, 파일 읽기, 대화 기록)는 에이전트 루프의 토큰은 어디로 가는가를 보세요. 이 글은 실행 전체의 산수를 다룹니다.

에이전트 실행 중 컨텍스트는 어떻게 늘어나나요?

각 호출에는 다음이 들어갑니다.

  • 매 호출마다 보내는 기본 컨텍스트: 시스템 프롬프트, 도구 정의, 규칙 파일, 저장소 맵
  • 이전 단계에서 추가된 모든 것: 모델의 답변과 도구 호출, 파일 내용, 명령 출력
  • 새 지시나 도구 결과

기본 컨텍스트를 B, 단계마다 추가되는 토큰을 g라고 합시다. 1단계는 B를 보냅니다. 2단계는 B + g를 보냅니다. n단계는 B + (n − 1) × g를 보냅니다. 이를 모두 더하면 n단계 실행이 보내는 양은 다음과 같습니다.

총입력 = n × B + g × n × (n − 1) ÷ 2

두 번째 항은 단계 수의 제곱에 비례해 커집니다. 긴 실행이 사람들을 놀라게 하는 이유입니다. 60단계 실행의 마지막 단계는 첫 단계보다 훨씬 크고, 그 사이의 모든 단계가 앞선 단계 전부의 비용을 다시 냅니다.

실제 계산 예시는 어떤 모습인가요?

기본 컨텍스트가 15,000토큰(시스템 프롬프트, 도구 십여 개, 저장소 맵)인 에이전트를 생각해 봅시다. 단계마다 파일이나 테스트 로그 하나와 모델 자신의 답변으로 3,000토큰이 추가됩니다. 단계마다 추론을 포함해 출력 토큰 800개를 씁니다.

단계 수 총입력 출력 가장 큰 단일 호출
10 285,000 8,000 42,000
30 1,755,000 24,000 102,000
60 6,210,000 48,000 192,000

30단계에서 60단계로 가면 작업은 두 배지만 입력은 약 3.5배가 됩니다. 출력은 두 배일 뿐입니다. 이 실행들에서 입력은 출력의 36~130배이며, 그래서 에이전트에서는 입력 가격과 캐시된 입력 가격이 가장 중요합니다.

가장 큰 호출은 컨텍스트 윈도에도 들어가야 합니다. 192,000토큰은 DeepSeek V4.1 Flash와 GLM 5.3(각 1,048,576토큰), Qwen3.8 27B(262,144)에는 들어갑니다. Gemma 4 VL 26B(32,768)에는 들어가지 않습니다. 이 예시에서는 일곱 번째 호출이 이미 너무 큽니다.

캐싱은 청구액을 얼마나 바꾸나요?

제공업체는 반복되는 프롬프트 접두부를 더 낮은 캐시된 입력 요금으로 과금합니다. 대화 기록에 덧붙이기만 하는 에이전트는 매번 같은 접두부에 조금을 더해 보내므로, 최선의 경우 직전 호출 이후 추가된 토큰만 새 입력입니다.

새 입력(최선의 경우) = B + (n − 1) × g

나머지는 모두 캐시 적중입니다. 실행이 길어질수록 캐시된 입력의 비율이 올라갑니다.

단계 수 새 입력(최선의 경우) 캐시 비율
10 42,000 85%
30 102,000 94%
60 192,000 97%

실제 에이전트는 최선의 경우에 거의 도달하지 못하므로 세 가지 경우로 가격을 매겨 보면 좋습니다. BroadNet의 DeepSeek V4.1 Flash 가격(100만 토큰당 입력 $0.175, 캐시 $0.0055, 출력 $0.52 요금, 2026-11-14 공개) 기준으로, 30단계 최선의 경우 대비 각 실행의 비용은 다음과 같습니다.

단계 수 최선의 캐시 80% 캐시 캐시 없음
10 0.33× 0.39× 1.37×
30 1× 2.07× 8.11×
60 2.33× 6.84× 28.2×

두 가지가 눈에 띕니다. 캐시가 없으면 60단계 실행은 캐시가 잘 된 30단계 실행의 28배입니다. 그리고 실행이 길어질수록 캐싱의 영향이 커집니다. 30단계 최선의 경우 비용의 약 3분의 1은 출력, 절반 미만은 새 입력, 4분의 1 미만은 캐시된 입력이므로, 캐싱 다음으로 아낄 곳은 출력입니다.

캐싱은 켜는 기능이 아닙니다. 제공업체가 접두부를 보관하고 에이전트가 이를 바꾸지 않아야 성립합니다. OpenAI 가이드는 최소 캐시 길이가 있는 정확한 접두부 일치를 설명합니다. DeepSeek 자체 API는 각 요청의 입력과 출력 끝에 캐시 단위를 저장하므로, 이전 요청을 이어 가는 후속 요청이 적중할 수 있습니다. BroadNet의 가격 페이지는 캐시된 입력에 별도 설정이 필요 없다고 하며, 문서에 따르면 모델이 제공하는 경우 적중량을 usage.prompt_tokens_details.cached_tokens에 표시합니다. BroadNet의 모델 카탈로그는 DeepSeek V4.1 Flash를 “models we never ran on our hardware”(번역: 우리 하드웨어에서 한 번도 운영하지 않은 모델)에 포함하고, 서비스 약관(§7.3)은 이 모델을 “when partner-hosted”(번역: 파트너가 호스팅하는 경우)로 다루므로, BroadNet에서는 파트너를 통해 제공됩니다. DeepSeek 자체 수치를 가정하지 말고 적중률을 직접 측정하세요. 접두부가 캐시되도록 작성하는 방법은 캐싱을 위한 프롬프트 구조에 있습니다.

내 실행 비용은 어떻게 추정하나요?

이 스크립트는 BroadNet의 공개 pricing.json에서 현재 가격을 읽으므로 낡지 않으며, 캐시 경우별 토큰 합계와 실행당 비용을 출력합니다.

import json, urllib.request

PRICES = json.load(urllib.request.urlopen("https://inference.broadnet.ai/pricing.json"))
m = next(x for x in PRICES["models"] if x["id"] == "broadnet/deepseek-v4.1-flash")
p_in, p_cached, p_out = m["input_per_m"], m["cached_input_per_m"], m["output_per_m"]

def run_tokens(steps, base=15_000, growth=3_000, out_per_step=800, cache_rate=None):
    total_in = steps * base + growth * steps * (steps - 1) // 2
    if cache_rate is None:                      # best case: only new tokens miss
        new_in = base + (steps - 1) * growth
    else:
        new_in = round(total_in * (1 - cache_rate))
    return total_in, new_in, steps * out_per_step

def run_cost(total_in, new_in, out):
    return ((new_in * p_in) + (total_in - new_in) * p_cached + out * p_out) / 1e6

for steps in (10, 30, 60):
    for label, rate in (("best", None), ("80%", 0.8), ("none", 0.0)):
        t, n, o = run_tokens(steps, cache_rate=rate)
        print(f"{steps:>3} steps  cache {label:>4}  input {t:>9,}  new {n:>9,}  "
              f"output {o:>6,}  cost/run {run_cost(t, n, o):.4f} USD")

기본값을 내 숫자로 바꾸세요. 추측하지 말고 실제 실행 한 번에서 읽어 오세요.

  1. 에이전트 토큰 예산 글처럼 모든 호출의 prompt_tokens, prompt_tokens_details.cached_tokens, completion_tokens를 기록하세요.
  2. B는 첫 호출의 prompt_tokens입니다. g는 호출 간 prompt_tokens의 평균 증가량입니다.
  3. 단계당 출력은 completion_tokens의 평균입니다. 출력으로 과금되는 추론 토큰이 포함됩니다.
  4. 실제 캐시 비율은 cached_tokens의 합을 prompt_tokens의 합으로 나눈 값입니다.

무료 에이전트 실행 비용 추정기는 같은 계산을 브라우저에서 해 주므로, 코드 없이 다른 단계 수, 증가율, 캐시 비율을 시험해 볼 수 있습니다.

실행 비용이 추정치보다 커지는 이유는 무엇인가요?

  • 재시도. 실패한 도구 호출이나 429 재시도는 컨텍스트 전체를 실은 호출이 하나 더 나가는 것입니다. 단계로 세세요.
  • 접두부 변경. 시스템 프롬프트의 타임스탬프, 순서가 바뀐 도구 목록, 실행 도중 수정된 규칙 파일은 변경 지점부터 캐시된 입력을 다시 새 입력으로 만듭니다.
  • 압축. 대화 기록을 요약하면 컨텍스트가 줄어 이후 입력이 줄지만, 새 기록은 캐시된 적이 없으므로 다음 호출은 입력 가격을 전부 냅니다. 압축은 드물게, 한 번에 크게 하세요. 시점은 오래 도는 에이전트의 컨텍스트 관리에서 다룹니다.
  • 큰 도구 출력. 5단계에서 추가된 20,000줄짜리 테스트 로그는 이후 모든 단계에 따라붙습니다. 공식으로는 20,000 × (남은 단계 수)만큼 입력 토큰이 늘어납니다.
  • 추론 강도. 강도가 높으면 단계당 출력이 몇 배가 될 수 있습니다. 일상적인 수정에는 reasoning_effort를 low로 설정하세요.
  • 헤매기. 30단계짜리 작업에 60단계를 쓰는 에이전트는 두 배가 아니라 제곱을 냅니다. 단계 상한이 곧 비용 상한입니다. 지렛대는 코딩 에이전트 비용 줄이는 10가지 방법에 정리되어 있습니다.

정액 세션이 토큰당 과금보다 유리해지는 시점은 언제인가요?

실행당 비용을 월 단위로 바꾸세요. 월 비용 = 실행당 비용 × 월 실행 횟수. 그리고 정액 플랜과 비교하세요. BroadNet의 플랜은 DeepSeek V4.1 Flash를 토큰 계량 없이 제공합니다. 세션당 Full Moon은 월 $60 요금, Orbit은 주 $15 요금, Meteor는 시간당 $1 요금입니다.

손익분기 월 실행 횟수 = 플랜 가격 ÷ 실행당 비용.

이 비교가 보기보다 단순하지 않은 이유가 두 가지 있습니다.

  1. 토큰당 과금 쪽은 캐시 비율이 정합니다. 캐시 비율이 높으면 Flash의 토큰당 과금은 싸서, $60 금액을 넘으려면 실행 횟수가 많이 필요합니다. 캐시 비율이 낮으면 금방 넘습니다. 정액제 글은 손익분기점을 월 사용량으로 보여 줍니다. 캐시 80% 기준 입력 약 9.17억 토큰과 출력 4,600만 토큰입니다(손익분기점 계산).
  2. 정액 쪽의 상한은 시간이 정합니다. 세션은 한 번에 요청 하나를 처리합니다. 호출 하나가 평균 20초(프리필, 초당 약 100토큰 속도로 출력 토큰 약 800개, 도구 시간 포함)라면 30단계 실행은 약 10분이 걸립니다. 그러면 세션 하나에는 시간당 최대 약 6회의 실행이 들어갑니다. 병렬 에이전트가 늘면 세션도 더 필요합니다.

짧은 몰림에는 Meteor가 같은 방식으로 더 작은 규모에서 작동합니다. 1시간에 6회 실행이 들어간다면 1회당 비용은 $1 ÷ 6입니다. 이를 스크립트가 계산한 1회 실행의 토큰당 비용과 비교하세요. 내 사용량으로 시험해 보려면 정액제 vs 토큰당 과금 계산기를 쓰세요.

사용 패턴 대개 더 싼 쪽
하루 몇 번의 짧은 실행 토큰당 과금
캐시가 잘 안 되는 긴 실행 정액 세션
근무 시간 대부분 도는 에이전트 정액 세션
여러 에이전트가 하루 종일 병렬로 에이전트마다 정액 세션 하나
BroadNet에서 네이티브 도구 호출이 필요 GLM 5.3 또는 Qwen3.8 27B 토큰당 과금

BroadNet Inference의 위치

BroadNet은 사용량 블록에 캐시된 토큰과 추론 토큰을 표시하므로, 위의 모든 숫자를 내 실행에서 직접 측정할 수 있습니다. DeepSeek V4.1 Flash는 캐시된 입력 가격이 낮고 컨텍스트가 1,048,576토큰이며, 무제한 플랜은 토큰 계량을 없앱니다. 세션 동작 방식을 참고하세요.

먼저 한계 하나를 확인하세요. BroadNet 문서는 도구 호출을 GLM 5.3과 Qwen3.8 27B에만 명시하며, 둘 다 정액 플랜에 없습니다. Aider처럼 텍스트로 편집하는 에이전트에는 네이티브 도구 호출이 필요 없습니다. 내 에이전트에 필요하다면 플랜을 사기 전에 DeepSeek V4.1 Flash로 테스트하거나, GLM이나 Qwen을 토큰당 과금으로 예산에 넣으세요. 그리고 에이전트를 가끔만 돌린다면, 대개 어떤 정액 플랜보다 토큰당 과금이 더 쌉니다.

자주 묻는 질문

AI 코딩 에이전트를 한 번 실행하면 비용이 얼마나 드나요?

토큰을 센 다음 가격을 매기세요. 이 글의 예시에서 기본 컨텍스트 15,000토큰, 단계당 3,000토큰이 추가되는 30단계 실행은 입력 토큰 1,755,000개와 출력 토큰 24,000개를 보냅니다. 비용은 주로 입력 중 얼마가 캐시 요금으로 과금되느냐에 달려 있습니다.

에이전트 실행이 길어지면 왜 비용이 불균형하게 커지나요?

단계마다 그 이전의 모든 것을 다시 보내기 때문입니다. 단계당 입력은 직선으로 늘어나므로, 실행 전체의 합계는 단계 수의 제곱에 비례합니다. 계산 예시에서 실행을 30단계에서 60단계로 늘리면 입력은 약 3.5배가 됩니다.

코딩 에이전트의 캐시 적중률은 어느 정도로 기대해야 하나요?

에이전트와 제공업체에 따라 다릅니다. 대화 기록을 엄격하게 덧붙이기만 하면 최신 토큰만 빗나가며, 이 글의 예시에서는 85~97%였습니다. 기록 수정, 시스템 프롬프트의 타임스탬프, 긴 휴지 시간은 적중률을 낮춥니다. prompt_tokens_details.cached_tokens로 측정하세요.

에이전트에 정액 세션이 토큰당 과금보다 싸지는 시점은 언제인가요?

실행당 비용 × 월 실행 횟수가 플랜 가격보다 클 때입니다. BroadNet에서 DeepSeek V4.1 Flash용 Full Moon은 세션당 월 $60 요금입니다. 가볍거나 가끔 쓰는 경우에는 대개 토큰당 과금이 더 쌉니다.

추론 토큰이 추정치를 바꾸나요?

네. 추론 토큰은 출력으로 과금되며, 출력은 입력보다 토큰당 가격이 높습니다. 측정한 추론량을 단계당 출력에 포함하세요. BroadNet에서는 모델이 제공하는 경우 completion_tokens_details.reasoning_tokens에 표시됩니다.

Markdown으로 읽기ChatGPT에 질문하기Claude에 질문하기Perplexity에 질문하기