클로드 코드 토큰 절약: 사용량이 튀는 구간과 줄이는 법

클로드 코드 토큰 절약이란?
클로드 코드가 요청마다 다시 전송하는 컨텍스트(시스템 프롬프트, 연결된 도구 정의, 누적된 대화 기록, 읽어들인 파일 내용)의 양을 줄여 같은 작업을 더 적은 토큰으로 끝내는 운영 방식이다.

토큰은 "내가 친 글자"가 아니라 "매번 다시 읽는 컨텍스트"에서 나간다

사용량 한도 알림을 처음 본 사람은 대개 자기가 쓴 질문의 길이를 의심한다. 그런데 실제 소모의 대부분은 거기서 발생하지 않는다. 대형 언어 모델은 상태를 기억하지 않는다. 그래서 코딩 에이전트는 새 요청이 들어올 때마다 앞선 대화, 도구 실행 결과, 열어본 파일 내용을 처음부터 다시 모델에 밀어 넣는다.

구조를 그림으로 그려보면 이해가 빠르다. 50번째 요청은 49개의 앞선 메시지 위에 얹힌다. 파일 하나를 읽으면 그 파일은 세션이 끝날 때까지 컨텍스트에 남아 매 요청마다 재전송된다. 사용자가 입력한 한 줄짜리 질문은 이 덩어리 옆에서 있으나 마나 한 수준이다.

이 재전송 비용을 낮추는 장치가 프롬프트 캐싱이다. 앞부분이 이전 요청과 동일하면 그 구간을 할인된 단가로 처리하는 방식으로 알려져 있다. 문제는 캐시가 깨지는 조건이다. 컨텍스트 앞쪽에 있는 설정 파일이나 도구 목록이 바뀌면 뒤따르는 전체가 다시 계산된다. 세션 도중 모델을 바꾸거나 MCP 서버를 붙였다 뗐다 하는 습관이 비싼 이유가 여기에 있다.

사용량이 튀는 다섯 구간

절약 논의가 공허해지는 이유는 "짧게 쓰세요" 수준에서 멈추기 때문이다. 실제로는 소모가 집중되는 구간이 정해져 있다. 사용자 커뮤니티와 도구 문서에서 되풀이해 지적되는 패턴을 정리했다.

다섯 구간의 공통점은 분명하다. 사람이 타이핑한 문장이 아니라 기계가 집어넣은 출력이 컨텍스트를 채운다는 점이다.

"한글 프롬프트가 범인"이라는 설명은 절반만 맞다

토큰 절약 콘텐츠에서 가장 자주 보이는 주장이 있다. 한국어는 영어보다 토큰을 두세 배 소모하니 프롬프트를 영어로 쓰라는 조언이다. 앞부분은 사실에 가깝다. 토크나이저 구조상 한글은 같은 의미를 표현할 때 영어보다 많은 토큰으로 쪼개지는 경향이 있다.

문제는 결론이다. 이 사실에서 "월 100달러를 더 쓰게 된다"는 계산으로 건너뛰려면 두 가지 가정이 필요하다. 하나는 전체 토큰에서 사용자 프롬프트가 차지하는 비중이 크다는 가정이고, 다른 하나는 사용자가 종량제 API로 과금된다는 가정이다. 코딩 에이전트 환경에서는 두 가정 모두 흔들린다.

• 코드, 로그, 검색 결과, 도구 출력은 언어 전환의 대상이 아니다. 소스 코드를 영어로 번역해서 넣을 수는 없다.
• 정액제 구독자는 달러가 아니라 시간 단위 한도와 주간 한도에 걸린다. 종량제 단가로 환산한 "하루 몇 달러 손해" 계산은 과금 모델이 다른 두 체계를 섞은 결과다.
• 실제 세션에서 사람이 친 문장은 전체 토큰의 한 자릿수 퍼센트에 머문다고 알려져 있다. 그 구간을 절반으로 줄여도 총량은 크게 움직이지 않는다.

한국어를 영어로 바꾸는 노력이 무의미하다는 뜻은 아니다. 다만 우선순위가 낮다. 읽는 파일의 범위를 좁히는 편이 같은 시간 대비 훨씬 효과가 크다.

효과가 큰 순서대로 손대기

절약 방법을 나열하면 열 개도 넘게 나온다. 그러나 대부분의 효과는 앞쪽 네 가지에서 나온다.

1. 작업 단위로 컨텍스트를 끊는다. 이전 작업과 무관한 새 과제를 시작할 때 대화를 초기화한다. 자동 압축을 기다리는 쪽보다 저렴하다. 압축은 그 자체로 전체 대화를 한 번 더 읽는 연산이기 때문이다.
2. 읽을 범위를 사람이 지정한다. "이 저장소에서 인증 로직 찾아줘"와 "src/auth/session.ts의 40~120행만 보고 판단해줘"의 토큰 차이는 수십 배까지 벌어진다. 어디를 봐야 하는지 이미 안다면 그 정보를 아끼지 않는 편이 이득이다.
3. 모델을 작업 난이도에 맞춘다. 상위 모델은 출력 단가가 높고, 확장 사고를 켜면 응답당 토큰이 늘어난다. 리팩터링 설계나 원인 불명 버그 추적에는 값어치를 하지만, 이름 바꾸기와 테스트 추가에는 과잉이다. 2026년 8월 기준으로도 모델별 단가 격차는 몇 배 수준으로 공개돼 있다.
4. 늘 실려 나가는 것부터 줄인다. 프로젝트 설정 파일과 MCP 도구 정의는 모든 요청에 실린다. 쓰지 않는 서버를 정리하고 설정 파일을 규칙 위주로 압축하면 세션 시작 지점의 기준선 자체가 내려간다.

여기에 얹을 보조 수단도 있다. 무거운 탐색은 별도 서브에이전트에 맡겨 결과 요약만 본 세션으로 받으면 원문 수백 줄이 메인 컨텍스트에 남지 않는다. 계획을 먼저 확정한 뒤 실행에 들어가는 방식은 잘못된 방향으로 코드를 쓰고 되돌리는 왕복을 줄인다. 로그는 파일로 저장한 다음 필요한 구간만 인용하는 편이 낫다.

측정하지 않으면 절약도 없다

토큰 절약을 습관 목록으로만 다루면 오래가지 않는다. 남는 컨텍스트를 확인하는 명령을 세션 중간에 한 번씩 쓰고, 어떤 행동 직후에 잔여량이 급감했는지 관찰하는 편이 실효가 있다. 조직 단위라면 한 걸음 더 나간다. 팀별 사용량이 아니라 "작업 하나를 끝내는 데 든 토큰"을 보는 관점이 필요하다. 토큰을 아끼려다 사람이 세 시간을 더 쓰면 그건 절약이 아니다.

이 판단은 결국 도구 비용과 인건비를 같은 저울에 올리는 문제로 이어진다. 관련해 AI 전환 ROI: 기업이 알아야 할 경제학에서 투자 대비 효과를 어떤 기준으로 계산해야 하는지 정리했다.

더 읽어보기

• AI 전환 ROI: 기업이 알아야 할 경제학

자주 묻는 질문

대화를 초기화하면 지금까지 작업한 맥락을 잃지 않나?

잃는다. 그래서 초기화 전에 결정 사항과 남은 할 일을 프로젝트 설정 파일이나 별도 메모 파일에 짧게 적어두는 절차가 필요하다. 요점 열 줄을 남기고 새로 시작하는 쪽이, 수백 개 메시지를 매 요청 재전송하며 답변 품질이 흐려지는 쪽보다 대체로 낫다.

프롬프트를 영어로 쓰면 정말 비용이 줄어드나?

같은 의미의 문장이라면 토큰 수는 줄어든다. 다만 전체 소모에서 사용자 문장이 차지하는 비중이 작기 때문에 체감 절감폭은 홍보되는 수치보다 훨씬 작다. 한국어로 정확히 지시해서 한 번에 맞추는 편이, 어색한 영어로 두 번 왕복하는 것보다 저렴하다.

한도에 자주 걸리면 상위 요금제로 올리는 게 답인가?

사용 패턴을 점검하기 전에 올리면 같은 낭비를 더 비싸게 반복하게 된다. 파일 읽기 범위와 세션 길이, 연결된 도구 목록을 먼저 손보고 2주간 다시 관찰하는 순서를 권한다. 그래도 한도가 반복해서 찬다면 그때는 실제 작업량이 요금제 설계를 넘어선 상태이므로 상향이 타당하다.

정리

토큰 소모는 사용자의 말버릇이 아니라 컨텍스트 관리 방식에서 결정된다. 어디를 읽힐지 정하고, 작업 단위로 끊고, 난이도에 맞는 모델을 쓰고, 상시 로드되는 짐을 덜어내는 네 가지가 결과의 대부분을 가른다. 나머지 팁은 그 위에 얹는 조정에 가깝다.

AI 도구를 조직에 도입하는 단계에서 비용 구조와 실제 생산성을 함께 따져보려면 Nitrox 블로그의 AX 가이드를 참고할 수 있다.