Cursor 프롬프트 캐시 비용 절감에서 97.2% 히트율을 찍은 개발자가 $1,200짜리 복잡한 프로젝트를 완성하며 쓴 5가지 규칙을 공개했어.
어떤 프로젝트였냐면
AudioWorklet DSP랑 WebGL을 다루는 꽤 복잡한 오디오 시각화 프로젝트였어. FFT 알고리즘(Radix-4)까지 직접 구현했으니까 난이도가 보통이 아닌 거지. 이 개발자가 특이했던 건 그냥 만드는 데서 그친 게 아니라, "비용을 얼마나 낮출 수 있는지"를 처음부터 끝까지 추적했다는 거야.
Cursor 프롬프트 캐시 비용 절감을 위해 지킨 5가지 규칙
1. 대화 스레드를 길게 유지해 일회성 채팅 대신 프로젝트 단위 긴 스레드를 유지했어. 총 685개 유저 메시지, 8,300개 어시스턴트 메시지가 12개 최상위 스레드에 묶여 있었거든. 같은 컨텍스트가 반복되면 캐시된 프리픽스를 그냥 읽어버리니까 비용이 확 줄어.
2. 파일 경로 안 바꿔 스레드 중간에 파일 이름이나 위치를 바꾸면 그 파일에 대한 컨텍스트가 날아가버려. 리팩토링은 스레드가 마무리될 때까지 기다렸다가 한 번에 했어.
3. 짧은 상태 체크포인트만 넣어 "뭘 완성했고, 뭐가 깨졌고, 다음은 뭐야" 이 세 줄로 정리. 매번 전체 파일 트리를 다시 붙여넣는 건 캐시를 날려버리는 지름길이거든.
4. 버그 하나씩만 디버깅해 관련 없는 버그 두 개를 한 스레드에 섞으면 프롬프트만 비대해지고 둘 다 제대로 안 잡혀. 하나씩 끊어서 가는 게 오히려 빨라.
5. 커밋 잘게 쪼개 diff가 작을수록 어시스턴트가 이미 추론하던 트리 스냅샷에 그대로 닻을 내리고 있을 수 있어. 큰 커밋 하나보다 작은 커밋 여러 개가 캐시 효율에 좋아.
실제 결과
- 총 비용: $1,214.84 (대부분 Opus 4.7 thinking-xhigh 사용)
- 캐시 히트율: 97.2% (약 25.8억 토큰이 캐시에서 읽힘)
- 총 토큰: 약 44.9억 (1,439개 사용 라인)
캐시 없이 이 토큰을 전부 입력 토큰으로 때렸으면 비용이 몇 배는 나왔을 거야.
따라할 수 있는 포인트
복잡한 AI 코딩 도구 프로젝트 하나를 시작할 때, 스레드를 미리 설계해봐. "이 기능은 이 스레드에서만" 하는 식으로 경계를 정해두면 컨텍스트가 오염되지 않아. 파일 리팩토링은 기능 개발이 어느 정도 마무리된 뒤에 몰아서 하는 것도 포인트야.
Cursor 프롬프트 캐시 비용 절감, 거창한 기술 없어. 스레드 관리 습관 하나가 비용 구조 자체를 바꾸더라.
🔗 참고 링크
댓글
댓글 쓰기