Haiku 5.5 가격표에서 10만 토큰 경계를 읽은 기록
이 저장소의 자동화는 지시문과 규칙, 예시 글을 앞에 붙인 뒤 같은 모델을 반복 호출합니다. 비용이 낮은 모델로 바꾸기 전에 공식 가격 페이지를 열었는데, 처음에는 Haiku 5.5의 입력 0.10달러만 눈에 들어왔습니다.
그 한 줄만 보면 Haiku 4.5보다 훨씬 낮아 보였습니다. 그런데 문맥 창 설명에서 Haiku 5.5만 예외라는 문장을 발견했고, 가격표를 다시 위아래로 읽게 됐습니다. 조건은 프롬프트 길이 10만 토큰이었습니다.
먼저 결론부터
- Haiku 5.5는 프롬프트가 10만 토큰 이하인지 초과인지에 따라 가격표 줄이 달라집니다.
- 이 길이에는 기본 입력만이 아니라 캐시 읽기와 캐시 쓰기 토큰도 함께 들어갑니다.
- 캐시를 읽는 비용이 낮아도, 합계가 경계를 넘은 요청은 높은 단가로 계산됩니다.
- 요청마다 가격이 따로 정해지므로 이전 요청의 단가가 나중에 바뀌지는 않습니다.
- Batch API의 입출력 할인도 적용되지만, 10만 토큰 경계 자체가 사라지지는 않습니다.
처음에는 가장 싼 입력 단가만 읽었습니다
Haiku 5.5의 10만 토큰 이하 가격은 100만 토큰당 기본 입력 0.10달러, 출력 0.50달러입니다. 캐시 읽기는 0.01달러이고, 캐시 쓰기는 5분 기준 0.125달러, 1시간 기준 0.20달러로 적혀 있습니다.
| 항목 | 10만 토큰 이하 |
|---|---|
| 기본 입력 | 0.10달러 |
| 5분 캐시 쓰기 | 0.125달러 |
| 1시간 캐시 쓰기 | 0.20달러 |
| 캐시 읽기 | 0.01달러 |
| 출력 | 0.50달러 |
처음에는 여기까지만 보고, 앞에 붙는 지시문이 길어도 캐시를 쓰면 입력 비용을 낮출 수 있으니 자동화에 넣을 모델 후보라고 생각했습니다. 가격표의 윗줄은 그렇게 보입니다.
하지만 바로 아래에 다른 줄이 있었습니다.
10만 토큰을 넘으면 같은 모델이 다른 줄로 갑니다
프롬프트가 10만 토큰을 초과하면 Haiku 5.5의 기본 입력은 0.50달러가 됩니다. 출력도 2.50달러이고, 캐시 읽기는 0.05달러입니다. 캐시 쓰기는 5분 0.625달러, 1시간 1달러로 표시됩니다.
| 항목 | 10만 토큰 초과 |
|---|---|
| 기본 입력 | 0.50달러 |
| 5분 캐시 쓰기 | 0.625달러 |
| 1시간 캐시 쓰기 | 1달러 |
| 캐시 읽기 | 0.05달러 |
| 출력 | 2.50달러 |
여기서 멈췄습니다. 문맥 창이 큰 모델이라면 긴 입력도 같은 단가일 것이라고 막연히 읽고 있었는데, Haiku 5.5는 그 방식이 아니었습니다.
공식 설명에는 Claude 4.6 이후 모델 가운데 Haiku 5.5를 제외한 모델은 100만 토큰 문맥 전체에 표준 가격을 쓴다고 나옵니다. Sonnet 5.5는 900k 토큰 요청과 9k 토큰 요청이 같은 토큰당 단가입니다. Haiku 5.5만 예외였습니다.
캐시를 붙여도 길이 합계에서 빠지지 않았습니다
제가 다시 읽은 문장은 프롬프트 길이에 기본 입력과 캐시 읽기, 캐시 쓰기 토큰이 모두 포함된다는 부분입니다. 앞부분을 캐시로 싸게 읽는 설계라면 낮은 읽기 단가만 계산하기 쉬운데, 가격 줄을 고르는 길이 계산에서는 그 토큰도 빠지지 않습니다.
즉, 캐시 적중이 있어도 요청 전체가 10만 토큰을 넘으면 높은 단가가 적용됩니다. 캐시 읽기 0.01달러라는 숫자만 따로 보던 흐름에서는 놓치기 쉬운 조건이었습니다.
요청 단위의 규칙입니다. 어떤 요청이 높은 줄에서 계산됐다고 해서 이전 요청까지 바뀌지는 않으며, 이전 요청은 당시 가격으로 유지됩니다. 반복 호출 파이프라인에서는 요청마다 앞에 붙는 내용이 얼마나 누적되는지 따로 봐야 하는 이유가 됐습니다.
다른 모델 가격과 배치 가격도 같은 표에서 대조했습니다
Haiku 4.5는 입력 1달러, 출력 5달러이며, 5분 캐시 쓰기 1.25달러, 1시간 캐시 쓰기 2달러, 캐시 읽기 0.10달러입니다. Sonnet 5.5는 입력 2달러, 출력 10달러로 적혀 있습니다.
Haiku 5.5의 낮은 줄만 보면 비교가 단순했습니다. 그러나 높은 줄까지 펼쳐 놓으니 프롬프트 조립 결과가 어느 경계를 넘는지도 확인해야 했고, 모델 이름만으로는 비용을 판단할 수 없었습니다.
Batch API는 입출력에 Batch 50% 할인이 적용됩니다. Haiku 5.5 배치의 10만 토큰 이하 입력은 0.05달러, 출력은 0.25달러이고, 초과 입력은 0.25달러, 출력은 1.25달러입니다. 할인된 표에도 경계는 남아 있었습니다.
US 전용 추론인 inference_geo를 쓰면 모든 항목에 1.1배가 적용되며, Haiku 5.5의 높은 가격 줄에도 적용됩니다. 가격표를 읽을 때 입력과 출력만 옮겨 적으면 안 된다는 뜻이었습니다.
이번에는 실제 청구액을 재지 못했습니다
이 기록에서는 제 파이프라인의 실제 프롬프트 길이나 청구액을 측정하지 않았습니다. 어디까지나 공식 가격표를 대조하면서, 처음 읽은 0.10달러가 항상 적용되는 숫자가 아니라는 점을 확인한 기록입니다.
또 Claude 4.7 이후 모델은 새 토크나이저를 쓰며 같은 글에서 토큰이 약 30% 더 나올 수 있다고 적혀 있습니다. 프롬프트 글자 수만 보고 10만 토큰 아래라고 판단하는 일도 여기서는 보류했습니다.
이번에 남은 것은 모델 교체 판단보다 가격표 읽는 순서였습니다. 먼저 Haiku 5.5의 낮은 단가를 보고, 다음에는 캐시를 합친 프롬프트 길이를 보고, 마지막으로 배치와 추론 위치 조건을 대조하는 순서입니다.