챗 gpt api vs claude api 가격 비교 분석 총정리
2024.11.06 기준 작성한 글이다.
앞으로 개발할 ai 서비스에 챗gpt를 사용할지 claude를 사용할지 비용측면에서 고민되어 분석해보았다.
목차
- 토큰?
- 입력토큰(input token) 출력토큰(output token) 캐시토큰(cached input token)?
- chat-GPT api 끼리 가격 비교
- *batch api 란?
- Claude.ai api 끼리 가격 비교
- chat GPT vs Claude.ai
- 토큰 수 비교
- 성능 좋은 api 끼리 비교
- 가성비 api끼리 비교
- 결론
- 토큰(token)?
chat gpt, claude 모두 토큰 수를 기준으로 비용이 계산된다. 토큰은 ai 모델이 입력을 처리하는 단위로, 문장을 단어와 구문, 형태소로 나누어 처리한다. 언어마다 필요한 토큰 수가 다른데, 영어보다 한국어에 토큰이 훨씬 많이 필요하다.. 그래서 영어로 질문하면 비용을 크게 아낄 수 있다.
토큰을 계산하는 방법은 회사마다 다르다.
chat gpt api의 경우 아래 chat gpt 공식 링크를 통해 토큰 수를 계산해볼 수 있다.
https://platform.openai.com/tokenizer
claude의 경우 본사에서 직접 제공하고 있는 웹사이트가 없다. 대신 사설 사이트를 이용했다.
(공식 사이트가 아니므로 실제와 다를 수 있음)
https://tokencounter.org/kr/claude_counter
- 입력토큰(input token) 출력토큰(output token) 캐시토큰(cached input token)?
입력토큰 : 우리가 질문하는 글자 토큰 수
출력토큰 : ai가 답변하는 글자 토큰 수
캐시 토큰 : 이전에 모델에 입력된 토큰을 저장해 두어, 후속 처리를 더 효율적으로 할 수 있도록 하는 것 (잘 모르겠다..)
즉, 우리가 낼 비용은 (입력토큰 수 + 출력토큰 수 + 캐시토큰 수) 다.
chat-GPT api 끼리 가격 비교
홈페이지를 통해 사용하는 chat gpt는 일부 무료지만 api는 무료 서비스가 없다. 이전에는 첫사용 무료 서비스를 제공했지만 현재는 제공하지 않는다. 다양한 모델 api를 제공하고 있고, 모델에 따라 가격이 다른데
홈페이지에서 흔하게 사용하고 있는 GPT-4o, GPT-4 mini, GPT-3.5 turbo에 대해서만 알아보았다.
(다른 모델에 대한 가격을 알고 싶다면 링크 참고 https://openai.com/api/pricing/ )
| GPT-4o | GPT-4 mini | GPT-3.5 turbo | |
| 성능 | 제일 좋음 | GPT-4o 보단 별로 | GPT-4 mini 보단 별로 |
| 기본 api를 사용한 경우 가격 | 입력: 1백만 토큰 당 $2.5 출력: 1백만 토큰 당 $10 캐시입력: 1백만 토큰 당 $1.25 |
입력: 1백만 토큰 당 $0.15 출력: 1백만 토큰 당 $0.6 캐시입력: 1백만 토큰 당 $0.6 |
입력: 1백만 토큰 당 $3 출력: 1백만 토큰 당 $6 훈련: 1백만 토큰 당 $0.6 |
| batch api를 사용한 경우 가격 |
입력 : 1백만 토큰 당 $1.25 출력 : 1 1백만 토큰 당 $5 |
입력 : 1백만 토큰 당 $0.075 출력 : 1백만 토큰 당 $0.3 |
입력 : 1백만 토큰 당 $1.5 출력 : 1백만 토큰 당 $3 |
- 성능을 우선한다면 GPT-4o가 좋고, 가성비로는 GPT-4 mini가 적합하다.
- GPT-4o가 GPT-4 mini보다 15배 이상 비싸다..
- 기본 api보다 batch api를 사용한 경우 비용이 절반 이상 절약된다! 가능하면 batch api를 사용하도록 하자
*batch api 란?
여러 질문을 한번에 보내는 형태다. 그 예로 챗봇 ai 서비스가 있다. 아래 내용은 한 사용자가 챗봇을 사용하는 경우다.
질문 : "여행 계획을 세우고 싶어요."
답변 : "어디로 가고 싶으신가요?"
질문 : "프랑스 파리로 가고 싶어요."
답변 : "좋아요! 여행 일정은 어떻게 생각하고 계신가요?"
이후 다음 질문을 해야 할때 이전의 대화이력을 모두 보내야 프랑스 파리 일정에 대한 답변을 받을 수 있다.
이처럼 이전 대화 이력을 통틀어 질문을 해야 할때 batch api를 사용하여 api 비용을 줄일 수 있다.
Claude.ai api 끼리 가격 비교
claude api 또한 무료 서비스가 없다. 모델은 현재 Claude 3.5 Sonnet, Claude 3 Haiku, Claude 3.5 Haiku, Claude 3 Opus 등으로 구성되어 있고, 이 중 Claude 3.5 Sonnet, Claude 3 Haiku, Claude 3.5 Haiku 만 알아보았다. (Opus는 sonnet보다 5배 비싸고, 본사가 sonnet를 더 밀고있어서 생략)
(다른 모델에 대한 가격을 알고 싶다면 링크 참고 https://www.anthropic.com/pricing#anthropic-api )
| Claude 3.5 Sonnet | Claude 3 Haiku | Claude 3.5 Haiku |
|
| 성능 | 제일 좋음 | Claude 3.5 Haiku 보단 별로 | Claude 3.5 Sonnet보단 별로 |
| 기본 api를 사용한 경우 가격 |
입력: 1백만 토큰 당 $3 출력: 1백만 토큰 당 $15 Prompt caching write: 1백만 토큰 당 $3.75 Prompt caching read: 1백만 토큰 당 $0.3 |
입력: 1백만 토큰 당 $0.25 출력: 1백만 토큰 당 $1.25 Prompt caching write: 1백만 토큰 당 $0.3 Prompt caching read: 1백만 토큰 당 $0.03 |
입력: 1백만 토큰 당 $1 출력: 1백만 토큰 당 $5 Prompt caching write: 1백만 토큰 당 $1.25 Prompt caching read: 1백만 토큰 당 $0.1 |
| batch api를 사용한 경우 가격 |
위 가격의 50% 할인 | 위 가격의 50% 할인 | 위 가격의 50% 할인 |
- 성능만 따지면 Sonnet, 가성비를 따지면 Claude 3 Haiku다.
- batch api를 사용하면 50% 할인해준다!
chat GPT vs Claude.ai
- 토큰 수 비교
질문/답변 언어가 영어인 경우 chat GPT와 Claude.ai의 토큰수는 같다.
다만 한국어인 경우 Claude.ai가 chat GPT보다 토큰수가 1.1배 더 많다. (어떤 형태소인지에 따라 조금씩 다를 수 있음)
- 성능 좋은 api 끼리 비교
| GPT-4o | Claude 3.5 Sonnet | |
| 기본 api를 사용한 경우 가격 |
입력: 1백만 토큰 당 $2.5 출력: 1백만 토큰 당 $10 캐시입력: 1백만 토큰 당 $1.25 |
입력: 1백만 토큰 당 $3 출력: 1백만 토큰 당 $15 Prompt caching write: 1백만 토큰 당 $3.75 Prompt caching read: 1백만 토큰 당 $0.3 |
| batch api를 사용한 경우 가격 |
입력 : 1백만 토큰 당 $1.25 출력 : 1 1백만 토큰 당 $5 |
위 가격의 50% 할인 |
- 비용은 Claude 3.5 Sonnet이 GPT-4o보다 더 비싸다. 입력토큰은 비슷한데 출력 토큰이 1.5배 더 비싸다. 다만 batch api를 사용하면 가격차가 좀 줄어든다.
- GPT와 Claude는 능력치가 많이 다르니 비용보단 능력치 보고 선택하는게 좋을듯 하다.
- 가성비 api끼리 비교
| GPT-4 mini | Claude 3 Haiku | |
| 기본 api를 사용한 경우 가격 |
입력: 1백만 토큰 당 $0.15 출력: 1백만 토큰 당 $0.6 캐시입력: 1백만 토큰 당 $0.6 |
입력: 1백만 토큰 당 $0.25 출력: 1백만 토큰 당 $1.25 Prompt caching write: 1백만 토큰 당 $0.3 Prompt caching read: 1백만 토큰 당 $0.03 |
| batch api를 사용한 경우 가격 |
입력 : 1백만 토큰 당 $0.075 출력 : 1백만 토큰 당 $0.3 |
위 가격의 50% 할인 |
- 비용은 Claude 3.5 Haiku이 GPT-4 mini보다 2배정도 더 비싸다. batch api 또한 마찬가지.
결론
전체적으로 Chat gpt보다 Claude.ai가 1.5배 ~ 2배정도 더 비싸다!