본문 바로가기
IT 제품, IT지식

ChatGPT api 모델 - 종류, 특성, 가격, temperature

by Mocca_ 2023. 4. 22.

현재 ChatGPT는 모델이 GPT-3.5, GPT-4 식으로 빠르게 업데이트되고 있습니다. 이런 모델의 api를 사용하기 위해선 특징과 가격을 잘 알아야합니다. 각 모델의 종류, 특성, 가격에 대해서 알아보겠습니다. 

 


[목차]

  1. ChatGPT api 모델 
  2. ChatGPT api 모델 종류
  3. ChatGPT api 모델 가격 및 특성

 

1. ChatGPT api 모델

 

Openai api에서는 자신이 필요한 용도에 맞게 다양한 모델이 있습니다. 보통 ChatGPT 에서 사용하는 모델은 GPT 3.5와 GPT 4.0입니다. 

 

숫자가 높을 수록 좋은 버전입니다. GPT 3.5 모델은 더 포괄적인 개념이고 ChatGPT에서 사용하는 하위 모델인 gpt-3.5-turbo, text-davinci-003 등의 버전이 있습니다. 

 

 

GPT-4 모델 같은 경우는 대기리스트 등록자에 한하여 사용제한을 하고 있습니다. gpt-3.5-turbo 모델보다 정확하며 속도는 조금 느리지만 더 광대한 지식과 지도학습훈련으로 최적화가 되어 있어서 확실히 ChatGPT를 써보시면 체감됩니다.

GPT-4 최신모델 종류
GPT-4 최신모델 종류

이 모델을 가지고 자신의 목적에 맞게 Fine-tuning 할 수도 있습니다. 특정 작업이나 도메인 작업에 잘 맞도록 추가 학습을 진행하는 과정입니다. 이렇게하면 특정 분야에서 더 좋은 성능을 발휘하게 됩니다. 

 

Fine-tuning은 '/v1/fine-tunes/' API request로 davinci, curie, babbage, ada 모델에서만 사용할 수 있으니 참고해주세요. 훈련하려면 무료 크레딧가지고는 안될 것입니다. 나중에 한번 다루겠습니다.

 

 

2. ChatGPT api 모델 종류

 

 

요즘 제일 잘 사용하는 GPT는 3.5 버전입니다. ChatGPT를 사용할 때 legacy와 turbo를 선택할 수 있는데 turbo는 속도가 빠르고 최적화가 잘 되어 있어서 저렴하게 이용할 수 있고 legacy는 조금 느린대신 퀄리티가 살짝 좋습니다. 

 

요즘은 openai에서 gpt-3.5-turbo를 더 업데이트 많이하고 밀어주고 있습니다. 최대 4096개의 토큰까지 처리할 수 있고다른 모델도 GPT-3.5에서는 그렇게 처리합니다. 

GPT-3.5 모델 종류
GPT-3.5 모델 종류

GPT-4 모델 종류

gpt-4 : 3.5 모델보다 성능이 뛰어나고 복잡한 작업을 수행 8192토큰을 최대 수행할 수 있음

gpt-4-0314: 2023년 3월 14일자의 gpt-4 스냅샷, 6월까지 3개월 동안만 지원됩니다. 최신성을 반영함

gpt-4-32k: 기본 gpt-4 모드와 동일한 기능을 가짐, 가능한 토큰을 3만2천토큰까지 연장시킴

gpt-4-32k-0314: 2023년 3월 14일자의 것을 스냅샷 가능한 토큰을 3만2천토큰까지 연장시킴

 

GPT-3.5 모델 종류

gpt-3.5-turbo: GPT 3.5모델 중 가장 성능이 뛰어나고 최적화 되어 있음, davinci-003에 비해 비용 10분의 1, 4096개 까지 토큰 수행가능

gpt-3.5-turbo-0301: 2023년 3월 1일까지 GPT 3.5 스냅샷, 마찬가지로 6월에 종료하며 3개월을 쓸 수 있습니다.

text-davinci-003: curie, babbage, ada 모델보다 더 나은 성능을 가진 언어처리능력 보유, 텍스트 완성 삽입 가능

text-davinci-002: 003과 비슷한 기능이지만 Fine-tuning(미세조정)으로 훈련됨

code-davinci-002: 코딩에 적합한 모델, 8001개 까지 토큰을 수행할 수 있습니다. 

 

 

3. ChatGPT api 모델 가격 및 특성

 

 

GPT-4 모델은 가격이 8K, 32K context 모델로 나눠집니다. 최대 수행할 수 있는 토큰을 말하는 건데요. 확실히 긴 질문이거나 연산이 필요한 처리에는 32K context 모델을 사용하는게 좋다고 명시되어 있습니다.

GPT-4 가격, GPT 3.5 가격
GPT-4 가격, GPT 3.5 가격

계속 언급했다시피 정확한 토큰의 사용량은 모델과 미세 조정에 따라 다르기 때문에 API 계정에서 usage를 확인해봐야 알 수 있습니다. 토큰별 가격에 대한 정보는 앞선 포스팅에서 참고해주세요.

 

2023.04.21 - [IT 제품, IT지식] - ChatGPT api key - 발급방법, 요금, 사용법

 

ChatGPT api key - 발급방법, 요금, 사용법

ChatGPT api를 사용해서 나만의 인공지능 챗봇을 만들거나 인공지능을 사용하려면 api 발급을 필수입니다. 요즘 많은 앱들에서 openai의 api를 사용하여 서비스에 응용하고 있습니다. api 발급방법, 요

commnetall.tistory.com

 

gpt-3.5-turbo의 경우 일반적으로 인공지능 챗봇에 많이 사용되는 최적화 된 모델입니다. 1000토큰에 0.002달러로 꽤 저렴한 수준이 효율적인 모델이라고 할 수 있습니다. 

 

나머지 Davinci, Curie, Ada, Babbage 같은 모델은 주로 인공지능을 훈련하는 모델로 많이 사용합니다. 특히 Ada는 제일 훈련 속도가 빠른 모델이고 Davinci는 가장 강력한(품질이 좋은) 모델입니다. 

 

Ada - 1000토큰당 0.0004 달러

Babbage - 1000토큰당 0.0005 달러

Curie - 1000토큰당 0.002 달러

Davinci - 1000토큰당 0.02 달러


[함께 읽으면 좋은 글]

2023.03.28 - [IT 제품, IT지식] - OpenAI ChatGpt 플러그인 ( Plugins ) 소개 및 사용법

 

OpenAI ChatGpt 플러그인 ( Plugins ) 소개 및 사용법

ChatGPT는 2021년까지의 데이터를 가지고 있어서 최신성을 가지고 있지 않았습니다. 하지만 이번에 발표한 chatGPT plugin은 다른 앱과 연동하거나 Browsing을 통하여 기술력, 정보력 뿐만 아니라 최신성

commnetall.tistory.com

2023.03.14 - [IT 제품, IT지식] - openai 사용가능한 인공지능 api

 

openai 사용가능한 인공지능 api

제일 유명한 ChatGPT 말고도 openai 회사에는 쓸모있는 api 서비스가 많습니다. 오늘은 많은 인공지능 api 중 무엇이 어떤 기능을 하는지 알아보고 소개해보는 시간을 가져보겠습니다. [목차] openai 인

commnetall.tistory.com

2023.02.18 - [IT 제품, IT지식] - chatGPT 유료결제 개발자 코딩 괜찮은가?

 

chatGPT 유료결제 개발자 코딩 괜찮은가?

저는 현재 개발자로 chatGPT를 코딩에 아주 잘 이용하고 있습니다. 이번에 너무 피드백 속도가 느린 나머지 chatGPT 유료결제를 하였습니다. 개발하면서 모르는 지식이나 질문들을 구글링을 하면서

commnetall.tistory.com

 


 

 

 

댓글