openai playground ChatGPT 모델 - 체험, 사용법, api

Playground를 통해서 openai api에 대한 성능을 테스트해볼 수 있습니다. 어떤 가격에 어떤 모델을 사용하여야 하는지 모른다면 한번 playground를 먼저 사용해본 후 api를 연동하여 사용하세요. playground에 대해서 알려드리겠습니다. 

---

[목차]

1. OpenAI playground란?
2. playground 각종 모델 성능 체험해보기
3. playground 사용법

---

 

1. OpenAI playground란?

 

Playground는 OpenAI의 인공지능 모델인 GPT3.5, GPT-4와 같은 모델을 상호작용할 수 있는 웹 기반 인터페이스입니다. API를 사용하기 전에 모델 변수 및 넣어야할 값에 대해서 테스트해볼 수 있습니다. 

 

언어의 성능을 Playground를 통해 테스트하고 API를 호출할 때 내가 인공지능에 적용시킬 서비스에 얼마나 효율적인지 미리 테스트해볼 수 있습니다. 

 

https://platform.openai.com/playground/p/default-grammar

OpenAI API

해당 링크에서 테스트해볼 수 있으며 주의사항으로는 출력물을 공유할 때 본인 또는 회사이름으로 출처를 밝혀야한다는 것입니다. 

 

 

또한 이 웹페이지 기반 테스트 사이트는 ChatGPT 버전과 같이 2021년까지로 학습 데이터가 제한이 되어 있으므로 그 이후의 최신성에 대해서는 미비할 수 있습니다. 

 

playground의 좋은 장점은 각 모델의 성능을 평가할 수 있는 것 뿐만아니라 그 엔진을 구현하는 코드도 간단하게 구현해준다는 겁니다. 

파이썬 엔진 api 구현 코드

 

 

2. playground 각종 모델 성능 체험해보기

 

 

Playground는 현재 GPT-3 버전의 모델밖에 사용되지 않습니다. text-davinci-003, text-curie-001, babbage, ada 등의 모델이 있습니다. 

 

Playground 각 엔진들

전에 포스팅에서도 언급했지만 davinci는 조금 느리지만 품질이 좋고(강력한) , ada는 빠르지만 품질이 기본적인 수준의 모델입니다. 모델에 대한 장단점도 나열되어 있습니다. 

 

text-davinci-003, Temperature 0.7, Top p 1, Maximum length 2505

 

davinci 모델 성능 테스트

 

text-ada-001, Temperature 0.7, Top p 1, Maximum length 1760

 

ada 모델 성능 테스트

 

확실히 davinci의 성능이 확실히 좋은 것을 비교해봐서 알겠습니다. 이 모델은 GPT-3 모델이기도 하고 훈련되지 않은 정적인 모델로 멈춰있기 때문에 현재 사용하는 ChatGPT와는 한계가 보입니다. 

 

이런 테스트를 통해서 서비스에 쓸만한지 명확하게 알 수 있습니다.

 

3. playground 사용법

 

 

Playground의 확실하게 좋은 점은 질문을 작성할 때 소모되는 토큰이 실시간으로 표시되어서 얼마나 예산이 소요될 지 감을 잡을 수 있다는 것입니다.

 

아무래도 ChatGPT 서비스를 제공하려면 막대한 비용이 필요하기에 중요해보입니다. 문자의 길이, Temperature, Top p 등 많은 변수에 대해서 토큰 갯수가 좌우됩니다. 

소요되는 토큰 갯수 표시

질문을 적고 변수를 설정한다면 하단에 Submit 옆으로 79라는 표시가 보일 것입니다. 그것이 실시간으로 변하는 토큰의 갯수를 표시합니다. 

 

사용법은 질문을 입력하고 모델을 설정하고 변수값을 맞추면 Submit하고 대답이 마음에 들거나 서비스가 마음에 들면 View Code로 가져다 사용하는 것이 전부입니다. 

 

모델의 특성

 

Temperature - 생성된 텍스트와 무작위성을 제어하는 파라미터, 수치가 높을수록 더 다양한 단어와 문장을 구사하지만 일관성이 떨어짐, 창의성 증가, 반대로 수치를 낮추면 정확하지만 창의성이 떨어지고 사용하는 언어갯수는 줄어듬

 

Top P - 모델이 고려하는 사용 가능한 단어 확률 분포를 제한, 수치가 높으면 더 다양한 단어를 고려하고 수치가 낮으면 빈번하게 사용되는 단어들로 문장을 구성하게됨

 

Frequecy penalty - 흔한 단어의 사용에 대한 페널티를 설정하여 새로운 단어를 이용해 문장을 구성하게 됨, 수치가 높을수록 새로운 단어, 낮을수록 흔히 사용되는 단어로 사용

 

Best of - 질문에 대한 선택지의 갯수, 2개 이상으로 한다면 응답할 후보가 2개 중 고를 수 있게 됨

 

Inject start text - 응답을 할 때 처음 포함시킬 단어를 지정시킴

 

show probabilities - 생성된 텍스트에서 각 단어가 선택될 확률을 표시하는 기능, 응답에서 이 기능을 켜면 단어에 대한 확률이 표시, 더 자주표시할 것인지 아니면 덜 표시할 것인지 선택할 수 있음

 

 

---

[함께 읽으면 좋은 글]

2023.04.22 - [IT 제품, IT지식] - ChatGPT api 모델 - 종류, 특성, 가격, temperature

ChatGPT api 모델 - 종류, 특성, 가격, temperature

 

2023.04.21 - [IT 제품, IT지식] - ChatGPT api key - 발급방법, 요금, 사용법

ChatGPT api key - 발급방법, 요금, 사용법

 

2023.03.07 - [IT 제품, IT지식] - ChatGPT 한글 영어로 자동번역, 빠르게 응답받기

ChatGPT 한글 영어로 자동번역, 빠르게 응답받기

 

---