챗 지피티 대화 제한 rate limit 총정리

챗 지피티 대화 제한 얼마나 있을까?

---

 

오늘 꿀팁아지트에서는 챗 지피티 대화 제한 관련 정보를 정리해보려고 합니다. 얼마 전 업데이트된 이후, 챗 지피티를 통해 단순히 활자를 통해 궁금증을 해결하는 데에서 한 발자국 더 나아갔습니다. 바로 대화가 가능해진 것인데요.

 

이는, 단순 음성 지원이 아니라 A.I 툴에 음성 지원이 합쳐진 만큼! 실로 엄청난 변화라고 생각하는데요. 문제는 생각보다 많은 사람들이 이 엄청난 기능을 잘 인지하지 못하고 있다는 점입니다.

 

그래서인지, 챗 지피티 대화 관련 정보 또한 생각보다 많이 없는 편인데요! 이에 따라 오늘 글에서는 챗 지피티 대화 관련된 제한 사항에 대해 자세히 알아보고자 합니다. 그럼, 바로 시작해볼까요?

 

목차

 

챗 지피티 대화 파헤치기

챗 지피티의 답변은 잘못 되었다?

---

먼저, 챗 지피티의 대화 제한 관련된 잘못된 부분을 말씀드리고자 합니다. 여러분께서는 챗 지피티를 통한 대화를 즐겁게 하셨다보니, 대화 제한 관련해서도 챗 지피티에게 물어보셨을 가능성이 높습니다.

챗 지피티 대화 답변

문제는 이에 대한 챗 지피티의 답변인데요. 아마 높은 확률로 위와 같이, 제한이 없다는 식으로 답변을 받으셨을 것 같습니다. 하지만, 이 녀석의 데이터는 2022년 1월까지의 데이터를 기반으로 하고 있습니다.

답변의 한계

 

그리고, 2022년 1월까지, 챗 지피티에는 대화라는 기능이 없었습니다. 그리고 일반적인 채팅에 대해서도 제한 사항은 늘 변화했기 때문에 현재의 시점과 저 당시 시점의 데이터는 다릅니다. 이 녀석 또한 다른 대답을 할 수 밖에 없는 것이죠.

 

공식 Open API 답변 살펴보기

챗 지피티 제한 규칙이 있는 이유

---

그렇다면, 지금부터는 공식적인 챗 지피티의 개발사, Open AI에서 발표하고 있는 제한 사항에 대해 알아보도록 하겠습니다. 오늘 글의 말미에는 해당 사이트를 직접 공유드릴테니, 이를 참고하셔도 좋을 것 같네요.

 

사전에 정보를 인지하고 계신 분들도 계시겠지만, 챗 지피티 서비스는 사실 공익적인 목적을 가지고 만들어졌습니다. 그렇기에 처음에는 유료 버전도 없었는데요. 사실, 그렇기에 이러한 제한 규칙은 당황스러울 수 있습니다.

 

하지만, 완전 무료로 해당 서비스를 제공한다면 좋은 일만 일어나는 것은 아닙니다. 일부 사용자가 해당 서버와 서비스를 독식하게 되고, 이럴 경우 과부하가 걸려서 일반 사용자들이 오히려 손해를 볼 수 있다는 것인데요.

 

이러한 점에서 횟수 및 시간 등에 제한을 걸어 두면, 조금 더 많은 사용자들이 공평하게 높은 퀄러티의 서비스를 받을 수 있다는 것이죠.

 

제한 단위 알아보기

챗 지피티에서는 대화에 대하여 총 5개의 단위를 통해 관리하고 있는데요. 세부적인 제한에 대해 말씀드리기에 앞서 먼저, 이 각각이 어떤 것을 의미하는지 말해보도록 하겠습니다.

 

1) RPM : Request per minute, 분당 요청

2) RPD : request per day, 하루 당 요청

3) TPM : tokens per minute, 분당 토큰

4) TPD : tokens per day, 하루 당 토큰

5) IPM : images per minute, 분당 이미지

 

만약 여러분께서 챗 지피티 사용자이며 해당 다섯 가지 제한 중 하나의 제한이라도 걸리게 된다면 rate limit에 걸리게 되는 것입니다.

 

여기서 토큰이란, 단어의 조각을 의미하는 것으로써 알파벳일 경우에는 보통 4개 내외의 문자가 1개의 토큰으로 인식된다고 하며 한국어의 경우에는 한 문자가 약 2개 정도의 토큰으로 인식된다고 해요.

무료 사용자기 준 제한

* 무료 사용자의 경우, 위와 같은 제한을 두고 있다고 합니다.

 

대화 제한은?

그렇다면, 단순 텍스트가 아닌 대화를 기준으로 했을 때의 제한 사항은 무엇일까요? 이에 대해 말씀드리기 위해서는 먼저 사이트에서 보여주고 있는 표를 보여드릴게요.

대화 버전 제한

모델에 따라 약간의 차이는 있지만, 일반적으로 분당 토큰의 경우에는 40,000TPM이고, 하루를 기준으로 하면 200개의 요청으로 제한이 있습니다.

 

사실 별 의미가 없는 이유 

그러나, 막상 사용해보시면 1분 내에 10개 이상의 대화를 했는데도 제한 없이 잘 진행되는 경우가 있습니다. 또한 하루를 기준으로 200개 이상의 요청을 하더라도 진행이 잘 되는 이유가 있죠. 마지막으로는, 분명히 제한에 걸렸다고 하는데 1시간 이내의 시간이 지나면 갑자기 또 되는 경우도 있습니다.

 

가장 큰 이유는 바로 해당  제한이라는 것이 애초에 이 시스템 전체의 원활한 작용을 위한 것이라는 점 때문입니다. 그렇기에 서버 전체적인 과부하 등에 대한 기준을 바탕으로 그 제한이 유동적으로 걸린다는 것인데요.

전체 시스템의 영향

실제 챗 지피티의 답변에 따르면,  기준이 있다 하더라도, 시스템이 여러 대화를 묶어서 인식하기도 하는 등 나름 유동적으로 카운팅한다는 것을 알 수 있는데요.

 

실제 사용 시에도, 예측하지 못한 상황에서 갑자기 "you have reached chat gpt rate limit"이라는 안내를 받아보는 경우가 정말 많은데요.

 

그렇기에 해당 안내를 받은 경우에는 짧게는 30분, 길게는 1시간 정도를 기다렸다가 사용해보시는 것을 추천드립니다. 마케팅 등의 목적을 가지신 분으로써 대량으로 작성하는 것이 아니라면, 서버 과부하가 풀리면 바로 또 이용 가능한 경우가 태반이니까요!

 

다른 글 읽어보기

2023.05.17 - [테크 관련 꿀팁] - 빙 이미지 크리에이터 저작권 걱정 없이 사용법

빙 이미지 크리에이터 저작권 걱정 없이 사용법

2023.04.06 - [생활 꿀팁/이슈, 상식 꿀팁] - 엔비디아 게티이미지 만드는 생성형 AI란 무엇일까

엔비디아 게티이미지 만드는 생성형 AI란 무엇일까