Token limit 측정 관련

[Laeyoung]

안녕하세요, 만들어주신 앱을 쓰다가 궁금한게 있어서 이슈로 남깁니다.

Claude Pro 계정에서 5시간 time window의 token limit이 38,000으로 되어 있는거 같은데요.
실제로 써보면, Token Limit을 넘어도 계속 사용이 되는 것으로 보입니다.

이게 Claude 쪽에서 Token limit 쪽 버그 혹은 여유분인지?
아니면 Viber 쪽 앱에서 측정하는게 잘못 되어서 그런건지 궁금합니다.

ps. 평소에 쓰던 것보다 더 오래 계속 써지는거 봐서는 Claude 쪽 버그 같기도 하네요

[JSpiner]

@Laeyoung
안녕하세요, 제보 감사드립니다!

현재 클로드에서는 공식적으로 토큰 사용량이나 제한(limit) 관련 정보를 제공하지 않고 있습니다.
따라서 저희는 디바이스의 로컬 로그를 기반으로 토큰 사용량을 집계하고 있으며,
토큰 제한 도달 여부는 예측치를 바탕으로 표시하고 있습니다.

또한 클로드의 토큰 제한 계산 방식은 모델마다 다르기 때문에,
정확한 한계치를 예측하기가 더욱 어렵습니다.

이로 인해 토큰 사용량 수치는 비교적 정확하지만,
제한 도달 정보는 참고 지표로만 봐주셔야 합니다.
(다른 오픈소스 클로드 모니터링 도구들도 동일한 방식을 사용하고 있습니다.)

제 경험상, 대략 110% 사용량에 도달했을 때 실제 제한치에 도달하곤 했습니다.(max 20x plan 기준)
혹시나 limit 의 오차범위가 너무 크다고 느껴지시다면 알려주세요

감사합니다.

[Laeyoung]

그렇군요. 제가 어제 해보니까 써주신 38,000 token 말고 100,000 token이 Pro 모델에 Token Max에 좀 더 가까운 듯 싶었습니다.
여러번 해보고 결과를 다시 여기에 올려 드리겠습니다!