모델 등급 전환
fast/standard/premium 모델 선택기가 어떻게 동작하는지, 그리고 어떤 것을 사용할 수 있는지는 무엇이 결정하는지 설명합니다.
이 페이지의 목차
모든 채팅 메시지는 작성창(composer)의 모델 선택기에서 선택한 네 가지 모델 등급 중 하나로 전송됩니다:
- fast — 가장 낮은 비용, 가장 낮은 지연 시간(latency). Free를 포함한 모든 플랜에서 사용할 수 있습니다.
- standard — 더 강력한 범용 모델입니다.
- premium — 가장 어려운 작업을 위한, 사용 가능한 가장 강력한 모델입니다.
- auto — 간단한 휴리스틱(메시지 길이와 코드 블록, "단계별로" 같은 몇 가지 복잡도 지표)을 기반으로 fast/standard/premium 중 하나를 대신 선택해 줍니다 — 학습된 분류기가 아니므로, 항상 최적임이 보장된 선택이 아니라 합리적인 기본값 정도로 여겨주세요.
어떤 등급을 사용할 수 있는지 결정하는 것
어떤 모델 등급을 호출할 수 있는지는 사용자의 플랜이 결정합니다 — 이는 매 request마다 서버에서 검사되며, UI에서만 숨겨져 있는 것이 아닙니다. 어떤 등급이 플랜에 포함되어 있지 않다면, 선택기는 해당 등급으로 전송하지 못하게 합니다. 이는 auto 모드에도 동일하게 적용됩니다 — auto는 항상 사용자의 플랜이 실제로 허용하는 등급으로만 결정되며, 원래 선택되었을 등급이 플랜에 포함되어 있지 않으면 더 저렴한 등급으로 대체됩니다.
비용
모든 메시지의 정확한 prompt/completion 토큰 수와 USD 비용은 기록되며, 답변과 동일한 transaction 안에서 조직의 ledger 잔액에서 차감됩니다 — 전체 request lifecycle은 How it works를, 남은 일일 quota를 확인하는 방법은 Check your quota and add credit를 참고하세요.