Chuyển đổi hạng mô hình
Cách bộ chọn mô hình fast/standard/premium hoạt động và điều gì quyết định hạng nào bạn có thể dùng.
Mỗi tin nhắn chat được gửi tới một trong ba hạng mô hình, được chọn từ bộ chọn mô hình trong ô soạn tin nhắn:
- fast — chi phí thấp nhất, độ trễ thấp nhất. Khả dụng trên mọi gói, kể cả Free.
- standard — một mô hình đa dụng mạnh hơn.
- premium — mô hình mạnh nhất hiện có, dành cho các tác vụ khó nhất.
Điều gì quyết định hạng nào bạn có thể dùng
Gói của bạn quyết định bạn được phép gọi hạng mô hình nào — điều này được kiểm tra trên server cho mọi request, không chỉ ẩn đi ở giao diện. Nếu một hạng không nằm trong gói của bạn, bộ chọn sẽ không cho bạn gửi với hạng đó.
Điều chưa có ở đây
Một chế độ Auto tự chọn hạng cho bạn dựa trên request đã được lên kế hoạch nhưng chưa được triển khai — hiện tại bạn luôn tự chọn hạng.
Chi phí
Số token prompt/completion chính xác và chi phí USD của mỗi tin nhắn được ghi nhận và trừ vào số dư ledger của tổ chức bạn trong cùng một transaction với câu trả lời — xem How it works để biết toàn bộ vòng đời request, và Check your quota and add credit để biết cách xem quota hằng ngày còn lại của bạn.