MasterOSDocumentación
Documentación

Cambiar de nivel de modelo

Cómo funciona el selector de modelo fast/standard/premium y qué decide cuál puede usar.

Cada mensaje de chat se envía a uno de cuatro niveles de modelo, elegido en el selector de modelo del compositor:

  • fast — el costo más bajo, la latencia más baja. Disponible en todos los planes, incluido Free.
  • standard — un modelo de propósito general más potente.
  • premium — el modelo más potente disponible, para las tareas más difíciles.
  • auto — elige fast/standard/premium por usted, según una heurística simple (longitud del mensaje más algunos indicadores de complejidad como bloques de código o "paso a paso") — no es un clasificador entrenado, así que trátelo como una opción por defecto razonable, no como la elección garantizada-óptima.

Qué decide qué niveles puede usar

Su plan decide qué niveles de modelo puede llamar — esto se verifica en el servidor en cada request, no solo se oculta en la interfaz. Si un nivel no está incluido en su plan, el selector no le permitirá enviar con él. Esto también aplica al modo auto: siempre resuelve a un nivel que su plan realmente permite, retrocediendo a un nivel más barato si su plan no incluye el que elegiría de otra forma.

Costo

El conteo exacto de tokens de prompt/completion y el costo en USD de cada mensaje se registra y se debita del saldo del ledger de su organización en la misma transacción que la respuesta — vea How it works para el ciclo de vida completo del request, y Check your quota and add credit para saber cómo ver su quota diaria restante.

Cambiar de nivel de modelo — Documentación de MasterOS