30 octubre 2026 EN ES
The AI Side Project

Proyectos de fin de semana que, sin hacer ruido, se volvieron negocios

Proyectos

Mantén la factura de modelos de tu proyecto secundario cerca de cero tras GPT-6 Astra

Dirige la mayor parte del tráfico a niveles económicos, usa rutas de caché o por lotes para el volumen y reserva el nuevo modelo para una tarea difícil del viernes.

Illustration: Keep your side project's model bill near zero after GPT-6 Astra

Tienes una app pequeña, una tarde corta y una factura de modelos que quieres mantener cerca de cero. El precio estándar de la API de GPT-6 Astra es de $10 por millón de tokens de entrada y $50 por millón de tokens de salida. Los tokens de entrada en caché cuestan $1 por millón. OpenAI comenzó a desplegar GPT-6 Astra a la primera oleada de usuarios el 3 de septiembre de 2026. La mayoría de los proyectos secundarios se quedan como proyectos secundarios, y está bien. Mantenlo pequeño dirigiendo la mayor parte del tráfico a niveles económicos y usando el nuevo modelo solo para el problema difícil que los modelos más baratos no pueden resolver.

La diferencia de precio es el problema de enrutamiento

El nuevo precio estándar es unas 2,5 veces el de GPT-5.6 Sol, que cuesta $4 por millón de tokens de entrada y $20 por millón de tokens de salida. Esa diferencia es la razón para enrutar. Un prefijo estable puede convertir el contexto repetido en una ruta mucho más barata. Las rutas por lotes son para trabajo que puede esperar, como informes, resúmenes o tareas nocturnas que no necesitan una respuesta inmediata. Cuando el tráfico ordinario se aleja del modelo premium, la factura deja de estar impulsada por el nivel más caro, y el modelo económico deja de estar sobrecargado.

Construye la escalera de tres niveles antes del fin de semana

Escribe la regla de enrutamiento antes de publicar. Pon la decisión en código, no en una nota. Una versión funcional tiene una función que recibe el tipo de solicitud y devuelve el nivel de modelo antes de que se haga la llamada. La regla debe ser fácil de cambiar cuando llegue un nuevo punto de precio.

  • Por defecto, usa el modelo económico más capaz.
  • Envía el volumen repetido o no urgente a rutas de caché o por lotes.
  • Reserva el modelo de frontera para una tarea difícil del viernes.

Empieza cada solicitud en el nivel más bajo que supere tu conjunto de pruebas. Para una app pequeña, puede ser un modelo que maneje bien la clasificación, la extracción o las respuestas cortas. Si el modelo económico falla en un pequeño conjunto de ejemplos, corrige el prompt o la tarea antes de recurrir al modelo premium. Una versión funcional tiene el tráfico ordinario corriendo en el modelo económico con una lista clara de fallos que puedes revisar.

Coloca el contexto repetido en un prefijo estable para que la caché pueda reutilizarlo. Si el prefijo cambia a menudo, divídelo en una parte estable y una parte variable. Envía el trabajo no urgente por lotes cuando tu producto pueda esperar los resultados. Apunta a un panel donde la mayoría de los tokens estén en caché o por lotes, y solo las solicitudes nuevas orientadas al usuario paguen las tarifas regulares de entrada. Ese panel es la primera comprobación antes del fin de semana.

Elige la tarea que los modelos más baratos siguen fallando, como una cadena de razonamiento larga, un caso límite complicado o una respuesta al usuario que necesita más criterio. Ejecuta esa tarea en GPT-6 Astra y compara la salida con la del modelo más barato. Mantén la función estrecha, para que el modelo caro aparezca solo cuando se elige el problema difícil.

El modo rápido de GPT-6 Astra puede ejecutarse a hasta el doble de la velocidad estándar al doble del precio estándar. La trampa es tratar la velocidad como un valor predeterminado para cada solicitud. Actívalo solo en la ruta orientada al usuario donde la latencia molesta, y deja el resto en la ruta habitual. Configura una bandera que esté desactivada por defecto y una alarma de gasto que se dispare antes de que la factura te sorprenda.

Haz visible el gasto de la semana

Registra qué modelo respondió cada solicitud. Anota el nivel de modelo, el tipo de solicitud y si la respuesta fue en caché, por lotes o nueva. Añade una nota para el problema difícil cuando se use el modelo de frontera. El registro debe mostrar una línea simple que te indique qué ruta gestionó el trabajo y por qué.

Revisa la factura al final de la semana. Busca la ruta que más gastó y pregúntate si debería haber estado ahí. Si el modelo de frontera gestionó tráfico ordinario, ajusta la regla de enrutamiento. Si el modelo económico falló demasiado a menudo, mejora el prompt o mueve la tarea a otro nivel. Termina con una lista corta de cambios para el próximo fin de semana y una factura que puedas explicar.

Publicidad