Reduce la factura de memoria de tu agente de fin de semana un 75% sin romper la ejecución

Construyes un pequeño agente un fin de semana, lo ejecutas durante la noche y descubres que la factura ha crecido porque el mismo contexto largo sigue volviéndose a leer. Una reducción en el precio de lectura de caché puede convertir esa fuga oculta en un ahorro pequeño pero medible, si auditas el gasto y gestionas los puntos de ruptura de la migración.

El contexto repetido es la fuga

Anthropic anunció las dos versiones de modelos Claude, Fable 5.1 y Mythos 5.1, el 1 de septiembre de 2026. Fable 5.1 redujo las lecturas de caché de prompt un 75%, de $1 por millón de tokens a $0.25 por millón de tokens. Fable 5.1 mantuvo los precios de entrada y salida de Fable 5 en $10 y $50 por millón de tokens. Para un agente de fin de semana, la reducción en lecturas de caché es la parte que cambia el presupuesto.

Los agentes mantienen un prefijo activo: instrucciones del sistema, descripciones de herramientas, ejemplos, archivos y turnos anteriores. Cada turno puede volver a leer ese prefijo. El ahorro aparece en la caché de prompt, porque la parte repetida es exactamente lo que se almacena en caché. El costo de una carga de trabajo agéntica puede parecer sorprendente cuando el modelo está pagando principalmente por volver a mirar el mismo contexto.

Un agente de código con un prefijo en caché de 200,000 tokens a lo largo de 50 turnos leería 10 millones de tokens en caché, lo que costaría $10 en lecturas de caché en Fable 5 y $2.50 en Fable 5.1. Anthropic proyectó costos aproximadamente un 25% más bajos para cargas de trabajo típicas facturadas por tokens y hasta aproximadamente un 45% de ahorro para tareas de código complejas o altamente agénticas.

Una semana de gasto muestra el ahorro

Puedes estimar el ahorro real tomando una semana de facturación, encontrando la proporción de lecturas de caché en el gasto y reduciendo esa proporción en tres cuartas partes. La auditoría toma una tarde y te da un número que puedes defender ante ti mismo.

• Extrae una semana de facturación y separa las lecturas de caché de la entrada y la salida. Termina con una pequeña tabla que muestre el gasto total, el gasto en lecturas de caché y el resto. Un panel que solo muestra un total necesita los conceptos desglosados.
• Encuentra la proporción de lecturas de caché en ese gasto. El resultado es un porcentaje que puedes comparar con el resto de la factura. Una proporción alta significa que tu agente está volviendo a leer mucho contexto en caché. Una proporción baja significa que el ahorro será menor.
• Multiplica el total antiguo de lecturas de caché por 0.25. Mantén las líneas de entrada y salida sin cambios. El resultado es una nueva línea esperada de lecturas de caché para el mismo período de facturación.
• Revisa la ruta de la solicitud por selección forzada de herramientas, transferencia de bloques de pensamiento y ediciones de turnos. Termina con una breve nota que nombre cada ruta de código que toca herramientas, pensamiento o ediciones de historial. Cuando el código es difícil de encontrar, ejecuta una prueba corta con una herramienta forzada, un bloque de pensamiento y un turno anterior editado.

Cuando tu agente es principalmente contexto nuevo, el ahorro será modesto. Cuando reutiliza un largo prompt del sistema, una lista de herramientas o un contexto de archivos, el ahorro puede ser la diferencia entre un fin de semana tranquilo y una factura que necesitas explicar. La auditoría no demuestra que la migración valga el riesgo; te dice cómo debería verse la factura de memoria después de la reducción.

Tres rupturas pueden detener la ejecución

Los agentes que migran de Fable 5 a Fable 5.1 se enfrentan a tres cambios de ruptura: el uso forzado de herramientas devuelve un error 400, los modelos anteriores no pueden consumir bloques de pensamiento de Fable 5.1, y los cambios en turnos anteriores invalidan los bloques de pensamiento posteriores. Resuélvelos en el orden en que tu código los toca.

Elimina la selección forzada de herramientas de la solicitud, o haz que la selección de herramientas sea opcional. Cuando el agente depende de que se elija una herramienta, añade una ruta de respaldo que pueda continuar sin ella. Una ejecución de prueba permite que el modelo responda, pida aclaraciones o llame a una herramienta sin que la solicitud falle.

Mantén los bloques de pensamiento en la misma versión de modelo. Si tu pipeline almacena bloques de pensamiento y luego los pasa a otro modelo, elimínalos antes de la transferencia. Una conversación reanudada evita un error de compatibilidad.

Cuando un usuario revisa un mensaje anterior, espera que el modelo descarte el pensamiento aguas abajo y vuelva a ejecutar la parte afectada. El registro muestra pensamiento nuevo después del turno editado, no bloques obsoletos.

La factura te dice si el cambio funcionó

Después de la migración, observa la factura durante un período corto. Compara la nueva línea de lecturas de caché con el número de tu auditoría. Cuando la línea es más alta de lo esperado, verifica si tu agente está invalidando la caché con más frecuencia de lo que pensabas. Los prefijos largos ayudan, pero solo ayudan cuando el prefijo se mantiene estable.

Mantén una pequeña nota con la proporción antigua de lecturas de caché, la nueva proporción esperada y los cambios de código que hiciste. Esa nota es la diferencia entre un ahorro que puedes repetir y una sorpresa. La mayoría de los agentes de fin de semana se mantendrán pequeños, y eso está bien. Cuando el ahorro es menor de lo que la auditoría predijo, mira la forma de tu contexto: prefijos más cortos, más ediciones, o una ejecución que no reutiliza la parte en caché. La próxima factura debería permitirte señalar la línea de lecturas de caché y decir por qué se movió.