Ponle precio a la ejecución nocturna de tu agente de fin de semana

Cierras el portátil y el agente sigue trabajando. Antes de dejarlo, ponle precio a la noche: cómputo, gasto en el modelo, tiempo máximo de ejecución y la condición de parada que lo termina. La mayoría de los proyectos secundarios se quedan como proyectos secundarios, y eso está bien. Los que se convierten en negocios suelen tener una respuesta aburrida a la pregunta del coste.

El precio del sandbox es la primera condición de parada

Docker presentó Cloud Sandboxes el 24 de septiembre en la conferencia WeAreDevelopers, extendiendo su producto de sandbox local a cómputo gestionado por Docker para que los agentes de programación puedan seguir trabajando después de que el portátil entre en suspensión. La facturación del sandbox en la nube de Docker es de pago por uso y se mide por segundo, con tarifas horarias desde $0.07 para una forma Micro de 1 vCPU/2 GB hasta $1.12 para una forma XL de 16 vCPU/32 GB. La forma Small predeterminada tiene 2 vCPUs y 4 GiB de memoria y cuesta $0.14 por hora.

Un sandbox en pausa no cuesta nada. Un agente en espera no debería hacer girar el contador. Las sesiones tienen una duración predeterminada de una hora, se pueden configurar hasta 24 horas, y Docker las detiene o elimina después de que expire el tiempo de ejecución configurado. Las cuentas nuevas reciben $250 en crédito gratuito de periodo limitado, suficiente para ejecutar el tamaño predeterminado del sandbox durante más de 1.000 horas. El crédito hace que el primer experimento sea barato, pero no es un modelo de negocio.

Puedes usar una clave de modelo personalizada y un proveedor existente; Docker factura la inferencia del modelo a través de ese proveedor, mientras que los volúmenes, el egress, las imágenes públicas y los Docker Kits son gratuitos. El sandbox necesita sbx 0.45.1 o posterior y un plan de pago por uso en una cuenta Docker Personal o Pro.

El sandbox es la parte que puedes ponerle precio antes de que el agente empiece. La factura del modelo puede sorprenderte. El tiempo de ejecución puede convertir una prueba en un mes de cargos pequeños. Nombra cada uno y dejas de adivinar. Trata una ejecución nocturna como cómputo, llamadas al modelo y un plazo. El precio debe ser una condición de parada, no una esperanza.

Elige el tamaño que termina el trabajo sin dejar la máquina inactiva durante la mayor parte de la noche. La diferencia es lo suficientemente amplia como para cambiar la respuesta. Si el agente espera un paso, una persona o una cola, pon el sandbox en pausa y detén el cargo.

La lista de verificación convierte una ejecución nocturna en un precio

La prueba de ir/no ir se mantiene corta. El cómputo es el número fácil. El gasto en tokens es el que puede superarlo, especialmente cuando el agente reintenta, explica o entra en bucle. Responde cada punto, o el agente no se lleva la noche.

Coste de cómputo: Multiplica la tarifa horaria por la ejecución más larga que permitirás y confirma que el número cabe en tu presupuesto de fin de semana.
Coste de tokens: Pon un límite a los tokens del modelo o al gasto, y comprueba que la factura del proveedor no superará la del sandbox.
Tiempo máximo de ejecución: Establece una parada dura antes de que la sesión pueda ejecutarse toda la noche y confirma que la parada se activa realmente.
Comportamiento de pausa/parada: Confirma el comportamiento de pausa y parada en la configuración de tu proveedor antes de una ejecución.
Carga de mantenimiento: Nombra a la persona que arreglará una ejecución fallida y asegúrate de que esa persona eres tú en un fin de semana.
Valor: Escribe el beneficio para el cliente o usuario en una línea corta y decide si justifica la ejecución recurrente.

Si alguna respuesta es vaga, la ejecución se queda como prueba. La siguiente pregunta es si el coste continuado justifica el valor.

El coste recurrente es la verdadera prueba de negocio

Una construcción de fin de semana puede seguir siendo una construcción de fin de semana. Una vez que puedes nombrar el coste, la parada y el valor, puede convertirse en un negocio sin convertirse en una factura. Ejecuciones baratas con beneficios vagos se quedan como juguetes. Beneficios reales con mantenimiento en solitario se convierten en trabajos. Un coste claro y un valor claro crean un pequeño negocio con un coste conocido. Empieza pequeño y mantén el tiempo de ejecución corto. Aumenta solo cuando el valor esté demostrado. El agente debe ganarse la siguiente noche, no heredarla.

Antes de una noche pagada, escribe el precio. Incluye el cómputo, el gasto en el modelo y el tiempo que pasarás vigilándolo. Si un número te hace retroceder, reduce la ejecución. Cuando el número es pequeño, pregunta cuánto vale la salida. Los negocios necesitan una respuesta repetible, no una sorpresa.

Responde la lista de verificación rápidamente, o no dejes que el agente se ejecute durante la noche.