Durante los últimos 18 meses, la métrica no oficial que regía la adopción de IA generativa en la empresa era simple: más tokens, mejor resultado. A esta dinámica se le acuññó el término ‘tokenmaxxing’: lanzar ventanas de contexto masivas, prompts verbosos y llamadas repetidas a modelos frontera como GPT-4 o Claude 3 Opus sin mirar la factura. El objetivo era la velocidad de desarrollo y la capacidad de razonamiento bruta, financiada por presupuestos de I+D que parecían infinitos.

Esa luna de miel ha terminado. Según revelan fuentes internas y análisis de gasto en la nube, compañías como Tesla, Uber y Meta han impuesto topes duros al gasto en inferencia y han girado su estrategia hacia el ‘valuemaxxing’. El nuevo paradigma no pregunta ¿qué puede hacer el modelo más grande?, sino ¿qué modelo más barato resuelve esta tarea específica con la calidad mínima viable?

El cambio está impulsado por la madurez de la pila tecnológica. La generalización de RAG (Generación Aumentada por Recuperación), el afinado de modelos pequeños (SLMs) como Llama 3 8B o Phi-3, el enrutamiento inteligente de prompts (model routing) y el caché de prompts (prompt caching) permiten reducir el coste por inferencia en uno o dos órdenes de magnitud. En Uber, por ejemplo, los equipos de ingeniería han migrado cargas de trabajo de clasificación y extracción de entidades a modelos propios alojados en infraestructura GPU optimizada, reservando las APIs de frontera solo para tareas de razonamiento complejo o creativo.

Este giro tiene implicaciones profundas para el ecosistema. Los proveedores de modelos cerrados (OpenAI, Anthropic) ven presión sobre sus ingresos por volumen y aceleran el lanzamiento de features de ahorro: Batch API, Prompt Caching y modelos ‘lite’ (GPT-4o mini). Simultáneamente, la capa de orquestación (LangChain, LlamaIndex, frameworks de agentes) y la infraestructura de serving (vLLM, TensorRT-LLM, TGI) se convierten en el nuevo campo de batalla competitivo. Quien optimice el ‘cost per useful token’ gana la cuenta de resultados.

Para el líder técnico o el CTO, la lección es clara: la arquitectura de aplicaciones LLM debe incluir una capa de gobernanza de costes desde el día uno. Métricas como ‘coste por ticket resuelto’ o ‘coste por línea de código generada’ sustituyen a ‘tokens por segundo’ en los dashboards ejecutivos. El ‘valuemaxxing’ no es austeridad; es ingeniería de sistemas aplicada a la economia de la inferencia. Quienes no adapten su stack a esta nueva realidad verán cómo sus proyectos piloto se ahogan en OpEx antes de llegar a producción.