Cargando datos de benchmark…
EyesInAI·Cargando datos de benchmark en vivo
El enrutador sirve para trabajo repetible y de alto volumen que se cobra por token: bots, procesos administrativos y agentes. No sirve para unas cuantas personas del equipo que chatean con planes de tarifa fija. Abajo están nueve lugares por donde se fuga el gasto en IA, cada uno marcado con lo que de verdad hemos logrado.
Ningún ahorro de esta página se ha medido con el tráfico real de un cliente, y todavía no tenemos un comprobante de ahorro.
Muchas preguntas de soporte son sencillas: el estado de un pedido, la política de devoluciones, «¿rentan X?». En nuestra prueba sintética acme-support, Haiku superó nuestro umbral de calidad en preguntas rápidas, preguntas frecuentes y solicitudes de reembolso; en problemas de análisis abiertos sólo Opus lo superó (Opus 15/15, Sonnet 14/15, Haiku 12/15).
Un paquete de rutas envía cada tipo de solicitud al modelo que superó el umbral para ese tipo. Cuando ningún modelo lo supera, la ruta sigue atendiendo con la mejor alternativa que tiene, marcada como degradada y señalada para que una persona la revise.
Por ejemplo: etiquetar tickets, calificar prospectos, extraer campos de facturas, resumir llamadas.
En nuestras pruebas con las rutas internas de consulta de DLR, groq/gpt-oss-120b, un modelo abierto mucho más económico, pasó todas las pruebas de consulta que se le dieron en consulta de precios (6/6), consulta de facturas, facturas abiertas y resúmenes de cuenta.
Ese modelo sigue bloqueado en las cuatro rutas hasta que una persona lo revise (mientras tanto las rutas atienden con Haiku), y las pruebas de consulta todavía no dicen nada sobre etiquetado, calificación, extracción o resúmenes. Cada uno de esos necesita su propio conjunto de pruebas.
Una automatización reintenta y vuelve a leer todo su contexto toda la noche. Hoy el enrutador puede limitar el tamaño de cada solicitud (entrada y salida) por cliente, pero ningún cliente tiene esos límites activados.
Un presupuesto de gasto diario o mensual por cliente no está construido. Un ciclo de solicitudes de tamaño normal seguiría corriendo. Es una carencia que vale la pena construir.
El enrutador guarda en caché su decisión de enrutamiento, lo que ahorra el paso de clasificación, pero el modelo elegido responde cada vez. La caché de respuestas no está construida.
Sólo serviría para respuestas que no cambian según el cliente (el horario de la tienda, una política estándar), nunca para facturas ni datos de cuenta. Otra carencia que vale la pena construir.
En los modelos Claude, el «razonamiento» se cobra como tokens de salida, el tipo más caro. En nuestra prueba del 2026-10-14 (45 problemas sintéticos de soporte, corridos dos veces: 90 respuestas por modelo y por configuración), la configuración de razonamiento más baja obtuvo Haiku 85 contra 86 con la predeterminada, Sonnet 90 contra 90, Opus 89 contra 90.
En las rutas automáticas el gateway aplica un valor bajo por omisión, y reescribe algunas configuraciones de quien llama a la forma que acepta cada modelo.
Los proveedores cobran mucho menos por el contexto que ya vieron, pero sólo con el mismo modelo y un prefijo que coincida. En las conversaciones automáticas con Claude, el gateway normalmente conserva el modelo elegido para ayudar a reutilizar la caché de prompts; una actualización o el vencimiento de esa fijación pueden cambiarlo.
En un chat de prueba en vivo (cobrado por token mediante una clave de API), los turnos posteriores se leyeron de la caché.
Los paquetes de rutas se recompilan a diario a partir de la corrida de benchmark más reciente de cada cliente, así que un modelo que pasa las pruebas de ese cliente y está sano puede tomar la ruta sin cambiar código. Un modelo nuevo no se prueba automáticamente; hay que agregarlo al benchmark del cliente.
El proceso de compilación una vez pasó más de tres semanas sin una corrida programada, y una falla parcial todavía puede parecer un éxito.
Los proveedores descuentan los trabajos por lotes que no necesitan una respuesta inmediata.
Las dos carencias que más importan cuando «el gasto está fuera de control» son un presupuesto de gasto por cliente (caso 3) y la caché de respuestas estables (caso 4). Las dos están sin construir hoy. El ahorro sólo se declara sobre tráfico que se cobra por token: un asiento Pro o Max no se abarata con enrutamiento.
Antes de sugerir cualquier cambio, lo medimos. Con sus números ordenamos a dónde se va el dinero. Para cada mejora que acordemos probar, usted recibe sus resultados de prueba y un ahorro estimado, y nada se cambia hasta que se haya comprobado con su tráfico.
Envíe lo que pueda de lo siguiente. Los resúmenes sirven, y puede tachar números de cuenta, nombres y direcciones.
Nunca envíe claves de API, contraseñas ni registros de clientes. No los necesitamos.
Solicitudes de muestra de sus 2 o 3 usos más grandes, para probar modelos más económicos con su trabajo real. Primero acordaremos una forma segura de enviarlas. Para empezar sirven ejemplos inventados que se parezcan a los reales. Tenga en cuenta que las muestras de prueba se envían a los proveedores de modelos de IA para que las respondan, así que deje fuera los adjuntos y todo lo confidencial.
Sólo con los números, usted recibe a dónde se va el dinero y qué mejoras parece que vale la pena probar. Si después probamos una mejora juntos, también recibe cómo le fue con los ejemplos de prueba y un ahorro neto estimado, con sus supuestos por escrito. Si la respuesta honesta es «usted ya lo está haciendo bien», se lo diremos.
Cuéntenos qué usa y cuánto le cuesta, más o menos. No pegue facturas, exportaciones ni claves en este formulario.
Preparado el 2026-10-17.