La clasificación es tan confiable como el procedimiento que hay detrás. Así se puntúa exactamente cada modelo clasificado: los mismos prompts, las mismas verificaciones deterministas, las mismas cuentas de costo, en cada corrida. Nada se califica a mano; todo lo que sigue refleja lo que de verdad hace el benchmark en vivo.
Cada modelo que EyesInAI clasifica pasa por el mismo ciclo. El objetivo es la equidad y la reproducibilidad: el mismo prompt, juzgado con la misma regla y puntuado de la misma forma en cada corrida.
Dieciocho pruebas calificadas cubren aquello para lo que de verdad se usan los modelos: salida estructurada, seguir instrucciones, razonamiento, código ejecutado (escribir, corregir, refactorizar, algoritmo), recuperación en un contexto largo y llamadas a herramientas; además, un ping de latencia. Haga clic en cualquier prueba para ver el prompt real y exactamente qué cuenta como aprobado. Los prompts aparecen en inglés, tal como los envía el benchmark.
Return ONLY a valid JSON object with these exact keys: name (string), status (string "active"|"inactive"), score (integer 0-100), tags (array of 2 strings). No explanation, no markdown, no code block.Cumplimiento estricto de la salida estructurada.
Se analiza como JSON Y tiene las 4 claves con los tipos correctos (status en {active,inactive}, score un entero de 0 a 100, tags un arreglo de 2 elementos).
Una sola prueba produce una fila de números concretos. La clasificación se construye por completo con ellos: nada se captura a mano.
¿El validador determinista aceptó la respuesta?
Tiempo de ida y vuelta de la llamada.
Tokens de salida ÷ latencia: el número de rendimiento.
Conteos exactos de tokens, tomados de la respuesta del proveedor.
Tokens × precio por token, calculado al momento de leer; nunca se guarda, así que las corridas anteriores se vuelven a costear cuando cambian las tarifas.
Los primeros 200 caracteres de la respuesta y el error, si lo hubo, para auditoría.
La prueba de código ejecuta lo que produce el modelo en un subproceso aislado, con un entorno vacío y un directorio de trabajo desechable; así, un modelo al que le hicieron jailbreak no puede leer claves de API ni escribir donde no debe.
Una llamada por prueba. Una respuesta truncada o inestable se puntúa tal como ocurrió (la experiencia que tendría un usuario real), en lugar de repetirse en silencio hasta que apruebe.
Cada modelo ve exactamente el mismo prompt. Ningún prompt se optimiza a mano para un proveedor, así que la clasificación refleja al modelo, no la ingeniería de prompts.
Cada prueba limita max_tokens, y algunos proveedores que ignoran el tope y transmiten sin límite se acotan de forma explícita; así, ningún modelo gana en velocidad solo porque se le limita de otra manera.
El costo sale de los precios por token publicados, aplicados a los conteos reales de tokens al momento de leer. Cambie una tabla de precios y todo el historial se vuelve a puntuar correctamente.
Los modelos que devuelven "not found" / "deprecated" se retiran automáticamente para que el benchmark deje de gastar llamadas en ellos, y los clasificadores de seguridad no generativos se excluyen por completo.