Principio
Las trazas registran tiempos, tokens y herramientas. Se revisan percentiles p50/p95, muestras de conversaciones y temas por significado. La calidad se evalúa con un juez y pruebas A/B.
Latencias: p50 y p95
Experimento 1Respuestas medidas
0
p50 (la mitad)
0 ms
p95 (los peores)
0 ms
Cada barra es un grupo de respuestas según su tiempo. La cola de la derecha, en rojo, es el p95: pocas respuestas, pero son las que generan queja.
Temas que más se preguntan
Experimento 2Los mensajes se convierten en vectores y se agrupan por cercanía de significado. Nadie escribió las categorías: aparecen solas.