Test A/B: cómo saber si el resultado es significativo
Un test A/B muestra dos versiones de una página, anuncio, correo o precio a grupos parecidos de personas al mismo tiempo y compara los resultados. La pregunta es siempre la misma: ¿la diferencia es real o puede ser casualidad?
Significancia y p-valor
El p-valor es la probabilidad de ver una diferencia al menos tan grande como la observada si las dos versiones fueran en realidad iguales. Con 95% de confianza, el resultado se considera significativo cuando el p-valor es menor que 5%. La calculadora usa el test z de dos proporciones, el método estándar para tasas de conversión.
Intervalo de confianza
Además de decir si hay diferencia, el test estima su tamaño. Un aumento de +22% con intervalo de +2% a +42% significa que la mejora es real, pero puede ser chica. Para decisiones de negocio, mire el límite inferior.
Tamaño de muestra antes de empezar
Cuanto menor la mejora que se quiere detectar, más visitantes hacen falta. Detectar una mejora de 5% exige cerca de cuatro veces más visitantes que detectar una de 10%. Defina el tamaño y la duración antes de empezar.
Errores comunes
- Cortar apenas sale significativo: mirar el resultado todos los días y cortar en el primer día bueno aumenta mucho los falsos positivos.
- Semanas incompletas: el comportamiento cambia entre días hábiles y fines de semana; corra semanas completas.
- Muchos cambios a la vez: no se sabrá cuál hizo la diferencia.
- Muchas métricas: con 20 métricas, una va a parecer significativa por casualidad; elija la métrica principal antes.