Teste A/B: como saber se o resultado é significativo
Em um teste A/B, metade dos visitantes vê a versão atual (A) e a outra metade vê a nova (B). Se B converter mais, a pergunta é: a diferença é real ou foi sorte? O teste estatístico responde com o p-valor e o intervalo de confiança.
Os conceitos principais
- p-valor: a probabilidade de ver uma diferença pelo menos desse tamanho se as duas versões fossem iguais. Abaixo de 5% (para 95% de confiança), a diferença é considerada estatisticamente significativa.
- Intervalo de confiança: a faixa em que a melhora verdadeira provavelmente está. Se o intervalo inclui zero, não dá para afirmar que B é melhor.
- Poder do teste: a chance de detectar uma melhora que realmente existe. O padrão é 80%.
Exemplo
No exemplo da calculadora, a versão A converteu 156 de 5.200 visitantes (3,00%) e a B, 191 de 5.150 (3,71%). O p-valor é de 4,5%: com 95% de confiança, B é melhor. Mas o intervalo da melhora vai de 0,5% a 46,8%, mostrando que o tamanho exato do ganho ainda é incerto.
Os números do exemplo são os valores iniciais da calculadora; troque pelos do seu negócio.
Tamanho da amostra
Melhoras pequenas exigem muitos visitantes para serem detectadas. Para perceber uma melhora de 10% sobre uma conversão de 3%, são necessários dezenas de milhares de visitantes por versão. A calculadora mostra quantos e quantos dias o teste vai levar com o seu tráfego.
Erros comuns
- parar o teste assim que ele fica significativo: aumenta muito a chance de falso positivo;
- rodar por poucos dias: o comportamento muda entre dias da semana;
- testar várias mudanças ao mesmo tempo: não se sabe qual delas funcionou;
- olhar só a conversão: confira também o ticket médio e a receita por visitante.