Quer aprender mais sobre como desenhar experimentos em Design?!
Então vou começar dizendo que há duas abordagens para alocarmos os participantes em um experimento. Between-subjects é quando cada participante avalia apenas uma condição do experimento (uma única versão da interface, por exemplo). Within-subjects é quando cada participante avalia todas as condições do experimento (todas as versões da interface).
Muita gente me pergunta qual é a melhor abordagem, mas não há uma resposta. Cada uma tem vantagens e desvantagens. A escolha vai depender do tipo de experimento, o objetivo e o orçamento.
Com Within-subjects, a gente pode recrutar uma quantidade menor de participantes, já que cada um vai testar todas as interfaces. Porém, o desenho do experimento fica um pouco mais difícil. Precisamos randomizar os estímulos para controlar pelo efeito de ordem. Saca só: se eu colocar todos os usuários para testarem a Versão A e depois a Versão B, pode ser que a ordem influencie o resultado. Os participantes podem terem aprendido algo ao testar a Versão A que vai influenciar no desempenho ao testar a Versão B. Então temos que ter cuidado para randomizar a ordem para os participante. Existem diferentes técnicas para isso.
Com Between-subjects o desenho acaba ficando um pouco mais simplificado, mas precisaremos de uma quantidade maior de pessoas para o teste, já que cada pessoa testa apenas uma condição.
Tá vendo. Tudo vai depender do tipo de experimento e problema que você está querendo resolver. E tem mais: para cada tipo de experimento há um teste estatístico indicado.
Se você quiser sabe mais, o curso de UX Research – Pesquisas Quantitativas da di.school ensina tudo.