Não entendi, VA. Na verdade, até me magoou um pouquinho
@Eltor:
1) a revisão da literatura em terapias energéticas é feita de forma completamente crédula, sem nenhuma referência a trabalhos refutando estas modalidades (como, por exemplo, o da Emily Rosa no JAMA);
Grande erro do cara. Indica uma possível parcialidade, verdade.
Mas este trabalho da Emily Roda não diz nada sobre a eficácia de Reiki. Todos comentários que eu vi pela internet (tirando o desse link do eltor) citaram a Emily como se ela tivesse provado que reiki não tem efeito. Ao invés disso, o trabalho dela mostrou que os aplicadores do reiki (nem era reiki na verdade, mas é um análogo) não conseguem "sentir a energia do paciente", ao contrário do que alegavam.
2) o tamanho amostral utilizado (20 indivíduos/grupo) foi pequeno o suficiente para que flutuações estatísticas pudessem ser significativas, mesmo descontando os outros problemas metodológicos;
Errado. Eu mesmo fiz umas contas aqui (ao menos nos resultados em que o autor relatou os desvios padrão --dado necessário para cálculo do tamanho mínimo de amostra--), e mesmo com 15 ratos em cada grupo já daria para ter flutuações pequenas o suficiente para a maioria dos testes, considerando um grau de confiança de 95% da amostra.
3) como eu havia suspeitado, na descrição da metodologia utilizada não há nenhuma menção ao cegamento dos experimentadores ou dos responsáveis pelas análises posteriores. Ao contrário, a descrição do procedimento inclui as seguintes imagens, também reproduzidas na reportagem da Galileu:
Verdade, não há nenhuma menção a isso. Também não quer dizer que não houve medidas do tipo (as fotos não provam nada).
Mas não fazer duplo-cego não invalida completamente o estudo, principalmente quando os parâmetros observados são analisados por metodologias bem científicas.
4) não há também nenhuma referência a medidas para prevenir contaminação cruzada das amostras;
Grande coisa. Esse nível de descrição não é relevante... é o mesmo que reclamar porque o cara não disse que as vidrarias estavam limpas, os aparelhos calibrados, etc. São medidas tão triviais que assume-se que foram adotadas.
5) O teste estatístico utilizado (Student t) requer a satisfação de premissas fortes, que não foram validadas durante ou após a análise estatística (normalidade, igualdade de variâncias, independência das amostras).
5.a) Nota 1: os dados reportados na dissertação me permitiram verificar a premissa da normalidade para a maioria dos conjuntos. Entretanto, a premissa de isoscedasticidade - isto é, igualdade de variâncias - foi violada brutalmente em todos os testes realizados, o que possivelmente implica na não-validade do teste-t utilizado, a menos que precauções extras tenham sido tomadas - o que não foi reportado no texto.
É razoável assumir que uma média populacional seja uma distribuição normal. A independência das amostras também me pareceu bem óbvia ao ler a dissertação por cima. Quanto a igualdade de variâncias... o comentário fala a verdade. Mas mesmo testes com variâncias não iguais (que estritamente falando seriam testes t de Welch) podem ser chamados de testes t de Student. Eu ia testar alguns dos resultados pelo teste de Welch, mas teria que pegar papel e caneta
. Mas não, isso não implica na não validade do teste utilizado.
6) Ainda na parte da análise estatística: o autor falhou em corrigir seus valores de significância para múltiplas hipóteses. Além disto, o trabalho testa uma grande quantidade de hipóteses mal-definidas, frisa aquelas onde anomalias foram observadas, e busca - na discussão final, a posteriori da execução dos experimentos - ajustar quaisquer conjecturas às observações, o que é uma prática falaciosa de análise conhecida como caça por anomalias;
Bom, disso daqui eu não sei o que falar, já que requer um conhecimento de estatística um pouco mais que o trivial que eu consigo lembrar.
Mas concordo em uma coisa: hipóteses mau definidas, que se somam a falta de clareza quanto ao método estatístico e até mesmo erros de digitação (em uma tabela ele claramente troca os desvios padrão de duas medidas).
Conclusão: Sim, o trabalho do cara não teve tanto rigor quanto poderia. Mas os "céticos da internet" também exageram na hora de detratar este tipo de coisa.