zab0229 estatÍstica experimental

1

Material preparado pelo Prof. Dr. César Gonçalves de Lima – FZEA/USP

UNIVERSIDADE DE SÃO PAULO Faculdade de Zootecnia e Engenharia de Alimentos

hart

ZAB0229 – ESTATÍSTICA EXPERIMENTAL

Prof. César Gonçalves de Lima [email protected]

AULA 11 – EXIGÊNCIAS DO MODELO MATEMÁTICO

mailto:[email protected]

2


EXIGÊNCIAS DE UM MODELO MATEMÁTICO Ao analisarmos um conjunto de dados resultante de um experimen-to planejado nós precisamos definir um modelo matemático, que é formulado com base no tipo de delineamento experimental usado e nos fatores de tratamento, cujos efeitos sobre a variável resposta nós queremos testar.

A correta análise estatística dos dados é feita admitindo que alguns pressupostos teóricos estão satisfeitos, como a normalidade dos dados e a homogeneidade de variâncias.

3


Exemplo. Associado a um experimento com um único fator de tra-tamento num delineamento inteiramente casualizado, temos o mo-delo:

𝑦𝑖𝑗 = 𝜇 + 𝑡𝑖 + 𝑒𝑖𝑗 com 𝑖 = 1, 2,, 𝑎 𝑗 = 1, 2,, 𝑛

em que:

𝑦𝑖𝑗 é o valor observado na 𝑗-ésima parcela que recebeu o 𝑖-ésimo

tratamento; 𝜇 é uma constante comum a todas as observações;

𝑡𝑖 é o efeito do 𝑖-ésimo tratamento;

𝑒𝑖𝑗 é o erro experimental associado a 𝑗-ésima parcela que recebeu

o 𝑖-ésimo tratamento. Admitimos que 𝑒𝑖𝑗 ~ 𝑁(0, 𝜎2) e 𝑒𝑖𝑗’s são

não correlacionados.

4


A Análise de Variância (ANOVA) se baseia na aceitação das se-guintes pressuposições:

• Os efeitos que aparecem no modelo são aditivos.

• Os erros (𝑒𝑖𝑗) associados a fatores não controlados são indepen-

dentes, isto é, a probabilidade de que o erro de uma observação qualquer assuma um determinado valor, não depende do valor dos erros associados a outras observações.

• Os erros (𝑒𝑖𝑗) têm variâncias iguais (homocedásticos) e têm dis-

tribuição normal.

Essas pressuposições teóricas possibilitam a aplicação de testes de hipótese e garantem a qualidade da inferência feita com os resulta-dos obtidos.

5


Na prática, se espera a validade 𝑎𝑝𝑟𝑜𝑥𝑖𝑚𝑎𝑑𝑎 dessas pressuposi-ções, uma vez que os procedimentos associados à análise são razoa-velmente robustos e pouco sensíveis a não verificação de algumas dessas pressuposições. • A aditividade dos efeitos garante que os dados observados são

combinações lineares desses efeitos, facilitando a interpretação dos resultados. A não verificação desta pressuposição causa pou-cos problemas à análise.

• A homocedasticidade ou homogeneidade das variâncias é re-quisito necessário, pois a sua não verificação pode interferir nos resultados dos testes de hipóteses e na qualidade das estimati-vas dos efeitos dos tratamentos.

6


No modelo matemático é preciso supor que as variâncias das ob-servações feitas em cada um dos 𝑎 tratamentos sejam iguais. Precisamos supor que:

𝜎12 = 𝜎2

2 = ⋯ = 𝜎𝑎2

A falta de homogeneidade das variâncias pode ocorrer de duas maneiras:

1) Heterocedasticidade irregular: ocorre quando certos trata-mentos apresentam maior variabilidade que outros.

Exemplo: Nos experimentos com inseticidas o número de inse-tos nas parcelas tratadas é menor e mais homogêneo do que nas parcelas que não recebem qualquer inseticida (testemunha).

7


2) Heterocedasticidade regular: é devida à falta de normalida-de dos dados experimentais. Nesses casos é frequente encontrar alguma relação funcional entre a média e a variância dos diver-sos tratamentos.

Se a distribuição original dos dados for conhecida, eles deverão ser transformados (utilizando alguma função matemática) de tal forma que passem a ter distribuição aproximadamente normal e as médias e as variâncias se tornem independentes.

Exemplo: O número de ocorrências de uma determinada planta invasora em certa área tem distribuição de Poisson, cuja média é igual à variância (𝜇 = 𝜎2). Neste caso, a variância aumenta com o aumento da média e a transformação raiz quadrada pode resol-ver o problema da heterocedasticidade.

8


• A normalidade dos erros não é uma pressuposição muito críti-ca porque muitos testes são robustos à fuga da normalidade.

O problema fica mais sério quando esta fuga da normalidade é acompanhada pela heterogeneidade das variâncias.

Quando for detectado algum desvio importante nas pressuposições devemos:

𝑎) Buscar uma transformação da variável original de tal forma que os novos dados atendam às pressuposições não satisfeitas.

𝑏) Utilizar uma teoria em que a(s) pressuposição(ões) não satisfei-ta(s) não seja(m) crítica(s), ou então, aplicar técnicas em que não é necessário admitir como válidas essas pressuposições, como é o caso, por exemplo, das técnicas de análise não paramétricas.

9


VERIFICAÇÃO DA NORMALIDADE DOS ERROS

Para saber se os erros experimentais têm distribuição normal de média zero e variância constante, devemos fazer uma análise dos resíduos.

Nota: Os erros experimentais não são observados, mas podem ser estimados pelos resíduos ordinários.

No caso de um delineamento inteiramente casualizado com um fa-tor de tratamento os resíduos ordinários são calculados por:

�̂�𝑖𝑗 = 𝑦𝑖𝑗 − �̂�𝑖𝑗 = 𝑦𝑖𝑗 – (�̂� + �̂�𝑖) = 𝑦𝑖𝑗 − �̅�𝑖•

em que �̅�𝑖• é a média do tratamento 𝑖.

10


Nota: Se a pressuposição de normalidade dos erros for razoável, o histograma dos resíduos deverá ter uma forma muito parecida com a da distribuição normal.

Para testar a hipótese

𝐻0: A distribuição dos erros é normal

usamos um teste de aderência, como o Teste Quiquadrado, o Teste de Shapiro-Wilk (SAS) ou o Teste de Kolmogorov-Smirnov, dentre outros, ou podemos usar dispositivos gráficos como o 𝑛𝑜𝑟𝑚𝑎𝑙-𝑝𝑙𝑜𝑡, por exemplo.

Uma análise detalhada dos resíduos utilizando um 𝑏𝑜𝑥-𝑝𝑙𝑜𝑡 tam-bém pode indicar a presença de valores atípicos ou discrepantes (𝑜𝑢𝑡𝑙𝑖𝑒𝑟𝑠).

11


Uma observação 𝑦𝑖𝑗 é considerada um valor atípico (𝑜𝑢𝑡𝑙𝑖𝑒𝑟) se o

valor absoluto do resíduo padronizado:

�̂�𝑖𝑗∗ =

�̂�𝑖𝑗

√𝑄𝑀𝑅𝑒𝑠𝑖𝑑𝑢𝑜

for maior que dois, isto é, 𝑦𝑖𝑗 é um valor atípico se |�̂�𝑖𝑗∗ | > 2.

TESTE DE HOMOGENEIDADE DAS VARIÂNCIAS

𝐻0: Os tratamentos têm variâncias iguais

𝐻𝑎: Pelo menos dois tratamentos têm variâncias diferentes

Para verificar a homocedasticidade ou homogeneidade das variân-cias podemos usar os testes de Cochran, de Hartley, de Bartlett, de Levene, dentre outros.

12


Teste de Bartlett: é bastante usado, mas tende a mascarar os re-sultados quando os dados não têm distribuição normal. Teste de Hartley ou Teste da razão máxima: é de aplicação muito simples e eficiente quando o número de tratamentos não é superior a 12 (𝑎 12) e os tratamentos têm o mesmo número de repetições. A estatística do teste é:

𝐻𝑐 = 𝑠𝑚𝑎𝑥

2

𝑠𝑚𝑖𝑛2⁄

onde 𝑠𝑚𝑎𝑥2 e 𝑠𝑚𝑖𝑛

2 correspondem, respectivamente, à maior e à me-nor das variâncias de tratamentos.

Comparamos a estatística 𝐻𝑐 com o valor crítico de 𝐻(𝑡,𝑛−1) obtido

na Tabela 8, onde 𝑛 é o número de repetições e 𝑡 é o número de tra-tamentos.

13


• Se 𝐻𝑐 > 𝐻(𝑡,𝑛−1) nós rejeitamos a hipótese de homocedasticidade

e concluímos que as variâncias dos tratamentos não são iguais.

Nota: Quando o experimento é desbalanceado (tratamentos com número de repetições diferentes) nós utilizamos o número mé-

dio de repetições, que é calculado por: 𝑛∗ = 1

𝑎 ∑ 𝑛𝑖

𝑎𝑖=1

Teste de Levene: pode ser usado mesmo quando a distribuição normal não foi aceita; é de aplicação mais trabalhosa, mas substitui com vantagens os testes anteriores, que são mais tradicionais. Para a sua aplicação devemos:

𝑖) Calcular todos os resíduos ordinários da análise de variância.

14


𝑖𝑖) Fazer a análise de variância (ANOVA) com os valores absolutos desses resíduos, usando o mesmo modelo escolhido para a aná-lise dos dados originais.

𝑖𝑖𝑖) Se o teste F usado para comparar as médias dos valores absolu-tos dos resíduos associados aos tratamentos resultar não signi-ficativo, concluímos que existe uma homogeneidade das vari-âncias (ℎ𝑜𝑚𝑜𝑐𝑒𝑑𝑎𝑠𝑡𝑖𝑐𝑖𝑑𝑎𝑑𝑒); caso contrário, concluímos que existe uma heterogeneidade das variâncias.

TRANSFORMAÇÃO DE VARIÁVEIS

Quando as variâncias dos tratamentos não são homogêneas nós po-demos contornar o problema, transformando os dados e aplicando a análise de variância aos dados transformados.

15


Geralmente essas transformações são feitas para estabilizar a va-riância, mas também podem eliminar a falta de normalidade dos dados.

Um método utilizado para obter a melhor transformação potência dos dados é a transformação Box-Cox1.

Segundo Steel & Torrie (1980) dependendo do tipo da variável ori-ginal, existem transformações adequadas que podem resolver o problema da heterocedasticidade, como por exemplo:

1 BOX GEP; COX DR. 1964. An analysis of transformations. Journal of the Royal Society 26: 211-252

16


Transformação Situação

Raiz quadrada:

𝑧 = √𝑦 + 𝜆

A variável original é uma contagem, que geralmente segue uma distribuição de Poisson. Quando ocorrem zeros, usar = 0,5 ou = 1,0.

Logarítmica:

𝑧 = 𝑙𝑛(𝑦 + 𝜆)

É constatada uma proporcionalidade entre as médi-as e os desvios padrões dos diversos tratamentos. A distribuição dos dados é assimétrica.

Angular:

𝑧 = 𝑎𝑟𝑐𝑠𝑒𝑛√𝑦 + 𝜆

A variável original refere-se a proporções, que geral-mente seguem uma distribuição binomial. A trans-formação angular será necessária quando as propor-ções forem inferiores a 0,30 ou superiores a 0,70.

17


OBSERVAÇÕES:

• Verificada a necessidade de transformação de dados, os valores originais devem ser transformados e toda a análise estatística (ANOVA, comparações múltiplas 𝑒𝑡𝑐.) deverá ser feita com os da-dos transformados.

• Se houver interesse em calcular as médias dos dados originais para apresentação em tabelas ou na construção de gráficos, elas deverão ser calculadas aplicando a operação inversa da transfor-mação às médias dos dados transformados.

Exemplo: Se utilizarmos a transformação 𝑧 = √𝑦 + 0,5, a média

da variável original (�̅�) será calculada utilizando a função inver-sa: �̅� = 𝑧̅2 − 0,5.

18


Para maiores detalhes sobre as exigências do modelo matemático usado na análise de variância, ver: MONTGOMERY, D.C. Design and analysis of experiments. New York: Wiley, 1976.

SCHEFFÉ, H. The analysis of variance. New York: Wily, 1959.

STEEL, R.G.D.; TORRIE, J.H. Principles and Procedures of Sta-tistics - A Biometrical Approach. 2 ed., Singapura: McGraw-Hill, Inc., 1980, 633p.

Leitura complementar sobre transformações:

http://soniavieira.blogspot.com/2017/02/anovatransformacao-de-variaveis.html



19


EXEMPLO (ver BANZATTO, D.A. & KRONKA, S.N.,1989). Num expe-rimento visando o controle do pulgão em uma cultura de pepino, foram utilizados os seguintes tratamentos, num delineamento intei-ramente casualizado com 6 repetições: A: Testemunha; B: Azinfós etílico; C: Supracid 40CE dose 1; D: Supracid 40CE dose 2 e E: Dia-zinon 60CE. Os dados são apresentados na Tabela 1.

Tabela 1. Número de pulgões coletados 36h após a pulverização

Trat Repetições

1 2 3 4 5 6 A 2370 1687 2592 2283 2910 3020 B 1282 1527 871 1025 825 920 C 562 321 636 317 485 842 D 173 127 132 150 129 227 E 193 71 82 62 96 44

20


Mesmo sem a verificação das pressuposições do modelo matemá-tico nós podemos realizar a análise de variância dos dados de con-tagem de pulgões (Tabela 2), mas os resultados e as conclusões po-dem estar equivocadas.

Tabela 2. ANOVA dos dados de contagem de insetos

C. Variação g.l. SQ QM F

Tratamento 4 23.145.259,47 5.786.314,87 81,79 *

Resíduo 25 1.768.643,50 70.745,74

Total 29 24.913.902,97

Comoo 𝐹𝑐𝑎𝑙𝑐 > 𝐹𝑡𝑎𝑏(4, 25) = 2,76, o teste F da ANOVA indica que pe-lo menos duas das médias dos tratamentos diferem entre si.

21


Tabela 3. Média e variância do número de pulgões, por tratamento.

Trat Média Variância

A 2477,0 233.749,60

B 1075,0 75.558,80

C 527,2 40.126,17

D 156,3 1.502,27

E 91,3 2.791,87

Problema: Note que as variâncias dos cinco tratamentos são nume-

ricamente bem diferentes (Tabela 3), diminuindo do tratamento A para o tratamento E.

⇒ Vamos verificar algumas das pressuposições do modelo.

22


1) Testar a hipótese de homocedasticidade, 𝐻0: 𝜎𝐴2 = 𝜎𝐵

2 = ⋯ = 𝜎𝐸2,

com o Teste de Hartley:


2

𝑠𝑚𝑖𝑛2 =

233749,60

1502,27 = 155,60

Da Tabela 8, para 𝑡 = 5 tratamentos e 𝑛 – 1 = 5, 𝐻𝑡𝑎𝑏(5%) = 16,3. Como 155,60 > 𝐻𝑡𝑎𝑏(5%) rejeitamos a hipótese de homocedastici-dade e concluímos ( = 5%) que as variâncias dos tratamentos não são iguais (pelo menos duas delas diferem entre si). 2) Para verificar se podemos admitir que os erros do modelo têm distribuição normal e identificar a presença de pontos atípicos, de-vemos calcular os resíduos padronizados (�̂�𝑖𝑗

∗ ) e construir gráfi-

cos para avaliar a sua distribuição.

23


Na Tabela 4 podemos perceber a existência de um possível valor atípico (repetição 2 do tratamento A). Isso quer dizer que o valor observado (1687) está muito aquém da média estimada para o tra-tamento A (2477). A manutenção deste valor na análise deve ser discutida com o pesquisador. Tabela 4. Resíduos da análise dos dados de contagem de insetos

Trat Rep 𝑦𝑖𝑗 �̂�𝑖𝑗 �̂�𝑖𝑗∗ Trat Rep 𝑦𝑖𝑗 �̂�𝑖𝑗 �̂�𝑖𝑗

∗

A 1 2370 -107,0 -0,4023 B 1 1282 207,0 0,7783

A 2 1687 -790,0 -2,9701 B 2 1527 452,0 1,6994

A 3 2592 115,0 0,4324 B 3 871 -204,0 -0,7670

A 4 2283 -194,0 -0,7294 B 4 1025 -50,0 -0,1880

A 5 2910 433,0 1,6279 B 5 825 -250,0 -0,9399

A 6 3020 543,0 2,0415 B 6 920 -155,0 -0,5828

Continua...

24


Continuação

Trat Rep 𝑦𝑖𝑗 �̂�𝑖𝑗 �̂�𝑖𝑗∗ Trat Rep 𝑦𝑖𝑗 �̂�𝑖𝑗 �̂�𝑖𝑗

∗

C 1 562 34,8 0,1310 D 1 173 16,7 0,0627

C 2 321 -206,2 -0,7751 D 2 127 -29,3 -0,1103

C 3 636 108,8 0,4092 D 3 132 -24,3 -0,0915

C 4 317 -210,2 -0,7902 D 4 150 -6,3 -0,0238

C 5 485 -42,2 -0,1585 D 5 129 -27,3 -0,1028

C 6 842 314,8 1,1837 D 6 227 70,7 0,2657

Trat Rep 𝑦𝑖𝑗 �̂�𝑖𝑗 �̂�𝑖𝑗

∗

E 1 193 101,7 0,3822

E 2 71 -20,3 -0,0765

E 3 82 -9,3 -0,0351

E 4 62 -29,3 -0,1103

E 5 96 4,7 0,0176

E 6 44 -47,3 -0,1780

25


Figura 1. Histograma dos resíduos padronizados

No histograma dos resíduos padronizados (Figura 1), pode-se per-ceber que a distribuição não é simétrica e que existe pelo menos um resíduo com valor absoluto maior que 2.

26


3) Também podemos testar a homogeneidade de variâncias através do Teste de Levene, fazendo a análise de variância (ANOVA) dos valores absolutos dos resíduos apresentados na Tabela 5.

Tabela 5. ANOVA dos valores absolutos dos resíduos


Tratamento 4 466.424,80 116.606,20 5,47

Resíduo 25 532.831,41 21.313,26

Total 29 999.256,21

Como o valor tabelado F(5%, 4; 25) = 2,76 e 𝐹𝑐𝑎𝑙𝑐 > 𝐹𝑡𝑎𝑏 nós rejeita-mos a hipótese de que as médias dos valores absolutos dos resídu-os sejam iguais, indicando uma heterogeneidade das variâncias dos tratamentos (concordando com o resultado do Teste de Hartley).

27


Usando a transformação logarítmica da variável, 𝑧𝑖𝑗 = 𝑙𝑛(𝑦𝑖𝑗) para

tentar resolver o problema de heterocedasticidade e, se possível, a não normalidade dos resíduos, obtemos:

Tabela 6. Média e variância dos dados transformados.

Tratamento Média Variância A 7,80 0,0443 B 6,95 0,0582 C 6,21 0,1495 D 5,03 0,0513 E 4,40 0,2488

Perceba na Tabela 6 que os valores das variâncias dos dados trans-formados ficaram mais próximos entre si.

28


Feita a transformação dos dados originais, aplicamos novamente o Teste de Hartley e obtemos:


2

𝑠𝑚𝑖𝑛2 =

0,2488

0,0443 = 5,62

que é menor que 𝐻𝑡𝑎𝑏(5%) = 16,3, indicando que podemos aceitar a hipótese de homogeneidade das variâncias dos tratamentos na va-riável transformada.

Nota: O teste de Levene também possibilitará concluir pela homo-geneidade de variâncias dos tratamentos (𝑉𝑒𝑟𝑖𝑓𝑖𝑞𝑢𝑒!).

29


Embora a homocedasticidade dos dados tenha sido aceita, avalian-do os resíduos padronizados da variável transformada, ainda en-contramos um candidato a valor discrepante: a primeira repetição do tratamento E.

Tabela 7. Resíduos padronizados (tratamento E) da variável transformada

Trat Rep 𝑦𝑖𝑗 𝑧𝑖𝑗 �̂�𝑖𝑗 �̂�𝑖𝑗∗

E 1 193 5.2627 0.8614 2.5920 E 2 71 4.2627 -0.1386 -0.4171 E 3 82 4.4067 0.0054 0.0163 E 4 62 4.1271 -0.2742 -0.8250 E 5 96 4.5644 0.1631 0.4906 E 6 44 3.7842 -0.6171 -1.8569

30


Pode-se perceber na Figura 2 uma boa melhora na distribuição dos resíduos, sugerindo que a hipótese de normalidade dos erros possa ser admitida para os dados transformados.

Figura 2. Histograma dos resíduos padronizados (variável

transformada)

31


Tabela 8. ANOVA dos dados transformados


Tratamento 4 45,9143 11,4786 103,93 **

Resíduo 25 2,7611 0,1104

Total 29 48,6754

𝑧�̅�𝑒𝑟𝑎𝑙 = 6,08 𝑠2 = 0,1104 C.V. = 5,46%

Da Tabela 8 temos que a hipótese de igualdade das médias dos tra-tamentos deve ser rejeitada, porque 𝐹𝑐𝑎𝑙𝑐 >𝐹𝑡𝑎𝑏(4; 25) = 2,76.

A análise estatística pode continuar comparando-se as médias dos dados transformados, por exemplo, utilizando o Teste 𝑡-Student pa-ra contrastes ortogonais ou o Teste de Tukey.

32


Teste t para contrastes ortogonais (dados transformados)

Trat A B C D E

Média 7,80 6,95 6,21 5,03 4,40 ∑ 𝑐𝑖2

𝑖 �̂�𝑖 calct

4 –1 –1 –1 –1 20 8.61 14,19 *

0 –1 1 1 –1 4 –0.11 –0,40 n.s. 0 0 1 –1 0 2 1.18 6,15 *

0 1 0 0 –1 2 2.55 13,29 *

𝐷𝑖𝑐𝑎𝑠: 𝑡𝑐𝑎𝑙𝑐 = �̂�𝑖

√𝑄𝑀𝑅𝑒𝑠𝑖𝑑𝑢𝑜

𝑛∑ 𝑐𝑖

2𝑖

𝑡𝑡𝑎𝑏(25 g.l.; 5%) = 2,06

Conclusões:

• A contagem média de pulgões nas parcelas que não receberam tratamento foi superior à média das parcelas tratadas.

33


• A contagem de pulgões nas parcelas que receberam Supracid (dose 1 ou 2) foi igual à das parcelas que receberam Azinfós ou Diazinon.

• A contagem média de pulgões nas parcelas que receberam a do-se 1 de Supracid foi superior à das parcelas que receberam a do-se 2.

• A contagem média de pulgões nas parcelas que receberam Azin-fós foi superior à das parcelas que receberam Diazinon.

34


Teste de Tukey com os dados transformados

𝑑. 𝑚. 𝑠. = 𝑞(𝑎; 𝑔𝑙𝑅𝑒𝑠; 5%)√𝑄𝑀𝑅𝑒𝑠𝑖𝑑𝑢𝑜

𝑛 = 4,17√(

0,1104

6) = 0,57

Tratamento Média

A 7,80 𝑎 B 6,95 𝑏 C 6,21 𝑐 D 5,03 𝑑 E 4,40 𝑒

Médias seguidas por letras distintas diferem entre si pelo teste de Tukey (5%)

35


Conclusão: Todas as médias dos tratamentos (dados transforma-dos) diferiram entre si, quando comparadas aos pares, pelo teste de Tukey, ou seja: 𝜇𝐴 > 𝜇𝐵 > 𝜇𝐶 > 𝜇𝐷 > 𝜇𝐸 .

As médias dos dados originais (�̅�𝑖) devem ser calculadas utilizando a função inversa do logaritmo: �̅�𝑖 = 𝑒𝑥𝑝(𝑧�̅�) = 𝑒 �̅�𝑖

Tratamento Média A 2440,60 𝑎 B 1043,15 𝑏 C 497,70 𝑐 D 152,93 𝑑 E 81,45 𝑒

Médias seguidas por letras distintas diferem entre si pelo teste de Tukey (5%)

36


Note que os valores encontrados de �̅�𝑖 são ligeiramente inferiores às médias aritméticas dos tratamentos calculadas com os dados ori-ginais apresentados na Tabela 3. Os softwares estatísticos 𝑆𝐴𝑆, 𝑀𝑖𝑛𝑖𝑡𝑎𝑏, 𝑆𝑡𝑎𝑡𝑖𝑠𝑡𝑖𝑐𝑎, 𝑅, dentre outros, disponibilizam diversas ferramentas para serem usadas na verifi-cação das pressuposições de modelos de análise de variância, dos mais simples aos mais complexos.

zab0229 estatÍstica experimental

Documents