APLICAÇÕES DOS MODELOS LINEARES MISTOS NA PESQUISA

AGROPECUÁRIA

ÉRICA MIRRE PEREIRA

UNIVERSIDADE ESTADUAL DO NORTE FLUMINENSE DARCY RIBEIRO

CAMPOS DOS GOYTACAZES - RJ

JUNHO – 2011

APLICAÇÕES DOS MODELOS LINEARES MISTOS NA PESQUISA

AGROPECUÁRIA

ÉRICA MIRRE PEREIRA

Dissertação apresentada ao Centro de Ciências e Tecnologias Agropecuárias da Universidade Estadual do Norte Fluminense Darcy Ribeiro, como parte das exigências para obtenção do título de Mestre em Produção Vegetal.

Orientador: Profº JOSÉ TARCISIO LIMA THIÉBAUT

UNIVERSIDADE ESTADUAL DO NORTE FLUMINENSE DARCY RIBEIRO

CAMPOS DOS GOYTACAZES - RJ

JUNHO – 2011

FICHA CATALOGRÁFICA

Preparada pela Biblioteca do CCTA / UENF 069/2011

Pereira, Érica Mirre

Aplicações dos modelos lineares mistos na pesquisa agropecuária / Érica Mirre Pereira. – 2011. 91 f.

Orientador: José Tarcisio Lima Thiébaut Dissertação (Mestrado em Produção Vegetal) – Universidade Estadual do Norte Fluminense Darcy Ribeiro, Centro de Ciências e Tecnologias Agropecuárias. Campos dos Goytacazes, RJ, 2011. Bibliografia: f. 87 – 91.

1. Estrutura de modelos lineares mistos 2. Componente de variância 3. Delineamento inteiramente casualizado 4. Delineamento bloco casualizado 5. Programas SAS I. Universidade Estadual do Norte Fluminense Darcy Ribeiro. Centro de Ciências e Tecnologias Agropecuárias. II. Título.

CDD – 630.724

APLICAÇÕES DOS MODELOS LINEARES MISTOS NA PESQUISA

AGROPECUÁRIA

ÉRICA MIRRE PEREIRA

“Dissertação apresentada ao Centro de Ciências e Tecnologias Agropecuárias da Universidade Estadual do Norte Fluminense Darcy Ribeiro, como parte das exigências para obtenção do título de Mestre em Produção Vegetal.”

Aprovada em 28 de Junho de 2011.

Comissão examinadora:

Prof. Alessandro Coutinho Ramos (Ph.D., Produção Vegetal) – (UVV – ES)

Prof. Geraldo de Amaral Gravina (D.Sc., Fitotecnia) - UENF

Prof. Rogério Figueiredo Daher (D.Sc., Produção Vegetal) - UENF

Prof. José Tarcísio Lima Thiébaut ( D.S.c., Produção Animal) – UENF

ORIENTADOR

ii

Aos meus pais, Erasmo(in memorim) e Maria da Conceição;

Aos meus irmãos Eliton e Mariana

Ao meu sobrinho João Vitor e ao meu Amor ;

Dedico.

iii

AGRADECIMENTO

A Deus, que me colocou onde estou e me faz vencer qualquer obstáculos da

Vida.

A Nossa Senhora Aparecida que estar sempre me cobrindo com seu manto

SAGRADO.

À Universidade Estadual do Norte Fluminense Darcy Ribeiro (UENF) e ao Centro

de Ciências e Tecnologias Agropecuária (CCTA), pela oportunidade de realizar ao

curso de Pós Graduação em Produção Vegetal e por tida a infra-estrutura

oferecida.

Ao Conselho Nacional de Desenvolvimento Científico e Tecnológico (CNPq), pela

concessão da bolsa de estudos.

Ao técnico Júlio Meirelhes (LEAG), pela atenção, força, serenidade, amizade e

disponibilidade de me ajudar a qualquer hora.

Ao profº Gravina por toda orientação, confiança e amizade.

Ao profº Thiébaut, pelo aprendizado.

iv

A minha FAMILIA, a qual sempre tem o apoio, incentivo, amor e compreensão em todos os momentos, principalmente na dificuldade que tive durante todo o curso.

A minha Amada Mãe, que sempre me ajuda em tudo.

Ao meu cunhado Kaio e a minha irmã Mariana que abriram os braços e me acolheram em sua residência.

Aos meus tios Décio e Eliane que me acolheram em sua residência e pelas caronas.

Ao Lenilton, por todo carinho, amor, compreensão, ajuda, confiança e apoio durante esses meses finais.

Ao Hildefonso e Eliana de Mimoso pela agradável amizade e convívio durante as disciplinas.

Ao Teólogo e Parapsicólogo PE. Gilberto Roberto Silva pela ajuda e orientação prestada na minha Vida.

v

SUMÁRIO

RESUMO............................................................................................................ vi

ABSTRACTIIIIIIIIIIIIIIIIIIIIIIIIIIIII. viii

1. INTRODUÇÃO................................................................................................ 01

2. REVISÃO BIBLIOGRÁFICA....... ................................................................... 03

2.1 ESTIMADORES REML.................................................................................. 04

2.2 Heterogeneidade da Variância............................................................... 15

2.3 Conexidade de dados............................................................................. 17

3. MATERIAL E MÉTODOS.............................................................................. 20

3.1 Estruturação dos Modelos Lineares Mistos............................................ 20

3.2 Obtenção Derivação das Equações dos Modelos Mistos...................... 26

3.3 Componente de Variância...................................................................... 27

4.0 RESULTADOS E DISCUSSÃO................................................................... 47

vi

4.1 Fatorial no Delineamento Inteiramente Casualizado – 2 Fatores........... 47

4.2 Fatorial no Delineamento Inteiramente Casualizado – 3 Fatores........... 52

4.3 Experimentos Aninhados e Fatorial – Aninhado..................................... 58

4.3.1 Experimento com 1 Fator Aninhado.............................................. 58

4.3.2 Experimento Fatorial Aninhado...................................................... 60

4.4 Parcela Sub-Dividida (SPLIT-PLOT)...................................................... 64

4.5 Programas Genes................................................................................... 69

4.5.1 Delineamento Inteiramente Casualizado....................................... 69

4.5.2 Delineamento Em Blocos Casualizados Completos...................... 69

4.5.3 Esquema Fatorial Completo Em Ambos Delineamentos

Mencionados Anteriormente, Quando Os Dados Estão Balanceados..............

70

4.5.4 Esquema Em Parcela Sub-Divididas Em Ambos Os Delineamentos

Mencionados Anteriormente, Quando Os Dados Estão

Balanceados.......................................................................................................

70

4.6 Programa SAS......................................................................................... 72

4.6.1 Fatorial Bloco Casualizados I......................................................... 73

4.6.2 Fatorial Bloco Casualizados II........................................................ 77

4.6.3 Fatorial Bloco Casualizados III....................................................... 81

5. RESUMO E CONCLUSÃO.............................................................................. 86

REFERÊNCIAS BIBLIOGRÁFICAS..................................................................... 87

vii

RESUMO

Pereira, Érica Mirre Pereira; M.Sc.; Universidade Estadual do Norte Fluminense

Darcy Ribeiro. Junho, 2011. APLICAÇÕES DOS MODELOS LINEARES MISTOS

NA PESQUISA AGROPECUÁRIA. Orientador: José Tarcísio Lima Thiébaut.

Coorientador: Geraldo de Amaral Gravina.

Os modelos mistos são tradicionalmente estudados com o uso do procedimento

da análise de variância, quando os componentes de variância são estimados pela

solução de um sistema linear de equações. Para a análise dos modelos lineares

mistos, alguns pontos são relevantes: a predição dos efeitos aleatórios, testes e

estimação dos componentes de variância, estimação e testes de hipóteses para

os efeitos definidos como fixos.

Na analise dos modelos lineares mistos desbalanceados, o problema não é tão

simples e o uso do pacote estatístico SAS (Statistical Analysis System) pode ser

utilizado, demandando um volume maior de conhecimento teórico, em razão da

opção pela estrutura da matriz de variância e covariância e da escolha do método

de estimação dos componentes. No procedimento MIXED estão disponíveis os

métodos ML Maximum Likelihood, REML (Restricted Maximum Likelihood) e

MIVQUE (Minimum Variance Quadratic Unbiared), descritos respectivamente por

(Hartley & Rao, 1967), (Rao, 1971) e (Patterson & Thompson, 1971). Para uso

otimizado do SAS e necessário também que se defina o tipo de soma de

quadrados mais adequado: ss1, ss2, ss3 ou ss4, segundo o SAS. Por suas

propriedades, o método REML é o mais indicado e, para dados com

desbalanceamento, a soma de quadrados do tipo ss3 deve ser escolhida. Quando

viii

dos dados estão balanceados, os quatro tipos de soma de quadrados apresentam

os mesmos resultados.

ix

ABSTRACT

The mixed models have been traditionally studied by means of variance analysis

in which variance components are estimated by a linear model solution. For mixed

model analysis some points are relevant: the prediction of random effects, tests

upon and estimation of variance components, and estimation and tests of

hypothesis upon fixed effects. In the analysis of unbalanced linear mixed models

the problem is not that simple and the use of the SAS program (SAS System Inc.,

Cary, NC, USA) is preferable, which demand a proper understanding of the

theoretical background because of a proper modeling of the structure of the

variance-covariance matrix and the choice of the estimation method are required.

In the MIXED procedure are available the ML (Maximum Likelihood), REML

(Restricted Maximum Likelihood), and MIVQUE (Minimum Variance Quadratic

Unbiased) as described respectively by(Hartley & Rao, 1967), (Rao, 1971), and

(Patterson & Thompson, 1971). For an optimized use of SAS it is rather

necessary to define the appropriate type of sum of squares: SS1, SS2, SS3, or

SS4. Because of its properties the use of REML is recommended and for

unbalanced data the SS3 type is the appropriate choice. With balanced data the

four types of sum of squares yield the same results.

1

1. INTRODUÇÃO

Ao se estabelecer um modelo estatístico objetiva-se buscar a explicação de

uma ou mais variáveis dependentes por meio de efeitos fixos e ou aleatórios.

Desta forma, o êxito da modelagem está diretamente ligado às estruturas de

variâncias e covariâncias das variáveis aleatórias que, nos modelos lineares

mistos, vão ser explicadas por fatores aleatórios, após a eliminação dos efeitos

fixos e da caracterização dos efeitos residuais.

Os modelos lineares, nos parâmetros, possuem pelo menos um efeito

aleatório designado por erro experimental. Se o modelo apresenta todos os

demais efeitos fixos ele é denominado de modelo linear fixo. Quando o modelo

linear apresenta, além do erro experimental, outros efeitos aleatórios em comum

com outros efeitos fixos, além da média, e denominado de modelo misto.

Nos modelos lineares mistos, a análise de variância apresenta algumas

peculiaridades que devem ser mencionadas. A composição das esperanças

matemáticas dos quadrados médios permite a estruturação correta dos testes de

hipóteses e, caso o interesse seja a estimação dos componentes de variância, os

métodos foram amplamente estabelecidos por (Henderson, 1953), (Rao, 1970),

(Hartley & Rao, 1967) e (Pattersson & Thompson, 1971).

Em 1953, Henderson apresentou os métodos I, II e III de estimação dos

componentes de variância. O método da máxima verossimilhança foi apresentado

por (Hartley & Rao, 1967). O método de Estimação Quadrática Não–Viesada de

Norma Mínima (MINQUE) foi apresentado por (Rao,1970 e 1971a). Em 1971, Rao

2

apresentou o Método de Estimação Quadrática Não-Viesada de Variância Mínima

(MIVQUE). Também em 1971, Pattersom & Thompson apresentaram o método

da Máxima Verossimilhança Restrita (REML) de estimação dos componentes de

Variância.

Os modelos lineares fixos foram amplamente estudados, em níveis de

complexidade diversos, por (Searle, 1971), (Rao, 1972), (Gray Bill & NETER,

1976), dentre outros. Existe um grande número de livros, abordando aspectos

teóricos, aplicados a conjunto de dados balanceados e desbalanceados.

Os estudos dos modelos lineares mistos foram implementados de forma

intensiva após trabalhos de (Searle, 1982), (Wolfinger, 1993) e (Littel at. al.,1996).

Com o desenvolvimento do PROC MIXED do SAS (Littel at.al., 1996) a

metodologia aplicada aos modelos lineares mistos tornou-se mais usual e segura.

Os modelos lineares de melhoramento animal e vegetal, principalmente os

modelos de animais, onde há uma estruturação de parentesco, possibilitam a

predição de valores genéticos (efeitos aleatórios), por meios dos BLUP’s.

Os modelos lineares mistos possibilitam a predição de valores genéticos

aleatórios, por meio dos BLUP’s (BEST LINEAR UNBIASED PREDICTION), na

presença de efeitos fixos. O procedimento é de importância relevante,

possibilitando a seleção de novos indivíduos para a composição de rebanhos,

considerando os dados de pais e avós, em situações onde o desbalanceamento é

a regra que torna o problema muito mais complexo.

3

2. REVISÃO BIBLIOGRÁFICA

(Smith & Graser,1986) propuseram a eliminação de construir um conjunto

de sub-rotinas, utilizando o conhecimento teórico disponível, e formataram o

programa DFREML (Derivate Free Restricted Maximum Likelihood) para a

estimação de componentes de variâncias em modelos lineares mistos.

(Boldman & Van Vleck, 1991), adaptando o algoritmo livre de derivadas,

proposto por (Smith & Graser, 1986), desenvolveram novo algoritmo acoplando o

método de fatoração de Cholesky ao conjunto de matrizes restritas SPARSPAK,

desenvolvido por (George et al., 1980), para a obtenção da matriz de

(co)variância de única ou múltiplas características e escreveram o conjunto de

sub-rotinas que compõem o programa MTDFREML (Multiple Trait Derivate Free

Restricted Maximum Likelihood).

Com o objetivo de reduzir o tempo de computação de dados e gerar

programas mais eficientes, (Meyer, 1993) incorporou ao programa DFREML a

fatoração de Cholesky e o conjunto de sub-rotinas SPARSPAK, para a

operacionalização de matrizes esparsas e, conseqüentemente, da matriz dos

coeficientes ou matriz C.

Outros métodos de estimação dos componentes de (co) variâncias, com

diferentes graus de viés e invariância à translação, segundo (Verneque, 1994),

são: o métodos dos estimadores não-viesados de norma mínima MINQUE

(Minimum Norm Quadratic Unbiased Estimation), desenvolvido por (RAO, 1971a),

o método da estimação não-viesada de mínima variância quadrática MIVQUE

4

(Minimum Variance Quadratic Unbiased Estimaton), desenvolvido por (RAO,

1971a, 1971b), o método da máxima verossimilhança ML (Maximum Likelihood),

desenvolvido por (Hatley & RAO, 1967), o método da falsa esperança PEM

(Pseudo Expectation Method), desenvolvido por (Schaeffer, 1986), o método R

(1994) descrito por (Golden et al., 1994), e o método da estimação de variâncias

por meio das verossimilhanças integradas, com base na estatísitica Bayesiana,

VEIL (Variance Estimation Integrated Likelihood), desenvolvido por (Gianola &

Fouleey, 1990).

A superioridade no emprego dos preditores BLUP em seleção massal foi

verificada por (Kuhlers & Kennedy, 1992), que não sofrem os efeitos das

amplitudes de variação nos efeitos do ambiente em grupos contemporâneos.

O mesmo BLUP foi, também, observado por (Quinton et AL., 1992). Entretanto,

para valores baixos de endogamia por geração, a seleção massal foi superior.

Assim os autores concluíram que os programas de melhoramento que otimizam

ganhos em curtos espaços de tempos, com procedimentos que podem gerar

elevada endogamia, podem não ser viáveis a longo prazo.

(Kuhlers & Kennedy, 1982) concluirão pela superioridade do descarte seletivo,

com redução do intervalo de gerações, quando associado ao método BLUP.

(Sorensen, 1988) concluiu que o método BLUP fornece informações suficientes

para comparar indivíduos de gerações diferentes, apesar de apresentar

tendências à subestimação dos valores genéticos em animais novos.

2.1 ESTIMADORES REML

Segundo (Searle, 1982); (Searle et al., 1992); (Schaeffer, 1978) e (Patterson &

Thompson, 1971), considerando o modelo linear misto para uma característica:

Y = X b +Z g + e ,em que:

y= vetor de dimensão (n x 1) de observações medidas em n animais,

X= matriz de dimensão (n x p) ou de incidência de p efeitos fixos,

b= vetor coluna de dimensão (p x 1) ou de parâmetros desconhecidos de efeitos

fixos,

5

Z= matriz de dimensão (n x n) ou de incidência de valores genéticos, matriz

diagonal com 1 ou 0 na diagonal principal, indicando se a característica y foi

medida ou não no animal,

g= vetor de dimensões (n x 1) de Valores Genéticos

e= vetor de dimensão (n x 1) de resíduos

As pressuposições da distribuição conjunta dos vetores (y, g, e) são

descritas como:

+

RR

GGZ

RZGRZGZxb

N

e

g

y

φφ

φφ ´,~

'

, em que:

G= A x Go R= I x Ro

A= matriz do número do coeficiente de parentesco entre os indivíduos e de

dimensões (n x n),

I= matriz Identidade de ordem n,

Go= matriz de variância genética aditiva.

Ro= matriz de variância residual.

n= número de animais da amostra.

Se q característica múltiplas são consideradas, as matrizes Ro e Go serão

simétricas e de ordem q e denominadas respectivamente de variâncias e

(co)variâncias genéticas aditivas e variâncias e (co)variâncias residuais das q

características múltiplas. O objetivo, em qualquer situação, é estimar Ro e Go.

Quando os vetores y, g e têm distribuição conjunta normal multivariada, os

vetores b e g são estimados e preditos, respectivamente, por:

]yR´Z)GZR´Z(Z´XRyR´X[*

]X´ZR)GZZR(ZR´XXR´X[b11111

1111110

−−−−−

−−−−−−−

+−

+−=

)(´)´(ˆ 01111 XbyRZGZRZg −+= −−−− , em que:

6

0RIR

GAG o

⊗=

⊗=

As matrizes já definidas anteriormente e ⊗ = operador do produto direto

das matrizes.

Para q características múltiplas a função densidade de probabilidade do

vetor y é:

[ ])()´)´((5,0

5,02/

1

´)2(

1)( XbyRZGZXby

nqe

RZGZyf −+−− −

+=

π

A transformação logaritmo Neperiano de f(y) é dada por:

LN [f(y)] = (-0,5 n q) LN (2 π) –0,5 LN|ZGZ´+R|- 0,5 [y´(ZGZ´+ R)-1y – 2y´ (ZGZ´+

R)-1 Xb + b´X´(ZGZ´+ R)-1 Xb]

A transformação acima pode ser desdobrada em duas parcelas: LN[f(y)]´

e LN[f(y)]´´ denominadas, respectivamente, por logaritmo neperiano da função

densidade probabilidade dos contrastes ortogonais entre os efeitos fixos e

logaritmo neperiano da função densidade probabilidade dos contrastes ortogonais

entre os efeitos aleatórios.

LN [f(y)]´= -0,5 p[x] LN(2π) - 0,5 LN[X´(ZGZ´+ R)-1X] – 0,5 {y´(ZGZ´+ R)-1

X[X´(ZGZ´+ R)-1X]IC X´(ZGZ´+ R)-1 y - 2y´(ZGZ´+ R)-1X [X´(ZGZ´+ R)-1X]IC

X´(ZGZ´+ R)-1Xb + b´X´(ZGZ´+ R)-1X [X´(ZGZ´+ R)-1 X]ICX´(ZGZ´+ R)-1Xb}

LN [f(y)]´´= -0,5 p {k´[k (ZGZ´+ R)k´] –1K} LN (2π) – 0,5 LN|K (ZGZ´+ R)K´| – 0,5

{y´K´[K(ZGZ´+ R) k´]-1 Ky}, em que:

LN [f(y)]´= logaritmo neperiano da função densidade probabilidade dos contrastes

ortogonais entre os efeitos fixos e, portanto, constante e livre de derivação por

não influir nos componentes;

7

LN [f(y)]´´= logaritmo neperiano da função densidade probabilidade dos contrastes

ortogonais entre os efeitos aleatórios;

p= indicação de posto da matriz;

K= é a matriz quadrada dos contrastes ortogonais entre os efeitos aleatórios;

Para a estimação dos componentes de (Co) variância, apenas a parcela

LN[p(y)]´´ fornecerá as derivadas em relação aos elementos das matrizes Ro e Go

e no ponto extremo da função de verossimilhança, todas as derivadas serão

identicamente nulas.

φσ

≡+

+++−=∂

∂

−

−−

KyKRZGZKKKR

KRZGZKKyKRRZGZKKtryfLN

i

i

ei

1

112

´])´(´[

´])´(´[´5,0}])´(´[{5,0)]´´([

para i=[1,q]

φσσ

≡+

+++−=∂∂

∂

−

−−

KyKRZGZKKKR

KRZGZKKyKRKRZGZKKtryfLN

ii

ii

eiei

1´

1´

1

´

´])´(´[

´])´(´[´5,0}´])´(´[{5,0)]´´([

para ´ií ≠ e todo i=[1,q]

φσ

≡+

+++−=∂

∂

−

−−

KyKRZGZKKKG

KRZGZKKyKGRZGZKKtryfLN

i

i

gi

1

11

2

´])´(´[

´])´(´[´5,0}])´(´[{5,0)]´´([

para i=[1,q]

φσσ

=+

+++−=∂∂

∂

−

−−

KyKRZGZKKKG

KRZGZKKyKGKRZGZKKtryfLN

ii

ii

gigi

1´

1´

1

´

´])´(´[

´])´(´[´5,0}´])´(´[{5,0)]´´([

para ´ií ≠ e todo i=[1,q] , em que:

iii QZR ⊗=

´´ iiiíii QZR ⊗=

iiii QZZG ⊗Α= )( ´

8

´´´ )( iiiiii QZZG ⊗Α=

Fazendo as simplificações nas )( qCp +22 derivadas parciais e sabendo que

PKKRZGZKK =+ −1´])´(´[ é o projetor ortogonal da parte aleatória das

observações no espaço coluna da matriz X:

0XbyPy −=

PyPRyPRtr ii ´)( =

PyPRyPRtr iiii ´´ ´)( =

PyPGyPGtr ii ´)( =

PyPGyPGtr iiii ´´ ´)( =

em que:

Zi= matriz de incidência (n x n) da característica i = [1,q];

Qi= matriz (q x q) que contém 1 na posição (i,i) e 0 nas demais posições;

Zii´= matriz de incidência simultânea (n x n) das características i e i´;

Qii´= matriz (q x q) que contém 1 nas posições simétricas de i e i´; 0 nas

demais posições;

Outra forma da matriz P é:

P= (ZGZ´+ R)-1 - (ZGZ´+ R)-1X [X´(ZGZ´+ R)-1X]icX´(ZGZ´+ R)-1

P (ZGZ´+ R)P = P

Fazendo ZGZ´+ R) = V, teremos:

PVP = [V-1 - V-1X(X´V-1X)ICX´V-1´] V [V-1- V-1X(X´V-1X)ICX´V-1

PVP=V-1- V-1X(X´V-1X)ICX´V-1-V-1X(X´V-1X)ICX´V-1+V-1X (X´V-1X)ICX´V-1X

*(X´V-1X)ICX´V-1

Sendo (X´V-1X) matriz simétrica, a escolha apropriada da inversa

generalizada nos levará à igualdade:

(X´V-1X)IC = (X´V-1X)IC (X´V-1X) (X´V-1X)IC

PVP=V-1- V-1X (X´V-1X)ICX´V-1

9

PVP= P , teremos:

tr (PRi)= tr [P(ZGZ´+ R)PRi]

tr (PRii´)= tr [P(ZGZ´+ R)PRii´]

tr (PGi)= tr [P(ZGZ´+ R)PGi]

tr (PGii´)= tr [P(ZGZ´+ R)PGii´]

para todo ´ií ≠ e i=[1,q].

Fatorando os seguintes membros das )( qCp +22 equações acima

teremos:

setPRtr ii

´)( =

setPRtr iiii

´´´ )( =

sgtPGtr ii

´)( =

sgtPGtr iiii

´´´ )( =

=

2

1

221

21

2

21

221

21

gq

gqg

gg

g

eq

eqe

ee

e

s

σ

σ

σσσ

σ

σσ

M

M

M

M

tie =

)(

)(

)(

)(

)(

)(

2

1

2

1

iqi

ii

ii

iqi

ii

ii

PGPRtr

PGPRtr

PGPRtr

PRPRtr

PRPRtr

PRPRtr

M

M

todo i = [1,q] , Rii = Ri e Gii = Gi

10

tije =

−

−

)(

)(

)()(

)(

)(

)(

)(

)1(

12

1

)1(

12

1

qij

qqij

Gij

Gij

qij

qqij

ij

ij

PRPRtr

PRPRtr

PRPRtr

PRPRtr

PRPRtr

PRPRtr

PRPRtr

PRPRtr

M

M

De forma análoga para tig e tijg.

Na forma matricial o sistema é:

Ts = v, em que:

T =

−

−

gt

gt

gt

gt

et

et

et

et

q

qq

q

qq

´

´

´´

´

´

´

´

)1(

12

1

)1(

12

1

M

M

M

v =

−

−

PyPGy

PyPGy

PyPGy

PyPGy

PyPGy

PyPRy

PyPRy

PyPRy

PyPRy

PyPRy

q

qq

q

q

qq

q

´´

´

´

´´

´

´

´

´

)1(

1

12

1

)1(

1

12

1

M

M

M

M

As soluções para o vetor s são obtidas iterativamente:

1-obter os elementos T e v, com estimativas iniciais de s;

2-Resolver o sistema e obter novas aproximadamente para s;

3-Repetir o procedimento até a obtenção da convergência.

Matricialmente a função de verossimilhança quando o vetor y tem uma

distribuição normal multivariada é dada por:

11

)]()´)[(5,0exp()2()( 15,05,0 XbyvXbyVyf N −−−= −−−π

Onde,

qnnnN +++= L21

nqN = se todos os grupos de heterogeneidade de variância tem o mesmo

tamanho.

No REML, quando um grupo de contrastes K´y , e quando φ=XK´ e K´tem

posto ( )[ ]XpN − .

)]´()´)´(´)[(5,0exp(´)2()´( 15,0)]([5,0 yKVKKyKVKKykf xpN −−−− −= σ

A transformação logaritmo neperiano de f(ký) é dada por:

( )[ ] ]´)´(´)[5,0(´)5,0()2()5,0()]([ 1 yKVKKKyVKKLNLNXpNyfLN −−−−−= π

A constante (-0,5)[N-p(X)] LN( π2 ) não interfere nos componentes de

(Co)variância e pode ser ignorado.

Searle (1971) demonstrou que:

LN |K´VK| = LN|V|+LN|X´V-1X|

)()(´´)´(´ 01´01 XbyVXbyPyyyKVKKKy −−== −−

)]()´)[(5,0(´)5,0(||)5,0()]´([ 0101 XbyVXbyXVXLNVLNyKfLN −−−−−= −−

Quando A e D são matrizes de mesma ordem e, portanto, o produto é

possível, então: |AD| = |A| |D|

|´)((||

|´|||1ZGZRIRV

RZGZV

−+=

+=

Quando R-1 ZGZ´ e idempotente:

|||´|||||

|)´(|||

|´|||||

11

11

1

GZRZGRV

GZRZGRV

GZZRIRV

−−

−−

−

+=

+=

+=

e, conseqüentemente, tem-se:

|||´||||| 11 GLNZRZGLNRLNVLN +++= −−

12

Para matrizes quadradas e não singulares:

|||||||||||||||| 111 QBDADBQADBQADABQADADQ

BA −−− +=+=+=+=

−

Se A e D são matrizes identidade:

´|´|´|´||||| BQIQBIBQIQBI +=+=+=+

se θ é uma constante ou escalar:

|||| AA mθ=θ , quando m é a ordem da matriz A.

Da mesma forma, para:

+=

−−−

−−

111

11

´´

´´

GZRZXRZ

ZRXXRXC

|)´)´(´(||´||| 11111111 XRZGZRZZRRXGZRZC −−−−−−−− +−+=

fazendo, )´)´(( 1111 −−−− −= RXXRXXRRS IC

|´||´|||

|´||´|||

111

11

XVXGZRZC

SZZGXRXC

−−−

−−

+=

+=

Como |´||||´| 111 −−− +−= GZRZLNCLNXVXLN e com as simplificações:

[ ] PyyCLNGLNRLNyKfLN ´)5,0(||)5,0()5,0(5,0)´( −−−−=

)(|| 220 oLNNILNRLN σσ ==

( )2

1

|| i

q

i

i LNgGLN σ∑=

=

|´||´||| 11 −− ++= GSZZLNXRXLNCLN

13

PyyCLNLNgLNqxpNyKfLN

GMZZLNLNXpXXLNCLN

GMZZGMZZGSZZ

LNxpXXLNXRXLN

XXLNXXLNXRXLN

i

q

i

i

xp

´)5,0(|*|)5,0()(5,0)())()(5,0()]´([

|´|)()(|´|||

)´(´´

)()(|´||´|

|]´|)([||´||´|

2

1

20

20

120

120

20

120

1

20

1

)(20

20

1

−−−−−−=

++−=

+=+=+

−=

==

∑=

−

−−−−−

−

−−−

σσ

σσ

σσσ

σ

σσ

que é o LN da parcela da função de verossimilhança, sem a constante, e que

afeta os componentes de variância.

+= − 2

01´´

´´*

σGZZXZ

ZXXXC

A matriz de (Co) variância de y é

V= 22

1

´ egi

q

i

ii IZZ σσ +∑=

E o projetor da forma quadrática Pyy´ é 1111 `)`( −−−− −= VXXVXXVVP IC

Derivando parcialmente [ ])`( ykfLN em relação a cada ),...,,( qii 212 =σ obtém –

se, segundo SEARLE (1971):

( )[ ] ( ) ( ) PPyyPtryKfLN

ig

´5,05,0`

+−=∂

∂σ

, para todo [ ]q,1i =

−=

4

2

2)(

gi

o

i

i Ciitr

qPZiZìtr

σ

σ

σ

( ) ( )[ ] ∑=

−−=q

i

XpNPtr1

(ĝi´ĝi) gi2σ

Do sistema de equações normais, obtém a solução abaixo.

14

+ −−−

−−

111

11

GZRZXRZ

ZRXXRX

``

``

g

bo

=

−

−

YRZ

yRX1

1

`

`

( )[ ]{ } *``` 111111IC

O XRZGZRZZRRXb −−−−−− +−=

( )[ ]{ }yRZGZRZZRRX 111111 ```* −−−−−− +−

( ) ( ),`` 11 yVXXVXbO −−−=

Solução múltipla obtida diretamente do sistema de equações normais, e

que coincide com a apresentada por (Schaffer, 1993).

Sendo,

( )( )yV`XXV`XXVVPy 1111 −−−−− −=

( ) ( )yVXXVXb 110 `` −−−=

Em continuidade à solução do sistema de equações normais, obtém o resultado

para os valores genéticos preditos, em que:

ĝ = ( ) ( )OXbyRZGZRZ −+ −−−− 1111 ``

Henderson, citado por (Schaeffer, 1993), apresenta a solução.

ĝị PyGiZi`= , em que:

( )01 XbyVPy −= −

Henderson demonstrou também, que a forma quadrática.

−−−= ∑ ∑

= − e

i

q

i

q

i

iiii ggyZgyXbyyPPyy 21 1

´0 ˆ´ˆ`´ˆ```σ

α

E, no ponto de máximo da função de máxi-verossimilhança, teremos:

[ ] qi/)Cii(trg´gˆ 2eiiig

2 σ+=σ

e2σ ( )( )XpNPyy −= /`

15

2.2 HETEROGENEIDADE DA VARIÂNCIA

A preocupação com os efeitos da heterogeneidade de variância, em classes de

efeitos fixos, fez com que (Lush, 1933) recomendasse a produção de animais nos

locais de uso desses animais, quando os genes desejáveis têm maior

probabilidade de se expressar. A maior expressão dos genes de interesse,

favorece a obtenção de estimadores mais acurados e precisos. Assim, variações

genéticas e ou ambientais estão relacionadas com o desempenho dos animais

(Dickerson, 1962).

(Falconer, 1952) deu início ao estudo das correlações genéticas entre as

características fenotípicas em ambientes distintos, e concluiu pela significância da

interação genótipo ambiente: o melhor genótipo em um ambiente pode não ser

tão bom em outro ambiente. (Robertson et. al., 1960) recomendam a comparação

das herdabilidades, em classes de efeitos fixos, como forma de evitar as

alterações na classificação de animais submetidos à seleção.

No melhoramento animal, a seleção de animais tem sido praticada em

determinadas condições ambientais. Em características limitadas pelo sexo, a

estimativa dos valores dos pais é obtida considerando o desempenho dos filhos e,

neste caso, é importante caracterizar o ambiente onde as progênies estão

atuando, bem como a distribuição delas nos vários ambientes. Por exemplo, a

semelhança entre filhos de um reprodutor, em um determinado rebanho, é o

reflexo tanto da covariância ambiental entre meio-irmãs, como da interação

genótipo ambiente (Meyer, 1989) e (Short et AL., 1990). A covariância ambiental

entre meio-irmãs paternas é função de fatores biológicos, de manejo e, até

mesmo estatístico, como a não remoção do efeito de rebanho, de outro fator fixo

ou de um modelo inadequado para a estimação dos valores genéticos (Meyer,

1987).

Se o efeito da interação reprodutor-rebanho for considerado no modelo

linear de avaliação genética, a avaliação de progenitores é menos acurada e

precisa em poucos rebanhos. A interação pode não afetar significativamente a

avaliação de reprodutores, com progênies em vários rebanhos, como é o caso de

reprodutores utilizados na inseminação artificial. Ignorar a interação pode

significar a super estimação da acurácia nas avaliações, principalmente, quando

16

poucos rebanhos são considerados. Quando as diferenças entre progênies de um

mesmo reprodutor não são as mesmas em diferentes rebanhos, a interação

reprodutor rebanho, pode não ser significativa se a heterogeneidade de variâncias

explicarem parte dessas diferenças.

Variâncias heterogêneas entre rebanhos e aumento da variância associados

ao aumento de médias de características produtivas importantes, têm sido

verificadas em várias oportunidades e por vários autores (Meyer, 1987), (Boldman

& Freeman, 1990), (Dong & Mad, 1990), (Stanton et. al, 1991), (Dodenhoff &

Swalve, 1998), (Torres, 1998) .

Segundo (Torres, 1998), quando a heterogeneidade de variância não é

levada em conta, embora presente, a produção das filhas de reprodutores

deverão ser ponderada pelos desvios padrão dos rebanhos que as contém. As

filhas oriundas de rebanhos com variâncias maiores influenciarão mais a

avaliação de reprodutores. Os vieses serão maiores, na seleção das mães,

quando elas tendem a expressar suas características em um único rebanho.

(Bereskin & Lush, 1965) concluíram que os resultados da avaliação de

reprodutores em rebanhos de alto nível, podem não estar de acordo com

avaliação de reprodutores, no teste de progênies, em rebanhos de baixo nível de

produção.

Mesmo que o número de dados seja insuficiente para a estimação dos

componentes de variâncias, rebanhos similares têm sidos agrupados e os

componentes têm sido obtidos dentro de cada grupo (Mirande & Van Vleck,

1985). Os estudos evidenciaram a existências de variâncias heterogêneas entre

os diferentes ambientes.

(Mohammad et. AL.,1982) estimaram os valores genéticos de reprodutores

para a produção de leite com modelos reprodutores com ou sem a interação

reprodutor-rebanho e interação reprodutor-peso ideal de novilhas. A correlação de

SPEARMAN entre os modelos com e sem interação foram significativos,

indicando que não houve alteração, também, significativa na ordenação dos

valores genéticos preditos nos vários modelos utilizados.

(Van Tassel & Berger, 1994), com dados simulados, estudaram as

conseqüências da eliminação da interação reprodutor-rebanho e da matriz de

17

parentesco na estimação dos componentes de variância em três casos distintos

de distribuição de filhas nos rebanhos. Os componentes de variância foram

estimados pelo método das estimativas quadráticas não-viesadas de variância

mínima (MIVQUE). Quando o parentesco entre os reprodutores foi eliminado, as

variâncias do efeito de reprodutor e da interação reprodutor-rebanho tenderam à

subestimação, quando os reprodutores eram mais próximos. A variância atribuída

aos reprodutores foi superestimada quando, no modelo linear, a interação

reprodutor-rebanho não foi considerada. Para os dados resultantes de

inseminação artificial, quando não foi considerada a matriz de parentesco, a

variância da interação reprodutor-rebanho foi subestimada.

O efeito da interação reprodutor-rebanho quando as variâncias entre

rebanhos eram heterogêneas, e seis diferentes combinações de

heterogeneidades de variâncias entre rebanho – ano - estação foram simuladas.

Quando a característica não é influenciada pela interação reprodutor-rebanho a

acurácia das estimativas de valores genéticos pode ser subestimada.

(Spike & Freeman, 1976) verificaram a importância da acurácia na avaliação

genética animal. Concluíram que com o aumento da acurácia definida como a

eficiência do processo de avaliação na identificação das diferenças observadas

nos fenótipos, a mudança genética esperada foi ampliada significativamente.

(Ojala et. al., 1984), trabalhando com dados simulados, avaliaram o efeito

do número de amostras nas classes rebanho-reprodutor, sobre a acurácia da

avaliação genética. Os resultados demonstraram que a acurácia das estimativas

melhora significativamente quando o número de amostras aumenta de 2 para 3

observações por classe. O aumento de número de progênies por reprodutor teve,

no entanto, maior efeito sobre acurácia.

2.3 CONEXIDADE DE DADOS

Segundo (Searle, 1971) para modelos fixos de classificação cruzada, a

conexidade entre os dados existe quando todas as funções lineares entre dois

níveis dos fatores considerados são estimáveis, ou seja, quando existem

observações em todas as combinações de níveis ou classes de fatores. Nos

18

modelos mistos, se a pressuposição de esperança dos efeitos aleatórios, dentro

de níveis dos efeitos fixos não se verifica, as comparações entre os efeitos

aleatórios em diferentes níveis dos efeitos fixos serão viesadas.

A simulação de dados tem sido usada com freqüência em estudo de

problemas de conexidade e o efeito na avaliação genética animal, nos diversos

tipos de modelos lineares. (Tong et al., 1980), (Kennedy, 1975, 1988, 1991) e

(Analla et. al., 1995) foram alguns dos grupos que trabalharam com simulação

nos problemas de conexidade dos dados experimentais.

(Foulley et al., 1987) discutiram o impacto da conexidade em relação ao tipo

de modelo, fixo ou misto, utilizado e o efeito nas propriedades de um estimador de

mérito genético, não-viesado e com quadrado médio do erro mínimo. Segundo os

autores, o problema de conexidade restringe o uso do método dos quadrados

mínimos regredidos, quando há falta de conexidade o processo iterativo é

interrompido. Quando a metodologia dos modelos mistos é convenientemente

aplicada, o sistema de equações normais sempre apresentará solução, sem levar

em conta o grau de conexidade.

(Schenkel, 1991) avaliou as vantagens do uso dos modelos mistos quando o

problema de conexidade existe. Nos modelos mistos o processo faz com que as

soluções dentro de grupos desconectados somem zero e não provoquem a

quebra do processo de convergência.

A teoria do índice de seleção só admite comparações entre animais de um

mesmo grupo contemporâneo ou que compartilham o mesmo momento

reprodutivo. O método dos quadrados mínimos permite a comparação entre

grupos contemporâneos, quando existe a conexidade dos dados.

O efeito de três tipos de falta de conexidade em um modelo linear com 2

fatores classificatórios sobre a estimação dos componentes de variância, usando

o método da estimação quadrática não-viesada de norma mínima (MINQUE). O

autor concluiu que a falta de conexidade acarreta a falta de associação dos graus

de liberdade com as várias formas quadráticas. Ainda segundo (Schenkel, 1991),

parece impróprio estimar os componentes de variância sem antes eliminar as

subclasses desconectadas. Em pequenos grupos de dados o problema é

detectado de imediato, mas, para um grande volume de dados, o problema não é

19

evidenciado e pode ser a causa de ocorrência de estimativas negativas dos

componentes de variância.

20

3. MATERIAL E MÉTODOS

Os dados que serão utilizados no presente trabalho, em razão de sua

formatação teórica e didática, serão simulados em função do modelo linear misto

estabelecido.

3.1 Estruturação dos modelos lineares mistos

Matricialmente, um modelo linear misto foi descrito por (Harville, 1977) e

por (Laird & Ware, 1982) como:

~~~~

evZXy ++= β , em que:

~

y = É um vetor das observações conhecidas, com n linhas;

X = É a matriz de incidência dos efeitos fixos, portanto conhecida, de n linhas e

(p+1) colunas;

~β = É um vetor desconhecido dos efeitos fixos, com (p+1) linhas;

Z = Matriz de incidência dos efeitos aleatórios, portanto conhecida, com n linha e

q colunas;

~v = É um vetor desconhecido dos efeitos aleatórios, com q linhas;

~e= É um vetor dos erros aleatórios, também desconhecido, com n linhas;

21

n é o número de observações da variável aleatória e dependente;

p é o número de parâmetros dos efeitos fixos.

q é o número de parâmetros dos efeitos aleatórios.

Os q efeitos aleatórios e os n erros são considerados normal e

independentemente distribuídos com média zero e matrizes de variâncias e

covariâncias dadas, respectivamente, por G e R.

Por hipóteses, as matrizes G e R são positivas definidas e não singulares

definidas com:

=

= '

~~~vvEvVarG

=

= '

~~~eeEeVarR

Assim sendo:

=

RΦ

ΦG

e

v

Var

~

~

++==

~~~evZβXVarVyVar

~

+

+

=

~~~eVarvZVarβXVarV

)('

~)(

'

~nn IeVarIZvZVarΦV

+

+=

RZGZV += '

22

A matriz V é, também por hipótese, positiva definida e não singular.

++=

~~~~evZβXEyE

( ) ( )~~~

eEvZEβXE ++

=

+

+

=

~~~eEvZEβXE

( )~

~

eEZEX v +

+= β

Φ=

vE~

e ( ) Φ=~eE

~~

βXyE =

Portanto, desta forma, o vetor ~

y é aleatório, com distribuição normal de

média ~βX e variância igual a (Z G Z’ + R).

+RZGZXNy ',~

~~

β

Assumindo que os efeitos aleatórios iv , com =i 1, 2,..., q e ~e tem

distribuição normal com média zero e matriz de variâncias e covariâncias ( )ni I2σ ,

para =i 1,2, ..., q e ( )ni I2σ :

( )nei

q

i

ii IzzV 22

1

' σσ += ∑= ou

2

0

'i

q

i

ii zzV σ∑=

=, quando

22eo σσ = e

Izz eo ='

VXNy ,~

~~

β

23

Para iniciar a formatação das matrizes de um modelo misto, vamos supor

inicialmente um delineamento em blocos casualizado com tratamento fixo e o

efeito de bloco aleatório, segundo o quadro teórico de dados dado abaixo.

yyyy

yyyy

yyyy

BLOCO

TRATAMENTO

43332313

42322212

41312111

3

2

1

4321

Modelo linear: ijjiij ebtmy +++=

Matricialmente: ~~~~

evZXy ++= β

=

y

y

y

y

y

y

y

y

y

y

y

y

y

43

42

41

33

32

31

23

22

21

13

12

11

~

=

10001

10001

10001

01001

01001

01001

00101

00101

00101

00011

00011

00011

X

=

t

t

t

t

m

4

3

2

1

β

=

100

010

001

100

010

001

100

010

001

100

010

001

Z

=

b

b

bv

3

2

1

~

=

e

e

e

e

e

e

e

e

e

e

e

e

e

43

42

41

33

32

31

23

22

21

13

12

11

~

24

Um outro exemplo, de complexidade maior, vamos supor 3 formatação de adubo

e 4 genótipos, segundo um esquema fatorial 3*4, no delineamento inteiramente

casualizado com 2 repetições.

Modelo linear:

efggfmy ijkijjiijk

++++=

Em que: formulação de adubo é fixo e genótipo é aleatório.Matricialmente,

teremos: ~~~~

evZXy ++= β

i=1,2,3 j=1,2,3,4 k=1,2

Considerando o quadro teórico de dados, as matrizes serão dadas por:

yyyyyyyyyyyy

yyyyyyyyyyyy

G

FR

342332322312242232222212142132122112

341331321311241231221211141131121111

432143214321

321

=

1001

1001

1001

1001

1001

1001

1001

1001

0101

0101

0101

0101

0101

0101

0101

0101

0011

0011

0011

0011

0011

0011

0011

0011

X

=

3

2

1

~

f

f

f

m

β

=

e

e

e

e

e

e

e

e

e

e

e

e

e

e

e

e

e

e

e

e

e

e

e

e

e

342

341

332

331

322

321

312

311

242

241

232

231

222

221

212

211

142

141

132

131

122

121

112

111

~

=

y

y

y

y

y

y

y

y

y

y

y

y

y

y

y

y

y

y

y

y

y

y

y

y

y

342

341

332

331

322

321

312

311

242

241

232

231

222

221

212

211

142

141

132

131

122

121

112

111

~

25

A interação entre um efeito fixo e um efeito aleatório é, também, um efeito

aleatório, desta forma teremos:

No contexto de modelo misto, as diferenças possuem componentes fixos e

aleatórios.

=

Φ

1000000000001000

1000000000001000

100000000000100

100000000000100

10000000000010

10000000000010

1000000000001

1000000000001

100000001000

100000001000

10000000100

10000000100

1000000010

1000000010

100000001

100000001

10001000

10001000

1000100

1000100

100010

100010

10001

10001

Z

=

fg

fg

fg

fg

fg

fg

fg

fg

fg

fg

fg

fg

g

g

g

g

v

34

33

32

31

24

23

22

21

14

13

12

11

4

3

2

1

~

26

3.2 Obtenção derivação das equações dos modelos mistos

A obtenção do sistema de equações normais dos modelos lineares mistos

pode ser feita com a minimização da soma de quadrado dos erros ou com a

maximização da função densidade de probabilidade conjunta dos vetores ~

y e ~v .

Admitindo a distribuição normal do vetor ~

y , a função densidade de

probabilidade

~

yg é dada por:

( )( )

eXyRZGZXy

n

RZGZ

yg

−+

−− −

+

=

~~

1'

~~'

2

1

21

2~ '2

1 ββ

π

Também o vetor ~v tem distribuição normal com função densidade de

probabilidade:

( )

Φ−−Φ−−

=

~~

1'

~~2

1

21

22

1

~

vGv

e

Gn

π

vg

A função densidade de probabilidade de conjunta dos vetores ~

y e ~v , dada por:

=

~~, vyg *

~~

vyg

~vg

27

3.3 Componente de variância Quando X é uma variável aleatória contínua e dp é a sua diferencial de

probabilidade, a esperança matemática de X, representada por :

∫∞

∞−= dpx)X(E , em que :

∫∞

∞−= 1dp

As propriedades da esperança matemática são:

1) Esperança matemática da constante c

∫ ∫∞

∞−

∞

∞−=== cdpcdpc)c(E

2) Esperança matemática do produto cX.

)X(cEdpXcdpcX)cX(E ∫∫∞

∞−

∞

∞−===

3) Se X e Y são duas variáveis aleatórias contínuas:

)Y(E)X(EdpYdpXdp)YX()YX(E +=+=+=+ ∫ ∫∫∞

∞−

∞

∞−

∞

∞−

4) Se X e Y são independentes:

)Y(E).X(EdpYdpXdpXY)XY(E ∫ ∫ ∫ ∫∞

∞−

∞

∞−

∞

∞−

∞

∞−=⋅==

A )X(E é o que denominamos de primeiro momento da variável aleatória contínua

X em relação à origem. Então, o n-ésimo momento de X em relação à origem é

dado por:

∫∞

∞−= dpX)X(E nn

, para n = 0,1,2, ...

O primeiro momento em relação à origem é a média da distribuição de X.

xdpX)X(E µ∫∞

∞−==

28

[ ][ ]

)X(Vc)cX(V

)X(E)X(Ec)cX(V

)cX(E)cX(E)cX(V

2

222

22

=

−=

−=

Com base nas definições dos momentos em relação à origem, estabeleceremos

os momentos em relação à média ou em relação à esperança da variável

aleatória contínua X. O n-ésimo momento da variável aleatória contínua X em

relação à )X(E é dado por:

[ ] [ ] dp)X(EXn)X(EXEn

∫∞

∞−−=−

O segundo momento da variável aleatória contínua X, denominado de Variância

de X, é dado por:

[ ] [ ]

[ ]

[ ]2222

22

222

22

)X(E)X(Ex)X(E

dpxXdpx2dpX

dp)X(E)X(XE2X

dp)X(EX)X(EXE

−=−=

+−=

+−=

−=−

µ∫ ∫ µ∫ µ

∫

∫

∞

∞−

∞

∞−

∞

∞−

∞

∞−

∞

∞−

A covariância entre duas variáveis aleatórias contínuas X e Y é dada por:

Em função da quarta propriedade da esperança matemática de X, se X e Y são

linearmente independentes:

)Y(E).X(E)XY(E = , então:

, para X e Y linearmente independentes.

Com as definições dos momentos em relação à média da distribuição de X,

obtem-se as propriedades da ).X(V

1)

)YX(Cov

)Y(E).X(E)XY(Cov

)Y(E)X(E)XY(E

)Y(E)X(E)X(E)Y(E)Y(E)X(E)XY(E

)}Y(E).X(E)X(YE)Y(XE)XY{(E

)]}Y(EY)].[(X(EX{[(E

+=

−=

+−−=

+−−=

−−=

)YX(Cov

)YX(Cov

)YX(Cov)XY(E)YX(Cov

0)YX(Cov =

29

Quando c é uma constante.

2)

De forma análoga, obteremos:

)XY(abCov2)Y(Vb)X(Va)byax(V

)XY(Cov2)Y(V)X(V)YX(V22 ++=+

−+=−

, quando a e b são duas constantes diferentes de zero. O produto algébrico ab

deverá ser sempre considerado.

A variância de uma função linear da variável contínua será então estabelecida

como:

)XX(Covaa2...)X,X(Covaa2)X,X(Covaa2

)X(Va...)X(Va)X(Va)Xa(V)Xa...XaXa(V

K1KK1K31312121

K2K2

221

21

K

1iiiKK2211

−−

=

++++

+++==+++ ∑

Portanto, com 2Kc expressões de covariância.

Assim sendo, para o modelo estatístico do delineamento inteiramente

casualizado:

ijiij etmy ++= , em qualquer situação: m é fixo e ije é aleatório, para v...,2,1i =

e r...,2,1j = . Desta forma:

m)m(E = e 22 m)m(E =

0)e(E ij = ∴ 2ij

2ij )e(V)e(E σ==

Os erros são, para efeito de teste, normais e independentemente distribuídos com

média 0 e variância 2σ .

[ ][ ]

)XY(Cov2)Y(V)X(V)YX(V

)]}Y(EY)].[X(EX{[E2)]Y(EY[E)]X(EX[E)YX(V

)]}Y(EY[)]X(EX{[E)YX(V

)Y(E)X(EYXE)YX(V

)YX(E)YX(E)YX(V

22

2

2

++=+

−−+−+−=+

−+−=+

−−+=+

+−+=+

30

),0(NID~e 2ij σ

O modelo do delineamento inteiramente casualizado é fixo quando it é um efeito

fixo e aleatório quando it é um efeito aleatório.

Para o modelo do delineamento em blocos casualizados:

ijjiij ebtmy +++= , em qualquer situação:

m é fixo, ije é aleatório, para v...,2,1i = e r...,2,1j = .

O modelo do delineamento em blocos casualizados será considerado fixo

quando it e jb forem efeitos fixos. Então:

m)m(E = e 22 m)m(E =

0)e(E ij = e 2

ij2ij )e(V)e(E σ==

ii t)t(E = , 2i

2i t)t(E = e ∑

=

=v

1ii 0t

jj b)b(E = , 2j

2j b)b(E = e 0b

r

1jj =∑

=

O modelo do delineamento em blocos casualizados será considerado aleatório

quando além de m fixo e ije aleatório, it e jb forem ambos os efeitos aleatórios.

m)m(E = e 22 m)m(E =

0)e(E ij = e 2

ij2ij )e(V)e(E σ==

0)t(E i = , 2ti

2i )t(V)t(E σ==

0)b(E j = , 2bj

2j )b(V)b(E σ==

Quando it é fixo e jb é aleatório ou quando it é aleatório e jb é fixo o modelo é

considerado Misto.

31

Quando o experimento contém em suas parcelas um número determinado de

sub-parcelas ou amostras o modelo para o delineamento inteiramente

casualizado é, definido como: ijkijiijk eetmy +++= , em que:

it é o efeito de tratamento.

ije é o efeito residual entre ou erro experimental.

ijke é o efeito residual dentro ou erro amostral.

Quando a análise é feita considerando o total ou a média das parcelas, deixa-se

de lado uma informação importante que é a variação dentro da parcela. Com a

variação dentro da parcela o pesquisador pode efetuar o dimensionamento da

parcela que permitira dizer se o número de amostras dentro da parcela foi

suficiente ou não.

Supondo:

, teremos

Causas de Variação

G.L

Tratamento

Resíduo entre

a -1

a(b - 1) = ab - a

(Parcelas)

Resíduo dentro

(ab – 1)

ab(c-1) = abc - ab

Total abc - 1

c...2,1k

b...,2,1j

a...,2,1i

=

=

=

32

∑=

−=a

1i

22

abc

...y..iy

bc

1SQTrat

∑ ∑∑= ==

−=a

1i

a

1i

2b

1j

2 ..iybc

1.yij

c

1entresiduoReSQ

∑ ∑∑∑∑= = == =

−=a

1i

a

1i

b

1j

2b

1j

c

1k

2 .ijyc

1ijkydentrosiduoReSQ

Considerando o modelo aleatório, teremos:

m - efeito fixo: m)m(E = , 22 m)m(E =

it , ije , ijke - efeitos aleatórios.

),0(NID~t 2ti σ ),0(NID~e 2

1eij σ ),0(NID~e 22eijk σ

=)t(E i 0)e(E)e(E ijkij ==

2ti

2i )t(V)t(E σ== 2

1eij2ij )e(V)e(E σ==

22eijk

2ijk )e(V)e(E σ==

Para a dedução das esperanças de quadrados médios de Tratamento, Resíduo

entre e Resíduo dentro, consideramos os efeitos do modelo da análise não

correlacionada e, desta forma, teremos:

∑∑∑∑∑∑= = == = =

+++=

a

0i

b

0j

c

0k

2ijkiji

a

0i

b

0j

c

0k

2ijk )eetm(EyE

)produtosduplosdp()]dp(E)e(E)e(E)t(E)m(E[a

0i

b

0j

c

0k

2ijk

2ij

2i

2 =∴++++= ∑∑∑= = =

33

+++=

∑ ∑∑∑∑∑= = = ===

a

1i

a

1i

b

1j

c

1kijk

b

1jij

a

0ii

2... eectbcmabcE

abc

1

abc

yE

[ ])dp(Eabcabccabmcbaabc

1

abc

yE 2

2e21e

22t

2222222... +σ+σ+σ+=

22e

21e

2t

22... cbcabcm

abc

yE σ+σ+σ+=

De forma análoga, obtem-se:

22e

21e

2t

2

a

1i

2

..iacabcabcm

bc

yE σΙ+σ+σ+=

∑=

22e

21e

2t

2

a

1i

b

1j

2

ij

ababcabcabcmc

.y

E σ+σ+σ+=

∑∑= =

Então:

−= ∑

=

a

1i

22

..i

abc

...y

bc

yE)toSQTratamen(E

22e

21e

2t )1a()1a(c)1a(bc)toSQTratamen(E σ−+σ−+σ−=

−= ∑∑ ∑

= = =

a

1i

b

1j

a

1i

2..i.ij

bc

y

c

yEentresíduoReSQ(E

2

22e

21e )1b(a)1b(ac)entresíduoReSQ(E σ−+σ−=

−= ∑∑∑ ∑∑

= = = = =

a

1i

b

1j

c

1k

a

1i

b

1j

2

.ij2ijk c

yyE)dentrosíduoReSQ(E

22e)1c(ab)dentrosíduoReSQ(E σ−=

34

Após a divisão pelos respectivos graus de liberdade, obtem-se o sistema linear

para o cálculo dos estimadores dos componentes de variância utilizando os

quadrados médios da análise estatística do modelo.

22e)dentrosíduoReQM(E σ=

22e

21ec)entresíduoReQM(E σ+σ=

22e

21e

2t cbc)toQMTratamen(E σ+σ+σ=

A variância da média geral do experimento será:

abcaba)m(V...)y(V

22e

21e

2t σ

+σ

+σ

==

)ˆˆcˆbc(abc

1)m(V 2

2e21e

2t σ+σ+σ=

VTabc

1toQMTratamen

abc

1)m(V ==

Com o quadro da ANOVA

Causas de Variação

G.L QM E(QM)

Tratamento(T) (a -1) VT 2t

21e

22e bcc σ+σ+σ

Resíduo Entre(RE) a(b -1) VRE 21e

22e cσ+σ

Resíduo Dentro(RD) ab(c -1) VRD 22eσ

1) Observa-se que o resíduo apropriado para o teste da 0:H 2t0 =σ é o resíduo

entre:

VRE

VTFcal =

35

2) Da mesma forma, o resíduo apropriado para o teste do resíduo entre (RE):

0:H 21e0 =σ é o resíduo dentro.

VRD

VREFcal =

Para o mesmo modelo estatístico, com o efeito de tratamento fixo (modelo fixo) a

alteração do quadro da anova acontece para tratamento.

Causas de Variação

G.L QM E(QM)

Tratamento(T) (a -1) VT 2t

21e

22e c σΦ+σ+σ

Resíduo Entre (RE) a(b -1) VRE 21e

22e cσ+σ

Resíduo Dentro (RD) ab(c -1) VRD 22eσ

Na aplicação do teste F a modificação ocorre na hipótese 0t:H io = (efeito fixo).

VRE

VTFcal =

Neste caso:

)entresíduoReQM(Eabc

1

ab

1

abc

1)m(V...)y(V 2

1e2

2e =σ+σ==

QMREabc

1)m(V =

Como o processo dedutivo é trabalhoso, (Hicks, 1973) criou regras para a

obtenção das )QM(E nos modelos balanceados.

Para explicar as regras desenvolvidas por (Hicks, 1973), vamos considerar o

modelo do esquema fatorial de dois fatores, no delineamento inteiramente

casualizado.

36

ijkijjiijk efabfbfamy ++++=

a,...,2,1i = b,...,2,1j = r,...,2,1k =

Admitindo o modelo aleatório, teremos:

m)m(E = 22 m)m(E =

0)fa(E i = 22i a)fa(E σ=

0)fb(E j = 22j b)fb(E σ=

0)fab(E ij = 2ij ab)fab(E σ=

0)e(E ijk = 2e

2 )e(Eijk

σ=

Os quadros deverão ser montados na ordem seguinte:

Quadro 1 – Quadro das fontes de variação do modelo.

Fontes

fai

fbj

fabij

e(ij)k*

(*) os índices i e j são colocados entre parênteses para indicar que a variação é

dentro de ij.

Quadro 2 – complementar o quadro inicial, criando a parte superior da tabela com

os índices dos efeitos do modelo, classificando-os com as letras F e A para

efeitos fixos ou aleatórios e com o número de classes ou níveis de cada índice.

37

a

A

i

b

A

j

c

A

k

fai

fbj

fabij

e(ij)k

Quadro 3 – Em cada coluna e linha, adicionamos o número de observações na

qual o índice da coluna não aparece.

a

A

i

b

A

j

c

A

k

fai

fbj

fabij

e(ij)k

a

b

c

c

c

Quadro 4 – Nas linhas onde os índices aparecem entre parênteses, adicionar 1

nas colunas referentes a esses índices.

38

a

A

i

b

A

j

c

A

k

fai

fbj

fabij

e(ij)k

a

1

b

1

c

c

c

Quadro 5 – Nas combinações de linhas e colunas em branco do quadro 4,

adicionar 1 se o efeito for aleatório ou Ф se o efeito for fixo.

a

A

i

b

A

j

c

A

k

fai

fbj

fabij

e(ij)k

1

a

1

1

b

1

1

1

c

c

c

1

Quadro 6 – Para a obtenção da E(QM) da linha:

6.1) Cobrir as colunas correspondentes aos índices que aparecem na linha do

efeito. Quando o índice aparece entre parênteses, não cobri as colunas.

6.2) Multiplicar os números de observações internos da tabela, em cada linha. Os

produtos serão os coeficientes dos componentes da variância do efeito. A soma

dos produtos constituem a E(QM) da respectiva linha.

39

Devem ser eliminadas da soma, todas as parcelas que não contenham o índice

do efeito a que se refere a E(QM).

aI

A

i

b

A

j

c

A

k

E(QM)

fai

fbj

fabij

e(ij)k

1

a

1

1

B

1

1

1

c

c

c

1

2fa

2fb

2fab

2e bccc σ+σ+σ+σ

2fb

2fab

2fa

2e accc σ+σ+σ+σ

2fab

2fb

2fa

2e ccc σ+σ+σ+σ

2eσ

2fa

2fab

2e bcc)QMfa(E σ+σ+σ=

2fb

2fab

2e acc)QMfb(E σ+σ+σ=

2fab

2e c)QMfab(E σ+σ=

2e)síduoReQM(E σ=

Para o mesmo modelo com todos os fatores fixo, o resultado será:

a

F

i

b

F

j

c

A

k

fai

fbj

fabij

e(ij)k

2σ

2σ

2σ

2σ

Bk

ak

k

faΦ

fbΦ

fabΦ

40

Em que:

)1a(

fafa

a

1i

2i

−=Φ∑=

)1b(

fb

fb

b

1j

2j

−=Φ∑=

)1b)(1a(

fab

fab

a

1i

b

1j

2ij

−−=Φ

∑∑= =

faΦ , fbΦ e fabΦ são funções quadráticas de cada um dos efeitos considerados na

análise.

Um caso esclarecedor para a formatação do sistema linear que permitira a

determinação dos componentes de variância pode ser desenvolvido

considerando, por exemplo, quando 20 amostras para a análise de resíduos

tóxicos são extraídos de cada uma das 4 localidades, para a análise de eficiência

de 5 métodos. Cada amostra é dividida em 5 partes e cada parte é analisada

segundo um dos 5 métodos. Três determinações são feitas em cada uma das 5

partes.

=lL efeito da localidade, 4l,...,3,2,1l ==

=li LA efeito da amostra dentro de localidade, 20a,...,3,2,1i ==

=jM efeito do método, 5j,...,3,2,1j ==

=ljLM efeito da interação de Local e Método.

=lij LAM efeito da interação de Amostra e Método dentro de localidade.

=iljk ALMD efeito da Determinação )3k,...,2,1k( == dentro da classificação

cruzada de Amostra, Localidade e Método.

41

Para o modelo:

iljklijljjlil ALMDLAMLMMLALmy ++++++=

O quadro da análise de variância para cada fonte de variação e respectivos graus

de liberdade será:

Fonte de Variação Grau de Liberdade

Localidade (L)

Amostra/Localidade (A/L)

Método (M)

M *L

(A*M) / L

Determinação(D) / (A*M/L)

314)1l( =−=−

764)120(l)1a( =−=−

4)15(l)1j( =−=−

123*4)1l)(1j( ==−−

304)15)(120(4)1j)(1a(l =−−=−−

800)13)(5)(20(4)1k(laj =−=−

Total Corrigido 119911200)1lajk( =−=−

Com as regras estabelecidas anteriormente e considerando o modelo aleatório, teremos:

42

Fonte de Variação )L/AM/(D2σ L/AMk 2σ LMak 2σ Mlak 2σ L/Ajk 2σ Lkja 2σ

L

A/L

M

LM

AM / L

D / AM/L

X

X

X

X

X

X

X

X

X

X

X

X

(N)

X

X

(N)

(N)

(N)

X

(N)

(N)

X

X

(N)

(N)

(N)

X

(N)

(N)

(N) (N)

O X indica que o componente da coluna ira compor a esperança do quadrado

médio da fonte de variação. Da mesma forma, o (N) indica que o componente não

participara da esperança do quadrado médio da linha.

Deveremos observar ainda:

1) Se um determinado efeito for considerado fixo, haverá a necessidade da

eliminação de algum componente na esperança do quadrado médio.

2) O componente da menor subclasse aparecerá em todas as esperanças.

3) Um componente de interação entre um efeito fixo e um aleatório não aparecerá

na esperança de um efeito aleatório. A regra é definir quais os efeitos que são

fixos e para qualquer componente, que não seja ao referente à menor subclasse,

desconsiderar todos os subscritos à esquerda da primeira barra: Se qualquer um

dos subscritos remanescentes representar efeito fixo, o componente não

aparecerá na esperança daquele quadrado médio.

Neste exemplo, considerando método (M) como fixo os componentes para a

esperança de quadrado médio de Localidade inicialmente definido como:

LkjaL/AjkLMakL/AMk)L/AM/(D 22222 σ+σ+σ+σ+σ

43

Considerando os remanescentes, com Localidade é um efeito aleatório, a

esperança para o quadrado médio Localidade será:

LkjaL/Ajk)L/AM(D 222 σ+σ+σ

Considerando o quadro de esperanças de quadrado médio das fontes,

listado anteriormente, teremos duas modificações se o método (M) é fator fixo.

1) L/AMk 2σ será eliminada da esperança matemática da fonte A/L.

2) Em lugar de Mlak 2σ , aparecerá MlakΦ .

14

jM

M

4

1j

2

−=Φ∑=

=ΦM função quadrática.

Quando consideramos que 10 unidades amostrais são medidas em 4 classes do

fator A, por meio de 3 classes do fator B e por meio de 3 classes do fator C,

estaremos falando de:

10(4)(3)(3) = 360 dados

Os fatores A, B e C apresentam efeitos cruzados segundo o modelo:

ijkijkjkikijkjiijkl ABC/DlABCBCACABCBAmy ++++++++=

Em que:

=iA efeito do fator A, i = 1, 2, ..., a = 4.

=jB efeito do fator B, j = 1, 2, ..., b = 3.

=kC efeito do fator C, k = 1, 2,..., c = 3.

=ijAB efeito cruzado de A com B.

=ikAC efeito cruzado de A com C.

=jkBC efeito cruzado de B com C.

=ijkABC efeito cruzado de A, com B e C.

44

=ijkABC/Dl efeito da amostra dentro das combinações de ABC, l = 1,2, ..., d =

10.

Fonte de Variação Grau de Liberdade

iA

jB

ijAB

kC

ikAC

jkBC

ijkABC

ijkABC/Dl

314)1a( =−=−

213)1b( =−=−

6)1b)(1a( =−−

2)13()1c( =−=−

6)1c)(1a( =−−

4)1c)(1b( =−−

12)1c)(1b)(1a( =−−−

324)1d(abc =−

Total Corrigido 3591abcd =−

Para o modelo aleatório.

ijkijkjkikkijjiijkl ABC/DlABCBCACCABBAmy ++++++++=

ESPERANÇAS QUADRADO MÉDIO

Fonte de Variação ABC/D2σ ABC10 2σ BC40 2σ AC40 2σ C120 2σ AB40 2σ B120 2σ A90 2σ

A X X (N) X (N) X (N) X

B X X X (N) (N) X X (N)

AB X X (N) (N) (N) X (N) (N)

C X X X X X (N) (N) (N)

AC X X (N) X (N) (N) (N) (N)

45

BC X X X (N) (N) (N) (N) (N)

ABC X X (N) (N) (N) (N) (N) (N)

D/ABC X

Considerando B e C como fatores fixos, os componentes que serão eliminados

nas esperanças de quadrados médios da várias fontes estão circulados no quadro

abaixo:

Fonte de Variação ABC/D2σ ABC10 2σ BC40 2σ AC40 2σ C120 2σ AB40 2σ B120 2σ A90 2σ

A X ⊗ (N) ⊗ (N) ⊗ (N) X

●B X ⊗ ⊗ (N) (N) X X (N)

AB X ⊗ (N) (N) (N) X (N) (N)

●C X ⊗ ⊗ X X (N) (N) (N)

AC X ⊗ (N) X (N) (N) (N) (N)

BC X X X (N) (N) (N) (N) (N)

ABC X X (N) (N) (N) (N) (N) (N)

D/ABC X

ABC/D)ABC/DQM(E 2σ=

ABC10ABC/D)ABCQM(VE 22 σ+σ=

BC40ABC10ABC/D)BCQM(VE 22 Φ+σ+σ=•

AC40ABC/D)ACQM(VE 22 σ+σ=

C120AC40ABC/D)CQM(E 22 Φ+σ+σ=•

AB40ABC/D)ABQM(VE 22 σ+σ=

B120AB40ABC/D)BQM(VE 22 Φ+σ+σ=•

A90ABC/D)AQM(VE 22 σ+σ=

46

Desta forma, o quadrado médio ABC/Dˆ 2σ vai testar as fontes ABC, AC,

AB, e A, O quadrado médio da fonte AB servirá para testar a fonte B. A fonte BC

será tratada com o Quadrado Médio da fonte ABC, enquanto a fonte C será

testada com o quadrado médio da fonte AC, com os respectivos graus de

liberdade.

A obtenção dos componentes de variância, com muitos critérios de

classificação e com classes e subclasses apresentando números diferentes de

observações (desbalanceamento) é feita utilizando o algoritmo desenvolvido por

L.H.Waddell e é um processo difícil e demorado. Desta forma, não comentaremos

a obtenção dos componentes de variância, no caso de desbalanceamento, muito

comum em análise de dados no melhoramento animal.

47

4. RESULTADOS E DISCUSSÃO

Os dados para a discussão sobre componentes de variância serão

simulados com o objetivo de discutir vários casos e modelos de delineamento.

Iniciaremos de um caso mais simples e comum.

4.1 - Fatorial no delineamento inteiramente casualizado – 2 fatores.

Considerando o modelo estatístico:

ijkijjiijk eABBAmy ++++= , em que:

a,...,3,2,1i = b,...,3,2,1j = r,...,3,2,1k =

Fixo Aleatório Misto

0Aa

1ii =∑

=

),0(DA 2Ai σΝΙ∈ 0A

a

1ii =∑

=

0Bb

1jj =∑

=

),0(DB 2Bj σΝΙ∈ ),0(DB 2

Bj σΝΙ∈

∑∑= =

=a

1i

b

1jji 0BA ),0(DAB 2

ABij σΝΙ∈ ),0(DAB 2ABij σΝΙ∈

Fator A com (a -1) graus de liberdade:

abr

...y

br

..iySQA

2a

1i

2

−= ∑=

48

Fator B com (b -1) graus de liberdade:

abr

...y

ar

.j.ySQB

2b

1j

2

−= ∑=

Interação AB com (a -1) (b -1) = (ab – a – b +1) graus de liberdade:

abr

²...y

ar

.j.y

br

..y

r

.ij²ySQAB

b

1j

2a

1i

2a

1i

b

1j

+−−= ∑∑∑∑=== =

Resíduo (abr -1) – (a -1) – (b -1) = (a – 1) (b -1) = abr - ab

∑∑∑ ∑∑= = = = =

−=a

1i

b

1j

r

1k

a

1i

b

1j

22

r

.ijyijkysiduoReSQ

Por dedução ou com as regras de Hicks (1973) para experimentos balanceados obtem-se o quadro da ANOVA:

Causas de Variação

G.L SQ E(QM)

A (a -1) SQA A2AB

2 rbr Φ+σ+σ

B (b -1) SQB 2B

2AB

2 arr σ+σ+σ

AB

Resíduo

(ab - a - b+1)

(abr - ab)

SQAB

SQResíduo

2AB

2 rσ+σ

2σ

Hipóteses Ho: Ho1: 0A i = , para todo i = 1,2,..., a

Ho2: 02B =σ

Ho3: 02AB =σ

i) O resíduo apropriado para as H01 e H02 é o Quadrado Médio da Interação AB com (ab – a – b+1) g.l.

ii) O resíduo apropriado para a H03 é o Quadrado Médio do Resíduo, com (abr - ab) g.l.

49

Quadro de Dados

1A 2A

1B 2B 3B 4B

1B 2B 3B 4B

2,3 4,8 5,3 6,2 3,2 6,2 8,2 5,0

2,5 5,2 5,8 6,9 3,8 6,8 9,0 6,2

Quadro ANOVA

Causas de Variação

G.L SQ QM F

A 1 5,52250 5,52250 2,04

B 3 37,48250 12,49417 4,60

AB

Resíduo

3

8

8,14250

1,87000

2,71417

0,23375 11,61

23375,0ˆ 2e =σ

24021,1ˆ

71417,2ˆ2ˆ

2AB

2AB

2e

=σ

=σ+σ

50

44500,2ˆ

49417,12ˆ4ˆ2ˆ

2B

2B

2AB

2e

=σ

=σ+σ+σ

254337,0ˆ

52250,58ˆ2ˆ

A

A2AB

2e

=Φ

=Φ+σ+σ

)1a(

Aˆ

a

1i

2i

A −=Φ∑=

254337,0ˆ)12(A A

2

1ii =Φ−=∑

=

∑=

=2

1ii 254337,0A , em que AΦ é uma função quadrática.

Obs: As estimativas de A2AB

2B

2e ,,, Φσσσ são apresentadas na unidade dos dados ao

quadrado.

Os estimadores de componentes de variância são não tendenciosos

))(E( 22 σ=σ e como podemos obter )ˆ(V 2σ , podemos obter o intervalo de

confiança para 2σ ao nível α de probabilidade. Também )ˆ(V 2σ é estimador não

tendencioso:

)ˆ(V))ˆ(V(E 22 σ=σ

Um efeito considerado fixo tem as conclusões aplicadas apenas ao

material experimental, não constitui uma amostra de uma população. Já o efeito

aleatório, como é uma amostra de uma população, as conclusões vão caracterizar

a população de trabalho, se a amostra é estatisticamente representativa da

população.

O mesmo exemplo foi resolvido com o programa Genes, Aplicativo

Computacional em Genética e Estatística, desenvolvido na Universidade Federal

de Viçosa. O resumo da saída é apresentado abaixo e podemos listar as

alterações que deverão ser editadas:

51

1) O fator A, por se tratar de um programa apropriado ao melhoramento genético

vegetal, é denominado Ambiente.

2) O fator B é denominado Tratamento e a Interação AB por Trat X AMB.

3) Os valores de somas de quadrado estão corretamente calculados, inclusive o

teste F apresentando valores calculados com o resíduo correto para os testes

Ho1, Ho2 e Ho3.

4) =σ2Bˆ Componente de variância genotípica = 2,44500.

5) =σ2ABˆ Componente de variância genótipo x ambiente = 1,24021

6) =σ2eˆ Variância residual = 0,23375

7) Não apresenta a estimativa 254337,0ˆA =Φ

Resultado da Saída do Programa GENES

Arquivo de dados: C:\Documents and Settings\Administrador\Meus

documentos\ERICA EXEMPLOS TESE\ERICA1\GENES\ERICA1.prn

Modelo : Yijk = m + Gi + Aj + GAij + Eijk

PARÂMETROS GENÉTICOS

_________________________________________________________________

Componente de variância genotípica 2.445

Componente de variância genot.xambiente 1.24021

Variância residual 0.23375

Herdabilidade(média) - % 78.2765

Correlação intraclasse (*) 62.389

Coef. variação genético (%) 28.6252

Razão CVg/CVe 3.2342

52

4.2 - Fatorial no delineamento inteiramente casualizado – 3 fatores.

Considerando o modelo estatístico:

ijklijkjkikkijjiijkl eABCBCACCABBAmy ++++++++=

i = 1,2 j = 1,2,3 k = 1,2,3 l = 1,2

1A 2A

1B 2B 3B 1B 2B 3B

1C 2,2 4,2 6,4 4,5 7,3 5,0

2,3 4,7 7,0 5,0 7,9 6,0

2C

3,6

5,2 8,0

8,2 8,4 7,0

4,2 5,8 8,4 8,8 8,6 6,8

3C 5,0 7,4 7,5 6,4 7,0 6,6

5,4 7,8 7,2 7,2 7,6 6,8

53

1A e 2A , bem como 321 eBB,B , são selecionados ao acaso e o experimento em

mensurar 321 eCC,C dentro das combinações ijAB e , portanto, C é fixo.

),0(DA 2Ai σΝΙ∈ ),0(DB 2

Bj σΝΙ∈ ∑=

=3

1kk 0C

),0(DAB 2ABij σΝΙ∈ ),0(DAC 2

ACij σΝΙ∈ ),0(DBC 2BCjk σΝΙ∈

),0(DABC 2ABCijk σΝΙ∈ ),0(De 2

eijkl σΝΙ∈

Fator A com 1 grau de liberdade.

36

....y

18

...iySQA

22

1i

2

−= ∑=

Fator B com 2 graus de liberdade.

36

....y

12

..j.SQB

23

1j

−= ∑=

Fator C com 2 graus de liberdade.

36

....y

12

.k..ySQC

23

1k

2

−= ∑=

Interação ijAB com 2 graus de liberdade.

36

....y

12

.k..y

18

...iy

6

.k.iySQAB

23

1k

22

1i

22

1i

3

1j

2

+−−= ∑∑∑∑=== =

Interação jkBC com 4 graus de liberdade.

∑∑ ∑ ∑= = = =

+−−=3

1j

3

1k

3

1j

3

1k

2222

36

....y

12

.k..y

12

..j.y

4

.jk.ySQBC

∑∑∑∑= = = =

−=2

1i

3

1j

3

1k

2

1l

2

ijkl2

36

....yySQTotal

∑∑∑∑ ∑∑∑= = = = = = =

−=2

1i

3

1j

3

1k

2

1l

2

1i

3

1j

3

1k

2

ijkl2

2

.ijkyysiduoReSQ

54

Causa de Variação

G.L

SQ

E(QM)

A 1 SQA 2A

2AB

2e 186 σ+σ+σ

B 2 SQB

2B

2AB

2e 126 σ+σ+σ

AB 2 SQAB

2AB

2e 6σ+σ

C 2 SQC

e2BC

2AC

2ABC

2e 12462 Φ+σ+σ+σ+σ

AC 2 SQAC 2AC

2ABC

2e 62 σ+σ+σ

BC 4 SQBC 2BC

2ABC

2e 42 σ+σ+σ

ABC 4 SQABC 2ABC

2e 2σ+σ

Resíduo 18 SQResíduo 2eσ

Hipóteses Ho:

0:7Ho

0:6Ho

0:5Ho

0:4Ho

0:3Ho

0:2Ho

0:1Ho

2ABC

2BC

2AC

C

2AB

2B

2A

=σ

=σ

=σ

=Φ

=σ

=σ

=σ

1) O resíduo apropriado para os testes de Ho1 e Ho2 é QMAB.

2) O resíduo apropriado para o teste de Ho3 é o QMResíduo.

3) O resíduo apropriado para o teste de Ho5 e Ho6 é o QMABC.

4) O resíduo apropriado para o teste de Ho7 é o QMResíduo.

5) Não existe um resíduo apropriado para o teste de 2Cσ e ele deverá ser

composto.

55

Resido ap./

,462

24262

)QMABCQMBCQMAC(E4Ho

2BC

2AC

2ABC

2e

2ABC

2e

2BC

2ABC

2e

2AC

2ABC

2e

σ+σ+σ+σ=

σ−σ−σ+σ+σ+σ+σ+σ=

−+=

Com 2

2

2

2

2

2

2

4

QMABC)1(

4

QMBC)1(

2

QMAC)1(

)QMABCQMBCQMAC(4nHo

−+

+

−+=

Graus de Liberdade.

6) A análise retrata o caso de uma parcela sub-dividida com os fatores A e B

aleatórios e em fatorial 2x3 nas parcelas, com o fator C fixo na sub-parcela, no

delineamento inteiramente casualizado com duas repetições.

Se todos os fatores forem fixos haverá um erro para testar o que está na parcela

(os fatores A, B e AB), portanto com o resíduo 1, e um resíduo para o que está na

sub-parcela (o fator c, e as interações AC, BC e ABC), portanto com o resíduo 2.

Quadro ANOVA

Causa de Variação

G.L

SQ

(QM)

F

A

1

14,44000

14,44000

1,113 (ns)

B 2

21,15167

10,57583

0,83 (ns)

AB 2

25,50500

12,76250

91,89 (*)

C 2

22,16167

11,08083 )ns(F21,5 )2,2(

05,0<

56

AC 2 5,53167 2,76583 1,57 (ns)

BC

4

4,50167

1,12542

0,64 (ns)

ABC

4

7,0583

1,76458

12,70 (*)

Resíduo

18

2,50000

0,13889

Composição do Resíduo para teste da 4Ho

Resíduo/ 4Ho = 2,76583 + 1,12542 – 1,76458

= 2,12667

186223,2

522725,4

4

76458,1)1(

4

12542,1)1(

2

76583,2)1(

)12667,2(nHo

2

2

2

2

2

2

2

4 =

−+

+

=

201,2nHo 4 ≅=

)2,2(05,0cal F21,5

12667,2

08083,11F <==

Conclusões: Ao nível de 5% de probabilidade, pelo teste F, são aceitas as

hipóteses:

6Ho,5Ho,4Ho,2Ho,1Ho . Da mesma forma, são rejeitadas as hipóteses:

7Hoe3Ho .

13889,0ˆ 2e =σ

81284,0ˆ

76458,1ˆ2ˆ

2ABC

2ABC

2e

=σ

=σ+σ

57

15979,0ˆ

4

76458,112542,1ˆ

12542,1ˆ4ˆ2ˆ

2BC

2BC

2BC

2ABC

2e

−=σ

−=σ

=σ+σ+σ

2BCσ como é negativo é uma estimativa de zero e, portanto, não significativa.

16688,0ˆ

6

76458,176583,2ˆ

76583,2ˆ6ˆ2ˆ

2AC

2AC

2AC

2ABC

2e

=σ

−=σ

=σ+σ+σ

74618,0ˆ

12

12667,208083,11ˆ

08083,11ˆ12ˆ4ˆ6ˆ2ˆ

C

C

C2BC

2AC

2ABC

2e

=Φ

−=Φ

=Φ+σ+σ+σ+σ

10393,2ˆ

76250,12ˆ6ˆ2AB

2AB

2e

=σ

=σ+σ

36444,0ˆ

57583,10ˆ12ˆ6ˆ2B

2B

2AB

2e

−=σ

=σ+σ+σ

2Bσ é também uma estimativa de zero.

09319,0ˆ

44000,14ˆ18ˆ6ˆ2A

2A

2AB

2e

=σ

=σ+σ+σ

Uma estimativa negativa de um componente de variância (≥0) é indicativo de um

problema amostral. O esperado é que o componente seja no mínimo igual a zero.

O programa GENES, voltado para análise de modelos lineares aplicados ao

melhoramento animal, não apresenta opção para a solução do modelo conforme

o que foi formulado:

58

3 níveis fatores A e B aleatórios e o fator C fixo, em dentro do fatorial de A com B,

fatorial (2x3) no delineamento inteiramente casualizado com 2 repetições.

4.3 – Experimentos aninhados e fatorial – aninhado.

4.3.1 – Experimento com 1 fator aninhado.

1A 2A

1B 2B 3B 4B 5B 6B 7B 8B

2,2 4,3 5,3 7,2 4,0 6,0 8,0 10,2

2,8 4,9 6,0 7,9 5,0 6,6 9,0 11,0

).1(1y ).1(2y ).1(3y ).1(4y ).2(5y ).2(6y ).2(7y ).2(8y

..1y ..2y

i =1,2 j = 1,2,3,4 k = 1,2

)ij(k)i(jiijk eBAmy +++=

Acima temos os dados de um experimento, também no delineamento

inteiramente casualizado, onde A é fixo (tipo máquina) e B é aleatório (tipo

operador).

1100,9416

yySQTotal

2...

2

1i

4

1j

2

1k

2ijk =−= ∑∑∑

= = =

0400,2316

...y

8

ySQA

2

1i

2..i =−= ∑

=

59

Para A = 1

6250,268

..y

2

.ySQB

4

1j

)1(22

)1(j1 =−= ∑

=

Para A = 2

72,68A/SQB

0950,428

..y

2

.ySQB

4

1j

)2(22

)2(j2

=

=−= ∑=

3500,2)A(SQBSQASQTotalsíduoReSQ =−−=

Quadro ANOVA

Causa de Variação

G.L

SQ

(QM)

F

Fator A

1

23,0400

23,0400

78,43

Fator B 6

68,7200

11,4533

38,99

Resíduo 8 2,3500

0,29375

Total

15 94,1100

60

Causa de Variação

G.L

E(QM)

A 1 A2B

2e 82 Φ+σ+σ

B 2 2B

2e 2σ+σ

Resíduo 18 2eσ

Total 15

29375,0ˆ 2e =σ

5798,5ˆ

4533,11ˆ2ˆ

2B

2B

2e

=σ

=σ+σ

4483,1ˆ

0400,23ˆ8ˆ2ˆ

A

A2B

2e

=Φ

=Φ+σ+σ

O programa SAEG resolve este problema quando a ANOVA é feita. O

programa foi preparado para resolver problemas como este porque é semelhante

a um clássico do melhoramento animal onde o fator A é Touro e o fator B

aninhado em A é vaca. A variável é constituída então por uma característica

medida na progênie.

Como visto, não existe um programa estatístico, nem o SAS, capaz de

liberar os valores de componentes de variância quando solicitado. Temos de

aprender a teoria e o método prático estabelecido por (Hicks, 1973) para sim,

utilizar o programa.

É bom lembrar que estamos trabalhando com experimentos balanceados.

Com o desbalanceamento, as dificuldades são aumentadas.

4.3.2 – Experimento fatorial aninhado.

)ijk(l)j(iK)j(Kijjiijkl eACCABBAmy ++++++=

61

i = 1,2 j = 1,2,3 k = 1,2,3, para cada j l = 1,2, para cada i,j,k

A e B são fatores tomados como fixos.

C é fator aleatório, amostra de uma população.

∑∑∑∑= ===

===2

1i

3

1jij

3

1jj

2

1ii 0ABBA

),0(DC 2e)j(k σΝΙ∈

),0(DAC 2AC)j(ik σΝΙ∈

),0(De 2e)ijk(l σΝΙ∈

Com o método prático de (Hicks, 1973) obtém – se as esperanças de

quadrado médio do quadro abaixo:

Causa de Variação

G.L

SQ

E(QM)

iA 1 iSQA A2AC

2e 182 Φ+σ+σ

jB 2 jSQB

B2C

2e 124 Φ+σ+σ

ijAB 2 ijSQAB

AB2AC

2e 62 Φ+σ+σ

)i(kC 2 )i(kSQC

2C

2e 4σ+σ

)j(ikAC 2 )j(ikSQAC 2AC

2e 2σ+σ

Resíduo 18 )ijk(lSQe 2eσ

Total Corrigido 35

1) O resíduo apropriado para testar o fator A é o quadrado médio da interação

)j(ikAC

62

0:Ho A =Φ

2) O resíduo apropriado para testar o fator B, também fixo, é o quadrado médio do

fator )i(kC .

0:Ho B =Φ

3) O resíduo apropriado para testar o fator ijAB também é o quadrado médio da

interação )j(ikAC

0:Ho AB =Φ

4) O resíduo apropriado para testar )i(kC e )j(ikAC é o quadrado médio do resíduo.

0:Ho 2e =σ 0:Ho 2

AC =σ

1B 2B 3B

1C 2C 3C 4C 5C 6C 7C 8C 9C

1A 2,2 4,3 3,6 3,8 4,0 5,0 3,8 3,0 2,8

1A 2,5 5,0 3,8 4,0 3,7 3,8 4,2 3,4 2,7

2A 1,2 2,3 1,0 1,4 1,3 1,0 1,4 1,0 1,3

2A 1,4 2,8 0,8 1,6 1,5 1,3 1,6 1,2 1,4

63

Quadro ANOVA

Causa de Variação

G.L

SQ

QM

F

A 1 44,6669 44,6669 102,03 *

B 2 0,9172 0,4586 0,35 ns

AB 2 1,0039 0,5019 1,15 ns

C 6 7,9467 1,3244 15,33*

AC 6 2,6267 0,4378 5,07 *

Resíduo 18 1,5550 0,0864

* Significativo pelo teste F, ao nível de 5% de probabilidade.

0864,0ˆ 2e =σ

1757,0ˆ

4378,0ˆ2ˆ

2AC

2AC

2e

=σ

=σ+σ

3095,0ˆ

3244,1ˆ4ˆ

2C

2C

2e

=σ

=σ+σ

0107,0ˆ

5019,0ˆ64378,0

5019,0ˆ6ˆ2ˆ

AB

AB

AB2AC

2e

=Φ

=Φ+

=Φ+σ+σ

0722,0ˆ

4586,0ˆ123244,1

4586,0ˆ12ˆ4ˆ

B

B

B2C

2e

=Φ

=Φ+

=Φ+σ+σ

64

4572,2ˆ

6669,44ˆ184378,0

6669,44ˆ18ˆ2ˆ

A

A

A2AC

2e

=Φ

=Φ+

=Φ+σ+σ

Conclusão: Para AΦ , 2eσ e 2

ACσ rejeita - se 0H ao nível de 5% de probabilidade.

4.4 - Parcela sub-dividida (split-plot)

2eijklijkjkl

jkiklikklkijlijjljililijklm

RABCABCRBC

BCRACACRCCRABABRBBRAARmy

σ++++

++++++++++++=

jieBA são fatores fixos: i = 1, 2,...,a.

j = 1, 2,...,b.

∑∑∑ ∑= == =

===a

1i

b

1jij

a

1i

b

1jji 0ABBA

)ijkl(mlk eER,C são aleatórios: k = 1, 2,...,c

l = 1, 2,...,d

m = 1, 2,I,e

),0(DEm

),0(DRABC

),0(DRBC

),0(DRAC

),0(DRAB

),0(DABC

),0(DRC

),0(DBC

),0(DAC

),0(DEm

),0(DR

),0(DC

2e)ijkl(

2RABC

2RBC

2RAC

2RAB

2ABCijk

2RClk

2BCjk

2ACik

2e)ijkl(

2Rl

2ek

σΝΙ∈

σΝΙ∈

σΝΙ∈

σΝΙ∈

σΝΙ∈

σΝΙ∈

σΝΙ∈

σΝΙ∈

σΝΙ∈

σΝΙ∈

σΝΙ∈

σΝΙ∈

Quando a = b = c = d = 2 l = 4 n = 2 4 * 4 = 64 observações.

65

Quadro ANOVA

Causa de Variação

G.L

SQ

E(QM)

R 1 SQR 2R

2RC

2e 3216 σ+σ+σ

A 1 SQA

A2RA

2AC

2RAC

2e 3216168 Φ+σ+σ+σ+σ

RA 1 SQRA

2RA

2RAC

2e 168 σ+σ+σ

B 1 SQB

B2RB

2BC

2RBC

2e 3216168 Φ+σ+σ+σ+σ

RB 1 SQRB 2RB

2RBC

2e 168 σ+σ+σ

AB 1 SQAB AB

2ABC

2RABC

2e 1684 Φ+σ+σ+σ

RAB 1 SQRAB 2RAB

2RABC

2e 84 σ+σ+σ

PARCELA (7)

C 1

SQC

2C

2RC

2e 3216 σ+σ+σ

RC 1

[SQRC 2RC

2e 16σ+σ

AC 1 SQAC 2AC

2RAC

2e 168 σ+σ+σ

RAC 1 SQRAC

2RAC

2e 8σ+σ

BC 1 SQBC 2BCRBC

2e 168 σ+σ+σ

RBC 1 SQRBC 2RBC

2e 8σ+σ

ABC 1 SQABC 2ABC

2RABC

2e 84 σ+σ+σ

66

RABC 1 SQRABC 2RABC

2e 4σ+σ

)ijkl(Em 48 SQRESIDUO 2eσ

Total Corrigido 63

1) O quadrado médio de RC serve de resíduo para os efeitos aleatórios lR e kC .

2) Para testar o quadrado médio do fator fixo iA o resíduo deverá ser composto.

2RA

2AC

2RAC

2e

2RAC

2e

2AC

2RAC

2e

2RA

2RAC

2e

A2RA

2AC

2RAC

2e

16168)QMRAC(E)QMAC(E)QMRA(E

8)QMRAC(E

168)QMAC(E

168)QMRA(E

3216168)QMA(E

σ+σ+σ+σ=−+

σ+σ=

σ+σ+σ=

σ+σ+σ=

Φ+σ+σ+σ+σ=

Com

[ ][ ] [ ] [ ]

)gl'n,1(F)A(F

QMRACQMACQMRA

QMA)A(F

.l.g

RACgl

)QMRAC(E)1(

ACgl

)QMAC(E)1(

RAgl

)QMRA(E)1(

)QMRAC(E)QMAC(E)QMRA(En

Atab

cal

22

22

22

2'A

α=

−+=

−++

−+=

3) Para testar o quadrado médio da interação RA , o resíduo apropriado é o

quadrado médio de RAC .

4) Para testar o quadrado médio do fator fixo jB , da mesma forma que em 2, o

resíduo deverá ser composto.

67

[ ][ ] [ ] [ ]

)gl'n,1(F)B(F

QMRBCQMBCQMRB

QMA)B(F

RBCgl

QMRBC(E)1(

BCgl

EQMBC)1(

ABgl

)QMRB(E)1(

)QMRBC(E)QMBC(E)QMRB(E'n

168)QMRBC(E)QMBC(E)QMRB(E

3216168)QMB(E

Btab

cal

22

22

22

2

B

2RB

2BC

2e

B2RB

2BC

2RBC

2e

α=

−+=

−++

−+=

σ+σ+σ=−+

Φ+σ+σ+σ+σ=

5) O resíduo para testar o QMRB é o quadrado médio de RBC .

6) Para testar a causa de variação AB o resíduo apropriado é o quadrado médio de RAB .

7) Para testar a 0:H 2RABo =σ , o resíduo apropriado é o quadrado médio de

RABC .

8) Para testar a 0:H 2co =σ , o resíduo é o quadrado médio de RC .

9) 02RC =σ e testado com o resíduo puro 2

cσ , com 48 g.l.

10) Também com o resíduo 2eσ , são testadas as:

0:H 2RACo =σ 0:H 2

RBCo =σ 0:H 2RABCo =σ

11) O resíduo apropriado para testar 0:H 2ACo =σ é o QMRAC .

12) O resíduo apropriado para testar 0:H 2BCo =σ é o QMRBC .

13) O resíduo apropriado para o teste de 0:H 2ABCo =σ é o QMRABC .

Para o modelo:

ijklijkjkljk

iklikklkijlijjljililijkl

RABCABCRBCBC

RACACRCCRABABRBBRAARmy

++++

+++++++++++=

l = 1, 2, 3, 4 i = 1, 2, 3 j = 1, 2, 3 k = 1, 2, 3

68

Se os fatores A, B e C são fixos e o fator R é aleatório, o quadro da ANOVA será

dado como:

Quadro ANOVA

Causa de Variação

G.L

E(QM)

R 3 2R

2e 27σ+σ

A 2

l2Rl

2e 369 Φ+σ+σ

RA 6

2Rl

2e 9σ+σ

B 2

t2RB

2e 369 Φ+σ+σ

RB 6 2RB

2e 9σ+σ

AB 4 AB2RAB

2e 123 Φ+σ+σ

RAB 12 2RAB

2e 3σ+σ

C 2

c2RC

2e 369 Φ+σ+σ

RC 6

2RC

2e 9σ+σ

AC 4 AC2RAC

2e 123 Φ+σ+σ

RAC 12

2RLM

2e 3σ+σ

BC 4 BC2RBC

2e 123 Φ+σ+σ

RBC 12 2RBC

2e 3σ+σ

ABC 8 ABC2RABC

2e 4Φ+σ+σ

69

RABC 24 2RABC

2e σ+σ

2eσ 0 2

eσ (não estimável)

Total Corrigido 107

Com a formatação de quadro anterior, podemos observar que não existe um

resíduo a apropriado para testar o efeito de repetição e nem as interações de

repetição com os efeitos tomados como fixos.

Já para os efeitos principais e de interação entre os fatores tomados como fixos,

sempre vamos poder definir um resíduo apropriado para o teste das estimativas

das formas quadráticas.

4.5 – Programas genes

O GENES é um programa apropriado para análise de modelos lineares de

experimentos com fatores fixos e aleatórios, inclusive modelos mistos, quando os

dados estão balanceados e o planejamento é feito considerando as opções

existentes no programa.

4.5.1 – Delineamento inteiramente casualizado

Modelo : ijiij etmy ++=

it fixo, para i = 1, 2, ... , a

∑=

=a

1ii 0t

it aleatório : ),0(NIDt 2ti σ∈

Obs: Analisa dados quando o experimento está desbalanceado. Os resultados

obtidos são os mesmos da aplicação do método desenvolvido por Hicks.

4.5.2 – Delineamento em blocos casualizados completos

Modelo : ijjiij ebltmy +++=

jbl sempre aleatório, para j = 1, 2, ..., b.

70

),0(NIDbl 2bj σ∈

it aleatório ou fixo e portanto:

),0(NIDtou0t 2ti

a

1ii σ∈=∑

=

4.5.3 – Esquema fatorial completo em ambos os delineamentos

mencionados anteriormente, quando os dados estão balanceados.

Modelos:

ijkijjiBjkijk

ijkijjikijk

ijkijjiijk

eABBAblmy

eABBAblmy

eABBAmy

+++++=

+++++=

++++=

Quando kbl é sempre aleatório.

),0(NIDbl 2blk σ∈

Os fatores iA e jB podem ser considerados fixos (modelo fixo), aleatórios

(modelo aleatório) ou A fixo e B aleatório ou A aleatório e B fixo (Modelos Mistos).

4.5.4 – Esquema em parcela sub-divididas em ambos os delineamentos mencionados anteriormente, quando os dados estão balanceados.

Modelos:

ijkijikjikkiijk

ijkijjkjikiijk

ijkijjikkiijk

ijkijjikiijk

eABeBeblAmy

eABeBeAmy

eABBeblAmy

eABBeAmy

+++++++=

++++++=

++++++=

+++++=

Os modelos mencionados acima podem ser aleatórios e mistos com

apenas iA fixo, apenas jB fixo ou ijji ABeB,A fixos. A última opção ijji ABeB,A

é um modelo fixo. Em todos os casos a repetição usa sempre aleatória.

Um outro modelo importante analisado com o GENES é o que denominam

de experimento em blocos casualizados com informações de procedência /

progênie e planta. Claro que o modelo pode ser adaptado para uma outra

situação que não seja a análise de dados genéticos. Basta que no arquivo de

dados, as quatro primeiras colunas se destinem ordenadamente aos blocos,

procedência, progênie e plantas ou indivíduos. As colunas posteriores serão

71

destinadas às variáveis aleatórias que serão analisadas. O número de progênies

pode ser variável. Assim:

Procedência 1 => progênies 1, 2, ... , p1.

Procedência 2 => progênies p1+1, p1 +2, ... , p1+p2.

Procedência 3 => progênies p1+p2+1, p1+p2+2, ... , (p1+p2+p3).

.

.

.

Procedência K => progênies pk-1+2, ... , p1+p2+ ...+pk-1+pk.

O Modelo considerado na análise é o:

ijklijkkijiijkl

ijklijkkijiijkl

eeblA/BAmy

ou

eeblP/GPmy

+++++=

+++++=

K = 1, 2, ... , b blocos.

i = 1, 2, ... , a.

j = conforme especificado para procedência.

Também o número de plantas ou indivíduos(l) pode estar desbalanceado.

72

2e

21e

2e

2Ba

21e

2e

22B

21e

2e

21B

21e

2e

2B

21e

2e

A21e

2e

2bl

21e

2e

)QMRESIDUO(E

n)1QMRESÍDUO(E

nrn)ApBQM(E

.

.

.

nrn)2ABQM(E

nrn)1ABQM(E

nrn)QMB(E

asprocêdenciºnp

cosbloºnr

nrn)QMA(E

)nang(n)QMBLOCOS(E

σ=

σ+σ=

σ+σ+σ=

σ+σ+σ=

σ+σ+σ=

σ+σ+σ=

=

=

Φ+σ+σ=

σ=+σ+σ=

4.6 – Programa SAS

Para a análise dos modelos lineares mistos, dois objetivos são importantes:

1) Estimação e estabelecimento dos testes de hipóteses para os fatores

tomados como fixos.

2) Predição dos efeitos aleatórios e estimação dos componentes de variância.

Vimos que quando os modelos lineares mistos estão balanceados o

problema pode ser resolvido sem maiores dificuldades. No entanto, quando o

modelo linear misto está desbalanceado, a estimação dos componentes de

variância, de fundamental importância, depende da estruturação da matriz de

covariância e do método de estimação utilizado. Neste caso, um programa como

o SAS é de fundamental importância, o que vai exigir para a análise correta um

grande volume de conhecimento teórico.

Os modelos lineares mistos são utilizados para a interpretação de dados

onde à estrutura de tratamentos é constituída de fatores que são fixos e de

fatores que são aleatórios. Então, a análise de um modelo misto consiste em duas

fases: a análise de uma parte que é fixa e a análise da outra porção que é

aleatória.

73

A predição dos efeitos aleatórios é feita na presença de efeitos fixos,

conforme uma análise seqüencial. A análise da parte fixa do modelo linear

consiste na estimação e testes de hipóteses sobre as funções lineares estimáveis

dos efeitos fixos.

Os modelos mistos foram estudados inicialmente por (Fischer, 1918), com

grande impacto nos estudos genéticos e o modelo foi inicialmente denominado de

modelo de componentes de variância.

A partir daí, diversos métodos de estimação dos componentes de variância

tem sido proposto.

(Hartley & Rao, 1967) apresentaram o método da máxima verossimilhança

(Maximum Likelihood – ML). O método da estimação quadrática não –viesada de

variância mínima (Minium Variance Quadratic Unbiased estimation – MIVQUE) foi

descrito em 1971 por Rao. Em 1971, (Patterson & Thompson, 1971)

desenvolveram o método da máxima verossimilhança restrita (Restricted

Maximum Likelihood – REML). Todos os métodos de estimação do componentes

de variância listados acima estão disponíveis no PROC MIXED do SAS.

Segundo (Littel et al., 1996) o PROC MIXED é o procedimento do SAS

apropriado para a análise dos modelos mistos com desbalanceamento, por

distinguir os efeitos fixos dos efeitos aleatórios.

O SAS permite também a identificação de quatro tipos de somas de

quadrados (Tipo I, II, III e IV). Quando os dados são balanceados, todos os tipos

de soma de quadrados do tipo ss3, mesmo assim, são as mais apropriadas para

os dados desbalanceados.

Aconselha-se também a obtenção dos componentes de variância pelo

método REML. A preferência pelo método decorre de suas propriedades

estatísticas, superiores as propriedades dos estimadores de quadrados mínimos e

máxima verossimilhança (SEARLE et al., 1992)

4.6.1 – Fatorial Bloco Casualizados

Fatores A e B fixo.

Repetição Aleatório.

74

Balanceado

data ex5;

input rep a b y @@;

datalines;

1 1 1 56 1 1 2 35.3

1 2 1 50 1 2 2 36

1 3 1 39 1 3 2 35

2 1 1 30 2 1 2 25

2 2 1 36 2 2 2 28

2 3 1 33 2 3 2 30

3 1 1 32 3 1 2 24

3 2 1 32.6 3 2 2 27

3 3 1 15 3 3 2 19

4 1 1 30 4 1 2 25

4 2 1 35 4 2 2 30

4 3 1 17 4 3 2 18

;

proc mixed;

class a b rep;

model y=a b a*b;

random rep a*rep;

run;

The SAS System 09:54 Monday, June 21, 2011 1

75

The Mixed Procedure

Model Information

Data Set WORK.EX5

Dependent Variable y

Covariance Structure Variance Components

Estimation Method REML

Residual Variance Method Profile

Fixed Effects SE Method Model-Based

Degrees of Freedom Method Containment

Class Level Information

Class Levels Values

a 3 1 2 3

b 2 1 2

rep 4 1 2 3 4

Dimensions

Covariance Parameters 3

76

Columns in X 12

Columns in Z 16

Subjects 1

Max Obs Per Subject 24

Observations Used 24

Observations Not Used 0

Total Observations 24

Iteration History

Iteration Evaluations -2 Res Log Like Criterion

0 1 138.18502184

1 1 122.45118792 0.00000000

Convergence criteria met.

Covariance Parameter

Estimates

Cov Parm Estimate

rep 54.8751

a*rep 10.2915

77

Residual 14.4299

The SAS System 09:54 Monday, June 21, 2011 2

The Mixed Procedure

Fit Statistics

-2 Res Log Likelihood 122.5

AIC (smaller is better) 128.5

AICC (smaller is better) 130.2

BIC (smaller is better) 126.6

Type 3 Tests of Fixed Effects

Num Den

Effect DF DF F Value Pr > F

a 2 6 4.54 0.0629

b 1 9 15.51 0.0034

a*b 2 9 3.35 0.0818

4.6.2 – Fatorial Bloco Casualizados

Fatores A e B fixo.

Repetição Aleatório

data ex5;

78

input rep a b y @@;

datalines;

1 1 1 56 1 1 2 .

1 2 1 50 1 2 2 36

1 3 1 39 1 3 2 35

2 1 1 30 2 1 2 25

2 2 1 36 2 2 2 28

2 3 1 33 2 3 2 30

3 1 1 32 3 1 2 24

3 2 1 . 3 2 2 27

3 3 1 15 3 3 2 19

4 1 1 30 4 1 2 25

4 2 1 35 4 2 2 30

4 3 1 17 4 3 2 18

;

proc mixed;

class a b rep;

model y=a b a*b;

random rep a*rep;

run;

The SAS System 10:09 Monday, June 21, 2011 1

The Mixed Procedure

Model Information

Data Set WORK.EX5

79

Dependent Variable y

Covariance Structure Variance Components

Estimation Method REML

Residual Variance Method Profile

Fixed Effects SE Method Model-Based

Degrees of Freedom Method Containment

Class Level Information

Class Levels Values

a 3 1 2 3

b 2 1 2

rep 4 1 2 3 4

Dimensions

Covariance Parameters 3

Columns in X 12

Columns in Z 16

Subjects 1

Max Obs Per Subject 24

Observations Used 22

Observations Not Used 2

Total Observations 24

Iteration History

Iteration Evaluations -2 Res Log Like Criterion

80

0 1 123.54683201

1 2 110.01900658 0.02965954

2 1 108.44873153 0.01583636

3 1 107.65668613 0.00529369

4 1 107.40896496 0.00078458

5 1 107.37531094 0.00002305

6 1 107.37439331 0.00000003

7 1 107.37439232 0.00000000

Convergence criteria met.

The SAS System 10:09 Monday, June 21, 2011 2

The Mixed Procedure

Covariance Parameter

Estimates

Cov Parm Estimate

rep 66.3784

a*rep 24.0411

Residual 6.5026

Fit Statistics

-2 Res Log Likelihood 107.4

AIC (smaller is better) 113.4

81

AICC (smaller is better) 115.4

BIC (smaller is better) 111.5

Type 3 Tests of Fixed Effects

Num Den

Effect DF DF F Value Pr > F

a 2 6 3.48 0.0993

b 1 7 21.53 0.0024

a*b 2 7 5.14 0.0423

4.6.3 – Fatorial Bloco Casualizados

Fatores A e B fixo.

Repetição Aleatório

data ex5;

input rep a b y @@;

datalines;

1 1 1 56 1 2 1 50

1 2 2 36

1 3 1 39 1 3 2 35

2 1 1 30 2 1 2 25

2 2 1 36 2 2 2 28

2 3 1 33 2 3 2 30

3 1 1 32 3 1 2 24

3 2 2 27

3 3 1 15 3 3 2 19

82

4 1 1 30 4 1 2 25

4 2 1 35 4 2 2 30

4 3 1 17 4 3 2 18

;

proc mixed;

class a b rep;

model y=a b a*b;

random rep a*rep;

run;

The SAS System 10:19 Monday, June 21, 2011 1

The Mixed Procedure

Model Information

Data Set WORK.EX5

Dependent Variable y

Covariance Structure Variance Components

Estimation Method REML

Residual Variance Method Profile

Fixed Effects SE Method Model-Based

Degrees of Freedom Method Containment

Class Level Information

Class Levels Values

83

a 3 1 2 3

b 2 1 2

rep 4 1 2 3 4

Dimensions

Covariance Parameters 3

Columns in X 12

Columns in Z 16

Subjects 1

Max Obs Per Subject 22

Observations Used 22

Observations Not Used 0

Total Observations 22

Iteration History

Iteration Evaluations -2 Res Log Like Criterion

0 1 123.54683201

1 2 110.01900658 0.02965954

2 1 108.44873153 0.01583636

3 1 107.65668613 0.00529369

4 1 107.40896496 0.00078458

5 1 107.37531094 0.00002305

6 1 107.37439331 0.00000003

7 1 107.37439232 0.00000000

84

Convergence criteria met.

The SAS System 10:19 Monday, June 21, 2011 2

The Mixed Procedure

Covariance Parameter

Estimates

Cov Parm Estimate

rep 66.3784

a*rep 24.0411

Residual 6.5026

Fit Statistics

-2 Res Log Likelihood 107.4

AIC (smaller is better) 113.4

AICC (smaller is better) 115.4

BIC (smaller is better) 111.5

Type 3 Tests of Fixed Effects

Num Den

Effect DF DF F Value Pr > F

a 2 6 3.48 0.0993

85

b 1 7 21.53 0.0024

a*b 2 7 5.14 0.0423

Quando o programa SAS estima a parcela que é equivalente a substituir o dado

ponto ou quando é considerado o experimento desbalanceado os resultados são

os mesmos. Verificamos esses resultados nos exercícios simulados.

86

5. RESUMO E CONCLUSÃO

Do estudo realizado sobre modelos mistos e componentes de variância, conclui-

se que:

1) As regras estabelecidas para a construção do sistema de equações lineares na

obtenção dos componentes de variância funcionam corretamente, quando os

dados estão balanceados. Conforme as regras desenvolvidas de (Hicks, 1973)

nos modelos balanceados.

2) Com os experimentos balanceados os tipos SS1, SS2, SS3 e SS4 apresentam

os mesmos resultados nos comandos GLM e MIXED do programa SAS.

3) O programa GENES esta correto para os modelos formatados no pacote.

4) Para dados desbalanceados, sugerimos o uso do programa SAS e o PROC.

MIXED, quando as causas de variação deverão ser obtidas com SS3 e os

componentes de variância estimados pelo método REML, em razão de suas

propriedades.

87

REFERÊNCIAS BIBLIOGRÁFICAS

Analla, M. et al. (1995) Simulation analysis with BLUP methodology of different data

structures in goat selection schemes in Spain. Small Rum. Res., v. 17, p. 51-5.

Bereskin, B., Lush, J. L. (1965) Genetic and environmental factors in dairy sire

evaluation. III. Influence of environmental and others extraneous correlations

among the daughters. Journal of Dairy Science, v. 48, n. 3, p. 356-360.

Boldman. K.G. Freeman. A. E. (1990) Adjustment for heterogeneity of variances by

herd production level in dairy cow and sire evaluation. Journal of dairy science. V.

73. N. 2. P. 503-512.

Boldman, K. G. Van Vleck. L.D. (1991) Derivative-free restricted maximum likelihood

estimation in animal models with a sparse matrix solver. Journal of dairy science.

V. 74. N. 12. P. 4337-4343.

Dickerson, G.E. (1962) Implications of genetic-environmental interactions in animal

breeding. Animal Production, v.4, p.47-57.

88

Dodenhoff, J., Swalve, H.H. (1998) Heterogeneity of variances across regions of

northern Germany and adjustment in genetic evaluation. Livest. Prod. Sci.,

53(1):225-236p.

Dong. M.C. Mad. (1990) i.l. Heterogeneity of (co)variance and heritability in different

levels of intra herd milk production and of herd average. Journal of dairy science.

V. 73. N. 3. P. 843-851.

Falconer. D.S. (1952) The problem of environment and selection. Amer. Nat.. V. 86.

N. 830. P. 293-298.

Fisher, R. A. (1918) The correlation between relatives on the supposition of Medelian

inheritance. Transctions of the Royal Society of Edinburgh, v.52, p.399-433.

Foulley, J.L.; IM, S.; Gianola, D. et al. Empirical Bayes estimation of parameters for n

polygenic binary traits. Genet. Sel. Evol., v.19, p.197, 1987.

George, A.; Liu, J.W.H. (1980) User's guide for SPARSPAK: Waterloo Sparse Linear

Equations Packages. Department of Computer Science, University of Waterloo,

Waterloo, Ontario, Canadá, 151p.

Gianola. D.; Foulley, j.l. (1990) Variance estimation from integrated likelihood (veil).

Génetique, selection, evolution. V. 22. P. 403-417.

Golden. B.l., (1994) Additive genetic groups for animais evaluated in more than one

breed association national calhe evaluation. J. Anim. Sci., champaign, v.72,

p.2559-67.

Graybill, F. A. (1976) Theory and application of the linear model. Massachusetts:

Duxbury Press, North Scituate, 704p.

Hartley. H.O. Rao. J.N.K. (1967) Maximum-likelihood estimation for the mixed

analysis of variance model. Biometrika. V. 54. N. 1. P. 93-108.

Harville. D. A. (1977) Maximum likelihood approaches to variance component

estimation and to related problems. Journal of the american statistical association.

V. 72. N. 358. P. 320-340.

Henderson, C. R. (1953) Estimation of variance and covariance components.

Biometrika, washington, v.9, p.226-52.

Hicks, C. R. (1973) Fundamental concepts in the design of experiments. 2º ed. New

york, holt rinehart and winston, 349p.

89

Kennedy, B.W., (1975) Comparison of genetic group and relationship methods for

mixed model sire evaluation. J. Dairy sci., champaign, v.58, p.l5o7-l4,.

Kennedy, B.W. (1988) Workshop on estimation of breeding values with the animal

model. Guelph, ontario: university of guelph, 134 p.

Kennedy, B.W. Henderson, O.R. (1988) The unflniahod legacy. Journal 081w

soisnese. 74.n. 11, p,4067-4081.

Kuhlers, D.L, Kennedy, B.W. (1982) Effect of culling on selection response using

phenotypic selection or best linear unbiased prediction of breeding values in small,

closed herd of swine. 3. Anim. Sei., champaign. V.70, p. 2338 - 48.

Kuhlers, D.L.; Kennedy, B.W. (1992) Effect of culling on selection response using

phenotypic selection or best linear unbiased prediction of breeding values in small,

closed herds of swine. J. Anim. Sci., v.70, p.2338-2348.

Little, R.C. et al., (1996) SAS system for mixed models. Cary, NC. Sas Institute, 633p.

Lush, J.L. (1945) the built index problem in the light of modern genetics. J. Dairy sci.,

champaign, v.16, p.501- 22.

Meyer D.J. (1987) The management of cytology specimens. Comp. Cont. Education -

Small Animal 9(1):10-17

Meyer. K. (1989) Restricted maximum likelihood to estimate variance components for

animal models with several random effects using a derivative-free algorithm.

Génetique, sélection, evolution. V. 21, n. 2, p. 317-340.

Meyer. K. (1993) Dfreml- version 2.1.09: user notes. Armidate: university of new

england. 97p.

Mirande. S.l. Van Vleck. L.D. (1985) Trends in genetic and phenotypic variances for

milk production. Journal of dairy science. V. 68. N. 9. P. 2278-2286.

Mohammad, W.A., Lee, A.J., Grossman, M. (1982) Genotype-environment interaction

in sire evaluation. Journal of Dairy Science, 65(5):857-860.

Ojala, M.; Syvajarvi, J.; Hellman, T. (1984) Effect of the size of the comparison on the

accuracy of a sire’s evaluation. J. Anim. Breeding, V. 102, p. 91-94.

Patterson, H.D., Thompson, R. (1971) Recovery of inter-block information when block

sizes are unequal. Biometrika, v. 58, n. 2, p. 545-554.

Quinton, M., Smith, C., Goddard, M.E. (1992) Comparison of selection methods at the

sarne level of inbreeding. J. Anim. Sci.., champaign, v.70, p. l060-7.

90

RAO, C.R. (1970) Estimation of heteroscedastic variance in linear models. Journal of

the American Statistical Association, 65, p.161-72.

Rao, C.R. (1971) Minimum variance quadratic unbiased estimation of variance

components. Journal of Multivariate Analysis, v.1,p.445-456.

Rao. C.R. (1971b) estimation of variance and covariance components minque theory.

The journal of multivariate analysis. V. 1, p. 257-275.

Rao. C.R. Minimum variance quadratic unbiased estimation of variance components.

The journal of multivariate analysis. V. 1. P. 445-456, 1971b.

Rao, C.R. (1972) Estimation of variance and covariance components in linear models.

Journal of the American Statistical Association v.67, p.112-115.

Robertson et. al., (1960) Progeny testing dairy bulls at different management levels.

Anim. Prod., 2(2):141-152.

Schaeffer L.R. (1978) Simultaneous estimation of variance and covariances

components from multitrait mixed model equations. Biometrics. V. 34. N. 2. P.

199-208.

Schaeffer L.R. (1986) Estimation of variance and covariances within the allowable

parameter space. Journal of dairy science. V. 69. N. 1, p. 187-194.

Schaeffer, L.R. (1993) linear models and computing strategies in animal breeding.

Guelph, ontario: university of guelph, 213 p.

Schenkel, F. S. (1991) Aplicação da metodologia de modelos mistos na avaliação

genética de suínos. Porto Alegre: UFRGS, 218p. Dissertação Mestrado.

Searle, S.R. (1971) topics in variance component estimation . Biometrics. V. 27, n. 1,

p. 1-76,

Searle. S.R. (1982) Matrix algebra useful to statistics . New york: j. Wiley and sons.

438p. .

Searle S. et. al., (1992) Variance components . New York : John Willey, 501p.

Short, R.E.; Bellows, R.A.; Staigmiller, R.B.; Berardinelli, J.G.; Custer, E.E. (1990).

Physiological mechanisms controling anestrus and infertility in postpartum beef cattle.

Journal of Animal Science, v. 68, p. 799-816.

91

Smith, S. P.; Graser, H. V. (1986) Estimating variance components in a class of mixed

models by restricted maximum likelihood . Journal of Dairy Science, Champaign,

v.69, p.1156 – 1165 .

Sorensen, D.A. (1988) Effect of selection index versus mixed model methods of

prediction of breeding value on response to selection in a simulated pig

population. Livest. Prod. Sci., Amsterdam, v.20, p. 135-48 .

Spike, P.L., Freeman, A.E. (1978). Prediction of genetic differences among herds with

estimates of breeding values. J. Dairy Sci., 61:1476-1482p.

Stanton, T.L. et al., (1991) Genotype by environment interation for Holstein milk yield

in Colombia, Mexico, and Porto Rico. J Dairy Sci, Champaign, v. 74, n. 5, p. 1700-

1714.

Tong, A.K.W., Kennedy, B.W., Moxley, J.E. (1980). Potential errors in sire evaluation

from regional genetic differences. J. Dairy Sci., 63(4):627-633.

Torres. R. A. (1998) Efeito da heterogeneidade de variância na avaliação genética de

bovinos da raça holandesa no brasil. Belo horizonte. MG: UFMG.

Van Tassell, C.P, Berger, P.J. (1994). Consideration of sire relationships for

estimation of variance components with interaction of herd and sire. J. Dairy Sci.,

77(1):313 - 324.

Verneque, R.S. (1994) Procedimentos numéricos e estimação de componentes de

covariância em análise multivariada pelo método da máxima verossimilhança

restrita - modelos mistos aplicados ao melhoramento animal. Piracicaba: esalq,

1994. 157p. Dissertação (doutorado em estatística) - Escola Superior de

Agricultura Luiz de Queiroz.

Wolfinger, R. D. (1993) Covariance structure selection in general mixed models.

Communcations in statistics simulation and computation, v.22, n.4, p.1079 - 1106.