sistemas triplos de steiner incompletos versus
TRANSCRIPT
-
SISTEMAS TRIPLOS DE STEINER INCOMPLETOSVERSUS LTICES QUADRADOS BALANCEADOS
PARA A ANLISE DIALLICA
ROSIANA RODRIGUES ALVES
2009
-
ROSIANA RODRIGUES ALVES
SISTEMAS TRIPLOS DE STEINER INCOMPLETOS VERSUS LTICESQUADRADOS BALANCEADOS PARA A ANLISE DIALLICA
Dissertao apresentada Universidade Federalde Lavras, como parte das exigncias do Pro-grama de Ps-graduao em Estatstica e Experi-mentao Agropecuria, para a obteno do ttulode "Mestre".
OrientadorProf. Dr. Prof. Jlio Slvio de Sousa Bueno Filho
LAVRASMINAS GERAIS -BRASIL
2009
-
fantasma
Ficha Catalogrfica Preparada pela Diviso de Processos Tcnicos daBiblioteca Central da UFLA
Alves, Rosiana Rodrigues.Sistemas Triplos de Steiner incompletos versus Ltices
Quadrados Balanceados para anlise diallica / Rosiana RodriguesAlves. Lavras : UFLA, 2009.
68 p. : il.
Dissertao (mestrado) Universidade Federal de Lavras, 2009.Orientador: Jlio Slvio de Sousa Bueno Filho.Bibliografia.
1.Dialelos . 2. Modelos mistos. 3. Eficincia de delineamentos.4. Blocos incompletos. I. Universidade Federal de Lavras. II. Ttulo.
CDD-519.5
-
ROSIANA RODRIGUES ALVES
SISTEMAS TRIPLOS DE STEINER INCOMPLETOS VERSUS LTICESQUADRADOS BALANCEADOS PARA ANLISE DIALLICA
Dissertao apresentada Universidade Federal deLavras como parte das exigncias do Programade Ps-Graduao em Estatstica e ExperimentaoAgropecuria, para a obteno do ttulo de "Mestre".
APROVADA em 18 de agosto de 2009
Prof. Dr. Augusto Ramalho de Morais
Profa. Dra. Flvia Maria Avelar Gonalves
Prof. Dr. Lucas Monteiro Chaves
UFLA
UFLA
UFLA
Prof. Dr. Jlio Slvio de Sousa Bueno FilhoUFLA
(Orientador)
LAVRASMINAS GERAIS-BRASIL
-
DEDICO
A minha querida famlia:
meus pais, Reginaldo e Aparecida;
meus avs, Iraci e Fica
e meus irmos: Ronaldo, Rosana e
Roslia.
-
AGRADECIMENTOS
A Deus, por sempre iluminar meus caminhos.
Universidade Federal de Lavras, pela oportunidade de aprimoramento
acadmico.
Ao CnPq, pela concesso da bolsa.
Ao Jlio, pela sua amizade, ateno e dedicao desde a minha graduao.
Aos professores do Departamento de Cincias Exatas, pelos ensinamentos.
s funcionrios do Departamento de Cincias Exatas: Josi, Josi Cristina,
Edila, Maria, Selminha , pela simpatia e boa vontade no atendimento
Aos meus irmos, Ronaldo, Rosana e Roslia, pela eterna amizade carinho
e presena em todos momentos da minha vida, minha eterna gratido.
s meninas da Republica Bananinha, Ana,Carol, Caroline, Claudinha,
Claudia, Dbora, Masa, Nara, Paulinha, Roslia, Tati, por dividirem comigo todos
os momentos da minha vida universitria e por fazerem parte dessa grande famlia
que ns construmos.
Aos amigos do DEX, em especial ao "Clube da Luluzinha": Deyse, Flvia,
Fran e Simone ,por terem sido verdadeiras irms, Jair, Manoel, Ppio, Sr. Varginha,
Naje, Paulo pelo carinho e ao Walmes, pelo disque dvidas e principalmente pela
amizade. Aos irmos (de orientao) Andrea, Z, Claudiney, Imaculada, Lour-
dinha, Fbio pela amizade e por tantas ajudas.
A todos meus amigos minha eterna gratido pela oportunidade de apren-
der, dividir conhecimentos, experincias e farras.
banca avaliadora, pela disponibilidade, auxlio e por assim incentivarem
a pesquisa, colaborando com nosso futuro.
A todos vocs meus sinceros agradecimentos pela contribuio para reali-
zao de um sonho.
-
SUMRIO
LISTA DE TABELAS . . . . . . . . . . . . . . . . . . . . . . . . . . . . . i
LISTA DE FIGURAS . . . . . . . . . . . . . . . . . . . . . . . . . . . . . viii
RESUMO . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . x
ABSTRACT . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . xi
1 INTRODUO . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
2 REFERENCIAL TERICO . . . . . . . . . . . . . . . . . . . . . . . . 3
2.1 Delineamento em Blocos Incompletos . . . . . . . . . . . . . . . . . . 3
2.2 Sistema Triplo de Steiner (STS) . . . . . . . . . . . . . . . . . . . . . 6
2.3 Delineamento em Ltice . . . . . . . . . . . . . . . . . . . . . . . . . 7
2.4 Modelos Mistos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
2.5 Anlise Diallica . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
2.6 Estimao de Componentes da varincia . . . . . . . . . . . . . . . . . 12
3 MATERIAL E MTODOS . . . . . . . . . . . . . . . . . . . . . . . . . 18
3.1 Situaes Simuladas . . . . . . . . . . . . . . . . . . . . . . . . . . . 18
3.2 Modelo de Simulao . . . . . . . . . . . . . . . . . . . . . . . . . . 19
3.3 Modelo de Anlise . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
3.4 Clculo da esperana da simulao . . . . . . . . . . . . . . . . . . . 20
3.5 Exemplo de anlise . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21
4 RESULTADOS E DISCUSSO . . . . . . . . . . . . . . . . . . . . . . 29
5 CONCLUSES . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 46
ANEXOS . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 48
-
LISTA DE TABELAS
1 Esquema representativo de um cruzamento diallico com 4 geni-
tores mostrando apenas a gerao F1 ou hbridos. Na tabela, yij
representa o cruzamento do pai i com a me j. . . . . . . . . . . 11
2 Conjunto de dados simulados utilizado para anlise do exemplo . 22
3 Valores do vetor e para as componentes da varincia no chute
inicial, passo 0, e para os passos 1, 2, 3 e 13 do algoritmo EM . . 27
4 Valores mdios da mediana, mdia, limite inferior (LI), limite su-
perior (LS) do intervalo de confiana e amplitude do intervalo (A)
obtidos para as estimativas das componentes da varincia aditiva
(2a), de dominncia (2d) e do erro (
2) para os quatro tipos de
delineamento considerando no processo de simulao que 2a = 2
e 2d = 0, 5 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30
5 Valores mdios da mediana, mdia, limite inferior (LI), limite su-
perior (LS) do intervalo de confiana e amplitude do intervalo (A)
obtidos para as correlaes entre valores aditivos (a) e valores de
dominncia (d) paramtricos e suas respectivas estimativas e as
correlaes entre os valores preditos (y) e estimados para os qua-
tro tipos de delineamento considerando no processo de simulao
que 2a = 2 e 2d = 0, 5 . . . . . . . . . . . . . . . . . . . . . . . 31
i
-
6 Valores mdios da mediana, mdia, limite inferior (LI), limite su-
perior (LS) do intervalo de confiana e amplitude do intervalo (A)
obtidos para o erro quadrtico mdio para as estimativas dos valo-
res preditos - EQM(y), dos valores aditivos - EQM(a) e dos valores
de dominncia EQM(d) para os quatro tipos de delineamento con-
siderando no processo de simulao que 2a = 2 e 2d = 0, 5) . . . 32
7 Valores mdios da mediana, mdia, limite inferior (LI), limite su-
perior (LS) do intervalo de confiana e amplitude do intervalo (A)
obtidos para o vis das estimativas dos valores preditos - B(y), dos
valores aditivos - B(a) e dos valores de dominncia- B(d) para os
quatro tipos de delineamento considerando no processo de simu-
lao que 2a = 2 e 2d = 0, 5 . . . . . . . . . . . . . . . . . . . . 33
8 Eficincia do STS em relao ao LQB, C(LQB16)/C(STS15), em
funo das varincias aditiva e dominante . . . . . . . . . . . . . 43
9 Valores mdios da mediana, mdia, limite inferior (LI), limite su-
perior (LS) do intervalo de confiana e amplitude do intervalo (A)
obtidos para as estimativas das componentes da varincia aditiva
(2a), de dominncia (2d) e do erro (
2) para os quatro tipos de de-
lineamento considerando no processo de simulao que 2a = 0, 5
e 2d = 0. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 49
ii
-
10 Valores mdios da mediana, mdia, limite inferior (LI), limite su-
perior (LS) do intervalo de confiana e amplitude do intervalo (A)
obtidos para as correlaes entre valores aditivos (a) e valores de
dominncia (d) paramtricos e suas respectivas estimativas e as
correlaes entre os valores preditos (y) e estimados para os qua-
tro tipos de delineamento considerando no processo de simulao
que 2a = 0, 5 e 2d = 0. . . . . . . . . . . . . . . . . . . . . . . . 50
11 Valores mdios da mediana, mdia, limite inferior (LI), limite su-
perior (LS) do intervalo de confiana e amplitude do intervalo (A)
obtidos para o erro quadrtico mdio para as estimativas dos valo-
res preditos - EQM(y), dos valores aditivos - EQM(a) e dos valores
de dominncia EQM(d) para os quatro tipos de delineamento con-
siderando no processo de simulao que 2a = 0, 5 e 2d = 0. . . . 51
12 Valores mdios da mediana, mdia, limite inferior (LI), limite su-
perior (LS) do intervalo de confiana e amplitude do intervalo (A)
obtidos para o vis das estimativas dos valores preditos - B(y), dos
valores aditivos - B(a) e dos valores de dominncia- B(d) para os
quatro tipos de delineamento considerando no processo de simu-
lao que 2a = 0, 5 e 2d = 0. . . . . . . . . . . . . . . . . . . . . 52
13 Valores mdios da mediana, mdia, limite inferior (LI), limite su-
perior (LS) do intervalo de confiana e amplitude do intervalo (A)
obtidos para as estimativas das componentes da varincia aditiva
(2a), de dominncia (2d) e do erro (
2) para os quatro tipos de
delineamento considerando no processo de simulao que 2a = 1
e 2d = 0 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 53
iii
-
14 Valores mdios da mediana, mdia, limite inferior (LI), limite su-
perior (LS) do intervalo de confiana e amplitude do intervalo (A)
obtidos para as correlaes entre valores aditivos (a) e valores de
dominncia (d) paramtricos e suas respectivas estimativas e as
correlaes entre os valores preditos (y) e estimados para os qua-
tro tipos de delineamento considerando no processo de simulao
que 2a = 1 e 2d = 0. . . . . . . . . . . . . . . . . . . . . . . . . 54
15 Valores mdios da mediana, mdia, limite inferior (LI), limite su-
perior (LS) do intervalo de confiana e amplitude do intervalo (A)
obtidos para o erro quadrtico mdio para as estimativas dos valo-
res preditos - EQM(y), dos valores aditivos - EQM(a) e dos valores
de dominncia EQM(d) para os quatro tipos de delineamento con-
siderando no processo de simulao que (2a = 1; 2d = 0) . . . . 55
16 Valores mdios da mediana, mdia, limite inferior (LI), limite su-
perior (LS) do intervalo de confiana e amplitude do intervalo (A)
obtidos para o vis das estimativas dos valores preditos - B(y), dos
valores aditivos - B(a) e dos valores de dominncia- B(d) para os
quatro tipos de delineamento considerando no processo de simu-
lao que 2a = 1 e 2d = 0. . . . . . . . . . . . . . . . . . . . . . 56
17 Valores mdios da mediana, mdia, limite inferior (LI), limite su-
perior (LS) do intervalo de confiana e amplitude do intervalo (A)
obtidos para as estimativas das componentes da varincia aditiva
(2a), de dominncia (2d) e do erro (
2) para os quatro tipos de
delineamento considerando no processo de simulao que 2a = 2
e 2d = 0. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 57
iv
-
18 Valores mdios da mediana, mdia, limite inferior (LI), limite su-
perior (LS) do intervalo de confiana e amplitude do intervalo (A)
obtidos para as correlaes entre valores aditivos (a) e valores de
dominncia (d) paramtricos e suas respectivas estimativas e as
correlaes entre os valores preditos (y) e estimados para os qua-
tro tipos de delineamento considerando no processo de simulao
que 2a = 2 e 2d = 0. . . . . . . . . . . . . . . . . . . . . . . . . 58
19 Valores mdios da mediana, mdia, limite inferior (LI), limite su-
perior (LS) do intervalo de confiana e amplitude do intervalo (A)
obtidos para o erro quadrtico mdio para as estimativas dos valo-
res preditos - EQM(y), dos valores aditivos - EQM(a) e dos valores
de dominncia EQM(d) para os quatro tipos de delineamento con-
siderando no processo de simulao que 2a = 2 e 2d = 0. . . . . 59
20 Valores mdios da mediana, mdia, limite inferior (LI), limite su-
perior (LS) do intervalo de confiana e amplitude do intervalo (A)
obtidos para o vis das estimativas dos valores preditos - B(y), dos
valores aditivos - B(a) e dos valores de dominncia- B(d) para os
quatro tipos de delineamento considerando no processo de simu-
lao que 2a = 2 e 2d = 0. . . . . . . . . . . . . . . . . . . . . . 60
21 Valores mdios da mediana, mdia, limite inferior (LI), limite su-
perior (LS) do intervalo de confiana e amplitude do intervalo (A)
obtidos para as estimativas das componentes da varincia aditiva
(2a), de dominncia (2d) e do erro (
2) para os quatro tipos de de-
lineamento considerando no processo de simulao que 2a = 0, 5
e 2d = 0, 125 . . . . . . . . . . . . . . . . . . . . . . . . . . . . 61
v
-
22 Valores mdios da mediana, mdia, limite inferior (LI), limite su-
perior (LS) do intervalo de confiana e amplitude do intervalo (A)
obtidos para as correlaes entre valores aditivos (a) e valores de
dominncia (d) paramtricos e suas respectivas estimativas e as
correlaes entre os valores preditos (y) e estimados para os qua-
tro tipos de delineamento considerando no processo de simulao
que 2a = 0, 5 e 2d = 0, 125. . . . . . . . . . . . . . . . . . . . . 62
23 Valores mdios da mediana, mdia, limite inferior (LI), limite su-
perior (LS) do intervalo de confiana e amplitude do intervalo (A)
obtidos para o erro quadrtico mdio para as estimativas dos valo-
res preditos - EQM(y), dos valores aditivos - EQM(a) e dos valores
de dominncia EQM(d) para os quatro tipos de delineamento con-
siderando no processo de simulao que 2a = 0, 5 e 2d = 0, 125. . 63
24 Valores mdios da mediana, mdia, limite inferior (LI), limite su-
perior (LS) do intervalo de confiana e amplitude do intervalo (A)
obtidos para o vis das estimativas dos valores preditos - B(y), dos
valores aditivos - B(a) e dos valores de dominncia- B(d) para os
quatro tipos de delineamento considerando no processo de simu-
lao que 2a = 0, 5 e 2d = 0, 125. . . . . . . . . . . . . . . . . . 64
25 Valores mdios da mediana, mdia, limite inferior (LI), limite su-
perior (LS) do intervalo de confiana e amplitude do intervalo (A)
obtidos para as estimativas das componentes da varincia aditiva
(2a), de dominncia (2d) e do erro (
2) para os quatro tipos de
delineamento considerando no processo de simulao que 2a = 1
e 2d = 0, 25. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 65
vi
-
26 Valores mdios da mediana, mdia, limite inferior (LI), limite su-
perior (LS) do intervalo de confiana e amplitude do intervalo (A)
obtidos para as correlaes entre valores aditivos (a) e valores de
dominncia (d) paramtricos e suas respectivas estimativas e as
correlaes entre os valores preditos (y) e estimados para os qua-
tro tipos de delineamento considerando no processo de simulao
que 2a = 1 e 2d = 0, 25. . . . . . . . . . . . . . . . . . . . . . . 66
27 Valores mdios da mediana, mdia, limite inferior (LI), limite su-
perior (LS) do intervalo de confiana e amplitude do intervalo (A)
obtidos para o erro quadrtico mdio para as estimativas dos valo-
res preditos - EQM(y), dos valores aditivos - EQM(a) e dos valores
de dominncia EQM(d) para os quatro tipos de delineamento con-
siderando no processo de simulao que 2a = 1 e 2d = 0, 25. . . 67
28 Valores mdios da mediana, mdia, limite inferior (LI), limite su-
perior (LS) do intervalo de confiana e amplitude do intervalo (A)
obtidos para o vis das estimativas dos valores preditos - B(y), dos
valores aditivos - B(a) e dos valores de dominncia- B(d) para os
quatro tipos de delineamento considerando no processo de simu-
lao que 2a = 1 e 2d = 0, 25. . . . . . . . . . . . . . . . . . . . 68
vii
-
LISTA DE FIGURAS
1 Uma soluo possvel para o Sistema triplo de Steiner. . . . . . . 7
2 Uma soluo possvel para o Delineamento em Ltice Quadrado
4x4. As letras maisculas latinas referem-se aos tratamentos e
cada linha representa uma repetio (ou bloco completo ou "su-
perbloco"). Os blocos dentro de cada linha esto dispostos nas
colunas. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8
3 Histogramas, mdias e grfico da aproximao normal para as es-
timativas das componentes da varincia com 2a = 2 e 2d =
2a/4 35
4 Histogramas, mdias e grfico da aproximao normal para as es-
timativas das componentes da varincia com 2a = 2 e 2d =
2a/4 36
5 Histogramas, mdias e grfico da aproximao normal as corre-
laes entre o valor aditivo (a) e a de dominncia (d) paramtrico
com suas respectivas estimativas com 2a = 2 e 2d =
2a/4 . . . . 37
6 Histogramas, mdias e grfico da aproximao normal as corre-
laes entre o valor aditivo (a) e a de dominncia (d) paramtrico
com suas respectivas estimativas com 2a = 2 e 2d =
2a/4 . . . . 38
7 Histogramas, mdias e grfico da aproximao normal para os
EQM das estimativas de y, do valor aditivo(a) e de dominncia
(d) com 2a = 2 e 2d =
2a/4 . . . . . . . . . . . . . . . . . . . . 39
8 Histogramas, mdias e grfico da aproximao normal para os
EQM das estimativas de y, do valor aditivo(a) e de dominncia
(d) com 2a = 2 e 2d =
2a/4 . . . . . . . . . . . . . . . . . . . . 40
viii
-
9 Histogramas, mdias e grfico da aproximao normal para o vis
das estimativas de y, do valor aditivo(a) e de dominncia (d) com
2a = 2 e 2d =
2a/4 . . . . . . . . . . . . . . . . . . . . . . . . 41
10 Histogramas, mdias e grfico da aproximao normal para o vis
das estimativas de y, do valor aditivo(a) e de dominncia (d) com
2a = 2 e 2d =
2a/4 . . . . . . . . . . . . . . . . . . . . . . . . 42
11 Eficincia, C(LQB16)/C(STS15), em funo das varincias aditiva
e dominante . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 43
ix
-
RESUMO
ALVES, Rosiana Rodrigues. Sistemas Triplos de Steiner incompletos versusLtices Quadrados Balanceados para a anlise diallica. 2009. 68p. Disser-tao (Mestrado em Estatstica e Experimentao Agropecuria) - UniversidadeFederal de Lavras, Lavras, MG, Brasil. *
O objetivo deste trabalho comparar a eficincia de uma frao de um Sis-tema Triplo de Steiner (STS) para quinze tratamentos ao delineamento em LticeQuadrado 4x4 Balanceado (LQB). Foram simulados experimentos com 16 ou 15tratamentos. Nos primeiros foram sorteadas 5 repeties do STS aumentadas em 1tratamento cada e nos ltimos, um tratamento do ltice foi repetido. Para simularos tratamentos foi constitudo um dialelo com 6 pais (15 prognies) e 1 prognie depais independentes foi adicionada, quando necessrio. O LQB foi sempre balan-ceado com 5 repeties (80 parcelas). Para o STS utilizou-se 75 parcelas (frao5/7 do STS de 15 tratamentos). Para cada situao foram gerados 5000 experi-mentos. Foram calculadas estimativas REML das componentes da varincia e dosvalores genticos aditivos e dominantes. Os intervalos de confiana para todasas estimativas foi bastante semelhante, em todos os casos. Para um nmero deparcelas equivalente, o STS foi mais eficiente que o LQB para minimizar o erro naseleo de pais em diversas combinaes de componentes das varincias aditiva ede dominncia. Os STS so to eficientes quanto os ltices, usando menor nmerode parcelas e devem ser usados quando o nmero de tratamentos de um dialelo forpropcio.
Palavras-chave: blocos incompletos, dialelos, eficincia de delineamentos,modelos mistos
*Orientador: Jlio Slvio Sousa Bueno Filho -UFLA .
x
-
ABSTRACT
ALVES, Rosiana Rosdrigues. Incomplete Steiner Triple Systems over balancedsquare lattices to diallel analysis. 2009. 68p. Dissertation (Master in Statisticsand Agricultural Experimentation) - Federal University of Lavras, Lavras, MG,Brazil.*
The aim of this work was to compare a fraction of a 15 treatments SteinerTriple Systems (STS) to a 4x4 balanced square lattice design (LQB). We simulateexperiments with 15 or 16 treatments. To the former, 5 superblocks of the STS wasaugmented of 1 treatment each. To the LQB one treatment was repeated if only 15was in the experiment. To simulate treatment effects, a diallel cross was assembledwith 6 parents (15 progeny). An adictional progeny of independent parents wasadded when an extra treatment was needed. LQB was balanced with 5 superblocks(80 plots). THe fraction of the STS used just 75 plots. For each experimentalsituation 5000 runs where simulated. REML estimates of variance components,as well as additive and dominance effects where worked out. Confidence limitsfor all estimates where very similar in all cases. To an equivalent size experiment,STS was more efficient than LQB in minimizing the error on parent selection inseveral combinations of additive and dominance variance components. STS areas efficient as LQB with fewer plots and should be used as a good alternative fordiallels when treatment number is suitable.
Key words: design efficiency, diallels, incomplete block designs, mixed models
*Adviser: Prof. Dr. Jlio Slvio Sousa Bueno Filho - UFLA
xi
-
1 INTRODUO
O delineamento em blocos tem por objetivo controlar a heterogeneidade
do ambiente experimental em subambientes homogneos, os quais constituem os
blocos. No entanto, em reas como melhoramento gentico de plantas ou animais,
geralmente, o nmero de tratamentos muito grande, o que torna impraticvel
conseguir tais subambientes (blocos) homogneos.
Do mesmo modo os ensaios fatoriais apresentam, muitas vezes, grande
nmero de tratamentos dificultando a alocao desses em blocos completos. Os
dialelos so um tipo de fatorial especial, com fatores homlogos, bastante utilizado
no melhoramento gentico. Nos dialelos completos com p pais surgem p(p1)/2
cruzamentos, que constituem, em geral, os tratamentos de um delineamento em
blocos incompletos.
No delineamento em ltice quadrado (LQ) balanceado (LQB) o nmero de
tratamentos com v = k2 tratamentos so dispostos em b blocos de k parcelas e
k 1 repeties. O ltice quadrado representa uma importante classe de delinea-
mentos, muito utilizado em gentica e melhoramento de plantas principalmente
quando tem-se um grande nmero de tratamentos (Hinkelman & Kempthorne,
2005). Este delineamento, no entanto, um pouco restritivo quanto ao nmero
de tratamentos a ser testado.
Por exemplo, para ensaio diallico com 15 pais e 105 prognies, seria
muito difcil obter um bloco homogneo desse tamanho. Para contornar esse
problema so em geral utilizados os delineamentos em blocos incompletos (DBI).
Como os ltices quadrados so os blocos incompletos mais conhecidos e utiliza-
dos, em geral procura-se adaptar o nmero de tratamentos para obter um sorteio
apropriado de ltice. No exemplo, ao invs de 105 tratamentos, seriam avaliados,
1
-
por exemplo, 121 tratamentos em um ltice 11x11.
Os sistemas triplos de steiner (STS) so derivados de um problema combi-
natrio apresentado por Kirkman em 1850. Um STS de ordem (v) um conjunto
triplas (blocos) construdo sobre o conjunto v de pontos, tal que cada par distinto
ocorre em uma nica tripla (Kaski, 2003). O STS um exemplo de delineamento
em blocos incompleto resolvable com blocos de tamanho 3 (k = 3).
Para um mesmo nmero de tratamentos possvel encontrar STS e LQ
com nmeros de parcelas total prximo. Isto permite comparar estes delineamen-
tos quanto ao tamanho de blocos pois ambos so parcialmente balanceados. Este
tipo de comparao permite generalizaes sobre o tamanho de blocos em outros
delineamentos em blocos incompletos
O objetivo deste trabalho comparar a eficincia de qualquer frao 5/7
STS com LQB de tamanho prximo via simulao. Esta comparao pode permitir
generalizaes sobre DBI semelhantes com tamanhos de blocos diferentes.
2
-
2 REFERENCIAL TERICO
2.1 Delineamento em Blocos Incompletos
O principal objetivo da blocagem identificar blocos com unidades ho-
mogneas que permitam comparaes mais precisas entre os tratamentos por meio
da eliminao da maior diferena entre as unidades em diferentes blocos. Os blo-
cos e parcelas devem ser escolhidos para maximizar a diferena entre parcelas em
diferentes blocos e minimizar a diferena entre parcelas do mesmo bloco. A infe-
rncia em experimentos blocados predominantemente baseada em comparaes
que podem ser feitas entre tratamentos em um mesmo bloco. Se dois tratamentos
no ocorrem juntos em um mesmo bloco s possvel fazer a comparao entre
eles se cada um ocorrer com um terceiro tratamento em comum (Mead, 1988).
Nas situaes em que o nmero de tratamentos muito grande os blo-
cos no controlam a heterogeneidade ou os blocos no conseguem alocar todos
os tratamentos. Situaes desse tipo ocorrem, frequentemente, devido s dificul-
dades de se encontrarem reas experimentais que sejam uniformes em toda a sua
extenso ou suficientes para abrigarem blocos que contenham todos os tratamen-
tos a serem avaliados, ou at mesmo pela carncia de instrumentos ou aparelhos
experimentais.
O emprego de um delineamento em blocos casualizados completos (DBC),
nessa situao, faz com que sua eficincia seja sensivelmente prejudicada e dimi-
nuda medida que o nmero de parcelas por bloco aumenta. A heterogeneidade
dentro do bloco tende a aumentar o erro experimental, dificultando, assim, a dis-
criminao dos tratamentos em teste, ou a obteno de estimativas mais exatas, em
razo de uma menor preciso do experimento (Ramalho et al., 2005).
Os delineamentos em blocos incompletos (DBI) foram introduzidos por
3
-
Yates em 1936 com o objetivo de diminuir a heterogeneidade dentro dos blocos
(Hinkelman & Kempthorne, 2005).
Os delineamentos em blocos incompletos podem ser classificados em duas
categorias, conforme o agrupamento dos seus blocos:
i) delineamentos solveis - casos em que os blocos podem ser agrupados
em repeties;
ii) delineamentos no solveis - casos em que os blocos no podem ser
agrupados em repeties.
Em um DBI v tratamentos so distribudos em b blocos de tamanho k < v
e o i-simo tratamento (i = 1, 2, . . . , v) aparece em r unidades experimentais, isto
, tm-se r repeties desse tratamento; o j-simo bloco contm k unidades expe-
rimentais, das quais nij recebem o i-simo tratamento (Hinkelman & Kempthorne,
2005).
Para que um DBI seja um bloco incompleto balanceado (BIB) necessrio
que quaisquer dois tratamentos ocorram juntos em algum bloco o mesmo nmero
de vezes (). Assim, todos os contrastes so estimados com a mesma preciso.
Para alcanar o balanceamento completo, em muitos casos, um grande nmero
de repeties exigido. Com objetivo de contornar esse problema que surgiu o
delineamento em blocos incompletos parcialmente balanceado (PBIB).
No PBIB os tratamentos que ocorrem juntos no mesmo bloco so chama-
dos de primeiros associados. E, os tratamentos que no ocorrem juntos no mesmo
bloco so chamados de segundos associados.
Seja Nvb a matriz de incidncia dos tratamentos nos blocos cujos ele-
mentos nij = 0 ou 1, indicando a ausncia ou a presena do tratamento no bloco.
Portanto, = NNvv a matriz de concorrncia dos tratamentos. As igualdades
matriciais apresentadas a seguir so teis teoria de blocos incompletos.
4
-
Inversa de uma matriz particionada :
A BC D
1 = I A1B
0 I
A1 0(D CA1B)1CA1 (D CA1B)1
,que pode ser reescrita como:
A BC D
1 = A1 0
0 0
+ A1B
I
(D CA1B)1 [ CA1 I ] .Fazendo a equivalncia as matrizes usuais de um DBI aplicado a um mo-
delo que apresenta mais de um efeito, como por exemplo um modelo misto que
uma parte da matriz representa os efeitos fixos e a outra os efeitos aleatrios, tem-
se:
ZZ ZXX
Z X
X
1 = kIb N
N rIv
1 .
Ento,
kIb NN rIv
1 = 1kIb
+ 1kN
I
(rIv 1kNN)1 [ 1kN I ] .Portanto, Var() = (rIv 1k)
1, em que = NN
= (r 1)I + J .
Logo,
Var() =(rI (r 1)I
k Jk
)1= k((rk r + 1)I J)1 =
k
rk r + 1(I J
rk r + 1 + v
).
Em que:
5
-
r : nmero de repeties;
v : nmero de tratamentos;
b : nmero de blocos;
k : tamanho do bloco;
I : matriz identidade;
J : matriz cujos elementos so iguais a 1;
N : matriz de incidncia dos tratamentos nos blocos.
(*) Caso especial de inversa: (aIn + b Jn)1 =1a
(In
b
a+ nbJn).
2.2 Sistema Triplo de Steiner (STS)
Em 1850 o reverendo T.P. Kirkman apresentou o seguinte problema no
Ladys and Gentlemens Diary. Quinze jovens saem de uma escola em trios em
sete dias consecutivos: necessrio organiz-las diariamente de modo que nen-
hum par de garotas fique junto mais de um dia. Kirkman publicou uma soluo
para este problema neste mesmo ano. A busca de uma soluo para o problema
geral de organizar v 3(mod6), em que 3 resto da diviso inteira por 6, jovens
em grupos de trs, ao longo de um srie de (v 1)/2 dias ficou conhecido como
Kirkman Schoolgirl Problem, um dos mais famosos problemas em teoria combi-
natria (Rees & Wallis, 2003). O estudo de diversas generalizaes do Kirkman
Schoolgirl Problem continua sendo uma rea de investigao muito ativa.
Cada ponto de um STS (v) incide exatamente em r blocos, e o nmero
total de blocos em um STS (v) b, em que:
6
-
r = (v 1)/2 b = v(v 1)/6
Um STS(v) existe se e somente se v 1(mod6) ou v 3(mod6) (Kaski, 2003).
O STS pode ser usado como um delineamento em blocos incompletos balanceados
(BIB) com bloco de tamanho 3(k = 3). A figura 1 apresenta um exemplo de
uma das solues possveis ao Kirkman Schoolgirl Problem, em que cada letra
representa uma garota .
FIGURA 1 Uma soluo possvel para o Sistema triplo de Steiner.
2.3 Delineamento em Ltice
Os delineamentos em ltice foram desenvolvidos para experimentos em
agricultura de grande escala em que um grande nmero de variedades eram com-
parados. Atualmente a principal aplicao continua sendo na agricultura. Uma
caracterstica especial do delineamento em ltice que o nmero de tratamen-
tos (v), relacionado com o tamanho do bloco (k) de forma que v = k2 (ltice
quadrado), v = k3 (ltice cbico) ou v = k(k + 1) (ltice retangular) (Hinkelman
& Kempthorne, 2005). Mesmo que exista um limite para o nmero de arranjos
possveis esse tipo de delineamento muito utilizado principalmente quando o
7
-
nmero de tratamentos muito grande.
O ltice balanceado apresenta as mesmas propriedades que um BIB, em
que cada tratamento ocorre uma vez em conjunto com cada um dos demais trata-
mentos no mesmo bloco, dentro dessa classe o mais utilizado ltice quadrado
(LQB). O ltice pode ser parcialmente balanceado, em que apenas uma parte das
repeties ocorre, assim eles apresentam as mesmas propriedades de delineamen-
tos parcialmente balanceados (PBIB).
Os ltices podem ser classificados de acordo com nmero de arranjos,
como por exemplo o ltice simples apresenta apenas um arranjo bsico, ou seja,
duas repeties e o ltice triplo com trs arranjos bsicos. Mas em algumas situ-
aes, por problemas combinatrios ou de planejamento so repetidos os arranjos
bsicos para se tornar vivel a implementao de arranjos ortogonais. Com isso
so construdos ltices duplicados ou triplicados pela repetio de planos bsicos
do ltice simples ou triplo (Tome et al., 2002).
FIGURA 2 Uma soluo possvel para o Delineamento em Ltice Quadrado 4x4.As letras maisculas latinas referem-se aos tratamentos e cada linharepresenta uma repetio (ou bloco completo ou "superbloco"). Osblocos dentro de cada linha esto dispostos nas colunas.
8
-
2.4 Modelos Mistos
Um modelo muito utilizado para descrever os dados em experimentos em
gentica modelo linear misto. O modelo linear misto descrito por Henderson
apresentado por White & Hodge (1989):
y = X + Zu + e (2.1)
em que:
y vetor das observaes de dimenso n x 1;
vetor dos efeitos fixos de dimenso t x 1;
X matriz de delineamento dos efeitos fixos de dimenso n x t;
u vetor de efeitos aleatrios de dimenso s x 1;
Z matriz de delineamento do efeitos aleatrios de dimenso n x s;
e vetor de efeitos aleatrios associados com os componentes do erro experimental
de dimenso n x 1;
n, t, s nmero total de observaes, nmero de fatores com efeito fixo e nmero
de fatores com efeito aleatrio respectivamente.
Para definir se um conjunto de efeitos, deve ser considerado fixo ou aleatrio,
a maior preocupao a inferncia a ser feita. Se o interesse principal consiste nos
nveis do tratamentos no experimento, ento esses tratamentos devem ser consid-
erados de efeitos fixos. Neste caso, os nveis dos tratamentos representam toda
populao dos tratamentos aos quais se aplicaro as inferncias. Por outro lado,
se a concluso se aplica a uma ampla populao de qual os nveis dos tratamentos
de um determinado fator no experimento so apenas uma amostra, ento o fator
9
-
aleatrio (White & Hodge, 1989). Nveis de irrigao, doses de adubo, espaa-
mento entre plantas so tipos de fatores que podem ser tratados como de efeitos
fixos. Efeito de ano, locais e blocos so exemplos de fatores que podem ser con-
siderados de efeito fixo ou aleatrio dependendo do objetivo da anlise. Os valores
genticos so considerados muitas vezes como fatores de efeitos aleatrios.
Para o ajuste do modelo misto a anlise de verossimilhana restrita que
realizada em duas partes. A primeira a estimao dos efeitos fixos que consiste
encontrar efeito mdio de tratamento, calculados por exemplo pelo mtodo de m-
nimos quadrados. Por ser utilizado um modelo fixo no importa a distribuio de
probabilidade deste efeito, mas apenas a distribuio do erro experimental (Tome
et al., 2002). A segunda a estimao das componentes da varincia dos efeitos
aleatrios, um dos mtodos para a estimao dos componentes da varincia ser
descrito na seo 2.6. Por exemplo para estimar os componentes da varincia
genotpica (2g ), necessrio estimar os componentes da varincia aditiva (2a),
frao referente aos efeitos mdios dos alelos, e da varincia de dominncia (2d),
frao referente a ao allica interao intra-loci. (Cruz & Carneiro, 2006). O
modelo matricial para explicar um conjunto de dados, por exemplo um ensaio di-
allico, que apresenta efeito aditivo e dominante seria:
y = X + Za + Wd + e (2.2)
y, ,a,d, e vetores de dados, dos efeitos fixos, dos efeitos genticos aditivos, dos
efeitos de dominncia, dos erros aleatrios, respectivamente
X,Z,W matrizes de delineamento para , a, e d respectivamente.
.
10
-
2.5 Anlise Diallica
Ensaios diallicos so casos especiais de fatoriais com fatores homlogos.
Um dialelo um conjunto de p(p-1)/2 prognies entre p genitores, podendo in-
cluir, alm dos respectivos pais, os hbridos recprocos e, ou, outras geraes rela-
cionadas, tais como F 2s, retrocruzamentos. Diversos tipos de dialelos podem ser
utilizadas: completos, parciais, circulantes, incompletos e desbalanceados. Destes,
merece destaque o dialelo balanceado descrito por Griffing (1956). Na Tabela 1
apresenta o esquema de um dialelo completo.
TABELA 1 Esquema representativo de um cruzamento diallico com 4 genitoresmostrando apenas a gerao F1 ou hbridos. Na tabela, yij repre-senta o cruzamento do pai i com a me j.
Pais 1 2 3 41 - y12 y13 y142 - y23 y243 - y344 -
A metodologia de Griffing (1956) aplicada a um grupo de genitores com
qualquer nvel de endogamia e d informaes a respeito da capacidade geral e
especfica de combinao. A capacidade geral de combinao (CGC) descreve
o comportamento mdio de um progenitor numa srie de combinaes hbridas
e est associado aos efeitos dos alelos, e s aes epistticas do tipo aditivo. O
termo capacidade especfica de combinao utilizado para apontar certas combi-
naes hbridas que so relativamente superiores ou inferiores diante do que seria
esperado com base na CGC e est associado aos efeitos de dominncia dos genes.
Cruz & Regazzi (2004) apresentam os esquemas de anlise de varincia para diale-
los balanceados utilizando o mtodo de mnimos quadrados e sistema de equaes
11
-
normais para um modelo fixo.
Resende (2002) descreve um esquema para anlise diallica de um modelo
misto com efeitos aleatrios aditivos e dominncia estimando a varincia do erro
(2), a varincia aditiva (2a) e a varincia de dominncia (2d) utilizando o mtodo
da mxima verossimilhana restrita (REML) via algoritmo EM. Note que, este
tipo de abordagem comum no melhoramento animal, mas para o melhoramento
vegetal esta foi uma das primeiras propostas no Brasil.
2.6 Estimao de Componentes da varincia
O procedimento mais difundido na literatura para a estimao das com-
ponentes da varincia, o mtodo da mxima verossimilhana restrita (REML),
proposto no contexto da recuperao da informao interblocos em blocos de ta-
manhos diferentes por Patterson & Thompson (1971). Em resumo a estimao
REML consiste na estimao das componentes da varincia dos resduos efetivos
calculadas depois do ajuste por mnimos quadrados para a parte dos efeitos fixos
do modelo (Searle et al., 2006).
A estimao da mxima verossimilhana (ML) usa como estimadores de
e V os valores de e V que maximizam a funo de verossimilhana(L). E
este mximo obtido por derivao da funo de verossimilhana em relao ao
parmetro de interesse. O mximo da funo de verossimilhana pode ser encon-
trado maximizando o logaritmo da funo de verossimilhana, que est represen-
tado na equao 2.3.
l = logL = 12nlog|2| 1
2log|V| 1
2(y X)V1(yX). (2.3)
Os estimadores ML so viciados em decorrncia da perda de graus de
liberdade devida a estimao dos efeitos fixos. A estimao ML de componentes
12
-
considera que todos os efeitos fixos so conhecidos sem erro. Patterson & Thom-
pson (1971) apresentaram uma correo ao ML eliminando esse vcio. No mtodo
REML apenas a parte referente aos efeitos aleatrios maximizada. A estimao
REML calculada a partir da maximizao da funo verossimilhana restrita ou
pela maximizao do log da funo de verossimilhana restrita(2.4)
lr = logLR = 12|n r|log2 1
2log|KVK| 1
2yK(KVK)1Ky. (2.4)
em que :
V = ZAZ2a + WDW2d + I
2
K = c[I X(XX) X]
e,
A = I(q) matriz identidade de ordem q (nmero de efeitos aditivos)
D = I(c) matriz identidade de ordem c (nmero de efeitos de dominncia)
A estimao da mxima verossimilhana restrita calculada igualando a
primeira derivada da log-verossimilhana a zero. Para realizar o clculo dessa
expresso, que nem sempre se resolve analiticamente, so utilizados mtodos ite-
rativos, como por exemplo, o algoritmo EM e o mtodo Newton-Raphson (Searle
et al., 2006).
O mtodo Newton-Raphson comumente utilizado para maximizar funes
no-lineares e o processo e feito de tal modo que a cada etapa do mtodo so ge-
radas novas estimativas, e estas so usada como valores iniciais do passo seguinte
13
-
e deste modo o mtodo segue at convergir. Searle et al. (2006) descreveram as
equaes para REML via Newton-Raphson. A expresso de cada etapa do mtodo
:
m+1 = (m) Hm1Jm (2.5)
em que:
vetor da componentes a serem estimadas (2.6)
m o valor inicial ou valor estimado na etapa anterior(m) para
H a hessiana, conforme apresentado em (2.8)
J o jacobiano, conforme apresentado em (2.7)
=
2a
2d
2
(2.6)
J =
lr2a
lr2dlr2
(2.7)
H =
2lr
2(2a)2
2lr2a
2d
2lr2a
2
2lr2a
2d
2lr2(2d)
22lr
2d2
2lr2a
22lr
2d2
2lr2(2)2
(2.8)
lr
2a= 1
2tr(PZZ) +
12
y(PZZP)y (2.9)
14
-
em que, fazendo P = V1 V1X(XV1X)XV1, com P sendo uma matriz
idempotente,
lr
2d= 1
2tr(PWW) +
12
y(PWWP)y (2.10)
lr
2= 1
2tr(P) +
12
y(P)y (2.11)
2lr
2(2a)2= 1
2tr(PZZPZZ) + y(PZZPZZP)y (2.12)
2lr
2(2d)2
= 12tr(PWWPWW) + y(PWWPWWP)y (2.13)
2lr
2(2)2= 1
2tr(P) + y(P)y (2.14)
2lr
2a2d
= 12tr(PWWPZZ) + y(PWWPZZP)y (2.15)
2lr
2a2
= 12tr(PZZ) + y(PZZP)y (2.16)
2lr
2d2
= 12tr(PWW) + y(PWWP)y (2.17)
A varincia das estimativas das componentes da varincia obtidas atravs
da matriz de informao (I):
15
-
I = E[H]
V = I1 (2.18)
em que
V a matriz de varincia-covarincia.
O nome algoritmo EM (do ingls expectation-maximization) foi dado
porque ele alterna entre calcular o valor esperana condicional e maximizar veros-
similhana simplificadas (Searle et al., 2006). Esse algoritmo difere do Newton-
Raphson pois ele apenas estima componentes da mdia e da varincia e no gera
estimativas da varincia como um subproduto. Para obter estimativas da varincia
clculos extras devem ser realizados. O algoritmo EM, de acordo com Searle et al.
(2006) segue os seguintes passos:
Passo 0 Obter um valor inicial 2(0). m = 0
Passo 1(Passo-E) Calcular:
t(m)i =
4(m)i y
P(m)ZiZiP(m)y + tr[2(m)i Iqi
4(m)i Z
iP
(m)Zi] (2.19)
Passo 1 (Passo M) Maximiza a verossimilhana
2i = t(m)i /qi (2.20)
Passo 3 Se a convergncia atingida, tem-se 2 = 2(m+1), caso contrrio re-
tornar ao passo 1.
16
-
Fazendo os devidos ajustes, as estimativas das componentes da varincia
obitidas por:
2 = [yy Xy aZy dWy]/[n r(X)] (2.21)
2a = [aA1a + 2tr(ZZ + A1
2
2a)] (2.22)
2d = [dD1d + 2tr(WW + D1
2
2d)] (2.23)
17
-
3 MATERIAL E MTODOS
3.1 Situaes Simuladas
Para avaliar a eficincia de um STS em relao ao LQB foram simuladas
algumas situaes experimentais. Dentro de um STS com 7 repeties e 5 blocos
por repetio foram sorteados os 21 delineamentos possveis com 5 repeties. Em
cada situao experimental foram simulados 5000 experimentos. Os delineamen-
tos simulados apresentaram a seguinte estrutura:
1. 16 tratamentos distribudos em um LQB 4X4, com 5 repeties, 4 blocos por
repetio e cada repetio com 4 tratamentos. LQB16- BIB ( = 16, k =
4, r = 5, = 1, b = 20), com 80 parcelas.
2. 16 tratamentos distribudos no STS, com 5 repeties, 5 blocos por repetio
e 4 blocos com 3 tratamentos e um com 4. STS16 caracterizados como
delineamento em blocos incompletos imprrios com k1 = 3 e k2 = 4 com
80 parcelas.
3. 15 tratamentos distribudos em um LQB 4X4, sendo que um dos tratamentos
foi repetido para completar o nmero de tratamentos por repetio. LQB15 -
BI ( = 15, k = 4, r = 5, = 1, b = 20), com 80 parcelas. Nessa situao
o foram simulados 15 delineamentos diferentes. A cada delineamento um
dos 15 tratamentos era repetido.
4. 15 tratamentos no STS, com 5 repeties, 5 blocos e cada bloco com 3
tratamentos. STS15 - BI ( = 15, k = 3, r = 5, 1 = 0, 2 = 1, b = 25),
com 75 parcelas. Frao 5/7 de um STS completo.
18
-
3.2 Modelo de Simulao
O modelo gentico utilizado para simulao nesse trabalho foi o dialelo
aditivo-dominante (Resende, 2002):
y = Xr + Xb + Za + Wd + e
y, r, b, a, d, e vetores de dados, dos efeitos das repeties , dos blocos, dos efeitos
genticos aditivos (aleatrio), dos efeitos de dominncia (aleatrio), dos er-
ros aleatrios, respectivamente
X,Z,W matrizes de delineamento para r, b, a, e d respectivamente.
Os valores paramtricos utilizados nas simulaes foram:
b20x1 N(0, 1) (LQB) ou
b25x1 N(0, 1) (STS)
enx1 N(0, 1)
avx1 N(0, 0.5), ou N(0, 1), ou N(0, 2)
dvx1 N(0, 0), ou N(0, 2a/4)
3.3 Modelo de Anlise
Cada situao foi analisada segundo o modelo:
yijk = + i + j + kj + eijk
yijk o valor observado do tratamento i no bloco k, dentro da repetio j;
uma constante associada ao modelo;
19
-
i = 12ai +12ai + dii o efeito do i-simo tratamento ,em que
ai o efeito aditivo do pai i
aj o efeito aditivo do pai j
dij o efeito de dominncia
j o efeito da j-sima repetio
kj o efeito do bloco k dentro da repetio j, suposto fixo;
eijk o erro associado a yijk observao
Foram calculadas estimativas das componentes da varincia e dos valores
genticos aditivos e dominantes atravs do processo de Mxima Verossimilhana
Restrita (REML). O mtodo iterativo utilizado para calcular as estimativas REML
foi o algoritmo EM.
Para comparao dos delineamentos foram utilizadas as correlaes en-
tre os valores estimados e os valores paramtricos, os erros quadrticos mdios
(EQM) e os vieses das estimativas. Para cada parmetro (estimador) foram tam-
bm calculados estatsticas descritivas como a mdia, a mediana, intervalo de con-
fiana e a distribuio de frequncias.
3.4 Clculo da esperana da simulao
Um outro mtodo utilizado para comparar os delineamentos foi o critrio
apresentado por Bueno Filho & Gilmour (2003). Esse critrio baseado no princ-
pio que um delineamento, desde que nenhuma informao a priori seja conhecida,
est fortemente ligada a comparaes dois a dois. O critrio :
BG = v tr()vi=1
vj=1
ij (3.1)
20
-
em que
C o valor do critrio
v o nmero de tratamentos do efeito.
a uma parte da matriz M, que est representada pela equao 3.2
ij elemento de
M =
C11 C12 C13
C21 C22 C23
C31 C32 C33
=
XX XZ XW
ZX ZZ + 2
2aA1 ZW
WX WZ WW + 2
2dD1
1
(3.2)
Foi calculado o critrio seleo levando em considerao apenas dos efeitos adi-
tivos no LQB16 e STS15, nesse caso a matriz = C22. Esse o critrio utilizado
para seleo de pais. Para o calculo do critrio foram simuladas situaes variando
a varincia aditiva entre 1 e 4 e a de dominncia entre 0 e 1. A eficincia relativa
entre os delineamentos foi calculada fazendo uma razo entre o critrio do LQB16
e do STS15.
Os processos de simulao e anlises dos dados foram feitas no software
R (R DEVELOPMENT CORE TEAM, 2009).
3.5 Exemplo de anlise
Como exemplo de anlise foi feita a anlise de um dialelo em STS com-
pleto. A estimao dos componentes da varincia foi feita utilizando o algoritmo
EM com um passo Newton-Raphson para estimar as varincias das componentes
da varincia.
21
-
TABELA 2 Conjunto de dados simulados utilizado para anlise do exemplo
Rep Bloco Trat y Rep Bloco Trat y1 1 1 103.2 2 8 15 99.71 1 2 99.5 2 9 6 96.31 1 3 100.2 2 9 12 94.31 2 4 98.2 2 9 14 98.01 2 5 98.0 2 10 7 101.01 2 6 99.3 2 10 10 97.91 3 7 99.6 2 10 13 99.61 3 8 102.9 3 11 1 99.11 3 9 100.2 3 11 5 101.31 4 10 99.4 3 11 13 97.81 4 11 98.2 3 12 2 94.61 4 12 98.1 3 12 8 100.71 5 13 97.0 3 12 14 97.91 5 14 99.0 3 13 3 98.21 5 15 98.6 3 13 7 97.72 6 1 98.7 3 13 11 99.52 6 4 100.2 3 14 4 95.42 6 8 100.0 3 14 9 96.02 7 2 96.6 3 14 12 94.02 7 5 99.2 3 15 6 97.82 7 11 98.4 3 15 10 94.92 8 3 98.9 3 15 15 97.62 8 9 99.5
Primeiramente so definidos as matrizes de delineamento dos efeitos fixos
e aleatrios.
22
-
Matriz de delineamento dos efeitos fixos:
X =
Xm R1 R2 R3 B1 B2 B3 B4 . . . B15
1 1 0 0 1 0 0 0 . . . 0
1 1 0 0 1 0 0 0 . . . 0
1 1 0 0 1 0 0 0 . . . 0
1 1 0 0 0 1 0 0 . . . 0
1 1 0 0 0 1 0 0 . . . 0
1 1 0 0 0 1 0 0 . . . 0
1 1 0 0 0 0 1 0 . . . 0...
......
......
......
.... . .
...
1 0 0 1 0 0 0 0 . . . 1
Matrizes de delineamento dos efeitos aleatrios:
Z =
P1 P2 P6
0.5 0.5 0.0
0.5 0.0 0.0
0.5 0.0 0.0
0.5 0.0 0.0
0.5 0.0 0.5
0.0 0.5 0.0
0.0 0.5 0.0...
.... . .
...
0.0 0.0 0.0
W =
I1 I2 I15
1 0 0
0 1 0
0 0 0
0 0 0
0 0 0
0 0 0
0 0 0...
.... . .
...
0 0 0
23
-
Aps a definio das matrizes de delineamento e do vetor que est apre-
sentado na tabela 3 na iterao zero, necessrio definir as matrizes A e D como
apresentado na seo 2.6 e definir o valor para um chute inicial para as compo-
nentes da varincia e construir a matriz M, representada pela equao 3.2. A cada
passo do algoritmo so calculados a matriz M, que aqui est representada apenas
a da primeira iterao do algoritmo EM que matriz 3.5, o vetor = M1 Xy
e as componentes da varincia. O vetor traz as estimativas dos seguintes efeitos:
mdia (), repeties (), blocos (), aditivos (a) e de dominncia(d). As estima-
tivas das componentes da varincia so calculadas a cada passo como representado
nas equaes 2.21 da seo 2.6, a cada passo do EM at a convergncia. O vetor
e a estimativa das componentes da varincia na primeira, segunda, terceira e
dcima terceira interao, que foi quando ocorreu a convergncia das estimativas
das componentes da varincia, esto representados na tabela 3.
O valor do chute inicial para as varincias aditiva, de dominncia e do erro
foram respectivamente, 2, 0.5, e 1 e a matrizes A e D esto representadas pelas
matrizes 3.3 e 3.4 a seguir.
A =
1 0 0 0 0 0
0 1 0 0 0 0
0 0 1 0 0 0
0 0 0 1 0 0
0 0 0 0 1 0
0 0 0 0 0 1
(3.3)
24
-
D =
1 0 0 0 0 0 0 0 0 0 0 0 0 0 0
0 1 0 0 0 0 0 0 0 0 0 0 0 0 0
0 0 1 0 0 0 0 0 0 0 0 0 0 0 0
0 0 0 1 0 0 0 0 0 0 0 0 0 0 0
0 0 0 0 1 0 0 0 0 0 0 0 0 0 0
0 0 0 0 0 1 0 0 0 0 0 0 0 0 0
0 0 0 0 0 0 1 0 0 0 0 0 0 0 0
0 0 0 0 0 0 0 1 0 0 0 0 0 0 0
0 0 0 0 0 0 0 0 1 0 0 0 0 0 0
0 0 0 0 0 0 0 0 0 1 0 0 0 0 0
0 0 0 0 0 0 0 0 0 0 1 0 0 0 0
0 0 0 0 0 0 0 0 0 0 0 1 0 0 0
0 0 0 0 0 0 0 0 0 0 0 0 1 0 0
0 0 0 0 0 0 0 0 0 0 0 0 0 1 0
0 0 0 0 0 0 0 0 0 0 0 0 0 0 1
(3.4)
25
-
M=
Xm
R1
R3
B1
B15
P1
P6
I1
I15
Xm
45.0
15.0
15.0
3.0
3.0
7.50
7.50
3.0
3.0
R1
15.0
15.0
0.0
3.0
0.0
2.50
2.50
1.0
1.0
. . .. . .
. . .. .
.. . .
. . .. .
.. . .
. . .. .
.. . .
. . .. .
.. . .
R3
15.0
0.0
15.0
0.0
3.0
2.50
2.50
1.0
1.0
B1
3.0
3.0
0.0
3.0
0.0
1.50
0.00
1.0
0.0
. . .. . .
. . .. .
.. . .
. . .. .
.. . .
. . .. .
.. . .
. . .. .
.. . .
B15
3.0
0.0
3.0
0.0
3.0
0.00
0.50
0.0
1.0
P1
7.5
2.5
2.5
1.5
0.0
4.25
0.75
1.5
0.0
. . .. . .
. . .. .
.. . .
. . .. .
.. . .
. . .. .
.. . .
. . .. .
.. . .
P6
7.5
2.5
2.5
0.0
0.5
0.75
4.25
0.0
1.0
I1
3.0
1.0
1.0
1.0
0.0
1.50
0.00
5.0
0.0
. . .. . .
. . .. .
.. . .
. . .. .
.. . .
. . .. .
.. . .
. . .. .
.. . .
I15
3.0
1.0
1.0
0.0
1.0
0.00
1.50
0.0
5.0
(3.5
)
26
-
TABELA 3 Valores do vetor e para as componentes da varincia no chute ini-cial, passo 0, e para os passos 1, 2, 3 e 13 do algoritmo EM
Iteraes 0 1 2 3 13
0.6 24.2 24.2 24.2 24.2 -0.7 23.5 23.5 23.5 23.5
-2.1 22.6 22.6 22.6 22.60.4 7.1 7.1 7.2 7.3-2 3.4 3.3 3.2 3-0.1 5.4 5.4 5.4 5.4-0.5 4.9 5 5 5.1-1.5 3.4 3.4 3.4 3.4-0.2 4.8 4.7 4.6 4.50.4 4.7 4.7 4.7 4.8
0.5 5.3 5.3 5.3 5.4-1.3 2.4 2.4 2.3 2.20.4 6.3 6.4 6.5 6.61.2 6.2 6.2 6.3 6.30.8 4.5 4.5 4.4 4.30.7 5.8 5.9 5.9 6.1-1.6 2.1 2.1 2.2 2.20.1 3.9 3.9 3.9 3.8-0.9 -0.3 -0.3 -0.3 -0.31.1 1.4 1.5 1.5 1.5
a -1.9 -1.7 -1.7 -1.7 -1.7-1 -0.9 -0.9 -1 -10.8 0.9 0.9 1 0.9-1.5 0.6 0.6 0.6 0.60.8 0 0 0 0-1 -0.8 -0.9 -1 -1.20.2 -0.1 -0.1 -0.2 -0.30.5 0.2 0.3 0.4 0.50 0.5 0.6 0.6 0.80.4 0.5 0.7 0.8 1.0
d 0 -0.3 -0.4 -0.5 -0.60 0.8 0.9 1 1.30.6 -0.3 -0.4 -0.5 -0.6-0.4 -0.1 -0.1 -0.1 -0.20.5 0.1 0.1 0 0-0.6 -0.6 -0.6 -0.7 -0.9-0.5 -0.6 -0.7 -0.8 -11.6 0.7 0.8 1.0 1.30.1 0 -0.1 -0.1 -0.1
2a 2 2 2.4 2.8 5.62d 0.5 0.5 0.7 1 2.12 1 0.7 0.7 0.6 0.5
27
-
Aps o algoritmo EM realizado um passo do algoritmo Newton-Raphson
(NR) para calcular a varincia das componentes da varincia. O chute inicial para
as componentes da varincia calculadas no NR so os valores do ultimo passo
do EM. Para o calculo da matriz de varincia-covariancia necessrio calcular
o as matrizes jacobiano J e hessiana H, representadas para esse exemplo pelas
matrizes 3.6 3.7 como est explicado na seo 2.6 pelas equaes 2.7 a 2.18. Para
esse exemplo
J =
0.190
1.127
11.991
(3.6)
H =
0.008 0.008 0.004
0.008 0.011 0.002
0.004 0.002 75.009
(3.7)A matriz de varincia-covarincia calculada :
V =
446.99 333.99 0.01
333.99 338.73 0.01
0.01 0.01 0.01
(3.8)
28
-
4 RESULTADOS E DISCUSSO
Nesta seo sero apresentados e discutidos apenas os resultados da si-
mulao para a situao experimental em que a varincia aditiva e igual a dois
(2a = 2) e a varincia de dominncia igual a meio (2a = 0, 5) e para demais
simulaes os resultados foram similares e esto apresentados na seo 5.
As estimativas das componentes da varincia aditiva e de dominncia foram
superestimados enquanto a a estimativa da varincia do erro foi subestimada em
todos os delineamentos simulados. O intervalos de confiana apresentados para as
estimativas componentes da varincia aditiva, de dominncia e do erro ficaram so-
brepostas mostrando que delineamentos quanto as componentes da varincia so
semelhantes. A estimativa da varincia aditiva do LQB15 tratamentos apresentou
intervalo de confiana menor que o demais delineamentos, A = 7, 11, seguidos
pelo STS15 (A = 8, 38), LQB16 (A = 8, 75) e STS16 (A = 9, 70) respecti-
vamente. Os intervalos de confiana para a estimativa da varincia de dominn-
cia foram menores nos delineamentos em ltice, LQB15 (A = 1, 70) e LQB16
(A = 1, 16), que nos STS, STS15 (A = 2, 25) e STS16 (A = 2, 34). Os interva-
los de confiana para a varincia do erro apresentaram o mesmo comportamento
que os intervalos da varincia do erro.
A tabela 4 se refere aos valores mdios da mediana, mdia, limite inferior
(LI), limite superior (LS) do intervalo de confiana e amplitude do intervalo (A)
obtidos para as estimativas das componentes da varincia aditiva ( 2a), de domi-
nncia (2d) e do erro (2) para os quatro tipos de delineamento considerando no
processo de simulao que 2a = 2 e 2d = 0, 5.
29
-
TABELA 4 Valores mdios da mediana, mdia, limite inferior (LI), limite supe-rior (LS) do intervalo de confiana e amplitude do intervalo (A) obti-dos para as estimativas das componentes da varincia aditiva (2a), dedominncia (2d) e do erro (
2) para os quatro tipos de delineamentoconsiderando no processo de simulao que 2a = 2 e
2d = 0, 5
Delineamento LI Mediana Mdia LS A2a STS15 0,44 2,38 2,96 8,82 8,38
LQB15 0,43 2,13 2,60 7,54 7,11STS16 0,51 2,68 3,35 10,2 9,69LQB16 0,52 2,51 3,09 9,27 8,75
2d STS15 0,12 0,83 0,95 2,37 2,25LQB15 0,16 0,74 0,80 1,86 1,70STS16 0,15 0,85 0,97 2,49 2,34LQB16 0,17 0,79 0,88 2,14 1,97
2e STS15 0,43 0,73 0,76 1,25 0,82LQB15 0,49 0,78 0,80 1,21 0,72STS16 0,45 0,74 0,76 1,21 0,76LQB16 0,48 0,76 0,78 1,17 0,70
Os intervalos de confiana para as correlaes entre valores aditivos (a) e
valores de dominncia (d) paramtricos e suas respectivas estimativas ados e as
correlaes entre os valores preditos (y) e estimados no apresentam diferenas
entre os dois tipos de delineamento pois os intervalos alm de ficarem sobrepos-
tos as amplitudes (A) foram muito semelhantes. As correlaes apresentadas es-
to prximas de um, mostrando que anlise em questo precisa para o modelo
aditivo-dominante em todos os delineamentos.
A tabela 5 se refere aos valores mdios da mediana, mdia,limite inferior
(LI), limite superior (LS) do intervalo de confiana e amplitude do intervalo (A)
obtidos para as correlaes entre valores aditivos (a) e valores de dominncia (d)
paramtricos e suas respectivas estimativas ados e as correlaes entre os valores
30
-
preditos (y) e estimados para os quatro tipos de delineamento considerando no
processo de simulao que 2a = 2 e 2d = 0, 5.
TABELA 5 Valores mdios da mediana, mdia, limite inferior (LI), limite su-perior (LS) do intervalo de confiana e amplitude do intervalo (A)obtidos para as correlaes entre valores aditivos (a) e valores dedominncia (d) paramtricos e suas respectivas estimativas e as cor-relaes entre os valores preditos (y) e estimados para os quatro tiposde delineamento considerando no processo de simulao que 2a = 2e 2d = 0, 5
Delineamento LI Mediana Mdia LS Ay STS15 0,86 0,93 0,93 0,97 0,11
LQB15 0,84 0,92 0,91 0,96 0,12STS16 0,86 0,93 0,93 0,96 0,10LQB16 0,84 0,92 0,92 0,96 0,11
a STS15 0,28 0,87 0,82 0,98 0,70LQB15 0,31 0,88 0,82 0,99 0,68STS16 0,28 0,79 0,75 0,96 0,68LQB16 0,28 0,81 0,76 0,96 0,68
d STS15 0,31 0,69 0,66 0,88 0,57LQB15 0,33 0,71 0,68 0,90 0,57STS16 0,30 0,68 0,66 0,88 0,58LQB16 0,32 0,69 0,67 0,89 0,57
O intervalo de confiana para o erro quadrtico mdio para o valor predito
para STS16 apresentou amplitude (A = 91, 90) um pouco menor que o LQB16
(A= 91,90) e foram menores que as amplitudes dos intervalos do STS15 (A =
95, 33) e LQB15 (A = 95, 33) respectivamente.
A tabela 6 se refere aos valores mdios da mediana, mdia,limite infe-
rior (LI), limite superior (LS) do intervalo de confiana e amplitude do intervalo
(A) obtidos para o erro quadrtico mdio das estimativas dos valores preditos -
31
-
EQM(y), dos valores aditivos - EQM(a) e dos valores de dominncia EQM(d)
para os quatro tipos de delineamento considerando no processo de simulao que
2a = 2 e 2d = 0, 5 .
TABELA 6 Valores mdios da mediana, mdia, limite inferior (LI), limite su-perior (LS) do intervalo de confiana e amplitude do intervalo (A)obtidos para o erro quadrtico mdio para as estimativas dos valo-res preditos - EQM(y), dos valores aditivos - EQM(a) e dos valoresde dominncia EQM(d) para os quatro tipos de delineamento con-siderando no processo de simulao que 2a = 2 e
2d = 0, 5)
Delineamento LI Mediana Mdia LS AEQM(y) STS15 329 375 375 424 95,0
LQB15 353 400 401 451 98,0STS16 331 375 375 422 91,0LQB16 356 401 401 448 92,0
EQM(a) STS15 0,15 0,71 0,84 2,32 2,17LQB15 0,15 0,69 0,83 2,29 2,14STS16 0,23 0,86 0,98 2,44 2,21LQB16 0,22 0,86 0,97 2,39 2,17
EQM(d) STS15 0,12 0,30 0,31 0,61 0,49LQB15 0,11 0,28 0,29 0,58 0,47STS16 0,13 0,30 0,31 0,60 0,47LQB16 0,12 0,28 0,30 0,58 0,46
A amplitude dos intervalos de confiana para o vies do valor predito dos 4
delineamentos foram muito semelhantes, os intervalos para o vis do valor aditivo
para os delineamentos com 16 tratamentos foram menores que os intervalos nos
delineamentos com 15 tratamentos.
A tabela 7 se refere aos valores mdios da mediana, mdia, limite inferior
(LI), limite superior (LS) do intervalo de confiana e amplitude do intervalo (A)
obtidos para o vis das estimativas do valores preditos - B(y), dos valores aditivos
32
-
- B(a) e dos valores de dominncia- B(d) para os quatro tipos de delineamento
considerando no processo de simulao que 2a = 2 e 2d = 0, 5.
TABELA 7 Valores mdios da mediana, mdia, limite inferior (LI), limite su-perior (LS) do intervalo de confiana e amplitude do intervalo (A)obtidos para o vis das estimativas dos valores preditos - B(y), dosvalores aditivos - B(a) e dos valores de dominncia- B(d) para osquatro tipos de delineamento considerando no processo de simula-o que 2a = 2 e
2d = 0, 5
Delineamento LI Mediana Mdia LS AB(y) STS15 18,1 19,3 19,3 20,6 2,50
LQB15 18,8 20,0 20,0 21,2 2,40STS16 18,2 19,3 19,3 20,5 2,30LQB16 18,9 20,0 20,0 21,2 2,30
B(a) STS15 -1,13 0,00 0,00 1,13 2,26LQB15 -1,13 0,00 0,00 1,14 2,27STS16 -0,98 0,00 0,00 0,99 1,97LQB16 -0,94 0,00 0,01 0,99 1,93
B(d) STS15 -0,36 0,00 0,00 0,36 0,72LQB15 -0,36 0,00 0,00 0,36 0,72STS16 -0,35 0,00 0,00 0,35 0,70LQB16 -0,35 0,00 0,00 0,34 0,69
As figuras 3 e 4 representam a distribuio de frequncia das estimativas
das componentes da varincia para os valores paramtricos simulados: varincia
aditiva igual e 2 e varincia de dominncia igual a 0,5. A distribuio de frequn-
cias das estimativas da varincia aditiva apresenta picos em valores menores que
dois, valor simulado, mas em mdia o varincia apresenta mdia maior que dois,
ou seja, a mdia est superestimando o valor paramtrico. A distribuio das esti-
mativas varincia de dominncia apresentaram o comportamento semelhante. Para
varincia do erro, como ela apresenta uma distribuio aproximadamente normal,
33
-
tanto a mdia como moda esto subestimando o valor paramtrico.A distribuies
para as correlaes , figura 5 e 6, apresentaram comportamentos ligeiramente mais
adequados para STS15 e o LQB15 que para o STS16 e o LQB16, isso ocorre, no
entanto como reflexo do maior nmero de observaes em alguns tratamentos e
no diferencia o STS do LQB. O EQM, figura 7 e figura 8, apresenta distribuies
assimtricas e o vis, figura 9 e figura 10, apresenta distribuies simtricas, ambos
no apresentam diferenas para os quatro delineamentos.
34
-
0 2 4 6 8
0.0
0.2
0.4
Me
an
: 2
.9
6
Varincia Aditiva
Pro
ba
bilid
ad
es
0.0 0.5 1.0 1.5 2.0
0.0
0.4
0.8
Me
an
: 0
.9
46
Varincia de Dominncia
Pro
ba
bilid
ad
es
0.0 0.5 1.0 1.5 2.0
0.0
1.0
2.0
Me
an
: 0
.7
57
Varincia do Erro
Pro
ba
bilid
ad
es
(a) STS15
0 2 4 6 8
0.0
0.2
0.4
Me
an
: 2
.6
Varincia Aditiva
Pro
ba
bilid
ad
es
0.0 0.5 1.0 1.5 2.0
0.0
0.4
0.8
Me
an
: 0
.8
05
Varincia de Dominncia
Pro
ba
bilid
ad
es
0.0 0.5 1.0 1.5 2.0
0.0
1.0
2.0
Me
an
: 0
.7
96
Varincia do Erro
Pro
ba
bilid
ad
es
(b) LQB15
FIGURA 3 Histogramas, mdias e grfico da aproximao normal para as esti-mativas das componentes da varincia com 2a = 2 e
2d =
2a/4
35
-
0 2 4 6 8
0.0
0.1
0.2
0.3
0.4
Me
an
: 3
.3
5
Varincia Aditiva
Pro
ba
bilid
ad
es
0.0 0.5 1.0 1.5 2.0
0.0
0.4
0.8
Me
an
: 0
.9
72
Varincia de Dominncia
Pro
ba
bilid
ad
es
0.0 0.5 1.0 1.5 2.0
0.0
1.0
2.0
Me
an
: 0
.7
61
Varincia do Erro
Pro
ba
bilid
ad
es
(a) STS16
0 2 4 6 8
0.0
00
.1
00
.2
0
Me
an
: 3
.0
9
Varincia Aditiva
Pro
ba
bilid
ad
es
0.0 0.5 1.0 1.5 2.0
0.0
0.4
0.8
Me
an
: 0
.8
81
Varincia de Dominncia
Pro
ba
bilid
ad
es
0.0 0.5 1.0 1.5 2.0
0.0
1.0
2.0
Me
an
: 0
.7
77
Varincia do Erro
Pro
ba
bilid
ad
es
(b) LQB16
FIGURA 4 Histogramas, mdias e grfico da aproximao normal para as esti-mativas das componentes da varincia com 2a = 2 e
2d =
2a/4
36
-
0.0 0.2 0.4 0.6 0.8 1.0
05
10
15
Me
an
: 0
.9
28
Correlao entre y predito e y observado
Pro
ba
bilid
ad
es
0.0 0.2 0.4 0.6 0.8 1.0
01
23
45
Me
an
: 0
.8
16
Correlao entre o Valor Adtivo (a) estimado e o (a) paramtrico
Pro
ba
bilid
ad
es
0.0 0.2 0.4 0.6 0.8 1.0
0.0
1.0
2.0
3.0
Me
an
: 0
.6
65
Correlao entre o Valor de Dominncia(d) estimado e o (d) paramtrico
Pro
ba
bilid
ad
es
(a) STS15
0.0 0.2 0.4 0.6 0.8 1.0
05
10
15
Me
an
: 0
.9
14
Correlao entre y predito e y observado
Pro
ba
bilid
ad
es
0.0 0.2 0.4 0.6 0.8 1.0
01
23
45
Me
an
: 0
.8
24
Correlao entre o Valor Adtivo (a) estimado e o (a) paramtrico
Pro
ba
bilid
ad
es
0.0 0.2 0.4 0.6 0.8 1.0
0.0
1.0
2.0
3.0
Me
an
: 0
.6
84
Correlao entre o Valor de Dominncia(d) estimado e o (d) paramtrico
Pro
ba
bilid
ad
es
(b) LQB15
FIGURA 5 Histogramas, mdias e grfico da aproximao normal as correlaesentre o valor aditivo (a) e a de dominncia (d) paramtrico com suasrespectivas estimativas com 2a = 2 e
2d =
2a/4
37
-
0.0 0.2 0.4 0.6 0.8 1.0
05
10
15
Me
an
: 0
.9
27
Correlao entre y observado e y paramtrico
Pro
ba
bilid
ad
es
0.0 0.2 0.4 0.6 0.8 1.0
0.0
1.0
2.0
3.0
Me
an
: 0
.7
52
Correlao entre o Valor Adtivo (a) estimado e o (a) paramtrico
Pro
ba
bilid
ad
es
0.0 0.2 0.4 0.6 0.8 1.0
0.0
1.0
2.0
3.0
Me
an
: 0
.6
57
Correlao entre o Valor de Dominncia(d) estimado e o (d) paramtrico
Pro
ba
bilid
ad
es
(a) STS16
0.0 0.2 0.4 0.6 0.8 1.0
05
10
15
Me
an
: 0
.9
17
Correlao entre y observado e y paramtrico
Pro
ba
bilid
ad
es
0.0 0.2 0.4 0.6 0.8 1.0
0.0
1.0
2.0
3.0
Me
an
: 0
.7
57
Correlao entre o Valor Adtivo (a) estimado e o (a) paramtrico
Pro
ba
bilid
ad
es
0.0 0.2 0.4 0.6 0.8 1.0
0.0
1.0
2.0
3.0
Me
an
: 0
.6
71
Correlao entre o Valor de Dominncia(d) estimado e o(d) paramtrico
Pro
ba
bilid
ad
es
(b) LQB16
FIGURA 6 Histogramas, mdias e grfico da aproximao normal as correlaesentre o valor aditivo (a) e a de dominncia (d) paramtrico com suasrespectivas estimativas com 2a = 2 e
2d =
2a/4
38
-
300 350 400 450
0.0
00
0.0
10
Me
an
: 3
75
Erro quadrtico mdio de y
Pro
ba
bilid
ad
es
0 2 4 6 8
0.0
0.4
0.8
Me
an
: 0
.8
44
Erro Quadrtico Mdio do Valor Aditivo (a)
Pro
ba
bilid
ad
es
0.0 0.2 0.4 0.6 0.8 1.0 1.2
01
23
Me
an
: 0
.3
13
Erro Quadrtico Mdio do Valor de Dominncia(d)
Pro
ba
bilid
ad
es
(a) STS15
300 350 400 450 500
0.0
00
0.0
10
Me
an
: 4
01
Erro quadrtico mdio de y
Pro
ba
bilid
ad
es
0 2 4 6 8
0.0
0.4
0.8
Me
an
: 0
.8
26
Erro Quadrtico Mdio do Valor Aditivo (a)
Pro
ba
bilid
ad
es
0.0 0.2 0.4 0.6 0.8 1.0
01
23
Me
an
: 0
.2
93
Erro Quadrtico Mdio do Valor de Dominncia(d)
Pro
ba
bilid
ad
es
(b) LQB15
FIGURA 7 Histogramas, mdias e grfico da aproximao normal para os EQMdas estimativas de y, do valor aditivo(a) e de dominncia (d) com2a = 2 e
2d =
2a/4
39
-
300 350 400 450
0.0
00
0.0
10
Me
an
: 3
75
Erro quadrtico mdio de y
Pro
ba
bilid
ad
es
0 1 2 3 4 5 6 7
0.0
0.4
0.8
Me
an
: 0
.9
85
Erro Quadrtico Mdio do Valor Aditivo (a)
Pro
ba
bilid
ad
es
0.0 0.5 1.0 1.5
01
23
Me
an
: 0
.3
15
Erro Quadrtico Mdio do Valor de Dominncia(d)
Pro
ba
bilid
ad
es
(a) STS16
300 350 400 450 500
0.0
00
0.0
10
Me
an
: 4
01
Erro quadrtico mdio de y
Pro
ba
bilid
ad
es
0 1 2 3 4
0.0
0.4
0.8
Me
an
: 0
.9
71
Erro Quadrtico Mdio do Valor Aditivo (a)
Pro
ba
bilid
ad
es
0.2 0.4 0.6 0.8
01
23
4
Me
an
: 0
.3
01
Erro Quadrtico Mdio do Valor de Dominncia(d)
Pro
ba
bilid
ad
es
(b) LQB16
FIGURA 8 Histogramas, mdias e grfico da aproximao normal para os EQMdas estimativas de y, do valor aditivo(a) e de dominncia (d) com2a = 2 e
2d =
2a/4
40
-
17 18 19 20 21 22
0.0
0.2
0.4
0.6
Me
an
: 1
9.4
Vis(y)
Pro
ba
bilid
ad
es
3 2 1 0 1 2
0.0
0.2
0.4
0.6
Me
an
:
0.0
01
54
Vis(Valor Aditivo)
Pro
ba
bilid
ad
es
0.5 0.0 0.5
0.0
1.0
2.0
Me
an
: 0
.0
00
33
Histograma
Vis(Valor de Dominncia)
Pro
ba
bilid
ad
es
(a) STS15
18 19 20 21 22
0.0
0.2
0.4
0.6
Me
an
: 2
0
Vis(y)
Pro
ba
bilid
ad
es
3 2 1 0 1 2
0.0
0.2
0.4
0.6
Me
an
:
0.0
00
37
8
Vis(Valor Aditivo)
Pro
ba
bilid
ad
es
0.5 0.0 0.5
0.0
1.0
2.0
Me
an
:
7.1
3e
0
5
Histograma
Vis(Valor de Dominncia)
Pro
ba
bilid
ad
es
(b) LQB15
FIGURA 9 Histogramas, mdias e grfico da aproximao normal para o visdas estimativas de y, do valor aditivo(a) e de dominncia (d) com2a = 2 e
2d =
2a/4
41
-
17 18 19 20 21 22
0.0
0.2
0.4
0.6
Me
an
: 1
9.4
Vis(y)
Pro
ba
bilid
ad
es
2 1 0 1 2
0.0
0.2
0.4
0.6
0.8
Me
an
: 0
.0
01
22
Vis(Valor Aditivo)
Pro
ba
bilid
ad
es
0.5 0.0 0.5
0.0
1.0
2.0
Me
an
:
0.0
00
25
7
Histograma
Vis(Valor de Dominncia)
Pro
ba
bilid
ad
es
(a) STS16
18 19 20 21 22
0.0
0.2
0.4
0.6
Me
an
: 2
0
Vis(y)
Pro
ba
bilid
ad
es
1.5 1.0 0.5 0.0 0.5 1.0 1.5 2.0
0.0
0.2
0.4
0.6
0.8
Me
an
: 0
.0
1
Vis(Valor Aditivo)
Pro
ba
bilid
ad
es
0.5 0.0 0.5
0.0
1.0
2.0
Me
an
:
0.0
04
49
Histograma
Vis(Valor de Dominncia)
Pro
ba
bilid
ad
es
(b) LQB16
FIGURA 10 Histogramas, mdias e grfico da aproximao normal para o visdas estimativas de y, do valor aditivo(a) e de dominncia (d) com2a = 2 e
2d =
2a/4
42
-
A figura 11 apresenta um grfico com o valor da eficincia, como apresen-
tado na seo 3, em funo da varincia aditiva e dominncia. Podemos observar
que o valor da eficincia sempre maior que um mostrando que o critrio, quando
adotado para a seleo de pais, permite concluir que o delineamento STS15 mais
eficiente que o LQB16. A tabela 8 apresenta os valores da varincia e dominncia e
o valor da eficincia relativa, alguns resultados que foram utilizados para construir
o grfico, figura 11.
TABELA 8 Eficincia do STS em relao ao LQB, C(LQB16)/C(STS15), emfuno das varincias aditiva e dominante
2a 2d Eficincia
2a
2d Eficincia
1 0,001 1,36 3 0,001 1,171 0,5 1,38 3 0,5 1,431 1 1,39 3 1 1,422 0,001 1,12 4 0,001 1,242 0,5 1,40 4 0,5 1,422 1 1,40 4 1 1,31
0 1 2 3 4
1.34
1.36
1.38
1.40
1.42
1.44
1.46
1.48
0.0
0.2
0.4
0.6
0.8
1.0
Varincia de Dominancia
Var
inc
ia A
ditiv
a
Efic
inc
ia(L
QB
/ST
S)
FIGURA 11 Eficincia, C(LQB16)/C(STS15), em funo das varincias aditivae dominante
43
-
A frao 5/7 do STS completo apresenta menor nmero de parcelas que o
LQB 4x4 e menor tamanho de bloco. A medida que nmero de parcelas por bloco
aumenta a heterogeneidade dentro do bloco tende aumentar. Esse aumento induz
o aumento erro experimental diminuindo a preciso do experimento.
Mead (1988) apresenta o princpio de que o blocos deveriam conter menor
nmero de unidades experimentais. Para ensaios agrcolas e ou de campo, o autor
preconiza blocos de tamanho raramente maiores que 15 e frequentemente 8 ou
menos, assim eles apresentam menor varincia. Com isso quando o nmero de
tratamentos grande, por exemplo exemplo em ensaios fatoriais, a melhor soluo
utilizar blocos que no contenham todos os tratamentos.
A anlise dos seus resultados sugere que pode-se reduzir o tamanho de
blocos e mesmo reduzindo ligeiramente o nmero de parcelas a eficincia do de-
lineamento no cai. Esse comportamento importante em dialelos com grande
nmero de pais. Em muitos casos o nmero de cruzamentos do dialelo no um
quadrado perfeito. Para esses dialelos o ajuste do delineamento em blocos incom-
pletos em ltice quadrado exige que alguns tratamentos sejam repetidos para que
se complete todas as parcelas necessrias, o que no ocorre em muitas situaes
onde o delineamento usado poderia ser o STS ou outro bloco incompleto retangu-
lar com blocos menores. Por exemplo um dialelo com 15 pais teria 105 prognies
o que se ajusta perfeitamente a um STS com 13 repeties e 1365 parcelas e para
ajustar esse dialelo ao LQB seria preciso um LQB 11 x 11 com 1452 parcelas (com
12 repeties). O mesmo ocorre com outros dialelos e pode-se esperar que seja um
fenmeno geral, no apenas com sistemas triplos mas com blocos menores.
Em geral podemos dizer que o STS ou outros delineamentos com blocos
incompletos menores do que os do ltice quadrado devem ser usados em lugar dos
LQB. No caso de nmeros de tratamentos em que no h planos prontos como os
44
-
STS, podem ser usados algoritmos de busca do tipo dos propostos por Bueno Filho
et al. (2006).
45
-
5 CONCLUSES
Qualquer frao 5/7 do STS no difere em eficincia de delineamentos em
LQB com 80 parcelas consideradas. Tais STS podem ser utilizados em lugar dos
LQB, com menor nmero de parcelas e sem perda de eficincia.
46
-
REFERNCIAS BIBLIOGRFICAS
BUENO FILHO, J. S. S.; GILMOUR, S. Planing imcomplete block experimentswhen treatments are genetically related. Biometrics, Oxford, v. 59, n. 2, p.375381, June 2003.
BUENO FILHO, S. S.; GILMOUR, S. G.; ROSA, G. J. M. Design of microarrayexperiments for genetical genomics studies. Genetics, Baltimore, v. 174, n. 2, p.945957, Oct. 2006.
CRUZ, C.; REGAZZI, A. Modelos biomtricos aplicados ao melhoramentogentico. Viosa, MG: Imprensa Universitria, 2004. 390 p.
CRUZ, C. D.; CARNEIRO, P. C. S. Modelos biomtricos aplicados aomelhoramento gentico. Viosa, MG: UFV, 2006. 585 p.
GRIFFING, B. Concept of general and specific combining ability in relation todiallel crossing systems. Australian Journal of Biological Sciences, Melbourne,v. 9, n. 4, p. 463493, 1956.
HINKELMAN, K.; KEMPTHORNE, O. Design and analysis of experiments.New Jersey: J. Wiley, 2005. 780 p. (Series in probability and statistics).
KASKI, P. A census of steiner triple sytems and some related combinatorialobjects. Helsink: Helsinki University of Technology Laboratory for TheoreticalComputer Science, 2003. 63 p.
MEAD, R. The design of experiments: statistical principles for praticalapllications. Cambridge: Cambridge University, 1988. 620 p.
PATTERSON, H. D.; THOMPSON, R. Recovery of inter-block information whenblock sizes are unequal. Biometrika, London, v. 58, n. 2, p. 545554, July 1971.
R DEVELOPMENT CORE TEAM. R: a language and environment for statisticalcomputing. Vienna: R Foundation for Statistical Computing, 2009.
RAMALHO, M. A. P.; FERREIRA, D. F.; OLIVEIRA, A. D. Experimentaoem gentica e melhoramento de plantas. Lavras: UFLA, 2005. 326 p.
REES, R. S.; WALLIS, W. D. Kirkman triple systems and their generalizations:a survey. In: WALLIS, W. D. (Ed.). Designs 2002: further computational andconstructive design theory. Norwell: Kluwer academic, 2003. cap. 13, p. 317368.
47
-
RESENDE, M. D. V. d. Gentica biomtrica e estatstica no melhoramento deplantas perenes. Braslia: Embrapa Informao Tecnlogica, 2002. 975 p.
SEARLE, S.; CASELLA, G.; MCCULLOCH, C. Variance components. NewYork: J. Wiley, 2006.
TOME, M.; BUENO FILHO, J. S. S.; FERREIRA, D. F. Blocos fixos oualeatrios?: o caso dos ensaios em ltice no melhoramento vegetal. Cincia eAgrotecnologia, Lavras, v. 26, n. 3, p. 576584, maio/jun. 2002.
WHITE, T. L.; HODGE, G. Predicting breeding values with applications inforest tree improvement. Dordrecht: Kluwer Academic, 1989. 367 p.
48
-
ANEXOS
TABELA 9 Valores mdios da mediana, mdia, limite inferior (LI), limite supe-rior (LS) do intervalo de confiana e amplitude do intervalo (A) obti-dos para as estimativas das componentes da varincia aditiva (2a), dedominncia (2d) e do erro (
2) para os quatro tipos de delineamentoconsiderando no processo de simulao que 2a = 0, 5 e
2d = 0.
Delineamento No de Trat LI Mediana Mdia LS2a STS 15 0,0073 0,7695 0,9752 3,1991
LQB 15 0,1177 0,6639 0,7676 2,0427STS 16 0,0069 0,8667 1,1679 4,1740LQB 16 0,0080 0,7944 0,9630 2,9915
2d STS 15 0,0031 0,3232 0,3633 1,0589LQB 15 0,0574 0,2936 0,3079 0,6481STS 16 0,0023 0,3227 0,3736 1,1544LQB 16 0,0028 0,2726 0,3031 0,8297
2e STS 15 0,4264 0,7352 0,7861 1,4456LQB 15 0,4900 0,7775 0,8007 1,2480STS 16 0,4445 0,7422 0,7927 1,4523LQB 16 0,4809 0,7696 0,8135 1,4382
49
-
TABELA 10 Valores mdios da mediana, mdia, limite inferior (LI), limite su-perior (LS) do intervalo de confiana e amplitude do intervalo (A)obtidos para as correlaes entre valores aditivos (a) e valores dedominncia (d) paramtricos e suas respectivas estimativas e as cor-relaes entre os valores preditos (y) e estimados para os quatrotipos de delineamento considerando no processo de simulao que2a = 0, 5 e
2d = 0.
Delineamento No de Trat LI Mediana Mdia LSy STS 15 0,8243 0,9137 0,9081 0,9588
LQB 15 0,7957 0,8949 0,8890 0,9486STS 16 0,8043 0,9096 0,9024 0,9566LQB 16 0,8031 0,8984 0,8926 0,9508
a STS 15 0,4191 0,9050 0,8558 0,9892LQB 15 0,4833 0,9182 0,8742 0,9906STS 16 0,3639 0,8336 0,7904 0,9712LQB 16 0,3957 0,8395 0,8001 0,9734
50
-
TABELA 11 Valores mdios da mediana, mdia, limite inferior (LI), limite su-perior (LS) do intervalo de confiana e amplitude do intervalo (A)obtidos para o erro quadrtico mdio para as estimativas dos valo-res preditos - EQM(y), dos valores aditivos - EQM(a) e dos valoresde dominncia EQM(d) para os quatro tipos de delineamento con-siderando no processo de simulao que 2a = 0, 5 e
2d = 0.
Delineamento No de Trat LI Mediana Mdia LSEQM(y) STS 15 341,07 375,10 375,31 410,82
LQB 15 364,91 400,30 400,53 437,48STS 16 341,67 375,09 375,30 410,05LQB 16 365,44 400,37 400,58 435,20
EQM(a) STS 15 0,0482 0,2165 0,2534 0,6766LQB 15 0,0427 0,1950 0,2287 0,6124STS 16 0,0700 0,2509 0,2832 0,6808LQB 16 0,0685 0,2375 0,2700 0,6644
EQM(d) STS 15 0,0000 0,0651 0,0788 0,2491LQB 15 0,0065 0,0633 0,0745 0,2046STS 16 0,0000 0,0620 0,0740 0,2291LQB 16 0,0000 0,0532 0,0643 0,1985
51
-
TABELA 12 Valores mdios da mediana, mdia, limite inferior (LI), limite su-perior (LS) do intervalo de confiana e amplitude do intervalo (A)obtidos para o vis das estimativas dos valores preditos - B(y), dosvalores aditivos - B(a) e dos valores de dominncia- B(d) para osquatro tipos de delineamento considerando no processo de simula-o que 2a = 0, 5 e
2d = 0.
Delineamento No de Trat LI Mediana Mdia LSB(y) STS 15 18,457 19,357 19,357 20,258
LQB 15 19,094 19,999 19,999 20,909STS 16 18,473 19,357 19,357 20,240LQB 16 19,107 20,001 20,001 20,852
B(a) STS 15 -0,5598 0,0021 0,0022 0,5704LQB 15 -0,5614 -0,0001 0,0010 0,5669STS 16 -0,4925 0,0002 0,0002 0,4900LQB 16 -0,4850 0,0065 0,0043 0,4939
52
-
TABELA 13 Valores mdios da mediana, mdia, limite inferior (LI), limite su-perior (LS) do intervalo de confiana e amplitude do intervalo (A)obtidos para as estimativas das componentes da varincia aditiva(2a), de dominncia (
2d) e do erro (
2) para os quatro tipos de de-lineamento considerando no processo de simulao que 2a = 1 e2d = 0
Delineamento No de Trat LI Mediana Mdia LS2a STS 15 0,1783 1,0946 1,3866 4,0105
LQB 15 0,1961 0,9637 1,1963 3,3276STS 16 0,0109 1,3099 1,7114 5,4766LQB 16 0,2514 1,1462 1,4076 3,8634
2d STS 15 0,0526 0,3836 0,4206 1,0311LQB 15 0,0623 0,3021 0,3237 0,7205STS 16 0,0038 0,3485 0,4120 1,2539LQB 16 0,0619 0,3359 0,3695 0,8701
2e STS 15 0,4296 0,7307 0,7592 1,2741LQB 15 0,4906 0,7792 0,8000 1,2353STS 16 0,4471 0,7407 0,7840 1,4086LQB 16 0,4719 0,7595 0,7812 1,2183
53
-
TABELA 14 Valores mdios da mediana, mdia, limite inferior (LI), limite su-perior (LS) do intervalo de confiana e amplitude do intervalo (A)obtidos para as correlaes entre valores aditivos (a) e valores dedominncia (d) paramtricos e suas respectivas estimativas e as cor-relaes entre os valores preditos (y) e estimados para os quatrotipos de delineamento considerando no processo de simulao que2a = 1 e
2d = 0.
Delineamento No de Trat LI Mediana Mdia LSy STS 15 0,8243 0,9137 0,9081 0,9588
LQB 15 0,7957 0,8949 0,8890 0,9486STS 16 0,8043 0,9096 0,9024 0,9566LQB 16 0,8031 0,8984 0,8926 0,9508
a STS 15 0,4191 0,9050 0,8558 0,9892LQB 15 0,4833 0,9182 0,8742 0,9906STS 16 0,3639 0,8336 0,7904 0,9712LQB 16 0,3957 0,8395 0,8001 0,9734
54
-
TABELA 15 Valores mdios da mediana, mdia, limite inferior (LI), limite su-perior (LS) do intervalo de confiana e amplitude do intervalo (A)obtidos para o erro quadrtico mdio para as estimativas dos valo-res preditos - EQM(y), dos valores aditivos - EQM(a) e dos valoresde dominncia EQM(d) para os quatro tipos de delineamento con-siderando no processo de simulao que (2a = 1;
2d = 0)
Delineamento No de Trat LI Mediana Mdia LSEQM(y) STS 15 336,95 375,15 375,35 414,95
LQB 15 360,86 400,24 400,54 441,54STS 16 338,39 375,03 375,29 413,76LQB 16 363,52 400,55 400,84 440,38
EQM(a) STS 15 0,0665 0,3089 0,3773 1,1010LQB 15 0,0598 0,2813 0,3503 1,0493STS 16 0,0999 0,3825 0,4484 1,1695LQB 16 0,0909 0,3675 0,4329 1,1453
EQM(d) STS 15 0,005 0,0821 0,096 0,2654LQB 15 0,0067 0,0653 0,0769 0,2137STS 16 0,0001 0,0667 0,0794 0,2417LQB 16 0,0066 0,0701 0,0810 0,2146
55
-
TABELA 16 Valores mdios da mediana, mdia, limite inferior (LI), limite su-perior (LS) do intervalo de confiana e amplitude do intervalo (A)obtidos para o vis das estimativas dos valores preditos - B(y), dosvalores aditivos - B(a) e dos valores de dominncia- B(d) para osquatro tipos de delineamento considerando no processo de simula-o que 2a = 1 e
2d = 0.
Delineamento No de Trat LI Mediana Mdia LSB(y) STS 15 18,345 19,357 19,355 20,360
LQB 15 18,987 19,997 19,998 21,004STS 16 18,384 19,355 19,355 20,332LQB 16 19,057 20,005 20,006 20,978
B(a) STS 15 -0,8032 0,003 0,003 0,8058LQB 15 -0,7973 0,0027 0,0014 0,7955STS 16 -0,6936 -0,001 0,0005 0,6958LQB 16 -0,6742 0,0043 0,0048 0,6966
56
-
TABELA 17 Valores mdios da mediana, mdia, limite inferior (LI), limite su-perior (LS) do intervalo de confiana e amplitude do intervalo (A)obtidos para as estimativas das componentes da varincia aditiva(2a), de dominncia (
2d) e do erro (
2) para os quatro tipos de de-lineamento considerando no processo de simulao que 2a = 2 e2d = 0.
Delineamento No de Trat LI Mediana Mdia LS2a STS 15 0,2263 2,0932 2,5123 7,0872
LQB 15 0,3518 1,8370 2,2072 6,1365STS 16 0,4393 2,1857 2,6566 7,5573LQB 16 0,4543 2,1903 2,7790 8,7377
2d STS 15 0,0098 0,3767 0,4393 1,3070LQB 15 0,0677 0,3161 0,3490 0,8347STS 16 0,0676 0,4109 0,4766 1,2783LQB 16 0,0685 0,3413 0,3951 1,0483
2e STS 15 0,4275 0,7323 0,7692 1,3459LQB 15 0,4904 0,7769 0,7960 1,2161STS 16 0,4476 0,7370 0,