bruna gabriela wendpap - unioestetede.unioeste.br/bitstream/tede/2608/1/brunagabriela.pdf · bruna...

UNIVERSIDADE ESTADUAL DO OESTE DO PARANÁCENTRO DE CIÊNCIA EXATAS E TECNOLÓGICASPÓS-GRADUAÇÃO EM ENGENHARIA AGRÍCOLA

BRUNA GABRIELA WENDPAP

VARIABILIDADE ESPACIAL UTILIZANDO MODELOS GEOESTATÍSTICOSESCALONADOS E COM REPETIÇÕES MÚLTIPLAS INDEPENDENTES NA

AGRICULTURA DE PRECISÃO

CASCAVEL - PR2013

BRUNA GABRIELA WENDPAP

VARIABILIDADE ESPACIAL UTILIZANDO MODELOS GEOESTATÍSTICOSESCALONADOS E COM REPETIÇÕES MÚLTIPLAS INDEPENDENTES NA

AGRICULTURA DE PRECISÃO

Trabalho apresentado junto ao programa dePós Graduação em Engenharia Agrícola daUniversidade Estadual do Oeste do Paraná, emcumprimento aos requisitos para a obtenção dotítulo de mestre em Engenharia Agrícola, áreade concentração Sistemas Biológicos e Agroin-dustriais.Orientador: Dr. Miguel Angel Uribe OpazoCo-orientador: Dr. Marcio Antonio Vilas Boas

CASCAVEL - PR2013

Bruna Gabriela Wendpap, nascida em 19 de setembro de 1988 no município de Toledo,

estado do Paraná. Licenciada em Matemática pela Universidade Estadual do Oeste do Paraná

(UNIOESTE) no ano de 2010. Atualmente, em fase de conclusão do curso de mestrado do

Programa de Pós-Graduação em Engenharia Agrícola, orientada pelo professor Dr. Miguel

Angel Uribe Opazo e estuda o tema: “Variabilidade espacial utilizando modelos geoestatísticos

escalonados e com repetições múltiplas independentes na agricultura de precisão”.

iii

Dedicatória

Às pessoas mais importantes da minha vida:

meus pais, Cladis e Clécio,

meus irmãos, Elis e Marcos.

À família que me permitiram escolher: meus amigos!

Ao meu querido Jaziel por estar sempre comigo!

Vocês enriquecem minha vida de tantas maneiras que é

impossível dizer com palavras o quanto representam.

iv

Agradecimentos

A todos que, direta ou indiretamente, contribuíram para

a realização deste trabalho.

Em especial ao meu orientador, professor Miguel Angel

Uribe Opazo, por toda dedicação, ensinamentos, conse-

lhos e incentivo.

v

Epígrafe

“Data! data! data! he cried impatiently.

I can’t make bricks without clay”

(Conan Doyle)

vi

Sumário

Lista de Figuras . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ix

Lista de Tabelas . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . x

RESUMO . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . xii

ABSTRACT . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . xiii

1 INTRODUÇÃO . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1

2 REVISÃO BIBLIOGRÁFICA . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3

2.1 Modelos espaciais lineares . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3

2.1.1 Função semivariância . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4

2.1.2 Parâmetros da estrutura de dependência espacial . . . . . . . . . . . . . . . . . . . . . 5

2.1.3 Modelos teóricos de semivariograma . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5

2.2 Análise espacial por meio do escalonamento da função semivariância . . . . . . . . . 6

2.3 Análise espacial utilizando repetições múltiplas independentes . . . . . . . . . . . . . . . . 8

2.4 Krigagem . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9

2.4.1 Krigagem ordinária . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9

2.4.2 Krigagem universal . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11

2.5 Medidas de comparação de mapas . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11

2.5.1 Exatidão global . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12

2.5.2 Índice Kappa . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13

2.5.3 Índice Tau . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13

2.6 Potássio . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14

2.7 Produtividade da soja . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15

2.8 Resistência do solo à penetração (RSP) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16

2.9 Densidade do solo (Dens) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17

3 MATERIAL E MÉTODOS . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19

3.1 Material . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19

3.1.1 Área 1 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19

3.1.2 Área 2 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20

3.2 Metodologia . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21

3.2.1 Estudo do potássio e produtividade da soja . . . . . . . . . . . . . . . . . . . . . . . . . . . 21

3.2.2 Estudo da produtividade da soja como função de covariáveis . . . . . . . . . . . 22

vii

3.2.3 Estimadores de máxima verossimilhança considerando repetições múl-

tiplas independentes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22

3.2.4 Erro padrão das estimativas de máxima verossimilhança considerando

repetições múltiplas independentes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23

3.2.5 Software utilizado . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25

4 RESULTADOS E DISCUSSÃO. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26

4.1 Área 1: estudo do potássio . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26

4.1.1 Escalonamento da função semivariância . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26

4.1.2 Repetições múltiplas independentes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31

4.1.3 Comparação dos métodos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36

4.2 Área 1: estudo da produtividade da soja . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38

4.3 Área 2: estudo da produtividade da soja como função de covariáveis . . . . . . . . . . 41

4.3.1 Ajuste de modelos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 42

5 CONCLUSÕES . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 43

6 REFERÊNCIAS . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 44

viii

Lista de Figuras

Figura 1 Relação entre a covariância espacial C(δ) e a semivariância γ(δ). . . . . . . . . . . . 5Figura 2 Semivariograma escalonado. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7Figura 3 Perfis de produtividade estadual e nacional para sete anos agrícolas. . . . . . . . 16Figura 4 Esquema de amostragem da área em estudo. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19Figura 5 Localização dos 30 pontos amostrais. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20Figura 6 Semivariogramas teóricos ajustados aos semivariogramas experimentais esca-

lonado e individuais da variável potássio. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27Figura 7 Mapas temáticos do potássio (K) [cmolc dm−3] construídos a partir dos mode-

los escalonado (ESC) e individuais, para cada ano em estudo, ajustados por

OLS. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29Figura 8 Semivariogramas teóricos ajustados aos semivariogramas experimentais con-

siderando replicações múltiplas e individuais da variável potássio. . . . . . . . . . . . 32Figura 9 Mapas temáticos do potássio (K) [cmolc dm−3] construídos a partir dos modelos

espaciais lineares com repetições múltiplas independentes (RMI) e os modelos

individuais, para cada ano em estudo, ajustados por ML. . . . . . . . . . . . . . . . . . . . . 34Figura 10 Mapas temáticos da produtividade da soja [t ha−1] construídos segundo o mo-

delo considerando repetições múltiplas independentes (RMI), para cada ano

em estudo, ajustados por ML. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40

ix

Lista de Tabelas

Tabela 1 Matriz dos erros genérica de ordem k × k. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12Tabela 2 Interpretação dos teores do potássio (K) na análise de solo . . . . . . . . . . . . . . . . . 15Tabela 3 Produtividade da soja [t ha−1] segundo os padrões estadual e nacional . . . . . 15Tabela 4 Níveis críticos de resistência do solo a penetração em função da classificação

dos solos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17Tabela 5 Estatísticas descritivas para cada ano em estudo do potássio (K) [cmolc dm−3] 26Tabela 6 Modelos espaciais ajustados aos semivariogramas individuais e por escalona-

mento (ESC) e parâmetros estimados por OLS do potássio (K) . . . . . . . . . . . . . 28Tabela 7 Critério de validação cruzada dos modelos teóricos ajustados os semivariogra-

mas experimentais individuais e por escalonamento para a variável potássio

(K) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 28Tabela 8 Matriz de erros do número de pixels por classe da variável potássio 98/99 . . 30Tabela 9 Matriz de erros do número de pixels por classe da variável potássio 99/00 . . 30Tabela 10 Matriz de erros do número de pixels por classe da variável potássio 00/01 . . 30Tabela 11 Matriz de erros do número de pixels por classe da variável potássio 01/02 . . 30Tabela 12 Matriz de erros do número de pixels por classe da variável potássio 02/03 . . 31Tabela 13 Medidas de acurácia do potássio (K) dos mapas gerados pelos modelos ajusta-

dos segundo os métodos: individual - OLS versus escalonamento ESC- OLS 31Tabela 14 Modelos espaciais ajustados individuais e considerando repetições múltiplas

independentes (RMI) e parâmetros estimados por ML do potássio (K) . . . . . . 33Tabela 15 Matriz de erros do número de pixels por classe da variável potássio 98/99 . . 35Tabela 16 Matriz de erros do número de pixels por classe da variável potássio 99/00 . . 35Tabela 17 Matriz de erros do número de pixels por classe da variável potássio 00/01 . . 35Tabela 18 Matriz de erros do número de pixels por classe da variável potássio 01/02 . . 35Tabela 19 Matriz de erros do número de pixels por classe da variável potássio 02/03 . . 36Tabela 20 Medidas de acurácia do potássio (K) dos mapas gerados pelos modelos ajusta-

dos segundo os métodos: individual - ML versus utilizando repetições múltiplas

independentes RMI - ML . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36Tabela 21 Matriz de erros do número de pixels por classe da variável potássio 98/99 . . 37Tabela 22 Matriz de erros do número de pixels por classe da variável potássio 99/00 . . 37Tabela 23 Matriz de erros do número de pixels por classe da variável potássio 00/01 . . 37Tabela 24 Matriz de erros do número de pixels por classe da variável potássio 01/02 . . 37Tabela 25 Matriz de erros do número de pixels por classe da variável potássio 02/03 . . 38Tabela 26 Medidas de acurácia do potássio (K) dos mapas gerados pelos modelos ajus-

tados segundo os métodos: escalonamento ESC-OLS versus repetições múl-

tiplas independentes RMI-ML . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38Tabela 27 Estatísticas descritivas para cada ano em estudo da produtividade da soja

(Prod) [t ha−1] . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 39Tabela 28 Modelo espacial ajustado e parâmetros estimados da produtividade da soja

x

[t ha−1] . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40Tabela 29 Estatísticas descritivas para cada ano em estudo da produtividade da soja

(Prod*) [t ha−1], resistência do solo à penetração (RSP) [MPa] e densidade

do solo (D) [g cm−3] . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 41Tabela 30 Modelo espacial ajustado e parâmetros estimados da produtividade da soja

(Prod*) como função das covariáveis RSP e D . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 42

xi

RESUMO

Variabilidade espacial utilizando modelos geoestatísticos escalonados e com repetiçõesmúltiplas independentes na agricultura de precisão

O objetivo deste trabalho foi apresentar um estudo de variabilidade espacial em diferentes pe-ríodos de tempo de duas áreas experimentais utilizando modelos geoestatísticos escalonadose espaciais lineares gaussianos com repetições múltiplas independentes. Na primeira área emestudo utilizou-se o método de escalonamento da função semivariância e o modelo espaciallinear com repetições múltiplas independentes. Compararam-se as estruturas de variabilidadeespacial do teor de potássio no solo e da produtividade da soja em cinco anos agrícolas. Osresultados indicam semelhança entre os mapas temáticos elaborados segundo os modelosindividuais e os mapas gerados segundo o modelo ajustado ao semivariograma escalonado.O mesmo ocorreu ao construir mapas temáticos segundo os modelos individuais comparadosaos mapas gerados segundo os modelos espaciais lineares com repetições múltiplas indepen-dentes. Ao comparar os mapas originados pelo modelo escalonado e o modelo espacial linearcom repetições múltiplas independentes, obteve-se índices de acurácia altos, o que implica emsemelhança dos mapas temáticos construídos com estes dois métodos. Na segunda área emestudo o interesse foi utilizar o modelo espacial linear com repetições múltiplas independentespara estudar a variabilidade espacial da produtividade da soja em dois anos agrícolas comofunção das covariáveis resistência do solo à penetração (RSP) e densidade do solo (Dens),nas camadas de 0-0,10, 0,10-0,20 e 0,20-0,30 m de profundidade. Em ambos os estudos, aestrutura de variabilidade espacial estimada pelo modelo espacial linear com repetições múl-tiplas independentes ocasionou redução do tempo computacional no ajuste dos modelos e nageração de mapas temáticos.

Palavras - chave: função semivariância; máxima verossimilhança; mapas temáticos.

xii

ABSTRACT

Spatial variability using geostatistical methods scaled and with multiple independentreplications in precision agriculture

The objective of this paper was to present a study of spatial variability in different time periodsof two experimental areas using geostatistical models scaling and spatial linear gaussian withmultiple independent replications. In the first area under study, the scaling of semivariancefunction method and spatial linear model with multiple independent replications was used. Thestructures of spatial variability of the potassium content in soil and soybean yield in five agricul-tural years were compared. The results indicate similarity between the thematic maps producedaccording to individual models and maps generated using the model set to scaled semivario-gram. The same happens to build thematic maps according to the individual models comparedto maps generated according to the spatial linear models with multiple independent replications.Comparing the maps originated by the scaled model and spatial linear model with multiple re-petitions, high levels of accuracy were obtained, which implies similarity of thematic maps builtwith these two methods. In the second area under study the interest was to use the spatiallinear model with multiple independent replications to study the spatial variability of soybeanyield in both years as a function of covariates soil resistance to penetration (RSP) and bulkdensity (Dens) in the layers 0-0.10, 0.10-0.20 and 0.20-0.30 m deep. In both studies, the struc-ture of spatial variability estimated by spatial linear model with multiple independent replicationscaused reduction of computational time in the adjustment of models and the generation of the-matic maps.

Key-words: semivariance function; maximum likelihood; thematic maps

xiii

1

1 INTRODUÇÃO

Características naturais, como os atributos químicos e físicos do solo, frequentemente

apresentam variações com um nível de autocorrelação espacial e, para avaliar esta dependên-

cia, utilizam-se técnicas geoestatísticas considerando a localização dos dados. Os métodos

geoestatísticos têm como fundamento a “Teoria das Variáveis Regionalizadas”, que leva em

consideração a distribuição espacial das medidas, o que permite definir a estrutura e o raio

de dependência espacial entre elementos amostrados, para estimar valores em locais não

amostrais e construir mapas temáticos que apresentem essa dependência.

O conhecimento da variabilidade espacial de determinada característica do solo ou da

produtividade de culturas somado ao estudo do comportamento desta variabilidade no tempo

permite o monitoramento e o mapeamento desses atributos e a aplicação localizada de insu-

mos.

Na literatura geoestatística observa-se um grande número de publicações referentes a

processos espaciais e temporais. Smith (1999) trabalha com modelos espaciais com repeti-

ções múltiplas independentes, Salviano (1996), Mercante et al. (2003), Vieira et al. (2010) e

Ávila et al. (2011) utilizam semivariogramas escalonados em atributos do solo e Szpiro et al.

(2010) utilizaram modelos espaciais hierárquicos no estudo de variabilidade espaço-temporal.

Mercante et al. (2003) e Vieira et al. (2010) utilizaram a técnica de escalonamento de

semivariogramas como uma proposta para a modelagem conjunta no espaço e no tempo.

Esta técnica consiste em estimar os parâmetros que definem a estrutura de dependência

espaço-temporal por meio de ajuste de modelos ao semivariograma escalonado. A condição

necessária para utilizar o semivariograma escalonado é o efeito proporcional em suas funções

semivariâncias.

Smith (1999), por outro lado, propõe modelar a estrutura de dependência espacial utili-

zando modelos espaciais lineares com repetições múltiplas independentes do campo aleatório

e o método de máxima verossimilhança para estimação de parâmetros.

O presente trabalho justifica-se pela importância que o desenvolvimento de diferentes

métodos geoestatísticos para o estudo da estrutura de dependência espacial representam,

visto que estes processos fornecem estimativas dos parâmetros que são utilizados na cons-

trução de mapas temáticos utilizando o método de interpolação por krigagem.

Ao utilizar metodologias que consideram repetições do campo aleatório, espera-se ob-

ter melhores estimativas dos parâmetros que definem a estrutura de dependência espacial e,

assim, descrever com maior fidelidade características da área sob estudo.

O presente trabalho teve como objetivo apresentar um estudo de variabilidade espacial,

em diferentes períodos de tempo, utilizando e comparando o método de escalonamento da fun-

ção semivariância com os modelos espaciais lineares com repetições múltiplas independentes,

2

em dados espacialmente referenciados, caracterizando a estrutura de dependência espacial

do teor de potássio no solo e da produtividade da soja em áreas agrícolas.

3

2 REVISÃO BIBLIOGRÁFICA

2.1 Modelos espaciais lineares

Para modelar dados com uma determinada estrutura de dependência espacial, considera-

se Z = Z(s) = (ZT1 (s), . . . ,ZTr (s))

T um vetor espacial linear multivariado de r processos esto-

cásticos gaussianos independentes, que dependem da posição s ⊂ S ⊂ R2 (R2 espaço euclidi-ano bidimensional). Assume-se que o i-ésimo processo estocástico Zi(s) = (Zi(s1), . . . , Zi(sn))T ,

i = 1, . . . , r, pode ser expresso como o modelo linear (WEBSTER; OLIVER, 2007; BORSSOI

et al., 2009; URIBE-OPAZO et al., 2012) apresentado na Equação Eq. 1:

Zi(s) = µi(s) + ǫi(s), i = 1, . . . , r (Eq. 1)

em que, o termo determinístico µi(s) é o vetor de médias do processo Zi(s) e ǫi(s) é um

processo estacionário de segunda ordem, com vetor de médias zero, isto é, E[ǫi(s)] = 0.

O vetor de médias µi(s) pode ser escrito como um modelo espacial linear (SMITH,

1999) cujos elementos são apresentados na Equação Eq. 2:

µi(sj) =

p∑

u=1

xiu(sj)βu, i = 1, . . . , r, j = 1, . . . , n, (Eq. 2)

em que,

xi1, . . . , xip são funções conhecidas de s, i = 1, . . . , r;

β1, . . . , βp são parâmetros desconhecidos a serem estimados.

O modelo espacial linear multivariado para r processos estocásticos gaussianos inde-

pendentes pode ser escrito em forma matricial conforme a Equação Eq. 3:

Zi(s) = X(s)β + ǫi(s), (Eq. 3)

em que,

Zi(s) = (Zi(s1), . . . , Zi(sn))T é o vetor n × 1 das n observações no espaço paramétrico S,

i = 1, . . . , r;

X(s) = [xju(s)] é a matriz n× p, de u = 1, . . . , p covariáveis, para todo j = 1, . . . , n, isto é, sãoutilizados os mesmos n dados das p covariáveis para as r repetições;

β = (β1, . . . , βp)T é o vetor p× 1, de parâmetros desconhecidos, para todo i = 1, . . . , r.

Seja Σi(s) = Σi = [Ci(su, sj)] = Cov[Zi(su),Zi(sj)] a matriz de covariância n × n deZi(sj) na i-ésima repetição, i = 1, . . . , r, j = 1, . . . , r. A matriz Σi(s) é simétrica e positiva

definida, associada ao vetor Zi(s), em que para processos intrinsecamente estacionários e

isotrópicos os elementos Ci(su, sj) dependem da distância euclidiana entre os pontos su e sj

(CRESSIE, 1993).

4

Considera-se a mesma estrutura de covariância para cada uma das r repetições múl-

tiplas (MARDIA; MARSHALL, 1984), isto é, a matriz de covariância Σi(s) tem estrutura con-

forme a Equação Eq. 4:

Σi(s) = Σ(s) = ϕ1In + ϕ2R(ϕ3), i = 1, . . . , r (Eq. 4)

em que,

ϕ1 é o parâmetro conhecido como efeito pepita (ϕ1 ≥ 0);ϕ2 é o parâmetro conhecido como contribuição (ϕ2 ≥ 0);R(ϕ3) = [(ruj)] é uma matriz que é função de ϕ3, n× n, simétrica com elementos da diagonalruu = 1, u, j = 1, . . . , n;

ϕ3 é função do alcance (a) do modelo (ϕ3 ≥ 0);In é uma matriz identidade n× n.

A forma paramétrica da matriz de covariância Σ, dada na Equação Eq. 4, ocorre para

vários processos isotrópicos (GUEDES et al., 2008), onde a covariância Ci(su, sj) é definida

segundo a função de covariâncias Ci(δ) = ϕ2ruj , em que, δ = ‖su − sj‖ é a distância euclidi-ana entre os pontos su e sj . Nas funções de covariâncias Ci(δ), a variância do processo esto-

cástico Zi(s) é Ci(0) = ϕ1+ϕ2, e a semivariância pode ser definida como γi(δ) = Ci(0)−Ci(δ)(DIGGLE; RIBEIRO JR, 2007).

Considerando Zi(s) vetores independentes e identicamente distribuídos, Z ∼ Nnr(X∗β∗,Σ

∗), em que X∗ = Ir ⊗X(s) é uma matriz nr × pr, β∗ = β ⊗ 1r vetor pr × 1, Σ∗ = Ir ⊗Σ(s)é uma matriz nr × nr, onde Ir é a matriz identidade de ordem r, 1r é um vetor de uns dedimensão r e sendo ⊗ o produto de Kronecker.

2.1.1 Função semivariância

A função semivariância γi(δ), para i = 1, . . . , r, é definida como a metade da esperança

matemática do quadrado da diferença do valor da função aleatória ou variável regionalizada

Zi verificada em dois pontos separados no espaço por uma distância δ,

γi(δ) =1

2E[Zi(sj)− Zi(sj + δ)]2, i = 1, . . . , r, j = 1, . . . , n. (Eq. 5)

O gráfico da função semivariância versus a distância δ é conhecida como semivario-

grama. Na Figura 1, é apresentado um exemplo da relação entre a covariância espacial Ci(δ)

e a semivariância γi(δ), i = 1, . . . , r.

Como a função semivariância é uma medida da variância das diferenças nos valores

da variável regionalizada entre pontos separados por uma distância δ, pontos mais próximos,

por estarem correlacionados, terão essa variância pequena, aumentando à medida que esses

pontos se distanciam (CRESSIE, 1993).

5

j1

j j1 2+

g d( ) C( )d

g d( )

C( )d

g j j( )= +∞ 1 2

C( )=0∞

a g= ( )j3( )d

0

Figura 1 Relação entre a covariância espacial C(δ) e a semivariância γ(δ).

O contrário acontece para a função covariância, que é grande para distâncias peque-

nas, diminuindo à medida que a distância aumenta, pois esta função mede a correlação entre

pontos separados por uma distância δ.

2.1.2 Parâmetros da estrutura de dependência espacial

O efeito pepita ϕ1, que é um parâmetro importante da função semivariância, reflete o

erro analítico, indicando uma variabilidade não explicada (ao acaso) de um ponto para o outro,

que pode ser devida tanto a erros de medidas ou microvariação não detectada em função da

distância de amostragem utilizada (CAMBARDELLA et al., 1994; VIEIRA, 1997), sendo im-

possível quantificar a contribuição individual dos erros de medições ou da variabilidade. Esse

parâmetro pode facilitar a comparação do grau de dependência espacial das variáveis em es-

tudo, pois, quando não encontrada a estrutura de variação, observa-se que γ(δ) permanece

constante com o aumento da distância desde o início, ou seja, o raio de ação é menor que

a distância de amostragem. Em tal situação diz-se que ocorreu um efeito pepita puro, de-

monstrando que o fenômeno físico tem uma distribuição espacial completamente ao acaso

com respeito ao espaço de amostragem, que não há correlação espacial entre os elementos

amostrais e que os métodos da estatística tradicionais podem ser aplicados (CRESSIE, 1993).

O parâmetro C = ϕ1+ϕ2 é conhecido como patamar e corresponde ao valor da semiva-

riância que se estabiliza na distância a = g(ϕ3), que é uma função positiva de ϕ3 denominada

alcance.

2.1.3 Modelos teóricos de semivariograma

A literatura apresenta diversas opções para escolha do modelo de variabilidade espa-

cial, como, por exemplo, a função de correlação família Matérn com diferentes parâmetros de

forma k.

Matérn (1986) apresentou uma função chamada família Matérn. Essa função é defi-

nida, em termos da função de covariância, por:

6

C(δ) =

0, δ = 0

ϕ2

[

(

2k−1Γ(k))−1

(

δ

ϕ3

)k

Kk

(

δ

ϕ3

)

]

, δ > 0(Eq. 6)

em que:

ϕ1, ϕ2, ϕ3 e k são parâmetros;

δ > 0 é a distância euclidiana entre duas localizações espaciais conhecidas sj (j = 1, . . . , n);

Kk é a função de Bessel de terceiro tipo, de ordem k.

A família Matérn é válida para ϕ3 > 0 e k > 0 e corresponde à função exponencial

quando o parâmetro de forma k = 0, 5 e à função Gaussiana quando k → ∞ (DIGGLE;RIBEIRO JR., 2007).

A relação entre o alcance prático a e o parâmetro ϕ3 depende do valor do parâmetro k

(DIGGLE; RIBEIRO JR, 2007). Por esta razão, Handcock e Wallis (1994) sugerem a repara-

metrização da Equação (Eq. 6) a partir de ϕ3 e k para um par aproximadamente ortogonal k e

a = 2ϕ3√k.

O modelo exponencial apresenta comportamento aproximadamente linear na origem

e atinge o patamar assintoticamente com alcance prático definido como a distância na qual o

valor do modelo é 95% de ϕ2, sendo o alcance prático dado por a = 3ϕ3.

Semelhante ao modelo exponencial, o modelo gaussiano atinge o patamar assinto-

ticamente e o alcance prático é dado por a =√3ϕ3. O que carateriza este modelo é seu

comportamento parabólico próximo à origem e é o único modelo que apresenta em sua forma

um ponto de inflexão (ISAAKS; SRIVASTAVA, 1989).

2.2 Análise espacial por meio do escalonamento da função semivariânc ia

Estudos de variabilidade espacial normalmente caracterizam-se por um grande número

de variáveis ou repetições de uma variável no tempo e, em consequência disso, faz-se neces-

sário um grande número de ajustes de semivariogramas experimentais. Uma alternativa para

agrupar os dados de forma a facilitar conclusões sobre estas variáveis é a técnica de escalo-

namento da função semivariância.

A técnica de escalonamento da função semivariância γ(δ), δ ∈ R+ consiste em esti-mar os parâmetros que definem a estrutura de dependência espacial por meio do ajuste de

modelos ao semivariograma escalonado.

De acordo com Salviano (1996) o escalonamento da função semivariância consiste em

agrupar vários semivariogramas em uma única função, descrita pela Equação Eq. 7:

γesci(δ) =γi(δ)

αi, i = 1, . . . , r, (Eq. 7)

em que,

r é o número de períodos ou repetições em estudo;

αi é o fator de escalonamento, adotado como a variância dos dados da i-ésima repetição.

7

O procedimento consiste em:

• elaborar os semivariogramas individuais para cada período i = 1, . . . , r, observando queas semivariâncias devem ser calculadas para as mesmas distâncias;

• calcular as semivariâncias escalonadas para cada distância, segundo a Equação Eq. 7;e

• reunir os semivariogramas individuais escalonados em um único gráfico.

O escalonamento é utilizado com a finalidade de desenhar vários semivariogramas no

mesmo gráfico, quando de outra maneira teriam escalas diferentes no eixo das semivariâncias.

Quando semivariogramas escalonados se agrupam, pode-se dizer que as propriedades envol-

vidas têm variabilidade espacial semelhante (VIEIRA et al., 1997). Assim, pode-se estimar os

parâmetros de dependência espacial por meio do ajuste de modelos teóricos ao semivario-

grama escalonado.

A Figura 2 ilustra um semivariograma experimental escalonado com um modelo teórico

ajustado.

0 20 40 60 80

0.0

0.2

0.4

0.6

0.8

1.0

1.2

Distância (m)

Sem

ivar

iânc

ia

Figura 2 Semivariograma escalonado.

Quando se escalona um semivariograma pela variância o efeito pepita torna-se auto-

maticamente uma fração do patamar (VIEIRA et al., 1998, MERCANTE et al., 2003), facilitando

as interpretações e comparações entre semivariogramas de diferentes atributos ou do mesmo

no tempo, já que assim pode-se verificar se contam com o mesmo padrão de variabilidade

espacial, uma vez que assumem valores em uma escala padronizada.

Mercante et al. (2003), Fidalski et al. (2006), Vieira et al. (2010) e Ávila et al. (2011)

utilizaram a técnica de escalonamento de semivariogramas como uma proposta para a mode-

lagem conjunta no espaço e no tempo.

Mercante et al. (2003) estudaram o comportamento das variabilidades espacial e tem-

poral por meio da técnica de escalonamento de semivariogramas da variável resistência me-

8

cânica do solo à penetração nas camadas de 0-0,1, 0,1-0,2, 0,2-0,3 m de profundidade, para

os anos de 1999 a 2001, sob duas formas de manejo, e concluíram que o escalonamento dos

semivariogramas reduziu o tempo computacional do ajuste de modelos, não apresentando

diferenças no comportamento e amplitude da variabilidade espacial em relação aos semivario-

gramas não escalonados.

Fidalski et al. (2006) avaliaram a variabilidade espacial e temporal da resistência me-

cânica do solo à penetração utilizando a técnica de escalonamento dos semivariogramas em

camadas de um latossolo vermelho eutoférrico em áreas contíguas de sistemas de manejo de

plantio direto e verificaram que o escalonamento dos semivariogramas não alterou os padrões

da estrutura espacial da resistência mecânica do solo à penetração.

Vieira et al. (2010) analisaram a variabilidade espacial do teor de água no solo ao longo

do tempo utilizando semivariogramas escalonados em duas conduções distintas de uso: área

com vegetação natural e área cultivada com culturas anuais. Pela análise dos semivariogra-

mas escalonados do conteúdo de água no solo verificaram que para a área com cultivo as

amostragens apresentaram variabilidade espacial diferente enquanto que para a área com ve-

getação natural ocorreu semelhança no padrão de variabilidade espacial do semivariograma

escalonado.

Ávila et al. (2011) avaliaram o padrão espacial e temporal da umidade volumétrica na

camada superficial do solo, nas diferentes estações do ano, em uma bacia hidrográfica experi-

mental localizada na região Sul de Minas Gerais, utilizando o escalonamento de semivariogra-

mas, o qual possibilitou a comparação da estrutura espacial dos modelos de semivariogramas

ajustados. Os semivariogramas escalonados mostraram semelhanças no padrão espacial no

verão e no outono e diferenças em relação ao inverno e à primavera.

A condição necessária para utilizar o semivariograma escalonado é que exista efeito

proporcional entre suas funções semivariâncias, ou seja, que haja proporcionalidade entre as

médias e as variâncias dos dados em estudo (MERCANTE et al., 2003; VIEIRA et al, 2010).

2.3 Análise espacial utilizando repetições múltiplas independentes

O tratamento utilizando a estimação de parâmetros por máxima verossimilhança baseia-

se na suposição de que a inferência deve ser fundamentada em uma única realização do pro-

cesso estocástico Z(s). Espera-se obter melhores estimativas dos parâmetros que definem

a estrutura de variabilidade espacial se houver múltiplas repetições independentes de Z(s)

(SMITH, 1999).

Seja Z = (ZT1 (s), . . . ,ZTr (s))

T r vetores aleatórios independentes. A função densidade

de probabilidade conjunta de Zi é conforme a Equação Eq. 8:

fZi(Zi(s1), . . . , Zi(sn)) =1

√2π

n/2 |Σ|1/2e−

1

2(Zi −Xβ)TΣ−1(Zi −Xβ)

, i = 1, . . . , r. (Eq. 8)

9

E a função densidade de probabilidade conjunta de Z é da forma:

fZ(ZT1 (s), . . . ,Z

Tr (s)) =

r∏

i=1

fZi(Zi(s1), . . . , Zi(sn)).

A função de verossimilhança para θ = (βT ,ϕT )T é dada pela Equação Eq. 9:

L(θ) =r∏

i=1

fZi(Zi(s1), . . . , Zi(sn)) = (2π)−nr/2 |Σ|−r/2 e

−

1

2

r∑

i=1

(Zi −Xβ)TΣ−1(Zi −Xβ).

(Eq. 9)

O logaritmo da função de verossimilhança para o vetor de parâmetros θ é apresentado

na Equação Eq. 10:

l(θ) = −rn2

log(2π)− r2log |Σ| − 1

2

r∑

i=1

(Zi −Xβ)TΣ−1(Zi −Xβ) (Eq. 10)

em que,

Σ = ϕ1In + ϕ2R(ϕ3) é a matriz de covariância;

Ui = (Zi −Xβ)TΣ−1(Zi −Xβ) é chama de distância de Mahalanobis, i = 1, . . . , r.Observa-se que, nesta abordagem, a matriz de covariáveis X, o vetor de parâmetros β

e a matriz de covariância Σ são consideradas as mesmas para as r repetições (SMITH,1999).

O procedimento para a estimação do vetor de parâmetros que definem a estrutura

de dependência espacial θ = (βT ,ϕT )T por meio do método de máxima verossimilhança e

para o cálculo do erro padrão das estimativas de máxima verossimilhança é apresentado nos

subcapítulos 3.2.3 e 3.2.4.

2.4 Krigagem

A krigagem é um nome genérico adotado pelos geoestatísticos para um grupo de técni-

cas de estimação baseado em minimização da variância do erro. É um método de interpolação

que usa a estrutura de dependência espacial para estimar valores dentro de um espaço amos-

tral, sem tendência e com variância mínima.

O método de interpolação por krigagem possibilita a construção de mapas temáticos

com alta precisão, uma vez que após a interpolação, a densidade espacial de dados será muito

maior do que a obtida pela amostragem. Quando um estudo de semivariância é adequada-

mente elaborado, a estimativa por krigagem resultante é reconhecida como sendo a estimativa

linear e não tendenciosa (BLUE - best, linear, unbiased estimate) (LANDIM, 2000).

2.4.1 Krigagem ordinária

Segundo Journel e Huijbregts (1978), a ideia básica de regressão linear é a estimativa

de um valor desconhecido Ẑi(s0) por meio de uma combinação linear de n valores conhecidos,

10

Zi(sj), i = 1, . . . , r, j = 1, . . . , n. Na krigagem, esses n valores conhecidos são de uma mesma

característica ou propriedade em estudo. O preditor pode ser escrito conforme a Equação Eq.

11:

Ẑi(s0) =n∑

j=1

λijZi(sj), i = 1, . . . , r, (Eq. 11)

em que:

Ẑi(s0): valor predito no local s0, não amostrado na repetição i = 1, . . . , r;

n: número de valores Zi(sj) medidos das variáveis em pontos amostrados;

λij : pesos associados a cada valor Zi(sj) medido.

O preditor definido na Equação Eq. 11 é tido como melhor preditor por produzir esti-

mativas não viciadas com variâncias mínimas. Tais qualidades são garantidas uma vez que os

pesos λij são determinados impondo-se que a esperança do erro seja zero e a variância do

erro seja mínima.

Sob a hipótese do processo ser intrinsecamente estacionário, tem-se que o erro médio

é expresso pela Equação Eq. 12:

E[Zi(s0)− Ẑi(s0)] = µi − µin∑

j=1

λij = µi

1−n∑

j=1

λij

, i = 1, . . . , r. (Eq. 12)

Esse erro será nulo se (Equação Eq. 13):

n∑

j=1

λij = 1, i = 1, . . . , r, (Eq. 13)

o que é necessário para garantir que o preditor seja não tendencioso. Além disso, na krigagem,

a variância da predição é mínima, ou seja (Equação Eq. 14),

σ2i = V ar[Zi(s0)−Ẑi(s0)] = E[(Zi(s0)−Ẑi(s0))2]−{E[Zi(s0)−Ẑi(s0)]}2, i = 1, . . . , r. (Eq. 14)

Essas duas condições, Equações Eq. 13 e Eq. 14, garantem que o preditor da kriga-

gem seja não tendencioso e de variância mínima.

Substituindo a Equação Eq. 11 na Equação Eq. 14, desenvolvendo-se a expressão

resultante e minimizando-a, sujeita à restrição expressa na Equação Eq. 13, chega-se que os

valores de λij , i = 1, . . . , r, j = 1, . . . , n são as soluções do sistema de Equações Eq. 15:

n∑

j=1

λijγ(sl, sj)− η = γ(s0, sl), l = 1, . . . , nn∑

j=1

λij = 1, i = 1, . . . , r,

(Eq. 15)

em que a incógnita η é um multiplicador de Lagrange, introduzido ao minimizar a variância do

erro e γ(sl, sj) e γ(s0, sj) são respectivamente a semivariância entre os pontos sl, sj e entre os

11

pontos s0 e sj .

O sistema expresso na Equação Eq. 15, constituído de n+1 Equações e n+1 incógnitas

é conhecido como krigagem ordinária.

2.4.2 Krigagem universal

Um dos problemas encontrados ao modelar semivariogramas segundo ASCE Task

Committee (1990) é a existência de tendência nos dados, isto é, que os valores medidos

aumentam ou diminuem em alguma direção na área em estudo. Esse é o caso de um fenô-

meno não estacionário, o que torna impossível a aplicação da krigagem simples ou ordinária.

A krigagem universal é utilizada em casos em que a variável regionalizada não é estacionária.

A krigagem universal consiste em extrair da variável original Zi(s) a parte não esta-

cionária por meio de uma componente determinística µi(s) que representa a tendência, até

encontrar a parte estacionária do fenômeno, obtendo-se um componente estocástico Ri(s)

relacionados pela seguinte expressão:

Zi(s) = µi(s) +Ri(s), i = 1, . . . , r. (Eq. 16)

Para o componente determinístico se sugere utilizar uma função polinomial de grau p

das coordenadas para modelar a tendência, ou seja, ajustar um polinômio que se encarregaria

de remover a componente de deriva da variável regionalizada, e com os resíduos obter os

variogramas que agora podem ser modelados, pois, em princípio, deveriam apresentar-se

estacionários, isto é:

µi(sj) =

p∑

m=1

aimfim(sj), i = 1, . . . , r j = 1, . . . , n, (Eq. 17)

em que aim são os coeficientes desconhecidos e fim(sj) é a função que descreve a tendência.

Deste modo pode-se obter tendências simples, lineares, quadráticas, etc. Para uma

tendência simples a krigagem universal se reduz à krigagem ordinária (CHRISTENSEN et al.,

1993).

Assim, o sistema de Equações abaixo é conhecido como sistema de krigagem univer-

sal:

n∑

j=1

λijγ(sl, sj) +

p∑

m=1

aimfim(sj) = γ(s0, sl), l = 1, . . . , n

n∑

j=1

λjfm(sj) = fm(s0), m = 1, . . . , p

. (Eq. 18)

2.5 Medidas de comparação de mapas

O estudo de metodologias que permitam comparar mapas temáticos gerados por dife-

rentes técnicas é de suma importância, pois só uma comparação visual é subjetiva e diferenças

12

importantes entre mapas podem ser ignoradas.

Para uma análise precisa da similaridade de mapas temáticos utiliza-se diversas me-

didas de acurácia derivadas da matriz dos erros. A Tabela 1 apresenta a forma genérica de

uma matriz dos erros (GRINAND et al., 2008). Nesta matriz, os pixels1 do mapa de referência

são quantificados nas colunas enquanto que os pixels do mapa modelo são quantificados nas

linhas. Cada elemento da matriz representa a quantidade de pixels pertencentes à classe Ci,

i = 1, . . . , k, do mapa modelo e a classe Cj , j = 1, . . . , k, do mapa de referência. Os ele-

mentos da diagonal principal (quando i = j) representam casos em que os pixels tiveram a

mesma classificação nos dois mapas, enquanto que os elementos fora da diagonal principal

representam as classificações errôneas.

Tabela 1 Matriz dos erros genérica de ordem k × k.

Pixels do mapa de referência

Classes C1 C2 . . . Ck TOTAL

Pixels C1 n11 n12 . . . n1k n1·

do mapa C2 n21 n22 . . . n2k n2·

modelo...

......

. . ....

...

Ck nk1 nk2 . . . nkk nk·

TOTAL n·1 n·2 . . . n·k n

k: número de classes; Ci: classe i; ni·: total de pixels na classe Ci do mapa modelo; n·i:total de pixels na classe

Cj do mapa de referência; n: total de pixels.

A comparação entre o mapa de referência e o mapa modelo pode ser feita utilizando

medidas de acurácia obtidas da matriz dos erros.

2.5.1 Exatidão global

A exatidão global (EG) (Equação Eq. 19) é uma estatística de avaliação utilizada para

mensurar a similaridade entre algo real ou de referência e um modelo ajustado, porém, é

conveniente apresentar esta medida associada a outras medidas que levem em consideração

os demais valores contidos na matriz dos erros, e não somente os elementos da diagonal

principal. Pode ser extraída da matriz dos erros pela fórmula:

EG =

k∑

i=1

nii

n(Eq. 19)

Segundo Anderson et al. (2001), o nível mínimo de precisão de EG é 0,85.

É possível construir um intervalo de (1 − α)% de confiança para a EG, IC[EG, (1 −α)%] = EG ± zα/2

√

EG(1− EG)/n para n > 50, em que zα/2 é o quantil de uma variávelaleatória com distribuição normal padrão (FOODY, 2009).

1Aglutinação das palavras Picture e Elements. Representa o menor elemento de um mapa ao qual é possívelatribuir um valor. Neste trabalho, os pixels serão definidos como os elementos da matriz dos valores krigados.

13

2.5.2 Índice Kappa

Como relatam Gong e Howarth (1990), o índice Kappa (Ka) (COHEN, 1960) é uma

estatística utilizada para mensurar a exatidão das classificações temáticas. Ele é recomendado

como uma medida apropriada da exatidão por utilizar todos os elementos da matriz dos erros.

O índice Kappa fornece uma medida de concordância entre os valores previstos e os

valores observados e, segundo Congalton e Green (1999), pode ser calculado pela Equação

Eq. 20:

K̂a =

n

k∑

i=1

nii −k∑

i=1

ni·n·i

n2 −k∑

i=1

ni·n·i

. (Eq. 20)

Segundo a classificação de Kripendorff (2012), K̂a é classificado com baixa exatidão

se K̂a < 0, 67, média exatidão se 0, 67 ≤ K̂a ≤ 0, 80 e alta exatidão se K̂a ≥ 0, 80.O intervalo de (1 − α)% de confiança para Ka é da forma IC[Ka, (1 − α)%] = K̂a ±

zα/2

√

σ2(K̂a). A variância do índice Kappa é obtida por meio da Equação Eq. 21 (DE BASTI-

ANI et al, 2012):

σ2(K̂a) =1

n

(

θ1(1− θ1)(1− θ1)2

+2(1− θ1)(2θ1θ2 − θ3)

(1− θ2)3+

(1− θ1)2(θ4 − 2θ2)2(1− θ2)4

)

, (Eq. 21)

em que,

θ1 =1

n

k∑

i=1

nii;

θ2 =1

n2

k∑

i=1

ni·n·i;

θ3 =1

n2

k∑

i=1

nii(ni· + n·i);

θ4 =1

n3

k∑

i=1

k∑

j=1

nij(ni· + n·j)2.

2.5.3 Índice Tau

Ma e Redmond (1995) propuseram um índice que se mostra menos subjetivo e mais

fácil de compreensão e utilização, o índice de concordância Tau (T ), também conhecido como

Kappa modificado, definido por:

T =

k∑

i=1

nii

n− pi

1− pi(Eq. 22)

em que pi indica as probabilidades a priori de cada classe. Quando as probabilidades a priori

14

de cada classe forem iguais, tem-se pi =1

k, onde k é o número de classes da matriz dos erros.

O índice Tau pode seguir a mesma classificação do índice Kappa (KRIPENDORFF,

2012).

A variância do índice Tau é calculada com a mesma fórmula do índice Kappa e a

diferença é a inclusão das probabilidades a priori (DE BASTIANI et al, 2012).

2.6 Potássio

A análise química do solo é de grande importância como ferramenta para orientar prá-

ticas de correção e adubação do solo, considerando-se que a calagem e adubação, respon-

sáveis por até 100% do aumento da produtividade dos cultivos, dependem do conhecimento

prévio das características químicas do solo (TEDESCO et al., 1995).

As características químicas do solo estão relacionadas com a natureza dos minerais

do solo e a disponibilidade de nutrientes presentes no solo, subsídio esse fundamental para

a recomendação da dose de adubação, assim como as transformações a que os nutrientes

adicionados ao solo estarão sujeitos (ALCARDE et al., 1991).

Segundo Malavolta (1989), o conhecimento dos teores de nutrientes disponíveis no

solo orientam na formulação das recomendações mais acertadas para a adubação das plan-

tas, evitando-se o desperdício e o uso inadequado de adubos e corretivos e prejuízo, que

haveria tanto nas despesas com adubação como na redução das colheitas.

Segundo o Instituto da Potassa e Fosfato (1998), dezesseis elementos químicos são

chamados essenciais para o crescimento e desenvolvimento das plantas. Eles são divididos

em dois grupos principais: os não-minerais e os minerais. Os nutrientes não-minerais são o

carbono (C), o hidrogênio (H) e o oxigênio (O), nutrientes encontrados na atmosfera e na água

e participam da fotossíntese, sendo responsáveis pela maior parte do crescimento das plantas.

Os treze nutrientes minerais, que são fornecidos pelo solo, estão divididos em macronutrientes

primários (nitrogênio (N), fósforo (P) e potássio (K)), macronutrientes secundários (cálcio (Ca),

Magnésio (Mg) e Enxofre (S)) e micronutrientes (Boro (B), Cloro (Cl), Cobre (Cu), Ferro (Fe),

Manganês (Mn), Molibdênio (Mo) e Zinco (Zn)). Os macronutrientes primários geralmente

tornam-se deficientes no solo antes dos demais, porque as plantas os usam em quantidades

relativamente grandes. Os macronutrientes secundários e os micronutrientes são geralmente

menos deficientes e usados em quantidades menores. Mas eles são tão importantes quanto

os macronutrientes primários para uma adequada fertilidade do solo.

O potássio (K) é o segundo macronutriente em teor contido nas plantas. Segundo

Raij (1991), é, depois do fósforo, o nutriente mais consumido como fertilizante pela agricultura

brasileira. A maior parte do potássio é absorvida pelas plantas durante a fase de crescimento

vegetativo. A deficiência de potássio não revela sintomas imediatos nas plantas, ocorrendo

inicialmente a redução do crescimento e, em fases mais avançadas de deficiência, clorose

e necrose das folhas. Os sintomas de deficiência de potássio aparecem de várias formas.

Um dos sintomas mais comuns da fome de potássio é a murcha ou queima ao longo das

15

margens das folhas. As plantas deficientes em potássio crescem lentamente, apresentam

sistemas radiculares pouco desenvolvidos, os colmos são fracos e o acamamento é comum.

As sementes e os frutos são menores e enrugados, e as plantas possuem pouca resistência

às doenças (INSTITUTO DA POTASSA E FOSFATO, 1998).

A Tabela 2 apresenta os níveis de classificação do potássio segundo Costa e Oliveira

(2001).

Tabela 2 Interpretação dos teores do potássio (K) na análise de solo

Graduação Baixo Médio Alto Muito Alto

Potássio [cmolc dm−3] ≤ 10,0 0,11 - 0,20 0,21 - 0,30 >0,30Fonte: Adaptado de Costa e Oliveira (2001).

2.7 Produtividade da soja

A cultura da soja, apesar de ser milenar, ganhou destaque econômico apenas na se-

gunda metade do século XX. No Brasil, sua produção cresceu no início da década de 70,

quando ocorreu alta nos preços internacionais. A produtividade de uma área está relacionada

com os atributos físico-químicos do solo, o que pode ser corrigido com a ajuda da agricultura

de precisão, permitindo a aplicação de insumos agrícolas nos locais corretos e nas quantida-

des precisas, obtendo uma lavoura com produtividade mais uniforme (EMBRAPA, 2010).

Segundo dados da Embrapa Soja (2011), o Brasil é o segundo maior produtor mundial

do grão com produção igual a 75 milhões de toneladas na safra 2010/2011, com produtividade

igual a 3,1 t ha−1, ficando atrás somente dos Estados Unidos. Além disso, o estado do Paraná

é o segundo maior produtor nacional (o primeiro é o estado do Mato Grosso), com produção

de 15,4 milhões de toneladas na safra 2010/2011 e produtividade superior à nacional, 3,36

t ha−1.

Na Tabela 3 apresentam-se os valores da produtividade estadual e nacional da soja. A

Figura 3 apresenta um gráfico de perfis que permite observar o comportamento da produtivi-

dade a cada ano.

Tabela 3 Produtividade da soja [t ha−1] segundo os padrões estadual e nacional

Produtividade 1998/1999 1999/2000 2000/2001 2001/2002 2002/2003 ... 2010/2011 2011/2012

Estadual 2,79 2,52 3,06 2,89 3,02 ... 3,36 2,45

Nacional 2,37 2,41 2,75 2,58 2,82 ... 3,12 2,65

Fonte: CONAB (2012).

16

Figura 3 Perfis de produtividade estadual e nacional para sete anos agrícolas.

2.8 Resistência do solo à penetração (RSP)

A Resistência do Solo a Penetração (RSP) é resultante por forças provocadas pela

compactação, que é definida pela densidade do solo, conteúdo de água e textura do solo

(SECCO, 2003). Desse modo, pode-se afirmar que a RSP geralmente aumenta com a com-

pactação do solo (incremento da densidade) e com a redução da umidade do solo, sendo

indesejável para o crescimento das plantas, ocasionando redução de crescimento do sistema

radicular (BENGHOUG; MULLINS, 1990).

Determinar qual é o nível crítico de resistência do solo é um processo difícil, visto que

a resistência está intimamente ligada e influenciada pela umidade dos solos, atributos estes

que variam constantemente. Além do mais, a RSP é também influenciada pelo tipo de solo e

espécie cultivada (JUNIOR; et al, 2004). Desta maneira a literatura, de modo geral aceita como

valores limitantes para o crescimento radicular da maioria das espécies cultivadas no solo,

sendo considerado solo compactado quando apresentar valores de resistência à penetração

acima de 2,0 MPa em qualquer tipo de solo (FALKER, 2009).

Segundo Falker (2009), podemos classificar a compactação dos solos em três diferen-

tes níveis:

• Níveis toleráveis são aqueles nos quais não existe perda de produtividade por causa dacompactação;

• Níveis intermediários são aqueles em que existe potencial para perdas de produtividadepela compactação;

• Níveis críticos são aqueles em que normalmente ocorrerão perdas pela compactação.

Desse modo, levando em conta ainda a classificação dos solos pelo teor de argila da

EMBRAPA (2009) em solos leves: abaixo de 20%; solos médios: entre 20% e 50%; solos

17

pesados: acima de 50%, Falker (2009) construiu a Tabela 1 comparando ambas as caracterís-

ticas.

Tabela 4 Níveis críticos de resistência do solo a penetração em função da classificação dossolos

Níveis de RSP no solo Tipos de solo

Leves Médios Pesados

Nível Tolerável [MPa] Abaixo de 2,0 Abaixo de 2,0 Abaixo de 2,5

Nível intermediário [MPa] Entre 2,5 e 3,0 Entre 2,0 e 3,5 Entre 2,5 e 4,0

Nível crítico [MPa] Acima de 3,0 Acima de 3,5 Acima de 4,0

Fonte: Falker (2009).

Segundo Reichert et al. (2010) alguns cuidados devem ser tomados na determinação

da resistência do solo a penetração para que não ocorram erros de interpretação. A RSP

depende principalmente do conteúdo de água, da densidade do solo e da distribuição do ta-

manho de partículas. Assim, um solo seco ou mais denso apresenta maior resistência, se

comparado a um solo úmido e menos denso, enquanto, para um mesmo conteúdo de água,

um argilossolo apresenta maior resistência que um solo arenoso.

Nesse sentido, sugere-se que a avaliação da resistência do solo a penetração deva ser

aliada a outras avaliações ou observações de campo. Sua avaliação, juntamente com a deter-

minação da densidade, ou abertura de trincheiras para observação do crescimento radicular,

é fundamental para um melhor embasamento dos resultados de resistência à penetração.

2.9 Densidade do solo (Dens)

A densidade do solo é definida como a relação entre a massa de solo seco em estufa

(M) e seu respectivo volume (V), portanto levam em consideração os espaços ocupados pela

água e pelo ar. Assim, esta variável está relacionada com a estrutura e consequentemente

com a compactação do solo.

Assis (2000) considera que a densidade do solo é um atributo físico que reflete como

as partículas do solo estão arranjadas, definindo, assim, as características do sistema poroso.

O autor cita que grupos de solos diferentes não possuem valores característicos de densidade,

sendo encontrados, em geral, valores variando de 0,9 a 1,5 g cm−3.

O aumento da densidade pode ser gerado pelo pisoteio animal, tráfego de máquinas e

implementos agrícolas, cultivo intensivo e sistema de manejo inadequado (HAMZA; ANDER-

SON, 2005). Desse modo pode-se afirmar que a densidade é diretamente afetada pelo manejo

da área, sendo aumentada pela compactação intrínseca do solo e diminuída pela incorpora-

ção de matéria orgânica, bem como pelas práticas de preparo que alteram o espaço poroso.

Estudos indicam um maior grau de compactação no sistema de plantio direto, em relação ao

convencional, devido ao acúmulo de tráfego de máquinas e adensamento natural de partículas

(KLEIN, 1998).

Além do mais, existem indícios de que nesse sistema, o de plantio direto, ocorra uma

faixa de compactação de 7 a 15 cm de profundidade aparentemente indicados pela densidade

18

e/ou resistência do solo a penetração (FARACO et al., 2008).

19

3 MATERIAL E MÉTODOS

3.1 Material

3.1.1 Área 1

A análise de um conjunto de dados reais foi efetuada com o propósito de ilustrar a apli-

cação das técnicas geoestatísticas. Os dados utilizados neste trabalho são provenientes de

uma área experimental localizada no Centro de Pesquisa Eloy Gomes da Cooperativa Central

Agropecuária de Desenvolvimento Tecnológico e Econômico Ltda. (COODETEC), em Cas-

cavel (PR), com solo classificado como Latossolo Vermelho Distroférrico (EMBRAPA, 2009).

A área experimental possui 1,3 ha, dividida em uma malha regular de 256 parcelas de 7,20

× 7,20 m, com corredor de 2,4 m em uma das direções, perfazendo um total de 128 par-celas com manejo químico localizado (CML) e 128 parcelas sem manejo químico localizado

(SML), conforme esquema mostrado na Figura 4. O delineamento utilizado nesta área é deno-

minado amostragem desalinhada sistemática estratificada (WOLLENHAUPT; WOLIKOWSKI,

1994; SOUZA et al., 1999).

Figura 4 Esquema de amostragem da área em estudo.

Fonte: Adaptado de Souza et al. (1999).

Para coleta dos elementos amostrais do solo em cada parcela, a partir de um ponto

de referência, foram tomadas quatro subamostras na camada de 0 - 0,20 m de profundidade,

dentro de um raio de 0,25 m, as quais foram posteriormente misturadas para compor uma

amostra representativa de cada parcela. Essas amostras foram encaminhadas ao laboratório

de análise de solo da COODETEC para realização de análise química de rotina.

20

Os dados utilizados para o desenvolvimento deste trabalho são referentes a 114 par-

celas com manejo químico localizado do teor de potássio (K) [cmolc dm−3] no solo e produti-

vidade da soja (Prod.) [t ha−1], selecionadas por apresentarem repetição nos anos agrícolas

de 1998/1999 a 2002/2003 sem perda de parcelas e proporcionalidade entre as médias e

variâncias, requisitos para a aplicação dos métodos propostos.

3.1.2 Área 2

A segunda área refere-se a uma área comercial de produção de grãos, no município

de Cascavel, com coordenadas geográficas aproximadas de Latitude 25,95◦ S e Longitude

53,57◦ W e altitude média de 650 m. O solo é classificado como Latossolo Vermelho Distrofér-

rico com textura argilosa (EMBRAPA, 2009). O clima da região é classificado como temperado

mesotérmico e superúmido, tipo climático Cfa (Köeppen) e a temperatura anual média é de

21◦C. Os dados são referentes ao anos agrícolas de 2010/2011 e 2011/2012, com área apro-

ximada de 24,5 ha, com experimentos conduzidos por pesquisadores do grupo de pesquisa

do Laboratório de Estatística Espacial (LEE) da Universidade Estadual do Oeste do Paraná -

UNIOESTE, campus de Cascavel.

Foi realizada uma amostragem sistemática centrada com pares de pontos próximos

(lattice plus close pairs), com distância máxima de 141 m entre pontos. Em alguns locais,

escolhidos de forma aleatória, a amostragem foi realizada com distâncias menores: 75 e 50

m entre pontos. Todas as amostras foram georreferenciadas e localizadas com auxílio de um

aparelho receptor de sinal com o sistema de posicionamento global (GPS) GEOEXPLORE 3

da marca Trimble, num sistema espacial de coordenadas UTM.

Os dados utilizados para o desenvolvimento deste trabalho são referentes a 30 parcelas

da produtividade da soja (Prod*) [t ha−1] e as covariáveis resistência do solo à penetração

(RSP) [MPa] e densidade do solo (Dens) [g cm−3] selecionadas por apresentarem repetição

nos anos agrícolas de 2010/2011 e 2011/2012 sem perda de parcelas. A localização espacial

das parcelas é apresentada na Figura 5.

239600 239800 240000 240200 240400

7237

600

7238

000

7238

400

X

Y

↑ N

Figura 5 Localização dos 30 pontos amostrais.

21

A determinação da resistência do solo à penetração nas camadas de 0-0,10, 0,10-

0,20 e 0,20-0,30 m de profundidade foi obtida por meio de um penetrômetro digital FALKER

modelo PLG 5300 SoloTrack, que realiza medição eletrônica da resistência à penetração com

cone tipo 2, resolução da medição de 1 cm e profundidade máxima de 40 cm. O receptor

GPS é conectado ao equipamento para o registro da localização geográfica de cada parcela

experimental, sendo realizadas 3 repetições aleatórias em torno de cada ponto.

Os dados de densidade do solo foram coletados em três camadas (0-0,10, 0,10-0,20 e

0,20-0,30 m) de profundidade por meio do método do anel volumétrico (MAV), o qual consiste

na amostragem de solo com estrutura indeformada num anel (cilindro metálico) de 5 cm de

diâmetro.

3.2 Metodologia

3.2.1 Estudo do potássio e produtividade da soja

Inicialmente foi realizada a análise exploratória para avaliar o comportamento geral dos

dados e identificar no conjunto de dados a existência de proporcionalidade entre as médias

e as variâncias, condição necessária para se utilizar a técnica de escalonamento da função

semivariância.

O estudo da variabilidade espacial dos dados ocorreu com o ajuste de modelos teóricos

Exponencial, Gaussiano e família Matérn, com parâmetros estimados por mínimos quadrados

ordinários e máxima verossimilhança. Nesta etapa, foram aplicadas as técnicas de validação

de modelos para a posterior confecção dos mapas dos teores de potássio no solo por krigagem

ordinária.

Para o estudo do método de escalonamento da função semivariância, foram ajustados

os modelos teóricos aos semivariogramas individuais (para cada ano agrícola) e ao semivari-

ograma escalonado pela variância dos dados. Os parâmetros foram estimados pelo método

de mínimos quadrados ordinários, pois este método ajusta o modelo teórico aos pontos do

semivariograma experimental, dando sentido à utilização do escalonamento.

Para o estudo do método de repetições múltiplas independentes foram ajustados os

modelos teóricos de semivariogramas aos dados de forma individual (para cada ano agrícola)

e considerando as múltiplas repetições e os parâmetros foram estimados pelo método de

máxima verossimilhança.

A partir destes modelos elaboraram-se mapas temáticos por krigagem ordinária para

cada período em estudo. Por meio de medidas de acurácia obtidas a partir da construção

da matriz de erros compararam-se os mapas gerados segundo os métodos geoestatísticos

convencionais com os mapas elaborados segundo os dois métodos em estudo.

A fim de comparar os métodos sob estudo, compararam-se também os mapas ela-

borados pelo método do escalonamento da função semivariância com os mapas elaborados

segundo o método de repetições múltiplas independentes.

Para os dados de produtividade da soja, inicialmente foi realizada a análise exploratória

22

para avaliar o comportamento geral dos dados.


Exponencial, Gaussiano e família Matérn, com parâmetros estimados por máxima verossimi-

lhança, considerando o método de repetições múltiplas independentes. Foram aplicadas as

técnicas de validação de modelos para a posterior confecção dos mapas da produtividade da

soja por krigagem ordinária.

3.2.2 Estudo da produtividade da soja como função de covariáveis

Nesta seção, o interesse foi estudar a variabilidade espacial da produtividade da soja

para os dois anos agrícolas em estudo (2010/2011 e 2011/2012) como função das covariáveis

resistência do solo à penetração (RSP) e densidade do solo (D), nas camadas de 0-0,10,

0,10-0,20 e 0,20-0,30 m de profundidade, referentes ao ano agrícola 2010/2011.


Exponencial, Gaussiano e família Matérn, com parâmetros estimados por máxima verossimi-

lhança considerando o método de repetições múltiplas independentes.

3.2.3 Estimadores de máxima verossimilhança considerando repetiçõe s múltiplas in-dependentes

A primeira derivada do logaritmo da função de verossimilhança (Equação Eq. 10) é

chamada função escore para θ = (βT ,ϕT )T do modelo espacial linear com repetições múlti-

plas e é dada pela Equação Eq. 23:

U(β) =∂l(θ)

∂βe U(ϕ) =

∂l(θ)

∂ϕ, (Eq. 23)

em que,

U(β) = rXTΣ−1ǭ, onde ǭ = Zi −Xβe

U(ϕ) =

(

∂l(θ)

∂ϕ1,∂l(θ)

∂ϕ2,∂l(θ)

∂ϕ3

)T

que tem como elementos

∂l(θ)

∂ϕu=

r

2

[

−tr(

Σ−1 ∂Σ

∂ϕu

)

+

(

ǭTΣ−1∂Σ

∂ϕuΣ

−1ǭ

)]

, u = 1, 2, 3. (Eq. 24)

Assim, U(θ) é o vetor gradiente da função de verossimilhança em θ = (βT ,ϕT )T e os

estimadores de máxima verossimilhança do vetor de parâmetros são obtidos pela solução do

sistema de equações apresentados abaixo (Equação Eq. 25):

U(β) =∂l(θ)

∂β= 0

U(ϕ) =∂l(θ)

∂ϕ= 0

. (Eq. 25)

Logo, o estimador de máxima verossimilhança de β é da forma

23

β̂ = (XTΣ−1X)−1XTΣ−1Z̄, onde Z̄ =1

r

r∑

i=1

Zi

e o estimador de máxima verossimilhança para ϕ constitui um sistema de equações não-

lineares que não apresenta solução em forma fechada. É encontrado maximizando o loga-

ritmo da função de verossimilhança com auxílio do algoritmo L-BFGS-B (BYRD et al., 1995)

implementado no pacote geoR (RIBEIRO JR; DIGGLE, 2012), isto é,

ϕ̂ = maxθ∈Θ

{l(θ)}.

3.2.4 Erro padrão das estimativas de máxima verossimilhança consider ando repeti-ções múltiplas independentes

A matriz de primeiras derivadas da função escore com sinal negativo J̈(θ) = −∂UT

∂θé

denominada matriz de informação observada. A matriz hessiana é L̈(θ) = −J̈(θ) e E[J̈(θ)] =K(θ) onde K(θ) é a matriz de informação esperada de Fisher. A matriz da segunda derivada

do logaritmo da função de verossimilhança é da forma

L̈(θ) =

L̈ββ L̈βϕ

L̈ϕβ L̈ϕϕ

em que,

L̈ββ =∂2l(θ)

∂β∂βT=

∂U(β)

∂βT= XTΣ−1X;

L̈βϕ =∂2l(θ)

∂β∂ϕT=

∂U(β)

∂ϕTque tem como elementos (j = 1, 2, 3),

∂2l(θ)

∂β∂ϕj= −rXTΣ−1 ∂Σ

∂ϕjΣ

−1ǭ;

L̈ϕβ = L̈Tβϕ

;

L̈ϕϕ =∂2l(θ)

∂ϕ∂ϕT=

∂U(ϕ)

∂ϕTque tem como elementos (u, j = 1, 2, 3),

∂2l(θ)

∂ϕu∂ϕj=

r

2tr

[

Σ−1

(

∂Σ

∂ϕjΣ

−1 ∂Σ

∂ϕu− ∂

2Σ

∂ϕuϕj

)]

−r2

2

[

ǭTΣ−1(

∂Σ

∂ϕjΣ

−1 ∂Σ

∂ϕu− ∂

2Σ

∂ϕu∂ϕj+

∂Σ

∂ϕuΣ

−1 ∂Σ

∂ϕj

)

Σ−1ǭ

]

.

Para estimar o erro padrão das estimativas de máxima verossimilhança utilizou-se a

matriz de informação esperada de Fisher, que é da forma bloco diagonal

24

K(θ) =

E[−Lββ] E[−Lβϕ]E[−Lϕβ] E[−Lϕϕ]

=

K(β) 0

0 K(ϕ)

(Eq. 26)

em que,

K(β) = rXTΣ−1X

e K(ϕ) tem como elementos (u, j)

Ku,j(ϕ) =r

2tr

(

Σ−1 ∂Σ

∂ϕjΣ

−1 ∂Σ

∂ϕu

)

para u, j = 1, 2, 3.

Neste estudo, a matriz de covariância tem a forma Σ = ϕ1In + ϕ2R(ϕ3). Então, a

primeira e segunda derivadas de Σ com respeito a ϕ1, ϕ2 e ϕ3 são dadas por:

∂Σ

∂ϕ1= In,

∂2Σ

∂ϕ21=

∂2Σ

∂ϕ1∂ϕ2=

∂2Σ

∂ϕ1∂ϕ3= 0;

∂Σ

∂ϕ2= R(ϕ3),

∂2Σ

∂ϕ22= 0,

∂2Σ

∂ϕ2∂ϕ3=

∂R(ϕ3)

∂ϕ3=

[(

∂ruj∂ϕ3

)]

;

∂Σ

∂ϕ3= ϕ2

∂R(ϕ3)

∂ϕ3,∂2Σ

∂ϕ23= ϕ2

∂2R(ϕ3)

∂ϕ23= ϕ2

[(

∂2ruj∂ϕ23

)]

, para u, j = 1, . . . , n.

As derivadas de primeira e segunda ordem de ruj com respeito a ϕ3 para as funções

de covariância Exponencial, Gaussiana e família Matérn com parâmetro de forma k > 0 são

apresentadas nas Equações Eq. 27 - Eq. 30 (URIBE-OPAZO et al., 2012), sendo δuj =

‖δu − δj‖ a distância euclidiana entre os pontos su e sj .Para a função de covariância Exponencial:

∂ruj∂ϕ3

= rujδujϕ23

e∂2ruj∂ϕ23

= rujδujϕ33

(

δijϕ3

− 2)

, para u, j = 1, . . . , n. (Eq. 27)

Para a função de covariância Gaussiana:

∂ruj∂ϕ3

= 2rujδ2ujϕ33

e∂2ruj∂ϕ23

=

(

2rujδ2ujϕ43

)(

2

(

δujϕ3

)2

− 3)

, para u, j = 1, . . . , n. (Eq. 28)

Para a função de covariância família Matérn:

∂ruj∂ϕ3

= −(

1

ϕ3

)

[

kruj +1

2k−1Γ(k)

(

δujϕ3

)k+1

K ′k

(

δujϕ3

)

]

, (Eq. 29)

e

25

∂2ruj∂ϕ23

=

(

k(k + 1)rujϕ23

)

+

(

1

ϕ232k−1Γ(k)

)(

δujϕ3

)k+1

×[

2(k + 1)K ′k

(

δujϕ3

)

+

(

δujϕ3

)

K ′′k

(

δuj

ϕ3

)]

, (Eq. 30)

para u, j = 1, . . . , n; onde K ′k(w) =∂Kk(w)

∂w= −1

2(Kk−1(w)+Kk+1(w)) e K ′′(w) =

∂2Kk(w)

∂w2=

1

4[Kk−2(w) + 2Kk(w) +Kk+2(w)].

3.2.5 Software utilizado

Para a análise geoestatística dos dados foi utilizado o software estatístico R (R DEVE-

LOPMENT CORE TEAM, 2012) e seu módulo geoR (RIBEIRO JR; DIGGLE, 2012).

26

4 RESULTADOS E DISCUSSÃO

4.1 Área 1: estudo do potássio

Na Tabela 5 são apresentadas as estatísticas descritivas para cada ano em estudo

da variável potássio (K) [cmolc dm−3]. Os valores médios do teor de potássio no solo são

classificados como muito altos para todos os anos em estudo segundo Costa e Oliveira (2001)

(Tabela 2). De acordo com o coeficiente de variação (CV), os dados de potássio são considera-

dos homogêneos, pois CV

27

Os semivariogramas originais apresentaram valores de semivariância em uma escala muito

baixa, o que torna o ajuste dos modelos teóricos sensível aos chutes iniciais. Por este motivo

optou-se por ajustar os modelos teóricos para cada ano agrícola sob estudo aos semivariogra-

mas individuais divididos pelo fator de escala αi. Observa-se que o teor de potássio para os

cinco anos amostrados revelaram média dependência espacial, pois o efeito pepita apresenta

valores em torno de 50% do patamar, uma vez que este atributo revela a variabilidade espa-

cial não detectada durante o processo de amostragem. Desta maneira, o comportamento em

termos da distribuição espacial do teor de potássio no solo é semelhante entre os cinco anos

amostrados e a utilização do escalonamento da função semivariância torna-se viável.

0 20 40 60 80

0.0

0.2

0.4

0.6

0.8

1.0

1.2

Distância (m)

Sem

ivar

iânc

ia

(a) Escalonamento

0 20 40 60 80

0.0

0.2

0.4

0.6

0.8

1.0

1.2

Distância (m)

Sem

ivar

iânc

ia

(b) Individual 98/99

0 20 40 60 80

0.0

0.2

0.4

0.6

0.8

1.0

1.2

Distância

Sem

ivar

iânc

ia

(c) Individual 99/00

0 20 40 60 80

0.0

0.2

0.4

0.6

0.8

1.0

1.2

Distância (m)

Sem

ivar

iânc

ia

(d) Individual 00/01

0 20 40 60 80

0.0

0.2

0.4

0.6

0.8

1.0

Distância (m)

Sem

ivar

iânc

ia

(e) Individual 01/02

0 20 40 60 80

0.0

0.2

0.4

0.6

0.8

1.0

1.2

Distância (m)

Sem

ivar

iânc

ia

(f) Individual 02/03

Figura 6 Semivariogramas teóricos ajustados aos semivariogramas experimentais escalonadoe individuais da variável potássio.

A Tabela 6 apresenta os resultados da análise geoestatística da variável potássio (K),

com os modelos ajustados aos semivariogramas individuais e por escalonamento e as estima-

28

tivas dos parâmetros obtidos por OLS.

Tabela 6 Modelos espaciais ajustados aos semivariogramas individuais e por escalonamento(ESC) e parâmetros estimados por OLS do potássio (K)

Método Modelo ϕ̂1 ϕ̂2 ϕ̂3 â = g(ϕ̂3) EPR

K-ESC Gaussiano 0,627 0,455 27,852 48,206 57,968

K-Individual 98/99 Gaussiano 0,529 0,569 20,910 36,192 48,155





ϕ̂1: efeito pepita; ϕ̂2: contribuição; ϕ̂3: função do alcance do modelo; â: alcance (modelo gaussiano: â = 31/2ϕ̂3);

EPR=(ϕ̂1/(ϕ̂1 + ϕ̂2)) × 100 efeito pepita relativo; K-ESC: estudo do potássio por escalonamento da função semi-

variância.

Segundo o critério de validação cruzada apresentado na Tabela 7 (FARACO et al.,

2008), o modelo que melhor se ajustou aos dados foi o Gaussiano. Observa-se similaridade

dos efeitos pepita (ϕ̂1), patamares (ϕ̂1 + ϕ̂2) e alcances (â) entre os métodos individuais e

escalonado. Pressupõe-se assim que os mapas temáticos construídos pela interpolação por

krigagem dos semivariogramas individuais e do semivariograma escalonado não apresentem

muitas diferenças entre si. Analisando o efeito pepita relativo (EPR), obteve-se moderada de-

pendência espacial (25% < EPR ≤ 75%) (CAMBARDELA et al.,1994), assim como observadonos semivariogramas experimentais.

Tabela 7 Critério de validação cruzada dos modelos teóricos ajustados os semivariogramasexperimentais individuais e por escalonamento para a variável potássio (K)

K Modelo EM ER SEM SER EA

Escalonamento Gaussiano 0,0006 0,0003 0,3757 0,4301 32,7084

Individual 98/99 Gaussiano 0,0007 0,0004 0,0821 0,0960 6,3910

Individual 99/00 Gaussiano -0,0004 -0,0003 0,0679 0,0869 6,2050


Individual 01/02 Gaussiano -0,0003 -0,0002 0,0687 0,0760 6,3195


EM: erro médio; ER: erro médio reduzido; SEM : desvio padrão do erro médio; SER: desvio padrão do erro médio;

EA: erro absoluto.

A Figura 7 apresenta os mapas temáticos dos teores de potássio (K) [cmolc dm−3]

construídos por krigagem ordinária, divididos em classes, segundo os níveis de classificação

para interpretação de resultados de análise do solo de acordo com Costa e Oliveira (2001)

(Tabela 2), para cada ano em estudo, segundo o modelo escalonado e os modelos individuais.

Pela classificação adotada, os níveis de potássio na área apresentaram-se altos (0,21-0,30

cmolc dm−3) e muito altos (>0,30 cmolc dm−3), para todos os anos em estudo. Para a constru-

ção desses mapas foi criada uma grade de interpolação formada por 69993 pixels. Observa-se

29

que os mapas elaborados utilizando-se os modelos individuais comparados aos mapas elabo-

rados segundo o modelo escalonado apresentam um comportamento semelhante.

0 50 100 150

020

4060

8010

0

X Coord

Y C

oord

≤ 0,100,11−0,200,21−0,30> 0,30

↑ N

(a) Individual 98/99

0 50 100 150

020

4060

8010

0

X Coord

Y C

oord

≤ 0,100,11−0,200,21−0,30> 0,30

↑ N

(b) Escalonamento 98/99

0 50 100 150

020

4060

8010

0

X Coord

Y C

oord

≤ 0,100,11−0,200,21−0,30> 0,30

↑ N


0 50 100 150

020

4060

8010

0

X Coord

Y C

oord

≤ 0,100,11−0,200,21−0,30> 0,30

↑ N

(d) Escalonamento 99/00

0 50 100 150

020

4060

8010

0

X Coord

Y C

oord

≤ 0,100,11−0,200,21−0,30> 0,30

↑ N


0 50 100 150

020

4060

8010

0

X Coord

Y C

oord

≤ 0,100,11−0,200,21−0,30> 0,30

↑ N

(f) Escalonamento 00/01

0 50 100 150

020

4060

8010

0

X Coord

Y C

oord

≤ 0,100,11−0,200,21−0,30> 0,30

↑ N

(g) Individual 01/02

0 50 100 150

020

4060

8010

0

X Coord

Y C

oord

≤ 0,100,11−0,200,21−0,30> 0,30

↑ N

(h) Escalonamento 01/02

0 50 100 150

020

4060

8010

0

X Coord

Y C

oord

≤ 0,100,11−0,200,21−0,30> 0,30

↑ N

(i) Individual 02/03

0 50 100 150

020

4060

8010

0

X Coord

Y C

oord

≤ 0,100,11−0,200,21−0,30> 0,30

↑ N

(j) Escalonamento 02/03

Figura 7 Mapas temáticos do potássio (K) [cmolc dm−3] construídos a partir dos modelosescalonado (ESC) e individuais, para cada ano em estudo, ajustados por OLS.

Para melhor comparar estes mapas, quantificou-se seus 69993 pixels em uma matriz,

30

conhecida como matriz dos erros, definindo o mapa gerado pelo modelo individual como o

de referência, visto que é elaborado por métodos geoestatísticos mais conhecidos, e o mapa

gerado pelo modelo escalonado como o mapa modelo.

As Tabelas de 8 a 12 apresentam as matrizes dos erros que comparam os mapas para

os anos agrícolas de 1998/1999 a 2002/2003, respectivamente.

Tabela 8 Matriz de erros do número de pixels por classe da variável potássio 98/99

Mapa de Referência

(K 98/99 Individual)

Classe 0, 21− 0, 30 > 0, 30 TotalMapa Modelo 0, 21− 0, 30 18320 2737 21057

(K 98/99 Escalonado) > 0, 30 3976 44960 48936

Total 22296 47697 69993


Mapa de Referência



(K 99/00 Escalonado) > 0, 30 1860 39681 41541

Total 29934 40059 69993


Mapa de Referência



(K 00/01 Escalonado) > 0, 30 2271 45223 47494

Total 24001 45992 69993


Mapa de Referência


Classe ≤ 0, 20 0, 21− 0, 30 > 0, 30 TotalMapa Modelo ≤ 0, 20 1 0 0 1

(K 01/02 Escalonado) 0, 21− 0, 30 0 11645 5494 17139> 0, 30 0 2687 50166 52853

Total 1 14332 55660 69993

31


Mapa de Referência


Classe ≤ 0, 20 0, 21− 0, 30 > 0, 30 TotalMapa Modelo ≤ 0, 20 1 0 0 1

(K 02/03 Escalonado) 0, 21− 0, 30 0 15998 4183 20181> 0, 30 0 4482 45329 49811

Total 1 20480 49512 69993

A diagonal principal das matrizes indica a quantidade de pixels classificados identica-

mente nos dois mapas. A matriz de erros permite calcular a exatidão global (EG) e os índices

Kappa (Ka) e Tau (T ), medidas de acurácia que podem ser utilizadas na comparação dos

mapas.

A Tabela 13 apresenta estimativas das medidas de acurácia obtidas da matriz dos er-

ros e seu correspondente intervalo de 95% de confiança para a comparação dos mapas de

todos os anos agrícolas estudados (Figura 7). O índice de exatidão global obtido (EG) para

todos os anos foi maior que 0,85, ou seja, acima do nível mínimo de precisão recomendado

por Anderson et al. (2001), indicando que os mapas temáticos são similares. De acordo com a

classificação de Kripendorff (2012), os índices Kappa (Ka) e Tau (T ) são considerados de mé-

dia (0,67 ≤Ka (T ) < 0,80) a alta (Ka, (T ) ≥ 0,80) precisão. Assim, podem-se observar poucasdiferenças entre os mapas temáticos estudados e, consequentemente, poucas diferenças ao

ajustar modelos de forma individual ou por escalonamento do semivariograma.

Tabela 13 Medidas de acurácia do potássio (K) dos mapas gerados pelos modelos ajustadossegundo os métodos: individual - OLS versus escalonamento ESC- OLS

Comparações Ano EG IC[EG, 95%] Ka IC[K, 95%] T IC[T, 95%]

K vs K-ESC 98/99 0,904 [0,902;0,906] 0,776 [0,771;0,781] 0,808 [0,805;0,812]

K vs K-ESC 99/00 0,968 [0,967;0,969] 0,934 [0,932;0,937] 0,936 [0,934;0,938]

K vs K-ESC 00/01 0,957 [0,955;0,958] 0,902 [0,899;0,905] 0,913 [0,911;0,915]

K vs K-ESC 01/02 0,883 [0,881;0,885] 0,665 [0,659;0,672] 0,825 [0,821;0,828]

K vs K-ESC 02/03 0,876 [0,874;0,878] 0,700 [0,694;0,706] 0,814 [0,811;0,818]

K: mapa do potássio gerado pelo método individual utilizando OLS na estimação dos parâmetros; K-ESC: mapa do

potássio gerado por escalonamento da função semivariância utilizando OLS na estimação dos parâmetros; EG:

exatidão global; Ka: Kappa; T : Tau.

4.1.2 Repetições múltiplas independentes

Na Figura 8 estão descritos os semivariogramas teóricos ajustados aos semivariogra-

mas experimentais dos teores de potássio (K) [cmolc dm−3], segundo o modelo espacial linear

utilizando replicações múltiplas independentes e os modelos individuais, com os parâmetros

obtidos por máxima verossimilhança (ML).

32

0 20 40 60 80

0.00

00.

002

0.00

40.

006

0.00

8

Distância (m)

Sem

ivar

iânc

ia

(a) Rep. Múltiplas

0 20 40 60 80

0.00

00.

002

0.00

40.

006

0.00

80.

010

Distância (m)

Sem

ivar

iânc

ia

(b) Individual 98/99

0 20 40 60 80

0.00

00.

002

0.00

40.

006

0.00

8

Distância (m)

Sem

ivar

iânc

ia


0 20 40 60 80

0.00

00.

002

0.00

40.

006

0.00

80.

010

Distância (m)

Sem

ivar

iânc

ia

(d) Individual 00/01

0 20 40 60 80

0.00

00.

001

0.00

20.

003

0.00

40.

005

0.00

6

Distância (m)

Sem

ivar

iânc

ia


0 20 40 60 80

0.00

00.

002

0.00

40.

006

Distância (m)

Sem

ivar

iânc

ia

(f) Individual 02/03

Figura 8 Semivariogramas teóricos ajustados aos semivariogramas experimentais consid

bruna gabriela wendpap - unioestetede.unioeste.br/bitstream/tede/2608/1/brunagabriela.pdf · bruna...

Documents