ee-240/2009 estimação não-paramétrica ee-240/2009 estimação não-paramétrica

102
EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

Upload: internet

Post on 17-Apr-2015

129 views

Category:

Documents


5 download

TRANSCRIPT

Page 1: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica EE-240/2009Estimação Não-Paramétrica

Page 2: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

• Assumir uma certa distribuição (normal, exponencial, Weibull, etc.)

• Estimar os parâmetros da distribuição a partir das observações

• Utilizar a distribuição com os parâmetros estimados.

Estimação Paramétrica

Page 3: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Densidade Normal

Page 4: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

30 observações

Page 5: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Função densidade de probabilidade estimada(assumindo distribuição normal)

OK

Page 6: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Uma Densidade Bimodal

Page 7: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

30 observações

Page 8: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Função densidade de probabilidade estimada(assumindo distribuição normal)

No Good!

Page 9: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

• Nãoassumir um tipo específico de distribuição a priori

• Estimar a densidade de probabilidade a partir das observações

• Utilizar a densidade de probabilidade estimada.

Métodos não-paramétricos

Page 10: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Exemplo: Histograma (1)

Page 11: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

30 observações

Page 12: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Divisão do intervalo em 10 trechos

Page 13: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Normalizar

Page 14: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Ajustar

Page 15: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Divisão do intervalo em 5 trechos

Page 16: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Divisão do intervalo em 20 trechos

Page 17: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

60 observações

Page 18: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

120 observações

Page 19: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

240 observações

Page 20: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

480 observações

Page 21: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

960 observações

Page 22: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

1920 observações

Page 23: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Divisão do intervalo em 10 trechos

30 observações

Page 24: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Divisão do intervalo em 20 trechos

Page 25: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

3840 observações

Page 26: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

• “Kernel density estimation”:

K(x) = Função kernel de “área unitária”

h = Parâmetro de alargamento (suavização)

Page 27: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

h=1h=1

Kernel Retangular, h=1

Page 28: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

h=1

Kernel Retangular, h=1

Page 29: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

h=1

Kernel Retangular, h=1

Page 30: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

h=1

Kernel Retangular, h=1

Page 31: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

h=1

Kernel Retangular, h=1

Page 32: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

h=1

Kernel Retangular, h=1

Page 33: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

h=1

Kernel Retangular, h=1

Page 34: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

h=1

Kernel Retangular, h=1

Page 35: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

h=1

Kernel Retangular, h=1

Page 36: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

h=1

Kernel Retangular, h=1

Page 37: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

h=1

Kernel Retangular, h=1

Page 38: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

h=2

Kernel Retangular, h=2

Page 39: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Kernel Retangular, h=2

Page 40: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Kernel Retangular, h=2

Page 41: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Kernel Retangular, h=2

Page 42: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Kernel Retangular, h=2

Page 43: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Kernel Retangular, h=2

Page 44: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Kernel Retangular, h=2

Page 45: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Kernel Retangular, h=2

Page 46: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Kernel Retangular, h=2

Page 47: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Kernel Retangular, h=2

Page 48: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Kernel Retangular, h=2

Page 49: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Kernel Triangular, h=1

Page 50: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Kernel Triangular, h=1

Page 51: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Kernel Triangular, h=1

Page 52: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Kernel Triangular, h=1

Page 53: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Kernel Triangular, h=1

Page 54: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Kernel Triangular, h=1

Page 55: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Kernel Triangular, h=1

Page 56: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Kernel Triangular, h=1

Page 57: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Kernel Triangular, h=1

Page 58: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Kernel Triangular, h=1

Page 59: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Kernel Gaussiano, h=1

Page 60: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Kernel Gaussiano, h=1

Page 61: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Kernel Gaussiano, h=1

Page 62: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Kernel Gaussiano, h=1

Page 63: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Kernel Gaussiano, h=1

Page 64: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Kernel Gaussiano, h=1

Page 65: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Kernel Gaussiano, h=1

Page 66: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Kernel Gaussiano, h=1

Page 67: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Kernel Gaussiano, h=1

Page 68: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Kernel Gaussiano, h=1

Page 69: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Kernel Gaussiano, h=1

Page 70: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Kernel Gaussiano, h=1

Page 71: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Kernel Triangular, h=1

Page 72: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Kernel Gaussiano, h=1

Page 73: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Kernel Gaussiano, h=1

Page 74: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Kernel Gaussiano, h=1

Page 75: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Kernel Gaussiano, h=1

Page 76: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

[F,XI]=KSDENSITY(X) computes a probability density estimate of the sample in the vector X. KSDENSITY evaluates the density estimate at 100 points covering the range of the data. F is the vector of density values and XI is the set of 100 points. The estimate is based on a normal kernel function, using a window parameter (bandwidth) that is a function of thenumber of points in X.

F=KSDENSITY(X,XI) specifies the vector XI of values where the density estimate is to be evaluated.

(Matlab Statistics Toolbox)

Page 77: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Vantagens

Métodos paramétricos:

• Propriedades teóricas bem-

estabelecidas.

Métodos não-paramétricos:

• Dispensam a escolha a priori

de um tipo de distribuição.

• Aplicabilidade mais ampla.

• Simplicidade de uso.

Page 78: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Métodos paramétricos:

• Podem levar a resultados

inadequados se a população

não seguir a distribuição

assumida na análise.

Métodos não-paramétricos:

• Requerem um número maior de

amostras para atingir a mesma

“qualidade” de ajuste.

• Maior dificuldade para o

estabelecimento de propriedades

teóricas.

Desvantagens

Page 79: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Bootstrap

Page 80: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

• Motivação: Em muitos casos, pode não ser trivial obter o intervalo

de confiança para uma dada estimativa.

• Exemplo (prognóstico baseado em análise de tendência): Previsão

da Remaining Useful Life com base na série histórica de um índice

de degradação.

Page 81: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Page 82: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

• Pode não ser possível obter o intervalo de confiança de forma analítica se os dados não se conformarem às hipóteses usuais (ruído gaussiano, homoscedástico, etc.)

Page 83: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

• Bootstrap: Técnica de reamostragem (com reposição) que pode ser

empregada para obter informações sobre a incerteza associada a

uma estimativa.

Page 84: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Amostragem com reposição

Conjuntooriginal

Bootstrap

Reamostragem

Page 85: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Conjuntooriginal

Bootstrap

Reamostragem

Page 86: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Conjuntooriginal

Bootstrap

Reamostragem

Page 87: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Conjuntooriginal

Bootstrap

Reamostragem

Page 88: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Conjuntooriginal

Bootstrap

Reamostragem

Page 89: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Conjuntooriginal

Bootstrap

Reamostragem

Page 90: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Conjuntooriginal

Bootstrap

Reamostragem

Page 91: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Conjuntooriginal

Reamostragens

Bootstrap 1

Bootstrap 2

Bootstrap 3

Page 92: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Uso de Bootstrap em estimação

• Considere que uma variável y tenha sido estimada a partir de n

observações de uma variável x:

• Sejam X1, X2, ..., XN bootstraps gerados a partir de X. Seja ainda:

• Pode-se então levantar estatísticas com base nas N estimativas

resultantes.

Page 93: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

• Exemplo 1: Estimativa da Mediana

Amostra de 10 observações gerada a partir de uma distribuição

uniforme no intervalo [0, 10] (números inteiros):

X = { 10, 2, 6, 5, 9, 8, 5, 0, 8 }.

Cálculo da mediana:

Xordenado = { 0, 2, 5, 5, 6, 8, 8, 9, 10 }

Page 94: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

• Estimativas obtidas (em ordem crescente):

• Intervalo de confiança para a estimativa (70% de confiança 5-6):

Page 95: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

• Exemplo 2 Estimativa de Mediana

Amostra de 30 observações gerada a partir de uma distribuição uniforme no

intervalo [0, 10]:

Page 96: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

• Exemplo 2 Estimativa de Mediana

Amostra de 30 observações gerada a partir de uma distribuição uniforme no

intervalo [0, 10]:

•Em 69 dos 100

bootstraps, a

mediana obtida

estava no intervalo

[4, 6].

•Intervalo [4, 6]

69% de confiança.

Page 97: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Densidade de probabilidadepara o resultado obtido por Bootstrap

• Pode-se aplicar o método das janelas de Parzen aos resultados

obtidos a partir dos bootstraps.

• Neste caso, o resultado de cada bootstrap é considerado uma

“observação” da grandeza a ser estimada.

Page 98: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Exemplo anterior com kernel gaussiano

Page 99: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Bootstrap e análise de tendência

Page 100: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

d

t

d

t

d

t

d

t

Page 101: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

BOOTSTRP Bootstrap statistics.

BOOTSTRP(NBOOT,BOOTFUN,...) draws NBOOT bootstrap

data samples and analyzes them using the function,

BOOTFUN. NBOOT must be a positive integer. The

third and later arguments are the data; BOOTSTRP

passes bootstrap samples of the data to BOOTFUN.

(Matlab Statistics Toolbox)

Page 102: EE-240/2009 Estimação Não-Paramétrica EE-240/2009 Estimação Não-Paramétrica

EE-240/2009

Estimação Não-Paramétrica

Muito Obrigado!