05_-_estimacao.pdf

Estimacao

Francisco Carvalho

Unidade Departamental de Matematica e Fısica

Francisco Carvalho (UDMF – IPT) Estimacao Aulas 2011-12 1 / 39

Estimacao

1 Introducao

2 Estimacao pontual

3 Propriedades dos estimadores por pontos

4 Estimacao por intervaloIC para populacoes normais: mediaIC para populacoes normais: varianciaIC para populacoes normais: diferenca entre mediasIC para populacoes normais: razao entre varianciasIC para uma populacao de Bernoulli: proporcaoIC para duas populacoes de Bernoulli: diferenca de proporcoes


Outline

1 Introducao

2 Estimacao pontual




Introducao

Considere a seguinte amostra retirada de uma populacao (X1,X2, . . . ,Xn),com uma determinada funcao probabilidade

f (x |θ) : θ ∈Θ

da qual se desconhece o verdadeiro valor do parametro θ .Problema: Qual o valor θ com a informacao disponıvel.Para estimar esse valor ha necessidade de ter em consideracao: o nıvel deprecisao e o grau de conifanca.Duas formas de estimacao:

Estimacao pontual – da primazia a precisao

Estimacao por intervalo – da primazia ao nıvel e confianca.


Outline

1 Introducao

2 Estimacao pontual




Estimacao pontual

Considere-se a amostraX1,X2, . . . ,Xn

de uma populacao com funcao densidade

f (x |θ) : θ ∈Θ

de onde se otem diversas estimativas para o parametro θ , T ,T ′,T ′′, . . ..

Estimador e uma variavel aleatoria, funcao da amostra causal erepresenta-se por T (X1,X2, . . . ,Xn);

Estimativa e um valor concreto assumido pelo estimador para umaparticular amostra (x1,x2, . . . ,xn) e representa-se por T (x1,x2, . . . ,xn).

Para cada parametro existe um grande numero de estimadores.


Estimacao pontual

Problema: escolher o metodo, estimador, que da melhor estimativas paraum determinado parametro.A qualidade do estimador so pode ser ajuizada, apos a verificacao para umconjunto de amostras, qual a proporcao de valores estimados se encontramnuma vizinhanca do verdadeiro valor do parametro.Dois metodos fundamentais:

o metodo dos momentos – utiliza os momentos da amostra paraestimar os correspondentes momentos da populacao, e, a partir daı,estimar os parametros de interesse

o metodo da maxima verosimilhanca – funcao verosimilhanca.Origina geralmente estimadores de melhor qualidade.


Estimacao pontual

Funcao de verosimilhanca

Se (X1,X2, . . . ,Xn) e uma amostra de populacao com funcao densidade(funcao probabilidade) f (x |θ)), a expressao

f (x1,x2, . . . ,xn|θ) =n

∏i=1

f (xi |θ), (x1,x2, . . . ,xn) ∈Rn

e a funcao densidade (funcao probabilidade) conjunta das variaveis queconstituem a amostra.

Fixado (x1,x2, . . . ,xn), a expressao interpretada como funcao do parametroθ e chamada funcao de verosimilhanca e representa-se por

L(θ |x1,x2, . . . ,xn) =n

∏i=1

f (xi |θ), θ ∈Θ

ou simplesmente por L(θ).Francisco Carvalho (UDMF – IPT) Estimacao Aulas 2011-12 8 / 39

Estimacao pontual

Dada a amostra concreta (x1,x2, . . . ,xn), o metodo de maximaverosimilhanca consiste em procurar se existe uma estimativaθ = θ (x1,x2, . . . ,xn), tal que

L(θ |x1,x2, . . . ,xn)≥ L(θ |x1,x2, . . . ,xn), ∀θ ∈Θ.

Tem-se, evidentemente, que

θ = θ (X1,X2, . . . ,Xn)

e um estimador.


Estimacao pontual

Exemplo

Uma urna contem bolas pretas e bolas brancas, na proporcao de 3 para 1, desconhecendo-se quala cor predominante. A probabilidade de tirar ao acaso uma bola preta e de 3

4 ou 14 consoante for

preta ou branca a cor predominante. Retirando da urna, com reposicao, uma amostra de n

bolas, a variavel aleatoria que indica o numero de bolas pretas na amostra tem distribuicaobinomial B

(

n; 34)

, ou B(

n; 14)

. Com n = 3, procure estimar o valor desconhecido do parametro.

Trata-se de um problema de estimacao particularmente simples, visto que se tem de escolherapenas entre duas probabilidades. Os valores observaveis da variavel X - numero de bolas pretasna amostra - e as respectivas probabilidades encontram-se no quadro seguinte.

X 0 1 2 3

f

(

x |34

)

1

64

9

64

27

64

27

64

f

(

x |14

)

27

64

27

64

9

64

1

64


Estimacao pontual

Quando se observa X = 0, o metodo de maxima verosimilhanca propoe para estimativa daprobabilidade (parametro) o valor 1

4 e nao o valor 34 , porquanto

f

(

0|14

)

= P

(

X = 0|θ =1

4

)

=27

64> f

(

0|34

)

= P

(

X = 0|θ =3

4

)

=1

64

Com efeito, e mais provavel que uma amostra com zero bolas pretas seja procedente da urnacom predominancia de bolas brancas, isto e, θ = 1

4 e mais verosımil que θ = 34 . Em geral, o

estimador de maxima verosimilhanca pode escrever-se

θ = θ(X ) =

14 (X = 0,1)

34 (X = 2,3)

Este estimador selecciona para cada possıvel valor de X o valor do parametro θ , tal que

f (x |θ )≥ f (x |θ ), θ ∈{

1

4,3

4

}


Outline

1 Introducao

2 Estimacao pontual




Propriedades

Estimador centrado

Um estimador T = T (X1,X2, . . . ,Xn) para o parametro θ diz-se centradoou nao enviesado quando

E (T ) = θ ∀θ ∈Θ

Env(T ) = E (T )−θ

Facilmente se demonstra que, caso exista valor esperado, X e umestimador centrado para µ , qualquer que seja a populacao, uma vez queE (X ) = µ .


Propriedades

Do mesmo modo, desde que exista variancia

E (S2) =n−1

nσ2

onde o enviesamento da estimativa da variancia,

Env(S2) = E (S2)−σ2 =−σ2

n

e uma funcao decrescente em funcao de n. Por este motivo e quando aamostra e pequena, e usual utilizar a variancia corrigida, assimE (S ′2) = σ2.


Propriedades

Eficiencia

Sejam T = T (X1,X2, . . . ,Xn) e T ′ = T ′(X1,X2, . . . ,Xn) dois estimadorescentrados para θ . O estimador T e mais eficiente do que T ′ quando,

Var(T ) ≤ Var(T ′), ∀θ ∈Θ

O estimador T e o mais eficiente quando essa relacao se verifica qualquerque seja outro estimador T ′ centrado para θ


Propriedades

Teorema

Seja (X1,X2, . . . ,Xn) uma amostra causal de populacao com funcaodensidade (probabilidade) f (x |θ), satisfazendo certas condicoes deregularidade, e seja T = T (X1,X2, . . . ,Xn) um estimador centrado de θ .Entao,

Var(T )≥ 1

nℑ(θ)onde

ℑ(θ) = E

{

[

∂ lnf (X |θ)∂θ

]2}

=−E

{[

∂ 2lnf (X |θ)∂θ2

]}


Propriedades

A Tabela apresenta o valor de ℑ(θ) para as distribuicoes mais conhecidas

Distribuicao Quantidade de informacao de Fisher

X ∼ B(k ;θ)(k conhecido) ℑ(θ) =k

θ [1−θ ]

X ∼ Po(λ ) ℑ(λ ) =1

λ

X ∼ N(µ ;σ2)(σ2 conhecido) ℑ(µ) =1

σ2

X ∼ N(µ ;σ2)(µ conhecido) ℑ(σ2) =1

2σ4


Propriedades

Conhecido o limite inferior dado pela desigualdade de Frechet-Cramer-Rao,deve comparar-se a variancia do estimador centrado em analise com estelimite: caso sejam iguais, tem-se a garantia de que nao existe qualqueroutro estimador centrado de variancia inferior, sendo portanto, o estimadorem analise o mais eficiente; no caso contrario, o quociente

[nℑ(θ)]−1

Var(T )

fornece uma indicacao sobre a eficiencia relativa do estimador T emrelacao ao hipotetico estimador de variancia igual ao limite inferior dadesigualdade.


Propriedades

O conceito de eficiencia esta associado a estimadores centrados, mas nemsempre os estimadores o sao, ou nao e possıvel, determinar se o e ou nao.E necessario entao um criterio mais geral para o uso em estimadoresenviesados. O criterio mais comum e o uso do erro quadratico medio(EQM).

Definicao

Seja T = T (X1,X2, . . . ,Xn) um estimador para o parametro θ . O erroquadratico medio de T e dado por

EQM(T ) = E[

(T −θ)2]

ou EQM(T ) = Var(T )+ [Env(T )]2

Dados dois estimadores T1 e T2, o estimador T1 sera ”melhor” que T2 seEQM(T1)≤ EQM(T2).Quando o estimador e centrado, o enviesamento e nulo,EQM(T ) = Var(T ).


Propriedades

Definicao

Um estimador Tn = T (X1,X2, . . . ,Xn) diz-se consistente em mediaquadratica se

limn→+∞

E[

(Tn−θ)2]

= 0 ∀θ ∈Θ

Definicao

Um estimador Tn = T (X1,X2, . . . ,Xn) diz-se (simplesmente) consistentequando, qualquer que seja o numero real ε > 0,

limn→+∞

Pθ (θ − ε < Tn < θ + ε) = 1 ∀θ ∈Θ

TnP−→ θ

plimTn = θ


Propriedades

Teorema

Sao condicoes suficientes para que Tn seja estimador (simplesmente)consistente

limn→+∞

E (Tn) = θ

limn→+∞

Var(Tn) = 0


Outline

1 Introducao

2 Estimacao pontual




Estimacao por intervalo

Intervalo aleatorio e intervalo de confianca

Seja (X1,X2, . . . ,Xn) uma amostra causal de uma populacao com funcaodensidade f (x |θ), com θ ∈ΘConsiderem-se duas estatısticas, T1(X1,X2, . . . ,Xn) e T2(X1,X2, . . . ,Xn),T1 < T2, tais que P(T1 < θ < T2) = 1−α ,∀θ ∈Θ,0< α < 1 onde α naodepende de θ .Um intervalo aleatorio para θ e um intervalo [T1;T2] nestas condicoes.Dada a amostra particular (x1,x2, . . . ,xn), sejam t1 = T1(x1,x2, . . . ,xn) et2 = T2(x1,x2, . . . ,xn) os valores assumidos pelas estatısticas T1 e T2,respectivamente.Qualquer intervalo [t1;t2], que seja concretizacao do intervalo aleatorio[T1;T2], chama-se intervalo de confianca a (1−α)×100% para θ .O valor 1−α traduz o grau ou coeficiente de confianca do intervalo [t1;t2]

Para efeitos praticos ao valor de α denominar-se-a de nıvel de significancia.


Outline

1 Introducao

2 Estimacao pontual




Intervalo de confianca para a media

Quando a variancia e conhecida,

Z (X1,X2, . . . ,Xn,µ) =X −µ

σ√n

∼ N(0;1)

onde este resultado e a variavel fulcral a utilizar de onde se deduz[

x− z( α2 )

σ√n;x+ z( α

2 )σ√n

]

com z( α2 )

a verificar Φ(z( α2 )) = 1− α

2 .

Atendendo a que a distribuicao de Z e simetrica a origem, verifica-se que aamplitude do intervalo e dada por 2z( α

2 )σ√n.



Exemplo

Seja X o tempo, em minutos, que certa tarefa leva a executar. Admita-se que X temdistribuicao N(µ;σ2) e que a experiencia anterior permitiu determinar, com boa aproximcao,que σ = 2 minutos.

1 Observada uma amostra de dimensao 16, com media x = 12,5, construa um intervalo deconfianca a 95% para µ.Como 1−α = 0,95, tem-se z( α

2 )= z0,025 = 1,96, donde o intervalo

[

12,5−1,96× 2√16

;12,5+1,96× 2√16

]

= [11,52;13,48]

2 Desejando estimar-se µ atraves de um intervalo de confianca, qual a dimensao da amostrade tempos que deve observar-se para garantir que a amplitude do intervalo obtido einferior a 0,5 minutos?Pretende-se determinar o menor valor de n tal que

2z( α2 )

σ√n< 0,5⇔ n >

(2z( α2 )

σ0,5

)2

⇔ n > 245,86

escolhendo-se, portanto, n= 246.



Quando a dimensao da amostra e razoavelmente grande, mesmo com σdesconhecido, pode-se substituir σ pelo seu estimador S ′, pelo que ointervalo de confianca pode ser escrito como

[

x− z( α2 )

s ′√n;x+ z( α

2 )s ′√n

]

No entanto quando a variancia e desconhecida e a dimensao e pequena(n < 30), entao a deducao do intervalo de confianca nestas condicoes levaa

[

x− t( α2 )

s ′√n;x+ t( α

2 )s ′√n

]

com t( α2 )

a verificar P(T > t( α2 )) = α

2 .


Outline

1 Introducao

2 Estimacao pontual




Intervalo de confianca para a variancia

Quando se procura construir um intervalo de confianca para a variancia,σ2, de uma populacao normal, a variavel fulcral a usar e,

Q =(n−1)S ′2

σ2∼ χ2

(n−1)

Para um determinado grau de confianca, e possıvel determinar doisvalores, q1 e q2, tais que

P(Q < q1) = P(Q > q2) =α2

Nao sendo a distribuicao do qui-quadrado simetrica, esta solucao naoorigina os intervalos de amplitude mınima. Tem-se entao

P

(

q1 <(n−1)S ′2

σ2< q2

)

= 1−α

de onde se deduz o intervalo de confianca que aparace sob a forma de(

(n−1)s ′2

q2;(n−1)s ′2

q1

)


Intervalo de confianca para a variancia

Exemplo

Suponha que o tempo de vida (em horas) de componentes electronicos produzidos segundodeterminado processo de fabrico tem distribuicao normal. Obtida uma amostra causal de n= 20componentes da producao de determinado dia, verificou-se a duracao das mesmas eobtiveram-se os seguintes resultados: x = 1832 e s ′ = 497. Determine um intervalo de confiancaa 90% para a variancia, σ2, do tempo de vida dos componentes electronicos.

Comα2= 0,05 e n−1 = 19, retira-se da tabela

q1 = 10,1170 e q2 = 30,1435

donde se pode escrever o intervalo sob a forma

σ2 ∈[

(19×4972

30,1435;(19×4972

10,1170

]

⇔ σ2 ∈ [155694,3;463889,6]


Outline

1 Introducao

2 Estimacao pontual




Intervalo de confianca para a diferenca de medias

Quando as inferencias dizem respeito a parametros de duas populacoes normais, N(µ1,σ21 ) e

N(µ2,σ22 ), de duas amostras independentes de dimensao m e n, respectivamente, ha interesse

em construir intervalos de confianca para a diferenca entre as medias das duas populacoesµ1−µ2.

quando as variancias sao conhecidas

Z =(X 1−X 2)− (µ1−µ2)

√

σ21m

+σ22n

∼N(0;1)

de onde se pode construir o intervalo de confianca para a diferenca de medias

(x1−x2)− z α2

√

σ21

m+

σ22

n; (x1−x2)+z α

2

√

σ21

m+

σ22

n

populacoes nao normais, e dimensao das amostras razoavelmente grande, temos aaproximacao dada por

Z =(X 1−X 2)− (µ1−µ2)

√

σ21m

+σ22n

a∼N(0;1)

de onde se deduz o mesmo intervalo de confianca.


Intervalo de confianca para a diferenca de medias

variancias serem desconhecidas, mas iguais, e amostras de pequenas dimensoes

(X 1−X 2)− (µ1−µ2)√

1m+ 1

n

√

(m−1)S ′21 +(n−1)S ′2

2m+n−2

∼ t(m+n−2)

do qual se constroi o intervalo de confianca

(x1−x2)± t α2

√

1

m+

1

n

√

(m−1)s ′21 +(n−1)s ′22m+n−2

variancias desconhecidas e as amostras sao de pequenas dimensoes

(X1−X2)− (µ1−µ2)√

S ′21m

+S ′22n

∼ t(v) onde v =

(

s ′21m

+s ′22n

)2

1m−1

(

s ′21m

)2

+ 1n−1

(

s ′22n

)2

de onde se pode construir o intervalo de confianca

(x1−x2)− t(v)(α2)

√

s ′21m

+s ′22n


Outline

1 Introducao

2 Estimacao pontual




Intervalo de confianca para a razao de variancias

Um outro problema com interesse quando se pretende compararestimativas retiradas de duas populacoes normais, em que as amostras saoindependentes, com m e n elementos, respctivamente, e determinar ointervalo de confianca para a razao das suas variancias. A variavel fulcral autilizar sera

S ′21

S ′22

σ22

σ21

∼ F (m−1,n−1)

Desta expressao pode-se construir um intervalo de confianca dado por

[

1

Fm−1,n−1(α2 )

S21

S22

;1

Fm−1,n−1(1− α2 )

S21

S22

]


Outline

1 Introducao

2 Estimacao pontual




Intervalo de confianca para a proporcao

A solucao deste problema esta associado a distribuicao binomial. Sendo Y

a soma de n variaveis aleatorias independentes com distribuicao deBernoulli, logo Y ∼ B(n;p), e

P(Y = y) =

(

n

y

)

py(1−p)n−y

No caso de uma populacao de Bernoulli e para uma amostra de grandesdimensoes, a variavel

X −p√

p(1−p)n

a∼ N(0;1)

onde X = ynpelo que o intervalo de confianca passa a ser

[

p− z α2

√

p(1− p)

n; p+ z α

2

√

p(1− p)

n

]


Outline

1 Introducao

2 Estimacao pontual




Intervalo de confianca para a diferenca de proporcoes

O procedimento e analogo como nas alıneas anteriores, pelo que

(p1− p2)± z(α2 )

√

p1(1− p1)

n1+

p2(1− p2)

n2


05_-_estimacao.pdf

Documents