cap´ıtulo 6 - amostragem e estima o pontualcamado/cap6_imprimir.pdf · sum´ario cap´ıtulo 6 -...

21
Cap ´ ıtulo 6 - Amostragem e Estima¸ c˜ao Pontual Concei¸ c˜ao Amado e Ana M. Pires Cap´ ıtulo 6 - Amostragem e estima¸ ao pontual 10 6.1 Inferˆ encia Estat´ ıstica. Amostragem aleat´ oria ................................ 11 6.2Estima¸c˜ ao pontual. Propriedades dos estimadores ............................. 22 6.2Estima¸c˜ ao pontual. Propriedades dos estimadores ............................. 23 6.3 M´ etodo da m´ axima verosimilhan¸ ca........................................ 32 6.4 Momentos da m´ edia amostral e de variˆ ancias amostrais. Distribui¸c˜ oes amostrais da m´ edia . . . 40 1

Upload: others

Post on 04-Jul-2020

1 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: Cap´ıtulo 6 - Amostragem e Estima o Pontualcamado/Cap6_Imprimir.pdf · Sum´ario Cap´ıtulo 6 - Amostragem e estimac¸˜ao pontual 2 / 42 ESTAT´ISTICA 3 / 42 fcffj gfftgj hgy

Capıtulo 6 - Amostragem e Estimacao Pontual

Conceicao Amado e Ana M. Pires

Capıtulo 6 - Amostragem e estimacao pontual 106.1 Inferencia Estatıstica. Amostragem aleatoria . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 116.2 Estimacao pontual. Propriedades dos estimadores . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 226.2 Estimacao pontual. Propriedades dos estimadores . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 236.3 Metodo da maxima verosimilhanca. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 326.4 Momentos da media amostral e de variancias amostrais. Distribuicoes amostrais da media . . . 40

1

Page 2: Cap´ıtulo 6 - Amostragem e Estima o Pontualcamado/Cap6_Imprimir.pdf · Sum´ario Cap´ıtulo 6 - Amostragem e estimac¸˜ao pontual 2 / 42 ESTAT´ISTICA 3 / 42 fcffj gfftgj hgy

Sumario

Capıtulo 6 - Amostragem e estimacao pontual

2 / 42

ESTATISTICA 3 / 42

fcffj gfftgj hgy hk hhgj ggfj ghfj hjgg ghj ljlc. ghfdfd jhkg jkolte nhgff hhgghj jjhgfd jjhg jkhfgjhdsrjkpp jkklikuf

4 / 42

2

Page 3: Cap´ıtulo 6 - Amostragem e Estima o Pontualcamado/Cap6_Imprimir.pdf · Sum´ario Cap´ıtulo 6 - Amostragem e estimac¸˜ao pontual 2 / 42 ESTAT´ISTICA 3 / 42 fcffj gfftgj hgy

fcffj gfftgj hgy hk hhgj ggfj ghfj hjgg ghj ljlc. ghfdfd jhkg jkolte nhgff hhgghj jjhgfd jjhg jkhfgjhdsrjkpp jkklikuf

5 / 42

fcffj gfftgj hgy hk hhgj ggfj ghfj hjgg ghj ljlc. ghfdfd jhkg jkolte nhgff hhgghj jjhgfd jjhg jkhfgjhdsrjkpp jkklikuf

6 / 42

3

Page 4: Cap´ıtulo 6 - Amostragem e Estima o Pontualcamado/Cap6_Imprimir.pdf · Sum´ario Cap´ıtulo 6 - Amostragem e estimac¸˜ao pontual 2 / 42 ESTAT´ISTICA 3 / 42 fcffj gfftgj hgy

7 / 42

Afinal para que serve a estatıstica?

E necessaria na maior parte das descobertas cientıficas/tecnicas:

Ex. 1: IEEE Transactions on Pattern Analysis and Machine Intelligence, Vol. 34,No. 5, 2012

a maior parte dos artigos publicados usam/estudam metodos estatısticos (ver)

Ex. 2: Analise de Imagem

Ex. 3: Engenharia do Ambiente

Ex. 4: Economia

Ex. 5: Medicina I Medicina II Medicina III

8 / 42

4

Page 5: Cap´ıtulo 6 - Amostragem e Estima o Pontualcamado/Cap6_Imprimir.pdf · Sum´ario Cap´ıtulo 6 - Amostragem e estimac¸˜ao pontual 2 / 42 ESTAT´ISTICA 3 / 42 fcffj gfftgj hgy

Afinal para que serve a estatıstica?

E praticamente indispensavel em normalizacao:

Ex. 1: Recomendacao ITU

Ex. 2: Regulamento publicado em D.R.

E nas empresas:

Ex. 1: Distribuicao de energia electrica

9 / 42

Capıtulo 6 - Amostragem e estimacao pontual 10 / 42

6.1 Inferencia Estatıstica. Amostragem aleatoriaDefinicao: Uma populacao e o conjunto de todas as observacoes possıveis de determinada variavelde interesse, X.

Quanto ao tamanho

finitas

{

pequenasgrandes

infinitasւ≈

Exemplos:

■ Alturas da populacao portuguesa

■ Idades dos estudantes inscritos nesta turma

■ Resistencias dos filamentos de um conjunto de lampadas

■ Temperaturas em todos os pontos de uma sala

Por conveniencia identificamos a populacao com a v.a. correspondente, X.

11 / 42

5

Page 6: Cap´ıtulo 6 - Amostragem e Estima o Pontualcamado/Cap6_Imprimir.pdf · Sum´ario Cap´ıtulo 6 - Amostragem e estimac¸˜ao pontual 2 / 42 ESTAT´ISTICA 3 / 42 fcffj gfftgj hgy

6.1 (cont.)

Para conhecer exactamente X terıamos de fazer um numero muito grande ou infinito deobservacoes. Isso pode ser impossıvel, muito caro, ou muito demorado.

Podemos obter algum conhecimento sobre X se observarmos alguns valores da populacao −→AMOSTRA.

No entanto, a inferencia das propriedades da populacao so e possıvel se a amostra for obtida pormetodos probabilısticos (ou seja, se for fixada a probabilidade de um qualquer elemento dapopulacao vir a pertencer a amostra).

12 / 42

POPULACAO

X

fX(x) =?

µX =?

σX =?. . .

Amostra

x1, x2, . . . , xn

Est

atıst

ica

des

critiv

a

x

f(x)

0.0 0.2 0.4 0.6 0.8 1.0

0.0

1.0

2.0

3.0

x = 0.32s = 0.14

. . .

Amostragem (probabilıstica)

Inferencia estatıstica(ou estatıstica indutiva)

13 / 42

6

Page 7: Cap´ıtulo 6 - Amostragem e Estima o Pontualcamado/Cap6_Imprimir.pdf · Sum´ario Cap´ıtulo 6 - Amostragem e estimac¸˜ao pontual 2 / 42 ESTAT´ISTICA 3 / 42 fcffj gfftgj hgy

6.1 (cont.)

Conhecer exactamente X corresponde a conhecer a sua funcao de distribuicao FX(x)

(o que e equivalente a conhecer a f.d.p. caso X seja contınua, ou a f.p. caso X seja discreta)

Admitem-se dois nıveis de “ignorancia”:

1. FX(x) e completamente desconhecida, sabendo-se apenas se e do tipo contınuo ou discreto;

2. Admite-se (pelo conhecimento do fenomeno em causa) que FX(x) pertence a determinadafamılia, por exemplo normal ou Poisson, mas com parametros (nesse exemplo µ e σ, ou λ)desconhecidos.

14 / 42

6.1 (cont.)Objectivos da Inferencia Estatıstica:

■ estimar FX(x) ou estimar os parametros de FX(x) conhecendo a sua forma;

■ fazer testes em relacao aos parametros ou em relacao a forma de FX(x).

Estimacao de parametros:

■ pontualmente → resto do Capıtulo 6;■ por intervalo → Capıtulo 7.

Testes de hipoteses → Capıtulo 8:

■ sobre parametros → Capıtulo 8;■ sobre a forma de FX(x) → Capıtulo 8.

15 / 42

7

Page 8: Cap´ıtulo 6 - Amostragem e Estima o Pontualcamado/Cap6_Imprimir.pdf · Sum´ario Cap´ıtulo 6 - Amostragem e estimac¸˜ao pontual 2 / 42 ESTAT´ISTICA 3 / 42 fcffj gfftgj hgy

Amostragem aleatoria

O processo de amostragem probabilıstica que vamos considerar pode ser descrito informalmentedo seguinte modo: cada elemento da amostra e obtido totalmente ao acaso na populacao e deforma independente dos outros elementos.

Desta forma cada elemento da amostra e o valor observado de uma variavel aleatoria comdistribuicao identica a populacao e essas variaveis aleatorias sao independentes.

Definicao: As variaveis aleatorias (X1,X2, . . . ,Xn) constituem uma amostra aleatoria de di-mensao n da populacao X se forem independentes e identicamente distribuıdas a X (i.i.d.)

X −→ X1 X2 · · · Xn n v.a. i.i.d a X amostra aleatoria↓ ↓ ↓x1 x2 · · · xn n observacoes amostra casual

16 / 42

Amostragem aleatoria: exemploExemplo 6.1: Seja X a populacao que corresponde ao n.o de caras observado no lancamento deuma moeda nao necessariamente perfeita. O modelo e conhecido, X ∼ Bernoulli(p) (0 < p < 1).O objectivo da amostragem sera obter informacao sobre p

X = 1 • cara P (X = 1) = pX = 0 • coroa P (X = 0) = 1− p

8 amostras de dimensao 10:

X1 X2 X3 X4 X5 X6 X7 X8 X9 X10• 0 • 1 • 1 • 0 • 1 • 1 • 0 • 0 • 0 • 1• 1 • 1 • 1 • 1 • 1 • 0 • 1 • 1 • 1 • 1• 0 • 1 • 0 • 1 • 0 • 1 • 0 • 0 • 0 • 1• 0 • 0 • 0 • 1 • 1 • 1 • 1 • 0 • 1 • 1• 1 • 1 • 0 • 0 • 0 • 1 • 1 • 0 • 0 • 0• 1 • 0 • 1 • 0 • 0 • 0 • 0 • 0 • 0 • 0• 1 • 1 • 0 • 1 • 0 • 1 • 0 • 0 • 1 • 0• 1 • 0 • 1 • 0 • 0 • 0 • 0 • 1 • 1 • 1

P (X1 = 1) = p · · · · · · · · · · · · · · · · · · · · · · · · P (X10 = 1) = p

17 / 42

8

Page 9: Cap´ıtulo 6 - Amostragem e Estima o Pontualcamado/Cap6_Imprimir.pdf · Sum´ario Cap´ıtulo 6 - Amostragem e estimac¸˜ao pontual 2 / 42 ESTAT´ISTICA 3 / 42 fcffj gfftgj hgy

Amostragem aleatoria: exemplo (cont.)Na realidade dispomos apenas de uma amostra casual, por exemplo a primeira:

x1 x2 x3 x4 x5 x6 x7 x8 x9 x10• 0 • 1 • 1 • 0 • 1 • 1 • 0 • 0 • 0 • 1

mas para poder inferir correctamente a partir desta precisamos de saber que ela e uma de muitaspossıveis que se distribuem de determinado modo.

Em particular podemos calcular a probabilidade de observar aquela particular amostra:

P (X1 = 0,X2 = 1,X3 = 1,X4 = 0, . . . ,X7 = 0,X8 = 0,X9 = 0,X10 = 1) =

(porque as observacoes sao independentes)

= P (X1 = 0)P (X2 = 1)P (X3 = 1) · · · P (X8 = 0)P (X9 = 0)P (X10 = 1) =

(porque as observacoes sao identicamente distribuıdas a X)

= (1− p)× p× p× (1− p)× p× p× (1− p)× (1− p)× (1− p)× p = p5(1− p)5

18 / 42

6.1 (cont.)

SUMARIO:

■ (X1, X2, . . . ,Xn) – amostra aleatoria(v.a. de dimensao n que pretende representar “todas” as possıveis amostras dessa dimensao)

(x1, x2, . . . , xn)

(x1, x2, x3, x4, x5)

(0, 0, 1, 0, 1, 0, 0)

(2, 1.5, 3, 4.2, 0.1)

amostras casuais (ou concretas)

■ fX1,X2,...,Xn(x1, x2, . . . , xn) =∏n

i=1 fXi(xi)

(probabilidade, ou densidade de probabilidade, de observar a amostra (x1, x2, . . . , xn), parauma populacao com funcao de probabilidade, ou densidade de probabilidade, fX(·))

19 / 42

9

Page 10: Cap´ıtulo 6 - Amostragem e Estima o Pontualcamado/Cap6_Imprimir.pdf · Sum´ario Cap´ıtulo 6 - Amostragem e estimac¸˜ao pontual 2 / 42 ESTAT´ISTICA 3 / 42 fcffj gfftgj hgy

EstatısticasEm geral usamos funcoes da amostra para “estimar” certos aspectos da populacao: por exemplo,e intuitivo perceber que a media da amostra sera uma “aproximacao” ou “estimativa” possıvel damedia da populacao.

Definicao: Uma estatıstica e uma v.a. que e funcao unicamente da amostra aleatoria. Denota-seusualmente por Tn = T (X1,X2, · · · ,Xn)

Exemplos de estatısticas:

1) Media amostral X =X1 +X2 + · · ·+Xn

n=

∑ni=1 Xi

n

E uma variavel aleatoria!

Dada uma amostra concreta (x1, x2, . . . , xn), podemos calcular o valor da sua mediax = (x1 + x2 + · · ·+ xn)/n que sera um valor observado (ou uma ocorrencia, ou ainda umaconcretizacao) da v.a. X

20 / 42

6.1 (cont.)2) Variancia amostral

S2 =1

n− 1

n∑

i=1

(Xi − X)2 E uma variavel aleatoria!

A variancia de uma amostra concreta

s2 =1

n− 1

n∑

i=1

(xi − x)2

e um valor observado da v.a. S2.3) Mınimo da a.a.: X(1) = min{(X1,X2, · · · ,Xn} E uma variavel aleatoria!

4) Maximo da a.a.: X(n) = max(X1,X2, · · · ,Xn) E uma variavel aleatoria!

21 / 42

10

Page 11: Cap´ıtulo 6 - Amostragem e Estima o Pontualcamado/Cap6_Imprimir.pdf · Sum´ario Cap´ıtulo 6 - Amostragem e estimac¸˜ao pontual 2 / 42 ESTAT´ISTICA 3 / 42 fcffj gfftgj hgy

6.2 Estimacao pontual. Propriedades dos estimadores

Como as estatısticas sao variaveis aleatorias faz sentido falar da sua distribuicao deprobabilidades (que se chama de distribuicao amostral ou distribuicao por amostragem).

1. Distribuicao amostral do Maximo da a.a. (X(n))

FX(n)(x) = P (X(n) ≤ x) = P (X1 ≤ x,X2 ≤ x, · · · ,Xn ≤ x) =

=

n∏

i=1

P (Xi ≤ x) =

n∏

i=1

P (X ≤ x) = (FX (x))n

2. (Fazer para o mınimo.)

Veremos mais adiante as distribuicoes amostrais de X e S2.

22 / 42

6.2 Estimacao pontual. Propriedades dos estimadores

Definicao: Chama-se estimador a qualquer estatıstica, Θ, usada para estimar um parametro,θ (desconhecido) da populacao ou uma funcao desse parametro. A um valor desse estimador, θ,chama-se estimativa.

Seja X – populacao com fX(x) que depende de um parametro desconhecido θ (pode-se generalizar paravectores de parametros).

(X1, X2, . . . , Xn) – a.a.

Θ = Tn(X1, X2, . . . , Xn): estimador pontual de θ

θ = tn(x1, x2, . . . , xn): estimativa pontual de θ

Exemplo 6.2: X ∼ Bernoulli(p), dada uma a.a. de dimensao n considerar o estimador

Tn = P = X =

∑n

i=1Xi

n

Como Xi = 1 se ocorrer um sucesso e Xi = 0 se ocorrer um insucesso, conclui-se que∑n

i=1Xi representa o

numero de sucessos na amostra aleatoria (observar que o numero de insucessos sera n−∑n

i=1Xi).

23 / 42

11

Page 12: Cap´ıtulo 6 - Amostragem e Estima o Pontualcamado/Cap6_Imprimir.pdf · Sum´ario Cap´ıtulo 6 - Amostragem e estimac¸˜ao pontual 2 / 42 ESTAT´ISTICA 3 / 42 fcffj gfftgj hgy

6.2 (cont.)

Exemplo 6.2 (cont.): E∑n

i=1 xi e o numero de sucessos na amostra concreta. Por exemplopara a primeira amostra do lancamento da moeda,

• 0 • 1 • 1 • 0 • 1 • 1 • 0 • 0 • 0 • 1

tem-se p = x = 5/10 = 0.5, que e uma estimativa do parametro p.

Definicao: O estimador pontual Θ e um estimador centrado do parametro θ se E(Θ) = θ.

Se o estimador nao for centrado (tambem se diz, se o estimador for enviesado) chama-se enviesa-mento (ou vies) a diferenca

b(Θ) = E(Θ)− θ

24 / 42

6.2 (cont.)Exemplo 6.3: Dada uma v.a. X com valor esperado µ e variancia σ2 (e distribuicao qualquer),tem-se que X e S2 sao estimadores centrados de µ e σ2, respectivamente.

E(X) = E

(

X1 +X2 + · · ·+Xn

n

)

=E(X1) +E(X2) + · · · +E(Xn)

n=

=µ+ µ+ · · ·+ µ

n=

n= µ

logo X e estimador centrado de µ.Calculemos tambem a variancia de X:

V (X) = V

(

X1 +X2 + · · ·+Xn

n

)

=V (X1) + V (X2) + · · ·+ V (Xn)

n2=

=σ2 + σ2 + · · ·+ σ2

n2=

nσ2

n2=

σ2

n

25 / 42

12

Page 13: Cap´ıtulo 6 - Amostragem e Estima o Pontualcamado/Cap6_Imprimir.pdf · Sum´ario Cap´ıtulo 6 - Amostragem e estimac¸˜ao pontual 2 / 42 ESTAT´ISTICA 3 / 42 fcffj gfftgj hgy

6.2 (cont.)Quanto ao estimador S2, iniciemos por reescreve-lo:

S2 =1

n− 1

n∑

i=1

(Xi − X)2 =1

n− 1

n∑

i=1

(X2i − 2XXi + X2) =

=1

n− 1

(

n∑

i=1

X2i − 2X

n∑

i=1

Xi + nX2

)

=1

n− 1

(

n∑

i=1

X2i − nX2

)

pois∑n

i=1 Xi = nX. Vamos precisar de calcular E(X2i ) e E(X2):

E(X2i ) = V (Xi) + E2(Xi) = σ2 + µ2 E(X2) = V (X) + E2(X) =

σ2

n+ µ2

logo E(S2) =1

n− 1

[

n(σ2 + µ2)− n

(

σ2

n+ µ2

)]

=1

n− 1(n− 1)σ2 = σ2

e conclui-se que S2 e estimador centrado de σ2

26 / 42

6.2 (cont.)Exemplo: Se X ∼ Ber.(p) sabe-se que E(X) = µ = p e V (X) = σ2 = p(1− p). Dada uma a.a.de dimensao n e o estimador P = X =

∑ni=1Xi/n, os resultados obtidos para a media amostral

permitem afirmar queE(P ) = p e V (P ) = σ2

P=

p(1− p)

n

ou seja, P e um estimador centrado de p e o respectivo desvio padrao (que e uma medida do erroassociado a estimativa, tambem chamada erro padrao) e σP =

p(1− p)/n. Uma estimativa

do erro padrao e σP =√

p(1− p)/n.

Para a primeira amostra do lancamento da moeda,

• 0 • 1 • 1 • 0 • 1 • 1 • 0 • 0 • 0 • 1

tem-se p = x = 5/10 = 0.5 (como se viu) e σP =√

0.5× 0.5/10 ≃ 0.158.

Notar que para o mesmo p = 0.5 mas com n = 1000 vinha σP ≃ 0.0158

27 / 42

13

Page 14: Cap´ıtulo 6 - Amostragem e Estima o Pontualcamado/Cap6_Imprimir.pdf · Sum´ario Cap´ıtulo 6 - Amostragem e estimac¸˜ao pontual 2 / 42 ESTAT´ISTICA 3 / 42 fcffj gfftgj hgy

6.2 (cont.)Como para um mesmo parametro pode haver varios estimadores centrados sao necessarios outroscriterios para comparar estimadores.

Definicao: O erro quadratico medio de um estimador Θ do parametro θ e

MSE(Θ) ≡ EQM(Θ) = E(

Θ− θ)2

Nota: EQM(Θ) = V (Θ) + b2(Θ)

Definicao: Dados dois estimadores Θ1 e Θ2 de um mesmo parametro θ, diz-se que Θ1 e maiseficiente que Θ2 se MSE(Θ1) < MSE(Θ2) Ao quociente MSE(Θ1)/MSE(Θ2) chama-seeficiencia relativa de Θ2 em relacao a Θ1.

Dados dois estimadores deve preferir-se o que for mais eficiente, ou seja, o que tiver menor erroquadratico medio.

28 / 42

6.2 (cont.)

Exemplo 6.1 (cont.): Vamos considerar novamente o exemplo da moeda (X ∼ Ber.(p) com0 < p < 1 desconhecido) e dois estimadores, o que ja apareceu antes, agora designado P1, e umestimador alternativo P2, chamado estimador de Laplace:

P1 = X =

∑ni=1 Xi

nP2 =

1 +∑n

i=1 Xi

n+ 2

Vamos ver o que acontece com as 8 amostras que foram geradas anteriormente.

29 / 42

14

Page 15: Cap´ıtulo 6 - Amostragem e Estima o Pontualcamado/Cap6_Imprimir.pdf · Sum´ario Cap´ıtulo 6 - Amostragem e estimac¸˜ao pontual 2 / 42 ESTAT´ISTICA 3 / 42 fcffj gfftgj hgy

6.2 (cont.)8 amostras de dimensao 10:

x1 x2 x3 x4 x5 x6 x7 x8 x9 x10 p1 p2• 0 • 1 • 1 • 0 • 1 • 1 • 0 • 0 • 0 • 1 0.5 0.5• 1 • 1 • 1 • 1 • 1 • 0 • 1 • 1 • 1 • 1 0.9 0.8333• 0 • 1 • 0 • 1 • 0 • 1 • 0 • 0 • 0 • 1 0.4 0.4167• 0 • 0 • 0 • 1 • 1 • 1 • 1 • 0 • 1 • 1 0.6 0.5833• 1 • 1 • 0 • 0 • 0 • 1 • 1 • 0 • 0 • 0 0.4 0.4167• 1 • 0 • 1 • 0 • 0 • 0 • 0 • 0 • 0 • 0 0.2 0.25• 1 • 1 • 0 • 1 • 0 • 1 • 0 • 0 • 1 • 0 0.5 0.5• 1 • 0 • 1 • 0 • 0 • 0 • 0 • 1 • 1 • 1 0.5 0.5

media dos 8 valores: 0.5 0.5variancia dos 8 valores: 0.04 0.0278

Sabendo que os dados foram gerados com p = 0.5, conclui-se que o segundo estimador e melhor(as estimativas estao a distancia menor ou igual do verdadeiro valor).

30 / 42

6.2 (cont.)

Sabemos ja queEQM(P1) = p(1− p)/n

pois P1 e centrado (b(P1) = 0), logo EQM(P1) = V (P1).

Pode mostrar-se (Exercıcio) que

EQM(P2) =np(1− p) + (1− 2p)2

(n+ 2)2

e que EQM(P2) e mais eficiente que EQM(P1) se

p ∈]

1

2−√

1

4− n

8n+ 4;1

2+

1

4− n

8n+ 4

[

31 / 42

15

Page 16: Cap´ıtulo 6 - Amostragem e Estima o Pontualcamado/Cap6_Imprimir.pdf · Sum´ario Cap´ıtulo 6 - Amostragem e estimac¸˜ao pontual 2 / 42 ESTAT´ISTICA 3 / 42 fcffj gfftgj hgy

6.3 Metodo da maxima verosimilhancaExistem varios metodos de estimacao de parametros desconhecidos. Um desses metodos e o damaxima verosimilhanca. Como o seu nome indica o estimador obtem-se maximizando uma certafuncao chamada funcao de verosimilhanca.

Definicao: Seja X uma v.a. com distribuicao caracterizada por f(x, θ) (f.p. ou f.d.p.), onde θ eum parametro desconhecido. Sejam x1, x2, . . . , xn os valores observados de uma a.a. de dimensaon. A funcao de verosimilhanca da amostra e

L(θ;x1, x2, . . . , xn) = f(x1, θ)f(x2, θ) · · · f(xn, θ) =n∏

i=1

f(xi, θ)

Chama-se estimativa de maxima verosimilhanca de θ (θ) ao valor de θ que maximiza L(θ), ou seja,

θ = argmaxθ

L(θ;x1, x2, . . . , xn)

32 / 42

6.3 (cont.)Exemplo 1: No exemplo concreto que temos vindo a considerar, X ∼ Bernoulli(p), tem-se, seconsiderarmos a amostra 1,

L(p) = p5(1− p)5, 0 < p < 1

Determinacao do valor de p que maximiza L(p):

dL(p)

dp= 5p4(1− p)5 − 5p5(1− p)4 = 5p4(1− p)4(1− 2p) = 0

⇔ p = 0 ∨ p = 1 ∨ p =1

2

0 1/2 1

L′(p) 0 + 0 − 9

L(p) 0 ր + ց 0

Logo a estimativa de m.v. de p com base nesta amostra e p =1

2

33 / 42

16

Page 17: Cap´ıtulo 6 - Amostragem e Estima o Pontualcamado/Cap6_Imprimir.pdf · Sum´ario Cap´ıtulo 6 - Amostragem e estimac¸˜ao pontual 2 / 42 ESTAT´ISTICA 3 / 42 fcffj gfftgj hgy

6.3 (cont.)Em vez de fazer a determinacao da estimativa para uma amostra concreta e conveniente faze-lopara uma amostra generica (x1, . . . , xn)

(vantagens: so e preciso fazer os calculos uma vez e obtem-se a expressao do estimador, necessariapara estudar as suas propriedades).

Exemplo 2: X ∼ Ber.(p), para a qual f(x) = P (X = x) = px(1− p)1−x, 0 < p < 1. Dada umaamostra (x1, . . . , xn) vem

L(p;x1, . . . , xn) ≡ L(p) = f(x1) · · · f(xn) =n∏

i=1

pxi(1− p)1−xi =

= p∑n

i=1 xi(1− p)n−∑n

i=1 xi =

= pk(1 − p)n−k, 0 < p < 1

onde k =∑n

i=1 xi e o numero de sucessos na amostra e n− k o numero de insucessos.

34 / 42

6.3 (cont.)Nota: em vez de determinar p que maximiza L(p) pode determinar-se o valor de p que maximizalogL(p) (pois para uma funcao f > 0 qualquer, f e log f tem maximo e mınimo nos mesmospontos e os calculos com logL sao geralmente mais simples do que com L).

logL(p) = log[

pk(1− p)n−k]

= k log p+ (n− k) log(1− p)

d logL(p)

dp=

k

p− n− k

1− p= 0

(p 6=0, p 6=1)⇔ k(1− p)− (n− k)p = 0 ⇔ p =k

n

Verificacao:d2 logL(p)

dp2= − k

p2− n− k

(1− p)2< 0, ∀0<p<1

a estimativa de m.v. e p =

∑ni=1 xin

= x

o estimador de m.v. e p =

∑ni=1 Xi

n= X

35 / 42

17

Page 18: Cap´ıtulo 6 - Amostragem e Estima o Pontualcamado/Cap6_Imprimir.pdf · Sum´ario Cap´ıtulo 6 - Amostragem e estimac¸˜ao pontual 2 / 42 ESTAT´ISTICA 3 / 42 fcffj gfftgj hgy

6.3 (cont.)O metodo da maxima verosimilhanca tambem pode ser usado quando a funcao de densidade (oude probabilidade) da populacao depende de mais de um parametro.

Exemplo 3: Considere-se X ∼ N(µ, θ), (θ = σ2 > 0) f(x) =1√2πθ

e−(x−µ)2

2θ . Dada uma amostra

(x1, . . . , xn) vem

L(µ, θ;x1, . . . , xn) ≡ L(µ, θ) = f(x1) · · · f(xn) =n∏

i=1

1√2πθ

e−(xi−µ)2

2θ =

=1

(2πθ)n/2e−

12θ

∑ni=1(xi−µ)2 , µ ∈ R, θ > 0

logL(µ, θ) = −n

2log(2πθ)− 1

n∑

i=1

(xi − µ)2

36 / 42

6.3 (cont.)

Determinacao do ponto de maximo:

∂ logL(µ, θ)

∂µ= 0

∂ logL(µ, θ)

∂θ= 0

1

θ

n∑

i=1

(xi − µ) = 0

− n

2θ+

1

2θ2

n∑

i=1

(xi − µ)2 = 0

µ =1

n

n∑

i=1

xi

θ =1

n

n∑

i=1

(xi − x)2

solucao candidata

e necessario confirmar

que corresponde de facto

a um ponto de maximo

37 / 42

18

Page 19: Cap´ıtulo 6 - Amostragem e Estima o Pontualcamado/Cap6_Imprimir.pdf · Sum´ario Cap´ıtulo 6 - Amostragem e estimac¸˜ao pontual 2 / 42 ESTAT´ISTICA 3 / 42 fcffj gfftgj hgy

6.3 (cont.)Para isso deve-se analisar o determinante e a diagonal da matriz Hessiana no ponto (µ, θ) = (µ, θ)

∂2 logL(µ, θ)

∂µ2

∂2 logL(µ, θ)

∂µ∂θ

∂2 logL(µ, θ)

∂µ∂θ

∂2 logL(µ, θ)

∂θ2

(µ,θ)=(µ,θ)

=

−n

θ0

0 − n

2θ2

Como o determinante e positivo e os elementos da diagonal principal sao ambos negativos estaconfirmado que a solucao encontrada corresponde de facto a um ponto de maximo da funcaoL(µ, θ).

Logo os estimadores de m.v. de µ e θ = σ2 sao

µ =

∑ni=1Xi

n= X e θ = σ2 =

∑ni=1(Xi − X)2

n=

(n− 1)S2

n

(o primeiro e centrado e o segundo nao)

38 / 42

6.3 (cont.)Nota: Os estimadores de maxima verosimilhanca nao sao necessariamente centrados mas saoassintoticamente centrados (quando n → ∞)

Propriedade da invariancia dos estimadores de maxima verosimilhanca:

Se Θ1, Θ2, . . . , Θk, sao estimadores de maxima verosimilhanca dos parametros θ1, θ2, . . . , θk,entao o estimador de maxima verosimilhanca de uma funcao h(θ1, θ2, . . . , θk) desses parametros ea mesma funcao h(Θ1, Θ2, . . . , Θk) dos estimadores.

Exemplo Seja X1,X2, · · · ,Xn uma a.a. proveniente de uma populacao X com distribuicaoPoisson de parametro λ .

Determine os estimadores de maxima verosimilhanca de λ e de P (X > 2).

39 / 42

19

Page 20: Cap´ıtulo 6 - Amostragem e Estima o Pontualcamado/Cap6_Imprimir.pdf · Sum´ario Cap´ıtulo 6 - Amostragem e estimac¸˜ao pontual 2 / 42 ESTAT´ISTICA 3 / 42 fcffj gfftgj hgy

6.4 Momentos da media amostral e de variancias amostrais. Distribuicoesamostrais da media . . .Momentos:

■ O momento de ordem k de uma v.a. X e E(Xk).

O primeiro momento e o valor esperado, E(X) = µ

■ O momento central de ordem k de uma v.a. X e E[(X − µ)k].

O segundo momento central e a variancia, E[(X − µ)2] = V (X) = σ2

Os momentos das estatısticas media e variancia amostrais foram ja calculados:

E(X) = µ V (X) =σ2

nE(S2) = σ2

Estes sao os unicos momentos da media e da variancia amostrais que nao dependem dadistribuicao da populacao.

40 / 42

6.4 . . . Distribuicoes amostrais da media e variancia numa populacao normal . . .

A distribuicao de probabilidades de uma estatıstica e chamada distribuicao amostral oudistribuicao por amostragem.

Teorema Considere-se uma populacao X ∼ N(µ, σ2) e uma a.a. (X1,X2, . . . ,Xn). Como

X =

∑ni=1Xi

n=

X1 +X2 + · · ·+Xn

n

e uma combinacao linear de variaveis aleatorias independentes com distribuicao normal, conclui-seque tambem tem distribuicao normal, logo

X ∼ N

(

µ,σ2

n

)

⇔ X − µ

σ/√n

∼ N(0, 1)

41 / 42

20

Page 21: Cap´ıtulo 6 - Amostragem e Estima o Pontualcamado/Cap6_Imprimir.pdf · Sum´ario Cap´ıtulo 6 - Amostragem e estimac¸˜ao pontual 2 / 42 ESTAT´ISTICA 3 / 42 fcffj gfftgj hgy

6.4 . . . Distribuicoes amostrais da media e variancia numa populacao normal . . .

Para populacoes nao normais tem-se como consequencia do T.L.C.:

Se (X1,X2, . . . ,Xn) for uma amostra aleatoria de dimensao n de uma populacao X com valoresperado µ e variancia σ2 e X a correspondente media amostral entao

X − µ

σ/√n

a∼ N(0, 1)

42 / 42

21