variáveis aleatórias unidimensionais e aplicações em ... · conteúdo da apresentação...

Variaveis Aleatorias Unidimensionais e Aplicacoes

em Engenharia de Teleinformatica

Guilherme de Alencar [email protected]

Grupo de Aprendizado de Maquinas – GRAMA

Programa de Pos-Graduacao em Engenharia de Teleinformatica

Universidade Federal do Ceara – UFC

http://www.deti.ufc.br/∼guilherme

c© G. A. Barreto Variaveis Aleatorias Unidimensionais e Aplicacoes em Engenharia

Conteudo da Apresentacao

1 Objetivo Geral

2 Definicao de Variavel Aleatoria

3 Funcao Distribuicao de Probabilidade Acumulada (FDA) esuas Propriedades

4 Funcao Densidade de Probabilidade (FDP) e suasPropriedades

5 Funcoes de Variaveis Aleatorias Unidimensionais

6 Algumas FDPs Importantes em Teleinformatica

7 Exemplos no Matlab/Octave


Pre-Requisitos

1 Experimento Aleatorio, Espaco Amostral e Eventos

2 Definicoes de Probabilidade: Classica e Frequentista

3 Probabilidade Marginal e Condicional

4 Probabilidade Conjunta

5 Nocoes de Matlab/Octave/Scilab


Objetivo Geral

Objetivo Geral da Aula

Definir conceitos relacionados a quantificacao (modelagem)probabilıstica de eventos numericos associados a problemas eaplicacoes proprias da Engenharia de Teleinformatica.


Referencias Importantes

1 A. Papoulis & S. U. Pillai (2001). Probability, RandomVariables and Stochastic Processes, 4a edicao, McGraw-Hill.

2 R. G. Brown & P. Y. C. Hwang (1992). Introduction toRandom Signals and Applied Kalman Filtering, John Wiley &Sons.

3 W. W. Hines et al. (2006). Probabilidade e Estatıstica naEngenharia, Editora LTC, 4a. edicao.

4 A. Hyvarinen, J. Karhunen & E. Oja (2001). IndependentComponent Analysis, John Wiley & Sons.

5 G. A. Barreto - Notas de Aula disponıveis emhttp://www.deti.ufc.br/∼guilherme.


Parte I

Conceitos e Fundamentos


Variaveis Aleatorias UnidimensionaisConceitos e Fundamentos

“ALEA JACTA EST”

Traducao: Os dados estao lancados!

General romano Julio Cesar ao tomar a decisao de cruzar com suaslegioes o rio Rubicao, que delimitava a divisa entre a Galia ao suldo Alpes e o territorio da Italia.



Nocao Geral

Grosso modo, uma variavel aleatoria pode ser entendida como oresultado numerico de um experimento (e.g. medicao) que estasob a influencia de um ou mais mecanismos nao-determinısticos,em geral desconhecidos e sobre os quais tem-se controle limitado.

Ao contrario da pratica comum com outras variaveismatematicas, uma variavel aleatoria nao pode ter um unicovalor associado.

Uma variavel aleatoria nao descreve o valor atual de umarealizacao de um evento (experimento) particular, masdescreve a possıvel, ainda que indeterminado, resultado emtermos de numeros reais.



Espacos Amostrais e Eventos

A descricao do espaco amostral de um experimento aleatorionao requer que um resultado individual seja um numero.

Por exemplo, o espaco amostral S correspondente aolancamento de dois dados honestos, um verde (Ai) e umvermelho (Bj), pode ser definido como

S = {(Ai, Bj)}, i, j = 1, . . . , 6.

em que Ai denota a i-esima face do dado verde e Bj

simboliza a j-esima face do dado vermelho.



Espacos Amostrais e Eventos (cont.-1)

O espaco amostral S correspondente ao lancamento de umamoeda honesta tres vezes seguidas e definido como

S = {CCC,CCK,CKC,CKK,KCC,KCK,KKC,KKK}

em que C = cara e K = coroa.

A representacao dos resultados dos exemplos anteriores esimbolica.

Uma representacao e dita simbolica quando nao podemosutiliza-la para realizar operacoes matematicas.

Por exemplo, a soma do resultado CCC com KKK nao fazsentido algum.



Espacos Amostrais e Eventos (cont.-2)

Na pratica, entretanto, muitos problemas de interesse paraETI requerem que os resultados sejam representados emforma numerica.

A representacao de um resultado e dita numerica quandopodemos utiliza-la para realizar operacoes matematicas.

Pergunta Importante?

E possıvel sair de uma representacao simbolica de eventosprobabilısticos para uma representacao numerica mais condizentecom a realidade da Engenharia?



Definicao de Variavel Aleatoria

Considere um experimento aleatorio com espaco amostral S.

Seja A um elemento qualquer de S, ou seja, A ∈ S.

Uma variavel aleatoria X(A) e uma funcao escalar que atribuium numero real a cada elemento A de S.

S

A

R

X

X(A)


Variaveis aleatoriasConceitos e Fundamentos

Definicao Formal

Variavel aleatoria (VA) e qualquer funcao definida no espacoamostral S tal que:

{X : S → R,X(A) ∈ (−∞, x], A ∈ S} (1)

Exemplo 1: Lancamento de uma Moeda Honesta

Representacao Simbolica: S = {cara, coroa}.

Representacao Numerica: X(cara) = 0 e X(coroa) = 1.



Observacoes Importantes

Pela definicao dada, uma VA nao e uma variavel de fato, massim uma funcao.

Na pratica, consideramos como VA qualquer grandeza cujovalor esta sujeito a variacoes (flutuacoes) aleatorias.

Essas flutuacoes aleatorias recebem o nome generico de ruıdoaleatorio.

Por exemplo, o valor teorico (nominal) da tensao em umatomada da sua casa e 220 Volts.

Contudo, se formos medir com o instrumento adequado, podeser que nao observemos exatamente este valor. Por quemesmo?



Observacoes Importantes (cont.-1)

Por causa das flutuacoes aleatorias, que podem ter uma seriede causas, tais como

1 Carga eletrica pendurada na rede de energia.

2 Afericao inadequada do equipamento de medicao.

3 Localizacao de sua casa ao longo da linha de transmissao.

4 Falha na rede de distribuicao.

5 Erro do operador, dentre outras causas.

O melhor que podemos fazer e tentar diminuir a influenciaque os fenomenos fısicos que causam as flutuacoes exercemsobre o processo de medicao da variavel.



Observacoes Importantes (cont.-2)

E util entender a definicao de VA atraves das seguintesassociacoes:

1 A variavel a ser medida e representada por X . Esta variavel ealeatoria devido a flutuacoes que distorcem o seu valor.

2 As flutuacoes sao, na verdade, sao resultantes de umacontecimento aleatorio que ocorrem em S, cujo resultado naosabemos de antemao.

3 Podemos afirmar que S e o espaco do eventosnao-observaveis.

4 Um evento qualquer em S e simbolizado por A. E o efeito daocorrencia de A no mundo observavel e representado pelovalor medido X(A), que e o valor mostrado pelo equipamento.



Eventos Definidos em Termos de Variaveis Aleatorias

Se X e uma VA e x e um numero real fixo, podemos definir oevento (X = x) como

(X = x) = {A : X(A) = x}. (2)

De modo semelhante, para numeros fixos x, x1 e x2, tal quex1 < x2, podemos definir os seguintes eventos:

(X ≤ x) = {A : X(A) ≤ x} (3)

(X > x) = {A : X(A) > x} (4)

(x1 < X ≤ x2) = {A : x1 < X(A) ≤ x2} (5)



Probabilidades em Termos de Variaveis Aleatorias

Os eventos anteriores tem probabilidades que sao denotadasda seguinte forma:

P (X = x) = P{A : X(A) = x} (6)

P (X ≤ x) = P{A : X(A) ≤ x} (7)

P (X > x) = P{A : X(A) > x} (8)

P (x1 < X ≤ x2) = P{A : x1 < X(A) ≤ x2} (9)



Variaveis Aleatorias Contınuas e Discretas

Uma VA e dita discreta se ela puder assumir apenas valores(nıveis) especıficos.

Uma forma de identificar uma variavel aleatoria discreta eatraves do conjunto universo de X. Se este conjunto forenumeravela, finito ou infinito, entao X e uma VA discreta.

Uma VA e dita contınua se ela puder assumir qualquer valordentro de seu conjunto universo.

Uma forma de identificar uma variavel aleatoria discreta eatraves do conjunto universo de X. Se este conjunto fornao-enumeravel, entao X e uma VA contınua.

aUm conjunto e dito enumeravel se os seus elementos puderem sercolocados em correspondencia um-para-um com os numeros naturais.



Exemplo Resolvido 1

Seja X a soma dos numeros das faces resultantes dolancamento de dois dados honestos.

Se Ai e a face resultante de um dos dados e Bj e a faceresultante para o outro, entao X = i + j.

Assim, as probabilidades para os possıveis valores de X sao:

P (X = 2) = P{(1, 1)} = 1/36

P (X = 3) = P{(1, 2), (2, 1)} = 2/36

P (X = 4) = P{(1, 3), (3, 1), (2, 2)} = 3/36

P (X = 5) = P{(1, 4), (2, 3), (3, 2), (4, 1)} = 4/36

P (X = 6) = P{(1, 5), (2, 4), (3, 3), (4, 2), (5, 1)} = 5/36

P (X = 7) = P{(1, 6), (2, 5), (3, 4), (4, 3), (5, 2), (6, 1)} = 6/36

P (X = 8) = P{(2, 6), (3, 5), (4, 4), (5, 3), (6, 2)} = 5/36

P (X = 9) = P{(3, 6), (4, 5), (5, 4), (6, 3)} = 4/36

P (X = 10) = P{(4, 6), (5, 5), (6, 4)} = 3/36

P (X = 11) = P{(5, 6), (6, 5)} = 2/36

P (X = 12) = P{(6, 6)} = 1/36



Exemplo de Variavel Aleatorias

So porque uma VA tem um comportamento pontualmenteimprevisıvel, isto nao quer dizer que seu comportamentoglobal nao obedeca certos padroes numericos.

Estes padroes refletem como o valor de uma certa grandezafısica se distribui na reta dos numeros reais.

Ha diferentes padroes de distribuicao de valores de uma VA.

Estes padroes sao formalizados matematicamente na forma deleis probabilısticas, que quantificam as probabilidades deocorrencia de valores de uma certa VA:

1 Funcao Distribuicao de Probabilidade Acumulada (FDA)

2 Funcao Densidade de Probabilidade (FDP)


Parte II

Funcao Distribuicao de Probabilidade Acumulada


Variaveis aleatoriasFuncao Distribuicao de Probabilidade Acumulada (FDA)

Definicao

FX(x) , Pr{X ≤ x} , −∞ < x < ∞ (10)

em que Pr(·) significa probabilidade.

Exemplo: FDA Uniforme

FX(x) =

0, se x ≤ ax−ab−a

, se a < x ≤ b

1, se x > b

FX(x)

xa b0

1



Propriedades da FDA

1 Fx(x) ≥ 0, ∀x

2 FX(−∞) = Pr(X < −∞) = 0

3 FX(∞) = Pr(X < ∞) = 1

4 Pr{x1 ≤ x2} = FX(x2) − FX(x1)

5 Pr(X > x1) = 1 − FX(x1)

6 A FDA e nao-decrescente.

Se x1 ≤ x2, entao FX(x1) ≤ FX(x2)

7 A FDA e contınua a direita. Isto e, para todo x e todo δ < 0,

limδ→0

[FX(x + δ) − FX(x)] = 0.



Exemplo Resolvido 2

A FDA para o Exemplo Resolvido 1 e mostrada abaixo.

−2 0 2 4 6 8 10 12 14 160

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1

X

F X(x

)


Variaveis aleatoriasFDA no Matlab

Exemplo Computacional 1

Gerar um conjunto de observacoes de uma VA contiınuauniformemente distribuıda no intervalo (0,1) no Matlab:

>> N=1000; % No. de observacoes desejadas

>> X=rand(N,1); % gera VAs uniformes

Visualiza a FDA resultante:

>> cdfplot(X) % gera grafico da FDA



Exemplo Computacional 1 (cont.-1)

O grafico resultante da FDA estimada a partir do conjunto deN = 1000 observacoes de X e mostrado abaixo.

0 0.2 0.4 0.6 0.8 10

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1

X

F X(x

)

Empirical CDF



Olhando Dentro da Funcao cdfplot() do Matlab

Passo 1 - Ordena em ordem crescente os valores de X.

Passo 2 - Define o domınio de X, a partir dos valores mınimoe maximo do conjunto de N observacoes.

Passo 3 - Discretiza o domınio de X em M + 1 pontos xi,i = 0, 1, ...,M .

Passo 4 - Calcula para cada valor xi no domınio de X aseguinte expressao:

FX(xi) =No. de observacoes de X ≤ xi

N

Passo 5 - Desenha o grafico de FX(xi) × xi, i = 0, 1, ...,M .



Desafio Matlab/Octave

A funcao cdfplot() sempre considera que a VA contınua.Desenvolva uma rotina no Matlab/Octave que possa serusada para gerar FDAs de VA discretas!


Parte III

Funcao Densidade de Probabilidade


Variaveis aleatoriasFuncao Densidade de Probabilidade (FDP)

Definicao

fX(x) ,d

dxFX(x) , ∀x ∈ R (11)

Exemplo: FDA e FDP Uniforme

FX(x)

xa b0

1

fX(x)

xa b0

1

b−a



Propriedades da FDP

1 FX(x) =x∫

−∞

fX(ξ) dξ

2 fX(x) ≥ 0, para todo x ∈ R.

3 Pr(a ≤ X ≤ b) =∫ b

afX(x)dx = FX(b) − FX(a), para a < b.

4

∫ ∞

−∞fX(x)dx = 1.

5 fX(x) e contınua por partes.

As propriedades de uma FDP sao melhor compreendidas selembrarmos que uma FDP e obtida da derivada de uma FDA!



Propriedades da FDP (cont.-1)

Por exemplo, a Propriedade 3 estabelece que a area sob acurva no intervalo a ≤ X ≤ b corresponde exatamente aprobabilidade de X assumir valores neste intervalo.

f (x)X

<<a X b( )P

Xx = a x = b



Propriedades da FDP (cont.-2)

A Propriedade 4 pode ser inferida a partir da Propriedade 3 aofazermos a = −∞ e b = ∞:

Pr(−∞ ≤ X ≤ ∞) =

∫ ∞

−∞

fX(x)dx

= FX(∞) − FX(−∞) (12)

= 1 − 0 = 1


Variaveis aleatoriasFuncao Massa de Probabilidade (FMP)

Definicao

Seja X uma VA discreta, em que associamos o numero

pX(xi) = P (X = xi)

a cada valor xi, i = 1, 2, . . . , n, . . ..

Estes numeros pX(xi) satisfazem as seguintes condicoes:

1 pX(xi) ≥ 0, para todo i.

2∑

∞

i=1pX(xi) = 1.



Definicao

De imediato, podemos perceber que

pX(xi) = FX(xi) − FX(xi−1) (13)

e que

FX(xi) = PX(X ≤ xi) =∑

x≤xi

pX(x). (14)

A Eq. (13) e chamada de Funcao Massa de Probabilidade, ousimplesmente, FMP.

A Eq. (13) equivale a FDP, so que para VAs discretas.



Exemplo Resolvido 3

A FMP do Exemplo Resolvido 1 e mostrada abaixo.

xi 2 3 4 5 6 7 8 9 10 11 12pX(xi)

1

36

2

36

3

36

4

36

5

36

6

36

5

36

4

36

3

36

2

36

1

36

2 4 6 8 10 120

0.02

0.04

0.06

0.08

0.1

0.12

0.14

0.16

0.18

Xi

p X(x

i)


Parte IV

Media e Variancia de Variaveis Aleatorias


Variaveis aleatoriasMedia e Variancia de Variaveis Aleatorias

Motivacao

A dupla FDA-FDP (VA’s contınuas), assim como a duplaFDA-FMP (VA’s discretas), sao muito importantes paracaracterizar o comportamento qualitativo de uma variavelaleatoria.

Em muitas ocasioes, contudo, precisamos descrever ocomportamento quantitativo da VA de interesse.

Para isso, introduziremos aqui duas medidas descritivasamplamente utilizadas na pratica: a media e a variancia deuma variavel aleatoria.



Definicao de Media de uma VA

A media (ou valor esperado) de uma VA, representada pelaletra grega µ, e definida como:

µ =∑

∀i

xipX(xi), para X discreta, (15)

ou

µ =

∫ ∞

−∞

xfX(x)dx, para X contınua. (16)

em que pX(xi) e a FMP e fX(x) e a FDP da VA de interesse.

Note que a media de uma VA e a soma (integral) dospossıveis valores que a variavel pode assumir ponderados pelarespectiva FMP (FDP).



Exemplo Resolvido 4: Calcular o valor medio da VA discreta doExemplo Resolvido 3

Para isso, usaremos a Eq. (15). Assim,

µ =11

∑

i=1

xipX(xi)

= 2

(

1

36

)

+ 3

(

2

36

)

+ 4

(

3

36

)

+ 5

(

4

36

)

+ 6

(

5

36

)

+ 7

(

6

36

)

+

+8

(

5

36

)

+ 9

(

4

36

)

+ 10

(

3

36

)

+ 11

(

2

36

)

+ 12

(

1

36

)

= 7



Exemplo Resolvido 5: Qual a relacao entre media aritmetica e adefinicao da Eq. (15)?

Considere que os N valores de xi para um certo problema saoequiprovaveis.

Neste caso, a FMP reduz-se a seguinte expressao:

pX(xi) =1

N, i = 1, 2, ..., N

Portanto, o valor esperado de X passa a ser escrito como:

µ =11∑

i=1

xipX(xi) =1

N

N∑

i=1

xi = x, i = 1, 2, ..., N

que e a conhecida expressao da media aritmetica!



Definicao de Variancia de uma VA

A variancia de X, representada por σ2:

σ2 =∑

∀i

(xi − µ)2pX(xi), para X discreta, (17)

ou

σ2 =

∫ ∞

−∞

(x − µ)2fX(x)dx, para X contınua.(18)

A variancia e uma medida da dispersao de X em torno de µ.

Variancia alta (baixa) implica grande (pequena) dispersao deX em torno de µ.



Comentarios Importantes sobre a Variancia de uma VA

Quando σ2 e alta, a VA tera alta probabilidade de assumirvalores muito diferentes (muito maiores ou muito menores)que o seu valor medio.

Uma variancia pequena indica que valores muito diferentes(para cima ou para baixo) sao pouco provaveis de ocorrer.

A unidade de σ2 nao e a mesma de X. Se X esta em Volts,entao σ2 esta em (Volts)2.

Para se ter uma ideia do grau de dispersao de X na mesmaunidade metrica, define-se uma outra medida chamadadesvio-padrao de X:

σ =√

σ2 (19)



Comentarios Importantes sobre a Variancia de uma VA (cont.-1)

Formas alternativas (e bastante uteis na pratica) para secalcular a variancia de uma VA sao dadas por:

σ2 =∑

∀i

x2

i pX(xi) − µ2, para X discreta, (20)

ou

σ2 =

∫ ∞

−∞

x2fX(x)dx − µ2, para X contınua.(21)



Exemplo Resolvido 6: Determine µ para uma FDP Uniforme

Considerando X uma VA uniforme contınua no intervalo[a, b], temos que sua FDP e dada por:

fX(x) =1

b − a, a ≤ x ≤ b

Logo,

µ =1

b − a

∫ b

a

xdx =b2 − a2

2(b − a)=

(b + a)(b − a)

2(b − a)=

(a + b)

2



Exercıcio Proposto

Mostre que a variancia σ2 de uma VA contınua uniforme nointervalo [a, b] e dada por:

σ2 =(b − a)2

12

Dicas: Usar a Eq.(21) e o seguinte produto notavel:

b3 − a3 = (b − a)(a2 − ab + b2)



Exemplo Resolvido 7: Obtencao da formula da variancia amostral

Considere que foram medidos N valores de xi para um certoproblema. Sem conhecimento previo sobre a FDP/FMP destaVA assumimos que as observacoes xi sao equiprovaveis:

pX(xi) =1

N, i = 1, 2, ..., N

Portanto, a variancia das observacoes xi da VA X passa a serescrito como:

σ2 =

11∑

i=1

(xi − µ)2pX(xi) ≈1

N

N∑

i=1

(xi − x)2 = s2

em que s2 denota a variancia amostral de X.



Exemplo Computacional 2

Gerar observacoes de uma VA contınua uniformementedistribuıda no intervalo (2,10) no Matlab/Octave:

>> a=2; b=10; % intervalo da distribuicao


>> X=unifrnd(a,b,N,1); % gera VAs uniformes

Calcular a media e a variancia amostral:

>> mi=mean(X); % media amostral

mi = 6.0358

>> s2=var(X,1); % variancia amostral

s2 = 5.3481



Desigualdade de Chebyshev

TEOREMA: Seja X uma variavel aleatoria qualquer, discretaou contınua, com media µ e variancia σ2. Seja k um numerointeiro positivo. Assim, pode-se afirmar que

Pr (|X − µ| ≥ kσ) ≤ 1

k2(22)

A desigualdade de Chebyshev fornece uma maneira decompreender como a variancia serve para determinar aprobabilidade de ocorrencia de desvios em torno da media µ.

Na pratica, substituımos µ e σ2 na Eq. (22) por x e s2.



Desigualdade de Chebyshev (cont.-1)

Formas alternativas de se escrever a desigualdade deChebyshev sao dadas a seguir:

Pr (|X − µ| < kσ) ≥ 1 − 1

k2(23)

ou

Pr (µ − kσ < X < µ + kσ) ≥ 1 − 1

k2(24)

A utilidade da desigualdade de Chebyshev advem do fato deela nao impor condicao alguma a distribuicao de X, bastandoapenas conhecer µ e σ2.



Exemplo Resolvido 8: Desigualdade de Chebyshev

Enunciado: A gerente de uma loja nao conhece a distribuicao deprobabilidade do tempo necessario para completar uma ordem decompra. No entanto, do desempenho passado ela pode estimar amedia e a variancia como 14 dias e 2 (dias)2, respectivamente.Ache um intervalo tal que a probabilidade de uma ordem sercompletada dentro desse perıodo seja, pelo menos, 0,75.

Solucao: Usando a Eq. (24), chegamos a:

1 − 1

k2=

3

4⇒ k = 2

Daı, chegamos ao intervalo [14 − 2√

2, 14 + 2√

2].


Parte V

FDP Gaussiana e Propriedades


Variaveis aleatoriasFDP Gaussiana ou Normal

Definicao

Uma VA contınua e chamada de normal ou gaussiana sesua FDP e dada por:

fX(x) =1√2πσ

exp

{

−(x − µ)2

2σ2

}

(25)

Conforme e de se esperar:

∫ ∞

−∞

fX(x)dx = 1 e

∫ b

a

fX(x)dx = Pr(a ≤ X ≤ b) (26)



Definicao (cont.-1)

A FDP gaussiana e completamente especificada por doisparametros:

µ = E[X] =

∫ ∞

−∞

xfX(x)dx (27)

σ2 = E[(X − µ)2] =

∫ ∞

−∞

(x − µ)2fX(x)dx (28)

Notacao simplificada:

X ∼ N(µ, σ2) (29)



Definicao (cont.-2)

E equivalente fazer uma das seguintes afirmacoes:

1 Uma VA X segue uma lei de distribuicao de probabilidadedada pela funcao gaussiana, cujos parametros sao a mediaµ = E[X ] e a variancia σ2 = E[(X − µ)2].

2 Uma VA X esta distribuıda segundo uma FDP gaussiana demedia µ = E[X ] e variancia σ2 = E[(X − µ)2].



Grafico da FDP Gaussiana



Media da FDP Gaussiana

Lembre-se que a media de uma variavel aleatoria X e dada por

E[X] =

∫ ∞

−∞

xfX(x)dx =

∫ ∞

−∞

x

σ√

2πexp

{

−(x − µ)2

2σ2

}

dx

Se fizermos z = (x − µ)/σ, entao dx = σdz. Logo,

E[X] =

∫ ∞

−∞

1√2π

(µ + σz) exp

{

−z2

2

}

dz

= µ

∫ ∞

−∞

1√2π

exp

{

−z2

2

}

dz + σ

∫ ∞

−∞

1√2π

z exp

{

−z2

2

}

dz



Media da FDP Gaussiana (cont.)

O integrando da primeira integral e o de uma FDP gaussianacom µ = 0 e σ2 = 1. Logo

∫ ∞

−∞

1√2π

exp

{

−z2

2

}

dz = 1

A segunda integral tem valor zero, isto e,

∫ ∞

−∞

1√2π

z exp

{

−z2

2

}

dz = − 1√2π

exp

{

−z2

2

}

|∞−∞ = 0

Portanto, chegamos ao seguinte resultado

E[X] = µ[1] + σ[0] = µ



Exercıcios Complementares

Exercıcio 1 - Mostrar que a varincia da FDP gaussiana eV (X) = E[(X − µ)2] = σ2.

Exercıcio 2 - Mostrar que a FDP gaussiana satisfaz a seguintecondicao:

∫ ∞

−∞

fX(x)dx = 1 (30)



Importancia da FDP Gaussiana

A FDP gaussiana e uma das mais importantes em ETI e emCiencias de um modo geral, pois e usada como modelo dasflutuacoes aleatorias (ruıdo) que distorcem valores medidos deum determinada variavel.

Outras aplicacoes da FDP gaussiana:

1 Ruıdos em canais de comunicacoes.

2 Robos manipuladores (repetibilidade).

3 Modelos de ruıdo em imagens digitais.

4 Ruıdos de medida em instrumentacao eletronica.

5 Deteccao de anomalias em Monitoramento de Processos.


Variaveis aleatoriasFDA Gaussiana

Definicao

A FDA de uma VA contınua e dada pela seguinte expressao:

FX(x) =

∫ x

−∞

fX(u)du

=

∫ x

−∞

1√2πσ

exp

{

−(u − µ)2

2σ2

}

du (31)

Nao existe solucao analıtica exata para a FDA gaussiana.

Solucoes numericas aproximadas sao comumente dadas emtabelas.


Variaveis aleatoriasFDP e FDA Gaussianas

Graficos Genricos da FDA e FDP Gaussianas

f (x) F(x)



Solucoes Aproximadas da FDA Gaussiana - Parte 1

Softwares como Matlab/Octave/Scilab/Excel possuemcomandos que determinam facilmente o valor de FX(x) paraqualquer valor de x.

Por exemplo, suponha que X ∼ N(100, 4) e que queremosestimar a probabilidade de que X seja menor que ou igual a104; isto , P (X ≤ 104) = FX(104).

Matlab/Octave: >> P=normcdf(104,100,sqrt(4));

Scilab: --> P=cdfnor("PQ",104,100,sqrt(4));

Excel: Usar a funcao DIST.NORM.




Vamos agora abordar o problema de determinar valores deFX(x) sob uma perspectiva diferente.

Suponha que temos um conjunto de N medidas de uma certavariavel X, ou seja,

X = {X(1),X(2),X(3), . . . ,X(N)}.

Vamos gerar artificialmente N = 5000 medidas de umavariavel aleatoria X ∼ N(100, 4).

Matlab/Octave: >> X=normrnd(100,sqrt(4),5000,1);

Scilab: --> X=grand(5000,1,’nor’,100,sqrt(4));




De posse do conjuntos de medidas X , vamos determinarFX(104) = P (X ≤ 104) de tres maneiras diferentes.

Metodo 1: Consiste simplemente em contar quantoselementos do conjunto X sao menores que ou iguais a 104.

No Matlab/Octave/Scilab, usamos os seguintes comandos:

>> P=length(find(X<=104))/5000;

Metodo 2: Consiste em determinar o valor buscadodiretamente no grafico da FDA emprırica do conjunto X .

No Matlab usamos o comando: >> cdfplot(X);


Variaveis aleatoriasFDP e FDA Gaussianas





Metodo 3: Trata-se, na verdade, do Metodo 1 implementadocomo uma funcao do Octave.

Neste caso usamos o comando:

>> P=empirical cdf(104,X);



FDP Gaussiana Padronizada

E comum trabalhar com VAs de media 0 e variancia 1.

Esta propriedade pode ser imposta a qualquer VA, se aseguinte transformacao de variaveis for realizada:

Z =X − µ

σ(32)

Para o caso de VAs gaussianas, i.e. Z ∼ N (0, 1), a FDPpadronizada passa a ser escrita como

fZ(z) =1√2π

· exp

(

−z2

2

)


Variaveis aleatoriasFDP Gaussiana Padronizada

-3 -2 -1 0 1 2 30

0.05

0.1

0.15

0.2

0.25

0.3

0.35

0.4

f Z(z

)

σ = 1

68%

95%



Entendendo a FDP Normal Padronizada

Com base no grafico da FDP normal padronizada temos que:

1 68% dos valores observados de Z estarao no intervalo [-1,+1].

2 95% dos valores observados de Z estarao no intervalo [-2,+2].

Estas propriedades da FDP normal padronizada podem, porexemplo, ser usadas para deteccao de observacoes atıpicas(anomalias em equipamentos ou processos industriais).



Aplicacao em Deteccao de Anormalidades em Processos

Suponha que estejamos monitorando (medindo earmazenando) uma grandeza fısica X que representa o estadode um processo industrial.

Se ha razoes para assumir que X ∼ N(µ, σ2), entao podemosusar a seguinte regra de decisao:

SE Z = X−µσ

/∈ [−2,+2],

ENTAO X e um estado anormal.

No caso de detectar alguma anormalidade, o operador deveser avisado (e.g. por meio de um alarme sonoro ou visual).


Variaveis aleatoriasFDP/FDA Gaussianas no Matlab

Gerando e Visualizando VAs Gaussianas no Matlab

Gera um conjunto de observacoes de uma VA contınuagaussiana de media µ e variancia σ2 no Matlab:

>> mi=10; vari=2; % parametros da distribuicao


>> X=normrnd(mi,sqrt(vari),N,1); % gera VAs

gaussianas

Calcula a media e a variancia amostral:


mi = 6.0358


s2 = 5.3481



Gerando e Visualizando VAs Gaussianas no Matlab

Os comandos abaixo geram e visualizam um conjunto deobservacoes de uma VA contınua gaussiana de media µ = 10e variancia σ2 = 2.

>> mi=10; vari=2; % parametros da distribuicao


>> X=normrnd(mi,sqrt(vari),N,1); % VAs gaussianas


mi = 9.9907


s2 = 1.9932

>> cdfplot(X); % FDA empirica

>> histfit(X,20); % histograma de X



Grafico da FDA Empırica

4 6 8 10 12 14 160

0.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1

X

F X(x

)FDA Gaussiana Empírica



Grafico da FDP Empırica (Histograma)

4 6 8 10 12 14 160

100

200

300

400

500

600

700

800

X

Qua

ntid

ade

Histograma de X



Entendendo o Histograma

Passo 1 - Calcula a media (x) e a variancia (s2) amostrais deX.

Passo 2 - Define o domınio de X: [x − k · s2, x + k · s2] (e.g.k = 5).

Passo 3 - Discretiza o domınio de X em M + 1 pontos xi,i = 0, 1, ...,M .

Passo 4 - Para cada intervalo ∆xi = xi − xi−1, i = 1, ...,M ,determinar:

C(∆xi) = No. de observacoes de X ∈ ∆xi

Passo 5 - Desenha o grafico de barras C(∆xi) × ∆xi.


Parte VI

Teorema Central do Limite



O Teorema Central do Limite (TCL) e um dos resultados maismarcantes da teoria de variaveis aleatorias. Em uma de suasformas mais simples ele se apresenta da seguinte forma:

Seja X1,X2, . . . ,Xn um conjunto de variaveis aleatoriasindependentes e identicamente distribuıdas (iid), cada uma commedia µ e variancia σ2, ou seja:

E[Xi] = µ e Var[Xi] = σ2 (33)

Seja tambem uma nova variavel aleatoria definida por:

Zn =Xn − µ

σ/√

n(34)

=X1 + X2 + · · · + Xn − nµ

σ√

n(35)



Pode-se demostrar que a FDP de Zn tende a uma FDP gaussianade media zero e variancia unitaria, a medida que n → ∞, ou seja:

Zn ∼ N(0, 1), a medida que n → ∞ (36)

Em poucas palavras, o TCL nos diz que para uma grandequantidade n de variaveis aleatorias independentes, a variavelaleatoria resultante da soma dessas variaveis, ou seja,

Sn = X1 + X2 + · · · + Xn,

sera sempre uma variavel aleatoria gaussiana, qualquer que seja aFDP das variaveis aleatorias X1,X2, . . . ,Xn.



A implicacao pratica do TCL para a Engenharia deTeleinformatica, se da principalmente no que diz respeito aotratamento dispensado a variaveis aleatorias espurias ouindesejadas.

Todo sistema sobre o qual fazemos medicoes, tais comomedidas de tensao e/ou corrente em um equipamentoeletro-eletronico, esta sujeito a interferencias indesejadas,oriundas das mais diversas fontes (e.g. inducaoeletromagnetica).

Nao temos controle total sobre as fontes das interferencias.Podemos ate diminuir bastante seus efeitos, por meio deprocessos de filtragem, mas e difıcil elimina-loscompletamente.



O TCL nos fornece uma justicativa para assumir que o efeitocombinado (somatorio) destas interferencias pode sermodelado por uma unica variavel aleatoria gaussiana, quepassaremos a chamar genericamente de ruıdo aditivogaussiano.

E importante sempre ter em mente que o ruıdo e, na verdade,a manifestacao combinada de diversas fontes internas ouexternas de interferencia espuria que atuam no seu sistemadistorcendo as observacoes (medicoes) das variaveis deinteresse.



Na pratica, contudo, nem todo ruıdo presente nas medicoes edo tipo aditivo gaussiano. Existem ruıdos que tem naturezamultiplicativa.

Por exemplo, em Processamento de Imagens, e comum apresenca de um tipo de ruıdo chamado Speckle. Este e o casoem imagens geradas por radares de abertura sintetica (SAR).

Mesmo que na pratica nem todo ruıdo venha a ser classificadocomo aditivo gaussiano, assumir inicialmente (ou seja, porhipotese) que o ruıdo e gaussiano aditivo consiste numaestrategia de modelagem muito utilizada para facilitar analisesiniciais de um certo problema.


Teorema Central do Limite (cont.)

Atencao!

Caso o modelo probabilıstico adotado para modelar ofenomeno fısico observado nao se mostre adequado, ahipotese de ruıdo gaussiano pode ser falsa e, portanto, deveser revista e modificada.


Entendendo o Teorema Central do Limite

A pergunta que nao sai da cabeca!

Como e que a soma de variaveis aleatorias independentes gerauma variavel aleatoria gaussiana?

Considere X e Y duas variaveis aleatorias independentes, cujasFDPs sao simbolizadas por fX(x) e fY (y), respectivamente.Como X e Y sao independentes, tem-se que

fXY (x, y) = fX(x)fY (y).

Vamos definir outra variavel aleatoria Z como a soma de X e Y :

Z = X + Y (37)

Assim, dadas as FDPs fX(x) e fY (y), deseja-se encontrar fZ(z).



Seja z um certo valor fixo que a variavel aleatoria Z assume.

Considere todas as combinacoes possıveis (i.e. lugar geometrico)de valores de X e Y que resultam no valor z:

x + y = z ⇒ y = z − x (38)

que nada mais e do que a equacao de uma reta no plano X × Y(Figura 1).

∆x

+∆ zz

+∆ z

∆y = ∆z

x+y=z

y

x0

zx+y=

z

Figure: Faixa diferencial usada para obter fZ(z).



Considere uma pequena perturbacao ∆z que altera o valor de zpara z + ∆z. O lugar geometrico dos valores de X e Y queresultam em z + ∆z e tambem uma reta, conforme mostrado naFigura 1.

E facil perceber que todos os valores de x e y dentro da faixadiferencial V entre as duas retas geram valores de Z entre z ez + ∆z.

Consequentemente, podemos escrever a seguinte expressao para aprobabilidade de obtermos um valor de Z entre z e z + ∆z:

P (z ≤ Z ≤ z + ∆z) = P (x, y ∈ V)

=

∫

x∈V

∫

y∈V

fXY (x, y)dxdy

=

∫

x∈V

∫

y∈V

fX(x)fY (y)dxdy (39)



Note que dentro da faixa diferencial V, os valores de y estaorestringidos pelos de x, conforme mostrado na ultima expressao daEquacao (38).

Notando tambem que como a largura da faixa diferencial e bempequena podemos reduzir a integral dupla da Equacao (39) parauma integral simples.

Assim, escolhendo x como a variavel de integracao e percebendoque dy = dz (lembre-se que y = z − x), podemos escrever:

P (z ≤ Z ≤ z + ∆z) =

[∫ ∞

−∞

fX(x)fY (z − x)dx

]

dz (40)



Note que a expressao entre colchetes na Equacao (40) nada mais edo que a tao desejada FDP de Z, ou seja

fZ(z) =

∫ ∞

−∞

fX(x)fY (z − x)dx. (41)

E importante perceber que a expressao mostrada no lado direito daEquacao (41) e tao somente uma integral de convolucao.

Convolucao e uma tecnica muito utilizada em analise de circuitoseletricos para encontrar a resposta (forma de onda de saıda) destecircuito quando um impulso (funcao Delta de Dirac) e aplicado nasua entrada.

Visto que a convolucao e uma operacao comutativa, a Eq. (41)tambem pode ser escrita da seguinte forma:

fZ(z) =

∫ ∞

−∞

fY (y)fX(z − y)dy (42)



Exercıcio Ilustrativo: Este exemplo ilustra que a FDP resultanteda soma de variaveis aleatorias independentes sempre tende unormalidade, qualquer que seja a FDP das variaveis que participamda soma.

Para isso, vamos assumir que X e Y sao variaveis aleatoriasuniformes no intervalo de 0 a 1 (Figura 2).

Xf

Yfou

0

1

1 x

Figure: FDP uniforme da variavel aleatoria X (ou Y ).



Primeiramente, note que a FDP mostrada na Figura 2 e umafuncao par, ou seja, f(−x) = f(x). Assim, fY (z−x) = fY (x− z).

Neste caso, a integral de convolucao da Equacao (41) e entao aintegral de um pulso retangular multiplicado por um pulsosemelhante, porem deslocado para a direita de uma quantidade z.

Dependendo do valor de z, as seguintes situacoes sao possıveis:

Situacao 1 (z < 0 ou z > 2) - Neste caso, nao existe sobreposicaodos pulsos e, consequentemente, o produto de umpelo outro e zero.



Situacao 2 (0 < z < 1) - Um dos pulsos (neste caso, fY (z − x))se move para a direita em funcao de z, avancandosobre o pulso que esta fixo fX(x), tal que a area daregiao de sobreposicao dos pulsos vai aumentandoate atingir seu pico em torno de z = 1, quando umpulso estara exatamente sobre o outro. A solucao daintegral de convolucao e a seguinte:

fZ(z) =

∫ ∞

−∞

fX(x)fY (z − x)dx =

∫ z

0

(1)(1)dx = z. (43)



Situacao 3 (1 < z < 2) - Para este intervalo, a area da regiao desobreposicao dos pulsos comeca a diminuir ate atingirseu mınimo em torno de z = 2, quando o pulsomovel tera passado totalmente atraves do outro.Para este intervalo de z, a solucao da integral deconvolucao e a seguinte:

fZ(z) =

∫ ∞

−∞

fX(x)fY (z − x)dx =

∫

1

z−1

(1)(1)dx = 2 − z. (44)

Portanto, a FDP de Z e dada pela seguinte expressao:

fZ(z) =

z, 0 < z < 12 − z, 1 < z < 20, z < 1 e z > 2

(45)

da qual se nota que fZ(z) tem a forma triangular (Figura 3).



0

1

1

fZ

z2

Figure: FDP de Z, em que Z = X + Y .

A FDP de Z e mais proxima (visualmente falando) da gaussianaque fX(x) e fY (y)!



Pode-se ir mais um passo adiante e encontrar a FDPcorrespondente a soma de tres variaveis uniformementedistribuıdas. Seja a variavel aleatoria W definida como:

W = X + Y + V = Z + V (46)

em que V e uma terceira variavel aleatoria uniforme incluıda nasoma.

Para encontrar a FDP de W , ou seja, fW (w) basta calcular aseguinte integral de convolucao:

fW (w) =

∫ ∞

−∞

fV (v)fZ(w − v)dv (47)

cujos detalhes da solucao sao deixados como exercıcio.



O resultado final da convolucao das FDPs fV (v) (uniforme) efZ(w − v) (triangular) esta mostrado na Figura 4.

fW

w

Segmento 2

Segmento 3Segmento 1

Figure: FDP de W = X + Y + Z, X , Y e Z send variaveis uniformesentre 0 e 1.



A olho nu e quase impossıvel distinguir o grafico da Figura 4de uma funcao gaussiana.

Embora o grafico ja seja bastante semelhante a uma funcaogaussiana, cada um dos segmentos rotulados corresponde aum arco de parabola.

Para os curiosos, metodos alternativos para encontrar a FDPresultante da soma de duas ou mais variaveis aleatoriasuniformes sao apresentados nos exercıcios resolvidos 4.17 (p.137) e 4.19 (pg. 138) da seguinte referencia:

H. Hsu (1997). Probability, Random Variables, & RandomProcesses, Schaum’s Outline Series, McGraw-Hill.


Parte VII

Introducao a Teoria dos Erros


Variaveis aleatoriasExatidao e Precisao

Definicao do Problema

Suponha que estamos interessados em medir o valor de umagrandeza fısica.

Sensores sao usados para converter a grandeza fısica em umsinal eletrico que pode ser facilmente tratado por meio detecnicas de processamento de sinais.

Sensores sao parte integrantes de equipamentos de medicaoespecificamente projetados para medir uma certa grandezafısica.

Exemplos de equipamentos de medicao: voltımetro,amperımetro, fotometro, microfone, termovisor, contadorgeiger, acelerometro, etc.



Tipos de Erros

Erro Sistematico - Componente do erro da medicao que semantem constante ou varia de forma previsıvel quando seefetuam varias medicoes de uma mesma grandeza. Os errossistematicos e suas causas podem ser conhecidos oudesconhecidos.

Erro Aleatorio - Componente do erro de medicao que variade forma imprevisıvel quando se efetuam varias medicoes damesma grandeza.



Exatidao

A exatidao ou acuracia significa que o valor real da variavelpode ser determinado por um sensor sem nenhum errosistematico, positivo ou negativo, na medicao. Sobre umgrande numero de medicoes da variavel, o erro medio entre ovalor real e o valor determinado pelo sensor ira tender a zero.

Atencao!

A exatidao de uma medida deve sempre ser a mais alta possıvel.



Precisao

A precisao, tambem chamada de repetibilidade, significaque existe pouca ou nenhuma variabilidade aleatoria navariavel medida. A dispersao nos valores de uma serie demedicoes sera mınima.

Atencao!

A precisao da medicao tambem deve ser a mais alta possıvel.Lembre-se que alta precisao implica em baixa dispersao dos valoresmedidos em torno do valor medio das medidas.



Exatidao e Precisao em um Grafico



Possıveis Resultados de Calculos ou Medicoes

Caso 1- Alta exatidao e alta precisao.

Caso 2- Baixa exatidao, mas com alta precisao.

Caso 3- Alta exatidao, mas com baixa precisao.

Caso 4- Baixa exatidao e baixa precisao.


Variaveis aleatoriasExatidao e Precisao - Analogia com Tiro-ao-Alvo

Caso 1: Alta exatidao e alta precisao.



Caso 2: Baixa exatidao, mas com alta precisao.



Caso 3: Alta exatidao, mas com baixa precisao.



Caso 4: Baixa exatidao e baixa precisao.


Variaveis aleatoriasExatidao e Precisao - Aplica cao em Robtica

Robos Manipuladores


variáveis aleatórias unidimensionais e aplicações em ... · conteúdo da apresentação...

Documents