1 exponential random graph models deive ciro de oliveira [email protected] unifal-mg

38
1 Exponential Random Graph Models Deive Ciro de Oliveira [email protected] Unifal-mg

Upload: internet

Post on 18-Apr-2015

104 views

Category:

Documents


2 download

TRANSCRIPT

Page 1: 1 Exponential Random Graph Models Deive Ciro de Oliveira deive.oliveira@unifal-mg.edu.br Unifal-mg

1

Exponential Random Graph Models

Deive Ciro de [email protected]

Unifal-mg

Page 2: 1 Exponential Random Graph Models Deive Ciro de Oliveira deive.oliveira@unifal-mg.edu.br Unifal-mg

2

Sumário

Modelos Probabilísticos Inferência

Estimação Testes de Hipóteses

Modelos Lineares Generalizados Modelos Exponenciais para Grafos Aleatórios Aplicação

Page 3: 1 Exponential Random Graph Models Deive Ciro de Oliveira deive.oliveira@unifal-mg.edu.br Unifal-mg

3

Modelos Probabilísticos

Espaço Amostral e de Eventos

Espaço Amostral (S): “Conjunto de resultados”

Espaço de Eventos (E): “Conjunto de Subconjuntos dos resultados”

Page 4: 1 Exponential Random Graph Models Deive Ciro de Oliveira deive.oliveira@unifal-mg.edu.br Unifal-mg

4

Modelos Probabilísticos

Exemplos: Lançamento de uma moedaS={H,T}, E={Ø,{H},{T},{H,T}} Lançamento de um dadoS={1,2,3,4,5,6}E={Ø,{1},{2},..{1,2},{1,3}...,{1,2,3},{1,2,4},...

{1,2,3,4},{1,2,3,5},..{1,2,3,4,5,6}}

Page 5: 1 Exponential Random Graph Models Deive Ciro de Oliveira deive.oliveira@unifal-mg.edu.br Unifal-mg

5

Modelos Probabilísticos

Probabilidade (definida sobre eventos)

Page 6: 1 Exponential Random Graph Models Deive Ciro de Oliveira deive.oliveira@unifal-mg.edu.br Unifal-mg

6

Modelos Probabilísticos

Exemplos Experimento: Lançamento de Moeda

i) P(Ø)=0, P({H})=0.5, P({T})=0.5, P({H,T})=1 ii) P({H,T})=1 iii) P({H}U{T})=P({H})+P({T})=0.5+0.5=1

Page 7: 1 Exponential Random Graph Models Deive Ciro de Oliveira deive.oliveira@unifal-mg.edu.br Unifal-mg

7

Modelos Probabilísticos

Probabilidade Condicional Dados os eventos E e F:

Page 8: 1 Exponential Random Graph Models Deive Ciro de Oliveira deive.oliveira@unifal-mg.edu.br Unifal-mg

8

Modelos Probabilísticos

Probabilidade Condicional Exemplo: Cartas embaralhadas e numeradas

de 1 a 10. Retirada uma carta, que é ao menos 5, qual a probabilidade de desta ser um 10?

Page 9: 1 Exponential Random Graph Models Deive Ciro de Oliveira deive.oliveira@unifal-mg.edu.br Unifal-mg

9

Modelos Probabilísticos

Independência Dois eventos E e F , onde P(E)>0 e P(F)>0, são

independentes se:

Page 10: 1 Exponential Random Graph Models Deive Ciro de Oliveira deive.oliveira@unifal-mg.edu.br Unifal-mg

10

Modelos Probabilísticos

Independência Lançamento de dois dados, com os eventos:E1: soma dos dados é 6E2: soma dos dados é 7F: o primeiro dados é 4

Eventos Independentes Eventos dependentes

Page 11: 1 Exponential Random Graph Models Deive Ciro de Oliveira deive.oliveira@unifal-mg.edu.br Unifal-mg

11

Modelos Probabilísticos

Teorema de Bayes Teoria dos conjuntos

Page 12: 1 Exponential Random Graph Models Deive Ciro de Oliveira deive.oliveira@unifal-mg.edu.br Unifal-mg

12

Modelos Probabilísticos

Teorema de Bayes Jogo das Portas (Monty Hall)

Page 13: 1 Exponential Random Graph Models Deive Ciro de Oliveira deive.oliveira@unifal-mg.edu.br Unifal-mg

13

Modelos Probabilísticos

Page 14: 1 Exponential Random Graph Models Deive Ciro de Oliveira deive.oliveira@unifal-mg.edu.br Unifal-mg

14

Modelos Probabilísticos

Teorema de Bayes Solução C=Porta do carro S=Porta do jogador H=Porta do apresentador

Page 15: 1 Exponential Random Graph Models Deive Ciro de Oliveira deive.oliveira@unifal-mg.edu.br Unifal-mg

15

Modelos Probabilísticos

Variável Aleatória Definição: é uma função

CD

Espaço de Eventos

(S)

V.A.

Page 16: 1 Exponential Random Graph Models Deive Ciro de Oliveira deive.oliveira@unifal-mg.edu.br Unifal-mg

16

Modelos Probabilísticos Variável Aleatória

Exemplo: Seja X (Variável Aleatória) a soma do resultado do lançamento de dois dados

Page 17: 1 Exponential Random Graph Models Deive Ciro de Oliveira deive.oliveira@unifal-mg.edu.br Unifal-mg

17

Modelos Probabilísticos

Variável Aleatória Importante: Estudos de Variáveis Aleatórias se

desvincula dos eventos.

Não preciso saber a natureza do evento para estudar a Variável Aleatória

Notação• X representa a V.A. (Maiúsculo)• x representa um valor de V.A. (Minúsculo)

Page 18: 1 Exponential Random Graph Models Deive Ciro de Oliveira deive.oliveira@unifal-mg.edu.br Unifal-mg

18

Modelos Probabilísticos

Tipos de Variável Aleatória De acordo com sua imagem

Quantitativas vs Qualitativas (Quantitativas) Discretas vs. Contínuas (Qualitativas) Nominal vs Ordinal

Page 19: 1 Exponential Random Graph Models Deive Ciro de Oliveira deive.oliveira@unifal-mg.edu.br Unifal-mg

19

Modelos Probabilísticos

Variáveis Aleatórias admitem:– Probabilidade

• Função Acumulada F(x)=P(X ≤ x)• Massa (Discretas) p(x)=P(X = x) * ERGM

Page 20: 1 Exponential Random Graph Models Deive Ciro de Oliveira deive.oliveira@unifal-mg.edu.br Unifal-mg

20

Modelos Probabilísticos

Variáveis Aleatórias admitem:– Probabilidade

• Massa (Discretas paramétricas)

BernoulliBinomial

GeométricaPoisson

Page 21: 1 Exponential Random Graph Models Deive Ciro de Oliveira deive.oliveira@unifal-mg.edu.br Unifal-mg

21

Modelos Probabilísticos

Variáveis Aleatórias admitem:– Probabilidade

• Densidade (f(x))

Page 22: 1 Exponential Random Graph Models Deive Ciro de Oliveira deive.oliveira@unifal-mg.edu.br Unifal-mg

22

Modelos Probabilísticos

Variáveis Aleatórias admitem:– Probabilidade

• Densidade (Paramétricas)

Uniforme Exponencial

Gama

Page 23: 1 Exponential Random Graph Models Deive Ciro de Oliveira deive.oliveira@unifal-mg.edu.br Unifal-mg

23

Modelos Probabilísticos

Variáveis Aleatórias admitem:– Probabilidade

• Distribuição Normal

OUTRAS DISTRIBUIÇÕES

Page 24: 1 Exponential Random Graph Models Deive Ciro de Oliveira deive.oliveira@unifal-mg.edu.br Unifal-mg

24

Modelos Probabilísticos

Resumo– Variável Aleatória – Distribuição de Probabilidade– Parâmetros ( θ )

• Distribuição Normal ( θ = (μ,σ))• Distribuição Gamma ( θ = (λ,α))• Distribuição Binomial ( θ = (n,p))• Distribuição Bernoulli ( θ = (p))• Distribuição Poisson (θ = (λ))

Page 25: 1 Exponential Random Graph Models Deive Ciro de Oliveira deive.oliveira@unifal-mg.edu.br Unifal-mg

25

Modelos Probabilísticos Função de VEROSSIMILHANÇA Probabilidade:

• f ( X | θ )• Função de X dado θ

Verossimilhança (likehood):• L ( X | θ )• Função de θ dado

Log-Verossimilhança (log-likehood):• log(L ( X | θ ))• Função de θ dado

Page 26: 1 Exponential Random Graph Models Deive Ciro de Oliveira deive.oliveira@unifal-mg.edu.br Unifal-mg

26

Inferência (Estimação)

Objetivo: Dada uma amostra (conjunto de observações) de uma variável aleatória, obter estimadores (função das observações) do parâmetro θ do modelo probabilístico adotado.

Tipos: Pontual Intervalar

Page 27: 1 Exponential Random Graph Models Deive Ciro de Oliveira deive.oliveira@unifal-mg.edu.br Unifal-mg

27

Inferência (Estimação)

Métodos (Pontual): Mínimos Quadrados Momentos Máxima Verossimilhança Inferência Bayesiana

Page 28: 1 Exponential Random Graph Models Deive Ciro de Oliveira deive.oliveira@unifal-mg.edu.br Unifal-mg

28

Inferência (Estimação) Máxima Verossimilhança:

“O que acontece é o mais verossímil”

= arg maxΘ

Page 29: 1 Exponential Random Graph Models Deive Ciro de Oliveira deive.oliveira@unifal-mg.edu.br Unifal-mg

29

Inferência (Estimação)

= arg maxΘ

Maximizando Log-Verossimilhança

Page 30: 1 Exponential Random Graph Models Deive Ciro de Oliveira deive.oliveira@unifal-mg.edu.br Unifal-mg

30

Inferência (Teste de Hipótese)

Dados:• Ho: Hipótese sobre θ • H1: Hipótese alternativa sobre θ

Teste de hipótese:i - Quando (valores amostrais) aceitar Ho como verdadeiraii – Quando (valores amostrais) rejeitar Ho como verdadeira

assumindo H1 como verdadeira.

Page 31: 1 Exponential Random Graph Models Deive Ciro de Oliveira deive.oliveira@unifal-mg.edu.br Unifal-mg

31

Inferência (Teste de Hipótese)

Page 32: 1 Exponential Random Graph Models Deive Ciro de Oliveira deive.oliveira@unifal-mg.edu.br Unifal-mg

32

Inferência (Teste de Hipótese)

Teste de razão de Verossimilhança:

Page 33: 1 Exponential Random Graph Models Deive Ciro de Oliveira deive.oliveira@unifal-mg.edu.br Unifal-mg

33

Inferência (Teste de Hipótese)

Avaliando o Teste:– Probabilidade de Erro Tipo I

• (Rejeitar Ho verdadeira)

– Probabilidade de Erro Tipo II• (Aceitar Ho falsa)

Page 34: 1 Exponential Random Graph Models Deive Ciro de Oliveira deive.oliveira@unifal-mg.edu.br Unifal-mg

34

Inferência (Teste de Hipótese)

Podemos avaliar um teste:– P(Erro I) e P (Erro II)

-2log(λ(x)) assintoticamente tem uma distribuição qui-quadrado!

Page 35: 1 Exponential Random Graph Models Deive Ciro de Oliveira deive.oliveira@unifal-mg.edu.br Unifal-mg

35

Inferência (Teste de Hipótese)

Exemplo: A Moeda é Viciada?– 10 lançamentos (H,T,H,H,H,H,H,T,H,H )

• (Xi resultado de cada lançamento).

– Ho: p=0.5– H1: P≠0.5– Teste de razão de verossimilhança:

Page 36: 1 Exponential Random Graph Models Deive Ciro de Oliveira deive.oliveira@unifal-mg.edu.br Unifal-mg

36

Modelos Exponenciais para Grafos Aleatórios (ERGM)

X: Grafo com número de nós fixoZi(x): variável explanatória i do grafo x

• número de arestas, • numero de triângulos de tamanho 3.

Θi: Valor real (Θ é um vetor)

Page 37: 1 Exponential Random Graph Models Deive Ciro de Oliveira deive.oliveira@unifal-mg.edu.br Unifal-mg

37

Modelos Exponenciais para Grafos Aleatórios (ERGM)

K(Θ) é uma constante normalizadora

Aplicando exponencial

Page 38: 1 Exponential Random Graph Models Deive Ciro de Oliveira deive.oliveira@unifal-mg.edu.br Unifal-mg

38

Modelos Exponenciais para Grafos Aleatórios (ERGM)

Roteiro (R statistical software):Cálculo de ProbabilidadeMétodos de Estimação

• Pseudo Máxima Verossimilhança (MPLE)• MCMC Máxima Verossimilhança (MLE

Qualidade de Ajuste (gof)Teste de Razão de VerossimilhançaAgrupamento