Aplicaes em Aprendizagem de Mquina

PSO - Aplicaes em Aprendizagem de Mquina

Disciplina: Inteligncia de EnxameAluno: Benito Fontes Monteiro FilhoProfessor: Seixas

2011/2

1TpicosIntroduoTreinando Redes Neurais Artificiais com PSO- O modelo de Perceptron multicamada - Aprendizagem do OU exclusivo: Um exemplo simplesOutras AplicaesAprendizagem de Mapas Cognitivos Fuzzy com PSO- Mapas Cognitivos Fuzzy (FCM) - Uma abordagem de Aprendizagem baseada em PSO- Processo de controle industrial: Um exemplo ilustrativo- Outros desenvolvimentos em algoritmos de aprendizagem baseados em PSOConclusoReferncias2IntroduoAprendizagem de mquina: - Campo da inteligncia artificial que lida com algoritmos que tornam modelos computacionais capazes de aprender e adaptar ao seu ambiente.- Procedimento de extrao de informao na forma de padres ou regras.Tipos de aprendizagem de mquina:- Aprendizagem supervisionada- Aprendizagem no-supervisionada- Aprendizagem semi-supervisionada- Aprendizagem por reforo3IntroduoAprendizagem supervisionada:- Treinamento a partir de par entrada-sada - Minimizao do erro- Professor tem algum conhecimento sobre o ambiente

4AmbienteProfessorSistema de aprendizagem

Resposta realResposta desejadaSinal de erroIntroduoAprendizagem no-supervisionada:- No h par entrada-sada para treinar a rede- Critrios de similaridade, agrupamento (clusters)- Pode-se adotar a regra doVencedor leva tudo- Organiza em classes no informadas- No h Professor5AmbienteSistema de aprendizagem

IntroduoAprendizagem semi-supervisionada:

- Combinao da supervisionada com a no-supervisionada- Utiliza um conjunto de pares entrada-sada e outro com sada desconhecida- Geralmente o conjunto de pares entrada-sada pequeno- Utilizado em co-training para classificar pginas da internet.

6IntroduoAprendizagem por reforo:- Mapeamento entrada-sada atravs da interao contnua com o ambiente.- Minimizar funo de custo cumulativo- No h professor- Nenhuma deciso pode ser tomada isoladamente- Tomar boas decises baseadas no seu comportamento e melhorar aes atravs do reforo

7AmbienteCrticoSistema de aprendizagemReforo heursticoAesReforo primrioTpicosIntroduoTreinando Redes Neurais Artificiais com PSO- O modelo de Perceptron multicamada - Aprendizagem do OU exclusivo: Um exemplo simplesOutras AplicaesAprendizagem de Mapas Cognitivos Fuzzy com PSO- Mapas Cognitivos Fuzzy (FCM) - Uma abordagem de Aprendizagem baseada em PSO- Processo de controle industrial: Um exemplo ilustrativo- Outros desenvolvimentos em algoritmos de aprendizagem baseados em PSOConclusoReferncias8Treinando Redes Neurais Artificiais com PSO9

Neurnio naturalNeurnio artificial

Treinando Redes Neurais Artificiais com PSOO modelo de Perceptron multicamada

10Camada de entrada

Camada ocultaCamada de sadaVetor de entrada de cada neurnioFuno de ativaobiasSada de cada neurnioPeso sinpticoTreinando Redes Neurais Artificiais com PSOO modelo de Perceptron multicamadaPodemos simplificar a equao da maneira:

Objetivo: Encontrar pesos sinpticos que minimizam o erro quadrtico entre a sada esperada e a obtida.

11

Treinando Redes Neurais Artificiais com PSOO modelo de Perceptron multicamada

12

Nmero total de pesos sinpticos da redeNmero de neurnios na camada l

Par entrada-sada do neurnio k

Nmero de entradasNmero de sadas

Sada obtidaSada desejadaPeso sinptico da conexo entre o neurnio i camada l com o neurnio j da camada l+1 O problema de minimizao pode ser resolvido usando PSO codificando os pesos como dimenso Treinando Redes Neurais Artificiais com PSOAprendizagem do OU exclusivo: Um exemplo simples 2 entradas ( =2) 1 sada ( =1) 1 camada escondida com 2 neurnios( =2)13

Problema de otimizao de dimenso 9Treinando Redes Neurais Artificiais com PSOAprendizagem do OU exclusivo: Um exemplo simples

Problema altamente no-linear.Diversos mnimos locais com regies achatadas Utilizar o a tcnica stretching do captulo 5.Funo de ativao: sigmide PSO com peso inercial decaindo de 1,0 para 0,4.Tamanho do enxame = 80Constantes:Pesos sinpticos iniciados aleatriamente e uniformemente em100 iteraesUtilizando stretching melhorou a eficincia nos resultados de 77% para 100%.

14

Treinando Redes Neurais Artificiais com PSO15

Funo objetivo f(x):

Aprendizagem do OU exclusivo: Um exemplo simples

TpicosIntroduoTreinando Redes Neurais Artificiais com PSO- O modelo de Perceptron multicamada - Aprendizagem do OU exclusivo: Um exemplo simplesOutras AplicaesAprendizagem de Mapas Cognitivos Fuzzy com PSO- Mapas Cognitivos Fuzzy (FCM) - Uma abordagem de Aprendizagem baseada em PSO- Processo de controle industrial: Um exemplo ilustrativo- Outros desenvolvimentos em algoritmos de aprendizagem baseados em PSOConclusoReferncias16Outras AplicaesInterao humana pode ser reduzida codificando o nmero de camadas e de neurnios por camada oculta como componentes de PSO.Partculas com diferentes dimenses, resolve-se truncando ou aumentando cada partcula; abordagem utilizada em (Binos, 2002; Zhang et al., 2000).Van der Bergh and Engelbret (2000) aplicaram PSO cooperativo com RNA feedforward.GA com PSO e RNA foi utilizado para o problema de planta de controle dinmico, proposto em Juang(2004).

17TpicosIntroduoTreinando Redes Neurais Artificiais com PSO- O modelo de Perceptron multicamada - Aprendizagem do OU exclusivo: Um exemplo simplesOutras AplicaesAprendizagem de Mapas Cognitivos Fuzzy com PSO- Mapas Cognitivos Fuzzy (FCM) - Uma abordagem de Aprendizagem baseada em PSO- Processo de controle industrial: Um exemplo ilustrativo- Outros desenvolvimentos em algoritmos de aprendizagem baseados em PSOConclusoReferncias18Aprendizagem de Mapas Cognitivos Fuzzy com PSOModelo tradicional: Mapa cognitivo Crisp:

Sinal positivo: aumento (diminuio) no conceito meio gera aumento (diminuio) no conceito fim.Sinal negativo: aumento(diminuio) no conceito meio gera diminuio (aumento) no conceito fim.

19

Ligao causal Conceito (n)

Influncia indireta do conceito i no conceito k S14 = S12*S23* S34 = (-1)(-1)(+1) = +Resultados qualitativosAprendizagem de Mapas Cognitivos Fuzzy com PSOModelo com pesos

20

Grau de informao mais detalhada (informao quantitativa)S14 = S12*S23* S34 = (-2)(-3)(+5) = +30Aprendizagem de Mapas Cognitivos Fuzzy com PSOMapas Cognitivos Fuzzy (FCM)Originalmente introduzido por Kosko (1986)

21

3 caminhos causais de C1 para C5:(1,3,5);(1,3,4,5); (1,2,4,5)Influncia indireta de C1 em C5:I1(C1,C5): min{S13,S15}=muchI2(C1,C5): min{S13,S34,S45}=someI3(C1,C5): min{S12,S24,S45}=some

Influncia total de C1 em C5:T(C1,C5):max{I1(C1,C5), I2(C1,C5), I3(C1,C5)}=muchPara valores numricos o sinal deve ser analisado conforme em Crisp.Aprendizagem de Mapas Cognitivos Fuzzy com PSOMapas Cognitivos Fuzzy (FCM)

22C3C4C5C2C1

Conceito (n):

Valor do conceito:

Pesos:

Exige conhecimentos profundos para determinar valores iniciais dos pesos e dos conceitosAprendizagem de Mapas Cognitivos Fuzzy com PSOMapas Cognitivos Fuzzy (FCM)Modificadores lingusticos so usados e valores iniciais so obtidos atravs de procedimento de fuzzification-defuzzification.Mantendo pesos fixos, os valores dos conceitos so atualizados da forma:

Geralmente requer poucos passos de iterao para a convergncia.Nem sempre consegue-se alcanar os valores desejveis, da usa-se conjuntamente algum algoritmo de aprendizagem.

23

F(.) geralmente sigmideAprendizagem de Mapas Cognitivos Fuzzy com PSOUma abordagem de Aprendizagem baseada em PSO2 categorias para algoritmos de aprendizagem com FCM- Treinamento no-supervisionado de RNA (Kosko, 1997)- Algoritmos evolucionrios e mtodos baseados em PSO

24

Valor de sada do conceito (estado estacionrio)

Funo objetivo:

Funo Heaviside H(.):Papageorgiou et al., (2005)Aprendizagem de Mapas Cognitivos Fuzzy com PSOUma abordagem de Aprendizagem baseada em PSO

Cada partcula do enxame uma matriz de peso codificada em vetor, eliminando a diagonal principal (no h self-feedback):

A dimenso das partculas ser no mximo Mx(M-1) Os pesos so iniciados de maneira aleatria e uniforme em [-1,0] se especificado pelo especialista como negativo ou em [1,0], caso contrrio.

25

Aprendizagem de Mapas Cognitivos Fuzzy com PSOUma abordagem de Aprendizagem baseada em PSO

26

Fluxograma de aprendizagem baseada em PSOAprendizagem de Mapas Cognitivos Fuzzy com PSOProcesso de controle industrial: Um exemplo ilustrativoProblema foi tratado em Papagergiou (2005)

27

G: peso especfico da mistura

T: nvel da mistura no tanque

V1,V2,V3: vlvulas

Gauge: sensor de peso especfico Objetivo do controle: manter G e T dentro dos limites

Aprendizagem de Mapas Cognitivos Fuzzy com PSOProcesso de controle industrial: Um exemplo ilustrativoEspecialistas definiram 5 conceitos e o tipo de influncia entre eles:- C1: nvel do lquido no tanque (depende de V1, V2, V3)- C2: estado da vlvula V1 (aberta, fechada, ou parcialmente aberta)- C3: estado da vlvula V2 (aberta, fechada, ou parcialmente aberta)- C4: estado da vlvula V3 (aberta, fechada, ou parcialmente aberta) - C5: peso especfico do lquido produzido

28

Aprendizagem de Mapas Cognitivos Fuzzy com PSOProcesso de controle industrial: Um exemplo ilustrativoUtilizao de tcnica SUM (Lin & Lee, 1996) para combinar variveis lingusticas em um nico peso linguisticoEste peso trasnformado em valor numrico atravs do mtodo de defuzzification centro de rea (Kosko, 1992; Lin & Lee, 1996)Todos os especialistas concordaram com a faixa dos valores de w21,w31,w41. A maioria concordou com w12,w13. No houve concordncia sobre os valores de w15,w52 e w54.

Aplicao de PSO para problema 8-dimensional.

29

Aprendizagem de Mapas Cognitivos Fuzzy com PSOProcesso de controle industrial: Um exemplo ilustrativo

Papageorgiou considerou 2 cenrios: - todas as restries so consideradas- apenas as restries de concordncia unnimeUtilizou constriction coefficient PSO com raio r=3.Tamanho do enxame = 20.Parmetros padro:Preciso da funo objetivo foi configurada paraForam realizados 100 experimentos independentes para cada caso. 30

Aprendizagem de Mapas Cognitivos Fuzzy com PSOCenrio 1: todas as restriesNenhuma soluo respeitou as restries de A1 e A5, nos 100 experimentos.Melhor resultado obtido:

31

Aprendizagem de Mapas Cognitivos Fuzzy com PSOCenrio 1: todas as restriesAs restries sobre os pesos w15,w52 e w54 foram omitidas, permitindo-os variar em [0,1]. 32

Aprendizagem de Mapas Cognitivos Fuzzy com PSOCenrio 2: apenas restries unnimesRestringindo apenas w21, w31,w41. w13,w15,w52,w54 convergiram para regies significativamente diferentes da sugerida.

33

Aprendizagem de Mapas Cognitivos Fuzzy com PSOOutros desenvolvimentos em algoritmos de aprendizagem baseados em PSOProblema da radioterapia, proposto em Parsopoulos et al., 2004.Objetivo: Eliminar clulas cancergenas, minimizando a exposio das clulas saudveis radiao.Modelo constitudo por 6 conceitos:- C1: localizao do tumor- C2: dose prescrita para o tratamento (depende da parte do corpo)- C3: fatores de mquina relacionados- C4: fatores humanos relacionados- C5: posio do paciente e imobilizao- C6: dose final recebida pelo tumor no alvo

Objetivo: maximizao de C2 e C6. 34

Aprendizagem de Mapas Cognitivos Fuzzy com PSOOutros desenvolvimentos em algoritmos de aprendizagem baseados em PSOUtilizao do peso inercial e constriction coefficient PSOParmetros:Peso inercial decaindo de 1,2 para 0,1 Limites definidos pelos especialistas:

35

Aprendizagem de Mapas Cognitivos Fuzzy com PSOOutros desenvolvimentos em algoritmos de aprendizagem baseados em PSOTodos os algoritmos detectaram a mesma matriz de soluo.

36

TpicosIntroduoTreinando Redes Neurais Artificiais com PSO- O modelo de Perceptron multicamada - Aprendizagem do OU exclusivo: Um exemplo simplesOutras AplicaesAprendizagem de Mapas Cognitivos Fuzzy com PSO- Mapas Cognitivos Fuzzy (FCM) - Uma abordagem de Aprendizagem baseada em PSO- Processo de controle industrial: Um exemplo ilustrativo- Outros desenvolvimentos em algoritmos de aprendizagem baseados em PSOConclusoReferncias37ConclusoPSO mostrou-se uma ferramenta muito importante combinada com outros mtodos em problemas de aprendizagem de mquinaPSO com stretchingresolveu com sucesso o problema do OU Exclusivo para os pesos sinpticos da Rede Neural Artificial.PSO com FCM atingiu resultados satisfatrios para a definio dos pesos do mapa. Deve-se ter cuidado ao aplicar as restries propostas por especialistas.

38TpicosIntroduoTreinando Redes Neurais Artificiais com PSO- O modelo de Perceptron multicamada - Aprendizagem do OU exclusivo: Um exemplo simplesOutras AplicaesAprendizagem de Mapas Cognitivos Fuzzy com PSO- Mapas Cognitivos Fuzzy (FCM) - Uma abordagem de Aprendizagem baseada em PSO- Processo de controle industrial: Um exemplo ilustrativo- Outros desenvolvimentos em algoritmos de aprendizagem baseados em PSOConclusoReferncias39Referncias

Binos, T. (2002). Evolving neural network architecture and weights using an evolutionary algorithm. MSc thesis, RMIT University, Melbourne, Australia.ENSSLIN, L., & MONTIBELLER, G. INFERNCIA CAUSAL EM MAPAS COGNITIVOS, Univ. Federal de Santa CatarinaHaykin, S., Redes Neurais, Teoria e Prtica, Bookman, 2001Kosko, B. (1986). Fuzzy cognitive maps. International Journal of Man-Machine Studies, 24, 6575.doi:10.1016/S0020-7373(86)80040-2Papageorgiou, E. I., Parsopoulos, K. E., Stylios, C. D., Groumpos, P. P., & Vrahatis, M. N. (2005). Fuzzy cognitive maps learning using particle swarm optimization. Journal of Intelligent Information Systems, 25(1), 95121. doi:10.1007/s10844-005-0864-9Parsopoulos, K. E., Papageorgiou, E. I., Groumpos, P. P., & Vrahatis, M. N. (2004). Evolutionary computation techniques for optimizing fuzzy cognitive maps in radiation therapy systems. In [LNCS]. Lecture Notes in Computer Science, 3102, 402413.Parsopoulos, K. E. ,& Vrahatis, M. N. (2010). Particle Swarm Optimization and Intelligence.Parsopoulos, K. E., & Vrahatis, M. N. (2002). Recent approaches to global optimization problems through particle swarm optimization. Natural Computing, 1(2-3), 235306. doi:10.1023/A:1016568309421 Wasserman, P. Neural Computing, Van Nostrand Reinhold, 1989, Cap 1-3.http://en.wikipedia.org/wiki/Machine_learninghttp://en.wikipedia.org/wiki/Semi-supervised_learning40