monografia pericles miranda_v1 (28-07-10)

MOPSO-CDR com Especiação

Aluno: Péricles Barbosa Cunha de MirandaOrientador: Prof. Dr. Carmelo J. A. Bastos Filho

ESCOLA POLITÉCNICA DE PERNAMBUCO

Roteiro

• Objetivos• Conceitos Fundamentais• Algoritmo Proposto• Experimentos• Resultados• Considerações finais• Referências

Trabalho de Conclusão de Curso Péricles Miranda

2

Objetivos

• Desenvolvimento de uma melhoria no algoritmo MOPSO-CDR;

• Melhorar a convergência das soluções quanto ao seu espalhamento e espaçamento;

• Reduzir o tempo de convergência das soluções.


3

Conceitos Fundamentais

• PSO;• Otimização Multi-Objetivos;• Aplicação de PSO em MOP.


4

Conceitos FundamentaisInteligência de Enxames e PSO

• Algoritmo de Busca e Otimização Bio-Inspirado;

• Kennedy e Eberhart (1995)• Simula a interação entre indivíduos (pássaros)

que buscam a solução de único objetivo;


5


• Pássaro → Partícula;• Bando → Enxame;• Local do Alimento → Possível solução.


6


Como melhoram?


7


Como melhoram?


8

Componente cognitivo


Como melhoram?


9

Componente cognitivo

Componente Social


Como melhoram?


10


Como interagem?


11



12

Inicializar enxame:

Posição e Velocidade

Atualizar posição da partícula i usando equações

(1) e (2)

Calcular fitness da partícula i Atualizar pbest e gbest

Atualizou enxame?Não

Total de iterações?

Sim

Não

Fim do algoritmo

Sim

Conceitos FundamentaisOtimização Multi-Objetivos


13

• Solucionar vários objetivos;• Dominância;• Pareto Front.


Quando uma partícula é considerada melhor que outra?

Dominância


14




15

Soluções dominadas




16



O que é Pareto Front?


17


Soluções do Pareto Front


Qual o objetivo da MOO?

• Maximizar o número de elementos no Pareto;• Minimizar a distância do Pareto produzido

para o do problema (Ótimo);• Maximizar a uniformidade e distribuição das

soluções.


18


O Pareto está convergindo?

• Métricas de Cálculo de Desempenho– Hypervolume– Spacing– Maximum Spread– Coverage


19


Hypervolume?


20


Spacing?


21


Maximum Spread?


22


Coverage?


23

Conceitos FundamentaisAplicação de PSO em MOP

• Mudança na escolha dos líderes cognitivo e social;

• Arquivo Externo.


24


O que é Arquivo Externo?

• Repositório de soluções não dominadas;• Histórico de toda a simulação;• Pareto Front resultante.


25


Como atualiza-se o líder social? Elimina-se comunicação.


26

Arquivo ExternoEnxame

Líder social

Partículas não dominadas


Como atualiza-se o líder cognitivo?

O pbest só é atualizado se o fitness da Posição Atual DOMINA o fitness do pbest.


27


Como funciona?


28

Início:Incializa enxameIncializa líderes no Arquivo ExternoQualifica líderesg = 0

Enquanto g < gMax:Para cada partícula:

Seleciona líder social usando AEAtualiza Posição e VelocidadeCalcula FitnessAtualiza pbest

Atualiza líderes do Arquivo ExternoQualifica líderesg++

Reportar ResultadosFim


Quais as técnicas propostas?

• CSS-MOPSO (Chiu, Sun em 2007)• MOPSO (Coello, Pulido, Lechuga em 2004)• MOPSO-CDLS (Tsou, Chang em 2007)• m-DNPSO (Hu, Eberhart, Chi em 2006)• MOPSO-CDR (Santana, Pontes e Bastos em 2008)


29

MOPSO-CDR

• Fundamentado no MOPSO;• Incorpora Crowding Distance e Roleta na

seleção dos líderes cognitivo e social.


30

MOPSO-CDR

O que é Crowding Distance?


31

MOPSO-CDR

Como atualiza-se o líder social?

• Ordena-se as soluções do Arquivo externo por CD;

• Partículas com maior CD tem mais chances de serem selecionadas e sugeridas como gBest.


32

MOPSO-CDR

Como atualiza-se o líder cognitivo?

• Se posição domina, pBest atualizado;• Se incomparáveis:

– Solução do AE mais próxima da Posição;– Solução do AE mais próxima do pBest;– A de maior CD define quem será escolhido.


33

MOPSO-CDR

Como funciona?


34

Início:Incializa enxameIncializa líderes no Arquivo ExternoQualifica líderes usando CDR

Enquanto condição de parada não alcançada:Para cada partícula:

Aplica TurbulênciaSeleciona líder social (usando CDR)Atualiza Velocidade e PosiçãoCalcula FitnessAtualiza pbest (torneio binário)

Atualiza líderes do Arquivo ExternoQualifica líderes usando CDR


Algoritmo Proposto

Algoritmo Proposto


36

• Baseado no MOPSO-CDR;

• Sub-Enxames;

• Gerenciador de Arquivo Externo;• Executor ou Tomador de Decisões.

Algoritmo Proposto


37

Qual a função do Gerenciador?

• Aplica métricas de Spacing e Spreading;• Analisa o comportamento do Pareto;• Gera feedback para o Executor.

Algoritmo Proposto


38

Qual a função do Executor?

• Analisa o feedback do Gerenciador;• Toma decisões para melhorar desempenho do

Pareto;• Decisões relacionadas à forma como a seleção

dos líderes será realizada;• Algoritmo adota dois estados.

Algoritmo Proposto


39


Executor

EspeciaçãoBásico

Algoritmo Proposto


40


Limiar de Estagnação

Básico Especiação

Algoritmo Proposto


41

Como o limiar é calculado?

• Com o passar das iterações, o valor da aplicação da métrica é guardado;

• Calcula-se o desvio padrão desses valores;• 0,1%

Algoritmo Proposto


42

Como funciona o estado Básico?

• Mantém o funcionamento normal do MOPSO-CDR;

• O Gerenciador aplica Maximum Spreading no AE;• Executor verifica se limiar foi alcançado.

Algoritmo Proposto


43

Como funciona o estado de Especiação?

• Divide enxame em sub-enxames– Cada sub-enxame com uma responsabilidade;

• O Gerenciador aplica Spacing no AE;• Executor verifica se limiar foi alcançado.

Algoritmo Proposto


44

Como funciona o estado de Especiação?

Soluciona objetivo F1

Soluciona objetivo F2

MOPSO-CDR

Algoritmo Proposto


45

E a seleção do líder social?

Arquivo ExternoEnxame

Líder socialMOPSO-CDR

Algoritmo Proposto


46

E a seleção do líder cognitivo?

Partícula

Se fitness da posição for incomparável em relação ao do pbest, analisa-se qual fitness é

menor em relação ao objetivo do sub-enxame.

Algoritmo Proposto


47

Como funciona?Início:

Incializa enxameIncializa líderes no Arquivo ExternoQualifica líderes usando CDRUtiliza estado Básico

Enquanto condição de parada não alcançada:Para cada partícula:

Aplica TurbulênciaSeleciona líder social (de acordo com estado)Atualiza Velocidade e PosiçãoCalcula FitnessAtualiza pbest (de acordo com estado)

Atualiza líderes do Arquivo ExternoQualifica líderes usando CDRAnalisa pareto usando métricaAtualiza estado


Experimentos

Experimentos

• 6 técnicas comparadas;• 4 métricas aplicadas;• 5 funções de teste utilizadas

– ZDT1, ZDT2, ZDT3, ZDT4 e ZDT6;• Variação do número de chamadas

– 200,000 e 100,000.


49

Experimentos

• Comparação entre todas as técnicas para cada função de teste;

• Comparação entre MOPSO-CDRS e MOPSO-CDR, para cada função de teste, com número de chamadas reduzido;

• Comparação entre MOPSO-CDRS e MOPSO-CDR quanto ao tempo de execução.


50

Resultados

ResultadosComparação entre técnicas (200,000 chamadas)

• ZDT1


52

Algoritmo Hypervolume Spacing Max. Spread Cover CDRS,* Cover *, CDRS

MOPSO 0.36 (0.002) 0.0046 (5E-4) 1.425 (0.005) 1.0 (0.0) 0.0 (0.0)

m-DNOPSO 0.713 (0.053) 0.0457 (0.014) 1.54 (0.065) 1.0 (0.0) 0.0 (0.0)

MOPSO CDLS 0.39 (0.003) 0.0042 (6E-4) 1.44 (0.005) 1.0 (0.0) 0.0 (0.0)

CSS MOPSO 0.34 (0.002) 0.0023 (1E-4) 1.42 (0.002) 0.99 (0.003) 0.0 (0.0)

MOPSO CDR 0.33 (3E-5) 0.0033 (2E-4) 1.41 (0.0) 0.88 (0.0034) 0.03 (0.023)

MOPSO CDRS 0.31 (2E-5) 0.0027 (1E-4) 1.38 (0.0)


• ZDT2


53


MOPSO 0.69 (0.001) 0.006 (0.001) 1.396 (0.015) 1.0 (0.0) 0.0 (0.0)

m-DNOPSO 0.94 (0.06) 0.054 (0.017) 1.29 (0.037) 1.0 (0.0) 0.0 (0.0)

MOPSO CDLS 0.716 (0.003) 0.006 (0.001) 1.39 (0.004) 1.0 (0.0) 0.0 (0.0)

CSS MOPSO 0.674 (0.001) 0.0035 (7E-4) 1.41 (8E-4) 0.978 (0.021) 0.0 (0.0)

MOPSO CDR 0.66 (3E-5) 0.0033 (2E-4) 1.41 (0.0) 0.72 (0.036) 0.195 (0.023)

MOPSO CDRS 0.656 (3E-5) 0.0029 (2E-5) 1.41 (0.0)


• ZDT3


54


MOPSO 0.950 (0.004) 0.005 (4E-4) 1.976 (0.008) 1.0 (0.0) 0.0 (0.0)

m-DNOPSO 1.296 (0.088) 0.045 (0.016) 2.068 (0.146) 1.0 (0.0) 0.0 (0.0)

MOPSO CDLS 1.006 (0.009) 0.006 (9E-4) 1.988 (0.015) 1.0 (0.0) 0.0 (0.0)

CSS MOPSO 0.953 (0.008) 0.003 (7E-4) 1.983 (0.006) 0.999 (8E-4) 0.0 (0.0)

MOPSO CDR 0.920 (1E-4) 0.0033 (2E-4) 1.967 (2E-5) 0.69 (0.0056) 0.22 (0.034)

MOPSO CDRS 0.94 (6E-5) 0.0025 (0.0) 1.95 (9E-5)


• ZDT4


55


MOPSO 0.631 (0.526) 0.006 (0.0014) 1.54 (0.18) 0.68 (0.210) 0.2 (0.18)

m-DNOPSO 2.157 (0.935) 0.04 (0.037) 1.94 (0.29) 1.0 (0.0) 0.0 (0.0)

MOPSO CDLS 4.82 (0.2.174) 0.005 (9E-4) 2.7 (0.46) 1.0 (0.0) 0.0 (0.0)

CSS MOPSO 5.38 (0.008) 0.005 (0.0012) 2.8 (0.525) 0.999 (8E-4) 0.0 (0.0)

MOPSO CDR 0.57 (0.26) 0.0033 (3E-4) 1.52 (0.109) 0.90 (3E-4) 0.015 (2E-3)

MOPSO CDRS 0.56 (0.012) 0.0025 (2E-4) 1.38 (2E-4)


• ZDT6


56


MOPSO 1.261 (0.386) 0.129 (0.122) 3.180 (1.4) 0.48 (0.102) 0.32 (0.0034)

m-DNOPSO 1.279 (0.506) 0.126 (0.108) 3.203 (1.732) 1.0 (0.0) 0.0 (0.0)

MOPSO CDLS 1.717 (0.519) 0.186 (145) 4.632 (1.816) 0.89 (2E-3) 0.09 (2E-4)

CSS MOPSO 2.051 (0.697) 0.234 (0.153) 5.571 (2.046) 0.417 (0.004) 0.002 (2E-3)

MOPSO CDR 1.670 (0.3) 0.088 (0.056) 4.636 (1.053) 0.88 (0.0034) 0.03 (0.023)

MOPSO CDRS 1.345 (0.46) 0.078 (2E-3) 3.233 (0.034)

ResultadosComparação com o MOPSO-CDR (100,000 chamadas)


57

• ZDT1

• ZDT2

• ZDT3


MOPSO CDR 0.36 (0.002) 0.0035 (0.002) 1.43 (0.001) 0.135 (0.0034) 0.005 (0.023)

MOPSO CDRS 0.36 (0.002) 0.0029 (0.002) 1.41 (0.001)


MOPSO CDR 0.76 (0.001) 0.0043 (0.007) 1.43 (0.005) 0.145 (0.0032) 0.0 (0.0)

MOPSO CDRS 0.72 (0.0023) 0.0042 (0.02) 1.42 (0.02)


MOPSO CDR 0.93 (0.008) 0.0036 (0.032) 1.97 (0.019) 0.745 (0.001) 0.01 (0.034)

MOPSO CDRS 0.912 (0.034) 0.0027 (1E-4) 1.96 (0.004)

ResultadosComparação com o MOPSO-CDR (100,000 chamadas)


58

• ZDT4

• ZDT6


MOPSO CDR 4.88 (2.61) 0.74 (0.56) 16.49 (8.79) 1.0 (0.0) 0.0 (0.0)

MOPSO CDRS 2.23 (1.32) 0.08 (0.05) 11.44 (5.39)


MOPSO CDR 2.05 (0.2) 0.17 (0.071) 6.03 (1.34) 0.67 (0.56) 0.12 (0.78)

MOPSO CDRS 1.8 (0.16) 0.189 (0.0017) 5.89 (0.59)

ResultadosComparação com o MOPSO-CDR (Tempo de Execução)


59

Algoritmo ZDT1 ZDT2 ZDT3 ZDT4 ZDT6

MOPSO CDR 37.681 35.566 42.683 2.372 4.381

MOPSO CDRS 112.250 107.887 117.475 30.969 33.053

• Alternativa eficaz, apresentando melhor desempenho do Pareto comparado às demais técnicas (200,000 chamadas);

• Superioridade do MOPSO-CDRS em relação ao MOPSO-CDR com 100,000 chamadas;

• Pareto converge mais rapidamente para problemas mais difíceis.


60

Conclusões

• Estudo de um valor ótimo para o limiar ou implementar uma proposta de limiar variável;

• Estudar a influência de outras métricas no desempenho do arquivo externo, de modo a introduzi-las para análise no gerenciador;

• Substituir o MOPSO-CDR por outra técnica, bem fundamentada na literatura, para verificar sua interferência no desempenho do pareto;

• Incorporar ainda mais objetivos.Trabalho de Conclusão de Curso

Péricles Miranda61

Trabalhos Futuros

Referências1. NEDJA, N.; DOS SANTOS COELHO, L.; DE MACEDO DE MOURELLE, L. Studies in Computational Intelligence. Rio

de Janeiro: Springer, v. 261, 2009. Multi-Objective Swarm Intelligent Systems.2.KENNEDY, J.; EBERHART, R. Particle Swarm Optimization, 4, 1995. 1942-1948.3. REYES-SERRA, M.; COELLO, C. A. C. Multi-Objective Particle Swarm Optimizers: A Survey of the State-of-the-

Art, 2002. 34-54. Electrical Engineering Department, Computer Science Section.4. REYNOLDS, C. W. Flocks, Herds And Schools: A Distributed Behavioral, 1987. 25-34. Computer Graphics.5. MILLONAS, M. M. Swarms, Phase Transitions and Collective Intelligence. 3. ed. Chicago: Artifial Life, 1994.6. EBERHART, R.; KENNEDY, J. A New Optimizer Using Particle Swarm Theory, 1995. 39-43.7. CLERC, M.; KENNEDY, J. The Particle Swarm - Explosion, Stability, and Convergence in a Multidimensional

Complex Space, v. 6, p. 58-73, 2002. IEEE Transactions on Evolutionary Computation.8. EBERHART., Y. S. A. R. C. A Modified Particle Swarm Optimiser, Maio 1998. International Conference of

Evolutionary Computation.9. ZITZLER, E. Evolutionary Algorithms for Multiobjective Optimization: Methods and Applications. ETH Zurich.

Switzerland. 1999.10. ZITZLER, E.; THIELE, L. Multiobjective Evolutionary Algorithms: A Comparative Case Study and The Strength

Pareto Approach, 1999. 257-271. IEEE Transactions on Evolutionary Computation.11. ZITZLER, E.; THIELE, L. Multiobjective Optimization Using Evolutionary Algorithms - A Comparative Case

Study, 1998. 292-271. Conference on Parallel Problem Solving from Nature.12. SANTANA, R. A.; PONTES, M. R.; BASTOS-FILHO, C. J. A. A Multiple Objective Particle Swarm Optimization

Approach Using Crowding Distance And Roulette Wheel. Department of Computing Systems, UPE.


62

Referências13. COELLO, C. A. C.; VAN VELDHUIZEN, D. A.; LAMONT, G. B. Evolutionary Algorithms for Solving Multi-Objetive

Problems, New York, Maio 2002. Kluwer Academic Publishers.

14. CHIU, S. Y. et al. Cross-Searching Strategy for Multi-Objective Particle Swarm Optimization. Congress on Evolutionary Computation. 3135-3141. IEEE.

15. COELLO, C. A. C.; PULIDO, G. T.; LECHUGA, M. S. Handling Multiple Objectives With Particle Swarm Opimization, Junho 2004. IEEE Transactions Evolutionary Computation.

16. TSOU, C.; CHANG, S.; LAI, P. Using Crowding Distance to Improve Multi-Objective PSO with Local Search. In: TIWARI, F. T. S. C. A. M. K. Swarm Intelligence, Focus on Ant and Particle Swarm Optimization. Vienna, Austria: I-Tech Education and Publishing, 2007. p. 77-86.

17. RAQUEL, C. R.; NAVAL JR., P. C. An Effective Use of Crowding Distance in Multi-Objective Particle Swarm Optimization. Proceedings of the 2005 Conference on Genetic and Evolutionary Computation, New York, USA, 2005. 257-264. GECCO'05.

18. HU, X.; EBERHART, R.; SHI, Y. Particle Swarm With Extended Memory For Multi-Objective Opitmization. In Swarm Intellingence Symposium, 2003. 193-197. SIS'03.

19. COELLO, C. A. C.; LAMONT, G. B.; VAN VELDHUIZEN, D. A. Evolutionary Algorithms for Solving Multi-Objective Problems. Genetic and Evolutionary Computation, New York, 2007.

20. DEB, K. Multi-objective genetic algorithms: Problem Difficulties and Construction of Test Problems, 1999. 205-230.


63

Referências21. COELLO, C. A. C.; LAMONT, G. B. An Introduction to Multi-Objective Evolutionary Algorithms And Their

Application, 1999. 14-26.

22. KONAK, A.; COIT, D. W.; SMITH, A. E. Multi-Objective Optimization Using Genetic Algorithms: A Tutorial. Reliability Engineering and System Safety, p. 13-29, 2006. Information Sciences and Technology, Penn State Berks, USA.


64

MOPSO-CDR com Especiação

Aluno: Péricles Barbosa Cunha de MirandaOrientador: Prof. Dr. Carmelo J. A. Bastos Filho

ESCOLA POLITÉCNICA DE PERNAMBUCO