----- --

Resultados do Ajuste de Parâmetros de um Modelode Simulação de Desordem Espacial Empregando

Recozimento SimuladoHéctor Gustavo Arango Germano Lambert-Torres Alexandre P. Alves da Silva

EFEI - Escola Federal de Engenharia de ItajubáAv . BPS , 1303 - CEP 37.500-000, Itajubá - MO - Brasil

Te lefone : (035) 629-1273 Fax : (035) 629-1 187e-mail: {gusta vo.germano. alex} @iee .efei .rmg.br

RESUMO

Este trabalho mos tra o resultado da aplicação de um conjunto de testes a um caso hipotético decresc imento de ca rga espaço-temporal. Os dados são gerados por um programa de desordem espacial, cujoalgori tmo emula um proces so din âmico de crescimento de pontos no espaço e no tempo. A função de avaliaçãopara o hiperespaço de busca, defi nido pelos parâmetros do programa de desord em espaci al , leva em consideraçãoo erro médio de local ização e a variabilidade dos erros de previsão de carga dentro do processo de recozimentosimulado.

I . Intr odu ção

O presen te artigo é o resul tado da aplicação de umconjunto de testes a um caso hipotético decresc imento de carga. O obje tivo é ten taraproximar o resultado gerado pelo programa dedesordem espac ial àque le co njunto, obtidoexperimenta lmente como um potencial co njuntoreal de evo lução espaço-temporal de carga. Comrelação à form a em que trab alha, o programa dedes ordem é um processo din âmico de crescimento(com taxas positivas ou negativ as) de pontos noespaço e no tempo, regido por leis de atração decampo e de massa que emulam o compo rtamentodo desenvo lvimento populac ional e econômicoreg ional, de acordo com a teo ria dos pólos decresc imento econômico .

O programa de deso rdem espac ial tevealguns dos seus parâmetros fixados, tais como onúmero de pontos iniciais (que corresponderia àconfiguração do s istema distr ibuid or naqu elemomento), o ritm o do cre scimento da carga, aescala, etc. Os parâmetros co nside rados principais,entretanto, foram deixados livres para que sejapossível man ipulá-los de tal forma á que constituamo conjunto que gera a maior proxim idade possívelentre os dados reais e os simulados, seg undo umafunção de ava liação que considera, não somente amédi a de um co njunto de simulações, mas tambéma sua var iabilidade.

O processo empregado para a otimizaçãodos parâme tros do programa de desordem foi oreco zimento simulado, uma vez que não sãoconhecidas as funções que geram a desord emespacial. Os vários testes efe tuados têm o objetivo

371

de ganhar sensibilidade quanto aos parâmetrosempregados no SA.

2. Recozimen to Simulado

Recozimen to simulado (ou Simulated Annealing) éuma técnica de otimização global que empregaot imização combinatória para distinguir entrediferen tes extremos locais. Embora inicialmente oprocesso de busca fosse determinado no espaçodiscreto [I], vários algoritmos para espaçoscon tínuos foram mais tarde desenvolvidos [2,3]. Oprocesso é iniciado em um vetor inicial, que contémos parâmetros (variáveis) que deverão satisfazer aco ndição de singularidade definida (máximos "oumínimos). Em cada passo seguinte, a funçãotesta da é ava liada . Se estiver sendo procurado omínimo desta função, qualquer passo querep resente uma "descida" (ponto menor na função)é acei to. Porém, diferentemente de outros métodosconhecido s, como os de descida de encosta(Newton-Raph son, gradiente conjugado), é possívelcaminhar na direção de um ponto maior na função ,ou "subir a encosta", e desta" forma escapar dealgum mínimo local. A forma mais difundida paradecidi r quando o algoritmo deverá proceder destemodo é baseada no critério de Metropolis [4] . Estecritério ava lia probabil isticamente um passo nadireção oposta da otimização, "considerando umafunção de probabi lidade que envolve o ganho (oudiferencial) da função e um parâmetro do algoritmo"denominado temperatur a. A função deprobabilidade tem a form a:

p(D./)= r n,

onde T é a temperatura e N = .r(x') - f (xJÉ muito importante lembrar que a

temperatura não é constante ao longo do processo:Na verdade, ela inicia em um valor elevado (valoresconsiderados "elevados" vêm , normalmente, por"default" dos algoritmos; senão, é necessário testaro que é um valor elevado para o problema emquestão) e diminui a uma taxa constante, por vezeschamada constante de Boltzman. O processotermina quando é satisfeito o critério de parada doalgoritmo (que pode ser um ganho mínimo) ouquando o processo resfria, após ter sucessivamentesido diminuída a temperatura. Perceba-se que nestecaso, a idéia do algoritmo está em que aprobabilidade de escapar de um mínimo, tal comofoi definida a fdp é praticamente impossível, e oalgoritmo deverá convergir para um mínimo, sejaele global (se a escolha dos parâmetros foi boa) oulocal. Quanto à robustez do processo, ela é variávele depende da escolha dos parâmetros dorecozimento. Em princípio, dentre o conjunto deparâmetros a serem escolhidos, a taxa de variaçãoda temperatura e o número de iterações antes daredução de temperatura estão relacionados com a"velocidade" com que é realizado o processo, sendoque esta está diretamente relacionada com adimensão do espaço de busca. Então, se o processoé rápido (ambos parâmetros "pequenos" ), menor achance do processo detectar uma singularidadeglobal, e vice-versa.

Foi dito que a robustez do algoritmo estárelacionada ao valor dos parâmetros deinicialização do recozimento. Seja o conjuntodestes parâmetros denotado R. Os dados de entradapara um algoritmo de recozimento simuladoconvencional funcionar são os seguintes:

a) Ponto de partida: vetor com as coordenadas noespaço Rk

, onde k é o número de parâmetros(variáveis) a otimizar.

O processo de busca inicia numa regiãodeterminada de Rk e é realizada ao redor destaregião. Não existem garantias de que todo o Rk sejacoberto pela busca. Isto é, o processo dorecozimento, dependendo de R, pode parar antes deque o todo o espaço seja explorado. Entretanto,testes com funções mostram que de modo geral épossível obter um R que proporcione o extremoglobal ao término do processo.

b) Temperatura: parâmetro do recozimento usadopara decidir mudanças de sentido da busca.

A temperatura é o parâmetro que de certa formaproporciona a extensão do espaço de busca. Poresta razão, é que sempre se sugere iniciar com umatemperatura elevada. Embora a busca estejatambém relacionada a outros parâmetros, dar aoprocesso um valor elevado de T fornece ao

372-

processo "energia" suficiente para percorrer umgrande espaço ao longo de Rk

.

Além disto, T influencia o comprimentodo passo, ou seja, o tamanho da mudança dosparâmetros a serem otimizados no sentido deencontrar o extremo, de forma direta. Quer dizer,temperaturas baixas (pequenas) podem determinarpassos pequenos ou pequenas mudanças a seremavaliadas nos parâmetros.

c) Taxa de redução da temperatura: é o valor quemultiplica T ao longo do processo. .O valorpode ser definido entre 0< P<1. Normalmente,é usado um valor entre 0,90 e 0,99.

Este parâmetro de modelagem do processoé de vital importância para a compreensão dafilosofia do algoritmo. Observe-se que ao iniciar-oprocesso; as temperaturas elevadas dão aoalgoritmo uma grande capacidade de identificarsingularidades em uma grande extensão do espaçode busca. Ou seja, inicialmente é feita umavarredura em amplitude do espaço Rk , garantidapor uma probabilidade elevada de escapar aextremos locais . A medida que sucessivas reduçõesem T são efetuadas pela ação de p, a busca vaisendo restringida em Rk e o processo começa apreferencialmente efetuar uma busca emprofundidade. A partir de certo valor de T, oprocesso não consegue obter a energia suficientepara escapar à região que circunda um determinadoextremo, tendendo a caminhar unicàmente nadireção desta singularidade. Deve-se , tambémlembrar que temperaturas elevadas resultam emmudanças significativas nos parâmetros,privilegiando a busca no sentido da amplitude,enquanto as temperaturas baixas, no final doprocesso, avaliam meticulosamente o espaço nosentido de refinar o extremo que está sendoavaliado.

d) Comprimento do passo: é o valor da mudançaem cada uma das variáveis, na direção doextremo, ou seja, a variação do vetor X.

e) Número de ciclos: é o número de movimentosaleatórios efetuados na direção de cada uma dascoordenadas do espaço de busca. Lembre-se quea aceitação ou a rejeição de cada novo ponto édecidida segundo o critério de Metropolis. Omelhor ponto encontrado a cada ciclo éguardado.

f) Número de iterações: é o número de vezes que érepetido o conjunto de ciclos, eqüivale aonúmero de vezes que a solução fornecida aotérmino de um ciclo é avaliada. Denotando o

\ .número de variáveis por N, o número de ciclospor NC e ó ílÓmero de iterações por I, o númerototal de avaliações da função antes de uma

redução na temperatura do proce sso é dada peloproduto N.NS.I. No programa NC = NS.NT

g) Erro máximo tolerado: critério de paradabaseado na máxima diferença entre o valor dafunção antes e depois de uma redução detemperatura.

3. Funcão de avaliacão de.erro do programa deRecozimento Simulado (SA) , FER

De todos os possíveis (e infinitos) conjuntos deparâmetros, sej a o conjunto genérico p". Então,alimentando o programa SA com este conj unto, ter-se-á A,,(I), que é o vetor (conjunto de saída) querepre senta a desordem espacial gerada peloconjunto de parâmetros PI" na primeira vez, epossui uma dimensão n.i=I x I , para o casounidimensional. I é o número de pontos dadesordem espacial, calcu lado multiplicando-se onúmero de iterações do programa SA pelo númerode novos pontos por iteração . Realimentando oprograma de SA N vezes, ter-se-á

Â,,( I ), Â,,(2) lO ' Â(h)N

que é um conjunto de vetores que pode ser reunidoem uma matri z IxN . Perceba-se que as colun asdesta matriz são os resultados dos espaços-estadosgerados pelo s N testes efetuados .

O erro de cada um dos N testes comrelação ao vetor coluna A que representa a série deespaço-tempo observada (real ), pode ser avaliadode forma quadrática, calcul ando o quadrado dadiferença entre cada elemento da matriz A com oelemento correspondente nas colun as da matriz queagrega os N vetores Â(h), que é o resultado daoperação de subtração. A seguir, cada elemento dee é elevado ao quadrado. Tem-se então a matriz e2(IxN), que contém todos os erros quadráticosdecorrentes de cada teste e em cada ponto doespaço unid imensional.

Esta matriz será convertida em um escalar,que será o parâmetro representativo do erro doconjunto de N testes com relação ao espaço-estadoverdadeiro. O escalar é ca lculado da seguinteforma

1. Efetua-se a soma de todos os elementos de cadacoluna da matriz e2, result ando um vetos linhacom N elementos.

I

E = I, e2;;;1

2. Calcula-se o momento de ordem I para oselementos do vetor descrito em I.

N

I,E j

NO momento de ordem I assim calculado,

pode ser chamado de erro quadrático médio do

373

conjunto de parâmetros ph, com relação aoconjunto de observações A.

O momento de ordem 2 resultaN 2I,(E j -ml)

m2 = -'..j=....:.I _

N-lAfim de compor a função de avaliação do

programa de SA, usa-se uma composição dediversos momentos tal como descrito acima. Umaavaliação até o momento de ordem 2, incluiriasensibilidade quanto a variabilidade dos resultadoscom um mesmo conjunto de parâmetros; até aordem 3, poder-se-ia identificar concentrações deerro a esquerda ou a direita do erro médio (ml). Afunção de avaliação que será empregada tem aforma FER = a.ml + com pesos iguais,inicialmente.

Com a finalidade de formar uma idéia docomportamento da função" de erro, PER, foramefetuadas 30 simulações a partir do conjunto deparâmetros Po= {lO, 2, 0,05 , 0,05}, obtendo-se umamédia de 245 ,85 e um desvio padrão igual a68,9731.

4. Resultados dos testes

4.1 Resultados variando o Cronograma detêmp era, variável RT

I) Dados de Entrada

• Parâmetro s do Recozimento SimuladoN = 4 MAXEVL = 20000RT = 0.85 NS = 5NT=2 T=5000

Vetores:

1.000Po=

0.030.02

onde :N = dimensão ou número de variáveis do processode otimização; MAXEVL = número máximo deavaliações da função FER; RT = taxa de redução detemperatura após N.NS.NT avaliações da funçãoFER; NS · = número de ciclos; NT = número dereduções de temperatura; T = temperatura inicial;LB = limite inferior; UB = limite superior; Po =ponto de partida da busca (valores iniciais dosparâmetros do programa de desordem espacial).

• Parâmetros do Programa Simulador deDesordem Espacial

NCSP = 30 X ini = 50Domínio O::;; x::;; 100Escala : 1/100

Número de pontos por Iteração = INúmero inicial de pontos = 1(50)Número de Iterações = 20

onde:NCSP = número de simulações por conjunto deparâmetros; Xin; = coordenada da semente de ondeinicia o processo de desordem espacial.

A série de espaço tempo real foiconstruída de forma sintética, imaginando a posiçãodos pontos de carga no espaço apó s t = 20 .

Teste 01; Comporlamento do ParâmetroM

Numero de Reduçõesde Temperatura

2) Resultados Após SA • Parâmetro d

! I ! I ! ! !! I I I I; ! i ! ' , ! I I IIi i , I! i, , 11 : , ! I

! ! ; i I I 1 TI I I I !, I"I !! i 11 1 : I ; I I I I I I II i I I

I l i I 1 I I ' i I II IIIIi I I l I! I ! 11' I 1 I I I 1 II ,I VI'

, ' , , I I I II I I II II I I I I I II I1 I·50

100

200

50

Testo01: Ocmpcrtamentc do Parâmetrod

250

300

350

'O 150

1841= 1129= 3989= 3,332O

FOPT = 27 .325

Número de Avaliações da funçãoAceitasFora dos limitesTemperatura FinallERCritério de Parada lER = OValor Final da Função de Avaiiação

Evolução da Função de Avaliacão após sucessi vasreduções de Temperatura

No gráfico a seguir é mostrado ocomportamento da função de avaliação doprograma de recozimento simulado ao término decada . período de redução de temperatura. Éoportuno lembrar que são efetuadas N.NS.NT, ouseja, neste teste são 80 ava liações da funçã o a cadaredução de temperatura .

Vetor de parâmetros ótimo30.17224.478

P"=0.28000.0730

Numerodo Roduçóosde Temperatura

• Par âmetro pTeste 01: Comportamontodo Parâmetrop

Número da Reduçõesde Temperatura

• Par âmetro mTeste 01: Comportamentodo Parâmetrom

I I

Teste 0 1140

120

100

u,s: 80w

60

40

20

t 111 !lI III I! !iiIili II i 1111 'II1 : I II 11 111 111111 I l i'1II1II 1I 1II1 I 1

11 I I1!l II I,- II,I ,I II II I II1 11 III II I " , III II I IIII I , "

E

0 .2 .

-o.aLUL...L...--'--l...LL.LLLLl...LJLLJ--'--l.--'--l...LL.L.LLLl...LJLLJ--LJNümerode Reduções de TemperahJra

Numero doReduções de Temperatura

Evolução dos Par âmetros doDesordem Espacial Durante oRecozimento .

ProgramaProcesso

dede

Síntese dos resultados variando o Cronograma detêmpera. vari ável RT.

Os resultados da variação de RT, ceterisparibus, foram os seguintes:

• Parâmetro M

374

- - -- -"'"-------"'"---

0.&5 1&41 1129 39S9 33329 1ffi.=O 116m 'Il325093 3561 2483 7767 8.4231 1ffi.=O 240.(1)4 25.013O'fl 8281 5741 1lID+ 9.4178 1ffi.=O 79fEB 24.m0g:J znn * * * MXEV * 24.197

(*) O teste foi descartado porque o critério deparada não permitiu concluir o proces so.

Aumentando MAXEVL para 30000 ,

NEVL =número de avaliações ;NEA = número de avali ações aceitas;NEOB = número de avaliações fora dos limites;TempF =temperatura final ;CRP = crité rio de parada;FOPTo= valor inicial da função de avaliação;FOPT* =valor final da função de avaliação .

4.2 Resultados variando o Cronograma detêmpera, variável T

Com a finalidade de aumentar o espaço debusca, a temperatura foi elevada numa ordem deescala. Os result ados obtidos, entretanto , nãoindicaram uma melhora no proces so.Provavelmente, o processo "perde tempo"oscilando fortemente por diversas regiões doespaço, que depois seria necessário para refinar asolução final. Uma sínte se do que foi obtido,com T = 50000, RT = 0.85 e MAXEVL = 20 000pode ser visto a seguir:

O resultado é pior que o obtido com T =5000.

4.3 Resultados variando o número de avaliaçõespor ciclo, NS e NT

A intenção ao tornar maior o ciclo deavaliações da função antes de cada redução detemperatura, é obter um minucioso reconhecimentodas áreas do hiperespaço próximas ao local que estásendo testado. Evidentemente o esforço e tempocomputacional aumentam. No caso , a ordem doaumento foi de dez vezes , empregando NS = 20 eNT =5. Para compensar o esforço computaci onaladici onal , MAXEVL foi passado para 100000,enqu anto a temperatura e a const ante de Boltzmanforam as que melhor resultad o deram nos testesanteriores, T = 5000 e RT = 0.99.

Os resultados da variação de NS e NT,com RT = 0.99, foram os seguintes:

375

Na verdade o processo não foi terminado,dado o critério de parada em ambos testes.Entretanto, pode se verificar que com o exemplousado, que corresponde a um caso trivial, o esforçoadicional de busca não foi recompensado com umvalor menor de FER. A notar que o vetor deparâmetros ótimos , que diferiu em seus elementos 3e 4 e mesmo assim produziu o mesmo resultado.

5. Conclusões

Antes de iniciar os comentários finais , éimportante que se tenha em mente que asconclusões apresentadas se referem à aplicação doprocesso de recozimento simulado ao problema deajustar os parâmetros de um processo dinâmico desimulação de desordem espacial. Portanto, nãodevem ser interpretadas como relativas a aplicaçãodeste método de busca a qualquer problema oucomo conclusões de caráter geral.

Para que seja possível ter umasensibilidade da qualidade dos resultados obtidoscom o processo de otimização, foi efetuado umensaio com a FER, usando 30 simulações porconjunto de parâmetros e pesos equivalentes paraos dois primeiros momentos da função. O "pontode partida" foi de uma posição que mostrou valoresbaixos de FER relativa ao conjunto de valoresusados para comparar cada simulação. O conjuntode valores "reais" usados na comparação foi omesmo que no teste de ajuste de parâmetros. Oensaio correspondeu ao levantamento de umaamostra de 30 cálculos do valor da FER, quepossibilitou verificar o seguinte:

• Afdp da FER aproxima-se da normal.

• Com os parâmetros empregados, obteve-se umamédia = 245.85 e um desvio padrão =68.971.

Portanto, "saindo" deste vetor, seriaesperado que o processo encaminhasse a soluçãopara uma região do hiperespaço que resultassenuma FER menor ( o quanto menor é aqui umaincógnita!) .

De modo geral, foi visto que é possívelcaminhar para uma solução melhor empregando oprocesso de recozimento simulado. Entretanto acalibragem dos parâmetros do programa SA éfundamental para que o resultado final obtidorealmente corresponda a um ganho significativo 'noajuste. É importante salientar que antes deapresentar os piores resultados mostrados nestetrabalho, vários testes foram realizados para ganharconsistência nas respostas. Também foi notado queos sucessivos "ganhos" que o processo conseguesão obtidos passeando por regiões realmente

distintas do esp aço , isto é, pa ra logra um apequ enaqueda na FER, muitas vezes é necessário migra rpara um loc al distante do último ótimo.

Uma outra cons tatação de grandeimportância é que se bem os resul tados do aj ustedependem bastante dos parâmetr os emp regados norecozimento simulado, a região do espaço de onde édada a partida deve ser escolhida com bastant ecuidado. Isto ocorre basicamente porque a top ologiado hiperespaço de busca é bastante "acidentada",apresentando variações grandes para mudançasrelativamente pequenas nos parâmetros que ger ama desordem. Desta forma é difícil, na prática,empregar qualquer vetor de saída e conseguirconvergir para regiões que apresentam mínimosaceitáveis de FER, embora se sa iba que o processoap resenta teoricament e prova de con vergência. Emsíntese, fo i possível notar:

• O Cronogram a de têmpera deve trabalhar comum temperatura e levada, e um recozimentolento T e RT eleva dos.

• A saída deve ser de uma região acei tável. Nesteparti cul ar , é fundame ntal co mpreender osignifica do dos parâmet ros do processodin âmico. A componente alea tó ria e a taxa demigraçã o (e lementos 3 e 4 do vetor depa râmetros ), devem aprese ntar valoresrazoáveis. Por exemplo r = I es tá dentro dodomínio de FER, entretant o isto sig nifica torn aro processo de desordem completamentealeatório, o que dificilment e se aj ustará aqualquer processo de crescimento de carga

• O número de ava liações da função por cicl odeve ser grande, entre tanto, qu and o este númeroé maior que 50 , o es forço computacionalad icional parece não ser compensado comresultados significativamente melh ores. Écompensa tório, diante do esforço de máquina,lev ar este valor para N.50, ou 200 no caso, comNT = 5 e NS = 10.

• É possível aj ustar um co njunto de parâmetros auma situação hipotét ica ( e provavelm ent e rea l),de tal forma que seja poss íve l reprodu zir ocrescimento de po ntos ao longo de um espaçounid imen sional , usando um processo d inâm icobaseado na teoria dos pólos dedesenvolvimento, tal como oco rre ria nareal idade.

6. Re ferências Bibliográficas

I. Corana, A.: Marchesi , M .: Martini , c.: Ridell a,S . - "Minimizing Multimodal Functions 01'Con tinuous Variables with the SimulatedAnnealin g Algorithm". ACM Trans actions on

376

Mathem atical Software , Vol. 13, No . 3,Sept ember 1987 , p. 262-280.

2. Goffe , W.L. ; Ferrier , G .D .: Rogers, 1. - "G lobalOptimizati on of Stat istical Functions withSimulated Annealin g" Journal ofEconometrics 60 ( 1994) p. 65-99. North-Holland .

3. Kirkpatrick , S. ; Gelatt , C.D, lr. ; and Vecchi ,M .P. - "Optirnization by Simulated Annealing" .Science 220, 4598, p. 671-680, May 1983 .

4 . Metropolis, N.; Rosenbluth, A.; Rosenbluth, M .Teller , A. and Teller, E . - "Equation of StateCalculations by Fast Computer Machines" .1ourna l of Chem. Phys. 2 1, p. 1087 -1090, 1953 .