Redes Neurais ArtificiaisVitor Almeida

O que são redes neuraisComposição de

elementos simples agindo

em paralelo.

Inspiração biológica –

NEURÔNIOS.

A função simulada pela rede é

determinada pelos pesos entre os

neurônios.

Tem que se treinar a rede!Normalmente, o

treinamento é feito apresentando a rede

vários vetores de entrada e cada uma de suas saídas desejadas (TREINAMENTO

SUPERVISIONADO).

+ Treinamento

O treinamento pode ser do tipo BATCH ou ON-LINE.

O treinamento pode ser

NÃO-SUPERVISION

ADO.

A pouco tempo atrás...

Neurônios

Funções de ativação

Neurônio com um vetor de entradas

Uma camada de neurônios

Várias camadas de neurônios

O Perceptron

Regras de AprendizadoUma regra de

aprendizado é o procedimento para

modificar os pesos e bias de uma rede.

No caso do aprendizado supervisionado uma série

de exemplos e respectivas saídas

desejadas é apresentado a rede.

Assim, um exemplo é apresentado a rede e saída da rede é comparada com a saída

desejada, caso não sejam iguais, os pesos e bias são ajustados para aproximar a

saída da rede à saída desejada.

Regra de treinamento do Perceptron (Delta Rule)

Para cada exemplo apresentado ao Perceptron:

Caso 1: se a saída obtida for igual a desejada, os pesos (matriz W) não são

alterados.

Caso 2: se a saída obtida for 1 e a desejada 0, os valores de P são

adicionados a W.

Caso 3: se a saída obtida for 0 e a desejada 1, os valores de P são

subtraídos de W.

Backpropagation ou RetropropagaçãoGeneralização da regra de aprendizado de Widrow-

Holf para redes com várias camadas e funções de ativação diferenciáveis

e não lineares.

Redes com bias, uma camada sigmóide e uma camada de saída linear

podem aproximar qualquer função com um número

finito de descontinuidades.

Assim, após treinamento uma rede MLP-BP responde

razoavelmente bem à entradas cujas saídas desejadas não foram apresentadas a rede.

O processo para construir e fazer funcionar uma MLP-BP

Separe os dados de treinamento.

Crie a rede.

Treine a rede.

Simule as respostas da rede

a novos inputs.

Arquitetura

Como treinar?

•Forward: •Um exemplo é apresentado a camada de entrada.•O “sinal” percorre as camadas escondidas. Em cada camada, cada neurônio gera sua saída que servirá de entrada para os neurônios da camada subsequente.•As saídas produzidas pela última camada são comparadas às saídas desejadas.

•Backward:•A partir da última camada até a camada de entrada:•Os neurônios da camada atual ajustam seus pesos de forma a reduzir seus erros.•Os erros dos neurônios das camadas intermediárias são calculados a partir dos erros dos neurônios da camada subseqüente ponderados pelos pesos das conexões entre eles.

Duas Fase

s:

AplicaçõesReconhecimento de imagens

◦classificação de caracteres◦ reconhecimento de assinaturas◦ reconhecimento de faces

Reconhecimento de sons◦classificação de fonemas◦ reconhecimento de comandos

Classificação financeira◦análise de crédito◦análise de investimentos◦previsão e falência de empresas

+ AplicaçõesAnálise de células cancerígenasDiagnóstico de doençasPredição de casos de dengue a

partir de séries históricasReconhecimento de cadeias de

nucleotídeos

XiscanoéA idéia inicial seria usar uma rede neural

artificial no lugar das regras de mudança de estado dos autômatos celulares.

Dificuldades:◦ treinamento da rede,◦onde conseguir uma série histórica para treinar

a rede?Resolução: Buscar bases de dados

alternativas.Uma idéia: Previsão da incidência de

dengue por bairro em Jaboatão. Cada bairro seria uma célula!

XiscanoéOutro caminho:Entender como funcionam os autômatos

hoje em funcionamento no Xiscanoé!Daí ou implementar a idéia de usar redes

neurais no lugar das regras...Ou tentar implementar redes neurais

para fazer o que os autômatos fazem e comparar.

Finalmente tentar entender o que uma cellular neural network, que é uma rede neural baseada nos autômatos celulares.