Redes Neurais ArtificiaisVitor Almeida
O que são redes neuraisComposição de
elementos simples agindo
em paralelo.
Inspiração biológica –
NEURÔNIOS.
A função simulada pela rede é
determinada pelos pesos entre os
neurônios.
Tem que se treinar a rede!Normalmente, o
treinamento é feito apresentando a rede
vários vetores de entrada e cada uma de suas saídas desejadas (TREINAMENTO
SUPERVISIONADO).
+ Treinamento
O treinamento pode ser do tipo BATCH ou ON-LINE.
O treinamento pode ser
NÃO-SUPERVISION
ADO.
A pouco tempo atrás...
Neurônios
Funções de ativação
Neurônio com um vetor de entradas
Uma camada de neurônios
Várias camadas de neurônios
O Perceptron
Regras de AprendizadoUma regra de
aprendizado é o procedimento para
modificar os pesos e bias de uma rede.
No caso do aprendizado supervisionado uma série
de exemplos e respectivas saídas
desejadas é apresentado a rede.
Assim, um exemplo é apresentado a rede e saída da rede é comparada com a saída
desejada, caso não sejam iguais, os pesos e bias são ajustados para aproximar a
saída da rede à saída desejada.
Regra de treinamento do Perceptron (Delta Rule)
Para cada exemplo apresentado ao Perceptron:
Caso 1: se a saída obtida for igual a desejada, os pesos (matriz W) não são
alterados.
Caso 2: se a saída obtida for 1 e a desejada 0, os valores de P são
adicionados a W.
Caso 3: se a saída obtida for 0 e a desejada 1, os valores de P são
subtraídos de W.
Backpropagation ou RetropropagaçãoGeneralização da regra de aprendizado de Widrow-
Holf para redes com várias camadas e funções de ativação diferenciáveis
e não lineares.
Redes com bias, uma camada sigmóide e uma camada de saída linear
podem aproximar qualquer função com um número
finito de descontinuidades.
Assim, após treinamento uma rede MLP-BP responde
razoavelmente bem à entradas cujas saídas desejadas não foram apresentadas a rede.
O processo para construir e fazer funcionar uma MLP-BP
Separe os dados de treinamento.
Crie a rede.
Treine a rede.
Simule as respostas da rede
a novos inputs.
Arquitetura
Como treinar?
•Forward: •Um exemplo é apresentado a camada de entrada.•O “sinal” percorre as camadas escondidas. Em cada camada, cada neurônio gera sua saída que servirá de entrada para os neurônios da camada subsequente.•As saídas produzidas pela última camada são comparadas às saídas desejadas.
•Backward:•A partir da última camada até a camada de entrada:•Os neurônios da camada atual ajustam seus pesos de forma a reduzir seus erros.•Os erros dos neurônios das camadas intermediárias são calculados a partir dos erros dos neurônios da camada subseqüente ponderados pelos pesos das conexões entre eles.
Duas Fase
s:
AplicaçõesReconhecimento de imagens
◦classificação de caracteres◦ reconhecimento de assinaturas◦ reconhecimento de faces
Reconhecimento de sons◦classificação de fonemas◦ reconhecimento de comandos
Classificação financeira◦análise de crédito◦análise de investimentos◦previsão e falência de empresas
+ AplicaçõesAnálise de células cancerígenasDiagnóstico de doençasPredição de casos de dengue a
partir de séries históricasReconhecimento de cadeias de
nucleotídeos
XiscanoéA idéia inicial seria usar uma rede neural
artificial no lugar das regras de mudança de estado dos autômatos celulares.
Dificuldades:◦ treinamento da rede,◦onde conseguir uma série histórica para treinar
a rede?Resolução: Buscar bases de dados
alternativas.Uma idéia: Previsão da incidência de
dengue por bairro em Jaboatão. Cada bairro seria uma célula!
XiscanoéOutro caminho:Entender como funcionam os autômatos
hoje em funcionamento no Xiscanoé!Daí ou implementar a idéia de usar redes
neurais no lugar das regras...Ou tentar implementar redes neurais
para fazer o que os autômatos fazem e comparar.
Finalmente tentar entender o que uma cellular neural network, que é uma rede neural baseada nos autômatos celulares.