a2 – aprendizagem automática ml – machine...

16
7/15/2013 1 1 Julho e Agosto de 2013 A2 – Aprendizagem Automática ML – Machine Learning José Valente de Oliveira http://w3.ualg.pt/~jvo j[email protected] Preparado para o curso de pós-graduação em Ciências da Computação da Universidade Federal do Ceará, Fortaleza, Brasil From: http://pt.wikipedia.org/wiki/Algarve 2 Algarve

Upload: hoangthu

Post on 11-Nov-2018

217 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: A2 – Aprendizagem Automática ML – Machine Learningw3.ualg.pt/~jvo/ufc-ml-2013/mlufc2013t1.pdf · Aprendizagem é o processo em que o sistema melhora o seu desempenho com base

7/15/2013

1

1

Julho e Agosto de 2013

A2 – Aprendizagem Automática ML – Machine Learning

José Valente de Oliveirahttp://w3.ualg.pt/~jvo

[email protected]

Preparado para o curso de pós-graduação em Ciências da Computação da Universidade Federal do Ceará, Fortaleza, Brasil

From: http://pt.wikipedia.org/wiki/Algarve 2

Algarve

Page 2: A2 – Aprendizagem Automática ML – Machine Learningw3.ualg.pt/~jvo/ufc-ml-2013/mlufc2013t1.pdf · Aprendizagem é o processo em que o sistema melhora o seu desempenho com base

7/15/2013

2

From: http://pt.wikipedia.org/wiki/Algarve 3

Algarve, Faro

From: http://www..ualg.pt 4

Ualg, Universidade do Algarve

Page 3: A2 – Aprendizagem Automática ML – Machine Learningw3.ualg.pt/~jvo/ufc-ml-2013/mlufc2013t1.pdf · Aprendizagem é o processo em que o sistema melhora o seu desempenho com base

7/15/2013

3

About UAlg

7/15/2013 http://www.ualg.pt 5

Established in 1979Student population around 10 000829 faculty members; 452 technical and administrative staffThree faculties:Faculty of Economics;Faculty of Human and Social Sciences;Faculty of Sciences and Technology.

four schools:School of Education and Communication;School of Management, Hospitality and Tourism;Engineering Institute;Faro School of Health

and one Dept. of Biomedical Sciences and Medicine

143 degree programs

w3.ualg.pt/~jvo/ml

Todos os detalhes na tutoria electrónica.

Page 4: A2 – Aprendizagem Automática ML – Machine Learningw3.ualg.pt/~jvo/ufc-ml-2013/mlufc2013t1.pdf · Aprendizagem é o processo em que o sistema melhora o seu desempenho com base

7/15/2013

4

O que é a Aprendizagem Automática?

http://w3.ualg.pt/~jvo/ml

SPAM

Page 5: A2 – Aprendizagem Automática ML – Machine Learningw3.ualg.pt/~jvo/ufc-ml-2013/mlufc2013t1.pdf · Aprendizagem é o processo em que o sistema melhora o seu desempenho com base

7/15/2013

5

15-Jul-13 http://w3.ualg.pt/~jvo/ml 12 – 9

À procura de uma definiçãoAprendizagem é o processo em que o sistema melhora o seu desempenho com base na sua experiência (Herbert Simon).

Aprender significa realizar mudanças úteis no modo de funcionar da nossa mente (Minsky)

15-Jul-13 http://w3.ualg.pt/~jvo/ml 12 – 10

À procura de uma definição

Aprendizagem Máquina é o campo de estudo que permite aos computadores aprenderem sem terem de ser explicitamente programados (A. Samuel, 1959).

Page 6: A2 – Aprendizagem Automática ML – Machine Learningw3.ualg.pt/~jvo/ufc-ml-2013/mlufc2013t1.pdf · Aprendizagem é o processo em que o sistema melhora o seu desempenho com base

7/15/2013

6

15-Jul-13 http://w3.ualg.pt/~jvo/ml 12 – 11

À procura de uma definição

Um programa aprende a partir da experiencia E relativamente a alguma classe de tarefas Te medida de desempenho P, se o seu desempenho na tarefa T, medido por P, melhora com a experiência E. (Mitchell, 1997)

15-Jul-13 12 – 12

Exemplo 1

T: Jogar damas

P: Percentagem de jogos ganhos contra adversários

E: Praticar jogando consigo próprio

Page 7: A2 – Aprendizagem Automática ML – Machine Learningw3.ualg.pt/~jvo/ufc-ml-2013/mlufc2013t1.pdf · Aprendizagem é o processo em que o sistema melhora o seu desempenho com base

7/15/2013

7

15-Jul-13 12 – 13

Exemplo 2

T: Reconhecer dígitos manuscritosP: Percentagem de dígitos corretamente

classificadosE: Base de dados com imagens rotuladas de dígitos

manuscritos.

15-Jul-13 12 – 14

Exemplo 3

T: Classificação de mensagens de email como spam (ou legítimas)

P: Percentagem de emails classificados corretamente.

E: Base de dados de emails, alguns previamente classificados como spam.

SPAM

Page 8: A2 – Aprendizagem Automática ML – Machine Learningw3.ualg.pt/~jvo/ufc-ml-2013/mlufc2013t1.pdf · Aprendizagem é o processo em que o sistema melhora o seu desempenho com base

7/15/2013

8

15-Jul-13 12 – 15

Exemplo 4T: Conduzir em autoestradausando câmaras de video

P: Distância média percorridaantes de ser assinalado um erro

E: Uma sequência de imagens e comandos de direçãoobservados de um condutorhumano.

O ambiente varia no tempo.

Novo conhecimento está sendo constantemente descoberto tornando difícil o redesenho de sistemas “à mão”.

A quantidade de conhecimento disponível sobre certas tarefas é demasiado para ser explicitamente codificado (e.g., diagnóstico médico)

Por que é importante a Aprendizagem?

Page 9: A2 – Aprendizagem Automática ML – Machine Learningw3.ualg.pt/~jvo/ufc-ml-2013/mlufc2013t1.pdf · Aprendizagem é o processo em que o sistema melhora o seu desempenho com base

7/15/2013

9

Por que é importante a Aprendizagem?

Algumas tarefas não podem ser bem especificadas a não ser por exemplos (e.g., reconhecimento de pessoas).

Os relacionamentos e correlações podem estar escondidos em grandes volumes de dados e a aprendizagem poderá ser capaz de descobrir essas relações.

15-Jul-13 12 – 18

EntradasPares Atributo/valor: numéricos, texto, etc

SaídaNumérico, simbólico, gráfico

Tipo de aprendizagemDeductivo, inductivo

TarefaClassificação, regressão

Tipo de feedbackSupervisionado, por reforço, não supervisionado

Variantes

Page 10: A2 – Aprendizagem Automática ML – Machine Learningw3.ualg.pt/~jvo/ufc-ml-2013/mlufc2013t1.pdf · Aprendizagem é o processo em que o sistema melhora o seu desempenho com base

7/15/2013

10

Regressão: Previsão de valores contínuos (preço)

Variantes: aprendizagem supervionsada

0

100

200

300

400

500

0 1000 2000 30000

100

200

300

400

500

0 1000 2000 3000

Preço($$)

Cilindrada (cc)

Classificação: Saída de valores discretos (0 ou 1)

Maligno?

1(Sim)

0(Não)

Tamanho do tumor

Variantes: aprendizagem supervionsada

Page 11: A2 – Aprendizagem Automática ML – Machine Learningw3.ualg.pt/~jvo/ufc-ml-2013/mlufc2013t1.pdf · Aprendizagem é o processo em que o sistema melhora o seu desempenho com base

7/15/2013

11

x1

x2

Variantes: aprendizagem não supervisionada

Análise de redes sociais

Análise de dados astronómicos

Segmentação do mercado

Variantes: aprendizagem não supervisionada

Page 12: A2 – Aprendizagem Automática ML – Machine Learningw3.ualg.pt/~jvo/ufc-ml-2013/mlufc2013t1.pdf · Aprendizagem é o processo em que o sistema melhora o seu desempenho com base

7/15/2013

12

Variantes: representaçãoFunções numéricas

Regressão linear,Redes neuronaisMáquinas de vectores de suporte

Funções simbólicasRegras em lógica proposicionalRegras em lógica de primeira-ordem

Modelos gráficos probabilisticos

Redes BayesianasModelos de Markvoc

15-Jul-13 12 – 24

Metaphors

Computacional Conexionist Biological

Metáforas

Page 13: A2 – Aprendizagem Automática ML – Machine Learningw3.ualg.pt/~jvo/ufc-ml-2013/mlufc2013t1.pdf · Aprendizagem é o processo em que o sistema melhora o seu desempenho com base

7/15/2013

13

Animal learning(Cognitive science,

Psychology, Neuroscience)Machine learning

Statistics

Computer science

Adaptive Control Theory

and

Robotics

Evolution

Economics

Aprendizagem Automática e a Computação

ML já é a abordagem preferida em:Reconhecimento de fala e processamento de linguagem naturalVisão por computadorAnálise de dados médicosControlo robótico…

O nicho ML tem vindo a crescer devidoAlgoritmos cada vez melhoresAumento da disponibilidade de dadosSoftware demasiado complexo para ser escrito manualmenteExigência do usário por customização

Todo o software

ML apps.

26

Page 14: A2 – Aprendizagem Automática ML – Machine Learningw3.ualg.pt/~jvo/ufc-ml-2013/mlufc2013t1.pdf · Aprendizagem é o processo em que o sistema melhora o seu desempenho com base

7/15/2013

14

http://w3.ualg.pt/~jvo/ml

Objetivos gerais da disciplina

Em traços gerais, a Aprendizagem Automática visa dotar programascom a capacidade de melhorar o seu desempenho usando suaexperiência (e.g., pilotos autónomos, reconhecedores de fala ouescrita, vídeo games, filtros de spam). Esta disciplina cobrealgoritmos e alguns aspetos teóricos e práticos para implementaçãode Aprendizado Automático. A disciplina é claramenteinterdisciplinar e inclui tópicos como técnicas Bayesianas, redesneurais, máquinas de vetores de suporte, métodos deaprendizagem estatística e aprendizagem não supervisionada.

No fim desta disciplina os estudantes deverão ser capazes deaplicar técnicas adequadas de Aprendizado Automático nodesenvolvimento de programas que encontram soluções para

instâncias de problemas reais.

http://w3.ualg.pt/~jvo/ml

Tópicos programáticos

IntroduçãoAprendizagem indutiva, regressão linear e logísticaRegularizaçãoAbordagem conexionista: Redes NeuraisMáquinas de Vetores de Suporte (SVM)Combinação de classificadoresTécnicas BayesianasModelos gráficosDeteção de AnomaliasSistemas de recomendaçãoAbordagem biológica: Algoritmos genéticos e evolutivos

Page 15: A2 – Aprendizagem Automática ML – Machine Learningw3.ualg.pt/~jvo/ufc-ml-2013/mlufc2013t1.pdf · Aprendizagem é o processo em que o sistema melhora o seu desempenho com base

7/15/2013

15

http://w3.ualg.pt/~jvo/ml

Bibliografia recomendada

http://w3.ualg.pt/~jvo/iml

Recommended bibliography[Referência principal]

Christopher Bishop, Pattern Recognition and Machine Learning, Springer, 2006

[Referência complementar]Ethem Alpaydin, Introduction to Machine Learning. MIT Press, 2010

Recursos adicionais disponíves em http://w3.ualg.pt/~jvo/ml/

Page 16: A2 – Aprendizagem Automática ML – Machine Learningw3.ualg.pt/~jvo/ufc-ml-2013/mlufc2013t1.pdf · Aprendizagem é o processo em que o sistema melhora o seu desempenho com base

7/15/2013

16

http://w3.ualg.pt/~jvo/ml

AvaliaçãoNota final corresponde à média ponderada da nota de um conjunto de problemas que serão realizados ao longo da disciplina.

Arredondamentos só na nota final.

Os problemas incluem a realização de trabalhos práticos, opcionais.

Os trabalhos práticos são realizados em grupo de, no máximo, 3 (três) estudantes

http://w3.ualg.pt/~jvo/ml

SumárioIntrodução à Aprendizagem Automática : aplicações, definições, variantes, breve referência ao Estado da ArteObjetivos pedagógicos da disciplinaConteúdos programáticosBibliografia recomendadaAvaliaçãoRecursos online