instituto de ciências matemáticas e de computação –...

77
Visão Computacional e Aplicações João do E. S. Batista Neto Instituto de Ciências Matemáticas e de Computação – ICMC-USP

Upload: others

Post on 22-Jul-2020

1 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Visão Computacional e Aplicações

João do E. S. Batista Neto

Instituto de Ciências Matemáticas e de Computação – ICMC-USP

Page 2: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Domício PinheiroAgência Estado

Page 3: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Visã

o C

ompu

taci

onal Processamento de Imagens

Computação Gráfica

Visualização Científica

Análise de Imagens

Page 4: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Áreas Relacionadas

Modelagem Visualização Computacional

Computação Gráfica Síntese de Imagens

Processamento de Imagens Visão Computacional

Page 5: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Processamento de imagens

Modelagem de dados(processamento de dados)

Visão(análise de imagem)

Visualização(computação gráfica,síntese de imagem)

DADOS

IMAGEM

Imagem – Á

reas Corre

latas

Page 6: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Modelagem

Cena: lista de objetos + condições de iluminação Objetos: características geométricas

Forma Maneira como interagem com a luz incidente.

Ambos os tipos de características podem ser descritos através de modelos Grau variável de sofisticação -> realismo ! Modelagem geométrica Especificação de características óticas (material, cor,

transparência, etc). Muita estrutura de dados !!!!

Cena realista -> requer muito trabalho

Page 7: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Modelagem de dados

(visualização)

Curvas, superfícies, etc

Page 8: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Métodos p/ Modelagem

Métodos Analíticos ou Algébricos: representação

de curvas, superfícies.

Métodos Analíticos ou Algébricos: representação

de curvas, superfícies.

Page 9: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Computação Gráfica

síntese de imagens técnicas para gerar representações visuais a partir

de especificações geométricas e de atributos visuais dos seus componentes modelagem e rendering

objetivo: ‘mundo’ 3D no computador cena descrita em termos de sua geometria e

atributos visuais para o ‘rendering’, até obter matriz de pixels

Page 10: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Sistemas Gráficos: Características

sistemas altamente interativos usuário controla o conteúdo, a estrutura e a

aparência dos objetos e imagens visualizadas na tela, usando dispositivos de interação

forte relação com HCI - Interação Usuário Computador

Page 11: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Rendering: processo de geração de imagem a partir de um modelo. Em português:

visualização

Quer Ficar Rico ?

Page 12: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

2D

Computação Gráfica

3D

Page 13: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Rendering

Page 14: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Real ou Imaginário

Page 15: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Processamento de Imagens

técnicas de transformações de imagens descritas na forma de uma ‘matriz’ de pixels

objetivo: melhorar características visuais (aumentar contraste, melhorar foco, reduzir ruído, eliminar distorções), extrair elementos de interesse; ou mesmo ‘transformar’ a imagem, criando efeitos visuais

cena: matriz de ‘pixels’

Page 16: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Segmentação de um tumor em momografia

Processamento de Imagens

Page 17: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Leandro Gerhardiger, 2006

Processamento de Imagens

Page 18: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

André Balan, 2004

Page 19: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional
Page 20: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

O que é visão computacional?É a ciência que desenvolve as bases teóricas e algoritmicas pelas quais informações úteis são automaticamente extraídas de imagens por meio de computadores

Page 21: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

O que precisamos saber para ter sucesso na construção de um sistema

de visão artificial ?

• Aspectos Cognitivos: combinação dos aparelhos sensoriais e comportamento psico-biológico: neurociências, IA, filosofia, psicologia, lingüística.

• Aspectos fisiológicos do cérebro.

Page 22: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Aspectos Cognitivos

Page 23: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Exemplo : ilusão cognitiva (distorção)

Tamanho, comprimento, curvatura

Page 24: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Exemplo : percepção visual – aspectos culturais

Mostre estas figuras para um árabe e um zulu...

Page 25: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Exemplo : percepção visual – especialização

Page 26: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Movimento sacádico

Page 27: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Aspectos Fisiológicos

Page 28: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Visão Natural: sistema super paralelo

Macro

Micro

Intermediário

Page 29: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Visão Natural: o olho humano

http://www.yorku.ca/eye/thejoy.htm

Page 30: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Blid Spot: Ponto Cego

Feche seu olho direito. Foque no número 3. Avance e recue.Ou foque nos nros à direita ou esquerda !

Page 31: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Bastonetes: Alta sensibilidade à luminosidade, não percebem corCones: Alta sensibilidade a cor, alta quantidade na fóvea

Cones: (sens.) C C M L M C

Page 32: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

O córtex visual

Page 33: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Córtex Inferotemporal Córtex Parietal

V4(comp. de onda; orientação; disparidade)

Cor e forma com cor

V5(direção; orientação; disparidade)

Movimento

V3(direção; orientação; disparidade)

Formas dinâmicas

Faixas finas(comp. de onda; orientação; disparidade)

Pálidas(comp. de onda)

Faixas grossas(direção; orientação; disparidade)

blobs(comp. de onda)

interblobs(comp. de onda;

orientação; disparidade

4B(direção;

orientação; disparidade)

Cones Bastonetes

V2

V1

LGN magnocelularLGN parvocelular

Córtex Inferotemporal Córtex Parietal

V4(comp. de onda; orientação; disparidade)

Cor e forma com cor

V5(direção; orientação; disparidade)

Movimento

V3(direção; orientação; disparidade)

Formas dinâmicas

Faixas finas(comp. de onda; orientação; disparidade)

Pálidas(comp. de onda)

Faixas grossas(direção; orientação; disparidade)

blobs(comp. de onda)

interblobs(comp. de onda;

orientação; disparidade

4B(direção;

orientação; disparidade)

Cones Bastonetes

V2

V1

LGN magnocelularLGN parvocelular

Page 34: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

A região A é mais escura que B, certo ? Isso não é uma pegadinha

Exemplo 1: fisiologia

Page 35: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Errado !

Page 36: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Resposta

• Contraste local

Este é um exemplo da excelente qualidade de nosso sistema visual, certo?

Certo !

• Algo claro, rodeado por algo mais escuro, tende a parecer mais claro do que é. E vice-versa !

Page 37: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Exemplo 2: fisiologia

Explicação: campos receptivos da retina

Page 38: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Visão Computacional/Artificial

• VISÃO é o processo de descobrir, a partir de imagens, o que está presente no mundo e onde está localizado

• Disciplinas relacionadas– Processamento de Imagens– Computação Gráfica– Reconhecimento de Padrões– Robótica– Inteligência artificial

Page 39: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Um sistema de visão computacional para indústria

Page 40: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Três níveis de atuação

Melhorar qualidade da

imagemPouca

inteligência

Extrair e caracterizar componentes

Alguma inteligência

ReconhecimentoAlta Inteligência

Page 41: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Exemplo: um sistema de visão para reconhecer digitais

Page 42: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Reconhecimento de Digitais - padrões

Bifurcações

Terminações

Page 43: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Típico sistema de visão

Cena

Pré-processamentoProcessamento de Imagens

1

Aquisição

2 3

456

Análise de ImagensExtração de característicasIA / reconhecimento de padrões

Page 44: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Cena 1 2 3

456

Passo 1 - Aquisição

Page 45: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Aquisição

Page 46: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Cena 1 2 3

456

Passo 2 - Pré-processamento

Page 47: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Pré-processamento

Page 48: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Cena 1 2 3

456

Passo 3 - Processamento de Imagens

Page 49: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Processamento de Imagens

Page 50: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Cena 1 2 3

456

Passo 4 - Análise de Imagens

Page 51: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Análise de Imagem

1- Procurar todos e marcar:

- bifurcações

- terminações

Page 52: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Análise de Imagem

2 - Determinar as orientações:

- bifurcações

- terminações

Page 53: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Cena 1 2 3

456

Passo 5 - Extração de Características

Page 54: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Extração de Características: Modelo Matemático

Modelo Matemático

- Semelhança de Triângulos

Combinar as marcações 3 a 3

Page 55: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Cena 1 2 3

456

Passo 6 - IA / Reconhecimento de padrões

Page 56: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

IA / Reconhecimento de padrões

Armazenar o modelo matemático de todos os triângulos

Base de conhecimento

Page 57: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

IA / Reconhecimento de padrões

Armazenar o modelo matemático de todos os triângulos

Base de conhecimento

Page 58: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

IA / Reconhecimento de padrões

Base de conhecimento Padrão reconhecido, digital

identificada

Comparar com modelos treinados

Page 59: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

É fácil emular a visão humana ?

Page 60: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Reconhecimento

Page 61: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Importância da cor

Page 62: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Importância da Textura

Page 63: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

The role of shape

Page 64: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Importância do agrupamento

Page 65: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Auxílio da matemática

• Sistemas mais antigos empregavam métodos heurísticos

• Hoje recorremos à matemática, às vezes um pouco pesada !– Cálculo– Algebra Linear– Probabilidade e estatística

– Processamento de Sinais

– Projeção Geométrica

– Geometria Computacional– Otimização

• Boa notícia: muita computação !

Page 66: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Aplicações

• Inspeção industrial/Controle Qualidade

• Segurança

• Reconhecimento Facial

• Reconhecimento Gestos

• Aplicações espaciais

• Análise de imagens médicas

• Veículos autônomos

• Agro-negócio

Page 67: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

André Balan, 2004

Identificação de pássaros para controle de poluição ambiental

Page 68: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Leandro Gerhardiger, 2006

Segmentação por Campos Aleatórios de Markov em multi escala

Page 69: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Segmentação de um tumor em momografia

Page 70: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Recuperação de conteúdo em grandes BD por imagem

Page 71: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Desirée Dias, 2005

Identificação de Ferrugem de Cana – Casa Branca

Page 72: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional
Page 73: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional
Page 74: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional
Page 75: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Criação de mosaica em plantações de eucalipto

Page 76: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional
Page 77: Instituto de Ciências Matemáticas e de Computação – ICMC-USPjbatista/procimg/2015/intro_2015.pdf · – Robótica – Inteligência artificial. Um sistema de visão computacional

Mosaico criado automaticamente, sem nenhum georeferenciamento