análise de objectos em imagens: técnicas e aplicaçõestavares/downloads/... · segmentação •...

103
Análise de Objectos em Imagens: Técnicas e Aplicações João Manuel R. S. Tavares [email protected] www.fe.up.pt/~tavares

Upload: others

Post on 26-Aug-2020

1 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Análise de Objectos em Imagens:

Técnicas e Aplicações

João Manuel R. S. Tavares

[email protected] www.fe.up.pt/~tavares

Page 2: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Sumário

1. Apresentação

2. Análise de Objectos em Imagens

I. Introdução

II. Segmentação

III. Seguimento de Movimento

IV. Emparelhamento, Alinhamento e Simulação

V. Reconstrução 3D

3. Equipa

4. Eventos & Publicações

2 Análise de Objectos em Imagens: Técnicas e Aplicações João Manuel R. S. Tavares

Page 3: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Apresentação

Page 4: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Apresentação

• Prof. Auxiliar no Dep. de Eng. Mecânica (DEMec) da Fac.

de Eng. da Universidade do Porto (FEUP)

• Investigador Sénior e Coordenador de Projecto no Lab. de

Óptica e Mecânica Experimental (LOME) do Instituto de

Eng. Mecânica e Gestão Industrial (INEGI)

• Doutorado e Mestre em Eng. Electrotécnica e de

Computadores (FEUP) (com Tese e Dissertação na área do

Processamento e Análise de Imagem)

• Licenciado em Eng. Mecânica (FEUP)

• Áreas de Investigação: Processamento e Análise de

Imagem (segmentação, seguimento, emparelhamento, alinhamento e

reconstrução 3D), Interfaces Homem/Máquina (visualização de

dados e percepção humana), Desenvolvimento de Produto (sistemas protótipos biomédicos), Movimento e Postura Humana

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 4

Page 5: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Análise de Objectos

em Imagens

Page 6: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Introdução

• O sistema sensorial de visão tem elevada importância

para grande parte dos seres vivos

– Podendo disponibilizar informações de índole básica, como

verificar a existência ou não de obstáculos, ou complexa, como o

seguimento e a análise de movimento

– Operações comuns: identificação (segmentação), seguimento e

reconhecimento de movimento (seguimento e análise),

correspondência e alinhamento (emparelhamento e

alinhamento), interpolação de formas (simulação), obtenção da

forma/informação 3D (reconstrução 3D)

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 6

Page 7: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Introdução

• Os investigadores da área Análise de Imagem tentam

desenvolver algoritmos computacionais para realizar de

forma automática, ou semi-automática, operações e

tarefas desenvolvidas pelos (complexos) sistemas de

visão dos seres vivos

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 7

Imagens

originais

Azevedo et al. (2010) Computer Methods in Biomechanics and Biomedical Engineering 13(3):359-369

Modelo computacional 3D

voxalizado e poligonizado

Page 8: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Introdução

• Algoritmos de Análise de Objectos em Imagens são de

elevado interesse para a Sociedade, sendo

frequentemente usados, por exemplo, em:

– Medicina, Biologia

– Ciências naturais, Desporto

– Engenharia, Indústria

• Exemplos de tarefas comuns envolvendo algoritmos de

Análise de Objectos em Imagens:

– Segmentação, Reconhecimento (2D-4D)

– Seguimento e análise de movimento, incluindo emparelhamento,

alinhamento e simulação (2D-4D)

– Reconstrução 3D

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 8

Page 9: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Introdução: Análise de Objectos em Imagens – Operações e Objectivos

Análise de Objectos em Imagens: Técnicas e Aplicações 9

Melhoramento

de imagem Segmentação de imagem /

extracção de características

seguimento

emparelhamento

simulação

Imagem /

imagens

Análise de

movimento alinhamento

Processamento

de Imagem

Análise de Imagem /

Visão Computacional

João Manuel R. S. Tavares

Visão 3D

Visão por

Computador

Page 10: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Análise de Objectos em Imagens: Técnicas e Aplicações 10 João Manuel R. S. Tavares

Introdução

• (Pré-)Processamento de Imagem: suavização de ruído

por difusão anisotrópica

Page 11: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Análise de Objectos

em Imagens: Segmentação

Page 12: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Segmentação

• Pretende-se identificar de forma automática, ou semi-

automática, os objectos (2D/3D) presentes em imagens

estáticas ou em sequências de imagem

• As técnicas mais comuns são baseadas em

emparelhamento de protótipos, modelações

geométricas, estatísticas e físicas, e redes neuronais

• É uma das operações mais usuais em Visão

Computacional, sendo frequentemente a primeira

“grande” tarefa considerada

• Problemas envolvidos: ruído, baixa resolução, reduzido

contraste, formas não conhecidas, oclusões parciais,

múltiplos objectos presentes, etc.

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 12

Page 13: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

• Segmentação de contornos em pedobarografia dinâmica:

método de Otsu, operadores morfológicos

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 13

Imagens originais Após segmentação

Bastos & Tavares (2004) LNCS 3179:39-50

Segmentação

camada de contacto

+ vidro

câmara espelho

luz reflectida vidro

pressão camada opaca

lâmpada

lâmpada camada

transparente

Page 14: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Segmentação

• Análise do dano em materiais: binarização e análise de

regiões

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 14

Imagem original Após segmentação

Região do dano Medidas obtidas

Marques et al. (2009) Composites Science and Technology 69(14):2376-2382

Albuquerque et al. (2010) Journal of Composite Materials 44(9):1139-1159

Page 15: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Region Growing, x=215; y=254

Segmentação

• Segmentação de estruturas do ouvido: método de

crescimento de regiões

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 15

Imagem original Segmentação obtida

(labirinto ósseo)

Barroso et al. (2011) CNME

X: 254 Y: 214

Index: 116.7

RGB: 0.459, 0.459, 0.459

Page 16: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Segmentação

• Medição de dureza de materiais: método de Johannsen

and Bille, crescimento de regiões

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 16

Dureza Vickers Dureza Brinell

Filho et al. (2010) Journal of Testing and Evaluation 38(1):88-94

Page 17: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Segmentação

• Análise de microestruturas em materiais: rede neuronal

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 17

Imagens originais Após segmentação

Albuquerque et al. (2008) Nondestructive Testing and Evaluation 23(4):273-283

Albuquerque et al. (2009) NDT & E International 42(7):644-651

Page 18: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Segmentação

• Análise das fases secundárias em materiais em imagens

de microscopia electrónica de varrimento: rede neuronal

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 18

Imagem original Imagem segmentada

Albuquerque et al. (2011) Microscopy Research and Technique 74(1):36-46

Page 19: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Segmentação

• Análise de porosidade de materiais a partir de imagens

de microscopia óptica: rede neuronal

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 19

Imagem original e pixels de treino Imagem segmentada

Albuquerque et al. (2010) Journal of Microscopy 240(1):50-59

Page 20: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Segmentação

• Controlo de um sistema por

linguagem gestual: histogramas de

orientação

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 20

Tavares et al. (2005) International Journal of Advanced Robotic Systems 2(1):39-44

Modo de Execução

Modo de Aprendizagem

Conversão para 256

níveis de cinzento

Cálculo e registo

dos histogramas de

orientação de

cada ordem

1 2

3 4

Aquisição de imagens

de ordem (uma a uma)

Working

g

Aquisição de

imagem de ordem

Conversão para 256

níveis de cinzento

Comparação do histograma

da nova imagem com os

histogramas das imagens de

ordem treinadas

Execução da

ordem

reconhecida

1 3 4

1 2 4

1 2 3

2 3 4

4

2

1

Working

g

Page 21: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Segmentação

• Detecção de tumores na mama a partir de imagens de

mamografia: transformada de Hough

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 21

Chagas et al. (2007) VIPimage 2007, 363-368

Imagem original Após segmentação

Page 22: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Segmentação

• Reconhecimento de objectos em imagens:

emparelhamento de imagem protótipo

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 22

Carvalho & Tavares (2005) CMNI 2005

fft fft

ift

3ift D CC 2ift D CC

max CC

Imagem original

Imagem protótipo

Page 23: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Segmentação

• Segmentação de características: protótipos

deformáveis geométricos

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 23

Carvalho & Tavares (2006) CompIMAGE 2006, 129-134

Carvalho & Tavares (2007) VipIMAGE 2007, 209-215

Exemplo de um

protótipo deformável

Page 24: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Segmentação

• Segmentação de características faciais:

protótipos deformáveis geométricos

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 24

Carvalho & Tavares (2006) CompIMAGE 2006, 129-134

Carvalho & Tavares (2007) VipIMAGE 2007, 209-215

Imagem original e imagens

de campos de energia (força)

Segmentação da íris usando um

protótipo deformável (circulo)

Segmentação do

olho usando um

protótipo deformável

Page 25: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Segmentação

• Segmentação de regiões de pele em imagens: modelos

estatísticos

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 25

Amostras de pele usadas

para construir o modelo

Imagem original e

segmentação obtida

Carvalho & Tavares (2005) CMNI 2005

Carvalho & Tavares (2008) Tékhne VI(9):245-266

Função de probablidade

usada

Page 26: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 26

Segmentação

• Segmentação do fundo da cena/objecto em sequências

de imagens: modelos estatísticos

Subtracção do

fundo

Detecção do objecto

em movimento

Vasconcelos & Tavares (2008) WCCM8 / ECCOMAS 2008

Imagens

originais

Page 27: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 27

Segmentação

• Segmentação do fundo da cena/objecto em sequências

de imagens: modelos estatísticos

Modelação e Subtracção

do fundo

Detecção do objecto

em movimento

Vasconcelos & Tavares (2008) WCCM8 / ECCOMAS 2008

Vasconcelos & Tavares (2011) EUROMECH Colloquium 511

Imagens originais (www.nada.kth.se/cvap/actions)

Page 28: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Segmentação

• Segmentação de objectos em imagens: modelos de

distribuição pontual (i. e. modelos de forma)

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 28

Vasconcelos & Tavares (2008) Computer Modeling in Engineering & Sciences 36(3):213-241

Page 29: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Segmentação

• Segmentação de objectos em imagens: modelos

activos de forma

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 29

Vasconcelos & Tavares (2008) Computer Modeling in Engineering & Sciences 36(3):213-241

Page 30: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Segmentação

• Segmentação de mãos e faces em imagens: modelos

activos de forma

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 30

Segmentações obtidas (inicial, intermédias e final)

Vasconcelos & Tavares (2008) Computer Modeling in Engineering & Sciences 36(3):213-241

Page 31: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Segmentação

• Segmentação de objectos em imagens: modelos

activos de aparência

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 31

Vasconcelos & Tavares (2008) Computer Modeling in Engineering & Sciences 36(3):213-241

Page 32: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Segmentação

• Segmentação de faces em imagens: modelos activos de

aparência

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 32

Vasconcelos & Tavares (2008) Computer Modeling in Engineering & Sciences 36(3):213-241

Imagem original e segmentações obtidas (inicial, intermédia e final)

Page 33: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Segmentação

• Análise do tracto vocal durante a fala partir de imagens

de ressonância magnética: modelos activos de forma

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 33

Vasconcelos et al. (2010) Journal of Voice, doi:10.1016/j.jvoice.2010.05.002 (in press)

Segmentação

internmédia II

Imagem

original +

modelo médio

Segmentação

final

Segmentação

intermédia I

Page 34: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Segmentação

• Análise do tracto vocal durante a fala partir de imagens de

ressonância magnética: modelos activos de aparência

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 34

Vasconcelos et al. (2010) Journal of Voice, doi:10.1016/j.jvoice.2010.05.002 (in press)

Vasconcelos et al. (2011) Journal of Engineering in Medicine 225(1):68-76

Segmentações

intermédias

Segmentação

inicial

Segmentação

final

Segmentações

intermédias

Page 35: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Segmentação

• Segmentação de objectos em imagens: contornos

activos (i.e. snakes)

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 35

Tavares et al. (2009) International Journal for Computational Vision and Biomechanics 2(2):209-220

Page 36: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Segmentação

• Segmentação de objectos em imagens: contornos

activos (i.e. snakes)

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 36

Imagem original e

contorno inicial

Contorno final

Tavares et al. (2009) International Journal for Computational Vision and Biomechanics 2(2):209-220

Page 37: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Segmentação

• Segmentação de objectos em imagens: contorno

deformável, FEM, equação de Lagrange

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 37

Gonçalves et al. (2008) Computer Modeling in Engineering & Sciences 32(1):45-55

Page 38: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Segmentação

• Segmentação de objectos em imagens: contorno

deformável, FEM, equação de Lagrange

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 38

Imagens originais e contornos iniciais Contornos finais

Gonçalves et al. (2008) Computer Modeling in Engineering & Sciences 32(1):45-55

borracha

k = 200N/m

14s

Page 39: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Segmentação

• Segmentação de objectos em imagens: métodos de

level set

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 39

Ma et al. (2010) Medical Engineering & Physics 32(7):766-774

Ma et al. (2010) Computer Methods in Biomechanics and Biomedical Engineering 13(2):235-246

Page 40: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Segmentação

• Segmentação de objectos em imagens médicas: método

de level set

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 40

Imagem original Segmentação inicial Segmentação final

Perdigão et al. (2005) Encontro_1_Biomecânica, 81-85

Page 41: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Segmentação

• Segmentação do pavimento pélvico a partir de imagens

de ressonância magnética: método de level set,

conhecimento prévio

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 41

Ma et al. (2010) Medical Engineering & Physics 32(7):766-774

Page 42: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

• Segmentação do pavimento pélvico feminino a partir de

imagens de ressonância magnética: método de level set,

conhecimento prévio

Segmentação

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 42

Ma et al. (2010) Medical Engineering & Physics 32(7):766-774

Segmentação do pavimento pélvico

Page 43: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Segmentação

• Segmentação de órgãos da cavidade pélvica feminina a

partir de imagens de ressonância magnética: modelos de

level set, conhecimento prévio

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 43

Ma et al. (2011) Computers in Biology and Medicine (submitted)

Segmentação em simultâneo de órgãos (bexiga, pavimento pélvico, ânus) da

cavidade pélvica (3 exemplos)

Page 44: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Segmentação

• Segmentação da bexiga a partir de imagens de

ressonância magnética: modelos de level set,

conhecimento prévio

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 44

Ma et al. (2011) Annals of Biomedical Engineering, DOI: 10.1007/s10439-011-0324-3 (in press)

Segmentação das paredes internas e externas da bexiga (3 exemplos)

Page 45: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Segmentação

• Nova plataforma para segmentação de imagens

médicas (VC++, OpenCV, ITK)

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 45

Interface da plataforma

Ma et al. (2008) CMBBE 2008

Ma et al. (2010) Computer Methods in Biomechanics and Biomedical Engineering 13(2):235-246

Page 46: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Segmentação

• Segmentação de órgãos da cavidade pélvica da mulher

a partir de imagens de ressonância magnética: nova

plataforma

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 46

Ma et al. (2010) Computer Methods in Biomechanics and Biomedical Engineering 13(2):235-246

Crescimento de regiões Watershed

Método de Malladi Contorno activo geodesico Level-set framework

Page 47: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Análise de Objectos

em Imagens: Seguimento

Page 48: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Seguimento

• Pretende-se seguir o movimento e/ou a deformação de

objectos em sequências de imagem (2D/3D)

• Nesta área, destacam-se as técnicas baseadas em fluxo

óptico, emparelhamento de blocos e em métodos

estocásticos

• Usualmente, envolve a estimativa do movimento

envolvido, a gestão das entidades seguidas, a análise

do movimento seguido bem como a sua quantificação

• Problemas envolvidos: movimento não rígido, distorção

geométrica, condições de iluminação variáveis,

oclusão, ruído, múltiplas estruturas, etc.

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 48

Page 49: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Seguimento

• Análise da propagação de fendas em materiais:

detecção da fenda em cada imagem por fluxo óptico

Análise de Objectos em Imagens: Técnicas e Aplicações 49

Richter-Trummer (2009) ESMC2009, 223-224

Richter-Trummer (2011) Materialwissenschaft und Werkstofftechnik 42(5):452-459

João Manuel R. S. Tavares

Setup experimental Detecção da propagação de uma fenda ao

longo de uma sequencia de imagens

Page 50: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Seguimento

• Plataforma desenvolvida para

seguimento de entidades (pontos

/ rectas) em sequências de

imagem: filtro de Kalman ou

filtro Unscented Kalman,

optimização, distância de

Mahalanobis, modelo de

gestão

Análise de Objectos em Imagens: Técnicas e Aplicações 50

Pinho et al. (2007) Int. Journal of Simulation Modelling 6(2):84-92

Pinho & Tavares (2009) VipIMAGE 2009, 299-304

Pinho & Tavares (2009) Computer Modeling in Engineering &

Sciences 46(1):51-75

João Manuel R. S. Tavares

Page 51: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Seguimento

• Seguimento de marcas em análise da marcha: filtro de

Kalman, distância de Mahalanobis, optimização, modelo

de gestão

Análise de Objectos em Imagens: Técnicas e Aplicações 51

Previsão Incerteza Medição Correspondência Resultado

Pinho et al. (2005) ICCB 2005, 915-926

Pinho & Tavares (2009) Computer Modeling in Engineering & Sciences 46(1):51-75

(5 frames)

João Manuel R. S. Tavares

Page 52: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 52

Sousa et al. (2007) ISHF2007, 331-340

Sousa et al. (2007) ICCB2007, 291-296

Seguimento

• Análise da marcha com detecção de

eventos: filtro de Kalman, distância

de Mahalanobis, optimização

Page 53: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

53 Análise de Objectos em Imagens: Técnicas e Aplicações

Pinho et al. (2005) LSCCS, Vol. 4A:463-466

Pinho et al. (2007) International Journal of Simulation Modelling 6(2):84-92

(547 frames)

Seguimento

• Seguimento de ratos em sequências longas de imagem:

filtro de Kalman, distância de Mahalanobis,

optimização, modelo de gestão

João Manuel R. S. Tavares

Page 54: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Análise de Objectos em Imagens: Técnicas e Aplicações 54

Seguimento

• Seguimento de ratos numa sequência de imagem real:

filtro de Kalman (KF) e filtro Unscented Kalman (UKF)

#15 #16 #17

KF

UKF

(22 frames)

João Manuel R. S. Tavares

+ previsão

x medição

x correcção

Page 55: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Análise de Objectos em Imagens: Técnicas e Aplicações 55

Seguimento

• Seguimento de ratos numa sequência de imagem real:

filtro de Kalman (KF) e filtro Unscented Kalman (UKF) –

cont.

Resultados do filtro de

Kalman

Resultados do filtro Unscented

Kalman

João Manuel R. S. Tavares

(22 frames)

Page 56: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Análise de Objectos em Imagens: Técnicas e Aplicações 56

Seguimento

• Seguimento de ratos numa sequência de imagem real:

filtro de Kalman (KF) e filtro Unscented Kalman (UKF) –

cont.

João Manuel R. S. Tavares

(22 frames)

Erro de seguimento (previsão/estado real)

Page 57: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Análise de Objectos em Imagens:

Emparelhamento, Alinhamento

e Simulação

Page 58: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Análise de Objectos

• Emparelhamento

– É uma das tarefas mais usuais em Visão Computacional, por

exemplo, para alinhar estruturas, reconhecer estruturas, obter

informação 3D, analisar movimento, etc.

– Geralmente é conseguido através da consideração de

características invariantes, como a curvatura, ou de

deslocamentos (assinaturas) em espaços globais/próprios,

como no espaço modal ou de Fourier

– Problemas envolvidos: oclusão, deformações não rígidas,

variações elevadas de forma, etc.

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 58

Page 59: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Análise de Objectos

• Alinhamento

– É uma tarefa habitualmente necessária para comparar objectos

representados em imagens adquiridas em instantes de tempo

distintos ou segundo diferentes condições/técnicas

– O alinhamento é essencial, por exemplo, em medicina para

analisar a evolução de patologias a partir de imagens

– Geralmente é conseguido através da consideração de

características invariantes, como pontos de curvatura máxima,

emparelhamento e estimativa da transformação envolvida

– Problemas envolvidos: características não determinadas

facilmente, deformações não rígidas, variações elevadas de

forma, etc.

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 59

Page 60: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Análise de Objectos

• Simulação

– É uma tarefa muito usada em Computação Gráfica (morphing)

mas também muito útil em Visão Computacional, por exemplo,

para estimar a deformação existente entre dois objectos

distintos ou entre dois instantes de um mesmo objecto, estimar

as transições entre duas formas adquiridas com espaçamento

temporal elevado, etc.

– Geralmente é conseguida através da consideração de

transformações geométricas

– No entanto, quando se deve considerar o comportamento físico

dos objectos envolvidos, devem ser usadas metodologias e

modelações físicas (por exemplo, usando FEM)

• Dificuldades comuns são relativas à estimativas das forças

envolvidas e das propriedades adoptadas para os materiais

• Fase de emparelhamento dos objectos torna-se crucial

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 60

Page 61: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Emparelhamento

• Emparelhamento de contornos em imagens: modelação

física/geométrica, análise modal, optimização

Análise de Objectos em Imagens: Técnicas e Aplicações 61

Bastos & Tavares (2006) Inverse Problems in Science and Engineering 14(5):529-541

Tavares & Bastos (2010) Progress in Computer Vision and Image Analysis, 339-368

João Manuel R. S. Tavares

Page 62: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

• Emparelhamento de contornos em pedobarografia

dinâmica: FEM, análise modal, optimização

Emparelhamento

Análise de Objectos em Imagens: Técnicas e Aplicações 62

Imagens originais Contornos

emparelhados

Bastos & Tavares (2004) LNCS 3179:39-50

Tavares & Bastos (2010) Progress in Computer Vision and Image Analysis, 339-368

João Manuel R. S. Tavares

camada de contacto

+ vidro

câmara espelho

luz reflectida vidro

pressão camada opaca

lâmpada

lâmpada camada

transparente

Page 63: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Emparelhamento

• Emparelhamento de contornos e superfícies em

pedobarografia dinâmica: FEM, análise modal,

optimização

Análise de Objectos em Imagens: Técnicas e Aplicações 63

Imagem de

pedobarografia

dinâmica

Tavares & Bastos (2005) Electronic Letters on Computer Vision and Image Analysis 5(3):1-20

Emparelhamento de

dois contornos

Emparelhamento entre duas superfícies de intensidade (pressão) (2 vistas)

Emparelhamento entre iso-contornos (2 vistas)

João Manuel R. S. Tavares

Page 64: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

• Emparelhamento de contornos e superfícies em

pedobarografia dinâmica: FEM, análise modal,

optimização

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 64

Emparelhamentos obtidos

entre iso-contornos

Emparelhamentos obtidos

entre superfícies

Bastos & Tavares (2004) LNCS 3179:39-50

Tavares & Bastos (2005) Electronic Letters on Computer Vision and Image Analysis 5(3):1-20

Emparelhamento

Page 65: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Alinhamento

• Alinhamento de contornos em imagens: modelação

geométrica/física, optimização, programação dinâmica

Análise de Objectos em Imagens: Técnicas e Aplicações 65

Oliveira & Tavares (2008) Computer Modeling in Engineering & Sciences 31(11):1-11

João Manuel R. S. Tavares

Page 66: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Alinhamento

• Alinhamento de contornos em imagens: modelação

geométrica, optimização, programação dinâmica

Análise de Objectos em Imagens: Técnicas e Aplicações 66

Imagens originais e

contornos extraidos

Contornos

emparelhados antes

do alinhamento

Contornos após

alinhamento

Oliveira & Tavares (2008) Computer Modeling in Engineering & Sciences 31(11):1-11

Oliveira & Tavares (2009) Computer Modeling in Engineering & Sciences 43(1):91-110

João Manuel R. S. Tavares

Page 67: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Alinhamento

• Alinhamento de imagens de pedobarografia: modelação

geométrica, optimização, programação dinâmica

Análise de Objectos em Imagens: Técnicas e Aplicações 67

Imagens originais e contornos

extraídos Contornos emparelhados e imagens

antes e após alinhamento

Oliveira et al. (2009) Journal of Biomechanics 42(15):2620-2623

João Manuel R. S. Tavares

Page 68: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Alinhamento

• Alinhamento de imagens de pedobarografia:

transformada de Fourier

Análise de Objectos em Imagens: Técnicas e Aplicações 68

Imagens originais Imagens antes e após

alinhamento

Oliveira et al. (2010) Computer Methods in Biomechanics and Biomedical Engineering 13(6):731-740

João Manuel R. S. Tavares

Page 69: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Alinhamento

• Alinhamento de imagens de pedobarografia: método

híbrido: Alinhamento de Contornos ou Alinhamento

baseado na transformada de Fourier + Optimização de

semelhança

– MSE/MI/XOR

Análise de Objectos em Imagens: Técnicas e Aplicações 69

Imagens originais Imagens antes e após

alinhamento

Oliveira & Tavares 2011 Medical & Biological

Engineering & Computing 49(3):313-323

João Manuel R. S. Tavares

Page 70: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Análise de Objectos em Imagens: Técnicas e Aplicações 70 João Manuel R. S. Tavares

Alinhamento

• Alinhamento de imagens de pedobarografia para

identificação (esq. / direito), extracção de medidas e

índices

Imagens originais, após normalização,

contornos e áreas identificadas

Oliveira et al. 2011 Computer Methods in

Biomechanics and Biomedical Engineering,

DOI: 10.1080/10255842.2011.581239 (in

press)

Page 71: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Alinhamento

• Alinhamento de sequências de imagem de

pedobarografia dinâmica: alinhamento espacial e

temporal

Análise de Objectos em Imagens: Técnicas e Aplicações 71 João Manuel R. S. Tavares

Oliveira et al. 2011 Medical &

Biological Engineering &

Computing, DOI: 10.1007/s11517-

011-0771-x (in press)

Page 72: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Alinhamento

• Alinhamento de sequências de imagem de

pedobarografia dinâmica: alinhamento espacial e

temporal

Análise de Objectos em Imagens: Técnicas e Aplicações

72

João Manuel R. S. Tavares

Sequências originais

antes do alinhamento

Sequências pré-

processadas

Sequências de

imagem originais

Sequências após

alinhamento

72

Oliveira et al. 2011 Medical &

Biological Engineering &

Computing, DOI: 10.1007/s11517-

011-0771-x (in press)

camada de contacto

+ vidro

câmara espelho

Page 73: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Alinhamento

• Alinhamento de sequências de imagem de

pedobarografia dinâmica: alinhamento espacial e

temporal

Análise de Objectos em Imagens: Técnicas e Aplicações

73

João Manuel R. S. Tavares

Sequências originais

antes do alinhamento

Sequências pré-

processadas

Sequências de

imagem originais

Sequências após

alinhamento

73

Oliveira et al. 2011 Medical &

Biological Engineering &

Computing, DOI: 10.1007/s11517-

011-0771-x (in press)

Page 74: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Alinhamento

• Alinhamento de imagens de uma mesma modalidade:

alinhamento de contornos

Análise de Objectos em Imagens: Técnicas e Aplicações João Manuel R. S. Tavares 74

Suavização

Extracção do contorno

Extracção

do

contorno

Binarização

74

Page 75: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Alinhamento

• Alinhamento de imagens de uma mesma modalidade:

alinhamento de contornos - cont.

Análise de Objectos em Imagens: Técnicas e Aplicações João Manuel R. S. Tavares

Imagens

a alinhar

Contornos antes/após

emparelhamento

75

Oliveira & Tavares (2008) Computer Modeling in Engineering & Sciences 31(11):1-11

Oliveira & Tavares (2009) Computer Modeling in Engineering & Sciences 43(1):91-110

75

Page 76: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Alinhamento

• Alinhamento de imagens de uma mesma modalidade:

alinhamento de contornos - cont.

Análise de Objectos em Imagens: Técnicas e Aplicações

76

João Manuel R. S. Tavares

Imagens

Alinhadas

Imagem

originais

76

Soma

Soma Diferença

Oliveira & Tavares (2008) Computer Modeling in Engineering & Sciences 31(11):1-11

Oliveira & Tavares (2009) Computer Modeling in Engineering & Sciences 43(1):91-110

Page 77: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Alinhamento

• Alinhamento de imagens de uma mesma modalidade:

maximização directa da correlação cruzada

Análise de Objectos em Imagens: Técnicas e Aplicações

77

João Manuel R. S. Tavares

Imagens

Alinhadas

Imagem originais

(RM - proton density)

77

Soma

Soma Diferença

Oliveira et al. (2010) Computer Methods in

Biomechanics and Biomedical

Engineering 13(6):731-740

Page 78: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Alinhamento

• Alinhamento de imagens de uma mesma modalidade:

optimização pelo Método de Powell de medida de

semelhança (MSE)

Análise de Objectos em Imagens: Técnicas e Aplicações

78

João Manuel R. S. Tavares

Imagens

Alinhadas

Imagem

originais (RX)

78

Soma

Soma Diferença

Oliveira et al. 2011 Medical &

Biological Engineering &

Computing 49(3):313-323

Page 79: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Alinhamento

• Alinhamento intermodal (CT/RM): optimização pelo

Método de Powell de medida de semelhança (MI)

Análise de Objectos em Imagens: Técnicas e Aplicações

79

João Manuel R. S. Tavares

Imagens

Alinhadas

Imagem

originais

79

CT RM CT+RM

CT+RM Diferença CT+RM

Oliveira et al. 2011 Medical &

Biological Engineering &

Computing 49(3):313-323

Page 80: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Simulação

Análise de Objectos em Imagens: Técnicas e Aplicações 80

• Simulação (morphing) física de contornos em imagens:

FEM, análise modal, optimização, eq. de Lagrange

João Manuel R. S. Tavares

Page 81: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

• Simulação de contornos em imagens: FEM, análise

modal, optimização,

equação de Lagrange

Emparelhamento

obtido

Deformações

simuladas

Simulação

Análise de Objectos em Imagens: Técnicas e Aplicações 81

Tavares & Pinho (2005) Journal of Computer Science 4(1):9-18

Gonçalves et al. (2008) Computer Modeling in Engineering & Sciences 32(1):45-55

Imagens originais

João Manuel R. S. Tavares

Page 82: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

• Simulação de contornos em imagens: FEM, análise

modal, optimização, equação de Lagrange

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 82

Emparelhamentos

obtidos

Deformações

simuladas

Emparelhamentos

obtidos Deformações

simuladas

Imagens originais

Simulação

Tavares & Pinho (2005) Journal of Computer Science 4(1):9-18

Gonçalves et al. (2008) Computer Modeling in Engineering & Sciences 32(1):45-55

Page 83: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Análise de Objectos em

Imagens: Reconstrução 3D

Page 84: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Reconstrução 3D

• Pretende-se obter a forma 3D de objectos ou a

informação 3D de cenas a partir de imagens 2D

• Nesta área, destacam-se: 1) formas exteriores: técnicas

activas (com projecção de energia ou movimento relativo),

passivas (sem projecção de energia ou movimento relativo)

e de escavação espacial; 2) formas interiores:

segmentação 2D (i.e. contornos) e interpolação, e

segmentação 3D

• Usualmente, envolve tarefas de calibração,

segmentação, emparelhamento, triangulação e

interpolação

• Problemas envolvidos: distorção geométrica, iluminação

variável, oclusão, ruído, formas complexas, etc.

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 84

Page 85: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Reconstrução 3D

• Reconstrução 3D de objectos a partir de slices:

segmentação 2D, Delaunay, marching cubes

Perdigão et al. (2005) CMNI 2005

Pimenta et al. (2006) CompIMAGE 2006, 343-348

Alexandre et al. (2007) VipIMAGE 2007, 359-362

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 85

Page 86: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Reconstrução 3D

• Reconstrução 3D de órgãos a partir de imagens

médicas: segmentação 2D, Delaunay, marching cubes

Segmentação realizada num

slice e reconstrução 3D obtida

Orgãos do braço reconstruidos 3D Perdigão et al. (2005) CMNI 2005

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 86

Page 87: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Reconstrução 3D

• Reconstrução 3D de órgãos da cavidade pélvica

feminina partir de imagens de ressonância magnética:

segmentação 2D, loft, suavização

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 87

Segmentação 2D

realizada num slice Pavimento pélvico

reconstruído 3D

Órgãos da cavidade

pélvica reconstruídos 3D

Pimenta et al. (2006) CompIMAGE 2006, 343-348

Alexandre et al. (2007) VipIMAGE 2007, 359-362

slices

Page 88: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Reconstrução 3D

• Reconstrução 3D de cenas a partir de sequências de

imagem: visão estéreo densa

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 88

Azevedo et al. (2006) VISAPP 2006, 383-388

Page 89: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Reconstrução 3D

• Reconstrução 3D de uma cena a partir de par de

imagens: visão estéreo densa

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 89

Mapa de disparidade

obtido Par de imagens original

Azevedo et al. (2006) VISAPP 2006, 383-388

Page 90: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Reconstrução 3D

• Reconstrução 3D de objectos a partir de sequências de

imagem: escavação espacial

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 90

Azevedo et al. (2008) Advances in Computational Vision and Medical Image Processing: Methods and

Applications, 117-136

Page 91: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Reconstrução 3D

• Reconstrução 3D de objectos a partir de sequências de

imagem: escavação espacial

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 91

Azevedo et al. (2008) Advances in Computational Vision and Medical Image Processing: Methods and

Applications, 117-136

Azevedo et al. (2010) Computer Methods in Biomechanics and Biomedical Engineering 13(3):359-369

Imagens originais Modelo computacional 3D obtido

voxalizado e poligonizado

Page 92: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Reconstrução 3D

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 92

Azevedo et al. (2010) Computer Methods in Biomechanics and Biomedical Engineering 13(3):359-369

• Reconstrução 3D de objectos a partir de sequências de

imagem: escavação espacial

Imagens originais Modelo computacional 3D obtido

voxalizado e poligonizado

Page 93: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

• Reconstrução 3D da coluna a partir de duas

radiografias 2D e usando um modelo deformável (atlas)

Reconstrução 3D

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 93

Moura et al. (2010) Computer Modeling in Engineering & Sciences 60(2):115-138

Moura et al. (2011) Medical Engineering & Physics, DOI: 10.1016/j.medengphy.2011.03.007 (in press)

Interface desenvolvida Modelo ajustado (duas vistas) e

reconstrução obtida

Page 94: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

• Reconstrução 3D a partir de radiografias 2D: calibração

Reconstrução 3D

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 94

Moura et al. (2010) Computer Modeling in Engineering & Sciences 60(2):115-138

Moura et al. (2011) Medical Engineering & Physics, DOI: 10.1016/j.medengphy.2011.03.007 (in press)

Método

desenvolvido

Calibração de um sistema

de Raio-X

Page 95: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

• Reconstrução 3D a partir de radiografias 2D: calibração

Reconstrução 3D

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 95

Moura et al. (2010) Computer Modeling in Engineering & Sciences 60(2):115-138

Moura et al. (2011) Medical Engineering & Physics, DOI: 10.1016/j.medengphy.2011.03.007 (in press)

Estimativa da distância entre a

fonte de Raio-X e a mesa

Duas radiografias de uma coluna seca usada para

validar a calibração e reconstrução 3D obtida

Page 96: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Análise de Objectos

em Imagens: Sumário

Page 97: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Sumário

• A área da Análise de Objectos em Imagens é complexa e

exigente, mas de elevado interesse em muitos domínios

• Vários desafios existem, como, por exemplo, condições

de aquisição difíceis, oclusão, formas e topologias

complexas, movimentos complicados

• Trabalho considerável já foi desenvolvido, mas existem

ainda muitos desafios importantes e difíceis a resolver

• Métodos e metodologias de outras áreas do

conhecimento, como da Matemática, Mecânica

Computacional, Medicina e Biologia, podem contribuir para

a resolução de tais desafios

• Para tal, Colaborações são Necessárias e Bem-vindas

97 Análise de Objectos em Imagens: Técnicas e Aplicações João Manuel R. S. Tavares

Page 98: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Equipa

Page 99: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Equipa (Visão Computacional)

• Estudantes de Doutoramento (13):

– Concluído: Daniel Moura

– Em curso: Raquel Pinho, Patrícia Gonçalves, Maria Vasconcelos,

Ilda Reis, Teresa Azevedo, Zhen Ma, Elza Chagas, Francisco

Oliveira, António Gomes, João Nunes, Alex Araújo, Sandra Rua

• Estudantes de Mestrado (17):

– Em curso: Elisa Barroso, Ana Jesus, Jorge Pereira, Carolina

Tabuas, Gabriela Queiros, Célia Cruz, Priscila Alves, Diana Cidre

– Concluídos: Frederico Jacob, Daniela Sousa, Francisco Oliveira,

Teresa Azevedo, Maria Vasconcelos, Raquel Pinho, Luísa Bastos,

Cândida Coelho, Jorge Gonçalves

• Estudantes de pré-Graduação (2)

– Concluídos: Ricardo Ferreira, Soraia Pimenta

99 Análise de Objectos em Imagens: Técnicas e Aplicações João Manuel R. S. Tavares

Page 100: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Eventos & Publicações

Page 101: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Webpage (www.fe.up.pt/~tavares)

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 101

Page 102: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Agradecimentos

• Os trabalhos apresentados têm vindo a ser realizados

parcialmente com o apoio da Fundação para a Ciência e a

Tecnologia (FCT) em Portugal, nomeadamente, através

dos projectos:

– PTDC/SAU-BEB/102547/2008

– PTDC/SAU-BEB/104992/2008

– PTDC/EEA-CRO/103320/2008

– UTAustin/CA/0047/2008

– UTAustin/MAT/0009/2008

– PDTC/EME-PME/81229/2006

– PDTC/SAU-BEB/71459/2006

– POSC/EEA-SRI/55386/2004

João Manuel R. S. Tavares Análise de Objectos em Imagens: Técnicas e Aplicações 102

Page 103: Análise de Objectos em Imagens: Técnicas e Aplicaçõestavares/downloads/... · Segmentação • Pretende-se identificar de forma automática, ou semi- automática, os objectos

Análise de Objectos em Imagens:

Técnicas e Aplicações

João Manuel R. S. Tavares

[email protected] www.fe.up.pt/~tavares