aplicações da visão computacional em biomedicina · sumário 1. apresentação 2. visão...

109
Aplicações da Visão Computacional em Biomedicina João Manuel R. S. Tavares [email protected] www.fe.up.pt/~tavares

Upload: doankien

Post on 17-Dec-2018

216 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Aplicações da Visão Computacional

em Biomedicina

João Manuel R. S. Tavares

[email protected] www.fe.up.pt/~tavares

Page 2: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Sumário

1. Apresentação

2. Visão Computacional em Biomedicina

i. Introdução

ii. Segmentação

iii. Seguimento de Movimento

iv. Análise de Objetos: Emparelhamento, Alinhamento e Simulação

v. Reconstrução 3D

3. Equipa

4. Eventos & Publicações

2 Aplicações da Visão Computacional em Biomedicina João Manuel R. S. Tavares

Page 3: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Apresentação

Page 4: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Apresentação

• Prof. Auxiliar no Dep. de Eng. Mecânica (DEMec) da FEUP

• Investigador Sénior e Coordenador de Projecto no Lab. de

Óptica e Mecânica Experimental (LOME) do INEGI

• Doutorado e Mestre em Eng. Electrotécnica e de

Computadores (FEUP) (com Tese e Dissertação na área do

Processamento e Análise de Imagem)

• Licenciado em Eng. Mecânica (FEUP)

• Áreas de Investigação: Processamento e Análise de

Imagem (segmentação, seguimento, emparelhamento, alinhamento e

reconstrução 3D), Interfaces Homem/Máquina (visualização de

dados e percepção humana), Desenvolvimento de Produto

(dispositivos biomédicos), Movimento Humano (Marcha, Postura)

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 4

Page 5: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Visão Computacional

em Biomedicina: Introdução

Page 6: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Introdução

• O sistema sensorial de visão tem elevada importância

para grande parte dos seres vivos

– Podendo disponibilizar informações de índole básica, como

verificar a existência ou não de obstáculos, ou complexa, como o

seguimento e a análise de movimento

– Operações comuns: identificação (segmentação), seguimento e

reconhecimento de movimento (seguimento e análise),

correspondência e alinhamento (emparelhamento e

alinhamento), interpolação de formas (simulação), obtenção da

forma/informação 3D (reconstrução 3D)

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 6

Page 7: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Introdução

• Os investigadores da área do Processamento e Análise

de Imagem tentam desenvolver algoritmos

computacionais para realizar de forma automática, ou

semi-automática, operações e tarefas desenvolvidas

pelos (complexos) sistemas de visão dos seres vivos

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 7

Imagens

originais

Azevedo et al. (2010) Computer Methods in Biomechanics and Biomedical Engineering 13(3):359-369

Modelo computacional 3D

voxalizado e poligonizado

Page 8: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Introdução

• Algoritmos de Processamento e Análise de Imagem

são de elevado interesse para a Sociedade, sendo

frequentemente usados, por exemplo, em:

– Medicina, Biologia

– Ciências naturais, Desporto

– Engenharia, Indústria

• Exemplos de tarefas comuns envolvendo algoritmos de

Processamento e Análise de Imagem:

– Remoção de ruído, Correcção geométrica

– Segmentação, Reconhecimento (2D-4D)

– Seguimento e análise de movimento, incluindo emparelhamento,

alinhamento e simulação (2D-4D)

– Reconstrução 3D

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 8

Page 9: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Introdução: Processamento e Análise de Imagem – Operações e Objectivos

Aplicações da Visão Computacional em Biomedicina 9

Melhoramento

de imagem Segmentação de imagem /

extração de características

seguimento

emparelhamento

simulação

Imagem /

imagens

Análise de

movimento alinhamento

Processamento

de Imagem

Análise de Imagem /

Visão Computacional

João Manuel R. S. Tavares

Visão 3D

Visão por

Computador

Page 10: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Introdução

• (Pré-)Processamento de Imagem: suavização de ruído

por difusão anisotrópica

Aplicações da Visão Computacional em Biomedicina 10 João Manuel R. S. Tavares

Page 11: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Visão Computacional em

Biomedicina: Segmentação

Page 12: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Segmentação

• Pretende-se identificar de forma automática, ou semi-

automática, os objetos (2D/3D) presentes em imagens

estáticas ou em sequências de imagem

• As técnicas mais comuns são baseadas em

emparelhamento de protótipos, modelações

geométricas, estatísticas e físicas, e redes neuronais

• É uma das operações mais usuais em Visão

Computacional, sendo frequentemente a primeira

“grande” tarefa considerada

• Problemas envolvidos: ruído, baixa resolução, reduzido

contraste, formas não conhecidas, oclusões parciais,

múltiplas estruturas presentes, etc.

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 12

Page 13: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

• Segmentação de contornos em pedobarografia dinâmica:

método de Otsu, operadores morfológicos, XOR

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 13

Imagens originais Após segmentação

Bastos & Tavares (2004) LNCS 3179:39-50

Segmentação

camada de contacto

+ vidro

câmara espelho

luz reflectida vidro

pressão camada opaca

lâmpada

lâmpada camada

transparente

Page 14: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Region Growing, x=215; y=254

Segmentação

• Segmentação de estruturas do ouvido: método de

crescimento de regiões

Imagem original Segmentação obtida

(labirinto ósseo)

Barroso et al. (2011) CNME 2011

X: 254 Y: 214

Index: 116.7

RGB: 0.459, 0.459, 0.459

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 14

Page 15: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Segmentação

• Segmentação do lumen da carotida em imagens B-

mode: detetor de orlas, operadores morfologicos,

seguimento de orlas

Segmentação obtida em imagens de Doppler - B-mode (3 exemplos)

Pereira & Tavares (2011) RecPad 2011, 40-41

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 15

Page 16: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Segmentação

• Deteção de tumores na mama a partir de imagens de

mamografia: transformada de Hough

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 16

Chagas et al. (2007) VipIMAGE 2007, 363-368

Imagem original Após segmentação

Page 17: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Segmentação

• Reconhecimento de objetos em imagens:

emparelhamento de imagem protótipo

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 17

Carvalho & Tavares (2005) CMNI 2005

fft fft

ift

3ift D CC 2ift D CC

max CC

Imagem original

Imagem protótipo

Page 18: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Segmentação

• Segmentação de caraterísticas: protótipos deformáveis

geométricos

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 18

Carvalho & Tavares (2006) CompIMAGE 2006, 129-134

Carvalho & Tavares (2007) VipIMAGE 2007, 209-215

Exemplo de um

protótipo deformável

Page 19: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Segmentação

• Segmentação de caraterísticas faciais:

protótipos deformáveis geométricos

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 19

Carvalho & Tavares (2006) CompIMAGE 2006, 129-134

Carvalho & Tavares (2007) VipIMAGE 2007, 209-215

Imagem original e imagens

de campos de energia (força)

Segmentação da íris usando um

protótipo deformável (circulo)

Segmentação do

olho usando um

protótipo deformável

Page 20: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Segmentação

• Segmentação de regiões de pele em imagens: modelos

estatísticos

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 20

Amostras de pele usadas

para construir o modelo

Imagem original e

segmentação obtida

Carvalho & Tavares (2005) CMNI 2005

Carvalho & Tavares (2008) Tékhne VI(9):245-266

Função de probabilidade

usada

Page 21: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 21

Segmentação

• Segmentação do fundo da cena/objeto em sequências

de imagens: modelos estatísticos

Subtracção do

fundo

Detecção do objecto

em movimento

Vasconcelos & Tavares (2008) WCCM8 / ECCOMAS 2008

Imagens

originais

Page 22: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 22

Segmentação

• Segmentação do fundo da cena/objeto em sequências

de imagens: modelos estatísticos

Subtracção do

fundo

Detecção do objecto

em movimento

Vasconcelos & Tavares (2008) WCCM8 / ECCOMAS 2008

Vasconcelos & Tavares (2011) EUROMECH Colloquium 511

Imagens originais (www.nada.kth.se/cvap/actions)

Page 23: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Segmentação

• Segmentação de objetos em imagens: modelos de

distribuição pontual (i. e. modelos de forma)

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 23

Vasconcelos & Tavares (2008) Computer Modeling in Engineering & Sciences 36(3):213-241

Page 24: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Segmentação

• Segmentação de objetos em imagens: modelos ativos

de forma

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 24

Vasconcelos & Tavares (2008) Computer Modeling in Engineering & Sciences 36(3):213-241

Page 25: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Segmentação

• Segmentação de mãos e faces em imagens: modelos

ativos de forma

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 25

Segmentações obtidas (inicial, intermédias e final)

Vasconcelos & Tavares (2008) Computer Modeling in Engineering & Sciences 36(3):213-241

Page 26: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Segmentação

• Segmentação de objectos em imagens: modelos ativos

de aparência

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 26

Vasconcelos & Tavares (2008) Computer Modeling in Engineering & Sciences 36(3):213-241

Page 27: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Segmentação

• Segmentação de faces em imagens: modelos ativos de

aparência

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 27

Vasconcelos & Tavares (2008) Computer Modeling in Engineering & Sciences 36(3):213-241

Imagem original e segmentações obtidas (inicial, intermédia e final)

Page 28: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Segmentação

• Análise do tracto vocal durante a fala partir de imagens

de ressonância magnética: modelos ativos de forma

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 28

Vasconcelos et al. (2011) Journal of Voice 25(6):732-742

Segmentação

intermédia II

Imagem

original +

modelo médio

Segmentação

final

Segmentação

intermédia I

Page 29: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Segmentação

• Análise do tracto vocal durante a fala partir de imagens de

ressonância magnética: modelos ativos de aparência

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 29

Vasconcelos et al. (2011) Journal of Engineering in Medicine 225(1):68-76

Vasconcelos et al. (2011) Journal of Engineering in Medicine, DOI:10.1177/0954411911431664 (in press)

Segmentações

intermédias

Segmentação

inicial

Segmentação

final

Segmentações

intermédias

Page 30: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Segmentação

• Segmentação de objetos em imagens: contornos ativos

(i.e. snakes)

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 30

Tavares et al. (2009) International Journal for Computational Vision and Biomechanics 2(2):209-220

Page 31: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Segmentação

• Segmentação de objetos em imagens: contornos ativos

(i.e. snakes)

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 31

Imagem original e

contorno inicial

Contorno final

Tavares et al. (2009) International Journal for Computational Vision and Biomechanics 2(2):209-220

Page 32: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Segmentação

• Segmentação de objetos em imagens: contorno

deformável, FEM, equação de Lagrange

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 32

Gonçalves et al. (2008) Computer Modeling in Engineering & Sciences 32(1):45-55

Page 33: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Segmentação

• Segmentação de objetos em imagens: contorno

deformável, FEM, equação de Lagrange

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 33

Imagens originais e contornos iniciais Contornos finais

Gonçalves et al. (2008) Computer Modeling in Engineering & Sciences 32(1):45-55

borracha

k = 200N/m

14s

Page 34: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Segmentação

• Segmentação de objetos em imagens: métodos de level

set

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 34

Ma et al. (2010) Medical Engineering & Physics 32(7):766-774

Ma et al. (2010) Computer Methods in Biomechanics and Biomedical Engineering 13(2):235-246

Page 35: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Segmentação

• Segmentação de objetos em imagens médicas: método

de level set

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 35

Imagem original Segmentação inicial Segmentação final

Perdigão et al. (2005) Encontro_1_Biomecânica, 81-85

Page 36: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Segmentação

• Segmentação de bifurcação da carótida em imagens de

Doppler: métodos de contornos ativos e de level set

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 36

Segmentação usando um modelo de

contornos ativos (Yessi)

Silva et al. (2011) VipIMAGE 2011, 117-122

Segmentação usando um modelo de

level set (Chan-Vese)

Page 37: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Segmentação

• Segmentação de objetos em imagens: métodos de level

set, conhecimento prévio

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 37

Ma et al. (2010) Medical Engineering & Physics 32(7):766-774

Page 38: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Segmentação

• Segmentação do pavimento pélvico feminino a partir de

imagens de ressonância magnética: método de level set,

conhecimento prévio

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 38

Ma et al. (2010) Medical Engineering & Physics 32(7):766-774

Segmentação do pavimento pélvico

Page 39: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Segmentação

• Segmentação de órgãos da cavidade pélvica feminina a

partir de imagens de ressonância magnética: modelos de

level set, conhecimento prévio

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 39

Ma et al. (2011) Computers in Biology and Medicine (submitted)

Ma et al. (2011) The International Journal for Numerical Methods in Biomedical Engineering (accepted)

Segmentação de órgãos (bexiga, pavimento pélvico, ânus) da cavidade pélvica

(3 exemplos)

Page 40: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Segmentação

• Segmentação da bexiga a partir de imagens de

ressonância magnética: modelos de level set,

conhecimento prévio

Ma et al. (2011) Annals of Biomedical Engineering 39(8):2287-2297

Segmentação das paredes internas e externas da bexiga (3 exemplos)

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 40

Page 41: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Segmentação

• Nova plataforma para segmentação de imagens

médicas (VC++, OpenCV, ITK)

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 41

Interface da plataforma

Ma et al. (2008) CMBBE 2008

Ma et al. (2010) Computer Methods in Biomechanics and Biomedical Engineering 13(2):235-246

Page 42: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Segmentação

• Segmentação de órgãos da cavidade pélvica da mulher

a partir de imagens de ressonância magnética: nova

plataforma

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 42

Ma et al. (2010) Computer Methods in Biomechanics and Biomedical Engineering 13(2):235-246

Crescimento de regiões Watershed

Método de Malladi Contorno ativo geodésico Level-set framework

Page 43: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Visão Computacional em

Biomedicina: Seguimento

Page 44: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Seguimento

• Pretende-se seguir o movimento e/ou a deformação de

estruturas em sequências de imagem (2D/3D)

• Nesta área, destacam-se as técnicas baseadas em fluxo

óptico, emparelhamento de blocos e em métodos

estocásticos

• Usualmente, envolve a estimativa do movimento

envolvido, a gestão das entidades seguidas, a análise

do movimento seguido bem como a sua quantificação

• Problemas envolvidos: movimento não rígido, distorção

geométrica, condições de iluminação variáveis,

oclusão, ruído, múltiplas estruturas, etc.

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 44

Page 45: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Seguimento

• Plataforma desenvolvida para

seguimento de entidades (pontos

/ rectas) em sequências de

imagem: filtro de Kalman ou

filtro Unscented Kalman,

otimização, distância de

Mahalanobis, modelo de

gestão

Aplicações da Visão Computacional em Biomedicina 45

Pinho et al. (2007) Int. Journal of Simulation Modelling 6(2):84-92

Pinho & Tavares (2009) VipIMAGE 2009, 299-304

Pinho & Tavares (2009) Computer Modeling in Engineering &

Sciences 46(1):51-75

João Manuel R. S. Tavares

Page 46: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Seguimento

• Seguimento de marcas em análise da marcha: filtro de

Kalman, distância de Mahalanobis, otimização, modelo

de gestão

Aplicações da Visão Computacional em Biomedicina 46

Previsão Incerteza Medição Correspondência Resultado

Pinho et al. (2005) ICCB 2005, 915-926

Pinho & Tavares (2009) Computer Modeling in Engineering & Sciences 46(1):51-75

(5 frames)

João Manuel R. S. Tavares

Page 47: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 47

Sousa et al. (2007) ISHF2007, 331-340

Sousa et al. (2007) ICCB2007, 291-296

Seguimento

• Análise da marcha com deteção de

eventos: filtro de Kalman, distância

de Mahalanobis, otimização

Page 48: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

48 Aplicações da Visão Computacional em Biomedicina

Pinho et al. (2005) LSCCS, Vol. 4A:463-466

Pinho et al. (2007) International Journal of Simulation Modelling 6(2):84-92

(547 frames)

Seguimento

• Seguimento de ratos em sequências longas de imagem:

filtro de Kalman, distância de Mahalanobis, otimização,

modelo de gestão

João Manuel R. S. Tavares

Page 49: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Aplicações da Visão Computacional em Biomedicina 49

Seguimento

• Seguimento de ratos numa sequência de imagem real:

filtro de Kalman (KF) e filtro Unscented Kalman (UKF)

#15 #16 #17

KF

UKF

(22 frames)

João Manuel R. S. Tavares

+ previsão

x medição

x correcção

Page 50: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Aplicações da Visão Computacional em Biomedicina 50

Seguimento

• Seguimento de ratos numa sequência de imagem real:

filtro de Kalman (KF) e filtro Unscented Kalman (UKF) –

cont.

Resultados do filtro de

Kalman

Resultados do filtro Unscented

Kalman

João Manuel R. S. Tavares

(22 frames)

Page 51: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Aplicações da Visão Computacional em Biomedicina 51

Seguimento

• Seguimento de ratos numa sequência de imagem real:

filtro de Kalman (KF) e filtro Unscented Kalman (UKF) –

cont.

João Manuel R. S. Tavares

(22 frames)

Erro de seguimento (previsão/estado real)

Page 52: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Visão Computacional em

Biomedicina: Emparelhamento,

Alinhamento e Simulação –

Análise de Objetos

Page 53: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Análise de Objetos

• Emparelhamento

– É uma das tarefas mais usuais em Visão Computacional, por

exemplo, para alinhar estruturas, reconhecer estruturas, obter

informação 3D, analisar movimento, etc.

– Geralmente é conseguido através da consideração de

características invariantes, como a curvatura, ou de

deslocamentos (assinaturas) em espaços globais/próprios,

como no espaço modal ou de Fourier

– Problemas envolvidos: oclusão, deformações não rígidas,

variações elevadas de forma, etc.

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 53

Page 54: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Emparelhamento

• Emparelhamento de contornos em imagens: modelação

física/geométrica, análise modal, otimização

Aplicações da Visão Computacional em Biomedicina 54

Bastos & Tavares (2006) Inverse Problems in Science and Engineering 14(5):529-541

Tavares & Bastos (2010) Progress in Computer Vision and Image Analysis, 339-368

João Manuel R. S. Tavares

Page 55: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

• Emparelhamento de contornos em pedobarografia

dinâmica: FEM, análise modal, otimização

Emparelhamento

Aplicações da Visão Computacional em Biomedicina 55

Imagens originais Contornos

emparelhados

Bastos & Tavares (2004) LNCS 3179:39-50

Tavares & Bastos (2010) Progress in Computer Vision and Image Analysis, 339-368

João Manuel R. S. Tavares

camada de contacto

+ vidro

câmara espelho

luz reflectida vidro

pressão camada opaca

lâmpada

lâmpada camada

transparente

Page 56: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Emparelhamento

• Emparelhamento de contornos e superfícies em

pedobarografia dinâmica: FEM, análise modal, otimização

Aplicações da Visão Computacional em Biomedicina 56

Imagem de

pedobarografia

dinâmica

Tavares & Bastos (2005) Electronic Letters on Computer Vision and Image Analysis 5(3):1-20

Emparelhamento de

dois contornos

Emparelhamento entre duas superfícies de intensidade (pressão) (2 vistas)

Emparelhamento entre iso-contornos (2 vistas)

João Manuel R. S. Tavares

Page 57: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

• Emparelhamento de contornos e superfícies em

pedobarografia dinâmica: FEM, análise modal,

otimização

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 57

Emparelhamentos obtidos

entre iso-contornos

Emparelhamentos obtidos

entre superfícies

Bastos & Tavares (2004) LNCS 3179:39-50

Tavares & Bastos (2005) Electronic Letters on Computer Vision and Image Analysis 5(3):1-20

Emparelhamento

Page 58: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Análise de Objetos

• Alinhamento

– É uma tarefa habitualmente necessária para comparar objetos

representados em imagens adquiridas em instantes de tempo

distintos ou segundo diferentes condições/técnicas

– O alinhamento é geralmente essencial, por exemplo, em medicina

para analisar a evolução de patologias a partir de imagens

– Geralmente é conseguido através da consideração de

características invariantes, como pontos de curvatura máxima,

emparelhamento e estimativa da transformação envolvida

– Problemas envolvidos: características não determinadas

facilmente, deformações não rígidas, variações elevadas de

forma, etc.

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 58

Page 59: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Alinhamento

• Alinhamento de contornos em imagens: modelação

geométrica/física, otimização, programação dinâmica

Oliveira & Tavares (2008) Computer Modeling in Engineering & Sciences 31(11):1-11

Aplicações da Visão Computacional em Biomedicina 59 João Manuel R. S. Tavares

Page 60: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Alinhamento

• Alinhamento de contornos em imagens: modelação

geométrica, otimização, programação dinâmica

Imagens originais e

contornos extraídos

Contornos

emparelhados antes

do alinhamento

Contornos após

alinhamento

Oliveira & Tavares (2008) Computer Modeling in Engineering & Sciences 31(11):1-11

Oliveira & Tavares (2009) Computer Modeling in Engineering & Sciences 43(1):91-110

Aplicações da Visão Computacional em Biomedicina 60 João Manuel R. S. Tavares

Page 61: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Alinhamento

• Alinhamento de imagens de pedobarografia: modelação

geométrica, otimização, programação dinâmica

Imagens originais e contornos

extraídos Contornos emparelhados e imagens

antes e após alinhamento

Oliveira et al. (2009) Journal of Biomechanics 42(15):2620-2623

Aplicações da Visão Computacional em Biomedicina 61 João Manuel R. S. Tavares

Page 62: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Alinhamento

• Alinhamento de imagens de pedobarografia:

transformada de Fourier

Imagens originais Imagens antes e após

alinhamento

Oliveira et al. (2010) Computer Methods in Biomechanics and Biomedical Engineering 13(6):731-740

Aplicações da Visão Computacional em Biomedicina 62 João Manuel R. S. Tavares

Page 63: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Alinhamento

• Alinhamento de imagens de pedobarografia: método

híbrido: Alinhamento de Contornos ou Alinhamento

baseado na transformada de Fourier + Otimização de

semelhança (MSE/MI/XOR)

Imagens originais, antes e após

alinhamento Oliveira & Tavares 2011 Medical & Biological

Engineering & Computing 49(3):313-323

Aplicações da Visão Computacional em Biomedicina 63 João Manuel R. S. Tavares

Page 64: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Alinhamento

• Alinhamento de imagens de pedobarografia para

identificação (esq. / direito), extração de medidas e

índices

Imagens originais, após normalização,

contornos e áreas identificadas

Oliveira et al. 2011 Computer Methods in

Biomechanics and Biomedical Engineering, DOI:

10.1080/10255842.2011.581239 (in press)

Aplicações da Visão Computacional em Biomedicina 64 João Manuel R. S. Tavares

Page 65: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Alinhamento

• Alinhamento de imagens de uma mesma modalidade:

alinhamento de contornos

Suavização

Extracção do contorno

Extracção

do

contorno

Binarização

Aplicações da Visão Computacional em Biomedicina 65 João Manuel R. S. Tavares

Page 66: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Alinhamento

• Alinhamento de imagens de uma mesma modalidade:

alinhamento de contornos - cont.

Imagens

a alinhar

Contornos antes/após

emparelhamento

Oliveira & Tavares (2008) Computer Modeling in Engineering & Sciences 31(11):1-11

Oliveira & Tavares (2009) Computer Modeling in Engineering & Sciences 43(1):91-110

Aplicações da Visão Computacional em Biomedicina 66 João Manuel R. S. Tavares

Page 67: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Alinhamento

• Alinhamento de imagens de uma mesma modalidade:

alinhamento de contornos - cont.

67

Imagens

Alinhadas

Imagem

originais

Soma

Soma Diferença

Oliveira & Tavares (2008) Computer Modeling in Engineering & Sciences 31(11):1-11

Oliveira & Tavares (2009) Computer Modeling in Engineering & Sciences 43(1):91-110

Aplicações da Visão Computacional em Biomedicina 67 João Manuel R. S. Tavares

Page 68: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Alinhamento

• Alinhamento de imagens de uma mesma modalidade:

maximização direta da correlação cruzada (transformada

de Fourier)

68

Imagens

Alinhadas

Imagem originais

(RM - proton density)

Soma

Soma Diferença

Oliveira et al. (2010) Computer Methods in

Biomechanics and Biomedical

Engineering 13(6):731-740

Aplicações da Visão Computacional em Biomedicina 68 João Manuel R. S. Tavares

Page 69: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Alinhamento

• Alinhamento de imagens de uma mesma modalidade:

otimização pelo Método de Powell de medida de

semelhança (MSE)

69

Imagens

Alinhadas

Imagem

originais (RX)

Soma

Soma Diferença

Oliveira et al. (2011) Medical &

Biological Engineering &

Computing 49(3):313-323

Aplicações da Visão Computacional em Biomedicina 69 João Manuel R. S. Tavares

ROI para cálculo

da MSE

Page 70: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Alinhamento

• Alinhamento intermodal (CT/RM): otimização pelo

Método de Powell de medida de semelhança (MI)

70

Imagens

Alinhadas

Imagem

originais

CT RM CT+RM

CT+RM Diferença CT+RM

Oliveira et al. (2011) Medical &

Biological Engineering &

Computing 49(3):313-323

Aplicações da Visão Computacional em Biomedicina 70 João Manuel R. S. Tavares

Page 71: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Imagem modelo Imagem a alinhar

Imagem alinhada

Pré-alinhamento usando transformação rígida

Novo pré-alinhamento usando transformação afim

Alinhamento curvo “grosseiro” usando B-splines

Alinhamento “fino” usando B-splines

Metodologia implementada com recurso ao Insight Toolkit (ITK)

Aplicações da Visão Computacional em Biomedicina 71 João Manuel R. S. Tavares

Alinhamento

• Otimização iterativa e alinhamento 3D curvo usando B-

splines

71

Page 72: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Princípio

– Após alinhamento global, é realizado um alinhamento local do

tipo free-form deformation

• Otimização iterativa e alinhamento 3D curvo usando B-

splines

Aplicações da Visão Computacional em Biomedicina 72 João Manuel R. S. Tavares

Alinhamento

72

Page 73: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

• Alinhamento de imagens 3D: otimização iterativa,

alinhamento 3D Xadrez das imagens pré-alinhamento (CT, tórax – mesma pessoa, Δt: 8.5 meses)

(xadrez - construído substituindo algumas partes (voxels) da imagem modelo pelas partes da

imagem a alinhar que têm as mesmas coordenadas das partes retiradas à imagem modelo)

Aplicações da Visão Computacional em Biomedicina 73 João Manuel R. S. Tavares

Alinhamento

73

Page 74: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Xadrez das imagens pós-alinhamento (Semelhança: MI, Transf.: rígida)

Aplicações da Visão Computacional em Biomedicina 74 João Manuel R. S. Tavares

Alinhamento

• Alinhamento de imagens 3D: otimização iterativa,

alinhamento 3D

74

Page 75: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Xadrez das imagens pós-alinhamento (Semelhança: MI, Transf.: B-splines cúbicas)

Aplicações da Visão Computacional em Biomedicina 75 João Manuel R. S. Tavares

Alinhamento

• Alinhamento de imagens 3D: otimização iterativa,

alinhamento 3D

75

Page 76: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Aplicações da Visão Computacional em Biomedicina 76 João Manuel R. S. Tavares

• Alinhamento de imagens 3D: otimização iterativa,

alinhamento 3D

Xadrez das imagens pré-alinhamento (CT, cérebro – duas pessoas)

Alinhamento

76

Page 77: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Aplicações da Visão Computacional em Biomedicina 77 João Manuel R. S. Tavares

• Alinhamento de imagens 3D: otimização iterativa,

alinhamento 3D

Xadrez das imagens pós-alinhamento (Semelhança: MI, Transf.: afim)

Alinhamento

77

Page 78: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Aplicações da Visão Computacional em Biomedicina 78 João Manuel R. S. Tavares

• Alinhamento de imagens 3D: otimização iterativa,

alinhamento 3D

Xadrez das imagens pós-alinhamento (Semelhança: MI, Transf.: B-splines cúbicas)

Alinhamento

78

Oliveira & Tavares (2011) Computer Methods in Biomechanics and Biomedical Engineering (submitted)

Page 79: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Alinhamento

Alinhamento

Transformação

geométrica

Alinhamento

Transformação

geométrica

… … …

Transformação

geométrica

Aplicações da Visão Computacional em Biomedicina 79 João Manuel R. S. Tavares

• Alinhamento de imagens: usando multi-resolução

Alinhamento

79

Page 80: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Xadrez das imagens pré-alinhamento (CT/MR-PD, cérebro, mesmo paciente)

Aplicações da Visão Computacional em Biomedicina 80 João Manuel R. S. Tavares

• Alinhamento de imagens 3D: multi-resolução,

otimização iterativa, alinhamento 3D

Alinhamento

80

Page 81: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Xadrez das imagens pós-alinhamento (Semelhança: MI, Transf.: rígida)

Aplicações da Visão Computacional em Biomedicina 81 João Manuel R. S. Tavares

• Alinhamento de imagens 3D: multi-resolução,

otimização iterativa, alinhamento 3D

Alinhamento

81

Page 82: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Alinhamento

• Alinhamento de sequências de imagem 2D: alinhamento

espacial e temporal

Oliveira et al. (2011) Medical &

Biological Engineering &

Computing 49(7):843-850

Aplicações da Visão Computacional em Biomedicina 82 João Manuel R. S. Tavares

Page 83: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Alinhamento

• Alinhamento de sequências de imagem 2D de

pedobarografia dinâmica: alinhamento espacial e

temporal

83

Sequências originais

antes do alinhamento

Sequências pré-

processadas

Sequências de

imagem originais

Sequências após

alinhamento

camada de contacto

+ vidro

câmara espelho

Aplicações da Visão Computacional em Biomedicina 83 João Manuel R. S. Tavares

Oliveira et al. (2011) Medical &

Biological Engineering &

Computing 49(7):843-850

Page 84: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Alinhamento

• Alinhamento de sequências de imagem 2D de

pedobarografia dinâmica: alinhamento espacial e

temporal

84

Sequências originais

antes do alinhamento

Sequências pré-

processadas

Sequências de

imagem originais

Sequências após

alinhamento

Aplicações da Visão Computacional em Biomedicina 84 João Manuel R. S. Tavares

Oliveira et al. (2011) Medical &

Biological Engineering &

Computing 49(7):843-850

Page 85: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Análise de Objectos

• Simulação

– É uma tarefa muito usada em Computação Gráfica (morphing)

mas também muito útil em Visão Computacional, por exemplo,

para estimar a deformação existente entre duas estruturas

distintas ou entre dois instantes de uma mesma estrutura,

estimar as transições entre duas formas adquiridas com

espaçamento temporal elevado, etc.

– Geralmente é conseguida através da consideração de

transformações geométricas

– No entanto, quando se deve considerar o comportamento físico

das estruturas envolvidas, devem ser usadas metodologias e

modelações físicas (por exemplo, usando FEM)

• Dificuldades comuns são relativas à estimativas das forças

envolvidas e das propriedades adoptadas para os materiais

• Fase de emparelhamento das estruturas torna-se crucial

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 85

Page 86: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Simulação

Aplicações da Visão Computacional em Biomedicina 86

• Simulação (morphing) física de contornos em imagens:

FEM, análise modal, otimização, eq. de Lagrange

João Manuel R. S. Tavares

Page 87: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

• Simulação de contornos em imagens: FEM, análise

modal, otimização,

equação de Lagrange

Emparelhamento

obtido

Deformações

simuladas

Simulação

Aplicações da Visão Computacional em Biomedicina 87

Tavares & Pinho (2005) Journal of Computer Science 4(1):9-18

Gonçalves et al. (2008) Computer Modeling in Engineering & Sciences 32(1):45-55

Imagens originais

João Manuel R. S. Tavares

Page 88: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

• Simulação de contornos em imagens: FEM, análise

modal, otimização, equação de Lagrange

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 88

Emparelhamentos

obtidos

Deformações

simuladas

Emparelhamentos

obtidos Deformações

simuladas

Imagens originais

Simulação

Tavares & Pinho (2005) Journal of Computer Science 4(1):9-18

Gonçalves et al. (2008) Computer Modeling in Engineering & Sciences 32(1):45-55

Page 89: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Visão Computacional em

Biomedicina: Reconstrução 3D

Page 90: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Reconstrução 3D

• Pretende-se obter a forma 3D de objectos ou a

informação 3D de cenas a partir de imagens 2D

• Nesta área, destacam-se: 1) formas exteriores: técnicas

ativas (com projecção de energia ou movimento relativo),

passivas (sem projecção de energia ou movimento relativo)

e de escavação espacial; 2) formas interiores:

segmentação 2D (i.e. contornos) e interpolação, e

segmentação 3D

• Usualmente, envolve tarefas de calibração,

segmentação, emparelhamento, triangulação e

interpolação

• Problemas envolvidos: distorção geométrica, iluminação

variável, oclusão, ruído, formas complexas, etc.

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 90

Page 91: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Reconstrução 3D

• Reconstrução 3D de objetos a partir de slices:

segmentação 2D, Delaunay, marching cubes

Perdigão et al. (2005) CMNI 2005

Pimenta et al. (2006) CompIMAGE 2006, 343-348

Alexandre et al. (2007) VipIMAGE 2007, 359-362

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 91

Page 92: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Reconstrução 3D

• Reconstrução 3D de órgãos a partir de imagens

médicas: segmentação 2D, Delaunay, marching cubes

Segmentação realizada num

slice e reconstrução 3D obtida

Órgãos do braço reconstruidos 3D Perdigão et al. (2005) CMNI 2005

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 92

Page 93: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Reconstrução 3D

• Reconstrução 3D de órgãos da cavidade pélvica

feminina partir de imagens de ressonância magnética:

segmentação 2D, loft, suavização

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 93

Segmentação 2D

realizada num slice Pavimento pélvico

reconstruído 3D

Órgãos da cavidade

pélvica reconstruídos 3D

Pimenta et al. (2006) CompIMAGE 2006, 343-348

Alexandre et al. (2007) VipIMAGE 2007, 359-362

slices

Page 94: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Reconstrução 3D

• Reconstrução 3D de cenas a partir de sequências de

imagem: visão estéreo densa

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 94

Azevedo et al. (2006) VISAPP 2006, 383-388

Page 95: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Reconstrução 3D

• Reconstrução 3D de uma cena a partir de par de

imagens: visão estéreo densa

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 95

Mapa de disparidade

obtido Par de imagens original

Azevedo et al. (2006) VISAPP 2006, 383-388

Page 96: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Reconstrução 3D

• Reconstrução 3D de objetos a partir de sequências de

imagem: escavação espacial

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 96

Azevedo et al. (2008) Advances in Computational Vision and Medical Image Processing: Methods and

Applications, 117-136

Page 97: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Reconstrução 3D

• Reconstrução 3D de objetos a partir de sequências de

imagem: escavação espacial

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 97

Azevedo et al. (2008) Advances in Computational Vision and Medical Image Processing: Methods and

Applications, 117-136

Azevedo et al. (2010) Computer Methods in Biomechanics and Biomedical Engineering 13(3):359-369

Imagens originais Modelo computacional 3D obtido

voxalizado e poligonizado

Page 98: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Reconstrução 3D

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 98

Azevedo et al. (2010) Computer Methods in Biomechanics and Biomedical Engineering 13(3):359-369

• Reconstrução 3D de objetos a partir de sequências de

imagem: escavação espacial

Imagens originais Modelo computacional 3D obtido

voxalizado e poligonizado

Page 99: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

• Reconstrução 3D da coluna a partir de duas

radiografias 2D e usando um modelo deformável (atlas)

Reconstrução 3D

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 99

Moura et al. (2010) Computer Modeling in Engineering & Sciences 60(2):115-138

Moura et al. (2011) Medical Engineering & Physics 33(8):924-933

Interface desenvolvida Modelo ajustado (duas vistas) e

reconstrução obtida

Page 100: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

• Reconstrução 3D a partir de radiografias 2D: calibração

Reconstrução 3D

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 100

Moura et al. (2010) Computer Modeling in Engineering & Sciences 60(2):115-138

Moura et al. (2011) Medical Engineering & Physics 33(8):924-933

Método

desenvolvido

Calibração de um sistema

de Raio-X

Page 101: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

• Reconstrução 3D a partir de radiografias 2D: calibração

Reconstrução 3D

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 101

Moura et al. (2010) Computer Modeling in Engineering & Sciences 60(2):115-138

Moura et al. (2011) Medical Engineering & Physics 33(8):924-933

Estimativa da distância entre a

fonte de Raio-X e a mesa

Duas radiografias de uma coluna seca usada para

validar a calibração e reconstrução 3D obtida

Page 102: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Visão Computacional em

Biomedicina: Sumário

Page 103: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Sumário

• A área da Visão Computacional é complexa e exigente,

mas de elevado interesse em muitos domínios, em

particular em Medicina

• Vários desafios existem, como, por exemplo, condições

de aquisição difíceis, oclusão, formas e topologias

complexas, movimentos complicados

• Trabalho considerável já foi desenvolvido, mas existem

ainda muitos desafios importantes e difíceis a resolver

• Métodos e metodologias de outras áreas do

conhecimento, como da Matemática, Mecânica

Computacional, Medicina e Biologia, podem contribuir para

a resolução de tais desafios

• Para tal, Colaborações são Necessárias e Bem-vindas 103 Aplicações da Visão Computacional em Biomedicina João Manuel R. S. Tavares

Page 104: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Equipa

Page 105: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Equipa (Visão Computacional)

• Estudantes de Doutoramento (13):

– Concluído: Daniel Moura, Teresa Azevedo

– Em curso: Raquel Pinho, Patrícia Gonçalves, Maria Vasconcelos,

Ilda Reis, Zhen Ma, Elza Chagas, Francisco Oliveira, António

Gomes, João Nunes, Alex Araújo, Sandra Rua

• Estudantes de Mestrado (20):

– Concluídos: Elisa Barroso, Ana Jesus, Célia Cruz, Priscila Alves,

Frederico Jacob, Daniela Sousa, Francisco Oliveira, Teresa

Azevedo, Maria Vasconcelos, Raquel Pinho, Luísa Bastos, Cândida

Coelho, Jorge Gonçalves

– Em curso: Jorge Pereira, Carolina Tabuas, Gabriela Queiros, Diana

Cidre, Diogo Faria, Nuno Mafra, Luís Ferro

• Estudantes de pré-Graduação (2)

– Concluídos: Ricardo Ferreira, Soraia Pimenta 105 Aplicações da Visão Computacional em Biomedicina João Manuel R. S. Tavares

Page 106: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Agradecimentos

• Os trabalhos apresentados têm vindo a ser realizados

parcialmente com o apoio da Fundação para a Ciência e a

Tecnologia (FCT) em Portugal, nomeadamente, através

dos projetos:

– PTDC/SAU-BEB/102547/2008

– PTDC/SAU-BEB/104992/2008

– PTDC/EEA-CRO/103320/2008

– UTAustin/CA/0047/2008

– UTAustin/MAT/0009/2008

– PDTC/EME-PME/81229/2006

– PDTC/SAU-BEB/71459/2006

– POSC/EEA-SRI/55386/2004

106 Aplicações da Visão Computacional em Biomedicina João Manuel R. S. Tavares

Page 107: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Eventos & Publicações

Page 108: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Webpage (www.fe.up.pt/~tavares)

João Manuel R. S. Tavares Aplicações da Visão Computacional em Biomedicina 108

Page 109: Aplicações da Visão Computacional em Biomedicina · Sumário 1. Apresentação 2. Visão Computacional em Biomedicina i. Introdução ii. Segmentação iii. Seguimento de Movimento

Aplicações da Visão Computacional

em Biomedicina

João Manuel R. S. Tavares

[email protected] www.fe.up.pt/~tavares