segmentação semântica: u-net - ufmanca.ufma.br/~geraldo/vcm/9.unet.pdf · segmentação...

18
Segmentação Semântica: U-Net Visão Computacional Programa de Pós-Graduação em Ciência da Computação – UFMA Prof. Geraldo Braz Junior Notas de aula baseada em cs231n

Upload: others

Post on 31-Mar-2020

9 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: Segmentação Semântica: U-Net - UFMAnca.ufma.br/~geraldo/vcm/9.unet.pdf · Segmentação Semântica: U-Net VisãoComputacional Programade Pós-GraduaçãoemCiênciada Computação–UFMA

SegmentaçãoSemântica:U-NetVisão ComputacionalPrograma de Pós-Graduação em Ciência da Computação – UFMAProf. Geraldo Braz Junior

Notas de aula baseada em cs231n

Page 2: Segmentação Semântica: U-Net - UFMAnca.ufma.br/~geraldo/vcm/9.unet.pdf · Segmentação Semântica: U-Net VisãoComputacional Programade Pós-GraduaçãoemCiênciada Computação–UFMA

Tipos

Page 3: Segmentação Semântica: U-Net - UFMAnca.ufma.br/~geraldo/vcm/9.unet.pdf · Segmentação Semântica: U-Net VisãoComputacional Programade Pós-GraduaçãoemCiênciada Computação–UFMA

Segmentaçãosemântica• Classifica cada pixel• Não diferencia objetos, apenas pixels

• Algumas soluções• Janela deslizante: muito custoso• Uma MLP ou CNN geral com vetores

de características final: tb custoso

Page 4: Segmentação Semântica: U-Net - UFMAnca.ufma.br/~geraldo/vcm/9.unet.pdf · Segmentação Semântica: U-Net VisãoComputacional Programade Pós-GraduaçãoemCiênciada Computação–UFMA

Segmentação semânticacomCNNdireto

Como seria rotular essa base?O quanto custa manter a proporção?

Page 5: Segmentação Semântica: U-Net - UFMAnca.ufma.br/~geraldo/vcm/9.unet.pdf · Segmentação Semântica: U-Net VisãoComputacional Programade Pós-GraduaçãoemCiênciada Computação–UFMA

Abordagensmaisrecentes

Page 6: Segmentação Semântica: U-Net - UFMAnca.ufma.br/~geraldo/vcm/9.unet.pdf · Segmentação Semântica: U-Net VisãoComputacional Programade Pós-GraduaçãoemCiênciada Computação–UFMA

Downsampling• Basicamente pooling ou convolução com stride > 1

• O filtro será aprendido com backpropagation

Page 7: Segmentação Semântica: U-Net - UFMAnca.ufma.br/~geraldo/vcm/9.unet.pdf · Segmentação Semântica: U-Net VisãoComputacional Programade Pós-GraduaçãoemCiênciada Computação–UFMA

Upsampling:abordagens

Page 8: Segmentação Semântica: U-Net - UFMAnca.ufma.br/~geraldo/vcm/9.unet.pdf · Segmentação Semântica: U-Net VisãoComputacional Programade Pós-GraduaçãoemCiênciada Computação–UFMA

Upsampling:abordagens

Page 9: Segmentação Semântica: U-Net - UFMAnca.ufma.br/~geraldo/vcm/9.unet.pdf · Segmentação Semântica: U-Net VisãoComputacional Programade Pós-GraduaçãoemCiênciada Computação–UFMA

Upsampling:omelhor,transposeconvolution• Lembre-se que é uma convolução, e quem tem filtros, e que serão aprendidos no

backpropagation

Page 10: Segmentação Semântica: U-Net - UFMAnca.ufma.br/~geraldo/vcm/9.unet.pdf · Segmentação Semântica: U-Net VisãoComputacional Programade Pós-GraduaçãoemCiênciada Computação–UFMA

Upsampling:omelhor,transposeconvolution

Page 11: Segmentação Semântica: U-Net - UFMAnca.ufma.br/~geraldo/vcm/9.unet.pdf · Segmentação Semântica: U-Net VisãoComputacional Programade Pós-GraduaçãoemCiênciada Computação–UFMA

Abordagensmaisrecentes

Page 12: Segmentação Semântica: U-Net - UFMAnca.ufma.br/~geraldo/vcm/9.unet.pdf · Segmentação Semântica: U-Net VisãoComputacional Programade Pós-GraduaçãoemCiênciada Computação–UFMA

U-Net

Page 13: Segmentação Semântica: U-Net - UFMAnca.ufma.br/~geraldo/vcm/9.unet.pdf · Segmentação Semântica: U-Net VisãoComputacional Programade Pós-GraduaçãoemCiênciada Computação–UFMA

Ideiaportrás

“The main contribution of U-Net in this sense compared to other fullyconvolutional segmentation networks is that while upsampling and goingdeeper in the network we are concatenating the higher resolution featuresfrom down part with the upsampled features in order to better localize andlearn representations with following convolutions.”

U-net: Convolutional Networks for Biomedical ImageSegmentation: https://arxiv.org/abs/1505.04597

Page 14: Segmentação Semântica: U-Net - UFMAnca.ufma.br/~geraldo/vcm/9.unet.pdf · Segmentação Semântica: U-Net VisãoComputacional Programade Pós-GraduaçãoemCiênciada Computação–UFMA
Page 15: Segmentação Semântica: U-Net - UFMAnca.ufma.br/~geraldo/vcm/9.unet.pdf · Segmentação Semântica: U-Net VisãoComputacional Programade Pós-GraduaçãoemCiênciada Computação–UFMA
Page 16: Segmentação Semântica: U-Net - UFMAnca.ufma.br/~geraldo/vcm/9.unet.pdf · Segmentação Semântica: U-Net VisãoComputacional Programade Pós-GraduaçãoemCiênciada Computação–UFMA
Page 17: Segmentação Semântica: U-Net - UFMAnca.ufma.br/~geraldo/vcm/9.unet.pdf · Segmentação Semântica: U-Net VisãoComputacional Programade Pós-GraduaçãoemCiênciada Computação–UFMA

• Segmentação de prostata

Page 18: Segmentação Semântica: U-Net - UFMAnca.ufma.br/~geraldo/vcm/9.unet.pdf · Segmentação Semântica: U-Net VisãoComputacional Programade Pós-GraduaçãoemCiênciada Computação–UFMA

Deep Features,pq não?TernausNet• Transfer Learning com

VGG11• Conceito de Encode:

pré-treinado• Treine o Decoder

• TernausNet: U-Net withVGG11 Encoder Pre-Trained on ImageNet for ImageSegmentation: https://arxiv.org/abs/1801.05746