aula oral 06

86
Autovalo rese Autoveto res

Upload: gueste194f0

Post on 28-Jun-2015

1.843 views

Category:

Education


1 download

TRANSCRIPT

Page 1: Aula Oral 06

Autovalorese

Autovetores

Page 2: Aula Oral 06

O sistema linear do tipo:

bAy

Matriz arbitrária ( N x N )

Não iremos resolver este sistema de equações lineares

Estudaremos propriedades básicas deste sistema

Page 3: Aula Oral 06

x

xA

DEFINIÇÃO: seA é uma matriz arbitrária N x N, então

um vetor não nuloxem RN é chamado autovetor

(eigenvector) deA se o vetor xA é um escalar múltiplo

do vetor x: xxA

x

xA

xxA

(NxN)

autovetor

autovalor

Page 4: Aula Oral 06

x

xA

xxA

Autovetor (eigenvector)

Autovalor (eigenvalue)

Page 5: Aula Oral 06

xxA

xIxA

Como achar os autovalores da matriz A (N x N) ?

0xIA

0x 0 DET

IA

Page 6: Aula Oral 06

Como achar os autovalores da matriz A (N x N) ?

0 DET

IA

EQUAÇÃO CARACTERÍSTICA DA MATRIZ

A

Page 7: Aula Oral 06

Interpretação Geométrica de autovalor e autovetor:

4 8

8 4A

Observação no. 1

Observação no. 2

Variável no.1

Variável no.2

Page 8: Aula Oral 06

4 8

8 4A

Interpretação Geométrica de autovalor e autovetor:

Observação no. 1

Observação no. 2

Variável no.1

Variável no.2Variável no.1

Var

iáve

l n

o.2

8

4

Observação no. 1

Observação no. 2

8

4

Page 9: Aula Oral 06

0 DET

IA

4 8

8 4A

064)4(48

84 2

-λDET

SOLUÇÃO DESTA EQUAÇÃO É:

e 412 21

Como achar os autovalores da matriz A (N x N) ?

Page 10: Aula Oral 06

xxA

xIxA

Como achar os autovetores da matriz A (N x N) ?

0xIA

Usamos o autovalor para achar o autovetor 1 121

Usamos o autovalor para achar o autovetor 2 42

Page 11: Aula Oral 06

0xIA

Usando o autovalor para achar o autovetor 1 121

0

0

48

84

2

1

1

1

1

1

x

x

088

088

21

21

11

11

xx

xx

1

11 xA solução é:

Page 12: Aula Oral 06

0xIA

Usando o autovalor para achar o autovetor 1 42

0

0

48

84

2

1

2

2

2

2

x

x

088

088

21

21

22

22

xx

xx

1

12 xA solução é:

Page 13: Aula Oral 06

Variável 1

Vari

ável 2

4 8

8 4A

Observação no.1 (4,8)

Observação no.2 (8,4)

12

4 x1

x2

1

11 x

121 42

1

12 x

4

12

2

1

Page 14: Aula Oral 06

A forma elíptica indica a existência de um autovalor

próximo a zero

Mas o que significa autovalor próximo a zero ?

Page 15: Aula Oral 06

Interpretação Geométrica de autovalor e autovetor em dois

casos extremos:

caso (1) :Matriz não singular

caso (2) : Matriz é singular

4 0

0 4A

4 4

4 4A

Page 16: Aula Oral 06

caso (1) :Matriz não singular

caso (2) : Matriz é singular

4 0

0 4A

4 4

4 4A

Qual é a interpretação Geométrica dos autovalores e autovetores neste

dois casos extremos ?

Qual o valor numérico dos autovalores nestes dois caso?

Page 17: Aula Oral 06

Variável 1

Vari

ável 2

4 0

0 4A

Observação no.1 (4,0)

Observação no.2 (0,4)

4

4

x1

x2

0

11 x

41 42

1

02 x

4

4

2

1

Observações NÃO redundantes

caso (1) :Matriz não singular caso (1) :Matriz não singular

Page 18: Aula Oral 06

A forma circular indica a existência de autovalores

idênticos

Autovalores idênticos indica INDEPENDÊNCIA LINEAR do

sistema

Page 19: Aula Oral 06

Variável 1

Vari

ável 2

4 4

4 4A

Observação no.1 (4,4) =Observação no.2 (4,4)8

x1

1

11 x

81 02

1

12 x 0

8

2

1

x2

Observações Redundantes

caso (2) :Matriz Singular caso (2) :Matriz Singular

Page 20: Aula Oral 06

A forma LINEAR indica a existência de um autovalor zero

AUTOVALOR ZERO indica DEPENDÊNCIA LINEAR do

sistemaDET da MATRIZ É ZERO

NÃO UNICIDADE DA SOLUÇÃO

Page 21: Aula Oral 06

A forma elíptica fina indica a existência de um autovalor muito

próximo a zero

AUTOVALOR PRÓXIMO A ZERO indica uma QUASE

DEPENDÊNCIA LINEAR do sistema

DET da MATRIZ É próximo a ZERO

SOLUÇÃO UNICIDADE

porém

INSTÁVEL

Page 22: Aula Oral 06

Como a Análise dos Autovalores da matriz

associada com o sistema linear correspondente pode caracterizar um

problema MAL-POSTO ?

Page 23: Aula Oral 06

AUTOVALOR ZERO:

AUTOVALOR PRÓXIMO A ZERO:

NÃO HÁ UNICIDADE DA SOLUÇÃO

HÁ UNICIDADE DA SOLUÇÃO PORÉM A SOLUÇÃO É

INSTÁVEL

Page 24: Aula Oral 06

NÃO HÁ UNICIDADE DA SOLUÇÃO

DET =

A

DET = 0 A

Associação entre: Unicidade da solução, Determinante e

Autovalor da matriz (NxN) do sistema linear

A

Page 25: Aula Oral 06

HÁ UNICIDADE DA SOLUÇÃO porém a solução é instável

DET =

A

DET 0 A

Associação entre: Estabilidade da solução, Determinante e

Autovalor da matriz (NxN) do sistema linear

A

Page 26: Aula Oral 06

Auto Sistema :

bAy

Matriz arbitrária ( N x N )N ,...,1 N ,...,1

Se existe N autovalores:

Então existe um conjunto LI de N autovetores

Nxxxx ...,,, 321

111 xxA

111 xxA 222 xxA NN xxA N

Page 27: Aula Oral 06

NN xxxxAxAxA N221121 ,..., , ,...,,

Auto Sistema :

bAy N ,...,1 N ,...,1

Se existe N autovalores:

Então existe um conjunto LI de N autovetores

Nxxxx ...,,, 321

111 xxA

Page 28: Aula Oral 06

N

2

1

2121

000

000

00 0

000

... ...

NN xxxxxxA

NN xxxxAxAxA N221121 ,..., , ,...,,

bAy

Auto Sistema :

Page 29: Aula Oral 06

ΛPPA

ΛPPA

N

2

1

2121

000

000

00 0

000

... ...

NN xxxxxxA

NN xxxxAxAxA N221121 ,..., , ,...,,

bAy

Auto Sistema :

Page 30: Aula Oral 06

ΛPPA

ΛPPA

N

2

1

2121

000

000

00 0

000

... ...

NN xxxxxxA

bAy

Auto Sistema :

Page 31: Aula Oral 06

ΛPPA

bAy

Auto Sistema :

N ,...,1 N ,...,1

Se existe N autovalores:

Então existe um conjunto LI de N autovetores

Nxxxx ...,,, 321

111 xxA

Tal que :

Page 32: Aula Oral 06

1 PΛPA

11 PΛPPPA

ΛPPA

bAy

Auto Sistema :

Page 33: Aula Oral 06

Auto Sistema :

bAy

Matriz arbitrária ( N x N )N ,...,1 N ,...,1

A existência de N autovalores:

1 PΛPA

leva a existência de um conjunto LI de N autovetores que formam os vetores colunas de uma matriz que permite fazermos a seguinte decomposição

Nxx ,...,1NNR P

Page 34: Aula Oral 06
Page 35: Aula Oral 06

O Nosso sistema linear na geofísica:

pAy

Matriz arbitrária ( N x M )

Não iremos resolver este sistema de equações lineares

Estudaremos propriedades básicas deste sistema

Page 36: Aula Oral 06

)()()( 1MMN1N pAy

Sistema linear principal:

Sistema linear adjunto:

)()()( 1M1NNMT xqA

Page 37: Aula Oral 06

)()()( 1MMN1N pAy

Combinando o Sistema linear Principal

)()()( 1M1NNMT xqA

Dentro de um novo Sistema Linear:

Com o Sistema Linear Adjunto:

)()()( 1MN1MNMNMN azT

Page 38: Aula Oral 06

)()()( 1N1MMN ypA

)()()( 1M1NNMT xqA

Novo Sistema Linear:

)()()( 1MN1MNMNMN azT

T0A

A0

M

N

MN

p

q

x

y

M

N

M

N

Sistema principal:

Sistema adjunto:

Page 39: Aula Oral 06

TMN MN

0A

A0T

wwT s

0wIT s

A nova matriz é quadrada, logo podemos achar os autovalores e autovetores

Page 40: Aula Oral 06

T

v

u

v

u

0A

A0s

M

N

v

u

(N + M x 1)

w wwT s

vuA

u vA

s

sT

problema de autovalor deslocado

Pré x TA

Pré x A

Page 41: Aula Oral 06

vAuAA

uA vAA

s

sT

TT

vuA

u vA

s

sT

Page 42: Aula Oral 06

vuA

u vA

s

sT

vAuAA

uA vAA

s

sT

TT

uuAA 2sT

v vAA 2s T

Page 43: Aula Oral 06

M x M

N x N

Dois problemas autovetores-autovalores:

v vAA 2s T

1)

uuAA 2sT

2)

AUTOVALORES

Page 44: Aula Oral 06

M x M

N x N

Dois problemas autovetores-autovalores:

v vAA 2s T

1)

uuAA 2sT

2)

AUTOVETORES

Page 45: Aula Oral 06

M x M

N x N

Dois problemas autovetores-autovalores:

v vAA 2s T

1)

uuAA 2sT

2)

AUTOVETORES AUTOVALORES

Page 46: Aula Oral 06

M x M

N x N

Dois problemas autovetores-autovalores:

v vAA 2s T

1)

uuAA 2sT

2)

Existirão no máximo MIN(M,N) autovalores diferentes de zero

Page 47: Aula Oral 06

M x M

v vAA 2s T

Se N > M existirão no máximo M autovalores diferentes de zero

MMM s

s

s

v vAA

v vAA

v vAA

2

22

22

12

11

T

T

T

Page 48: Aula Oral 06

Presumindo-se, que N > M existirão no máximo M autovalores diferentes de zero

MMM s

s

s

v vAA

v vAA

v vAA

2

22

22

12

11

T

T

T

MMM sss vvv vvvAA 22

221

2121

T

Page 49: Aula Oral 06

MMM sss vvv vvvAA 22

221

2121

T

2

22

21

21

22221

11211

MMMMM

M

M

s

s

s

vvv

vvv

vvv

T

VAA

Mvvv 21

Presumindo-se, que N > M existirão no máximo M autovalores diferentes de zero

Page 50: Aula Oral 06

Se N > M existirão no máximo M autovalores diferentes de zero

2

22

21

21

22221

11211

MMMMM

M

M

s

s

s

vvv

vvv

vvv

T

VAA

Mvvv 21

2SV VAA T

Page 51: Aula Oral 06

N x N

u uAA 2s T

Se M > N existirão no máximo N autovalores diferentes de zero

NNN s

s

s

u uAA

u uAA

u uAA

2

22

22

12

11

T

T

T

Page 52: Aula Oral 06

NN sss uuu uuuAA 2

22

12

21 T

Se M > N existirão no máximo N autovalores diferentes de zero

NNN s

s

s

u uAA

u uAA

u uAA

2

22

22

12

11

T

T

T

Page 53: Aula Oral 06

NN sss uuu uuuAA 22

21

221 T

Se M > N existirão no máximo N autovalores diferentes de zero

2

22

21

21

22221

11211

NNNNN

N

N

s

s

s

uuu

uuu

uuu

T UAA

Nuuu 21

Page 54: Aula Oral 06

Se M > N existirão no máximo N autovalores diferentes de zero

2

22

21

21

22221

11211

NNNNN

N

N

s

s

s

uuu

uuu

uuu

T UAA

Nuuu 21

2SUUAA T

Page 55: Aula Oral 06

Se N > M existirão no máximo M autovalores diferentes de zero

2SV VAA T

Se M > N existirão no máximo N autovalores diferentes de zero

2SUUAA T

(MxM) (MxM) (MxM)

(NxN) (NxN) (NxN)

Page 56: Aula Oral 06

Generalização

MMM

uv A

u vA

u vA

s

s

s

222

111

u vA s

Sem perda de generalidade, considere N > M. Então existirão no máximo M autovalores diferentes de

zero

Page 57: Aula Oral 06

Generalização

MMM

uv A

u vA

u vA

s

s

s

222

111

MMM sss uuu vvvA 221121

Caso em que N > M (no máximo M autovalores diferentes de zero)

Page 58: Aula Oral 06

N-M

Generalização MMM sss uuu vvvA 221121

1u 2u Nu

MN

Mu 1MuM

Caso em que N > M (no máximo M autovalores diferentes de zero)

M

NNNMNMNN

NMM

NMM

s

s

s

uuuuu

uuuuu

uuuuu

0

VA

2

1

121

21222221

11111211

Page 59: Aula Oral 06

0

VA M

NNNMNMNN

NMM

NMM

s

s

s

uuuuu

uuuuu

uuuuu 2

1

121

21222221

11111211

Generalização

N M

)()()()( MNNNMMMN SUVA

N

Page 60: Aula Oral 06

Generalização

)()()()( MNNNMMMN SUVA

Quem são as matrizes

?)()( MMNN

eVU

2SV VAA T

vvvV M21

2SUUAA T uuuU N21 Autovetores da T AA

Autovetores da T

AA

Page 61: Aula Oral 06

Generalização

IVVVV)( MM

TT

)( NN

TT

I UUUU

As matrizes

)MM()NN(e

VU

são ortogonais

)()()()( MNNNMMMN SUVA

As colunas da matriz )NN(

U são bases do espaço N

(das observações)

As colunas da matriz

são bases do espaço M(dos parâmetros)

)MM( V

Page 62: Aula Oral 06

Generalização

)()()()( MNNNMMMN SUVA

TT VSUVVA I

Pós multiplicando a equação por T

V

Page 63: Aula Oral 06

Generalização

)()()()( MNNNMMMN SUVA

Pós multiplicando a equação por T

V

TVSUA

DECOMPOSIÇÃO EM VALORES SINGULARES DA MATRIZ A

Page 64: Aula Oral 06

Generalização

)MM(

T

)MN()NN()MN( VSUA

2

1

)MN(

s

s

S

2SV VAA T

2SUUAA T

autovalores autovalores

Os valores singulares da matriz )MN( A

Page 65: Aula Oral 06

A importância da Decomposição de uma

Matriz em valores SINGULARES permite

detectar se um problema é MAL-POSTO

Page 66: Aula Oral 06

Valor singular ZERO:

Valor singular PRÓXIMO A ZERO:

NÃO HÁ UNICIDADE DA SOLUÇÃO

HÁ UNICIDADE DA SOLUÇÃO PORÉM A SOLUÇÃO É

INSTÁVEL

Page 67: Aula Oral 06

Decomposição de uma Matriz em valores SINGULARES no caso em que

r valores singulares são NULOS e r < (M e N)

T

)()()()( MMMNNNMN VSUA

00

0SS r

rr

M - rN

- r

Page 68: Aula Oral 06

)(

VVV rMr

MM

rNr

NNU UU

)(N

r N - r

N

M

M

r M - r

Page 69: Aula Oral 06

TVSUA

r valores singulares são NULOS

r < (M e N)

T

rM

Trr

rNr V

V

00

0SU UA

Trrr VSUA

Page 70: Aula Oral 06

Visualização do Espaço Iluminado e Espaço Não Iluminado (Espaço nulo)

através da interpretação em duas dimensões Exercícios 2 e 3

oypA

O problema consiste em resolver o seguinte sistema linear de duas equações e duas incógnitas:

2 p(1) + p(2) = y(1)2 p(1) + 1.000001 p(2) = y(2)

2

1

2

1

000001.12

12

y

y

p

p

O determinante desta matriz é quase zero (2 × 10-6), caracterizando matematicamente um problema mal-posto devido

a instabilidade da solução estimada.

Page 71: Aula Oral 06

Exercícios 2 e 3

2

1

2

1

000001.12

12

y

y

p

p

Se estabeleço que os parâmetros verdadeiros são:5 5

Dados Livres de ruido

y(1) = 15.000000 y(2) = 15.000005

Dados COM de ruido

y(1) = 15.415667732 y(2) = 15.127581767

Page 72: Aula Oral 06

Exercícios 2 e 3

Os parâmetros estimados via MQ é

1.44165917968750 1.0e+005

-2.88316414062500 1.0e+005

15.127

15.415

000001.12

12

2

1

p

p

oTyAAAp 1- Tˆ

Page 73: Aula Oral 06

Exercícios 2 e 3

2}{1

N

iiMINQMIN

0 0.5 1 1.5 2

x 105

-4

-3.5

-3

-2.5

-2

-1.5

-1

-0.5

x 105

FUNCIONAL DOS DADOS

1p

2p

15.127

15.415

000001.12

12

2

1

p

p

(+) Os parâmetros estimados via MQ

1.44165917968750 1.0e+005

-2.88316414062500 1.0e+005

(*) Parâmetros verdadeiros :5 5

0*

22221212

22121111

papaypapayQ oo

Page 74: Aula Oral 06

U =

0.70710671047584 -0.70710685189724

0.70710685189724 0.70710671047584

S =

3.16227797639622 0

0 0.00000063245547

V =

0.89442710155718 -0.44721377438539

0.44721377438539 0.89442710155718

Exercícios 2 e 3 TVSUA

000001.12

12A

Page 75: Aula Oral 06

Exercícios 2 e 3

x 105

x 105

0 1 2

-4

-3.5

-3

-2.5

-2

-1.5

-1

-0.5

0

FUNCIONAL DOS DADOS 1p

2p

V =

0.894 -0.447

0.447 0.894

S =

3.162 0

0 0.000000632 rV M-rV

2}{1

N

iiMINQMIN *

Page 76: Aula Oral 06

PREPARANDO OS SEUS

CORAÇÕESINHOS PARA O EXERCÍCIO 3

Page 77: Aula Oral 06

oypA

Para garantir a existência, ao invés de resolver o sistema:

minimiza-se:

Exercício prático n.2 - parte 2

Exercício prático n.3

22221212

22121111

papaypapayQ oo TTQ )()( pAypAy oo

Page 78: Aula Oral 06

Para garantir a existência, ao invés de resolver o sistema:

minimiza-se:

Exercício prático n.2 - parte 2

Exercício prático n.3

02222121

01212111

ypapa

ypapa

22221212

22121111

papaypapayQ oo

Page 79: Aula Oral 06

0.00 1.00 2.00 3.00 4.00 5.00 6.000.00

1.00

2.00

3.00

4.00

5.00

6.00

0.00 1.00 2.00 3.00 4.00 5.00 6.000.00

1.00

2.00

3.00

4.00

5.00

6.00

0.00 1.00 2.00 3.00 4.00 5.00 6.000.00

1.00

2.00

3.00

4.00

5.00

6.00

0.00 1.00 2.00 3.00 4.00 5.00 6.000.00

1.00

2.00

3.00

4.00

5.00

6.00

p1

p1

p2

p2

Visualização da Função Q para os 3 casos

Solução não única

Det A zero

Solução instável Solução estável

Det A grande

22221212

22121111

papaypapayQ oo

Page 80: Aula Oral 06

0.00 1.00 2.00 3.00 4.00 5.00

Page 81: Aula Oral 06

0.00

Page 82: Aula Oral 06
Page 83: Aula Oral 06

min (p)

sujeito a

(yo-Ap)T (yo-Ap)=

Page 84: Aula Oral 06

min (p)

sujeito a

(yo-Ap)T (yo-Ap) =

=

min (p)

Solução via multiplicadores de Lagrange

(yo-Ap)T (yo-Ap)

Page 85: Aula Oral 06

0.00 0.50 1.00 1.50 2.00 2.50 3.00 3.50 4.000.00

0.50

1.00

1.50

2.00

2.50

3.00

3.50

4.00

0.00 1.00 2.00 3.00 4.00 5.00 6.000.00

1.00

2.00

3.00

4.00

5.00

6.00

0.00 1.00 2.00 3.00 4.00 5.00 6.000.00

1.00

2.00

3.00

4.00

5.00

6.00

(p)+

+

.

.

=

=

|| yo-Ap ||2

(yo-Ap)T (yo-Ap)=

p1

p2

Page 86: Aula Oral 06

RIDGE REGRESSION

0.00 0.50 1.00 1.50 2.00 2.50 3.00 3.50 4.000.00

0.50

1.00

1.50

2.00

2.50

3.00

3.50

4.00

0.00 1.00 2.00 3.00 4.00 5.00 6.000.00

1.00

2.00

3.00

4.00

5.00

6.00

+ . =

0.00 1.00 2.00 3.00 4.00 5.00 6.000.00

1.00

2.00

3.00

4.00

5.00

6.00

0.00 1.00 2.00 3.00 4.00 5.00 6.000.00

1.00

2.00

3.00

4.00

5.00

6.00

0.00 1.00 2.00 3.00 4.00 5.00 6.000.00

1.00

2.00

3.00

4.00

5.00

6.00

0.00 1.00 2.00 3.00 4.00 5.00 6.000.00

1.00

2.00

3.00

4.00

5.00

6.00

+ . =

SUAVIDADE

p1

p2