aula oral 06
Post on 28-Jun-2015
1.843 Views
Preview:
TRANSCRIPT
Autovalorese
Autovetores
O sistema linear do tipo:
bAy
Matriz arbitrária ( N x N )
Não iremos resolver este sistema de equações lineares
Estudaremos propriedades básicas deste sistema
x
xA
DEFINIÇÃO: seA é uma matriz arbitrária N x N, então
um vetor não nuloxem RN é chamado autovetor
(eigenvector) deA se o vetor xA é um escalar múltiplo
do vetor x: xxA
x
xA
xxA
(NxN)
autovetor
autovalor
x
xA
xxA
Autovetor (eigenvector)
Autovalor (eigenvalue)
xxA
xIxA
Como achar os autovalores da matriz A (N x N) ?
0xIA
0x 0 DET
IA
Como achar os autovalores da matriz A (N x N) ?
0 DET
IA
EQUAÇÃO CARACTERÍSTICA DA MATRIZ
A
Interpretação Geométrica de autovalor e autovetor:
4 8
8 4A
Observação no. 1
Observação no. 2
Variável no.1
Variável no.2
4 8
8 4A
Interpretação Geométrica de autovalor e autovetor:
Observação no. 1
Observação no. 2
Variável no.1
Variável no.2Variável no.1
Var
iáve
l n
o.2
8
4
Observação no. 1
Observação no. 2
8
4
0 DET
IA
4 8
8 4A
064)4(48
84 2
-λ
-λ
-λDET
SOLUÇÃO DESTA EQUAÇÃO É:
e 412 21
Como achar os autovalores da matriz A (N x N) ?
xxA
xIxA
Como achar os autovetores da matriz A (N x N) ?
0xIA
Usamos o autovalor para achar o autovetor 1 121
Usamos o autovalor para achar o autovetor 2 42
0xIA
Usando o autovalor para achar o autovetor 1 121
0
0
48
84
2
1
1
1
1
1
x
x
-λ
-λ
088
088
21
21
11
11
xx
xx
1
11 xA solução é:
0xIA
Usando o autovalor para achar o autovetor 1 42
0
0
48
84
2
1
2
2
2
2
x
x
-λ
-λ
088
088
21
21
22
22
xx
xx
1
12 xA solução é:
Variável 1
Vari
ável 2
4 8
8 4A
Observação no.1 (4,8)
Observação no.2 (8,4)
12
4 x1
x2
1
11 x
121 42
1
12 x
4
12
2
1
A forma elíptica indica a existência de um autovalor
próximo a zero
Mas o que significa autovalor próximo a zero ?
Interpretação Geométrica de autovalor e autovetor em dois
casos extremos:
caso (1) :Matriz não singular
caso (2) : Matriz é singular
4 0
0 4A
4 4
4 4A
caso (1) :Matriz não singular
caso (2) : Matriz é singular
4 0
0 4A
4 4
4 4A
Qual é a interpretação Geométrica dos autovalores e autovetores neste
dois casos extremos ?
Qual o valor numérico dos autovalores nestes dois caso?
Variável 1
Vari
ável 2
4 0
0 4A
Observação no.1 (4,0)
Observação no.2 (0,4)
4
4
x1
x2
0
11 x
41 42
1
02 x
4
4
2
1
Observações NÃO redundantes
caso (1) :Matriz não singular caso (1) :Matriz não singular
A forma circular indica a existência de autovalores
idênticos
Autovalores idênticos indica INDEPENDÊNCIA LINEAR do
sistema
Variável 1
Vari
ável 2
4 4
4 4A
Observação no.1 (4,4) =Observação no.2 (4,4)8
x1
1
11 x
81 02
1
12 x 0
8
2
1
x2
Observações Redundantes
caso (2) :Matriz Singular caso (2) :Matriz Singular
A forma LINEAR indica a existência de um autovalor zero
AUTOVALOR ZERO indica DEPENDÊNCIA LINEAR do
sistemaDET da MATRIZ É ZERO
NÃO UNICIDADE DA SOLUÇÃO
A forma elíptica fina indica a existência de um autovalor muito
próximo a zero
AUTOVALOR PRÓXIMO A ZERO indica uma QUASE
DEPENDÊNCIA LINEAR do sistema
DET da MATRIZ É próximo a ZERO
SOLUÇÃO UNICIDADE
porém
INSTÁVEL
Como a Análise dos Autovalores da matriz
associada com o sistema linear correspondente pode caracterizar um
problema MAL-POSTO ?
AUTOVALOR ZERO:
AUTOVALOR PRÓXIMO A ZERO:
NÃO HÁ UNICIDADE DA SOLUÇÃO
HÁ UNICIDADE DA SOLUÇÃO PORÉM A SOLUÇÃO É
INSTÁVEL
NÃO HÁ UNICIDADE DA SOLUÇÃO
DET =
A
DET = 0 A
Associação entre: Unicidade da solução, Determinante e
Autovalor da matriz (NxN) do sistema linear
A
HÁ UNICIDADE DA SOLUÇÃO porém a solução é instável
DET =
A
DET 0 A
Associação entre: Estabilidade da solução, Determinante e
Autovalor da matriz (NxN) do sistema linear
A
Auto Sistema :
bAy
Matriz arbitrária ( N x N )N ,...,1 N ,...,1
Se existe N autovalores:
Então existe um conjunto LI de N autovetores
Nxxxx ...,,, 321
111 xxA
111 xxA 222 xxA NN xxA N
NN xxxxAxAxA N221121 ,..., , ,...,,
Auto Sistema :
bAy N ,...,1 N ,...,1
Se existe N autovalores:
Então existe um conjunto LI de N autovetores
Nxxxx ...,,, 321
111 xxA
N
2
1
2121
000
000
00 0
000
... ...
NN xxxxxxA
NN xxxxAxAxA N221121 ,..., , ,...,,
bAy
Auto Sistema :
ΛPPA
ΛPPA
N
2
1
2121
000
000
00 0
000
... ...
NN xxxxxxA
NN xxxxAxAxA N221121 ,..., , ,...,,
bAy
Auto Sistema :
ΛPPA
ΛPPA
N
2
1
2121
000
000
00 0
000
... ...
NN xxxxxxA
bAy
Auto Sistema :
ΛPPA
bAy
Auto Sistema :
N ,...,1 N ,...,1
Se existe N autovalores:
Então existe um conjunto LI de N autovetores
Nxxxx ...,,, 321
111 xxA
Tal que :
1 PΛPA
11 PΛPPPA
ΛPPA
bAy
Auto Sistema :
Auto Sistema :
bAy
Matriz arbitrária ( N x N )N ,...,1 N ,...,1
A existência de N autovalores:
1 PΛPA
leva a existência de um conjunto LI de N autovetores que formam os vetores colunas de uma matriz que permite fazermos a seguinte decomposição
Nxx ,...,1NNR P
O Nosso sistema linear na geofísica:
pAy
Matriz arbitrária ( N x M )
Não iremos resolver este sistema de equações lineares
Estudaremos propriedades básicas deste sistema
)()()( 1MMN1N pAy
Sistema linear principal:
Sistema linear adjunto:
)()()( 1M1NNMT xqA
)()()( 1MMN1N pAy
Combinando o Sistema linear Principal
)()()( 1M1NNMT xqA
Dentro de um novo Sistema Linear:
Com o Sistema Linear Adjunto:
)()()( 1MN1MNMNMN azT
)()()( 1N1MMN ypA
)()()( 1M1NNMT xqA
Novo Sistema Linear:
)()()( 1MN1MNMNMN azT
T0A
A0
M
N
MN
p
q
x
y
M
N
M
N
Sistema principal:
Sistema adjunto:
TMN MN
0A
A0T
wwT s
0wIT s
A nova matriz é quadrada, logo podemos achar os autovalores e autovetores
T
v
u
v
u
0A
A0s
M
N
v
u
(N + M x 1)
w wwT s
vuA
u vA
s
sT
problema de autovalor deslocado
Pré x TA
Pré x A
vAuAA
uA vAA
s
sT
TT
vuA
u vA
s
sT
vuA
u vA
s
sT
vAuAA
uA vAA
s
sT
TT
uuAA 2sT
v vAA 2s T
M x M
N x N
Dois problemas autovetores-autovalores:
v vAA 2s T
1)
uuAA 2sT
2)
AUTOVALORES
M x M
N x N
Dois problemas autovetores-autovalores:
v vAA 2s T
1)
uuAA 2sT
2)
AUTOVETORES
M x M
N x N
Dois problemas autovetores-autovalores:
v vAA 2s T
1)
uuAA 2sT
2)
AUTOVETORES AUTOVALORES
M x M
N x N
Dois problemas autovetores-autovalores:
v vAA 2s T
1)
uuAA 2sT
2)
Existirão no máximo MIN(M,N) autovalores diferentes de zero
M x M
v vAA 2s T
Se N > M existirão no máximo M autovalores diferentes de zero
MMM s
s
s
v vAA
v vAA
v vAA
2
22
22
12
11
T
T
T
Presumindo-se, que N > M existirão no máximo M autovalores diferentes de zero
MMM s
s
s
v vAA
v vAA
v vAA
2
22
22
12
11
T
T
T
MMM sss vvv vvvAA 22
221
2121
T
MMM sss vvv vvvAA 22
221
2121
T
2
22
21
21
22221
11211
MMMMM
M
M
s
s
s
vvv
vvv
vvv
T
VAA
Mvvv 21
Presumindo-se, que N > M existirão no máximo M autovalores diferentes de zero
Se N > M existirão no máximo M autovalores diferentes de zero
2
22
21
21
22221
11211
MMMMM
M
M
s
s
s
vvv
vvv
vvv
T
VAA
Mvvv 21
2SV VAA T
N x N
u uAA 2s T
Se M > N existirão no máximo N autovalores diferentes de zero
NNN s
s
s
u uAA
u uAA
u uAA
2
22
22
12
11
T
T
T
NN sss uuu uuuAA 2
22
12
21 T
Se M > N existirão no máximo N autovalores diferentes de zero
NNN s
s
s
u uAA
u uAA
u uAA
2
22
22
12
11
T
T
T
NN sss uuu uuuAA 22
21
221 T
Se M > N existirão no máximo N autovalores diferentes de zero
2
22
21
21
22221
11211
NNNNN
N
N
s
s
s
uuu
uuu
uuu
T UAA
Nuuu 21
Se M > N existirão no máximo N autovalores diferentes de zero
2
22
21
21
22221
11211
NNNNN
N
N
s
s
s
uuu
uuu
uuu
T UAA
Nuuu 21
2SUUAA T
Se N > M existirão no máximo M autovalores diferentes de zero
2SV VAA T
Se M > N existirão no máximo N autovalores diferentes de zero
2SUUAA T
(MxM) (MxM) (MxM)
(NxN) (NxN) (NxN)
Generalização
MMM
uv A
u vA
u vA
s
s
s
222
111
u vA s
Sem perda de generalidade, considere N > M. Então existirão no máximo M autovalores diferentes de
zero
Generalização
MMM
uv A
u vA
u vA
s
s
s
222
111
MMM sss uuu vvvA 221121
Caso em que N > M (no máximo M autovalores diferentes de zero)
N-M
Generalização MMM sss uuu vvvA 221121
1u 2u Nu
MN
Mu 1MuM
Caso em que N > M (no máximo M autovalores diferentes de zero)
M
NNNMNMNN
NMM
NMM
s
s
s
uuuuu
uuuuu
uuuuu
0
VA
2
1
121
21222221
11111211
0
VA M
NNNMNMNN
NMM
NMM
s
s
s
uuuuu
uuuuu
uuuuu 2
1
121
21222221
11111211
Generalização
N M
)()()()( MNNNMMMN SUVA
N
Generalização
)()()()( MNNNMMMN SUVA
Quem são as matrizes
?)()( MMNN
eVU
2SV VAA T
vvvV M21
2SUUAA T uuuU N21 Autovetores da T AA
Autovetores da T
AA
Generalização
IVVVV)( MM
TT
)( NN
TT
I UUUU
As matrizes
)MM()NN(e
VU
são ortogonais
)()()()( MNNNMMMN SUVA
As colunas da matriz )NN(
U são bases do espaço N
(das observações)
As colunas da matriz
são bases do espaço M(dos parâmetros)
)MM( V
Generalização
)()()()( MNNNMMMN SUVA
TT VSUVVA I
Pós multiplicando a equação por T
V
Generalização
)()()()( MNNNMMMN SUVA
Pós multiplicando a equação por T
V
TVSUA
DECOMPOSIÇÃO EM VALORES SINGULARES DA MATRIZ A
Generalização
)MM(
T
)MN()NN()MN( VSUA
2
1
)MN(
s
s
S
2SV VAA T
2SUUAA T
autovalores autovalores
Os valores singulares da matriz )MN( A
A importância da Decomposição de uma
Matriz em valores SINGULARES permite
detectar se um problema é MAL-POSTO
Valor singular ZERO:
Valor singular PRÓXIMO A ZERO:
NÃO HÁ UNICIDADE DA SOLUÇÃO
HÁ UNICIDADE DA SOLUÇÃO PORÉM A SOLUÇÃO É
INSTÁVEL
Decomposição de uma Matriz em valores SINGULARES no caso em que
r valores singulares são NULOS e r < (M e N)
T
)()()()( MMMNNNMN VSUA
00
0SS r
rr
M - rN
- r
)(
VVV rMr
MM
rNr
NNU UU
)(N
r N - r
N
M
M
r M - r
TVSUA
r valores singulares são NULOS
r < (M e N)
T
rM
Trr
rNr V
V
00
0SU UA
Trrr VSUA
Visualização do Espaço Iluminado e Espaço Não Iluminado (Espaço nulo)
através da interpretação em duas dimensões Exercícios 2 e 3
oypA
O problema consiste em resolver o seguinte sistema linear de duas equações e duas incógnitas:
2 p(1) + p(2) = y(1)2 p(1) + 1.000001 p(2) = y(2)
2
1
2
1
000001.12
12
y
y
p
p
O determinante desta matriz é quase zero (2 × 10-6), caracterizando matematicamente um problema mal-posto devido
a instabilidade da solução estimada.
Exercícios 2 e 3
2
1
2
1
000001.12
12
y
y
p
p
Se estabeleço que os parâmetros verdadeiros são:5 5
Dados Livres de ruido
y(1) = 15.000000 y(2) = 15.000005
Dados COM de ruido
y(1) = 15.415667732 y(2) = 15.127581767
Exercícios 2 e 3
Os parâmetros estimados via MQ é
1.44165917968750 1.0e+005
-2.88316414062500 1.0e+005
15.127
15.415
000001.12
12
2
1
p
p
oTyAAAp 1- Tˆ
Exercícios 2 e 3
2}{1
N
iiMINQMIN
0 0.5 1 1.5 2
x 105
-4
-3.5
-3
-2.5
-2
-1.5
-1
-0.5
x 105
FUNCIONAL DOS DADOS
1p
2p
15.127
15.415
000001.12
12
2
1
p
p
(+) Os parâmetros estimados via MQ
1.44165917968750 1.0e+005
-2.88316414062500 1.0e+005
(*) Parâmetros verdadeiros :5 5
0*
22221212
22121111
papaypapayQ oo
U =
0.70710671047584 -0.70710685189724
0.70710685189724 0.70710671047584
S =
3.16227797639622 0
0 0.00000063245547
V =
0.89442710155718 -0.44721377438539
0.44721377438539 0.89442710155718
Exercícios 2 e 3 TVSUA
000001.12
12A
Exercícios 2 e 3
x 105
x 105
0 1 2
-4
-3.5
-3
-2.5
-2
-1.5
-1
-0.5
0
FUNCIONAL DOS DADOS 1p
2p
V =
0.894 -0.447
0.447 0.894
S =
3.162 0
0 0.000000632 rV M-rV
2}{1
N
iiMINQMIN *
PREPARANDO OS SEUS
CORAÇÕESINHOS PARA O EXERCÍCIO 3
oypA
Para garantir a existência, ao invés de resolver o sistema:
minimiza-se:
Exercício prático n.2 - parte 2
Exercício prático n.3
22221212
22121111
papaypapayQ oo TTQ )()( pAypAy oo
Para garantir a existência, ao invés de resolver o sistema:
minimiza-se:
Exercício prático n.2 - parte 2
Exercício prático n.3
02222121
01212111
ypapa
ypapa
22221212
22121111
papaypapayQ oo
0.00 1.00 2.00 3.00 4.00 5.00 6.000.00
1.00
2.00
3.00
4.00
5.00
6.00
0.00 1.00 2.00 3.00 4.00 5.00 6.000.00
1.00
2.00
3.00
4.00
5.00
6.00
0.00 1.00 2.00 3.00 4.00 5.00 6.000.00
1.00
2.00
3.00
4.00
5.00
6.00
0.00 1.00 2.00 3.00 4.00 5.00 6.000.00
1.00
2.00
3.00
4.00
5.00
6.00
p1
p1
p2
p2
Visualização da Função Q para os 3 casos
Solução não única
Det A zero
Solução instável Solução estável
Det A grande
22221212
22121111
papaypapayQ oo
0.00 1.00 2.00 3.00 4.00 5.00
0.00
min (p)
sujeito a
(yo-Ap)T (yo-Ap)=
min (p)
sujeito a
(yo-Ap)T (yo-Ap) =
=
min (p)
Solução via multiplicadores de Lagrange
(yo-Ap)T (yo-Ap)
0.00 0.50 1.00 1.50 2.00 2.50 3.00 3.50 4.000.00
0.50
1.00
1.50
2.00
2.50
3.00
3.50
4.00
0.00 1.00 2.00 3.00 4.00 5.00 6.000.00
1.00
2.00
3.00
4.00
5.00
6.00
0.00 1.00 2.00 3.00 4.00 5.00 6.000.00
1.00
2.00
3.00
4.00
5.00
6.00
(p)+
+
.
.
=
=
|| yo-Ap ||2
(yo-Ap)T (yo-Ap)=
p1
p2
RIDGE REGRESSION
0.00 0.50 1.00 1.50 2.00 2.50 3.00 3.50 4.000.00
0.50
1.00
1.50
2.00
2.50
3.00
3.50
4.00
0.00 1.00 2.00 3.00 4.00 5.00 6.000.00
1.00
2.00
3.00
4.00
5.00
6.00
+ . =
0.00 1.00 2.00 3.00 4.00 5.00 6.000.00
1.00
2.00
3.00
4.00
5.00
6.00
0.00 1.00 2.00 3.00 4.00 5.00 6.000.00
1.00
2.00
3.00
4.00
5.00
6.00
0.00 1.00 2.00 3.00 4.00 5.00 6.000.00
1.00
2.00
3.00
4.00
5.00
6.00
0.00 1.00 2.00 3.00 4.00 5.00 6.000.00
1.00
2.00
3.00
4.00
5.00
6.00
+ . =
SUAVIDADE
p1
p2
top related