Download - SL - Métodos Iterativos e MMQ
-
Captulo 1
Reviso de lgebra linear
1.1 Espao Vetorial Normado
O conceito de norma de um vetor ou matriz muito importante para entender a noo de
limite de uma sequncia de vetores ou matrizes no estudo da convergncia dos mtodos
iterativos de soluo de sistemas lineares e de problemas de erros de arredondamento que
envolvam matrizes ou vetores.
Denio: Num espao vetorial E a norma de um vetor v, denotada por v umafuno de E E R+ satisfazendo:
1. v 0 e v = 0 se, e s se v = 0;
2. v = || v ;
3. u+ v u+ v.
Exemplo: No Rn, se v = (v1, v2, ..., vn), ento so exemplos de normas:
v = max |vi|, 1 i n (norma do mximo)
v1 = ni=1 |vi| (norma da soma)
1
-
vE = v2 =
(v, v) =n
i=1 v2i (norma euclidiana - provm do produto
interno)
Exemplo: 1.10 pg 14 - Se v = (1, 10, 3, 4,20)t ento v = 20, v1 = 38 ev2 = vE 22.93.
Exemplo: Em Mn (R), se A Mn (R) ento so exemplos de normas:
A = mxn
j=1 |aij|, 1 i n (norma linha)
A1 = mxn
i=1 |aij| , 1 j n (norma coluna)
AE =n
i,j=1 a2ij (norma euclidiana)
Para estas normas pode-se provar que AB A . B .
Exemplo: 1.13 pg 16 - Se A =
3 2 16 3 4
1 2 1
ento A = 13, A1 = 10 eAE =
32 + + 12 = 9.
Denio: Duas normas va e vb so equivalentes se existirem constantes positi-vas k1 e k2 tais que para todo v E
k1 va vb k2 va
Exemplo: as normas apresentadas no Rn e em Mn (R) so equivalentes entre si.
Denio: Dada uma norma de vetores v pode ser associada a ela uma norma dematrizes atravs de
A = supv=1
Av
que chamada de norma subordinada ou induzida.
Resultado: Se uma norma de matrizes induzida ento, para qualquer v = 0, valeque
Av A . v
2
-
e dizemos que as duas normas so consistentes.
Dem.: Dado v = 0, seja u = vv . Ento u = 1 e
A Au =
A vv = 1v Av = Av A . v
*denio norma induzida.
As normas vetoriais do mximo, euclidiana e da soma induzem, respectivamente, as
normas matriciais de mximo da soma nas linhas, raz quadrada do raio espectral** de
AtA e mximo da soma nas colunas.
**mximo autovalor em mdulo.
1.2 Projeo Ortogonal
O conceito de projeo ortogonal ser importante para o entendimento do mtodo dos
mnimos quadrados. Dados os vetores u e v de um espao vetorial, encontrar a projeo
ortogonal de u sobre o subespao determinado por v consiste em obter um vetor u0 deste
subespao tal que
(u0, u u0) = 0
isto , que u0 seja ortogonal a u u0.Neste caso, devido as propriedades do produtointerno e a exigncia de u0 = v, devemos ter que
(v, u v) = 0(v, u) (v, v) = 0
(u, v) = 2 (v, v)
=(u, v)
(v, v)
u0 =
(u, v)
(v, v)
v
3
-
No caso geral, se V um espao vetorial e W um subespao de V , o objetivo
determinar a projeo ortogonal do vetor u sobre W . Se {e1, e2, ..., en} uma base deW , o vetor projeo ortogonal u0 tal que
u0 = 1e1 + ...+ nen
Em suma, nos resta determinar as coordenadas 1, ..., n do vetor u0. Agora, u0 ser a
projeo ortogonal de u sobre W signica que u u0 seja ortogonal a todo vetor de W ,mas, para isto, necessrio e suciente que seja ortogonal a todo vetor da base de W ,
ou seja
(u u0, ei) = 0 i, 1 i n(u (1e1 + ...+ nen) , ei) = 0 i, 1 i n
Usando as propriedades do produto interno, segue que
1 (e1, e1) + 2 (e2, e1) + ...+ n (en, e1) = (u, e1)
1 (e1, e2) + 2 (e2, e2) + ...+ n (en, e2) = (u, e2)
...
1 (e1, en) + 2 (e2, en) + ...+ n (en, en) = (u, en)
O que remete ao sistema de equaes lineares nas variveis 1, 2, ..., n dado na forma
matricial por
(e1, e1) (e2, e1) . . . (en, e1)
(e1, e2) (e2, e2) . . . (en, e2)... . . . . . .
...
(e1, en) (e2, en) . . . (en, en)
1
2...
n
=
(u, e1)
(u, e2)...
(u, en)
4
-
Para mostrar que tal sistema possui soluo e ela nica, basta lembrar dois fatos de
lgebra linear: primeiro que a partir de uma base qualquer se pode construir uma base
ortonormal (caso em que a matriz dos coecientes do sistema acima tornar-se-ia a matriz
identidade, o que garantiria a existncia de soluo pois det I = 1 = 0) e, segundo, queas coordenadas em outra base qualquer so unicamente determinadas por meio da matriz
de mudana de base. Tudo isto nos permite concluir que a projeo ortogonal de u sobre
W nica.
Teorema: Seja W um subespao vetorial de um espao V . Dado u V e u0 W aprojeo ortogonal de u sobre W . Ento, u0 a melhor aproximao para u no sentido
de que
u u0 < u w
para qualquer que seja w W.Dem.: Como w, u0 W , u0 w W e , portanto, ortogonal a u u0. Assim
(u w, u w) = (u w + u0 u0, u w + u0 u0)= ((u u0) + (u0 w) , (u u0) + (u0 w))= (u u0, u u0) + 2 (u u0, u0 w)
=0
+(u0 w, u0 w)
Portanto
u w2 = u u02 + u0 w2
Como, por hiptese, w = u0, conclumos que u0 w > 0 e da igualdade acima obtem-seque
u w2 > u u02 = u u0 < u w
Esta desigualdade mostra que a projeo ortogonal u0 de u sobre W tal que a menor
distncia de u a W a distncia de u a u0.
5
-
1.3 Mal condicionamento
Alm da preocupao com a existncia de soluo e de um mtodo eciente para resolver
um sistema de equaes lineares, outro aspecto a ser considerado a sensibilidade da
soluo a pequenas mudanas nos coecientes.
De modo geral, o mal condicionamento ocorre quando, num processo numrico, os re-
sultados no dependem continuamente dos dados de entrada, isto , pequenas alteraes
nos dados de entrada produzem grandes alteraes nos resultados. Um problema mal
condicionado tambm chamado de problema mal posto. Exemplo: determinados sis-
temas lineares e problemas de valor inicial. Tratemos particularmente o caso de sistemas
lineares.
Denio: o fenmeno de que a soluo de um sistema de equaes lineares muito
sensvel a pequenas variaes nos coecientes de A ou de b chamado de mal condi-
cionamento e est relacionado ao fato de que a matriz do sistema est prxima de ser
singular.
Exemplo: Considere o sistema Ax = b dado por
1 11 2
x1x2
= 105
cuja soluo exata x =
x1x2
= 5
5
. Alterando o vetor b para b = 10.015
osistema torna-se
1 11 2
x1x2
=
10.015
6
-
cuja soluo exata x =
x1x2
=
5.007
5.003
. Observe que o resduo
r = b b = AxAx = 1 1
1 2
5.0075.003
105
= .0 1.00 1
pequeno e se nota que x x, ou ainda,
x x = 5
5
5.007
5.003
=
.00 7.00 3
0
J para o sistema dado por
1 1
1.001 1
x1x2
=
10
10.005
temos que a soluo exata x =
x1x2
=
5
5
. Alterando o vetor b para b = 10
10.1
o sistema torna-se 1 1
1.001 1
x1x2
= 10
10.1
cuja soluo exata x =
x1x2
=
10090
. Observe agora que o resduo
r = b b = Ax Ax = 1 1
1.001 1
10090
10
10.005
=
0.0 95
7
-
e NO se nota que x x, ou ainda,
x x = 5
5
10090
=
95
95
= 0
Ou seja, o fato do resduo ser tal que r = b b 0 no implica necessariamenteque x x 0. Isto no quer dizer que todas as solues aproximadas de equaesmal condicionadas fornecem resduos pequenos, mas que, algumas solues aproximadas
de equaes mal condicionadas fornecem resduos bem pequenos.
Em resumo, se x resolve aproximadamente Ax = b, isto , Ax b e o resduor = b Ax pequeno no sentido de que r 0 ento se espera que x x (a soluoexata), isto , x x 0, entretanto, isto s acontece se A for bem condicionada.
1.3.1 Anlise da perturbao
A condio de um sistema linear no singular Ax = b consiste na anlise do efeito de
perturbaes na soluo x = A1b provocada por perturbaes nos dados de A ou de b.
Caso 1 - Uma perturbao em b da forma b + b ,mantida A, provoca perturbao
x+ x na soluo.
A questo a seguinte: Conhecida b como estimar x? Temos que
A (x+ x) = b+ b = x+ x = A1 (b+ b) = x = A1b
usando a ideia de normas induzidas segue que
x A1 b
da mesma forma que b = Ax implica
b A x
8
-
multiplicando membro a membro as duas inequaes vem que
x . b A1 b A x = A . A1 . b . x
xx A .
A1 .bbdenindo o nmero de condio de A como
cond (A) = A . A1chegamos em
xx cond (A) .
bb
Observaes:
cond (A) 1, pois cond (A) = A . A1 cond (AA1) = cond (I) = 1;
bb = A.xb = rb interpretada como uma medida do erro relativo em b exx =
xxx como uma medida do erro relativo em x e a expresso acima indica
que o erro relativo em x depende do valor da cond (A) 1.
Se cond (A) grande, ento, mesmo pequenas perturbaes relativas em b, pro-duziro grandes perturbaes relativas em x, e o problema de resolver Ax = b
mal condicionado, em outras palavras, mesmo que r 0 no implica quex x 0 a menos que cond (A) tambm seja pequena.
Alguns autores consideram que cond (A) grande quando for maior ou igual a 104;
O nmero de condio invariante sobre a norma de matrizes utilizada.
Caso 2 - Uma perturbao em A da forma A+ A, mantido b, provoca perturbao
x+ x na soluo.
9
-
Analogamente, pode-se provar que
xx+ x cond (A) .
AA
e, novamente, se cond (A) for grande, ento pequenas perturbaes em A produzem
grandes perturbaes relativas em x, e o problema de resolver Ax = b mal condicionado.
Um procedimento para alterar o nmero de condio da matriz de um sistema e torn-
la mais bem condicionada o scalling (escalamento) quando os elementos de uma matriz
so de grandezas diferentes. A estratgia consiste em multiplicar A a esquerda por D1
e direita por D2 matrizes diagonais convenientes de forma que a matriz D1AD2 seja
bem condicionada. Com efeito
Ax = b = D1AD2 B
D12 x y
= D1bc
fazendo y = D12 x e c = D1b e B = D1AD2 somos levados ao sistema
By = c
tal que cond (B)
-
tal que cond (B) = 11.1119
= 12119
-
Captulo 2
Sistemas Lineares - Mtodos
Iterativos
Introduo
Tais mtodos podem ser melhores que os mtodos exatos se a matriz dos coecientes
for esparsa (no alteram a estrutura de esparsidade da matriz ao contrrio de eliminao
de Gauss, por exemplo), utilizam menos memria do computador, maior capacidade de
autocorreo e so usados para reduzir erros de arredondamento na soluo de mtodos
exatos, alm de serem utilizados em sistemas de equaes no lineares.
2.1 Processos Estacionrios
Ummtodo iterativo estacionrio quando a sequncia de aproximaes da soluo utiliza
sempre o mesmo processo. Dado um sistema linear possvel e determinado Ax = b,
da mesma forma que no mtodo iterativo linear para resolver equaes no lineares,
buscamos transformar o sistema linear num outro onde se possa denir um processo
iterativo equivalente da forma x = Bx + g, por exemplo, para B = I A e g = b.
12
-
Dene-se o processo iterativo estacionrio
x(k) = Bx(k1) + g
onde que, sex(k)
x ento x soluo de Ax = b.De fato, para B = I A e g = b, temos
x = Bx+ g = (I A) x+ b = xAx+ b = Ax = b
A escolha de quem ser a matriz B dene o mtodo a ser usado.
Teorema: O processo iterativo dado por x(k) = Bx(k1) + g convergente se, e
somente se, max |i| < 1 (chamado de raio espectral de B), onde i so os autovaloresde B. (condio necessria e suciente de convergncia)
Corolrio: Se, para alguma norma de matrizes, B < 1, ento o processo iterativodado por x(k) = Bx(k1) + g convergente. (condio suciente de convergncia)
A matriz B chamada de matriz de iterao.
Exemplo: exemplo 5.1 pg 170 Seja
A =
0.5 0.2 0.50.1 0.6 0.4
0.3 0.1 0
vericar se um sistema linear Ax = b que tenha a matriz A como matriz de iterao
convergir para a soluo.
Soluo: A = max3
j=1 |aij| = 1.2, 1 i 3 (norma linha),A1 = max3
i=1 |aij| =0.9, 1 j 3 (norma coluna), logo, ser convergente.
O critrio de parada dado pela erro relativo e a escolha de uma preciso > 0, isto
, se x(k+1) x(k)x(k+1)
<
13
-
ento, tomamos x x(k+1).
2.2 Mtodo de Jacobi-Richardson (Gauss-Jacobi)
Dado um sistema linear Ax = b, onde detA = 0, podemos reescrever A = L+D+U talque lij = aij se i > j e 0 se i j, dij = aij se i = j e 0 se i = j, uij = aij se i < j e 0 sei j. Se detD = 0 o sistema original pode ser transformado em
(L+D + U)x = b Dx = (L+ U)x+ b x = D1 (L+ U) x+D1b
que dene ummtodo iterativo estacionrio onde a matriz de iteraoB = D1 (L+ U)e g = D1b. O processo dado por
x(k+1) = D1 (L+ U) x(k) +D1b
chamado de Mtodo de Jacobi-Richardson. Se supomos detD = 0 teremos aii = 0e antes da decomposio A = L + D + U podemos dividir cada equao pelo elemento
aii obtendo
A = L + I + U
e o processo iterativo torna-se
x(k+1) = (L + U)x(k) + b
14
-
onde lij = aij =
aijaii
se i > j e 0 se i j, uij = aij = aijaii se i < j e 0 se i j e bi = biaii .Que pode ser reescrito como
x(k+1)1 = a12x(k)2 a13x(k)3 ... a1nx(k)n + b1x(k+1)2 = a21x(k)1 a23x(k)3 ... a2nx(k)n + b2x(k+1)3 = a31x(k)1 a32x(k)2 ... a3nx(k)n + b3
...
x(k+1)n = an1x(k)1 an2x(k)2 ... an,n1x(k)n1 + bn
O mtodo converge se B = (L + U ) ou B1 = (L + U )1 satisfazo corolrio, isto , se
max1in
nj=1,j =i
aij < 1 (norma linha)ou
max1jn
ni=1,i=j
aij < 1 (norma coluna)Denio: Uma matriz A estritamente diagonalmente dominante se
nj=1,j =i
|aij| < |aii| , i = 1, 2, ..., n
Quando A estritamente diagonalmente dominante ento a norma linha de A menor
do que 1. Este teste pode ser usado para vericar a convergncia do mtodo de Jacobi-
Richardson. (A estritamente diagonalmente dominante se, e s se, A satisfaz o critrio
(norma) linha.)
Exemplo: Exemplo 5.2 pg 173 - Resolver o sistema linear10x1 + 2x2 + x3 = 7
x1 + 5x2 + x3 = 82x1 + 3x2 + 10x3 = 6
15
-
pelo mtodo de Jacobi-Richardson, com x(0) = (0.7,1.6, 0.6)t e < 102. Note que amatriz estritamente diagonalmente dominante.
2.3 Mtodo de Gauss-Seidel
Analogamente ao mtodo de Jacobi-Richardson, se o sistema linear Ax = b for escrito na
forma
(L + I + U)x = b = (L + I) x = U x+ b
x = (L + I)1 U x+ (L + I)1 b
podemos denir o processo iterativo dado por
x(k+1) = (L + I)1 U x(k) + (L + I)1 b
denominado de Mtodo de Gauss-Seidel. Pr-multiplicando a equao por (L + I)
obtemos
(L + I)x(k+1) = U x(k) + b = x(k+1) = Lx(k+1) U x(k) + b
que no necessita do clculo de (L + I)1. Portanto, o processo iterativo dado por
x(k+1)1 = a12x(k)2 a13x(k)3 ... a1nx(k)n + b1x(k+1)2 = a21x(k+1)1 a23x(k)3 ... a2nx(k)n + b2x(k+1)3 = a31x(k+1)1 a32x(k+1)2 ... a3nx(k)2 + b3
......
......
......
......
......
x(k+1)n = an1x(k+1)1 an2x(k+1)2 ... an,n1x(k+1)n1 + bn
Este mtodo difere do anterior em utilizar no clculo de uma componente de x(k+1) o
valor mais recente das demais componentes.
16
-
Omtodo de Gauss-Seidel converge se for satisfeito qualquer um dos critrios a seguir:
a) Critrio de Sassenfeld
max1in
i < 1
onde
i =i1j=1
aij j + nj=i+1
aijb) Critrio de linhas ou (exemplo 5.1 pg. 175)
c) Matriz dos coecientes for estritamente diagonalmente dominante
Exemplo: 5.3 pg 179 ou exerccio 5.3 pg 180. (Exemplo 5.3) Resolver o sistema
5x1 + x2 + x3 = 5
3x1 + 4x2 + x3 = 6
3x1 + 3x2 + 6x3 = 0
pelo mtodo de Gauss-Seidel com < 102.
Soluo: A matriz do sistema no estritamente diagonalmente dominante, logo,
tambm no satisfaz o critrio de linhas ou colunas. Aplicando o critrio de Sassenfeld
temos 1 =15
+ 15
= 25; 2 =
34
.25+ 14
= 1120; 3 =
12
25+12
1120
= 15+ 11
40= 19
40
e max1 =1120
= 0, 55 < 1 e o processo iterativo de Gauss-Seidel ser convergente. As
iteraes so denidas por
x(k+1)1 = 0, 2x(k)2 0, 2x(k)3 + 1x(k+1)2 = 0, 75x(k+1)1 0, 25x(k)3 + 1, 5x(k+1)3 = 0, 5x(k+1)1 0, 5x(k+1)2
partindo-se de x(0) = (0, 0, 0)t , na 4a. etapa atingiremos o critrio de parada.
17
-
Captulo 3
Mtodo dos Mnimos Quadrados
3.1 Introduo
O uso do mtodo de mnimos quadrados para aproximar uma funo f (x) por outra
funo F (x) pode ser linear ou no linear nos parmetros a serem determinados de F ,
durante as sees deste captulo teremos a oportunidade de abordar os dois casos, embora
o caso no linear busca em certo sentido linearizar o problema, desta forma o caso de
mnimos quadrados linear o mais importante e ser tratado inicialmente.
Dado um espao vetorial V e um subespao W de V , tal que dimW = n e um vetor
v V qual o vetor w W tal que
v w < v u , u W?
Sabemos que w deve ser a projeo ortogonal de v sobreW , mais especicamente, o vetor
vw deve ser ortogonal a todo vetor u W (maiores informaes veja seo 1.6). Destaforma, se {w1, w2, ..., wn} uma base de W ento w = 1w1 + ... + nwn e, suciente,que v w seja ortogonal a cada wi
(v w,wi) = 0 i = 1, ..., n
18
-
(v (1w1 + ...+ nwn), wi) = 0 i = 1, ..., n1 (w1, wi) + 2 (w2, wi) + ...+ n (wn, wi) = (v, wi) i = 1, ..., n
que um sistema linear que pode ser reescrito como
(w1, w1) (w2, w1) ... (wn, w1)
(w1, w2) (w2, w2) ... (wn, w2)...
......
...
(w1, wn) (w2, wn) (wn, wn)
1
2...
n
=
(v, w1)
(v, w2)...
(v, wn)
Alm disso, xada uma base de W o sistema acima possui soluo e ela nica. (seo
1.6).
Neste captulo, deseja-se aproximar uma funo y = f (x) por outra funo F (x) que
seja combinao linear de funes conhecidas, isto
f (x) F (x) = 0g0 (x) + ...+ mgm (x)
de modo que a distncia entre f e F seja a menor possvel. Esta distncia pode provir
de uma norma, em ltima instncia, de um produto interno. Este tipo de aproximao
particularmente til quando f denida por uma integral, por uma srie ou quando
f s conhecida para um nmero nito de pares de pontos experimentais.
Denio: O mtodo que utiliza como aproximao de uma funo f V umafuno F W V tal que a distncia de f a F seja mnima, ou seja, F a projeoortogonal de f sobre W , chamado de mtodo dos mnimos quadrados.
Como desejamos minimizar dist(f, F ), equivalentemente, minimizar
dist2 (f, F ) = f F2 = (f F, f F )
basta tomarmos F como sendo a projeo ortogonal de f sobreW , onde os coecientes de
F so dados conforme o sistema linear dado acima. Se chamarmos de r (x) = f (x)F (x)
19
-
o resduo da aproximao a expresso acima torna-se, minimizar
dist2 (f, F ) = r2 = (r, r)
Os diferentes produtos internos que podemos tomar no espao de funes nos conduzem a
mtodos de aproximao por mnimos quadrados ponderados, situao em que se atribui
diferentes graus de importncia aos pontos (ou ao intervalo) conhecidos de f .
3.2 Aproximao Polinomial
Nesta seo buscaremos aproximar uma funo f (x) contnua, ou dada por pares de
pontos (discreta), por um polinmio pm (x) Km (x) , o espao vetorial dos polinmiosde grau, no mximo, m.
3.2.1 Caso Contnuo
Seja f (x) C [a, b] = V, o espao vetorial das funes reais contnuas num intervalo[a, b] e p (x) = pm (x) = 0 + 1x+ 2x2 + ...+ mxm Km (x) = W (subespao de V ),desejamos
f (x) pm (x) = 0 + 1x+ 2x2 + ... + mxm
e que a distncia entre f e p seja mnima. Para isto, basta determinar a projeo ortogonal
de f sobreW usando, por exemplo, o produto interno usual em C [a, b], dado por (f, g) = baf (x) g (x) dx, ou seja, resolver o sistema linear
(1, 1) (x, 1) ... (xm, 1)
(1, x) (x, x) ... (xm, x)...
......
...
(1, xm) (x, xm) (xm, xm)
0
1...
m
=
(f, 1)
(f, x)...
(f, xm)
Observao: Quando usamos o produto interno usual, todos os pontos do intervalo
20
-
[a, b] possuem o mesmo peso na ponderao. No caso contnuo, quando desejamos atribuir
pesos diferentes ao pontos do intervalo [a, b], podemos usar o produto interno dado por
(f, g) =
ba
w (x) f (x) g (x) dx
onde w (x) a chamada funo peso, que em [a, b] deve ser integrvel e w (x) > 0. Alguns
exemplos de funo peso w1 (x) = 11x2 em (1, 1), w2 (x) = ex e w3 (x) = ex2em
(,). No exemplo a seguir, trabalharemos com o produto interno usual.Exemplo: Exemplo 7.1 - Seja f (x) = x4 5x, x [1, 1]. Aproximar f (x) por um
polinmio do 2o. grau usando o mtodo dos mnimos quadados.
(1, 1) (x, 1) (x2, 1)
(x, 1) (x, x) (x2, x)
(x2, 1) (x2, x) (x2, x2)
0
1
2
=
(f, 1)
(f, x)
(f, x2)
2 0 23
0 23
0
23
0 25
0
1
2
=
25
103
27
, Solution is :
3
35
567
. Portanto: f (x) P2 (x) = 335 5x+ 67x2 11 1dx = 2
11 xdx = 0
11 x
2dx = 23
11 x
3dx = 0 11 x
4dx = 25
11 (x
4 5x) dx =25
11 x (x
4 5x) dx = 103
11 x
2 (x4 5x) dx = 27
Se desejarmos comparar a aproximao de f por um polinmio de grau m + 1, no
se poderia aproveitar quase nada do trabalho j feito e teramos que resolver um novo
sistema linear, alm disso, com o aumento do valor de m os efeitos de propagao de
erros na resoluo do sistema tornariam se grandes, ou seja, a soluo do sistema poderia
estar errada. Entretanto, se a base {w1, w2, ..., wn} for ortonormal, (wi, wj) = 0, i = je wi2 = (wi, wi) = 1, os clculos sero signicativamente simplicados, tendo emvista que a matriz do sistema torna-se a matriz identidade e uma base ortonormal para
Km+1 (x) ser constituda de w1, w2, ..., wm e wm+1 que seja ortogonal a wi, i = 1, ...,m e
21
-
unitrio. Portanto, se a base for ortonormal, o sistema torna-se
1 0 ... 0
0 1 ... 0...
......
...
0 0 0 1
0
1...
m+1
=
(f, w1)
(f, wm)
(f, wm+1)
Exemplo: 7.2 pg 252 Aproximar a funo f (x) = x4 5x, x [1, 1] usando
polinmios ortogonais de grau 1 e 2. O detalhe aqui que tem que ortonormalizar as
bases cannicas de P1 e P2 que neste caso tornam-se
1 =
!2
2,
6
2x
"
2 =
!2
2,
6
2x,
310
4
x2 1
3
"
Clculos na pgina 252 Neide Franco.
3.2.2 Caso Discreto
Quando f dado por n+ 1 pares de pontos
(x0, y0) , (x1, y1) , ..., (xn, yn)
e desejamos determinar um polinmio de coecientes reais
pm (x) = a0 + a1x+ ... + amxm
de grau, no mximo, m, onde m < n tal que seja mnimo
f pm2 = d2 (f, pm) =n
k=0
[f (xk) pm (xk)]2
22
-
=n
k=0
[yk (a0 + a1xk + ... + amxmk )]2
Aqui usamos (f, g) =
f (xk) g (xk). Denotando y =
y0
y1...
yn
, p =
pm (x0)
pm (x1)...
pm (xn)
podemos escrever
p =
pm (x0)
pm (x1)...
pm (xn)
= a0
1
1...
1
+ a1
x0
x1...
xn
+ a2
x20
x21...
x2n
+ ...+ am
xm0
xm1...
xmn
p = a0u0 + a1u1 + a2u2+... + amum
onde uti =#xi0 x
i1 xin
$. Pode-se mostrar que se os n + 1 pontos so distintos,
ento os m+ 1 vetores u0, u1, ..., um so linearmente independentes (basicamente porque
se pode obter uma submatriz quadrada de ordem m da matriz m n dos vetores u que no singular, de fato, uma matriz de Vandermonde) e determinam um subespao de
dimm+ 1 contido num espao de dimn+ 1, assim, para determinarmos p que minimize
a distncia, basta que p seja a projeo ortogonal de y sobre este subespao. Portanto,
os coecientes de pm so a soluo do sistema linear dado por:(u0, u0) (u1, u0) ... (um, u0)
(u0, u1) (u1, u1) ... (um, u1)...
......
...
(u0, um) (u1, um) (um, um)
a0
a1...
am
=
(y, u0)
(y, u1)...
(y, um)
Exemplo: Exerccio 7.7. pg 257 - Determine a parbola mais prxima dos pontos
23
-
(xi, yi) para a funo y = f (x) dada por
x 3 1 1 2 3y 1 0 1 1 1
usando o mtodo dos mnimos quadrados.
Soluo: Aqui deseja-se f (x) p2 (x) = a0+ a1x+ a2x2. Seja p = a0u0+ a1u1+a2u2onde ut0 =
#1 1 1 1 1
$, ut1 =
#3 1 1 2 3
$, ut2 =
#9 1 1 4 9
$, yt =#
1 0 1 1 1$. Devemos resolver o sistema
(u0, u0) (u1, u0) (u2, u0)
(u0, u1) (u1, u1) (u2, u1)
(u0, u2) (u1, u2) (u2, u2)
a0
a1
a2
=
(y, u0)
(y, u1)
(y, u2)
5 2 24
2 24 8
24 8 180
a0
a1
a2
=
0
3
13
, Solution is :
121134
31268
53268
. Portanto p2 (x) = 121134 + 3168x 53268x2 a parbola que melhoraproxima f (x).
3.3 Aproximao Trigonomtrica
Quando a funo que desejamos fazer uma aproximao peridica a aproximao poli-
nomial pode no ser adequada. Podemos contornar isto usando a aproximao por uma
funo trigonomtrica.
24
-
3.3.1 Caso Contnuo
Se uma funo f (x) for peridica e integrvel no intervalo [0, 2] a aproximao trigonomtri-
ca de ordem m de f a funo
F (x) = a0 + a1 cosx+ b1 sin x+ ... + am cosmx+ bm sinmx
que minimiza distncia at f .
J sabemos que F deve ser a projeo de f sobre o subespao gerado por =
{1, cos x, ..., cosmx, sin x, ..., sinmx}. Alm disso, ortogonal em [0, 2], isto :
20
sinmx cosnxdx = 0 =
m =n 20
sinmx sinnxdx =
20
cosmx cosnxdx
Para m = 0 20
sinmx sinmxdx = =
20
cosmx cosmxdx
e, para m = 0 20
cos 0x cos 0xdx = 2
Assim, para determinarmos os coecientes de F devemos resolver o sistema
2 0
. . .
0
a0
a1...
bm
=
(f, 1)
(f, cosx)...
(f, sinmx)
cuja soluo
a0 =1
2
20
f (x) dx
ak =1
20
f (x) cos kx.dx k = 1, ...,m
25
-
bk =1
20
f (x) sin kx.dx k = 1, ...,m
( tambm chamado de conjunto de funes ortogonais de Fourier em [0, 2] para
w (x) = 1, conforme veremos outros exemplos de conjuntos de polinmios ortogonais
adiante.)
Lembre-se que uma funo f par se f (x) = f (x) e f mpar se f (x) = f (x).So exemplos de funo par e mpar, respectivamente, cosmx e sinmx. Se f par e g
impar num intervalo I ento f.g mpar e, neste caso,I(f.g) (x) dx = 0. Da mesma
forma, se f impar e g par em I ento f.g mpar eI(f.g) (x) dx = 0. Portanto, se f a
qual desejamos obter uma aproximao trigonomtrica for par em [0, 2] sua aproximao
ser do tipo
f (x) F (x) = a0 +mk=1
ak cos kx
Por outro lado se f for mpar em [0, 2] ento
f (x) F (x) =mk=1
bk sin kx
Exemplo: exerccio 7.11 pg 261 - Considere a funo
y (t) =
1 t 01 0 t e sua extenso peridica. Determine sua aproximao trigonomtrica de grau 2.
Soluo: Como f mpar, peridica e integrvel em [0, 2]
f (x) b1 sin x+ b2 sin 2x = F (x)
onde
b1 =1
20
f (x) sin x.dx =1
0
sin xdx+1
2
sin xdx = 4
26
-
b2 =1
20
f (x) sin 2x.dx =1
0
sin 2xdx+1
2
sin 2xdx = 0
Portanto
f (x) F (x) = 4sin x
3.3.2 Caso Discreto
Se uma funo f (x) for conhecida nos N pontos igualmente distantes
xk =2k
Nk = 1, 2, ..., N
observe que xN = 2, ento a aproximao trigonomtrica de ordem L de f a funo
SL (x) = a0 + a1 cosx+ b1 sin x+ ...+ aL cosLx+ bL sinLx
que minimiza distncia at f , onde L N/2 (a m de que 2L+ 1 N + 1 - a dimensodo subespao de SL no mximo N +1 o nmero de pontos tabelados conhecidos de f o
que garante existncia e unicidade da soluo pelo teorema 8.1).
J sabemos que SL deve ser a projeo de f sobre o subespao gerado por =
{1 = cos 0x, cosx, ..., cosLx, sinx, ..., sinLx}. No podemos usar o produto interno dadopela integral, mas pode usar o produto interno
(f, g) =Nk=1
f (xk) g (xk)
27
-
e determinamos os coecientes a0, a1, b1, ..., aL, bL resolvendo o sistema
(1, 1) (cosx, 1) (sin x, 1) ... (cosLx, 1) (sinLx, 1)
(1, cosx) (cosx, cosx) (sin x, cosx) ... (cosLx, cosx) (sinLx, cosx)
(1, sin x) (cosx, sin x) (sin x, sin x) ... (cosLx, sin x) (sinLx, sinx)...
......
...
(1, cosLx) (cosx, cosLx) (sin x, cosLx) ... (cosLx, cosLx) (sinLx, cosLx)
(1, sinLx) (cosx, sinLx) (sin x, sinLx) ... (cosLx, sinLx) (sinLx, sinLx)
a0
a1
b1...
aL
bL
=
(f, 1)
(f, cosx)
(f, sin x)...
(f, cosLx)
(f, sinLx)
Desde que, ortogonal em [0, 2], isto :
Nk=1
cos axk sin bxk = 0 a, b = 1, ..., L
Nk=1
cos axk cos bxk =Nk=1
sin axk sin bxk = 0 a = b, a, b = 1, ..., L
Nk=1
cos axk cos bxk =Nk=1
sin axk sin bxk =N
2a = b, a, b = 1, ..., L
Nk=1
cos 0xk cos 0xk = N
28
-
para determinarmos os coecientes de F devemos resolver o sistema
N 0 0 ... 0 0
0 N/2 0 ... 0 0
0 0 N/2 ... 0 0...
......
...
0 0 0 ... N/2 0
0 0 0 ... 0 N/2
a0
a1
b1...
aL
bL
=
(f, 1)
(f, cos x)
(f, sin x)...
(f, cosLx)
(f, sinLx)
cuja soluo
a0 =1
N
Nk=1
f (xk)
ai =2
N
Nk=1
f (xk) cos ixk i = 1, ..., L
bi =2
N
Nk=1
f (xk) sin ixk i = 1, ..., L
Exemplo: exerccio 7.12 pg 263. Considere a funo f (x) dada por
k 1 2 3 4 5 6 7 8 9 10 11 12
f (xk) 11.8 4.3 13.8 3.9 18.1 22.9 27.2 23.8 8.2 31.7 34.2 38.4
onde xk = 2k12 , obter a aproximao trigonomtrica de ordem 2, usando o mtodo de
mnimos quadrados.
Soluo
k 1 2 3 4 5 12
xk212
412
2412
f (x) a0 + a1 cosx+ b1 sin x+ a2 cos 2x+ b2 sin 2x
29
-
onde
a0 =1
12
12k=1
f (xk) = 4, 525
a1 =2
12
12k=1
f (xk) cosxk = 28, 053
b1 =2
12
12k=1
f (xk) sin xk = 0, 1317
a2 =2
12
12k=1
f (xk) cos 2xk = 2, 367
b2 =2
12
12k=1
f (xk) sin 2xk = 12, 499
3.4 Aproximao porMQponderada usando polinmios
ortogonais
J falamos da importncia da utilizao de polinmios ortogonais para facilitar os clculos
dos coecientes da funo de aproximao no caso no ponderado, isto , quando
w (x) = 1. No caso de lidarmos com uma funo peso como, por exemplo, w (x) = 11x2 ,
x (1, 1) que atribui menos peso a regio central do intervalo e mais peso aos pontosextremos do intervalo, temos o interesse em lidar com um conjunto de funes ortogonais
{k (x)} em relao a uma funo peso w, num intervalo [a, b], isto
%j , k
&w=
ba
w (x)j (x)k (x) dx =
0, se j = kk, se j = k
se k = 1 o conjunto ortonormal. Neste caso, as mesmas ideias de projeo ortogonal
podem ser usadas para aproximar
f (x) F (x) =n
k=0
akk (x)
30
-
onde os coecientes ak so dados por
ak =(f, k)w(k, k)w
=
baw (x) f (x)k (x) dx baw (x)2k (x) dx
a seguir veremos alguns importantes exemplos de conjuntos ortogonais de funes
relativos a alguma funo peso.
3.4.1 Polinmios de Legendre
O conjunto dos polinmios Pn (x) em que
P0 (x) = 1 P1 (x) = x P2 (x) =3
2x2 1
2
e recursivamente
Pn (x) =2n 1n
xPn1 (x) n 1n
Pn2 (x)
ortogonal no intervalo [1, 1] para a funo peso w (x) = 1, alm disso, pode-se mostrarque 1
11.P 2n (x) dx =
2
2n+ 1
Note que este o denominador dos coecientes ak para este conjunto ortogonal de funes,
esta funo peso e este intervalo.
3.4.2 Polinmios de Laguerre
O conjunto dos polinmios Ln (x) em que
L0 (x) = 1 L1 (x) = 1 x
e recursivamente
Ln (x) = (2n x 1)Ln1 (x) (n 1)2 Ln2 (x)
31
-
=ex
n!
dn
dxn%xnex
&
ortogonal no intervalo (0,) para a funo peso w (x) = ex.
3.4.3 Polinmios de Tchebyshev
O conjunto dos polinmios Tn (x) em que
T0 (x) = 1 T1 (x) = x
e recursivamente
Tn (x) = 2xTn1 (x) Tn2 (x) = cos (n. arccosx)
ortogonal no intervalo (1, 1) para a funo peso w (x) = 11x2 .
3.4.4 Polinmios de Hermite
O conjunto dos polinmios Hn (x) em que
H0 (x) = 1 H1 (x) = 2x
e recursivamente
Hn (x) = 2xHn1 (x) 2 (n 1)Hn2 (x)= (1)n ex2 .
'dn
dxn
#ex
2$(
ortogonal no intervalo (,) para a funo peso w (x) = ex22 .Caso o intervalo da aproximao no seja onde o conjunto ortogonal, h necessidade
32
-
de se fazer uma mudana de variveis na funo atravs da frmula
t =2x a b
b a x =(b a) t+ (a + b)
2
tal mudana de variveis transforma o intervalo em que t [a, b] no intervalo em quex [1, 1].
3.5 Outros tipos de aproximao
O mtodo dos mnimos quadrados sempre busca aproximar uma funo dada por uma
famlia Linear nos parmetros, isto
a0g0 (x) + ...+ angn (x)
Em alguns casos sugere-se a utilizao ou a aproximao por famlias no lineares nos
parmetros, desta forma, faz-se necessria a linearizao do problema para aplicar as
tcnicas da lgebra linear.
1o Caso - Se f do tipo exponencial
f (x) abx
ento
ln f (x) ln a + x ln b
Denominando
F (x) = ln f (x) a0 = ln a a1 = ln b g0 (x) = 1 g1 (x) = x
33
-
o problema original transformado em aproximar
F (x) a0g0 (x) + a1g1 (x)
que agora uma famlia linear nos parmetros. Obtidos a0 e a1 atravs das tcnicas j
conhecidas, para obter a e b basta exponenciar a0 e a1, isto
a = ea0
b = ea1
Observe que os parmetros obtidos, em geral, no so timos no sentido do mtodo dos
mnimos quadrados porque no foram aplicados ao problema original e sim ao problema
linearizado.
2o Caso - Se f do tipo geomtrica
f (x) axb
ento
ln f (x) ln a + b ln x
Denominando
F (x) = ln f (x) a0 = ln a a1 = b g0 (x) = 1 g1 (x) = ln x
o problema original transformado em aproximar
F (x) a0g0 (x) + a1g1 (x)
que agora uma famlia linear nos parmetros. Obtidos a0 e a1 atravs das tcnicas j
34
-
conhecidas, para obter a basta exponenciar a0, isto
a = ea0
b = a1
3o Caso - Se f do tipo hiperblica
f (x) 1a+ bx
ento1
f (x) a+ bx
Denominando
F (x) = 1/f (x) a0 = a a1 = b g0 (x) = 1 g1 (x) = x
o problema original transformado em aproximar
F (x) a0g0 (x) + a1g1 (x)
que agora uma famlia linear nos parmetros. Obtidos a0 e a1 atravs das tcnicas j
conhecidas, temos automaticamente a e b.
4o Caso - Se f do tipo
f (x) a+ bx
ento
f 2 (x) a + bx
Denominando
F (x) = f2 (x) a0 = a a1 = b g0 (x) = 1 g1 (x) = x
35
-
o problema original transformado em aproximar
F (x) a0g0 (x) + a1g1 (x)
que agora uma famlia linear nos parmetros. Obtidos a0 e a1 atravs das tcnicas j
conhecidas, temos automaticamente a e b.
5o Caso - Se f do tipo
f (x) x ln (a+ bx)
ento
ef(x)x a+ bx
Denominando
F (x) = ef(x)/x a0 = a a1 = b g0 (x) = 1 g1 (x) = x
o problema original transformado em aproximar
F (x) a0g0 (x) + a1g1 (x)
que agora uma famlia linear nos parmetros. Obtidos a0 e a1 atravs das tcnicas j
conhecidas, temos automaticamente a e b.
Exemplos: 7.6 ou 7.7 pg 266 - 267
3.6 Sistemas Lineares Incompatveis
Na prtica, muitas vezes deseja-se determinar uma varivel y que funo linear de
variveis x1, x2, ..., xm, isto
y = c1x1 + c2x2 + ...+ cmxm
36
-
onde os ci so coecientes desconhecidos, porm xos, que so determinados experimen-
talmente por meio da realizao de diversas medidas das variveis x1, x2, ..., xm.
Denotando por xj1,xj2, ..., xjm, yj os valores correspondentes a j-sima medio exper-
imental, deseja-se determinar c1, c2, ..., cm a partir do sistema de equaes lineares
x11c1 + x12c2 + ... + x1mcm = y1
x21c1 + x22c2 + ... + x2mcm = y2
...
xn1c1 + xn2c2 + ... + xnmcm = yn
Como na prtica o nmero de medies n maior que o nmero mde incgnitas e as
medies esto carregadas dos erros do experimento, o sistema tende a ser incompatvel
e sua soluo s pode ser aproximada. Nosso objetivo fazer com que o lado esquerdo
do sistema acima, denotado pelo vetor
u =
u1
u2
...
un
=
x11c1 + x12c2 + ...+ x1mcm
x21c1 + x22c2 + ...+ x2mcm
...
xn1c1 + xn2c2 + ...+ xnmcm
seja o mais prximo possvel do lado direito do sistema, representado pelo vetor
y =
y1
y2
...
yn
Usando novamente a ideia de projeo ortogonal, sabemos que a menor distncia entre
37
-
y e o subespao gerado pelos vetores
g1 =
x11
x21
...
xn1
g2 =
x12
x22
...
xn2
..., gm =
x1m
x2m
...
xnm
do qual u combinao linear, se dar quando u for a projeo ortogonal de y sobre este
subespao. Portanto, se os gi forem linearmente independentes, a soluo do problema
ser dada por meio da resoluo do sistema
(g1, g1) (g2, g1) ... (gm, g1)
(g1, g2) (g2, g2) ... (gm, g2)...
......
...
(g1, gm) (g2, gm) (gm, gm)
c1
c2...
gm
=
(y, g1)
(y, g2)...
(y, gm)
usando o produto interno usual do Rn.
Exemplo: exerccio 7.18 pg 274 - Determine a melhor soluo para o sistema linear
x1 x2 = 12x1 + x2 = 2x1 + 3x2 = 12x1 + 3x2 = 23x1 2x2 = 3
Soluo: Sejam g1 =
1
2
12
3
, g2 =
11
3
3
2
, y =
121
23
e c =
c1c2
, resolvendo o
38
-
sistema (g1, g1) (g1, g2)(g2, g1) (g2, g2)
c1c2
= (y, g1)
(y, g2)
Somos levados a
19 22 24
c1c2
=
19
2
cuja soluo c1 = 1 e c2 = 0, note que o sistema compatvel.
39