sl - métodos iterativos e mmq

Captulo 1

Reviso de lgebra linear

1.1 Espao Vetorial Normado

O conceito de norma de um vetor ou matriz muito importante para entender a noo de

limite de uma sequncia de vetores ou matrizes no estudo da convergncia dos mtodos

iterativos de soluo de sistemas lineares e de problemas de erros de arredondamento que

envolvam matrizes ou vetores.

Denio: Num espao vetorial E a norma de um vetor v, denotada por v umafuno de E E R+ satisfazendo:

1. v 0 e v = 0 se, e s se v = 0;

2. v = || v ;

3. u+ v u+ v.

Exemplo: No Rn, se v = (v1, v2, ..., vn), ento so exemplos de normas:

v = max |vi|, 1 i n (norma do mximo)

v1 = ni=1 |vi| (norma da soma)

1

vE = v2 =

(v, v) =n

i=1 v2i (norma euclidiana - provm do produto

interno)

Exemplo: 1.10 pg 14 - Se v = (1, 10, 3, 4,20)t ento v = 20, v1 = 38 ev2 = vE 22.93.

Exemplo: Em Mn (R), se A Mn (R) ento so exemplos de normas:

A = mxn

j=1 |aij|, 1 i n (norma linha)

A1 = mxn

i=1 |aij| , 1 j n (norma coluna)

AE =n

i,j=1 a2ij (norma euclidiana)

Para estas normas pode-se provar que AB A . B .

Exemplo: 1.13 pg 16 - Se A =

3 2 16 3 4

1 2 1

ento A = 13, A1 = 10 eAE =

32 + + 12 = 9.

Denio: Duas normas va e vb so equivalentes se existirem constantes positi-vas k1 e k2 tais que para todo v E

k1 va vb k2 va

Exemplo: as normas apresentadas no Rn e em Mn (R) so equivalentes entre si.

Denio: Dada uma norma de vetores v pode ser associada a ela uma norma dematrizes atravs de

A = supv=1

Av

que chamada de norma subordinada ou induzida.

Resultado: Se uma norma de matrizes induzida ento, para qualquer v = 0, valeque

Av A . v

2

e dizemos que as duas normas so consistentes.

Dem.: Dado v = 0, seja u = vv . Ento u = 1 e

A Au =

A vv = 1v Av = Av A . v

*denio norma induzida.

As normas vetoriais do mximo, euclidiana e da soma induzem, respectivamente, as

normas matriciais de mximo da soma nas linhas, raz quadrada do raio espectral** de

AtA e mximo da soma nas colunas.

**mximo autovalor em mdulo.

1.2 Projeo Ortogonal

O conceito de projeo ortogonal ser importante para o entendimento do mtodo dos

mnimos quadrados. Dados os vetores u e v de um espao vetorial, encontrar a projeo

ortogonal de u sobre o subespao determinado por v consiste em obter um vetor u0 deste

subespao tal que

(u0, u u0) = 0

isto , que u0 seja ortogonal a u u0.Neste caso, devido as propriedades do produtointerno e a exigncia de u0 = v, devemos ter que

(v, u v) = 0(v, u) (v, v) = 0

(u, v) = 2 (v, v)

=(u, v)

(v, v)

u0 =

(u, v)

(v, v)

v

3

No caso geral, se V um espao vetorial e W um subespao de V , o objetivo

determinar a projeo ortogonal do vetor u sobre W . Se {e1, e2, ..., en} uma base deW , o vetor projeo ortogonal u0 tal que

u0 = 1e1 + ...+ nen

Em suma, nos resta determinar as coordenadas 1, ..., n do vetor u0. Agora, u0 ser a

projeo ortogonal de u sobre W signica que u u0 seja ortogonal a todo vetor de W ,mas, para isto, necessrio e suciente que seja ortogonal a todo vetor da base de W ,

ou seja

(u u0, ei) = 0 i, 1 i n(u (1e1 + ...+ nen) , ei) = 0 i, 1 i n

Usando as propriedades do produto interno, segue que

1 (e1, e1) + 2 (e2, e1) + ...+ n (en, e1) = (u, e1)

1 (e1, e2) + 2 (e2, e2) + ...+ n (en, e2) = (u, e2)

...

1 (e1, en) + 2 (e2, en) + ...+ n (en, en) = (u, en)

O que remete ao sistema de equaes lineares nas variveis 1, 2, ..., n dado na forma

matricial por

(e1, e1) (e2, e1) . . . (en, e1)

(e1, e2) (e2, e2) . . . (en, e2)... . . . . . .

...

(e1, en) (e2, en) . . . (en, en)

1

2...

n

=

(u, e1)

(u, e2)...

(u, en)

4

Para mostrar que tal sistema possui soluo e ela nica, basta lembrar dois fatos de

lgebra linear: primeiro que a partir de uma base qualquer se pode construir uma base

ortonormal (caso em que a matriz dos coecientes do sistema acima tornar-se-ia a matriz

identidade, o que garantiria a existncia de soluo pois det I = 1 = 0) e, segundo, queas coordenadas em outra base qualquer so unicamente determinadas por meio da matriz

de mudana de base. Tudo isto nos permite concluir que a projeo ortogonal de u sobre

W nica.

Teorema: Seja W um subespao vetorial de um espao V . Dado u V e u0 W aprojeo ortogonal de u sobre W . Ento, u0 a melhor aproximao para u no sentido

de que

u u0 < u w

para qualquer que seja w W.Dem.: Como w, u0 W , u0 w W e , portanto, ortogonal a u u0. Assim

(u w, u w) = (u w + u0 u0, u w + u0 u0)= ((u u0) + (u0 w) , (u u0) + (u0 w))= (u u0, u u0) + 2 (u u0, u0 w)

=0

+(u0 w, u0 w)

Portanto

u w2 = u u02 + u0 w2

Como, por hiptese, w = u0, conclumos que u0 w > 0 e da igualdade acima obtem-seque

u w2 > u u02 = u u0 < u w

Esta desigualdade mostra que a projeo ortogonal u0 de u sobre W tal que a menor

distncia de u a W a distncia de u a u0.

5

1.3 Mal condicionamento

Alm da preocupao com a existncia de soluo e de um mtodo eciente para resolver

um sistema de equaes lineares, outro aspecto a ser considerado a sensibilidade da

soluo a pequenas mudanas nos coecientes.

De modo geral, o mal condicionamento ocorre quando, num processo numrico, os re-

sultados no dependem continuamente dos dados de entrada, isto , pequenas alteraes

nos dados de entrada produzem grandes alteraes nos resultados. Um problema mal

condicionado tambm chamado de problema mal posto. Exemplo: determinados sis-

temas lineares e problemas de valor inicial. Tratemos particularmente o caso de sistemas

lineares.

Denio: o fenmeno de que a soluo de um sistema de equaes lineares muito

sensvel a pequenas variaes nos coecientes de A ou de b chamado de mal condi-

cionamento e est relacionado ao fato de que a matriz do sistema est prxima de ser

singular.

Exemplo: Considere o sistema Ax = b dado por

1 11 2

x1x2

= 105

cuja soluo exata x =

x1x2

= 5

5

. Alterando o vetor b para b = 10.015

osistema torna-se

1 11 2

x1x2

=

10.015

6


x1x2

=

5.007

5.003

. Observe que o resduo

r = b b = AxAx = 1 1

1 2

5.0075.003

105

= .0 1.00 1

pequeno e se nota que x x, ou ainda,

x x = 5

5

5.007

5.003

=

.00 7.00 3

0

J para o sistema dado por

1 1

1.001 1

x1x2

=

10

10.005

temos que a soluo exata x =

x1x2

=

5

5

. Alterando o vetor b para b = 10

10.1

o sistema torna-se 1 1

1.001 1

x1x2

= 10

10.1


x1x2

=

10090

. Observe agora que o resduo

r = b b = Ax Ax = 1 1

1.001 1

10090

10

10.005

=

0.0 95

7

e NO se nota que x x, ou ainda,

x x = 5

5

10090

=

95

95

= 0

Ou seja, o fato do resduo ser tal que r = b b 0 no implica necessariamenteque x x 0. Isto no quer dizer que todas as solues aproximadas de equaesmal condicionadas fornecem resduos pequenos, mas que, algumas solues aproximadas

de equaes mal condicionadas fornecem resduos bem pequenos.

Em resumo, se x resolve aproximadamente Ax = b, isto , Ax b e o resduor = b Ax pequeno no sentido de que r 0 ento se espera que x x (a soluoexata), isto , x x 0, entretanto, isto s acontece se A for bem condicionada.

1.3.1 Anlise da perturbao

A condio de um sistema linear no singular Ax = b consiste na anlise do efeito de

perturbaes na soluo x = A1b provocada por perturbaes nos dados de A ou de b.

Caso 1 - Uma perturbao em b da forma b + b ,mantida A, provoca perturbao

x+ x na soluo.

A questo a seguinte: Conhecida b como estimar x? Temos que

A (x+ x) = b+ b = x+ x = A1 (b+ b) = x = A1b

usando a ideia de normas induzidas segue que

x A1 b

da mesma forma que b = Ax implica

b A x

8

multiplicando membro a membro as duas inequaes vem que

x . b A1 b A x = A . A1 . b . x

xx A .

A1 .bbdenindo o nmero de condio de A como

cond (A) = A . A1chegamos em

xx cond (A) .

bb

Observaes:

cond (A) 1, pois cond (A) = A . A1 cond (AA1) = cond (I) = 1;

bb = A.xb = rb interpretada como uma medida do erro relativo em b exx =

xxx como uma medida do erro relativo em x e a expresso acima indica

que o erro relativo em x depende do valor da cond (A) 1.

Se cond (A) grande, ento, mesmo pequenas perturbaes relativas em b, pro-duziro grandes perturbaes relativas em x, e o problema de resolver Ax = b

mal condicionado, em outras palavras, mesmo que r 0 no implica quex x 0 a menos que cond (A) tambm seja pequena.

Alguns autores consideram que cond (A) grande quando for maior ou igual a 104;

O nmero de condio invariante sobre a norma de matrizes utilizada.

Caso 2 - Uma perturbao em A da forma A+ A, mantido b, provoca perturbao

x+ x na soluo.

9

Analogamente, pode-se provar que

xx+ x cond (A) .

AA

e, novamente, se cond (A) for grande, ento pequenas perturbaes em A produzem

grandes perturbaes relativas em x, e o problema de resolver Ax = b mal condicionado.

Um procedimento para alterar o nmero de condio da matriz de um sistema e torn-

la mais bem condicionada o scalling (escalamento) quando os elementos de uma matriz

so de grandezas diferentes. A estratgia consiste em multiplicar A a esquerda por D1

e direita por D2 matrizes diagonais convenientes de forma que a matriz D1AD2 seja

bem condicionada. Com efeito

Ax = b = D1AD2 B

D12 x y

= D1bc

fazendo y = D12 x e c = D1b e B = D1AD2 somos levados ao sistema

By = c

tal que cond (B)

tal que cond (B) = 11.1119

= 12119

Captulo 2

Sistemas Lineares - Mtodos

Iterativos

Introduo

Tais mtodos podem ser melhores que os mtodos exatos se a matriz dos coecientes

for esparsa (no alteram a estrutura de esparsidade da matriz ao contrrio de eliminao

de Gauss, por exemplo), utilizam menos memria do computador, maior capacidade de

autocorreo e so usados para reduzir erros de arredondamento na soluo de mtodos

exatos, alm de serem utilizados em sistemas de equaes no lineares.

2.1 Processos Estacionrios

Ummtodo iterativo estacionrio quando a sequncia de aproximaes da soluo utiliza

sempre o mesmo processo. Dado um sistema linear possvel e determinado Ax = b,

da mesma forma que no mtodo iterativo linear para resolver equaes no lineares,

buscamos transformar o sistema linear num outro onde se possa denir um processo

iterativo equivalente da forma x = Bx + g, por exemplo, para B = I A e g = b.

12

Dene-se o processo iterativo estacionrio

x(k) = Bx(k1) + g

onde que, sex(k)

x ento x soluo de Ax = b.De fato, para B = I A e g = b, temos

x = Bx+ g = (I A) x+ b = xAx+ b = Ax = b

A escolha de quem ser a matriz B dene o mtodo a ser usado.

Teorema: O processo iterativo dado por x(k) = Bx(k1) + g convergente se, e

somente se, max |i| < 1 (chamado de raio espectral de B), onde i so os autovaloresde B. (condio necessria e suciente de convergncia)

Corolrio: Se, para alguma norma de matrizes, B < 1, ento o processo iterativodado por x(k) = Bx(k1) + g convergente. (condio suciente de convergncia)

A matriz B chamada de matriz de iterao.

Exemplo: exemplo 5.1 pg 170 Seja

A =

0.5 0.2 0.50.1 0.6 0.4

0.3 0.1 0

vericar se um sistema linear Ax = b que tenha a matriz A como matriz de iterao

convergir para a soluo.

Soluo: A = max3

j=1 |aij| = 1.2, 1 i 3 (norma linha),A1 = max3

i=1 |aij| =0.9, 1 j 3 (norma coluna), logo, ser convergente.

O critrio de parada dado pela erro relativo e a escolha de uma preciso > 0, isto

, se x(k+1) x(k)x(k+1)

<

13

ento, tomamos x x(k+1).

2.2 Mtodo de Jacobi-Richardson (Gauss-Jacobi)

Dado um sistema linear Ax = b, onde detA = 0, podemos reescrever A = L+D+U talque lij = aij se i > j e 0 se i j, dij = aij se i = j e 0 se i = j, uij = aij se i < j e 0 sei j. Se detD = 0 o sistema original pode ser transformado em

(L+D + U)x = b Dx = (L+ U)x+ b x = D1 (L+ U) x+D1b

que dene ummtodo iterativo estacionrio onde a matriz de iteraoB = D1 (L+ U)e g = D1b. O processo dado por

x(k+1) = D1 (L+ U) x(k) +D1b

chamado de Mtodo de Jacobi-Richardson. Se supomos detD = 0 teremos aii = 0e antes da decomposio A = L + D + U podemos dividir cada equao pelo elemento

aii obtendo

A = L + I + U

e o processo iterativo torna-se

x(k+1) = (L + U)x(k) + b

14

onde lij = aij =

aijaii

se i > j e 0 se i j, uij = aij = aijaii se i < j e 0 se i j e bi = biaii .Que pode ser reescrito como

x(k+1)1 = a12x(k)2 a13x(k)3 ... a1nx(k)n + b1x(k+1)2 = a21x(k)1 a23x(k)3 ... a2nx(k)n + b2x(k+1)3 = a31x(k)1 a32x(k)2 ... a3nx(k)n + b3

...

x(k+1)n = an1x(k)1 an2x(k)2 ... an,n1x(k)n1 + bn

O mtodo converge se B = (L + U ) ou B1 = (L + U )1 satisfazo corolrio, isto , se

max1in

nj=1,j =i

aij < 1 (norma linha)ou

max1jn

ni=1,i=j

aij < 1 (norma coluna)Denio: Uma matriz A estritamente diagonalmente dominante se

nj=1,j =i

|aij| < |aii| , i = 1, 2, ..., n

Quando A estritamente diagonalmente dominante ento a norma linha de A menor

do que 1. Este teste pode ser usado para vericar a convergncia do mtodo de Jacobi-

Richardson. (A estritamente diagonalmente dominante se, e s se, A satisfaz o critrio

(norma) linha.)

Exemplo: Exemplo 5.2 pg 173 - Resolver o sistema linear10x1 + 2x2 + x3 = 7

x1 + 5x2 + x3 = 82x1 + 3x2 + 10x3 = 6

15

pelo mtodo de Jacobi-Richardson, com x(0) = (0.7,1.6, 0.6)t e < 102. Note que amatriz estritamente diagonalmente dominante.

2.3 Mtodo de Gauss-Seidel

Analogamente ao mtodo de Jacobi-Richardson, se o sistema linear Ax = b for escrito na

forma

(L + I + U)x = b = (L + I) x = U x+ b

x = (L + I)1 U x+ (L + I)1 b

podemos denir o processo iterativo dado por

x(k+1) = (L + I)1 U x(k) + (L + I)1 b

denominado de Mtodo de Gauss-Seidel. Pr-multiplicando a equao por (L + I)

obtemos

(L + I)x(k+1) = U x(k) + b = x(k+1) = Lx(k+1) U x(k) + b

que no necessita do clculo de (L + I)1. Portanto, o processo iterativo dado por

x(k+1)1 = a12x(k)2 a13x(k)3 ... a1nx(k)n + b1x(k+1)2 = a21x(k+1)1 a23x(k)3 ... a2nx(k)n + b2x(k+1)3 = a31x(k+1)1 a32x(k+1)2 ... a3nx(k)2 + b3

......

......

......

......

......

x(k+1)n = an1x(k+1)1 an2x(k+1)2 ... an,n1x(k+1)n1 + bn

Este mtodo difere do anterior em utilizar no clculo de uma componente de x(k+1) o

valor mais recente das demais componentes.

16

Omtodo de Gauss-Seidel converge se for satisfeito qualquer um dos critrios a seguir:

a) Critrio de Sassenfeld

max1in

i < 1

onde

i =i1j=1

aij j + nj=i+1

aijb) Critrio de linhas ou (exemplo 5.1 pg. 175)

c) Matriz dos coecientes for estritamente diagonalmente dominante

Exemplo: 5.3 pg 179 ou exerccio 5.3 pg 180. (Exemplo 5.3) Resolver o sistema

5x1 + x2 + x3 = 5

3x1 + 4x2 + x3 = 6

3x1 + 3x2 + 6x3 = 0

pelo mtodo de Gauss-Seidel com < 102.

Soluo: A matriz do sistema no estritamente diagonalmente dominante, logo,

tambm no satisfaz o critrio de linhas ou colunas. Aplicando o critrio de Sassenfeld

temos 1 =15

+ 15

= 25; 2 =

34

.25+ 14

= 1120; 3 =

12

25+12

1120

= 15+ 11

40= 19

40

e max1 =1120

= 0, 55 < 1 e o processo iterativo de Gauss-Seidel ser convergente. As

iteraes so denidas por

x(k+1)1 = 0, 2x(k)2 0, 2x(k)3 + 1x(k+1)2 = 0, 75x(k+1)1 0, 25x(k)3 + 1, 5x(k+1)3 = 0, 5x(k+1)1 0, 5x(k+1)2

partindo-se de x(0) = (0, 0, 0)t , na 4a. etapa atingiremos o critrio de parada.

17

Captulo 3

Mtodo dos Mnimos Quadrados

3.1 Introduo

O uso do mtodo de mnimos quadrados para aproximar uma funo f (x) por outra

funo F (x) pode ser linear ou no linear nos parmetros a serem determinados de F ,

durante as sees deste captulo teremos a oportunidade de abordar os dois casos, embora

o caso no linear busca em certo sentido linearizar o problema, desta forma o caso de

mnimos quadrados linear o mais importante e ser tratado inicialmente.

Dado um espao vetorial V e um subespao W de V , tal que dimW = n e um vetor

v V qual o vetor w W tal que

v w < v u , u W?

Sabemos que w deve ser a projeo ortogonal de v sobreW , mais especicamente, o vetor

vw deve ser ortogonal a todo vetor u W (maiores informaes veja seo 1.6). Destaforma, se {w1, w2, ..., wn} uma base de W ento w = 1w1 + ... + nwn e, suciente,que v w seja ortogonal a cada wi

(v w,wi) = 0 i = 1, ..., n

18

(v (1w1 + ...+ nwn), wi) = 0 i = 1, ..., n1 (w1, wi) + 2 (w2, wi) + ...+ n (wn, wi) = (v, wi) i = 1, ..., n

que um sistema linear que pode ser reescrito como

(w1, w1) (w2, w1) ... (wn, w1)

(w1, w2) (w2, w2) ... (wn, w2)...

......

...

(w1, wn) (w2, wn) (wn, wn)

1

2...

n

=

(v, w1)

(v, w2)...

(v, wn)

Alm disso, xada uma base de W o sistema acima possui soluo e ela nica. (seo

1.6).

Neste captulo, deseja-se aproximar uma funo y = f (x) por outra funo F (x) que

seja combinao linear de funes conhecidas, isto

f (x) F (x) = 0g0 (x) + ...+ mgm (x)

de modo que a distncia entre f e F seja a menor possvel. Esta distncia pode provir

de uma norma, em ltima instncia, de um produto interno. Este tipo de aproximao

particularmente til quando f denida por uma integral, por uma srie ou quando

f s conhecida para um nmero nito de pares de pontos experimentais.

Denio: O mtodo que utiliza como aproximao de uma funo f V umafuno F W V tal que a distncia de f a F seja mnima, ou seja, F a projeoortogonal de f sobre W , chamado de mtodo dos mnimos quadrados.

Como desejamos minimizar dist(f, F ), equivalentemente, minimizar

dist2 (f, F ) = f F2 = (f F, f F )

basta tomarmos F como sendo a projeo ortogonal de f sobreW , onde os coecientes de

F so dados conforme o sistema linear dado acima. Se chamarmos de r (x) = f (x)F (x)

19

o resduo da aproximao a expresso acima torna-se, minimizar

dist2 (f, F ) = r2 = (r, r)

Os diferentes produtos internos que podemos tomar no espao de funes nos conduzem a

mtodos de aproximao por mnimos quadrados ponderados, situao em que se atribui

diferentes graus de importncia aos pontos (ou ao intervalo) conhecidos de f .

3.2 Aproximao Polinomial

Nesta seo buscaremos aproximar uma funo f (x) contnua, ou dada por pares de

pontos (discreta), por um polinmio pm (x) Km (x) , o espao vetorial dos polinmiosde grau, no mximo, m.

3.2.1 Caso Contnuo

Seja f (x) C [a, b] = V, o espao vetorial das funes reais contnuas num intervalo[a, b] e p (x) = pm (x) = 0 + 1x+ 2x2 + ...+ mxm Km (x) = W (subespao de V ),desejamos

f (x) pm (x) = 0 + 1x+ 2x2 + ... + mxm

e que a distncia entre f e p seja mnima. Para isto, basta determinar a projeo ortogonal

de f sobreW usando, por exemplo, o produto interno usual em C [a, b], dado por (f, g) = baf (x) g (x) dx, ou seja, resolver o sistema linear

(1, 1) (x, 1) ... (xm, 1)

(1, x) (x, x) ... (xm, x)...

......

...

(1, xm) (x, xm) (xm, xm)

0

1...

m

=

(f, 1)

(f, x)...

(f, xm)

Observao: Quando usamos o produto interno usual, todos os pontos do intervalo

20

[a, b] possuem o mesmo peso na ponderao. No caso contnuo, quando desejamos atribuir

pesos diferentes ao pontos do intervalo [a, b], podemos usar o produto interno dado por

(f, g) =

ba

w (x) f (x) g (x) dx

onde w (x) a chamada funo peso, que em [a, b] deve ser integrvel e w (x) > 0. Alguns

exemplos de funo peso w1 (x) = 11x2 em (1, 1), w2 (x) = ex e w3 (x) = ex2em

(,). No exemplo a seguir, trabalharemos com o produto interno usual.Exemplo: Exemplo 7.1 - Seja f (x) = x4 5x, x [1, 1]. Aproximar f (x) por um

polinmio do 2o. grau usando o mtodo dos mnimos quadados.

(1, 1) (x, 1) (x2, 1)

(x, 1) (x, x) (x2, x)

(x2, 1) (x2, x) (x2, x2)

0

1

2

=

(f, 1)

(f, x)

(f, x2)

2 0 23

0 23

0

23

0 25

0

1

2

=

25

103

27

, Solution is :

3

35

567

. Portanto: f (x) P2 (x) = 335 5x+ 67x2 11 1dx = 2

11 xdx = 0

11 x

2dx = 23

11 x

3dx = 0 11 x

4dx = 25

11 (x

4 5x) dx =25

11 x (x

4 5x) dx = 103

11 x

2 (x4 5x) dx = 27

Se desejarmos comparar a aproximao de f por um polinmio de grau m + 1, no

se poderia aproveitar quase nada do trabalho j feito e teramos que resolver um novo

sistema linear, alm disso, com o aumento do valor de m os efeitos de propagao de

erros na resoluo do sistema tornariam se grandes, ou seja, a soluo do sistema poderia

estar errada. Entretanto, se a base {w1, w2, ..., wn} for ortonormal, (wi, wj) = 0, i = je wi2 = (wi, wi) = 1, os clculos sero signicativamente simplicados, tendo emvista que a matriz do sistema torna-se a matriz identidade e uma base ortonormal para

Km+1 (x) ser constituda de w1, w2, ..., wm e wm+1 que seja ortogonal a wi, i = 1, ...,m e

21

unitrio. Portanto, se a base for ortonormal, o sistema torna-se

1 0 ... 0

0 1 ... 0...

......

...

0 0 0 1

0

1...

m+1

=

(f, w1)

(f, wm)

(f, wm+1)

Exemplo: 7.2 pg 252 Aproximar a funo f (x) = x4 5x, x [1, 1] usando

polinmios ortogonais de grau 1 e 2. O detalhe aqui que tem que ortonormalizar as

bases cannicas de P1 e P2 que neste caso tornam-se

1 =

!2

2,

6

2x

"

2 =

!2

2,

6

2x,

310

4

x2 1

3

"

Clculos na pgina 252 Neide Franco.

3.2.2 Caso Discreto

Quando f dado por n+ 1 pares de pontos

(x0, y0) , (x1, y1) , ..., (xn, yn)

e desejamos determinar um polinmio de coecientes reais

pm (x) = a0 + a1x+ ... + amxm

de grau, no mximo, m, onde m < n tal que seja mnimo

f pm2 = d2 (f, pm) =n

k=0

[f (xk) pm (xk)]2

22

=n

k=0

[yk (a0 + a1xk + ... + amxmk )]2

Aqui usamos (f, g) =

f (xk) g (xk). Denotando y =

y0

y1...

yn

, p =

pm (x0)

pm (x1)...

pm (xn)

podemos escrever

p =

pm (x0)

pm (x1)...

pm (xn)

= a0

1

1...

1

+ a1

x0

x1...

xn

+ a2

x20

x21...

x2n

+ ...+ am

xm0

xm1...

xmn

p = a0u0 + a1u1 + a2u2+... + amum

onde uti =#xi0 x

i1 xin

$. Pode-se mostrar que se os n + 1 pontos so distintos,

ento os m+ 1 vetores u0, u1, ..., um so linearmente independentes (basicamente porque

se pode obter uma submatriz quadrada de ordem m da matriz m n dos vetores u que no singular, de fato, uma matriz de Vandermonde) e determinam um subespao de

dimm+ 1 contido num espao de dimn+ 1, assim, para determinarmos p que minimize

a distncia, basta que p seja a projeo ortogonal de y sobre este subespao. Portanto,

os coecientes de pm so a soluo do sistema linear dado por:(u0, u0) (u1, u0) ... (um, u0)

(u0, u1) (u1, u1) ... (um, u1)...

......

...

(u0, um) (u1, um) (um, um)

a0

a1...

am

=

(y, u0)

(y, u1)...

(y, um)

Exemplo: Exerccio 7.7. pg 257 - Determine a parbola mais prxima dos pontos

23

(xi, yi) para a funo y = f (x) dada por

x 3 1 1 2 3y 1 0 1 1 1

usando o mtodo dos mnimos quadrados.

Soluo: Aqui deseja-se f (x) p2 (x) = a0+ a1x+ a2x2. Seja p = a0u0+ a1u1+a2u2onde ut0 =

#1 1 1 1 1

$, ut1 =

#3 1 1 2 3

$, ut2 =

#9 1 1 4 9

$, yt =#

1 0 1 1 1$. Devemos resolver o sistema

(u0, u0) (u1, u0) (u2, u0)

(u0, u1) (u1, u1) (u2, u1)

(u0, u2) (u1, u2) (u2, u2)

a0

a1

a2

=

(y, u0)

(y, u1)

(y, u2)

5 2 24

2 24 8

24 8 180

a0

a1

a2

=

0

3

13

, Solution is :

121134

31268

53268

. Portanto p2 (x) = 121134 + 3168x 53268x2 a parbola que melhoraproxima f (x).

3.3 Aproximao Trigonomtrica

Quando a funo que desejamos fazer uma aproximao peridica a aproximao poli-

nomial pode no ser adequada. Podemos contornar isto usando a aproximao por uma

funo trigonomtrica.

24

3.3.1 Caso Contnuo

Se uma funo f (x) for peridica e integrvel no intervalo [0, 2] a aproximao trigonomtri-

ca de ordem m de f a funo

F (x) = a0 + a1 cosx+ b1 sin x+ ... + am cosmx+ bm sinmx

que minimiza distncia at f .

J sabemos que F deve ser a projeo de f sobre o subespao gerado por =

{1, cos x, ..., cosmx, sin x, ..., sinmx}. Alm disso, ortogonal em [0, 2], isto :

20

sinmx cosnxdx = 0 =

m =n 20

sinmx sinnxdx =

20

cosmx cosnxdx

Para m = 0 20

sinmx sinmxdx = =

20

cosmx cosmxdx

e, para m = 0 20

cos 0x cos 0xdx = 2

Assim, para determinarmos os coecientes de F devemos resolver o sistema

2 0

. . .

0

a0

a1...

bm

=

(f, 1)

(f, cosx)...

(f, sinmx)

cuja soluo

a0 =1

2

20

f (x) dx

ak =1

20

f (x) cos kx.dx k = 1, ...,m

25

bk =1

20

f (x) sin kx.dx k = 1, ...,m

( tambm chamado de conjunto de funes ortogonais de Fourier em [0, 2] para

w (x) = 1, conforme veremos outros exemplos de conjuntos de polinmios ortogonais

adiante.)

Lembre-se que uma funo f par se f (x) = f (x) e f mpar se f (x) = f (x).So exemplos de funo par e mpar, respectivamente, cosmx e sinmx. Se f par e g

impar num intervalo I ento f.g mpar e, neste caso,I(f.g) (x) dx = 0. Da mesma

forma, se f impar e g par em I ento f.g mpar eI(f.g) (x) dx = 0. Portanto, se f a

qual desejamos obter uma aproximao trigonomtrica for par em [0, 2] sua aproximao

ser do tipo

f (x) F (x) = a0 +mk=1

ak cos kx

Por outro lado se f for mpar em [0, 2] ento

f (x) F (x) =mk=1

bk sin kx

Exemplo: exerccio 7.11 pg 261 - Considere a funo

y (t) =

1 t 01 0 t e sua extenso peridica. Determine sua aproximao trigonomtrica de grau 2.

Soluo: Como f mpar, peridica e integrvel em [0, 2]

f (x) b1 sin x+ b2 sin 2x = F (x)

onde

b1 =1

20

f (x) sin x.dx =1

0

sin xdx+1

2

sin xdx = 4

26

b2 =1

20

f (x) sin 2x.dx =1

0

sin 2xdx+1

2

sin 2xdx = 0

Portanto

f (x) F (x) = 4sin x

3.3.2 Caso Discreto

Se uma funo f (x) for conhecida nos N pontos igualmente distantes

xk =2k

Nk = 1, 2, ..., N

observe que xN = 2, ento a aproximao trigonomtrica de ordem L de f a funo

SL (x) = a0 + a1 cosx+ b1 sin x+ ...+ aL cosLx+ bL sinLx

que minimiza distncia at f , onde L N/2 (a m de que 2L+ 1 N + 1 - a dimensodo subespao de SL no mximo N +1 o nmero de pontos tabelados conhecidos de f o

que garante existncia e unicidade da soluo pelo teorema 8.1).

J sabemos que SL deve ser a projeo de f sobre o subespao gerado por =

{1 = cos 0x, cosx, ..., cosLx, sinx, ..., sinLx}. No podemos usar o produto interno dadopela integral, mas pode usar o produto interno

(f, g) =Nk=1

f (xk) g (xk)

27

e determinamos os coecientes a0, a1, b1, ..., aL, bL resolvendo o sistema

(1, 1) (cosx, 1) (sin x, 1) ... (cosLx, 1) (sinLx, 1)

(1, cosx) (cosx, cosx) (sin x, cosx) ... (cosLx, cosx) (sinLx, cosx)

(1, sin x) (cosx, sin x) (sin x, sin x) ... (cosLx, sin x) (sinLx, sinx)...

......

...

(1, cosLx) (cosx, cosLx) (sin x, cosLx) ... (cosLx, cosLx) (sinLx, cosLx)

(1, sinLx) (cosx, sinLx) (sin x, sinLx) ... (cosLx, sinLx) (sinLx, sinLx)

a0

a1

b1...

aL

bL

=

(f, 1)

(f, cosx)

(f, sin x)...

(f, cosLx)

(f, sinLx)

Desde que, ortogonal em [0, 2], isto :

Nk=1

cos axk sin bxk = 0 a, b = 1, ..., L

Nk=1

cos axk cos bxk =Nk=1

sin axk sin bxk = 0 a = b, a, b = 1, ..., L

Nk=1

cos axk cos bxk =Nk=1

sin axk sin bxk =N

2a = b, a, b = 1, ..., L

Nk=1

cos 0xk cos 0xk = N

28

para determinarmos os coecientes de F devemos resolver o sistema

N 0 0 ... 0 0

0 N/2 0 ... 0 0

0 0 N/2 ... 0 0...

......

...

0 0 0 ... N/2 0

0 0 0 ... 0 N/2

a0

a1

b1...

aL

bL

=

(f, 1)

(f, cos x)

(f, sin x)...

(f, cosLx)

(f, sinLx)

cuja soluo

a0 =1

N

Nk=1

f (xk)

ai =2

N

Nk=1

f (xk) cos ixk i = 1, ..., L

bi =2

N

Nk=1

f (xk) sin ixk i = 1, ..., L

Exemplo: exerccio 7.12 pg 263. Considere a funo f (x) dada por

k 1 2 3 4 5 6 7 8 9 10 11 12

f (xk) 11.8 4.3 13.8 3.9 18.1 22.9 27.2 23.8 8.2 31.7 34.2 38.4

onde xk = 2k12 , obter a aproximao trigonomtrica de ordem 2, usando o mtodo de

mnimos quadrados.

Soluo

k 1 2 3 4 5 12

xk212

412

2412

f (x) a0 + a1 cosx+ b1 sin x+ a2 cos 2x+ b2 sin 2x

29

onde

a0 =1

12

12k=1

f (xk) = 4, 525

a1 =2

12

12k=1

f (xk) cosxk = 28, 053

b1 =2

12

12k=1

f (xk) sin xk = 0, 1317

a2 =2

12

12k=1

f (xk) cos 2xk = 2, 367

b2 =2

12

12k=1

f (xk) sin 2xk = 12, 499

3.4 Aproximao porMQponderada usando polinmios

ortogonais

J falamos da importncia da utilizao de polinmios ortogonais para facilitar os clculos

dos coecientes da funo de aproximao no caso no ponderado, isto , quando

w (x) = 1. No caso de lidarmos com uma funo peso como, por exemplo, w (x) = 11x2 ,

x (1, 1) que atribui menos peso a regio central do intervalo e mais peso aos pontosextremos do intervalo, temos o interesse em lidar com um conjunto de funes ortogonais

{k (x)} em relao a uma funo peso w, num intervalo [a, b], isto

%j , k

&w=

ba

w (x)j (x)k (x) dx =

0, se j = kk, se j = k

se k = 1 o conjunto ortonormal. Neste caso, as mesmas ideias de projeo ortogonal

podem ser usadas para aproximar

f (x) F (x) =n

k=0

akk (x)

30

onde os coecientes ak so dados por

ak =(f, k)w(k, k)w

=

baw (x) f (x)k (x) dx baw (x)2k (x) dx

a seguir veremos alguns importantes exemplos de conjuntos ortogonais de funes

relativos a alguma funo peso.

3.4.1 Polinmios de Legendre

O conjunto dos polinmios Pn (x) em que

P0 (x) = 1 P1 (x) = x P2 (x) =3

2x2 1

2

e recursivamente

Pn (x) =2n 1n

xPn1 (x) n 1n

Pn2 (x)

ortogonal no intervalo [1, 1] para a funo peso w (x) = 1, alm disso, pode-se mostrarque 1

11.P 2n (x) dx =

2

2n+ 1

Note que este o denominador dos coecientes ak para este conjunto ortogonal de funes,

esta funo peso e este intervalo.

3.4.2 Polinmios de Laguerre

O conjunto dos polinmios Ln (x) em que

L0 (x) = 1 L1 (x) = 1 x

e recursivamente

Ln (x) = (2n x 1)Ln1 (x) (n 1)2 Ln2 (x)

31

=ex

n!

dn

dxn%xnex

&

ortogonal no intervalo (0,) para a funo peso w (x) = ex.

3.4.3 Polinmios de Tchebyshev

O conjunto dos polinmios Tn (x) em que

T0 (x) = 1 T1 (x) = x

e recursivamente

Tn (x) = 2xTn1 (x) Tn2 (x) = cos (n. arccosx)

ortogonal no intervalo (1, 1) para a funo peso w (x) = 11x2 .

3.4.4 Polinmios de Hermite

O conjunto dos polinmios Hn (x) em que

H0 (x) = 1 H1 (x) = 2x

e recursivamente

Hn (x) = 2xHn1 (x) 2 (n 1)Hn2 (x)= (1)n ex2 .

'dn

dxn

#ex

2$(

ortogonal no intervalo (,) para a funo peso w (x) = ex22 .Caso o intervalo da aproximao no seja onde o conjunto ortogonal, h necessidade

32

de se fazer uma mudana de variveis na funo atravs da frmula

t =2x a b

b a x =(b a) t+ (a + b)

2

tal mudana de variveis transforma o intervalo em que t [a, b] no intervalo em quex [1, 1].

3.5 Outros tipos de aproximao

O mtodo dos mnimos quadrados sempre busca aproximar uma funo dada por uma

famlia Linear nos parmetros, isto

a0g0 (x) + ...+ angn (x)

Em alguns casos sugere-se a utilizao ou a aproximao por famlias no lineares nos

parmetros, desta forma, faz-se necessria a linearizao do problema para aplicar as

tcnicas da lgebra linear.

1o Caso - Se f do tipo exponencial

f (x) abx

ento

ln f (x) ln a + x ln b

Denominando

F (x) = ln f (x) a0 = ln a a1 = ln b g0 (x) = 1 g1 (x) = x

33

o problema original transformado em aproximar

F (x) a0g0 (x) + a1g1 (x)

que agora uma famlia linear nos parmetros. Obtidos a0 e a1 atravs das tcnicas j

conhecidas, para obter a e b basta exponenciar a0 e a1, isto

a = ea0

b = ea1

Observe que os parmetros obtidos, em geral, no so timos no sentido do mtodo dos

mnimos quadrados porque no foram aplicados ao problema original e sim ao problema

linearizado.

2o Caso - Se f do tipo geomtrica

f (x) axb

ento

ln f (x) ln a + b ln x

Denominando

F (x) = ln f (x) a0 = ln a a1 = b g0 (x) = 1 g1 (x) = ln x


F (x) a0g0 (x) + a1g1 (x)


34

conhecidas, para obter a basta exponenciar a0, isto

a = ea0

b = a1

3o Caso - Se f do tipo hiperblica

f (x) 1a+ bx

ento1

f (x) a+ bx

Denominando

F (x) = 1/f (x) a0 = a a1 = b g0 (x) = 1 g1 (x) = x


F (x) a0g0 (x) + a1g1 (x)


conhecidas, temos automaticamente a e b.

4o Caso - Se f do tipo

f (x) a+ bx

ento

f 2 (x) a + bx

Denominando

F (x) = f2 (x) a0 = a a1 = b g0 (x) = 1 g1 (x) = x

35


F (x) a0g0 (x) + a1g1 (x)



5o Caso - Se f do tipo

f (x) x ln (a+ bx)

ento

ef(x)x a+ bx

Denominando

F (x) = ef(x)/x a0 = a a1 = b g0 (x) = 1 g1 (x) = x


F (x) a0g0 (x) + a1g1 (x)



Exemplos: 7.6 ou 7.7 pg 266 - 267

3.6 Sistemas Lineares Incompatveis

Na prtica, muitas vezes deseja-se determinar uma varivel y que funo linear de

variveis x1, x2, ..., xm, isto

y = c1x1 + c2x2 + ...+ cmxm

36

onde os ci so coecientes desconhecidos, porm xos, que so determinados experimen-

talmente por meio da realizao de diversas medidas das variveis x1, x2, ..., xm.

Denotando por xj1,xj2, ..., xjm, yj os valores correspondentes a j-sima medio exper-

imental, deseja-se determinar c1, c2, ..., cm a partir do sistema de equaes lineares

x11c1 + x12c2 + ... + x1mcm = y1

x21c1 + x22c2 + ... + x2mcm = y2

...

xn1c1 + xn2c2 + ... + xnmcm = yn

Como na prtica o nmero de medies n maior que o nmero mde incgnitas e as

medies esto carregadas dos erros do experimento, o sistema tende a ser incompatvel

e sua soluo s pode ser aproximada. Nosso objetivo fazer com que o lado esquerdo

do sistema acima, denotado pelo vetor

u =

u1

u2

...

un

=

x11c1 + x12c2 + ...+ x1mcm

x21c1 + x22c2 + ...+ x2mcm

...

xn1c1 + xn2c2 + ...+ xnmcm

seja o mais prximo possvel do lado direito do sistema, representado pelo vetor

y =

y1

y2

...

yn

Usando novamente a ideia de projeo ortogonal, sabemos que a menor distncia entre

37

y e o subespao gerado pelos vetores

g1 =

x11

x21

...

xn1

g2 =

x12

x22

...

xn2

..., gm =

x1m

x2m

...

xnm

do qual u combinao linear, se dar quando u for a projeo ortogonal de y sobre este

subespao. Portanto, se os gi forem linearmente independentes, a soluo do problema

ser dada por meio da resoluo do sistema

(g1, g1) (g2, g1) ... (gm, g1)

(g1, g2) (g2, g2) ... (gm, g2)...

......

...

(g1, gm) (g2, gm) (gm, gm)

c1

c2...

gm

=

(y, g1)

(y, g2)...

(y, gm)

usando o produto interno usual do Rn.

Exemplo: exerccio 7.18 pg 274 - Determine a melhor soluo para o sistema linear

x1 x2 = 12x1 + x2 = 2x1 + 3x2 = 12x1 + 3x2 = 23x1 2x2 = 3

Soluo: Sejam g1 =

1

2

12

3

, g2 =

11

3

3

2

, y =

121

23

e c =

c1c2

, resolvendo o

38

sistema (g1, g1) (g1, g2)(g2, g1) (g2, g2)

c1c2

= (y, g1)

(y, g2)

Somos levados a

19 22 24

c1c2

=

19

2

cuja soluo c1 = 1 e c2 = 0, note que o sistema compatvel.

39

sl - métodos iterativos e mmq

Documents