Login (/user/login) |

(/)

1.2 ESTIMAÇÃO DOS PARÂMETROS DO MODELOInício (/) / Análise de Regressão (/analise-de-regressao) / Regressão Linear Simples (/analise-de-regressao/regressao-linear-

simples) / 1.2 Estimação dos Parâmetros do Modelo

Supondo que a relação linear entre as variáveis Y e X é satisfatória, podemos estimar a linha de

regressão e resolver alguns problemas de inferência. O problema de estimar os parâmetros  e   é o

mesmo que ajustar a melhor reta em um gráfico de dispersão, como na Figura 1.2.1. O Método dos

Mínimos Quadrados é uma eficiente estratégia de estimação dos parâmetros da regressão e sua

aplicação não é limitada apenas às relações lineares.

Figura 1.2.1: Representação da Reta de Regressão.

1.2.1 Método dos Mínimos QuadradosO primeiro passo na análise de regressão é obter as estimativas e dos parâmetros do modelo. Os

valores dessas estimativas serão obtidos a partir de uma amostra de n pares de valores , i=1,...,n

que correspondem a n pontos em um gráfico, como na Figura 1.2.1. No método de Mínimos Quadrados,

não é necessário conhecer a forma da distribuição dos erros.

Suponha que é traçada uma reta arbitrária  passando por esses pontos. No valor  da variável

explicativa, o valor predito por esta reta é  , enquanto o valor observado é  . Os desvios (erros)

entre estes dois valores é  , que corresponde a distância vertical do ponto à reta

arbitrária.

O objetivo é estimar os parâmetros e de modo que os desvios ( ) entre os valores observados e

estimados sejam mínimos. Isso equivale a minimizar o comprimento do vetor de erros, 

.

Uma forma de obter essas estimativas é o Método de Mínimos Quadrados. Este método consiste em

minimizar a soma dos quadrados dos desvios L, como na expressão abaixo

A potência é necessária, pois a soma dos desvios é nula, isto é,

Para encontrarmos estimativas para os parâmetros, vamos minimizar (1.2.1.1) em relação aos

parâmetros e . Para isto, derivamos em relação aos parâmetros e . Assim,

Substituindo e por e , para indicar valores particulares dos parâmetros que minimizam L, e

igualando as derivadas parciais a zero, obtemos

Simplificando, obtemos as equações denominadas Equações Normais de Mínimos Quadrados.

Para encontrarmos os valores de e que minimizam L, resolvemos o sistema de equações dado em

(1.2.1.2). Considerando a primeira equação de (1.2.1.2) obtemos que,

 

ou seja,

em que são as médias de x e da variável Y, respectivamente.

Desta forma, substituindo (1.2.1.3) na segunda equação de (1.2.1.2) temos que,

Então,

e portanto, concluímos que

Podemos também escrever

Os valores de e assim determinados são chamados Estimadores de Mínimos Quadrados (EMQ).

O modelo de regressão linear simples ajustado é então

sendo que é um estimador pontual da média da variável Y para um valor de , ou seja,

 

Notação:Considerando n pares de valores observados ,

As quantidades e são as médias amostrais de x e y. Já as quantidades e são as somas dos

quadrados dos desvios das médias e é a soma dos produtos cruzados dos desvios de x e y.

Desta forma, as estimativas de mínimos quadrados de e , em termos desta notação são:

 

Exemplo 1.2.1

Voltando à "Motivação 1 (/content/1-regressão-linear-simples#motivacao1)", em que queríamos

determinar os valores de temperatura em   que otimizam a dureza do material, encontramos as

estimativas dos parâmetros  e  pelo Método dos Mínimos Quadrados.

(/sites/default/files/Sumario_sem_fator.xls)clique aqui para efetuar o download dos dados

utilizados nesse exemplo (/sites/default/files/analise_regressao/planilhas/Reglin.xls)

 

Solução:

As médias amostrais das variáveis temperatura (X) e dureza (Y) são, respectivamente, 

Além disso, na Tabela 1.2.1, apresentamos os valores de e para cada observação i, i=1,...,20.  

ObservaçãoTemperatura

(x)

Dureza

(y)

1 220 137 48.400 18.769 30.140

2 220 137 48.400 18.769 30.140

3 220 137 48.400 18.769 30.140

4 220 136 48.400 18.496 29.920

5 220 135 48.400 18.225 29.700

6 225 135 50.625 18.225 30.375

7 225 133 50.625 17.689 29.925

8 225 132 50.625 17.424 29.700

9 225 133 50.625 17.689 29.925

10 225 133 50.625 17.689 29.925

11 230 128 52.900 16.384 29.440

12 230 124 52.900 15.376 28.520

13 230 126 52.900 15.876 28.980

14 230 129 52.900 16.641 29.670

15 230 126 52.900 15.876 28.980

16 235 122 55.225 14.884 28.670

17 235 122 55.225 14.884 28.670

18 235 122 55.225 14.884 28.670

19 235 119 55.225 14.161 27.965

20 235 122 55.225 14.884 28.670

Soma 4.550 2.588 1.035.750 335.594 588.125

Média 227,5 129,4      

Tabela 1.2.1: Dados da Motivação 1.

Assim, encontramos as somas de quadrados

Logo, as estimativas dos parâmetros e são, respectivamente

Portanto, o modelo ajustado é dado por

Pelos valores das estimativas, temos que a cada aumento da Temperatura, temos um decréscimo de

1,032 na Dureza.

 

1.2.2 ResíduosA diferença entre o valor observado e o correspondente valor ajustado , dado pela expressão

(1.2.1.4), é chamada de resíduo e é denotada por

Essa medida é importante já que por meio dela verificamos o ajuste do modelo.

1.2.2.1 Algumas propriedades do ajuste de mínimos quadrados 

(i) A soma dos resíduos é sempre nula.

(ii) A soma dos valores observados é igual a soma dos valores ajustados .

(iii) A reta de regressão de mínimos quadrados passa pelo ponto . De fato,

com . Assim, a reta de regressão ajustada é dada por

Logo,

e portanto, temos que a reta ajustada passa por .

(iv) A soma dos resíduos ponderado pelo correspondente valor da variável regressora é sempre nula. 

(v) A soma dos resíduos ponderado pelo correspondente valor ajustado é sempre zero.

 

1.2.3 Estimador da variância residualAssim como os parâmetros e , a variância dos termos do erro precisa ser estimada. Isto é

necessário já que inferências a respeito da função de regressão e da predição de Y requerem uma

estimativa de . Consideremos os resíduos dado em (1.2.2.1). Desta forma, definimos a Soma de

Quadrados dos Resíduos (Erros),

Não utilizamos a soma dos resíduos uma vez que em (i),

Como demonstrado em "Propriedades dos Estimadores" (/1040-propriedades-dos-

estimadores#E(SQE)), SQE é um estimador viciado de , isto é, 

Desta forma, um estimador não viciado para é dado por

em que QME é o Quadrado Médio dos Erros (Resíduos).

Considerando n pares de valores observados , podemos escrever

como visto em "Propriedades dos Estimadores" (/1040-propriedades-dos-estimadores#SQE), em que

e são dados respectivamente pelas expressões (1.2.1.6) e (1.2.1.7). Portanto,

Daremos mais detalhes para a Soma de Quadrados dos Erros (SQE) e para o Quadrado Médio dos Erros

(QME) em "Análise de Variância (14-análise-de-variância)".

 

Exemplo 1.2.2Obter um estimador não viesado para a variância residual do exemplo da "Motivação 1 (/content/1-

regressão-linear-simples#motivacao1)".

(/sites/default/files/Sumario_sem_fator.xls)clique aqui para efetuar o download dos dados

utilizados nesse exemplo (/sites/default/files/analise_regressao/planilhas/Reglin.xls)

Solução:

Temos que

Já vimos que e então

 

Usando o Software Action obtemos os seguintes resultados:

 Para entender como executar essa função do Software Action, você pode consultar o  manual

‹ 1.1 Modelo Estatístico (/analise-de-regressao/11-

modelo-estatistico)

acima

(/analise-

de-

regressao/regressao-

linear-

simples)

1.3 Propriedades dos Estimadores › (/analise-de-

regressao/13-propriedades-dos-estimadores)

do usuário. (/1047-regressao-linear-simples)

Dúvidas sobre esse conteúdo? Comente:

4 - Modelos ARIMA

2 comentários • 8 meses atrás

Vinícius Siqueira — Olá Mauro, tudo

bem? De fato, já implementamos a

ferramenta de séries temporais, porém ela

está em fase de teste alfa. Estamos

4.1 - Transformação de Box-Cox

1 comentário • 8 meses atrás

William Almeida — A introdução e

explicação do assunto está ótima, senti

falta apenas dos comentários a respeito

dos resultados obtidos. Por exemplo: uma5.1 - Gráfico p - proporção ou fração de

defeituosos

1 comentário • 8 meses atrás

Juliano Roberto de Oliveira — Olá. Tenho

algumas dúvidas. Percebi que os limites

revisados são calculados após uma

primeira amostra apontar pontos que …

3.5 - Simulação do Modelo Gama

1 comentário • 8 meses atrás

Luis — Alguém implementou e testou o

algoritmo sugerido? Nem ele e nem os

gráficos estão batendo com simulações

feitas no R...

TAMBÉM EM PORTAL ACTION

0 Comentários Portal Action Entrar1

Compartilhar⤤ Ordenar por Melhor avaliado

Comece a discussão...

Seja o primeiro a comentar.

O QUE É ISSO?

Assinar feed✉ Adicione o Disqus no seu sited Privacidade�

Recommend

ANÁLISE DE REGRESSÃO (/ANALISE-DE-REGRESSAO)

1. Regressão Linear Simples (/analise-de-regressao/regressao-linear-simples)

1.1 Modelo Estatístico (/analise-de-regressao/11-modelo-estatistico)

1.2 Estimação dos Parâmetros do Modelo (/analise-de-regressao/12-estimacao-dos-parametros-do-modelo)

1.3 Propriedades dos Estimadores (/analise-de-regressao/13-propriedades-dos-estimadores)

1.4 Testes e Intervalos de Confiança para os Parâmetros (/analise-de-regressao/14-testes-e-intervalos-de-confianca-para-os-

parametros)

1.5 Análise de Variância (/analise-de-regressao/15-analise-de-variancia)

1.6 Coeficiente de Determinação (/analise-de-regressao/16-coeficiente-de-determinacao)

1.7 Intervalo de Confiança para Resposta Média e Predição (/analise-de-regressao/17-intervalo-de-confianca-para-resposta-

media-e-predicao)

1.8 Modelo de Regressão sem Intercepto (/analise-de-regressao/18-modelo-de-regressao-sem-intercepto)

1.9 Análise de Resíduos na Regressão Linear Simples (/analise-de-regressao/19-analise-de-residuos-na-regressao-linear-

simples)

1.10 - Curva de Calibração (/analise-de-regressao/110-curva-de-calibracao)

1.11 - Regressão Linear Ponderada (/analise-de-regressao/111-regressao-linear-ponderada)

2. Regressão Linear Múltipla (/analise-de-regressao/regressao-linear-multipla)

3. Análise dos Resíduos (/analise-de-regressao/analise-dos-residuos)

4. Regressão Logística (/analise-de-regressao/regressao-logistica)

5 - Aplicações (/analise-de-regressao/aplicacoes)

6. Exercícios (/analise-de-regressao/exercicios)

Referências Bibliográficas (/analise-de-regressao/referencias-bibliograficas)

SOBRE O PORTAL ACTION

O Portal Action é mantido por Estatcamp - Consultoria Estatística e Qualidade e por DIGUP -

Desenvolvimento de Sistemas e Consultoria Estatística, com o objetivo de disponibilizar uma

ferramenta estatística em conjunto com uma fonte de informação útil aos profissionais interessados.

ESTATCAMP (http://www.estatcamp.com.br)

LINKS IMPORTANTES

Home (http://www.portalaction.com.br/)

Action (/sobre-o-action)

Sobre o Action (/sobre-o-action)

Manual do Usuário (/manual-action)

Download (/content/download-action)

FAQ (/faq-page)

Ambiente de Aprendizado (/ambiente-virtual-de-aprendizado)

Cursos Presenciais (/agenda-cursos-presenciais)

Serviços (/servicos)

Contato (/contact)

FACEBOOK

Seja o primeiro de seus amigos a curtir

isso.

Portal Action4.765 curtidas

Curtir Página Compartilhar

CONTATO

 Adolfo Catani, 682, São Carlos - SP | CEP 13560-470

Telefone: (16) 3376-2047

E-Mail: estatistica@estatcamp.com.br