tratamento estatístico de observações - cartografica.ufpr.br · calibraÇÃo - conjunto de...

TRATAMENTO ESTATISTICO DE OBSERVAÇÕES

Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02

Tratamento estatístico de

observações geodésicas

Prof. Dr. Carlos Aurélio Nadal



OBJETIVO: parâmetros estatísticos são utilizados

para avaliar os métodos empregados ou para o

controle de qualidade dos trabalhos.

OBSERVAÇÃO: é o valor obtido durante um

processo de medição.

DADO: é o resultado do tratamento de uma

observação (por aplicação de uma técnica ou de um

modelo matemático) para retirada de erros.

INFORMAÇÃO: é o resultado do tratamento de

dados (via modelo matemático/estatístico) e sua

interpretação.



é o ato de medir.

OBSERVAÇÃO = MEDIÇÃO

Medida = 10,0 cm

10,0 cm

é o valor de uma grandeza .



é o menor valor de uma medida que um instrumento

fornece ou a menor unidade detectável

em um aparelho.

Graduação da régua: centímetros e milímetros

Sensibilidade da régua: 1mm



ESTIMATIVA DE LEITURA DE UM INSTRUMENTO

Para qualquer medida o digito final pode ser

considerado com um digito estimado.

Por exemplo 0,5 da sensibilidade

2,4cm±0,1cm

2,4 + 0,02=2,42

2,42cm (estimado)



amostra: Conjunto de dados representativos de uma

população.

amostragem: Procedimento utilizado para constituir uma

amostra.

tratamento de dados: Aplicação de operações que

expressem, em termos relativos, as diferenças de atributos

entre os dados.



Tabulando dados

Analisou-se as medidas observadas, ordenando-se por

intervalos, sendo a unidade metros, obteve-se:

Distâncias

percorridas

Freqüência

(f)

Freqüência

relativa (fr)

Percentagem

%

Até 500 17 0,207 20,7

550-600 29 0,354 35,4

600-700 14 0,171 17,1

700-750 22 0,268 26,8

N=82 1 100



.

indica quanto cada uma de um conjunto

de observações para um mesmo evento,

se aproxima da média do conjunto

de observações. Maior quanto menor

for sua variabilidade em torno da média

Quanto uma medida se aproxima do

valor real exatidão relativa

Valor mais provável de uma medida

define-se como o grau de proximidade

entre um valor medido ou calculado e

o seu valor exato “ground-truth”.



EXATIDÃO de uma medida é tanto mais elevada quanto mais o

valor correspondente estiver próximo da ground-truth.

EXATIDÃO é muito difícil ou mesmo impossível de obter.

EXATIDÃO RELATIVA OU ACURÁCIA caracteriza-se por

comparar os valores obtidos para uma determinada variável com os

resultados adquiridos por outro método e/ou equipamento, o qual se

assume como a grandeza verdadeira.

CALIBRAÇÃO: MÉTODO OU EQUIPAMENTO DE

REFERENCIA selecionado para efetuar a comparação entre a

medida efetuada e o valor adotado deve estar suficientemente

estudado e os seus resultados estatisticamente caracterizados,

nomeadamente, a sua precisão e exatidão.

Apenas nestas condições os valores determinados podem ser

assumidos como uma grandeza de referência, com elevado grau de

confiança.



Acurácia simboliza como uma medida em particular se

aproxima do valor aceito como correto para esta medida.

Precisão indica a consistência da repetição de uma

medida



CONCEITOS DE PRECISÃO

(i) repetibilidade, determinada através da variação dos

resultados, mantendo as condições constantes e repetindo as

medições com o mesmo equipamento e durante um curto

período de tempo;

(ii) reprodutibilidade, a variação decorrente da utilização do

mesmo processo de medição, mas recorrendo a equipamentos e

técnicos diferentes, e durante longos períodos de tempo (Slama,

1980; Soong, 2004)



Precisão

Alta Resolução Acurácia

Baixa Resolução



acurado Inacurado

(erros sistemáticos

preciso

Impreciso

com erros

de

repetibilidade



PRECISÃO NO POSICIONAMENTO TOPOGRÁFICO



IMPRECISO E SEM

ACURÁCIA

PRECISO E SEM

ACURÁCIA

ACURADO E PRECISO

132,50 150,069 150,256

145,59 149,949 150,255

107,25 149,258 150,259

123,69 150,032 150,255

EXEMPLO DE PRECISÃO E ACURÁCIA

Medida de uma distância em metros



Tipos de erros (Slama, 1980)

ERROS GROSSEIROS (blunders ou outliers) são

aqueles oriundos de falhas, falta de atenção do observador

e do mau funcionamento de um instrumento, deve ser

evitado, pois é de difícil detecção após as medidas

ERROS CONSTANTES têm sempre o mesmo sinal e

magnitude, sendo as suas fontes mais comuns os próprios

instrumentos de medição.

ERROS SISTEMÁTICOS são produzidos por causas

conhecidas, podem ser evitados por técnicas especiais de

observações ou podem ser modelados matematicamente e

eliminados das observações.

ERROS ACIDENTAIS ocorrem de maneira aleatória e

devem ser tratados estatisticamente.



humanos ou pessoais

naturais

instrumentais

superabundância de observações: permite obter o

valor mais provável de uma grandeza: média

Substitui-se um conjunto de observações por um

único número a média aritmética.

A precisão de uma observações é fornecida

pelo desvio padrão.

causas dos erros



Média Aritmética (valor mais provável de uma

observação)



1a observação = 10,4 cm



Qual o valor da medida? Qual a confiabilidade desta medição?

a b

a b

a b



numero observação

(cm)

desvio desvio ao quadrado

1 10,4 0,0167 0,0002789

2 10,45 0,0667 0,0044489

3 10,3 -0,0833 0,0069389

soma 31,15 0,0001 0,01167

Valor mais provável da observação:

x = 31,15/3 x = 10,38cm

Precisão: Variância:

S v. v 0,011672 cm2

n – 1 2Precisão: desvio padrão:

cm



resolução

precisãoMedida angular

Manual técnico do instrumento



Medida de distânciaprecisão

resolução

Manual técnico do instrumento



QUAL A PRECISÃO DO GPS



COVARIÂNCIA

A covariância entre dois conjuntos de

medidas, x1 e x2, é dada por:

1

2211

12

n

xxxxS ii

Se S12 = 0 Não há dependência entre G1 e G2

Se S12 # 0 Há dependência entre G1 e G2



1r1-21

12 +SS

Sr

COEFICIENTE DE CORRELAÇÃO

O coeficiente de covariância entre dois

conjuntos de medidas x1 e x2 é dado por:



Método dos mínimos quadrados

Métodologia:

evitam-se os erros grosseiros

-Eliminam-se os erros sistemáticos por técnicas

observacionais ou por aplicação de modelos

matemáticos

-Ajustam-se os erros acidentais

Principio do Método

A soma dos quadrados dos resíduos é mínima.

Svv = min.



( ) ( ) ( ) ( ) ( ) ... ( ) ( )

F

k

k

F

mm

F

mm

F

mm2

1

2

1

2

2

2

2

2 2 2 + + +

Seja a função que representa um conjunto de dados

F = f(m1, m2, ..., mk)

Utilizando-se dos conceitos de Gauss:

Os erros não se propagam linearmente!

LEI DA PROPAGAÇÃO DAS VARIÂNCIAS



ACURÁCIA DE MEDIÇÃO - Grau de concordância

entre o resultado de uma medição e um valor verdadeiro

do mensurando.

CLASSIFICAÇÃO - consiste em distribuir em classes ou

grupos segundo um sistema de classificação. A norma

brasileira NBR13133 (Execução de levantamentos

topográficos), define as classes que devem ser

enquadrados os instrumentos baseando-se no desvio

padrão de um conjunto de observações obtidas

seguindo uma metodologia própria.



CALIBRAÇÃO - conjunto de operações que estabelece, em

condições especificadas, a correlação entre valores de

quantidades indicados por um instrumento de medida, ou

sistema de medida, ou uma medida materializada e os

verdadeiros convencionais da grandeza medida.

Interferômetro HP 5528A do Laboratório de Aferição da

UFPr.

(1)

Carro com sensor Emissor/

receptor

(2)

Distância calibrada: 9,965cm



valor real

medida erro

Valor mais prováveldesvio

acurácia

Erro = Diferença entre o valor observado

e o valor real

Desvio = Diferença entre o valor observado

e a média



Exercício:

Um ângulo foi medido dez vezes, como é mostrado abaixo:

(Gemael,C. 1994 p93)

observação medida (l) v= (l-x) v2 =(l-x) 2

1 120°31´ 40,1” -1,56 2,4336

2 41,2” -0,46 0,2116

3 40,8” -0,86 0,7396

4 42,1” 0,44 0,1936

5 42,9” 1,24 1,5376

6 42,4” 0,74 0,5476

7 43,0” 1,34 1,7956

8 40,7” -0,96 0,9216

9 41,9” 0,24 0,0576

10 41,5 -0,16 0,0256

S 41,66 3,55E-14 8,464



Estimativa Pontual

• Valor mais provável da observação:

x = 120°31´ 41,66”

b) Desvio padrão

8,464

= ———— = 0,9698”

9

No software FreeMat v3.5

a=[40.1 41.2 40.8 42.1 42.9 42.4 43.0 40.7 41.9 41.5]

[' média =']

m=mean(a)

[' desvio padrão =']

s=std(a)



Estimativa por intervalo de confiança da média

P[ x - —— t 1-/2 u x + —— t 1-/2 ] = 1-

n n

Sendo 1- denominado de nível de significância, usualmente

igual a 95%.

Assim: 1- = 0,95 1-/2 = 0,975

Na tabela de Student para n-1 =9 (graus de liberdade)

t 0,975 = 2,262

x - —— t 1-/2 = 120°31´ 40,96”

n

x + —— t 1-/2 = 120°31´ 42,36”

n



Extrato da tabela de Student

Pode-se concluir que há 95% de chance de uma observação

estar contida no intervalo de confiança:

P = [120°31´ 40,96” u 120°31´ 42,36”] = 95%

Adotando-se um nível de confiança mais alto (99%) obtém-se

um intervalo de confiança maior

t 0,995 = 3,250

P = [120°31´ 40,65” u 120°31´ 42,67”] = 99%



No software Excel



Um dos principais produtos do ajustamento das observações é a

matriz variância covariância, que é um arranjo matricial na

forma:

12 12 13 ... 1n

S = 21 22 23 ... ...2n

... ... ... ...

n1 n2 ...n3 ... n2

Na diagonal principal tem-se as variâncias. Suas raízes

quadradas representam os desvios padrões das observações

correspondentes.

Fora da diagonal principal aparecem as covariâncias.



Elipse de erros: é a figura que representa os desvios padrões

máximos e mínimos de uma medida.

Deseja-se a localização do ponto B do segmento AB.

Precisão angular 10” precisão linear 3mm

A

Precisão angular

Precisão linear

Área de localização

provável do ponto B

x

y



Exercícios:

Um ângulo foi medido cinco vezes, obtendo-se os resultados

constantes da coluna “medida”, da tabela a seguir. Calcular o valor

mais provável de sua medida, sua variância e seu erro médio

quadrático da média. Verificar se todas as observações se encontram

dentro de um intervalo de confiança com probabilidade de 95% de

certeza

obs Medida V (“) V2 (“2)

1 20°32´15" -4,6 21,16

2 20°32´20" 0,4 0,16

3 20°32´23" 3,4 11,56

4 20°32´18" -1,6 2,56

5 20°32´22" 2,4 5,76

SOMA 102°41´38" 0,0 41,20



a) Cálculo da média aritmética (valor mais provável da medida)

Sob 102°41´38"X = ——— = ——————

n 5

x = 20°32´19,6"

b) Cálculo da variânciaSv2

2 = ———n-1

4122 = ————

5 – 1

2 =10,3 "2



c) Cálculo do desvio padrão

32 "

d) Cálculo do intervalo de confiança das medidas com

probabilidade de certeza de 95%. Da análise estatística tem-se que

para probabilidade de 95% deve-se pré-multiplicar o desvio padrão

por 1,96, para 99% por 2,58, assim obtém-se:

P[ x – 1,96< < x + 1,96] 9%

P[20°32´13,33" < < 20°32´25,87"] 9%



Uma distância de 200m foi medida com uma trena de 20m de

comprimento. O desvio padrão de cada medida efetuada é

conhecido e igual a 5mm. Qual o desvio padrão da distância

total medida?

a) Modelo matemático para a distância total medida

D = d1+ d2+ d3+ d4+ d5+ d6+ d7+ d8+ d9+ d10

D=20,00+20,00+20,00+20,00+20,00+20,00+20,00+20,00+20,00

+20,00

D = 200,00m

b) Cálculo da propagação do desvio padrão

D D D

2D=(2 2

d1+ (2 2 d2+ .... + (2 2

d10

d1 d2 d10



2 d1= 52 mm2 = 25mm2

2d1= 2

d2= 2d3= 2

d4= 2d5= 2

d6= 2d7= 2

d8= 2d9= 2

d10= 25mm2

D D D

1

d1 d2 d10

2D= 2

d1+ 2d2+2

d3+2d4+2

d5+2d6+2

d7+2d8+2

d9+2d10

2D= 250mm2

D= 15,8mm

tratamento estatístico de observações - cartografica.ufpr.br · calibraÇÃo - conjunto de...

Documents