a escala do basÍmetro linear aplicaÇÃo: base … · baarda e método tau de pope, para...

139
UNIVERSIDADE FEDERAL DE PERNAMBUCO CENTRO DE TECNOLOGIA E GEOCIÊNCIAS ESCOLA DE ENGENHARIA DE PERNAMBUCO DEPARTAMENTO DE ENGENHARIA CARTOGRÁFICA PROGRAMA DE PÓS-GRADUAÇÃO EM CIÊNCIAS GEODÉSICAS E TECNOLOGIAS DA GEOINFORMAÇÃO FRANCISCO SOARES BARBOSA A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE MULTIPILAR DA UFPE Recife, 2009

Upload: tranbao

Post on 09-Nov-2018

219 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

UNIVERSIDADE FEDERAL DE PERNAMBUCO CENTRO DE TECNOLOGIA E GEOCIÊNCIAS

ESCOLA DE ENGENHARIA DE PERNAMBUCO DEPARTAMENTO DE ENGENHARIA CARTOGRÁFICA

PROGRAMA DE PÓS-GRADUAÇÃO EM CIÊNCIAS GEODÉSICAS E TECNOLOGIAS DA GEOINFORMAÇÃO

FRANCISCO SOARES BARBOSA

A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE MULTIPILAR DA UFPE

Recife, 2009

Page 2: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

UNIVERSIDADE FEDERAL DE PERNAMBUCO CENTRO DE TECNOLOGIA E GEOCIÊNCIAS

ESCOLA DE ENGENHARIA DE PERNAMBUCO DEPARTAMENTO DE ENGENHARIA CARTOGRÁFICA

PROGRAMA DE PÓS-GRADUAÇÃO EM CIÊNCIAS GEODÉSICAS E TECNOLOGIAS DA GEOINFORMAÇÃO

Francisco Soares Barbosa Engenheiro Agrimensor, Universidade Federal do Piauí, 1985.

A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE MULTIPILAR DA UFPE

Dissertação apresentada ao Programa de Pós-Graduação em Ciências Geodésicas e Tecnologias da Geoinformação, do Centro de Tecnologia e Ge-ociências da Universidade Federal de Pernambuco, como parte dos requisitos para obtenção do grau de Mestre em Ciências Geodésicas e Tecnologias da Geoinformação, área de Concentração Geodésia Aplicada, e defendida no dia 17/09/2009.

Orientador: Prof. Titular Dr.-Ing. Tarcísio Ferreira Silva Co-Orientador: Prof. Dr. Sílvio Jacks dos Anjos Garnés

Recife, 2009

Page 3: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

 B238e  Barbosa, Francisco Soares 

A escala do Basímetro  Linear – Aplicação: base multipilar da UFPE  / Francisco Soares Barbosa. – Recife: O Autor, 2009. 

xii, 121 f.; il., gráfs., figs., tabs.  Dissertação  (Mestrado) – Universidade Federal de Pernambuco. CTG. 

Programa  de  Pós‐Graduação  em  Ciências  Geodésicas  e  Tecnologias  da Geoinformação, 2009. 

  Inclui referências bibliográficas.  1. Engenharia Cartográfica.  2. Ciências Geodésicas.  3. Metrologia.  4. 

Calibração.  5. Mira  Horizontal  de  Ínvar.    6. Medidor  de  Eletrônico  de Distância.  I. Título. 

                                                       UFPE  

                  526.1                           CDD (22.ed.)                          BCTG/2010‐033 

Page 4: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers
Page 5: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

DEDICATÓRIA

A meus pais Camilo (in memorian ) e Luiza

A minha esposa Sandra

A meus filhos: Priscyla e Gustavo

A meus irmãos: Mariano, Nazaré, Manoel,

João e José

Page 6: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

AGRADECIMENTOS

Inicialmente agradeço a Deus pela saúde, pela esperança, pelos dons, pelo

existir.

A Universidade Federal do Piauí, pela concessão do afastamento para realizar

este Curso.

Ao Prof. Dr.-Ing. Tarcísio Ferreira Silva, professor da Universidade Federal de

Pernambuco, a dedicada orientação desta dissertação.

Ao amigo e co-orientador Prof. Dr. Sílvio Jacks dos Anjos Garnés pela

incansável dedicação e apoio prestados durante todo o desenvolvimento desse

trabalho, além dos valiosos ensinamentos que muito contribuíram para meu

crescimento pessoal e profissional.

Ao Prof. José Lincoln de Sousa Meneses, professor da Universidade Federal

do Piauí, pelos incentivos durante a realização do Curso.

Aos amigos Alessandro Rhadamek e Débora, pela inestimável ajuda em

diversos momentos.

A todos aqueles colegas e amigos que direta e indiretamente contribuíram

para a realização deste trabalho.

Page 7: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

i

ÍNDICE.................................................................................................................. iRESUMO E PALAVRAS-CHAVE........................................................................ vABSTRACT AND KEY-WORDS.......................................................................... viiLISTA DE FIGURAS............................................................................................. viiiLISTA DE TABELAS............................................................................................ xLISTA DE SIGLAS E ABREVIATURAS.............................................................. xii 1. INTRODUÇÃO.................................................................................................. 11.1 Objetivos do Trabalho..................................................................................... 2

1.1.1 Objetivo Geral.............................................................................................. 2

1.1.2 Objetivos Específicos................................................................................... 2

1.2 Justificativa...................................................................................................... 3

1.3 Estrutura do Trabalho..................................................................................... 4

2 REVISÃO DA LITERATURA............................................................................ 52.1 Conceitos Metrológicos.................................................................................. 5

2.1.1 Áreas da Metrologia.................................................................................... 5

2.1.2 Conceituação de Padrão Metrológico......................................................... 6

2.1.3 Conceituação das Terminologias Usadas em Metrologias......................... 7

2.1.4 Conceituação de Incerteza de Medição...................................................... 11

2.1.5 Fontes de Incertezas................................................................................... 12

2.1.6 Classificação das Incertezas....................................................................... 13

2.1.7 Lei de Propagação da Incerteza Padronizada Combinada.......................... 14

2.1.7.1 Grandezas Estatisticamente Independentes........................................... 15

2.1.7.2 Grandezas Estatisticamente Dependentes.............................................. 16

2.1.8 Incerteza Expandida................................................................................... 17

2.1.9 Fator de Abrangência.................................................................................. 18

2.1.10 Avaliação das Incertezas.......................................................................... 19

2.2 Mira Horizontal de Ínvar.................................................................................. 20

2.2.1 Princípio da Medição da Distância Horizontal............................................. 21

2.2.2 Fatores que Influenciam na Medição da Distância Horizontal.................... 22

2.2.2.1 Incerteza do Comprimento da Mira Horizontal de Ínvar........................... 22

2.2.2.2 Incerteza do Ângulo Paralático................................................................ 23

Page 8: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

ii

2.2.2.3 Falta de Perpendicularidade da Mira com Respeito à Distância a ser

Calculada.............................................................................................................. 24

2.2.2.4 Não Horizontalidade da Mira Horizontal.................................................. 26

2.2.2.5 Excentricidade da Mira Horizontal........................................................... 27

a) Determinação da Excentricidade...................................................................... 29

b) Incerteza Padrão Combinada da Excentricidade.............................................. 30

2.2.3 Método da Medição do Ângulo Paralático................................................. 31

2.2.3.1 Método das Direções............................................................................... 32

2.2.4 Erros que Afetam as Medidas Angulares dos Goniômetros....................... 33

2.3 Medidas Eletrônicas de Distâncias................................................................. 36

2.3.1 Ondas Eletromagnéticas.............................................................................. 36

2.3.2 Espectro Eletromagnético........................................................................... 38

2.3.3 Onda Portadora........................................................................................... 38

2.3.4 Modulação da Onda Portadora................................................................... 39

2.3.5 Componentes do Medidor Eletrônico de Distância.................................... 40

2.3.6 Equação Fundamental da Medição de Distância Eletrônica....................... 41

2.3.6.1 Sistema de Transmissão de Pulsos......................................................... 41

2.3.6.2 Sistema de Transmissão de Ondas Contínuas........................................ 44

2.3.7 Erros na Medida Eletrônica de Distância.................................................... 45

2.4 Detecção de Erros Grosseiros....................................................................... 47

2.4.1 Classificação dos Erros............................................................................... 47

2.4.2 Método dos Mínimos Quadrados (MMQ).................................................... 49

2.4.3 Ajustamento pelo Método dos Parâmetros................................................. 50

2.4.3.1 Modelo Matemático................................................................................... 51

2.4.3.2 Matriz dos Pesos...................................................................................... 52

2.4.3.3 Equações Normais................................................................................... 53

2.4.4 Teste Global................................................................................................ 54

2.4.5 Relação entre Resíduos e Número de Redundância.................................. 56

2.4.6 Teste Data Snooping de Baarda................................................................. 59

2.4.7 Método de Pope: Teste Tau........................................................................ 61

2.5 Determinação dos Elementos de Calibração dos MED’s sem o

Conhecimento da Escala do Basímetro................................................................63

2.5.1 Operações de Campo.................................................................................. 63

Page 9: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

iii

2.5.2 Primeiro Ajustamento................................................................................... 64

2.5.2.1 Sistema de Equações de Observações................................................... 64

2.5.2.2 Matriz dos Pesos...................................................................................... 65

2.5.2.3 Resultados do Ajustamento..................................................................... 66

2.5.3 Segundo Ajustamento.................................................................................. 66

2.5.4 Distância Ajustada Corrigida dos Erros de zero e Cíclico............................ 69

3. MATERIAIS E MÉTODOS................................................................................ 703.1 Equipamentos Utilizados................................................................................. 70

3.1.1 Goniômetro Th2 da Zeiss............................................................................ 70

3.1.2 Estações Totais........................................................................................... 71

3.1.3 Mira Horizontal de Ínvar Jena Bala............................................................. 73

3.2 Características Atuais do Basímetro Linear da UFPE................................... 73

3.3 Método Goniômetro/Mira................................................................................ 76

3.3.1 Pré-análise................................................................................................... 76

3.3.1.1 Mira Horizontal na Extremidade do Alinhamento..................................... 77

3.3.1.2 Mira Horizontal Aproximadamente no Ponto Médio do Alinhamento....... 80

3.3.2 Operações de Campo.................................................................................. 84

3.3.2.1 Método de Medição com a Mira Horizontal.............................................. 84

3.3.3 Cálculo do Ângulo Paralático Depurado de Erros Grosseiros..................... 86

3.3.3.1 Cálculo das n Séries do Ângulo Paralático.............................................. 86

3.3.3.2 Ajustamento do Ângulo Paralático........................................................... 87

a) Modelo matemático........................................................................................... 87

b) Vetor das Observações Brutas ........................................................................ 88

c) Matriz dos Coeficientes dos Parâmetros ........................................................ 88

d) Matriz do Ângulo Paralático Ajustado............................................................... 88

e) Matriz Variância Covariância (MVC) das Observações.................................... 89

f) Matriz dos pesos ............................................................................................... 89

e) Matriz MVC dos Parâmetros Ajustados............................................................ 89

3.3.3.3 Depuração de Erros Grosseiros................................................................ 89

a) Teste Global...................................................................................................... 89

b) Teste Data Snooping........................................................................................ 90

c) Teste Tau.......................................................................................................... 90

Page 10: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

iv

d) Eliminação das Observações Discrepantes..................................................... 91

3.4 Método de Schwendener com Uso de Estações Totais................................. 92

4. APRESENTAÇÃO E ANÁLISE DOS RESULTADOS .................................... 934.1 Resultado da Escala do Basímetro - Método de Otimização de Rede

Geodésica............................................................................................................. 93

4.2. Método Goniômetro/Mira........................................................................ 95

4.2.1 Ângulos Paraláticos Depurado dos Erros Grosseiros.................................. 96

4.2.2 Distância de Cada Segmento do Basímetro em Cada Campanha.............. 98

4.2.3 Discrepâncias Entre os Segmentos das Três Campanhas.......................... 100

4.2.4 Resultado da Escala do Basímetro - Método Goniômetro/Mira.................. 101

4.3 Método de Schwendener com Uso de Estações Totais................................. 101

4.3.1 Correções Meteorológicas........................................................................... 101

4.3.2 Resultado dos Ajustamentos....................................................................... 102

4.3.2.1 Análise dos Ajustamentos......................................................................... 107

4.3.3 Discrepâncias entre os Segmentos dos Cinco Levantamentos................... 109

4.3.4 Resultado da Escala do Basímetro – Método Schwendener....................... 110

4.4 Discrepâncias entre as Escalas do Basímetro - Três Métodos...................... 110

4.4.1 Teste para a Diferença entre as Médias dos Métodos Goniômetro/Mira e

Schwendener com uso de Estações Totais.......................................................... 112

5. CONCLUSÕES E RECOMENDAÇÕES........................................................... 1155.1 Conclusões................................................................................................... 115

5.2 Recomendações........................................................................................... 116

REFERÊNCIAS BIBLIOGRÁFICAS.................................................................... 118

Page 11: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

v

RESUMO E PALAVRAS-CHAVE BARBOSA, Francisco Soares. A escala do Basímetro Linear – Aplicação: base multipilar da UFPE. Recife, 2009. 121p. Dissertação (Mestrado em Ciências

Geodésicas e Tecnologias da Geoinformação) – Centro de Tecnologia e

Geociências, Universidade Federal de Pernambuco.

A verificação e calibração dos Medidores Eletrônicos de Distâncias (MED’s) têm sido

tratadas em todo o mundo por órgãos de metrologia, universidades e entidades

públicas e privadas que têm responsabilidade sobre o controle de qualidade nas

áreas da Engenharia e Geociências. No caso específico do Brasil, é realizado em

entidades oficiais e/ou universidades, em linhas de base multipilar implantada em

campo. A problemática abordada neste trabalho consiste em definir a escala de

referência da base multipilar da UFPE utilizando os métodos: Goniômetro/Mira,

Schwendener e Otimização de Rede Geodésica. Os métodos Goniômetro/Mira e

Schwendener foram desenvolvidos e aplicados integralmente, ou seja, foram

executadas operações de campo, ajustamento e análise de resultados; enquanto no

método de Otimização de Rede Geodésica, somente foi feita uma revisão de

literatura e recuperados os resultados. Tal método foi aplicado na definição da

primeira escala da base da UFPE em 1996. O ângulo paralático, grandeza de maior

importância do método Goniômetro/Mira, foi efetuado por meio do método de

medição das direções, com aplicação dos testes estatísticos: Data Snooping de

Baarda e método Tau de Pope, para detecção, localização e eliminação de erros

grosseiros (“blunders” ou “outliers”). Também, realizou-se um estudo comparativo

da escala da base através dos três métodos e os resultados mostraram que as

discrepâncias (em módulo) nas distâncias entre os pilares (P1-P2, P2-P3, P3-P4),

tiveram valor máximo de 2,6 mm. No entanto, entre os pilares (P4-P5, P5-P6, P6-P7

e P7-P8) a discrepância máxima chegou a atingir a ordem do centímetro, com 1,44

cm. Estes resultados mostram a necessidade da continuidade da pesquisa com

equipamentos e métodos mais refinados a fim de se ter uma escala homogênea

entre os pilares, com incerteza de no máximo ±1 mm. Com isso irá satisfazer a

necessidade de calibração das estações de classe 3 (precisão alta -NBR 13133).

Page 12: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

vi

Palavras-chave: Ciências Geodésicas; Metrologia; Calibração; Mira Horizontal de

Ínvar; Medidor de Eletrônico de Distância.

Page 13: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

vii

ABSTRACT AND KEY-WORDS

Metrology institutions, universities and public and private entities responsible for

quality control in the areas of engineering and geosciences deal with Verification and

Calibration of Electronic Distance Meters (EDM). In Brazil, this activity is held in

official entities and/or universities in baseline multipillar deployed in the field. The

problem addressed in this work is to define the reference scale of multipillar base

UFPE using the methods: Goniometer/Subtense Bar, Schwendener and Geodetic

Network Optimization. Goniometer/Subtense Bar and Schwendener methods have

been developed and applied. Field operations, adjustment and analysis of results

were executed. A literature review of Geodetic Network Optimization was undertaken

and the results retrieved. This method was applied in the definition of first scale of the

base of UFPE in 1996. The paralatic angle, the most important magnitude of the

Goniometer/Subtense Bar method, was performed by the method of measuring the

direction, applying statistical tests: Data Snooping and method of Baarda Tau Pope,

detection, localization, and elimination of gross errors (“blunders” or “outliers”).

Furthermore, a comparative study of the scale of a database was performed through

the three methods and the results showed that the discrepancies (in module) in the

distances between the pillars (P1-P2, P2-P3, P3-P4), had a maximum of 2.6 mm.

However, among the pillars (P4-P5, P5-P6, P6-P7 and P7-P8) the maximum

discrepancy peaked at the order of centimeter: 1.44 cm. These results show the

need for further research with more fine grained equipments and methods in order to

have a homogeneous scale between the pillars, with an uncertainty up to ±1 mm.

That will satisfy the necessity for calibration of the stations of class 3 (high-precision

NBR 13133).

Keywords: Geodesic Sciences; Metrology; Calibration; Subtense Bar of Ínvar;

Electronic Distance Measurement.

Page 14: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

viii

LISTA DE FIGURAS Figura 1 – Hierarquia dos Padrões Metrológicos.................................................. 7

Figura 2 – Determinação do resultado do mesurando e de sua incerteza........... 20

Figura 3 – Mira montada sobre base engatada em pilar...................................... 21

Figura 4 – Medição da distância com mira horizontal de ínvar, no triângulo

isósceles de medição............................................................................................ 21

Figura 5 – Erro de perpendicularismo................................................................... 24

Figura 6 – Influência da não horizontalidade........................................................ 26

Figura 7 – Excentricidade da mira........................................................................ 28

Figura 8 – Determinação da excentricidade......................................................... 29

Figura 9 – Sistema de eixos no goniômetro........................................................ 34

Figura 10 – Movimento oscilatório de um elétron gerando uma onda

eletromagnética..................................................................................................... 36

Figura 11 – Espectro Eletromagnético.................................................................. 38

Figura 12 – Componentes de um MED................................................................. 40

Figura 13 – Princípio simplificado do sistema de pulso........................................ 42

Figura 14 – Princípio de medição no sistema de onda contínua.......................... 44

Figura 15 – Gráfico da distribuição de probabilidade qui-quadrado..................... 56

Figura 16 – Conjunto de medições realizadas sobre o basímetro linear.............. 63

Figura 17 – Goniômetro Th 2 da Zeiss................................................................. 70

Figura 18 – a – Trimble 3303, b – Trimble 3305, c – Trimble Elta_S20................ 72

Figura 19 – a) Alvo, b) Barômetro/Termômetro, c) Prisma................................... 73

Figura 20 – Localização do basímetro linear na UFPE......................................... 74

Figura 21 – Sistema de centragem fixa................................................................ 76

Figura 22 – Mira horizontal na extremidade do alinhamento................................ 77

Figura 23 - Mira horizontal aproximadamente no ponto médio do alinhamento... 80

Figura 24 - Medição do P2-P3.............................................................................. 84

Figura 25 - Visão do operador da estação total na conclusão do nivelamento.... 85

Figura 26 - Perpendicularidade da mira................................................................ 85

Figura 27 - Triângulo isósceles............................................................................. 86

Figura 28 - Mira colocada no ponto médio............................................................ 86

Figura 29 – Fluxograma simplificado da rotina em matlab para ajustamento do ângulo paralático e detecção dos erros grosseiros........................................ 91

Page 15: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

ix

Figura 30 – Fluxograma simplificado da rotina em matlab para calibração de MED’s.................................................................................................................... 92

Figura 31 – Rede geodésica simulada.................................................................. 94

Figura 32 – Indicação do ângulo paralático medido em cada segmento.............. 96

Figura 33 – Regiões de aceitação e rejeição do teste t........................................ 114

Page 16: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

x

LISTA DE TABELAS

Tabela 1 – Fator de abrangência k para α 5% e graus de liberdade efetivo efυ . 19

Tabela 2 – Influência da Incerteza padrão do ângulo paralático.......................... 23

Tabela 3 – Influência de não perpendicularismo.................................................. 25

Tabela 4 – Influência da não horizontalidade..................................................... 27

Tabela 5 – Influência da excentricidade................................................................ 29

Tabela 6 – Erros que podem afetar as medidas angulares nos goniômetros....... 35

Tabela 7 – Controle de observações por redundâncias parciais.......................... 58

Tabela 8 – Parâmetro de não-centralidade em função do nível de significância

e poder de teste.................................................................................................... 60

Tabela 9 – Principais características técnicas das estações totais...................... 72

Tabela 10 – Distâncias aproximadas dos segmentos do basímetro..................... 75

Tabela 11 – Dimensões dos pilares do basímetro................................................ 75

Tabela 12 – Incerteza padrão combinada e relativa quando a mira na

extremidade.......................................................................................................... 79

Tabela 13 – Incertezas padrão combinada e relativa com a mira colocada no

ponto médio de cada segmento............................................................................ 83

Tabela 14 – Incertezas padrão combinada e relativa com a mira colocada no

ponto médio e com simulação da incerteza do ângulo paralático de ± 1"............ 83

Tabela 15 – Cálculo da uma série do ângulo paralático – Goniômetro Th2......... 87

Tabela 16 – Escala do Basímetro (Método Otimização de Rede Geodésica)...... 95

Tabela 17 – Ângulos paraláticos depurados de erros grosseiros – Primeira

Campanha............................................................................................................. 97

Tabela 18 – Ângulos paraláticos depurados de erros grosseiros – Segunda

Campanha............................................................................................................. 97

Tabela 19 – Ângulos paraláticos depurado de erros grosseiros – Terceira

Campanha............................................................................................................. 98

Tabela 20 – Distâncias e suas Incertezas - Primeira Campanha........................ 99

Tabela 21 – Distâncias e suas Incertezas - Segunda Campanha....................... 99

Tabela 22 – Distâncias e suas Incertezas - Terceira Campanha......................... 99

Tabela 23 – Discrepância entre as Distâncias entre as Campanhas................... 100

Page 17: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

xi

Tabela 24 – Escala do Basímetro (Goniômetro/Mira)........................................... 101

Tabela 25 – Data dos levantamentos e características das estações totais........ 101

Tabela 26 – Primeiro levantamento realizado em 2007....................................... 103

Tabela 27 – Segundo levantamento realizado 07/11/2008................................... 104

Tabela 28 – Terceiro levantamento realizado 08/11/2008.................................... 105

Tabela 29 – Quarto levantamento realizado 09/06/2009...................................... 106

Tabela 30 – Quinto levantamento realizado 21/06/2009...................................... 107

Tabela 31 – Variância da unidade de peso a posteriori dos levantamentos......... 108

Tabela 32 – Erro de zero e sua incerteza e elementos do erro cíclico................. 108

Tabela 33 – Distâncias ajustadas e suas incertezas dos cinco levantamentos.... 109

Tabela 34 - Discrepâncias entre as distâncias dos cinco levantamentos............. 109

Tabela 35 - Escala do Basímetro (Schwendener)................................................ 110

Tabela 36 – Discrepâncias entre as escalas (três métodos)................................ 111

Tabela 37 – Resumo das medições e análise dos dois métodos......................... 114

Page 18: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

xii

LISTA DE SIGLAS E ABREVIATURAS ABNT Associação Brasileira de Normas Técnicas

CTG Centro de Tecnologia e Geociências

DECart Departamento de Engenharia Cartográfica

Goniômetro/Mira Método de determinação acurada da altura de um triângulo

isósceles de medição, de base pré-definida por uma mira

horizontal de ínvar calibrada, usando-se a medição do ângulo

paralático oposto à base.

INMETRO Instituto Nacional de Metrologia, Normalização e Qualidade

Industrial

ISO GUM Guide to the Expression of Uncertainty in Measurement

LAIG Laboratório de Instrumentação Geodésica

LAMEP Laboratório de Metrologia e Posicionamento Espacial

MED Medidor Eletrônico de Distância

MED’s Medidores Eletrônicos de Distâncias

MMQ Método dos Mínimos Quadrados

MVC Matriz Variância Covariância

NBR Norma Brasileira Regulamentadora

UFPE Universidade Federal de Pernambuco

UFPR Universidade Federal do Paraná

UFSCar Universidade Federal de São Carlos

VIM Vocabulário de Termos Gerais e Fundamentais da Metrologia

Page 19: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

1

1. INTRODUÇÃO

Nos projetos de engenharia, umas das primeiras atividades a ser realizada é

um levantamento do terreno, podendo ser este de caráter topográfico ou geodésico.

No caso de necessidade de coordenadas geográficas e ter uma exatidão na ordem

do milímetro a opção é trabalhar com métodos e equipamentos geodésicos.

Os instrumentos geodésicos e topográficos são normalmente teodolitos,

medidores eletrônicos de distâncias (MED’s), miras, estações totais e níveis, que

possibilitam medições de direções, ângulos, distâncias e diferenças de níveis.

Neste sentido, a qualidade geométrica do mensurando depende diretamente

da precisão destes instrumentos, assim torna-se imprescindível o controle de suas

incertezas. Para isto, é necessária a realização da calibração dos MED’s e miras,

assim como, a classificação dos goniômetros, teodolitos, estações totais e níveis,

atendendo às Normas Brasileiras pertinentes, para que se possa garantir a

confiabilidade de suas medições.

Para os instrumentos de medição eletrônica de distância, seja de forma

isolada (MED), ou compondo uma estação total, a Norma NBR 13.133 (ABNT, 1994)

recomenda que devam ser calibrados sobre bases multipilares. Neste trabalho, está

sendo usado o termo basímetro linear como sendo sinônimo de base multipilar, que

consiste de um conjunto de pilares estáveis, alinhados sobre o terreno, com

dispositivo de centragem fixa (na literatura é também conhecida como centragem

forçada), onde os MED’s são estacionados para testes e respectiva calibração. O

termo centragem fixa corresponde à técnica de rosquear a base nivelante do

instrumento ao parafuso centralizador do pilar.

A calibração dos MED’s objetiva calcular a constante aditiva (z0), o erro de

escala ou fator de escala (m) e erro cíclico (Ec). Todos estes erros podem ser

determinados em laboratório com condições meteorológicas controladas ou em

campo por meio de base multipilar.

Page 20: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

2

Para fins de calibração dos MED’s em campo, deve-se tanto quanto possível

ser utilizada bases com escala de referência. Entende-se por escala de referência,

as distâncias interpilares consideradas padrões, ou seja, elas devem possuir a mais

alta qualidade metrológica devendo ser medidas com instrumento certificado,

calibrado e rastreado aos padrões nacionais e internacionais de metrologia.

Neste trabalho, propõe-se determinar a escala atual do basímetro da

Universidade Federal de Pernambuco – UFPE, sob o enfoque de diferentes métodos

de medições considerando os seguintes pressupostos:

• equipamentos e acessórios contemplados como devidamente calibrados;

• modelos numéricos corretivos de erros sistemáticos aceitos pela comunidade

científica;

• pilares que compõe o basímetro devidamente controlados no sentido de

garantir a correta posição dos mesmos ao longo do tempo;

• refração lateral presentes durante as medições goniométricas de igual monta

e sentido.

1.1 Objetivos do Trabalho

1.1.1 Objetivo Geral

O objetivo deste trabalho é determinar a escala do basímetro linear da

Universidade Federal de Pernambuco, sob o enfoque de diferentes métodos de

medições.

1.1.2 Objetivos Específicos

a) Definir a escala do basímetro linear da UFPE, empregando a técnica de

medição de pequenas distâncias de alta precisão por meio do uso do método

Goniômetro/Mira.

b) Definir a escala do basímetro linear da UFPE, empregando o método

desenvolvido por Schwendener (1972) com uso de estações totais;

c) Analisar a escala do basímetro linear da UFPE obtidas em 1996, através do

método de otimização de rede geodésica;

Page 21: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

3

d) Aplicar os testes estatísticos data snooping e tau na detecção, localização e

eliminação de erros grosseiros na medição do ângulo paralático no método

Goniômetro/Mira;

e) Determinar os elementos de calibração dos medidores eletrônicos de

distâncias das estações totais sem o conhecimento da escala do basímetro;

1.2 Justificativa

A verificação e calibração dos Medidores Eletrônicos de Distâncias (MED’s)

têm sido tratadas em todo o mundo por órgãos de metrologia, universidades e

entidades públicas e privadas que têm responsabilidade sobre o controle de

qualidade nas áreas da Engenharia e Geociências.

No Brasil, somente em 1994, com a publicação da Norma NBR 13.133

(ABNT, 1994) é que foram introduzidas as exigências mínimas para calibração e

classificação dos instrumentos geodésicos e topográficos, devendo ser de

responsabilidade de entidades oficiais (universidades e órgão de metrologia) e

privadas. No caso de entidades privadas, estas devem ser credenciadas por os

órgãos de metrologia.

Atualmente, apenas três universidades brasileiras estão aptas, com

laboratórios e pessoal qualificado, para atuar na área de calibração, inclusive

expedindo certificado de calibração: a Universidade Federal do Paraná – UFPR, a

Universidade de São Paulo - USP e a Universidade Federal de São Carlos -

UFSCar.

O INMETRO - Instituto Nacional de Metrologia, Normalização e Qualidade

Industrial, é o órgão responsável pela a metrologia nacional. Todavia, consultando o

Catálogo da Rede Brasileira de Calibração, observou-se a não existência de

qualquer laboratório credenciado para executar atividades de calibração e

classificação dos instrumentos geodésicos e topográficos.

Page 22: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

4

O controle instrumental na área das Ciências Geodésicas é um tema de

grande importância e pouco explorado no Brasil, justificando-se, portanto, o presente

trabalho.

1.3 Estrutura do Trabalho

O presente trabalho encontra-se dividido em cinco capítulos.

O primeiro capítulo aborda a introdução, objetivos, e a justificativa da

dissertação.

No segundo capítulo é apresentada a revisão dos conceitos e métodos que

foram empregados nas medições do basímetro da UFPE, tais como: conceitos

metrológicos, mira horizontal de ínvar, medidas eletrônicas de distâncias, detecção

de erros grosseiros e determinação dos elementos de calibração dos MED sem o

conhecimento das distâncias-padrão de referência.

No terceiro capítulo são apresentados os equipamentos que foram utilizados

na medição da escala do basímetro do Centro de Tecnologia e Geociências da

Universidade Federal de Pernambuco. Nas seções subseqüentes sobre os métodos,

seguem as pré-análises e detecção de erros grosseiros.

O quarto capítulo é composto da apresentação e análise dos resultados

obtidos através dos métodos: otimização de rede geodésicas, Goniômetro/Mira,

assim como, o desenvolvido por Schwendener (1972) com uso de estações totais.

O quinto capítulo apresenta as conclusões acerca do estudo e dos resultados

obtidos, enfatizando-se os principais pontos considerados, além de um conjunto de

recomendações.

Page 23: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

5

2 REVISÃO DE LITERATURA

Neste capítulo será feita uma revisão dos conceitos e métodos que foram

empregados na determinação da escala do basímetro.

2.1 Conceitos Metrológicos

Etimologicamente, a palavra Metrologia tem origem na junção dos termos

gregos metro e logos, cujo significado se poderá traduzir a definição: ciência das

medições, abrangendo todos os aspectos teóricos e práticos relativos às medições,

qualquer que seja a incerteza, em quaisquer campos da ciência e da tecnologia

(INMETRO, 2007).

A aplicação dos atuais conceitos de Metrologia, no que tange a confiabilidade

metrológica do instrumental geodésico, tem aumentado nos últimos anos, devido à

grande exigência de acurácia nas medidas realizadas por este instrumental.

2.1.1 Áreas da Metrologia

Basicamente, a Metrologia está dividida em três grandes áreas (INMETRO,

2007).

a) A Metrologia Científica trata fundamentalmente dos padrões internacionais e

nacionais, dos instrumentos laboratoriais e das pesquisas e metodologias científicas

relacionadas ao mais alto nível de qualidade metrológica.

b) A Metrologia Industrial trata das medições das características físicas e

dimensionais dos materiais e produtos acabados.

c) A Metrologia Legal, que está relacionada a sistemas de medição usados em

relações comerciais, e nas áreas de saúde, segurança e meio ambiente.

Page 24: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

6

Em geodésia a metrologia usada, em geral, é a científica e a industrial

(popularmente emprega-se também o termo “Metrologia Dimensional”), cuja

aplicação se destina a finalidade produtiva industrial, controle de qualidade de

produtos, controle de estabilidade de máquinas, equipamentos e instalações

industriais, posicionamento, locações geodésicas de alta precisão e determinação

de deslocamento em áreas de riscos (NADAL, 2000).

2.1.2 Conceituação de Padrão Metrológico O Vocabulário de Termos Gerais e Fundamentais da Metrologia – VIM, nos

itens 6.1, 6.6 e 6.7, apresenta, respectivamente, as definições para padrão, padrão

de referência e padrão de trabalho (INMETRO 2007):

Padrão: medida materializada, instrumento de medição, material de

referência ou sistema de medição destinado a definir, realizar, conservar ou

reproduzir uma unidade ou um ou mais valores de uma grandeza para servir como

referência.

Padrão de Referência: padrão, geralmente tendo a mais alta qualidade

disponível em um dado local ou em uma dada organização, a partir do qual as

medidas lá executadas são derivadas.

Padrão de Trabalho: padrão utilizado rotineiramente para calibrar ou

controlar medidas materializadas, instrumentos de medição ou materiais de

referência.

No contexto hierárquico, os padrões podem ser ordenados da seguinte forma:

o padrão que tem a mais alta qualidade metrológica e cujo valor é aceito sem

referência a outro padrão, chamado de Padrão Primário. Um padrão cujo valor é

estabelecido pela comparação direta com o padrão primário que é chamado Padrão

Secundário, e assim sucessivamente, criando uma cadeia de padrões onde um

padrão de maior qualidade metrológica é usado como referência para o de menor

qualidade metrológica.

Page 25: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

7

A hierarquia dos padrões metrológicos é apresentada na Figura 1.

Figura 1 – Hierarquia dos Padrões Metrológicos.

Fonte: INMETRO apud FIDÉLIS, 2006, p.14.

2.1.3 Conceituação das Terminologias Usadas em Metrologia Os conceitos metrológicos gerais foram extraídos do Vocabulário

Internacional de Termos Fundamentais e Gerais da Metrologia, utilizadas pelo

INMETRO (2007).

Rastreabilidade: Propriedade do resultado de uma medição ou do valor de

um padrão estar relacionado a referências estabelecidas, geralmente a padrões

nacionais ou internacionais, através de uma cadeia contínua de comparações, todas

tendo incertezas estabelecidas. Cadeia esta denominada de cadeia de

rastreabilidade.

Os termos "Aferição" e "Calibração" estão reunidos nos termos "étalonnage"

em francês e "calibration" em inglês. No Brasil, no entanto, existem algumas

distinções que são apresentadas na seqüência.

Aferição: É o conjunto de operações que estabelece, em condições

específicas, a correspondência entre os valores indicados por um instrumento de

Ensaios

Indústria e outros ensaios

BIPM

Calibração

Padrões de referência e de trabalho doslaboratórios do chão de fábrica

Padrões de referência e de trabalho dos laboratóriosde ensaios acreditados

Padrões de referência e de trabalho dos laboratóriosde calibração acreditados

Padrões dos Institutos Nacionais de Metrologia

Unidades do SI

Padrões Nacionais

Padrões Internacionais

Page 26: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

8

medir, ou por um sistema de medição ou por uma medida materializada e os valores

verdadeiros convencionais correspondentes da grandeza medida.

Observações: 1) O resultado de uma aferição permite determinar os erros de indicação de um instrumento de medir, sistema de medição ou medida materializada. 2) O resultado de uma aferição pode ser registrado num documento chamado certificado ou relatório de aferição.

Calibração: Conjunto de operações que estabelece, sob condições

especificadas, a relação entre os valores indicados por um instrumento de medição

ou sistema de medição ou valores representados por uma medida materializada ou

um material de referência, e os valores correspondentes das grandezas

estabelecidos por padrões.

Observações:

1) O resultado de uma calibração permite tanto o estabelecimento dos valores

do mensurando para as indicações como a determinação das correções a serem

aplicadas.

2) Uma calibração pode, também, determinar outras propriedades

metrológicas como o efeito das grandezas de influência.

3) O resultado de uma calibração pode ser registrado em um documento,

algumas vezes denominado certificado de calibração ou relatório de calibração.

Certificado de Calibração: Documento que atesta e fornece ao proprietário

do equipamento as informações necessárias para a interpretação dos resultados da

calibração, e a metodologia utilizada no processo de calibração.

Verificação: Conjunto de operações, compreendendo o exame, a marcação

ou selagem e (ou) emissão de um certificado e que constate que o instrumento de

medir ou medida materializada satisfaz às exigências regulamentares.

Page 27: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

9

Observações:

1) A verificação pode ser realizada quando for aceita a solicitação para verificação, com base, principalmente:

• nas prescrições gerais;

• na solicitação da aprovação de modelo;

• em decisões individuais.

Retificação: Quanto ao conceito retificação, o Inmetro não dispõe do termo

em seu regulamento. Porém, no meio acadêmico e técnico da geodésia é entendido

como um procedimento de correção de um erro instrumental, por meio de

manipulação de partes de seus componentes, de modo a satisfazer as condições

impostas por construção.

Grandeza mensurável: Atributo de um fenômeno, corpo ou substância que

pode ser qualitativamente distinguido e quantitativamente determinado.

Valor de uma grandeza: Expressão quantitativa de uma grandeza específica,

geralmente sob a forma de uma unidade multiplicada por um número, onde este

valor pode ser positivo, negativo ou nulo.

Valor Verdadeiro de uma grandeza: Valor consistente com a definição de

uma dada grandeza específica.

Valor Verdadeiro convencional de uma grandeza: Valor atribuído a uma

grandeza específica e aceito, às vezes por convenção, como tendo uma incerteza

apropriada para uma dada finalidade.

Controle Metrológico: São operações que visam assegurar a garantia

pública nos principais campos da metrologia legal. Compreende o controle dos

instrumentos de medir ou medidas materializadas, a supervisão metrológica e a

perícia metrológica.

Perícia Metrológica: Conjunto de operações que tem por fim examinar e

certificar as condições em que se encontra um instrumento de medir ou medida

materializada e determinar suas qualidades metrológicas de acordo com as

Page 28: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

10

exigências regulamentares específicas, como por exemplo, para emissão de um

laudo para fins judiciais.

Medição: Medir é comparar uma grandeza com uma outra, de mesma

natureza tomada como padrão. Medição é, portanto, o conjunto de operações que

tem por objetivo determinar o valor de uma grandeza.

Método de Medição: Seqüência lógica de operações, descritas

genericamente, usadas na execução das medições.

Mensurando: Grandeza específica a ser medida. Resultado de uma medição: Valor atribuído a um mensurando, obtido por

medição.

Exatidão de uma medição (acurácia): O grau de concordância entre

resultados experimentais e o valor exato, conhecido. Também pode ser definida

como a concordância entre um valor medido e um valor aceito como verdadeiro do

mensurando.

Precisão: O grau de concordância entre resultados experimentais e o valor

estimado da grandeza. Isto é, a repetitividade de um resultado. Mas, uma boa

precisão não representa, ainda, todo o objetivo que pode ser alcançado. Pode

acontecer que um erro freqüente, e ainda não descoberto, estar presente. Este erro

não afeta a precisão, mas sim a exatidão.

Erro de medição: Resultado de uma medição menos o valor verdadeiro do

mensurando.

Erro relativo: Erro de medição dividido por um valor verdadeiro do objeto da

medição.

Erro aleatório: Resultado de uma medição, menos a média que resultaria de

um infinito número de medições do mesmo mensurando, efetuadas sob condições

de repetitividade. O erro aleatório é igual ao erro menos o erro sistemático.

Page 29: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

11

Erro grosseiro: Termo não apresentado na documentação do Inmetro, porém

muito empregado no campo das medições geodésicas. Observações que

apresentam erros grosseiros são entendidas como observações inconsistentes

perante o resto dos dados. Segundo o INMETRO (2003), medidas de incertezas não

são projetadas para levar em conta tais erros.

Erro sistemático: Média que resultaria de um infinito número de medições do

mesmo mensurando, efetuadas sob condições de repetitividade, menos o valor

verdadeiro do mensurando. O erro sistemático é igual ao erro menos o erro

aleatório.

Fator de correção: Fator numérico pelo qual o resultado não corrigido de

uma medição é multiplicado para compensar um erro sistemático.

2.1.4 Conceituação de Incerteza de Medição

Metrologicamente falando, toda medição é acompanhada de um erro, uma

imperfeição a qual será associada uma incerteza. A incerteza de medição é a

dúvida que existe sobre o resultado de qualquer medição, seu conhecimento permite

maior confiança na validade de uma medição. De acordo com o INMETRO (2007): é

o parâmetro associado com o resultado de uma medição, que caracteriza a

dispersão dos valores que poderiam, razoavelmente, serem atribuídos ao

mensurando. Este parâmetro pode ser, por exemplo, o desvio padrão, ou um

múltiplo dele, ou a metade de um intervalo tendo um nível de confiança pré-

estabelecido.

O intervalo que define a incerteza é sempre simétrico e a incerteza de

medição deve sempre ser acompanhada da probabilidade de abrangência. Sem esta

última, o resultado fica ambíguo. Por exemplo, quando o resultado de uma medição

é apresentado como 12,0 ± 0,1; e a probabilidade de abrangência aproximadamente

de 95,54%. A interpretação é a seguinte: após considerar todas as possíveis fontes

de incerteza referentes ao método usado para a determinação da grandeza, pode-se

afirmar que 95,54% é a probabilidade do valor verdadeiro da grandeza estar

compreendido entre 11,9 e 12,1.

Page 30: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

12

2.1.5 Fontes de Incertezas

Nenhuma medição é perfeita. Afinal, os padrões e instrumentos de medição

não são perfeitos. Além disso, durante a realização de uma medição, é comum

haver variação de temperatura, umidade e pressão atmosférica, vibração no piso e

oscilação na tensão de alimentação da rede elétrica. Igualmente, o procedimento de

medição não é perfeito e nós, executantes das medições, não conseguimos realizar

as medições sempre da mesma forma. De acordo com o INMETRO (2003),

algumas das principais fontes de incertezas, são:

• definição incompleta do mensurando;

• realização imperfeita da definição do mensurando;

• amostra não representativa – a amostra medida pode não representar o

mensurando definido;

• conhecimento inadequado dos efeitos das condições ambientais sobre a

medição ou medição imperfeita das condições ambientais;

• erro de tendência pessoal na leitura de instrumentos analógicos;

• resolução finita do instrumento ou limiar de mobilidade;

• valores inexatos dos padrões de medição e materiais de referência;

• valores inexatos de constantes e de outros parâmetros obtidos de fontes

externas e usado no algoritmo de redução de dados ;

• aproximação e suposições incorporadas ao método e procedimento de

medição;

• variações em observações repetidas do mensurando sob condições

aparentemente idênticas;

Page 31: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

13

2.1.6 Classificação das Incertezas

Segundo INMETRO (2003), a incerteza pode ser classifica em: Incerteza Tipo A e Incerteza Tipo B.

Na incerteza tipo “A” o procedimento para estimar a incerteza padrão baseia-

se em parâmetros estatísticos, estimados a partir de valores de observações

repetidas do mensurando. Neste caso, a incerteza padrão é o desvio padrão

experimental da média.

Seja kq , para n,.....,2,1k = os valores independentemente obtidos para o

mensurando.

Sua média aritmética pode ser estimada por:

∑=

=n

1kkq

n1q (1)

O desvio padrão experimental é estimado por:

( )

1n

qq)q(s

n

1k

2k

−=∑= (2)

Quando é utilizado o valor médio das indicações, obtido a partir da média de

um conjunto de “ n ” indicações de q , o desvio padrão experimental da média de q é

estimado por:

( ) ( )nqsqs = (3)

Neste caso, a incerteza padrão associada à variável q, representada por ( )qu ,

é estimada pelo desvio padrão da média das “ n ” observações efetuadas. Assim:

Page 32: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

14

( ) ( )qsqu = (4)

Quando não são envolvidas médias de indicações, mas apenas um único

valor da indicação, a incerteza padrão coincide com o desvio padrão experimental

)q(s , que já deve ter sido determinado a priori.

O número de graus de liberdade envolvidos (υ ) na determinação ( )qu é dado

pelo número de medições independentes efetuadas menos um; isto é:

1n −=υ (5)

Na incerteza tipo “B”, o procedimento para estimar a incerteza padrão baseia-

se em meios diferentes de análise estatística de séries de observações repetidas.

Em geral outras informações conhecidas a priori são consideradas: medições

anteriores, certificados de calibração, especificações do instrumento, resolução do

instrumento, manuais técnicos e até mesmo do bom senso do experimentalista.

A incerteza tipo “B”, embora subjetiva, pode ser tão confiável quanto à do tipo

“A” e geralmente depende de grande experiência prática do experimentalista.

Todavia, tanto quanto ela é subjetiva, pode ser perigosa enquanto as concepções do

experimentalista não estiverem totalmente consolidadas pelas incertezas tipo A.

2.1.7 Lei de Propagação da Incerteza Padrão Combinada

É muito comum a determinação de uma grandeza e da sua incerteza de

medição a partir do conhecimento de outras grandezas determinadas

experimentalmente, juntamente com suas incertezas. Neste sentido, existe uma

relação funcional entre as grandezas dependentes com outras grandezas

independentes, conseqüentemente também existe uma relação funcional entre as

incertezas destas grandezas.

Segundo o INMETRO (2003), esta relação funcional entre as incertezas é

conhecida como a Lei de Propagação da Incerteza Padrão Combinada, que nas

Page 33: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

15

Ciências Geodésicas, é conhecida como Lei de Propagação das Covariâncias, a

qual é muito empregada, também em estudos de levantamentos geodésicos

objetivando a escolha de métodos, instrumentos e configuração geométrica de rede

geodésica.

2.1.7.1 Grandezas Estatisticamente Independentes

Este item trata do caso onde todas as grandezas de entrada são

independentes (grandezas de entrada não correlacionadas). A incerteza padrão de

y , onde y é a estimativa do mensurando Y e desta maneira o resultado da

medição é obtido pela combinação apropriada de incertezas padrão das estimativas

de entrada nxxx ,.....,, 21 . Esta incerteza padrão combinada da estimativa y é

representada por )(yuc .

A incerteza padrão combinada )(yuc é a raiz quadrada positiva da variância

combinada )(2 yuc , sendo que esta é dada por:

( ) ( )i2

2n

1i i

2c xu

xfyu ∑

=⎥⎦

⎤⎢⎣

⎡∂∂

= (6)

onde: f é uma função linear ou não-linear de 1...,ni,xi = conforme a equação:

)x.......x,x,x(fy n321= (7)

Cada )x(u é uma incerteza padrão, a qual pode ser do tipo A ou tipo B. As

derivadas parciais ix/f∂ são freqüentemente denominadas coeficientes de

sensibilidade.

Page 34: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

16

2.1.7.2 Grandezas Estatisticamente Dependentes

A equação (6) é válida somente se as grandezas de entrada n21 x,.....,x,x são

independentes ou não - correlacionadas. Se algum dos ix são significativamente

correlacionados, as correlações devem ser levadas em consideração.

Quando as grandezas de entrada são correlacionadas, a expressão

apropriada para a variância combinada )y(u 2c associada com o resultado de uma

medição é:

)x,x(uxf

xf2)x(u

xf)x,x(u

xf

xf)y(u ji

j

n

1i

1n

1i

n

1ij i

2i

22

iji

j

n

1i

n

1j i

2c ∂

∂∂∂

+⎥⎦

⎤⎢⎣

⎡∂∂

=∂

∂∂

= ∑ ∑ ∑∑∑=

= +== =

(8)

onde ix e jx são as estimativas de jX e iX e )x,x(u)x,x(u ijji = é a covariância

estimada associada com ix e jx . O grau de correlação é caracterizado pelo

coeficiente de correlação estimado por:

)x(u)x(u)x,x(u

)x,x(rji

jiji = (9)

onde: 1)x,x(r1- e )x,x(r)x,x(r jiijji ≤≤= . Se as estimativas ji x ,x são

independentes, 0)x,x(r ji = e a variação numa delas não implica em uma variação

esperada na outra.

Page 35: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

17

Na forma matricial a equação (8) pode ser escrita como:

( )[ ]

⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥

⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢

∂∂

∂∂∂∂∂∂

⎥⎥⎥⎥⎥⎥⎥⎥

⎢⎢⎢⎢⎢⎢⎢⎢

⎥⎦

⎤⎢⎣

⎡∂∂

∂∂

∂∂

∂∂

=

n

3

2

1

nn3n2n1n

n3332313

n2322212

n1312111

n321

2c

xf.xfxfxf

)x,x(u.)x,x(u)xx(u)x,x(u

0....

)xx(u.)x,x(u)xx(u)xx(u

)xx(u.)xx(u)x,x(u)xx(u

)xx(u.)xx(u)xx(u)x,x(u

xf.

xf

xf

xfyu

(10)

2.1.8 Incerteza Expandida

Quando se quer maior segurança no resultado da medição, muitas vezes, é

necessário dar uma medida de incerteza que define um intervalo em torno do

resultado da medição com o qual se espera abranger uma extensa fração da

distribuição de valores que poderiam ser razoavelmente atribuídos ao mensurando.

Esta incerteza é denominada de Incerteza Expandida e é representada por U

INMETRO (2003).

A incerteza expandida U é obtida multiplicando-se a incerteza padrão

combinada cu por um fator de abrangência k:

)y(u.kU c= (11)

O resultado de uma medição é, então, convenientemente expresso como

UyY ±= , que interpreta a melhor estimativa do valor atribuível ao mensurando Y ,

isto é, y. E que Uy a U-y + é o intervalo com o qual se espera abranger uma

extensa fração da distribuição de valores que podem ser razoavelmente atribuídos a

Y . Tal intervalo é também expresso como:

UyYU-y +≤≤ (12)

O valora da incerteza U é interpretado como definindo um intervalo em torno

do resultado de medição que abrange uma extensa fração P da distribuição de

probabilidade, caracterizada por aquele resultado e sua incerteza padrão

Page 36: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

18

combinada, e P é a probabilidade de abrangência ou nível da confiança do intervalo

com determinada probabilidade.

Sempre que praticável, o nível da confiança P, associado com intervalo

definido por U deve ser estimado e declarado. Deve ser reconhecido que

multiplicando )y(uc por uma constante, não acrescenta informação nova, porém se

apresenta a informação previamente disponível de forma diferente. Entretanto,

também deve ser reconhecido que, na maioria dos casos, o nível da confiança P

(especialmente para valores de P próximos de 1) é um tanto incerto, não somente

por causa do conhecimento limitado da distribuição de probabilidade caracterizada,

por y e )y(uc (especialmente nas extremidades), mas também por causa da

incerteza da própria )y(u c .

2.1.9 Fator de Abrangência O valor do fator de abrangência k deve levar em conta, além do nível de

confiança desejado, o número de graus de liberdade efetivos associados ao caso

para o intervalo Uy a U-y + . O valor de k geralmente está entre 2 e 3, mas pode

assumir diversos outros valores.

É comum calcular o número de graus de liberdade efetivos )( efυ através da

equação de Welch-Satterthwaite (GONÇALVES, 2001 apud OLIVEIRA, 2004, p.63):

∑= υ

=υn

1i i

4i

4c

ef )y(u)y(u (13)

Onde:

)y(u c : a incerteza padrão combinada;

)y(u i : a incerteza padrão associada à i-ésima fonte de incerteza;

iυ : o número de graus de liberdade associado à i-ésima fonte de incerteza;

n : o número total de fontes de incertezas analisadas.

Page 37: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

19

Da aplicação da equação (13) resulta o número de graus de liberdade efetivo.

O valor de “ k ” para nível de confiança de 95% pode então ser obtido da Tabela 1.

Tabela 1 – Fator de abrangência k para α 5% e graus de liberdade efetivo efυ .

efυ 1 2 3 4 5 6 7 8 10 12 14 16

95k 13,97 4,53 3,31 2,87 2,65 2,52 2,43 2,37 2,28 2,23 2,20 2,17

efυ 18 20 25 30 35 40 45 50 60 80 100 ∞

95k 2,15 2,13 2,11 2,09 2,07 2,06 2,06 2,05 2,04 2,03 2,02 2,00

2.1.10 Avaliação das Incertezas Conforme INMETRO (2003), os principais passos para a determinação da

incerteza são:

a) estabelecimento do mensurando;

b) determinação das grandezas de entrada ou quantidades de influência que

o mensurando é dependente;

c) estabelecimento da função de medição que relaciona matematicamente o

mensurando a todas as grandezas de entrada;

d) obtenção das estimativas das grandezas de entrada e suas incertezas;

e) resolução do modelo matemático para estimar o mensurando a partir das

grandezas de entrada;

f) determinação da incerteza na estimativa do mensurando a partir das

incertezas das grandezas de entrada.

Conforme Giller (2007), o resultado do mesurando e sua incerteza, obtida a

partir das informações de entrada, é avaliado conforme o roteiro da Figura 2.

Page 38: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

20

Figura 2: Determinação do resultado do mesurando e de sua incerteza.

Fonte: GILLER (2007).

2.2 Mira Horizontal de Ínvar Neste trabalho um dos métodos utilizados para medição do basímetro foi o

método Goniômetro/Mira, o qual objetiva a determinação acurada da altura de um

triângulo isósceles de medição, de base pré-definida por uma mira horizontal de

ínvar calibrada, usando-se a medição do ângulo paralático oposto à base.

A mira horizontal de ínvar consta basicamente de duas hastes de ínvar, em

cujas extremidades são gravadas dois alvos de forma triangular para referenciar a

visada pelo goniômetro. A distância entre os alvos (esquerdo e direito) corresponde

ao comprimento da mira, normalmente é igual 2 metros. Em sua operação ela é

montada horizontalmente sobre uma base nivelante engatada em tripé ou pilar,

conforme mostrado na Figura 3.

Modelo avaliado para as estimativas das grandezas

de entrada )x,..x,x(fY n21=

Estimativas ix das grandezas de

entrada iX

Probabilidade de

abrangência desejada

Incerteza padrão

combinada )y(u c

Graus de

liberdade efetivos

effυ

Coeficiente de sensibilidade

iii X/Yc ∂∂=

Graus de liberdade

iυ associados a

ix

Incertezas

padrão )x(u i

Incerteza

expandida )y(U

Fator de

abrangência kp

Resultado

)y(Uy ±

Modelo

)X,..X,X(fY n21= Entradas Entradas

Saída

Page 39: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

21

Figura 3 – Mira montada sobre base engatada em pilar.

2.2.1 Princípio da Medição da Distância Horizontal Quando em operação na medição do basímetro linear multipilar, a mira

horizontal de ínvar, calibrada ao milésimo do milímetro, pode ser centrada

horizontalmente em uma das extremidades, ou em um ponto intermediário ao

segmento de interesse, ou ainda em outros arranjos não colineares à linha de

medição. Os alvos da mira são visados a partir de um goniômetro instalado na outra

extremidade do segmento, obtendo-se o ângulo paralático ( γ ), gerado a partir do

limbo horizontal do goniômetro, como mostra na Figura 4.

Figura 4 – Medição da distância com mira horizontal de ínvar,

no triângulo isósceles de medição.

De posse do ângulo paralático ( γ ) e do comprimento da mira ( b ), determina-

se a distância horizontal ( s ) entre o goniômetro e mira através da equação:

s

b

A

γ

MIRA GONIÔMETRO

B

2,0000 m

Alvo Direito Dióptrico PilarAlvo Esquerdo Base nivelante

Page 40: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

22

)2γcotg(

2b=s (14)

Cabe observar que o goniômetro empregado deve estar classificado de

acordo com a Norma NBR 13.133 (ABNT, 1994).

2.2.2 Fatores que Influenciam na Medição da Distância Horizontal Os principais fatores que influenciam na distância por essa técnica são:

a) incerteza do comprimento da mira;

b) incerteza do ângulo paralático;

c) Falta de perpendicularidade da mira com respeito à distância a ser

calculada

d) não horizontalidade da mira;

e) excentricidade da mira horizontal;

f) excentricidade do goniômetro.

2.2.2.1 Incerteza do Comprimento Mira Horizontal de Ínvar

Os fabricantes empregam para a confecção da mira o metal ínvar,

praticamente indeformável. O Ínvar é uma liga de FeNi nas proporções 64% de ferro

e 36% de níquel que apresenta coeficiente de dilatação térmico próximo de zero.

Segundo Schofield (1993), os fabricantes garantem que para uma variação de 20º C

de temperatura causará uma incerteza relativa da ordem 1/100.000 no comprimento

da mira.

Page 41: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

23

2.2.2.2 Incerteza Padrão do Ângulo Paralático Após a aplicação da lei de propagação da incerteza padrão combinada na

equação (14), obtêm-se a incerteza combinada da distância horizontal em função da

incerteza padrão do ângulo paralático, que segundo KAHMEN e FAIG (1988) é:

)(ubs)s(u

2

c γ= (15)

Onde:

)s(u c : incerteza padrão combinada da distância horizontal;

s : distância horizontal;

b : comprimento da mira; e

)(u γ : incerteza padrão do ângulo paralático

Analisando a equação (15), nota-se que a incerteza padrão combinada varia

com o quadrado da distância horizontal. Neste sentido, mantendo-se a distância

horizontal constante, e variando a incerteza padrão do ângulo paralático, conforme

Tabela 2, pode-se ter para b = 2,000 m, as incertezas esperadas para uma distância

hipotética de 10,00 m.

Tabela 2 - Influência da Incerteza padrão do ângulo paralático.

u(γ) (") s (m) uc(s) (mm)

1 10,000 0,2

2 10,000 0,5

3 10,000 0,7

4 10,000 1,0

5 10,000 1,2

Assim, dispondo de um goniômetro capaz de medir ângulos com incerteza de

cerca de 4", é possível empregar a mira horizontal para medições de distâncias de

até 10 m com incerteza de um milímetro.

Page 42: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

24

Observa-se que a equação (15) está escrita na forma simplificada, pois a

incerteza padrão combinada da distância horizontal depende também da incerteza

padrão do comprimento da mira horizontal. Ver detalhes na seção 3.3.1.1.

Cabe observar, se o efeito da insolação sobre a mira implicar num aumento

de temperatura de 10ºC, por exemplo, teríamos já variações no ângulo paralático da

ordem de um segundo sexagesimal. Portanto, todo cuidado com a insolação deve

ser tomado para manter a escala da mira horizontal coerente com a medição da

distância (altura do triângulo isósceles).

2.2.2.3 Falta de Perpendicularidade da Mira com Respeito à Distância a ser Calculada

No momento das observações com a mira horizontal, a mesma não se

encontra perpendicular à altura do triângulo isósceles, neste sentido, tem-se no lugar

de 90º, o valor de 90º + ξ (Figura 5).

Figura 5 – Erro de perpendicularismo.

Este erro angular (ξ ) provoca uma diminuição do comprimento da mira de b

para 'b (projeção). A diminuição é calculada da seguinte forma:

ξcosb'b = (16)

Distância a ser calculada

ξ

bb'

Page 43: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

25

Substituindo b por 'b (obtido na equação (16)) na equação (14), obtém-se a

distância horizontal (s’) afetada do erro de não perpendicularismo, conforme

equação:

2

cotcos2b's γ

ξ= (17)

ou

ξ= coss's (18)

A diferença, 'sss −=Δ , representa a influência do erro de não

perpendicularismo da mira na distância horizontal.

( )ξ=Δ cos - 1ss (19)

A Tabela 3 mostra esta influência numericamente para uma distância

horizontal constante, variando-se apenas o erro angular.

Tabela 3 – Influência de não perpendicularismo.

ξ s (m) sΔ (mm)

0” 10,000 0,0

30” 10,000 0,0

1’ 10,000 0,0

15’ 10,000 0,1

20’ 10,000 0,2

Analisando a tabela 3, para distância de 10 m, percebe-se que para um erro

angular de 15’ sua influência representa no máximo 0,1 mm.

Page 44: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

26

2.2.2.4 Não Horizontalidade da Mira Horizontal

No momento das observações com a mira horizontal, a mesma não se

encontra “perfeitamente” horizontalizada, desta forma, apresenta-se uma diferença

de nível entre suas extremidades (h), conforme Figura 6.

Figura 6 – Influência da não horizontalidade.

Esta diferença de nível provoca uma diminuição do comprimento da mira de b

para b’ (projeção). Esta diminuição é calculada da seguinte forma:

22 h-b'b = (20)

Substituindo b por b’ (obtido na equação 20) na equação (14), obtém-se a

distância horizontal ( 's ) afetada da não horizontalidade da mira, e é obtida da

seguinte forma:

2cot

2h-b's

22 γ= (21)

A diferença, 'sss −=Δ , representa a influência da diferença de nível na

distância horizontal.

⎟⎟⎠

⎞⎜⎜⎝

⎛ −=Δ

bhb-1ss

22

(22)

b

h

b

'b

Page 45: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

27

A Tabela 4 mostra esta influência numérica para uma distância horizontal de

10 m variando-se apenas a diferença de nível entre as extremidades da mira. Para

b =2,000 m tem-se:

Tabela 4 – Influência da não horizontalidade.

h (mm) s (m) sΔ (mm)

0 10,000 0,0

5 10,000 0,0

10 10,000 0,1

15 10,000 0,3

20 10,000 0,5

28 10,000 1,0

Percebe-se que em função dos resultados, a influência da não horizontalidade

da mira torna-se sensível a diferença de nível, pois para atingir alta precisão esta

diferença de nível deve ser controlada.

Isto pode ser feito utilizando-se um goniômetro de alta qualidade e visando às

extremidades da mira, obtendo-se assim, dois ângulos zenitais ( 1z e 2z ). Então, h

pode ser calculada através da seguinte equação:

)]90ztan()90z[tan(sh 21 −−−= (23)

2.2.2.5 Excentricidade da Mira Horizontal

A excentricidade ( e ) resulta da montagem de acoplamento das duas partes

da mira, tendo como causa a imperfeição construtiva. É o afastamento linear entre o

plano vertical dos alvos e o eixo de rotação da mira, conforme Figura 7.

Page 46: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

28

Figura 7 – Excentricidade da Mira.

Neste sentido, a equação (14) torna-se:

e2γcot

2b=s + (24)

A excentricidade gera um encurtamento do comprimento da mira, passando

de b para 'b , o qual é a projeção do comprimento da mira e, é calculado pela

equação:

22

e2b

2'b

−⎟⎠⎞

⎜⎝⎛= (25)

Efetuando as simplificações, tem-se:

22 e4b'b −= (26)

A diferença, 'bbb −=Δ , representa a influência de excentricidade sobre o

comprimento da mira.

22 e4bbb −−=Δ (27)

A

γS

B

e

b/2

alvo

alvo

b'

Page 47: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

29

Na Tabela 5 apresenta um estudo desta influência. Para b = 2,000 m, tem-se:

Tabela 5 – Influência da excentricidade.

e (mm) bΔ (mm)

0,0 0,000

0,1 0,000

1,0 0,001

2,0 0,004

3,0 0,010

Com se vê, a excentricidade tem pouca influência sobre o comprimento da

mira. Porém, o valor da excentricidade tem influência significativa sobre a distância

Goniômetro/Mira, a qual é adicionada, conforme a equação (24).

a) Determinação da Excentricidade

A determinação da excentricidade pode ser realizada em campo ou

laboratório, para isto utilizam-se três pilares alinhados com dispositivos de

centragem forçada, conforme mostra Figura 8. Como as condições ambientais são

controladas em laboratório, este ambiente deve ser preferido em relação ao campo.

Figura 8 – Determinação da excentricidade.

A β γ

SAB

B Cα

SAC

SBC

Page 48: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

30

Com o uso de um goniômetro medem-se os ângulos paraláticos γ , β e α .

Os pontos A, B e C estão em uma linha reta, e nesta geometria, as três distâncias

horizontais contêm a excentricidade ( e ). Portanto as equações para cada distância

horizontal são:

e2

cot2bS

e2

cot2bS

e2

cot2bS

BC

AC

AB

=

=

=

(28)

Onde:

ABS , ACS e BCS são as distâncias horizontais respectivamente de AB, AC e

BC;

γ , β e α são os ângulos paraláticos e medidos com um goniômetro.

Sabe-se que:

BCABAC SSS += (29)

Efetuando-se as simplificações, obtêm-se a excentricidade ( e ) em função de

( b ) e dos ângulos paraláticos γ , β e α :

⎟⎟⎠

⎞⎜⎜⎝

⎛⎟⎠⎞

⎜⎝⎛ α

−γ

=2

cot2

cot2

cot2be (30)

b) Incerteza Padrão Combinada da Excentricidade Como se vê, na equação (30), a excentricidade ( e ) não foi obtida diretamente,

mas sim a partir dos ângulos paraláticos γ , β , α e do comprimento da mira ( b ). O

comprimento da mira foi considerado livre de erro. Portanto, aplicando a lei de

propagação da incerteza padrão combinada na equação (30), obtêm-se a incerteza

padrão combinada da excentricidade, conforme segue:

Page 49: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

31

22

22

22

c )(ue)(ue)(ue)e(u α⎟⎠⎞

⎜⎝⎛α∂∂

+β⎟⎟⎠

⎞⎜⎜⎝

⎛β∂∂

+γ⎟⎟⎠

⎞⎜⎜⎝

⎛γ∂∂

= (31)

Onde:

⎪⎪⎪⎪⎪⎪

⎪⎪⎪⎪⎪⎪

⎟⎠⎞

⎜⎝⎛ α

=α∂∂

⎟⎠⎞

⎜⎝⎛ β

=β∂∂

⎟⎠⎞

⎜⎝⎛ γ

−=γ∂∂

2sin4

be2

sin4

be2

sin4

be

2

2

2

(32)

As equações (32) são as derivadas parciais em relação aos ângulos

paraláticos, onde:

)e(u c : incerteza padrão combinada da excentricidade;

)(u γ : incerteza padrão do ângulo paralático γ ;

)(u β : incerteza padrão do ângulo paralático β ;

)(u α : incerteza padrão do ângulo paralático α .

Substituindo as equações (32) na equação (31), obtém-se a equação da

incerteza padrão combinada da excentricidade.

2.2.3 Método da Medição do Ângulo Paralático

A tarefa de medir o ângulo paralático é uma das mais importantes neste

trabalho. O método de medição Goniômetro/Mira depende, além do comprimento da

mira, essencialmente da medição deste ângulo, o qual é um ângulo horizontal, que

deve ser medido com a mais alta precisão possível, para isto sendo empregado o

método das direções descrito a seguir.

Page 50: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

32

2.2.3.1 Método das Direções

Consiste nas medições angulares horizontais com visadas das direções

determinadas nas duas posições de medição permitida pelo goniômetro (círculo à

esquerda – posição direta e círculo à direita – posição inversa), a partir de uma

direção tomada como origem, que ocupa diferentes posições no limbo horizontal do

goniômetro. (JORDAN, 1944; ESPARTEL, 1987; KAHMEN e FAIG, 1988; MEDINA,

1998).

O intervalo de reiteração do goniômetro, obtem-se utilizando a seguinte

expressão:

n180 (33)

onde:

n : representa o número de séries.

O manual técnico da Diretoria do Serviço Geográfico do Exercito, 1º fascículo

(1ª e 2ª partes) (1969) recomenda a seqüência de observação, conforme descrito

abaixo:

a) Apontar na posição círculo à esquerda, com reiteração de 0º no limbo

(primeiro intervalo), na direção do alvo esquerdo da mira como origem;

b) Visar no sentido horário o alvo direito da mira e anotar a leitura da direção;

c) Inverter a posição da luneta e dá-se um giro no sentido anti-horário e

apontar para o alvo direito da mira, em seguida anotar a leitura da direção;

d) Girar a luneta, novamente, no sentido anti-horário, na posição círculo à

direita e visar o alvo esquerdo da mira, em seguida anotar a leitura da

direção. Desta forma, termina-se a primeira série.

Page 51: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

33

e) Estando com a luneta apontada na direção do alvo esquerdo da mira

(círculo à direita), deslocar o limbo de acordo com o segundo intervalo de

reiteração utilizando o parafuso reiterador do goniômetro. Neste ponto,

inicia-se a segunda série.

f) Observar a segunda série fazendo a ida com círculo à direita e a volta à

esquerda.

g) Observar a terceira série, após novo deslocamento do limbo para

graduação terceiro intervalo, mais um ou dois minutos, fazendo a ida a

círculo à esquerda e a volta círculo à direita;

h) E assim, seguir esta seqüência até a última série.

2.2.4 Erros que Afetam as Medidas Angulares dos Goniômetros Um goniômetro em condições ideais de funcionamento deve atender as

seguintes relações entre seus eixos mostrados na figura 9.

- o eixo principal (VV) deve ficar na vertical quando a bolha dos níveis estiver

calada;

- o eixo de colimação (ZZ) deve ser normal ao eixo horizontal (KK), também

conhecido por eixo secundário;

- o eixo horizontal (KK) deve ficar na horizontal quando o instrumento estiver

calado e normal ao eixo principal (VV).

Quando tais condições não são completamente satisfeitas, seus efeitos

acarretam os chamados erros de eixo do goniômetro, que não podem ser

desprezados nas medidas angulares.

Page 52: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

34

Figura 9: Sistema de eixos no goniômetro. Fonte: GOMES (2006).

A seguir, na Tabela 6, serão descritos sucintamente os principais erros que

podem afetar as medidas angulares nos goniômetros.

Page 53: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

35

Tabela 6 – Erros que podem afetar as medidas angulares nos goniômetros.

Fonte: MIRANDA (2007).

TIPOS DE ERROS CAUSA MINIMIZAÇÃO E SEU EFEITO

Erro devido à inclinação do eixo

de colimação

Este erro é causado pela falta de perpendicularidade entre o eixo de colimação ou linha de visada e o eixo secundário ou de rotação da luneta. A não ocorrência de perpendicularidade entre os eixos citados causa um erro na medida das direções horizontais.

Realizando observações nas duas posições da luneta (CE e CD).

Erro devido a não Horizontalidade

do eixo secundário

Este erro ocorre pela falta de perpendicularidade entre o eixo secundário (eixo de rotação da luneta) e o eixo principal (eixo de rotação do goniômetro). Causado por um desvio i, do eixo mecânico de rotação da luneta com a linha perpendicular ao eixo principal, que é o eixo de rotação do limbo horizontal. Este erro afeta indiretamente as medidas de direções horizontais, pois se projeta no limbo horizontal.

Realizando observações nas duas posições da luneta (CE e CD).

Erro devido a não verticalidade do eixo principal

Também denominado de erro do eixo vertical, ocorre quando o eixo principal não coincide com a direção da vertical que passa pelo centro do limbo horizontal do goniômetro.

Nos goniômetros eletrônicos e nas estações totais que dispõe de compensadores eletrônicos, a

correção desse erro é feita de forma automática. Isto ocorre desde que a inclinação do mesmo esteja dentro

da margem de operação do instrumento.

Erro devido à oscilação do eixo

vertical

Proporciona uma oscilação no eixo vertical e é detectado com auxílio de níveis precisos, ou autocolimador utilizando um espelho na parte superior do instrumento.

Realizando observações nas duas posições da luneta (CE e CD).

Exceto quando as pontarias são muito inclinadas.

Erro devido à excentricidade do limbo ou alidade

Este erro ocorre durante o processo de fabricação e montagem do goniômetro. O ponto da rotação do limbo horizontal graduado é apenas geometricamente definido como o centro da graduação, mas não coincidem, e também são diferentes do centro de rotação do goniômetro. Assim as leituras do limbo não correspondem à rotação horizontal do goniômetro, e podem corresponder a um acréscimo ou decréscimo na leitura.

Realizando observações nas duas posições da luneta (CE e CD).

Erros de graduação do

limbo

Produzido pela imprecisão durante o processo de gravação do limbo. Estes erros podem ser regulares ou irregulares, e também podem ser causados por grandes variações de temperatura (dilatação do limbo).

Realizando observações utilizando partes distintas do limbo e

distribuídas adequadamente, utilizando reiteração em goniômetros

reiteradores e repetição em goniômetros repetidores.

Page 54: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

36

2.3 Medidas Eletrônicas de Distâncias

Até a década de 60 a medição de distância era a operação mais difícil de

executar com a precisão desejada. Após esta década e os avanços tecnológicos

ocorridos principalmente na eletrônica e informática, sugiram os Medidores

Eletrônicos de Distância (MED’s) embasados na teoria eletromagnética.

Consequentemente as medidas lineares tornaram-se fáceis, precisas e rápidas de

serem obtidas.

O princípio da teoria eletromagnética diz que toda radiação eletromagnética

se propaga com velocidade constante no vácuo. Em função deste princípio surgiram

os MED’s, instrumentos que permitem medir distâncias utilizando como unidade

básica de medida o comprimento de onda (λ ) do sinal modulador da radiação

eletromagnética utilizada como portadora.

2.3.1 Ondas Eletromagnéticas

De acordo com Schall (2006), a onda eletromagnética, por si só é um

fenômeno fundamental do universo, constituído pela composição de dois campos de

força, o campo elétrico Er

e o campo magnético Hr

. Trata-se de um fenômeno

energético e, em sua maioria, é decorrente do movimento dos elétrons. Quando o

elétron é forçado a se movimentar, ele gera uma onda de acordo com o seu

movimento. A Figura 10 apresenta pictoricamente a geração de uma onda,

composta pelos dois campos, se propagando na direção Z, devido ao movimento

forçado do elétron entre as duas esferas.

Figura 10 - Movimento oscilatório de um elétron gerando uma onda eletromagnética.

Fonte: SCHAAL (2006)

Page 55: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

37

O mesmo processo pode ocorrer com o movimento de átomos e moléculas,

dependendo de suas características físicas. Como conseqüência deste processo da

Natureza, todo o Universo está embebido de ondas (FARRIS, 1997 apud SCHAAL,

2006, p.21).

Ela se propaga no vácuo e em certos meios materiais. As ondas

eletromagnéticas são emitidas em todas as direções e com diferentes freqüências e

fases.

Maxwell demonstrou que a velocidade de propagação de uma onda

eletromagnética no vácuo é dada por:

000

1cμε

= (34)

em que 0ε e 0μ são, respectivamente, a permitividade elétrica e a permeabilidade

magnética do vácuo.

Em unidades do Sistema Internacional:

90 10.9.41

π=ε e 7

0 10.4 −π=μ , que substituídos na fórmula anterior resulta:

s/m10.3c 80 =

ou,

mais exatamente: m/s2,1 s/m10 x 99792458,2 8 ± , igual ao valor da velocidade

da luz no vácuo.

Page 56: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

38

2.3.2 Espectro Eletromagnético

Sabe-se que existe uma variação ampla e contínua nos comprimentos de

onda e freqüência das ondas eletromagnéticas. Na Figura 11, é apresentado o

espectro eletromagnético; as freqüências estão em hertz (ciclos/segundo) e os

comprimentos de onda, em metros.

Figura 11 – Espectro Eletromagnético.

Fonte: www.infoescola.com/.../Images/espectro.jpg. Acessado em 29/06/2009.

As ondas mais curtas têm freqüência mais alta e um comprimento de onda

mais baixo, enquanto as ondas de freqüência mais baixa têm um comprimento de

onda mais elevado. A freqüência corresponde a um determinado número de ciclos

por segundo.

2.3.3. Onda Portadora

Onda portadora é o veículo que transporta o sinal eletromagnético, seja ele

digital ou analógico, com ou sem fio, de um emissor a um receptor. As ondas

portadoras utilizadas pelos MED’s podem ser agrupadas em três classes:

a) Microondas, com comprimento de onda 1<λ<10 cm;

b) Luz visível, com comprimento de onda médio de 0,5 μm;

c) Infravermelho, com comprimento de onda entre 0,80 a 0,93 μm.

Page 57: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

39

Na visão de Ladeira (1977 apud PACILÉO NETTO, 1990, p.10), a condição

básica para que uma radiação possa ser utilizada como onda portadora em um MED

é que seu trajeto seja sensivelmente retilíneo entre o emissor e o ponto de retorno.

Nas classes b e c esta condição é praticamente cumprida, nas microondas o

comportamento varia com o comprimento de onda.

Outro aspecto importante na utilização de determinada radiação é a sua

capacidade de penetração na atmosfera. A radiação infravermelha penetra bem na

névoa e permite operar com facilidade mesmo em condições de visibilidade difícil.

Na faixa das microondas a penetração é sempre muito boa e é possível

operar sem visibilidade. Infelizmente a confiabilidade no trajeto é pequena. Os

pontos devem ser intervisíveis e não devem existir obstáculos ao longo do trajeto.

2.3.4 Modulação da Onda Portadora

Todo instrumento aplicado na determinação da distância utilizando uma onda

eletromagnética (que pode ser visível, infravermelho, laser, microondas, etc.) para

transportar o sinal de medida, deve modular a mesma utilizando a diferença de fase,

pulso, etc.

A característica do MED é definida pela sua onda portadora. A maioria dos

equipamentos utiliza fontes próximas do visível, pelo fato de possuírem um baixo

custo e um baixo consumo de energia, porém operam com comprimento de onda

curtas, logo necessitam ser moduladas. Smith e Nascarella (2004 apud MARTINI,

2005, p.06), relatam que alguns modelos de instrumentos antigos usavam ondas de

rádio (ondas longas) que podiam ser utilizado sem modulação, porém, em alguns

casos, o sinal não retornava ao instrumento (estação principal) quando se utilizava

apenas um refletor.

Modular uma onda significa modificar a amplitude, a freqüência ou a fase de

uma onda de alta freqüência em função do sinal de baixa freqüência de uma onda

auxiliar.

Page 58: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

40

De acordo com Faggion (2001), o termo modulação é utilizado para descrever

o processo pelo qual a característica de uma onda, que é chamada de portadora, é

alterada de acordo com um sinal de uma segunda onda, que é chamada onda

moduladora. Esta onda portadora serve como meio de transporte para um sinal de

medida, porém para que seja possível transporta-lo, é necessário modular a onda

portadora.

Existem duas razões fundamentais que caracterizam a necessidade de

modulação de uma onda portadora (DOUBEK, 1974):

a) Pequeno comprimento de onda, gerando problemas na resolução das

ambigüidades em tempo;

b) Nos longos percursos entre a emissão e o retorno do sinal de medida é

provável que a fase não fique estável.

2.3.5 Componentes do Medidor Eletrônico de Distância

Segundo Paciléo Netto (1990), os componentes de um MED são

esquematicamente representados na Figura 12, sendo:

Figura 12 – Componentes de um MED.

FONTE: PACILÉO NETTO (1990).

GERADOR DA ONDA

PORTADORA

MODULADOR

AMPLIFICADOR

COMPARADOR DE FASE

OSCILADOR A QUARTZO

LEITURAS

PONTO DERETORNO

ONDA EMITIDA, MODULADA NA AMPLITUDE

ONDA DE RETORNO

EMISSOR

RECEPTOR

Page 59: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

41

a) gerador da onda portadora (Microondas, Infravermelho e Luz);

b) oscilador, cuja função é gerar freqüências precisas e estáveis;

c) modulador capaz de transformar a onda contínua portadora em onda

modulada, com amplitude zero a um máximo, no mesmo ritmo da

freqüência fornecida pelo oscilador;

d) emissor, cuja função é enviar o feixe de onda modulado, até atingir o

refletor no ponto de retorno;

e) refletor, que reenvia o feixe de onda modulado ao medidor;

f) receptor, que recebe a onda portadora, detecta a onda moduladora e a

amplifica para compará-la em fase com o sinal do oscilador;

g) comparador de fase, que compara a fase do sinal do oscilador (onda

emitida) com a fase da onda detectada pelo receptor (onda recebida);

h) dispositivo de leitura, exibe o valor das distâncias.

2.3.6 Equação Fundamental da Medição Eletrônica de Distância

Para a determinação da distância eletrônica entre o MED e a superfície de

retorno do sinal eletromagnético, existem duas alternativas: o sistema de

transmissão de pulsos e o sistema de transmissão de onda contínua.

2.3.6.1 Sistema de Transmissão de Pulsos

Este sistema estima a distância através do tempo de retorno do pulso,

emitindo milhares de pulsos por segundo. O pulso é difusamente refletido pelo

refletor e parte dele retorna ao sistema.

Page 60: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

42

O princípio de funcionamento dos MED’s que utiliza este sistema é simples e

baseia-se na determinação da variação do tempo ( tΔ ) que leva o pulso da onda

para percorrer a distância, de ida e volta, entre o equipamento de medição e o

refletor na velocidade de propagação da onda eletromagnética no meio ( c ). (Figura

13).

Figura 13 – Princípio simplificado do sistema de pulso.

Fonte: Adaptada KAHMEN e FAIG (1988).

Com isso, calcula-se a distância MED-refletor através da seguinte equação

fundamental.

2tcD Δ

= (35)

onde:

D : distância medida pelo MED;

c : velocidade de propagação da onda eletromagnética no meio;

tΔ : tempo de percurso do pulso ir até o refletor e retornar.

A constante ½ é utilizada, pois é considerado o tempo de ida e de volta do

sinal.

refletor

transmissor

receptor

tempo

propagado

distância

pulso

Page 61: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

43

Porém, na atmosfera, a velocidade de propagação do pulso da onda

eletromagnética no meio não é determinada exatamente e sim, de forma

aproximada. Para isto, utiliza-se a velocidade de propagação da onda

eletromagnética no vácuo e o índice de refração da atmosfera para o ambiente em

que se mede a distância.

A velocidade de propagação do pulso da onda eletromagnética no meio ( c ) é

diretamente proporcional à velocidade de propagação da onda eletromagnética no

vácuo ( oc ) e inversamente proporcional ao índice de refração ( n ) conforme

equação:

nc

c o= (36)

O valor de n pode ser determinado com base em medidas meteorológicas da

temperatura, pressão e umidade do ar ao longo da linha que liga os dois pontos cuja

distância é desejada. Existem fórmulas práticas que definem n para esses

parâmetros.

A velocidade de propagação da onda eletromagnética no vácuo é uma

grandeza determinística, ou seja, é absolutamente constante, mas a medição do

valor de co apresenta uma incerteza de 1,2m/s, ou na forma relativa: 0,004 ppm

(RÜEGER, 1990 apud SCHALL, 1995, p.10).

Portanto, substituindo a equação (36) em (35), resulta:

2 0 t

nc

D Δ= (37)

Os medidores eletrônicos de distâncias que empregam esse princípio são

utilizados para medir longas distâncias, por exemplo, medir a distância até satélites

artificiais ou mesmo até a Lua. São poucos os MEDs baseados no princípio de

transmissão de pulso (RÜEGER, 1990 apud SCHALL,1995, p.28).

Page 62: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

44

2.3.6.2 Sistema de Transmissão de Onda Contínua

No sistema de transmissão de ondas contínuas, a maioria dos MED’s

utilizados em levantamentos, baseia-se no método que adota a medida da diferença

de fase em vez da medição da variação do tempo.

Neste sistema, a distância é obtida determinando o número inteiro N de vezes

que o comprimento de onda da modulação (λ ) cabe na distância percorrida pelo

feixe ( D ), mais a parte fracionária p do comprimento de onda ( λp ), que é medida

através da diferença de fase ( φΔ ) entre o sinal modulado transmitido e o sinal

recebido (Figura 14).

Figura 14 – Princípio de medição no sistema de onda contínua.

Fonte: Adaptada de RÜEGER (1990).

Deste modo, como a distância a medir é percorrida duas vezes pelo sinal,

tem-se:

)pN(21D λ+λ= (38)

Sendo c a velocidade da luz (no meio) durante a medição e T o período da

modulação, então:

cT=λ (39)

λN

π2

φΔ

λp

D

λ

Page 63: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

45

Como f1T = , sendo f a freqüência da modulação, temos:

fc

=λ (40)

A velocidade de propagação da luz (no meio) é obtida utilizando o índice de

refração n da atmosfera no instante da medição, conforme equação (36).

Assim, a equação (40) pode ser reescrita na forma:

fnco=λ (41)

Substituindo a equação (41) em (38), obtém-se a expressão da distância D a

medir:

fn2c

pfn2

cND oo += (42)

O valor da diferença de fase ( φΔ ) corresponde à parte fracionária ( )pλ e uma

revolução ( π2 ) corresponde a λ . Assim, πφΔ

=2

p que substituindo na equação (42),

resulta:

fn2c

2fn2cND oo

πφΔ

+= (43)

2.3.7 Erros na Medida Eletrônica de Distância

Analisar a qualidade das distâncias obtidas por processo eletrônico é

conhecer as diversas fontes de erros. Na visão de Gripp (1986), entre estas fontes,

tem-se:

1 – erros na centragem do MED e refletores;

2 – pontaria inadequada;

Page 64: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

46

3 – erros nas alturas dos instrumentos;

4 – medição sob condições extremas ou em áreas onde fatores externos não

preditos afetam o instrumento;

5 – não familiaridade com as condições de operação do instrumento de MED;

6 – erro de alinhamento (problemas no sistema ótico de visada);

7 – dados meteorológicos;

8 – erros inerentes ao processo eletrônicos de obtenção de distâncias;

9 – erro da constante do prisma (a constante do prisma é fornecida pelo

fabricante).

Aqui serão tratados os erros do item 8 inerentes ao processo eletrônicos de

obtenção da distância, pois podem ser determinados através do processo de

calibração dos MED’s.

As distâncias medidas com a combinação de MED/refletor estão sujeitos a

três tipos de erros classificados como sistemáticos e são determinados através de

um processo de calibração. Os erros são:

a) Erro Zero ou Constante Aditiva (z0) - consiste na não coincidência do centro

eletrônico do MED com o centro mecânico do goniômetro, gerando desta forma um

pequeno comprimento entre os centros, chamado de constante aditiva ou erro zero.

Esta constante é determinada pelo fabricante e incorporada ao instrumento.

b) Erro de Escala ou Fator de Escala (m) – este tipo de erro é oriundo de

erros nos valores da velocidade de propagação das ondas eletromagnéticas, da má

definição do índice de refração e da freqüência de modulação, causado

principalmente pelo envelhecimento do cristal, incidindo diretamente na medida da

distância sendo linearmente proporcional ao comprimento da distância medida.

Page 65: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

47

c) Erro Cíclico (Ec) - erro proveniente de falhas na determinação da diferença

de fase; surge em conseqüência de variações bruscas da fase, entre a emissão e

recepção do sinal. Sua determinação é realizada através do conhecimento da

amplitude e do ângulo de fase.

Em geral, a calibração de instrumentos em basímetro com distâncias curtas

adéqua-se à obtenção da constante aditiva, enquanto com distâncias longas, ajuda

na determinação do fator de escala (VICTORIA, 2002). Assim, o comprimento de um

basímetro pode ser uma variável a ser considerada na determinação do erro de

escala.

Desta forma, levando-se em consideração os erros z0, m e E, inerentes ao

processo eletrônico de obtenção da distância, pode-se reescrever a equação (43) da

seguinte forma (CORDINI, 1991):

Eczfn2

c2fn2

cNmD 0

oo ++⎟⎠⎞

⎜⎝⎛ +=

πφΔ (44)

Para determinação destes erros, encontram-se na literatura diferentes

recomendações. Alguns autores recomendam que os elementos do erro cíclico

devam ser determinados separadamente do erro de zero e do erro de escala. Outros

autores apresentam a determinação conjunta de todos os elementos de calibração

num mesmo procedimento numérico.

Na seção 2.5, apresentam-se uma descrição dos procedimentos de campo,

modelos matemáticos e ajustamentos necessários à determinação destes erros.

2.4 Detecção de Erros Grosseiros

2.4.1 Classificação dos Erros

Os problemas tratados nas Ciências Geodésicas envolvem a estimação de

parâmetros, os quais são obtidos a partir de dados experimentais. Estes por sua

Page 66: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

48

vez, estão sujeitos a erros os quais são classificados historicamente em erros

aleatórios, sistemáticos e grosseiros.

Observa-se que no Vocabulário Internacional de Termos Fundamentais e

Gerais da Metrologia, utilizadas pelo INMETRO (2007), não se encontra a presença

do conceito de erro grosseiro. Não se considera, portanto, a existência destes erros,

principalmente os de pequenas magnitudes, o que para as Ciências Geodésicas são

pesquisados e tratados estocasticamente.

Os erros aleatórios são inevitáveis. Eles são tratados como variáveis

aleatórias, seguindo, portanto funções estatísticas. Na teoria da estimação e de

testes estatísticos, esses erros são, em geral, considerados como tendo distribuição

normal. Mas, na realidade, a existência de “não normalidade”, em distribuição de

dados, é bastante comum, como por exemplo, quando se utiliza o método das

direções para determinação de ângulos horizontais.

Os erros sistemáticos são os erros que, em igualdade de condições, se

repetem com a mesma magnitude e sinal algébrico. Os valores das grandezas de

medição afetados por esse tipo de erro são corrigidos após a comparação do

instrumento utilizado com instrumento padrão. Na visão de Paulino et al (2004), os

erros sistemáticos são, em geral, mais graves, pois são freqüentemente difíceis de

se detectar e a sua ocorrência pode facilmente passar despercebida.

Os erros grosseiros resultam de mau funcionamento dos aparelhos de

medição ou problemas relacionados ao fator humano. Como exemplo típico cita-se:

falta de atenção do operador num procedimento operacional. No mínimo, os erros

grosseiros podem ser evitados se cuidados especiais forem tomados. Segundo

Gemael (1994), observações eivadas de erros grosseiros às vezes se constituem em

problema, pois a detecção dos mesmos é fácil em certos casos (erros muito grande,

por exemplo) e pode tornar-se difícil em outros. Muitas vezes somente testes

estatísticos podem justificar ou não a rejeição de uma observação suspeita de

abrigar um erro grosseiro. Na visão de Altaha e Arnol (1996 apud SANTOS, 2006,

p.30), existem erros grosseiros de pequenas magnitudes que se tornam difíceis de

Page 67: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

49

serem detectados em análise de pré-ajustamento, porém são grandes o bastante

para causarem resíduos significativos no pós-ajustamento.

Na realidade, no mundo real é impossível a separação de tais erros, mas,

devem-se buscar estratégias para separá-los conforme classificação definida acima.

No caso de erros grosseiros (“blunders” ou “outliers”), as estratégias de

detecção, localização e eliminação têm suas raízes alicerçadas nos trabalhos do

professor Baarda da Universidade Técnica de Delft (Baarda, 1968), cuja técnica

denominada Data Snooping. Pope (Pope, 1976), seguindo linhas similares a de

Baarda apresentou o método denominado de Tau.

Os testes Data Snooping e Tau são considerados procedimentos que buscam

a determinação de erros grosseiros em observações após o ajustamento por

mínimos quadrados. São aplicados quando a hipótese básica do teste Global for

rejeitada e os resíduos estarem excessivamente grande, em decorrência de uma

falta grosseira nas observações.

2.4.2. Método dos Mínimos Quadrados (MMQ)

O Método dos Mínimos Quadrados (MMQ), indicado quando existe um

número redundante de observações.

De acordo com Mikhail e Gracie (1981), baseia-se no princípio de que:

“A soma dos quadrados dos resíduos das observações deve ser um mínimo”.

mínimovn

1i

2i =∑

=

(45)

Na linguagem matricial a equação (45) pode ser escrita como:

min=VV T (46)

Page 68: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

50

em que V é o vetor dos resíduos.

⎥⎥⎥⎥⎥⎥

⎢⎢⎢⎢⎢⎢

=

n

2

1

v..

vv

V (47)

e o símbolo T sobrescrito indica o vetor V transposto:

[ ]n21T v..vv=V (48)

Quando as observações não oferecem o mesmo grau de confiança, é

conveniente levar em conta os pesos pi diferentes para cada umas delas. Assim a

equação (45) pode ser apresentada como:

mínimovpn

1i

2ii =∑

=

(49)

Ou

minT =PVV (50)

em que P é a matriz dos pesos. Maiores detalhes ver seção 2.4.3.2.

Neste trabalho, serão apresentadas as equações do ajustamento pelo modelo

dos parâmetros empregando o MMQ.

2.4.3 Ajustamento pelo Método dos Parâmetros

O ajustamento pelo método dos parâmetros, também chamado de método

das equações de observações, consiste no ajustamento de observações indiretas.

Sua meta é avaliar as incertezas das grandezas a serem estimadas (parâmetros), e

suas incertezas (variâncias e covariâncias) (DALMOLIN, 2004).

Page 69: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

51

2.4.3.1 Modelo Matemático

Neste método, Gemael (1994) afirma, os valores observados ajustados são

explicitados como função dos parâmetros ajustados. Cada observação contribui com

uma equação. O modelo matemático, em notação matricial, é:

)(F aa XL = (51)

onde:

aL : vetor das observações ajustadas, VLL += ba (52)

aX : vetor dos parâmetros ajustados, XXX += 0a ; (53)

Substituindo as equações (52) e (53) na equação (51), e linearizando com

Série de Taylor, desprezando os termos de ordem igual ou superior à segunda,

obtêm-se:

XX

XXXVLXX 0a

a00b

F)(F)(F=

∂∂

+=+=+ (54)

onde:

0X : vetor dos parâmetros aproximados

bL : vetor dos valores observados

0L : vetor das observações aproximadas calculadas em função dos

parâmetros aproximados;

X : vetor das correções

O vetor 0L , função dos parâmetros aproximados, é dado por:

)(F 00 XL = (55)

Page 70: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

52

A matriz das derivadas parciais é chamada de A (coeficiente das incógnitas),

também conhecida como a matriz designe:

⎥⎥⎥⎥⎥⎥⎥⎥⎥

⎢⎢⎢⎢⎢⎢⎢⎢⎢

∂∂

∂∂

∂∂

∂∂

∂∂

∂∂

∂∂

∂∂

∂∂

=∂∂

==

u

n

2

n

1

n

u

2

2

2

1

2

u

1

2

1

1

1

a

xf..

xf

xf

.....

.....xf..

xf

xf

xf..

xf

xf

F

0a XXX

A (56)

onde:

n : número de equações de observações

u : número de parâmetros

Substituindo as equações (55) e (56) na equação (54), obtêm-se:

b00b LLAXVAXLVL −+=→+=+ (57)

Finalmente, fazendo:

b0 LLL −= (58)

Obtém-se o vetor dos resíduos, que é modelo matemático linearizado do

método dos parâmetros:

LAXV += (59)

2.4.3.2 Matriz dos Pesos

Sejam ∑ bL a matriz variância-covariância dos valores observados ( bL ) e 20σ

o fator de variância a priori.

Page 71: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

53

Dividindo-se ∑ bL por 20σ obtém-se a matriz denominada matriz dos

coeficientes de pesos (Q ), também chamada de matriz cofatora:

∑σ= b2

0

1 LQ (60)

Se a matriz Q for não-singular admitirá a inversa ordinária. No caso da

singularidade poder-se-ia recorrer a uma das inversas generalizadas de Moore-

Penrose.

Segundo Gemael (1994), a matriz dos pesos ( P ) é obtida da inversa matriz

cofatora por:

1

b20

1 −− ∑σ== LQP (61)

Na equação (61), no caso das observações independentes, os pesos das

observações são inversamente proporcionais às respectivas variâncias. Isto

significa que maior confiabilidade nas observações menor variância (maior precisão),

portanto maiores são os pesos.

2.4.3.3 Equações Normais

A forma quadrática, mínimos quadrados é:

mínimo)()( TT =++==φ LAXPLAXPVV (62)

Para minimizar a equação (62) aplica-se a condição de otimalidade de

primeira ordem, ou seja,igualando-se a zero a derivada primeira em relação a X ,

encontra-se:

)()( T1T PLAPAAX −−= (63)

Page 72: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

54

Fazendo:

PΑAN T= : matriz dos coeficientes das equações normais.

PLAU T= : vetor dos termos independentes.

Resulta no vetor das correções:

UNX 1−−= (64)

Os parâmetros ajustados são:

XXX += 0a (65)

As observações ajustadas são:

VLL += ba (66)

2.4.4 Teste Global

Após o ajustamento, passa-se então analisar sua bondade (verificação se os

resíduos têm distribuição normal), para isto faz-se uma comparação do fator da

variância a priori )( 20σ com o fator da variância a posteriori )ˆ( 2

0σ . Se a discrepância

entre eles for significativa a um nível de significância (α ), então se aplica o teste

Global, o qual é baseado na distribuição qui-quadrado 2χ .

Em geral, antes do ajustamento, arbitra-se o valor 1 (um) para fator de

variância a priori )( 20σ (GEMAEL, 1994).

Após o ajustamento, calcula-se o fator de variância a posteriori através da

equação:

unˆ

T20 −=σ

PVV (67)

Page 73: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

55

onde:

unS −= : grau de liberdade

n : número de observações

u : número de parâmetros

De acordo com Gemael (1994), a estatística do teste é calculada por:

20

20*2

σσ

=χ (68)

A hipótese básica do teste é:

20

200 ˆ:H σ=σ (69)

contra a hipótese alternativa:

20

201 ˆ:H σ≠σ (70)

Para aceitação da hipótese básica a estatística deverá estar compreendida

entre os valores teóricos.

2

21,S

2

2,S

e α−

α χχ (71)

Se a hipótese básica, definida na equação (69), for rejeitada, então, deve ter

ocorrida uma das seguintes possibilidades no ajustamento (GEMAEL, 1994):

• matriz dos pesos mal estimada;

• erros grosseiros ou sistemáticos existentes nos dados observados;

• modelo matemático não consistente com as observações;

• sistema mal condicionado.

Page 74: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

56

A Figura 15 apresenta o gráfico da distribuição qui-quadrado com o indicativo

da região de aceitação e regiões críticas.

Figura 15 – Gráfico da distribuição de probabilidade qui-quadrado.

No caso deste trabalho, foi aventada a possibilidade da presença de erros

grosseiros nas observações do ângulo paralático, tendo-se trabalhado com a

possível identificação, eliminação dos mesmos, como apresentado nas seções 2.4.6

e 2.4.7.

2.4.5 Relação entre Resíduos e Números de Redundância

Com o objetivo de aplicar os testes estatísticos na detecção, identificação e

eliminação de erros grosseiros nas observações, faz-se necessário uma análise nos

resíduos ( V ). O pressuposto obrigatório para aplicação dos testes nas observações

(pós-ajustamento) é que estas descrevam a distribuição normal, conseqüentemente,

a distribuição dos resíduos ( V ), também, obedecerá a essa distribuição normal.

Conforme Kuang (1996), o vetor dos resíduos das observações ( V ) consiste de

variáveis aleatórias com média zero.

Um resíduo pode ser dado pela seguinte equação, (LEICK, 1995):

1-α

Regiões críticas

0,5α0,5α

S

Região aceitação

( )2F χ

2,S αχ

21,S α−

χ

Page 75: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

57

ε=ε= RPQV V (72)

em que R é conhecida como matriz redundância, a qual contém o número de

redundância que indica a controlabilidade do ajustamento de uma observação. É

definida por:

PQR V= (73)

Onde

T

V AANPQ 11 −− −= é a matriz cofatora dos resíduos; e

ε: erro verdadeiro

Considerando o erro verdadeiro constituído de erros sistemáticos εri e pelos

erros grosseiros ilΔ tem-se:

iΔlεε ri += (74)

Substituindo a equação (74) na equação (72) tem-se que:

rl ΔVPΔQPεQ)ΔlP(εQV riVriViriV +=+=+= (75)

Onde:

riVr PεQV = : é a influência dos erros sistemáticos nos resíduos;

ilPΔQΔ Vr = : é a influência dos erros grosseiros nos resíduos.

A matriz R também pode ser escrita, segundo a equação (76), como segue:

Page 76: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

58

⎥⎥⎥⎥

⎢⎢⎢⎢

=

⎥⎥⎥⎥

⎢⎢⎢⎢

=

nn2n2n1n1n

n1n1221221

n1n1121211

nn1n1n

n2221

n1121

pq.......pqpq....pq.......pqpqpq.......pqpq

r........rr...........

r.......rrr.......rr

R (76)

onde, )n,..,2,1i(ri = e )n,..,2,1:ji(rij ≠ são, respectivamente, elementos

diagonais e não-diagonais da matriz R . Os elementos ir são conhecidos como

número de redundância ou redundâncias parciais, os quais, conforme Kavouras

(1982), expressam a contribuição de cada observação simples il para redundância

total r .

De acordo com Leick (1995), esses números indicam a controlabilidade das

observações, as quais são classificadas de acordo com a Tabela 7.

Tabela 7 - Controle de observações por redundâncias parciais (MÜRLE e BILL,1984) Intervalo Controlabilidade

01,0r0 i <≤ Não Há

1,0r01,0 i <≤ Ruim

3,0r1,0 i <≤ Suficiente

1r3,0 i <≤ Boa

As redundâncias parciais ( ir ), calculadas a partir da equação (76), são

benéficas ao controle das observações. Estas grandezas pertencem ao intervalo

fechado [ ]1:0 (LEICK, 1995). De acordo com Kavouras (1982), têm-se dois

casos extremos para número de redundância ir . O primeiro caso é ideal, onde o

número de redundância 1ri = e acontece quando uma medição é feita de uma

quantidade conhecida. Neste caso serão revelados 100% de qualquer erro

grosseiro no resíduo iv , os quais não terão efeito da determinação aos parâmetros

desconhecidos. O segundo caso, é o do número de redundância 0ri = , onde o

suposto erro grosseiro embutido na observação não afeta em nada os resíduos e

então não pode ser descoberto e será transferido diretamente nos parâmetros

desconhecidos calculados. Supondo-se duas observações, 1l e 2l , com

Page 77: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

59

redundâncias parciais, por exemplo, 20,0r1 = e 65,0r2 = , então, um erro grosseiro

embutido na observação 2l tem uma probabilidade maior de ser localizado, que um

erro grosseiro embutido na 1l , simplesmente por que existe %65 de probabilidade

do erro grosseiro 2lΔ , ver equação (74), ser revelado no respectivo resíduo 2v e no

outro lado, existe %20 de probabilidade do erro grosseiro 1lΔ ser revelado no

resíduo 1v referente à observação 1l . Logo, é fácil perceber que, quanto mais

próximo de 1 os valores das redundâncias parciais estiverem, uma melhor situação

ocorrerá quanto à detecção e localização de erros grosseiros nas observações.

2.4.6 Teste Data Snooping de Baarda

Conforme Baarda (1968), o teste Data Snooping pode ser definido como a

investigação em relação à observação na qual um erro grosseiro foi cometido

durante a medição. Este teste está baseado no teste estatístico de resíduos

padronizados após o ajustamento por mínimos quadrados (KILPELÃ et. al., 1982

apud MORAES, 1997, p.149), sendo um eficiente e sensível método para

identificação, principalmente, de erros de pequenas magnitudes (MARQUES, 1994).

Este teste tem como objetivo avaliar a i-ésima observação com relação a

erros grosseiros embutidos na mesma. Para isto, emprega-se o resíduo

padronizado iw , o qual indica se há erro grosseiro naquela observação. A estatística

é calculada por:

)1,0(n~q

vvw

i0

i

v

ii

= (77)

Onde ivσ é o resíduo obtido da matriz variância dos resíduos V∑ , a qual é

calculada por:

VV Q20σ=∑ (78)

Page 78: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

60

Assumindo que os resíduos padronizados iw têm distribuição normal faz-se o

teste de hipótese:

H0: nenhum erro grosseiros existe na observação

Após o cálculo de iw , deve-se então compará-lo com o parâmetro de não-

centralidade 0δ . Caso o resíduo padronizado iw , seja em módulo maior que o

parâmetro de não-centralidade, então se conclui que existe um erro grosseiro na

observação i-ésima. Em outras palavras, a hipótese H0 é rejeitada se:

0iw δ> (79)

O parâmetro de não-centralidade é obtido em função das seguintes

grandezas: β−1 e α , que são respectivamente o poder do teste e o nível de

significância. Segundo Moraes (1997), a escolha deste parâmetro deve ser feita de

modo que a probabilidade α de erro tipo I (rejeição de H0 quando verdadeira) e a

probabilidade β de erro tipo II (aceitação de H0 quando falsa) sejam tão pequenas

quanto possível.

A Tabela 8 obtida de Ackermann (1981 apud MEDINA, 1998, p.59) apresenta

alguns níveis de confiança e os respectivos valores do parâmetro de não-

centralidade.

Tabela 8 – Parâmetro de não-centralidade em função do nível de significância e

poder de teste.

(%)1 α− 0δ (%)1 β−

99,9 3,29 76

99,0 2,56 93

95 1,96 98

Dadas às características deste teste e para que torne uma das alternativas

para a análise dos dados após o ajustamento, conforme Nadal, Juliano e Rotton

(2003), devem ser observados as seguintes condições:

Page 79: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

61

• deve ser aplicado após o ajustamento;

• os pesos aplicados no ajustamento devem ser apropriadamente escolhidos

para evitar a distribuição dos erros nos resíduos; e

• o nível de significância adotado, no teste Data Snooping chamado de

parâmetro de não-centralidade 0δ , deve ser o mesmo escolhido no teste

Global.

Pelas condições apresentadas o valor adotado para o parâmetro de não-

centralidade 0δ adotado neste trabalho foi de 1,96.

2.4.7 Método de Pope: Teste Tau

O clássico teste Tau, proposto por Pope (1976), não leva em consideração ao

erro tipo II. Realiza análise dos resíduos studentizados ( iτ ) fazendo uso do fator da

variância da unidade de peso a posteriori estimado )ˆ( 20σ (LEICK, 1995).

A estatística do teste ( iτ ) ou resíduo studentizado é:

rni0

i

v

ii ~

qˆv

ˆv

i

−τσ

=τ (80)

Onde ivσ̂ é o resíduo obtido da matriz variância dos resíduos V∑ , conforme

equação abaixo:

VV Q20σ̂=∑ (81)

Este teste é semelhante ao teste dos resíduos padronizados, proposto por

Baarda, Equação (77), diferindo-se, apenas, quanto à estimativa da variância dos

resíduos.

Page 80: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

62

É governado pela distribuição Tau com glrm =− graus de liberdade, e está

relacionada com a distribuição t de student através de:

21gl

1glgl

t1gl

tgl

+−=τ (82)

A hipótese nula proposta para essa distribuição, correspondente ao grau de

liberdade gl é:

gli0 ~:H ττ (83)

Definido o nível de significância α a estatística iτ será qualificada como sendo

um erro grosseiro, se:

2i ατ>τ (84)

Nesta distribuição o valor crítico 2ατ é calculado de acordo com a equação:

2,t1gl

tgl)gl(

21gl

2,1gl

2 α+−

α−

α (85)

De forma indireta, a estatística iτ é considerada como parte da distribuição t

de Student. No entanto, quando o grau de liberdade ( gl ) é incrementado, os valores

críticos dessas duas distribuições tornam-se próximos. E, quando o grau de

liberdade tende a infinito, ambas as distribuições aproximam-se da curva normal

padronizada (LEICK, 1995).

Page 81: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

63

2.5 Determinação dos Elementos de Calibração dos MED’s sem o Conhecimento da Escala do Basímetro

No caso da calibração sem o conhecimento da escala do basímetro, é

impossível a determinação do fator de escala, mas é possível a determinação da

constante aditiva e uma estimativa das componentes do erro cíclico. (RUEGER,

1977; GRIPP, 1986; PACILÉO NETTO, 1990).

2.5.1 Operações de Campo

A metodologia de campo, que vem dando bons resultados em diversos países

e instituições, foi desenvolvida por Schwendener (1972), a qual consiste

basicamente na medição de todas as combinações possíveis de distâncias

interpilares do basímetro linear. Por exemplo, basímetro linear com 8 pilares (Figura

16).

Figura 16 – Conjunto de medições realizadas sobre o basímetro linear.

P1 P2 P3 P4 P5 P6 P7 P8

12d 13d 14d 15d 16d

24d

17d

18d23d

25d

26d

27d

28d34d

35d

36d

37d

38d 45d

46d

47d

48d56d

57d

58d67d

68d78d

Page 82: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

64

A configuração apresentada na Figura 16 proporciona 28 medidas gerando

28 equações de observações. Em um primeiro ajustamento, as equações de

observações são ajustadas pelo método dos mínimos quadrados considerando

como incógnitas a constante aditiva (erro zero) e as sete distâncias de cada pilar

tendo como referência o pilar 1.

Em seguida, um segundo ajustamento é realizado considerando os resíduos

como observações e as componentes do erro cíclico como parâmetro. Desta forma,

determina-se o erro cíclico para cada observação efetuada.

2.5.2 Primeiro Ajustamento 2.5.2.1 Sistema de Equação de Observações

Para cada observação existe uma equação de observação; para o caso de

um basímetro com 8 pilares, são medidas 28 observações, resultando em 28

equações de observação:

0a17

a187878

a17

a1878078

0a12

a142424

a12

a1424024

0a12

a132323

a12

a1323023

0a141414

a1414014

0a131313

a1313013

0a121212

a1212012

zxxvdxxvzd )28(. . . .

zxxvdxxvzd )8(

zxxvdxxvzd )7(. . . .

zxvdxvzd )3(

zxvdxvzd )2(

zxvdxvzd )1(

−−=+⇒−=++

−−=+⇒−=++

−−=+⇒−=++

−=+⇒=++

−=+⇒=++

−=+⇒=++

(86)

onde:

aijx : distâncias interpilares ajustadas tendo como referência o pilar 1, para este

caso são sete parâmetros de distâncias;

ijd : distância horizontal corrida da inclinação e correção ambiental;

Page 83: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

65

0z : erro de zero ou constante aditiva (parâmetro);

ijv : resíduos

Neste sentido, o conjunto das equações gera um sistema de equação com 28

equações a 8 parâmetros ( 0z e aijx ).

O sistema de equações de observações acima pode ser escrito, de forma

compacta, pela formulação matricial:

aba AxVLL =+= (87)

onde:

A : matriz (28x8) dos coeficientes dos parâmetros;

ax : vetor (8x1) dos parâmetros ajustados ( 0z e aijx );

V : vetor dos resíduos (28x1);

bL : vetor das observações brutas (28x1)

aL : vetor das observações ajustadas (28x1)

2.5.2.2 Matriz dos Pesos

A variância de cada observação foi calculada através dos coeficientes

nominais fornecidos pelo fabricante, utilizando a fórmula (PACILÉO NETTO, 1990):

2

ij222

d )d(baij

+=σ (88)

onde: 2dij

σ : variância da observação ijd

a e b : coeficientes nominais fornecidos pelo fabricante do instrumento

ijd : distância horizontal corrida da inclinação e correção ambiental

Page 84: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

66

Neste sentido, a matriz dos pesos ( P ) será dada por:

12

0 b

−∑σ= LP (89)

Onde: 1b

−∑L : a inversa da matriz variância-covariância das observações brutas

2.5.2.3 Resultados do Ajustamento

)()( bT1T

a PLAPAAx −= : vetor dos parâmetros ajustados (90)

ba LAxV −= : vetor dos resíduos estimados (91)

unˆ

T20 −=σ

PVV : variância da unidade peso a posteriori (92)

12

0ˆa

−σ=∑ Nx : MVC dos parâmetros ajustados (93)

T

aaAA xL ∑=∑ : MVC das observações ajustadas (94)

∑ ∑ ∑−=ab LLV : MVC dos resíduos (95)

Aplicação do teste global (teste de hipóteses qui-quadrado) para verificação

da bondade do ajustamento.

2.5.3 Segundo Ajustamento

Os resíduos resultantes do primeiro ajustamento ( V ), isentos do erro de zero,

serão submetidos a um processo de ajustamento, a fim de definir uma estimativa

das componentes do erro cíclico (amplitude e fase). O modelo matemático aplicado

nesta fase pode ser assim escrito (FAGGION, 2001):

Page 85: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

67

( )⎥⎦⎤

⎢⎣⎡ +λπ

= Bd2ASenEc aij'ij (96)

⎥⎦

⎤⎢⎣

⎡⎟⎠⎞

⎜⎝⎛λπ

+⎟⎠⎞

⎜⎝⎛λπ

= B2d2ASenEc 'aij'ij (97)

Chamando de:

aij'ij d2

⎟⎠⎞

⎜⎝⎛λπ

=θ (98)

B2'0 ⎟⎠⎞

⎜⎝⎛λπ

=θ (99)

Substituindo as equações (98) e (99) na equação (97) e aplicando a

propriedade da soma dos senos, resulta:

ij00ij0ijij CosASenCosASen)(ASenEc θθ+θθ=θ+θ= (100)

0ij0ijij ASenCosACosSenEc θθ+θθ= (101)

onde:

ijEc : erro cíclico relativo à distância ajustada do primeiro ajustamento ij ;

θ : ângulo de fase;

0θ : ângulo de fase inicial;

B : parte do comprimento de fase em unidades lineares;

A : amplitude do erro cíclico;

'λ : meio comprimento de onda de modulação fina;

aijd : distância ajustada do primeiro ajustamento;

Page 86: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

68

Na visão de Gripp (1986), para o segundo ajustamento, o procedimento mais

comum encontrado na literatura, é o desenvolvimento da equação (101) em séries

de Fourier e realização de uma correspondente análise de Fourier. Entretanto, a

realização de um ajustamento com a equação (101) na sua forma linear, apresenta

resultados idênticos e com muito maior facilidades nos cálculos.

A linearização do modelo representado pela equação (101) resulta:

yQxPEc ijjiij += (102)

onde:

)(SenP ijij θ= (103)

)( ijij CosQ θ= (104)

)(ACosx 0θ= (105)

)(ASeny 0θ= (106)

Como se conhece o valor do comprimento de onda do instrumento ( '2λλ = )

que se quer calibrar e também das distâncias ajustadas do primeiro ajustamento é

possível calcular os valores de ijP e ijQ .

O vetor das incógnitas ( x e y ) foi determinado através do resultado obtido do

primeiro ajustamento, ou seja:

PVAPAAX T1Ta )(

yx −=⎥⎦

⎤⎢⎣

⎡= (107)

Onde V são os resíduos do primeiro ajustamento e a matriz peso ( P ) igual à

inversa da matriz covariância dos resíduos.

Page 87: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

69

Uma vez calculado os valores de “ x ” e “ y ”, determina-se o valor da amplitude

( A ) e ângulo de fase inicial do erro cíclico ( 0θ ) utilizando as seguintes fórmulas:

A amplitude do erro cíclico, em unidade linear de comprimento, é dada por:

22 yxA += (108)

O ângulo de fase inicial do erro cíclico, em radianos, é dado por:

⎟⎠⎞

⎜⎝⎛=θ

xyarctg0 (109)

e após a investigação do quadrante em que está situado ângulo de fase inicial,

pode-se determinar a parte do comprimento de fase ( B ), em unidade linear de

comprimento, correspondente, ou:

02'B θπλ

= (110)

De posse destes valores é só aplicá-los na fórmula do erro cíclico para

conseguir obtê-lo.

2.5.4 Distância Corrigida dos Erros de Zero e Cíclico

Uma distância corrigida dos erros de zero e cíclico pode ser obtida

considerando a seguinte equação:

( )⎟⎠⎞

⎜⎝⎛ +λπ

−−= Bd2ASenzdd ij'0ijcij (111)

onde:

cijd : distância corrigida dos erros de zero e cíclico.

Page 88: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

70

3. MATERIAIS E MÉTODOS Neste capítulo são apresentados os equipamentos que foram utilizados para

a medição da escala do basímetro do Centro de Tecnologia e Geociências da

Universidade Federal de Pernambuco. Em cada equipamento apresentado são

incluídas as informações técnicas do fabricante. Nas seções subseqüentes sobre os

métodos, seguem a pré-análise e detecção de erros grosseiros.

3.1 Equipamentos Utilizados 3.1.1 Goniômetro Th2 da Zeiss

O goniômetro Th 2 é um instrumento com requisitos para a utilização nos

levantamentos geodésicos de primeira e segunda ordem, como também em

medições de controle e deformações em obras de engenharia e trabalhos de

astronomia (Figura 17). O Th 2 é um goniômetro reiterador da Zeiss com incerteza

padrão angular de ± 01” em ambos os limbos (horizontal/vertical). Este aparelho

pertencente ao Departamento de Transportes da Universidade Federal do Piauí foi

cedido para realização do presente trabalho.

Figura 17 – Goniômetro Th 2 da Zeiss.

Page 89: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

71

3.1.2 Estações Totais

Foram utilizadas as estações totais Trimble DR 3303, Trimble DR 3305 e a

robotizada Trimble Zeis Elta S20 (Figura 18). Estes equipamentos possuem coletor

interno para armazenamentos de pontos, transferência de dados bidirecional e

vários aplicativos incorporados. Além de bateria interna NiMH com autonomia de

várias horas de trabalho contínuo, suficiente para aproximadamente 1000 medidas

angulares e de distâncias. A Trimble DR 3305 e 3303 têm peso de 3,5 kg com

bateria, enquanto a robotizada tem 8,1 kg.

Além de realizar medições de distâncias utilizando prismas ou fitas refletoras,

estes três modelos também obtêm medidas de distâncias sem o emprego dos

mesmos com alcance de até 100 metros. Utilizando prismas, alcance entre 1,5 a 3

km (um prisma) até 5 km (3 prismas) e compensação automática optativa para o

eixo principal com as respectivas correções angulares. Fornece medidas de ângulo

horizontal e vertical eletronicamente no modo absoluto e possui compensação

automática de erros do eixo de visada e erros de colimação.

A estação total robotizada Trimble Zeis Elta S20 é um equipamento que pode

realizar todo o levantamento com um só operador, fazendo a busca e

reconhecimento dos prismas de forma automatizada, entre outras aplicações de

cálculo.

Os três equipamentos são classificados segundo a NBR 13.133 como uma

estação de média precisão.

Na Tabela 9, encontram-se as principais características técnicas das estações

totais.

Esses equipamentos pertencem ao Laboratório de Metrologia e Topografia do

Departamento de Engenharia Cartográfica da Universidade Federal do Pernambuco

e foram concedidos para realização dos experimentos deste trabalho.

Page 90: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

72

Tabela 9 – Principais características técnicas das Estações Totais.

Fonte: TRIMBLE 3300DR (2004) e TRIMBLE ZEISS ELTA S (2001). Trimble

Características DR 3303 DR 3305 Elta S20

Incerteza padrão angular (DIN

18723) ± 3” ± 5” ± 3”

Modo de medição angular Absoluto Absoluto Absoluto

Resolução angular mínima 1” 1” 0,5 “

Incerteza padrão linear (DIN

18723)

+ (2 mm +2 ppm)

com prisma

+ (2 mm +2 ppm)

com prisma

+ (2 mm +2 ppm)

com prisma

Onda portadora Infravermelho (λ = 0,860 μm)

Infravermelho (λ = 0,860 μm)

Infravermelho (λ = 0,850 μm)

Modo de medição linear Modulação eletro-

óptica de laser: comparação de fase

Modulação eletro-óptica de laser:

comparação de fase

Modulação eletro-óptica de laser:

comparação de fase Resolução linear mínima 1 mm 1 mm 0,1 mm

Comprimento de onda de modulação fina λ = 20,0 m λ = 20,0 m λ = 20,0 m

Correções atmosféricas

Digitação manual:

Pressão e

Temperatura

Digitação manual:

Pressão e

Temperatura

Digitação Manual ou

automática:

Barômetro e Termô-

metro embutidos

Distância mínima de focagem 1,5 m 1,5 m 1,5 m

Aumento da luneta 26 x 26 x 30 x

Temperatura de operação - 20º C a 50º C - 20º C a 50º C - 20º C a 50º C

Figura 18: a) Trimble 3303, b) Trimble 3305, c) Trimble Elta_S20

c)b)a)

Page 91: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

73

3.1.3 Mira Horizontal de Ínvar Jena Bala

Utilizou-se na medição do basímetro linear uma mira horizontal de invar

cedida para este trabalho pelo o Prof. Tarcisio Ferreira Silva (Figura 3), produzida

pela antiga Casa Zeiss Jena, modelo Bala, a qual possui comprimento de 2 metros

com exatidão de ± 0,005 mm com 95% de confiabilidade, calibrada por método

interferométrico no “Studiengang Vermessungswesen” da Faculdade de

Neubrandengurg, em dezembro de 2006.

Em julho de 2008, foi realizada uma nova verificação da mira, na base de

calibração do Laboratório de Instrumentação Geodésica LAIG-UFPR, controlada por

interferômetro laser como padrão de referência. Os resultados apresentaram

discrepâncias na casa do milésimo do milímetro entre os dois sistemas de calibração

(FAGGION, 2009).

Além dos instrumentos citados, foram utilizados alvo, barômetro/termômetro,

e prisma (Figura 19).

Figura 19 – a) Alvo, b) Barômetro/Termômetro, c) Prisma

3.2 Características Atuais do Basímetro Linear da UFPE

O basímetro linear foi implantado, por iniciativa do Prof. Dr.-Ing Tarcísio

Ferreira Silva, em 1990 para o Laboratório de Metrologia e Posicionamento Espacial

b)a) c)

Page 92: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

74

(LAMEP) do Departamento de Engenharia Cartográfica (DECart) da Universidade

Federal de Pernambuco (UFPE).

O basímetro linear de calibração da UFPE encontra-se hoje constituído

(outrora sete pilares) por oito pilares alinhados, os quais se encontram afastados

paralelamente cerca de 2,0 metros da face leste do prédio do Centro de Tecnologia

e Geociências (CTG), como mostrado na Figura 20.

Figura 20 – Localização do basímetro linear na UFPE.

O prédio do CTG/UFPE tem comprimento de cerca de 180 metros, em área

plana, com 6 pavimentos, e apresenta uma orientação quase que no sentido

norte/sul (azimute de aproximadamente 6°). Isso faz com que no período de verão

ocorra na área uma forte insolação pela parte da manhã, com início de sombra,

devido ao prédio, a partir das 12 horas, e sombreamento total a partir das 16 horas.

C

G

T

Page 93: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

75

Os oito pilares do basímetro linear estão implantados com espaçamentos

aproximados conforme Tabela 10, perfazendo um total de 244,04 m entre os pilares

extremos.

Tabela 10 – Distâncias aproximadas dos segmentos do basímetro

Segmentos Distâncias Aproximadas

(m)

P1-P2 8,20

P2-P3 4,44

P3-P4 33,12

P4-P5 49,89

P5-P6 39,48

P6-P7 32,26

P7-P8 76,65

Os pilares foram construídos de modo a permitir a intervisibilidade entre os

mesmos. As dimensões dos pilares são mostradas na Tabela 11.

Tabela 11 – Dimensões dos pilares do basímetro

Pilares Altura acima

do terreno Dimensões Seção

P1 1,02m 35 x 40 cm Retangular

P2 1,02m 35 x 40 cm Retangular

P3 0,96m 35 x 40 cm Retangular

P4 1,05m 35 x 40 cm Retangular

P5 0,88m 35 x 40 cm Retangular

P6 0,74m 35 x 35 cm Retangular

P7 0,77m 35 x 35 cm Retangular

P8 1,50m 30cm (diam) Cilíndrica

De acordo com as condições geotécnicas da área, os pilares foram

construídos em estrutura de argamassa com tijolos, e fundação em concreto, tendo,

com relação a recalque, apresentado condições estáveis ao longo desses 19 anos

de sua existência.

No basímetro, em todos os pilares foram chumbados dispositivos de

centragem fixa, constituído de uma base circular de aço inoxidável, tendo ao centro

um parafuso padrão Wild também do mesmo material, conforme Figura 21.

Page 94: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

76

Figura 21 – Sistema de centragem fixa.

A função primordial do sistema de centragem fixa é permitir a reocupação dos

mesmos pontos em épocas diferentes, garantindo que o MED possa ser instalado

sempre na mesma posição.

3.3 Método Goniômetro/Mira

O ângulo paralático é um dos limitantes à acurácia das distâncias obtidas

usando Goniômetro/Mira. A fim de tornar a medição do ângulo com confiabilidade

adequada, optou-se por um conjunto de séries de observações realizadas pelo

método das direções, aplicando-se o teste Tau e o teste Data Snooping para

eliminar possíveis erros grosseiros. O parâmetro estimado pelo ajuste por mínimos

quadrados, após a eliminação das observações que não passam nos testes Data

Snooping e Tau, é o ângulo adotado para calcular a distância entre o Goniômetro e

a Mira Horizontal de Ínvar. A incerteza na distância foi determinada pela incerteza

combinada, com base na variância do ângulo ajustado (parâmetro).

3.3.1 Pré-análise A pré-análise é um método de simulação de observações geodésica, o qual

apresenta como vantagem a conveniência para otimização de configuração

geométrica de uma rede.

Antes de proceder às observações de campo, foram efetuadas pré-análises

com objetivo de escolher o método de campo e a incerteza instrumental adequada

Page 95: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

77

para a medição da distância horizontal entre os pilares do basímetro linear. Para

isto, examinaram-se apenas duas situações: na primeira, a mira horizontal foi

disposta na extremidade do alinhamento a ser medido; e, na segunda, a mira

horizontal foi disposta aproximadamente no ponto médio do alinhamento dos pilares,

não tendo-se explorado, por falta de disponibilidade de tempo, outras posições de

pontos colineares intermediários ou outras configurações na forma de rede

geodésica.

3.3.1.1 Mira Horizontal na Extremidade do Alinhamento A Figura 22 apresenta a primeira situação.

Figura 22 – Mira horizontal na extremidade do alinhamento.

Aqui, emprega-se a equação (14) para o cálculo da distância horizontal (s), a

qual aqui é repetida:

)2

cot(2b=s γ (112)

Como se vê na equação (112), a distância horizontal é uma grandeza medida

indiretamente, depende do conhecimento das grandezas: ângulo paralático )(γ e

comprimento da mira )b( , as quais possuem incertezas. Estas incertezas são

propagadas para a distância horizontal gerando assim a incerteza padrão

combinada da distância.

Para calcular a incerteza padrão da distância horizontal, aplica-se a lei de

propagação da incerteza padrão combinada na equação (112), conforme segue:

γ sMIRA

ÂNGULO PARALÁTICOA

bB

Page 96: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

78

),( γbfs = (113)

)(uf)b(ubf)s(u 2

22

22c γ⎟⎟

⎞⎜⎜⎝

⎛γ∂∂

+⎟⎠⎞

⎜⎝⎛∂∂

= (114)

onde:

)s(u c : incerteza padrão combinada da distância horizontal;

)b(u : incerteza padrão do comprimento da mira; e

)(u γ : incerteza padrão do ângulo paralático.

bs

bf

2cot

21

bf

=∂∂

⇒⎟⎠⎞

⎜⎝⎛ γ=

∂∂ (115)

⎟⎠⎞

⎜⎝⎛ γ

−=⎟⎠⎞

⎜⎝⎛ γ⎟⎟

⎞⎜⎜⎝

⎛⎟⎠⎞

⎜⎝⎛ γ−=

⎟⎠⎞

⎜⎝⎛ γ

⎟⎠⎞

⎜⎝⎛ γ

⎟⎠⎞

⎜⎝⎛ γ

−=⎟⎠⎞

⎜⎝⎛ γ

−=γ∂∂

2cosb

s

2cosb

12

cot2b

2cosb

1

2sin

2cos

2b

2b

21

2sin

12bf

2

2

2

2

22

2

2

(116)

Substituindo as equações (115) e (116) em (114), vem:

)(u

2cosb

s)b(ubs)s(u 2

2

2

22

22c γ

⎟⎟⎟⎟

⎜⎜⎜⎜

⎟⎠⎞

⎜⎝⎛ γ

−+⎟⎠⎞

⎜⎝⎛= (117)

)(u

2cosb

s)b(ubs)s(u 2

2

2

22

2

c γ⎟⎟⎟⎟

⎜⎜⎜⎜

⎟⎠⎞

⎜⎝⎛ γ

−+⎟⎠⎞

⎜⎝⎛±= (118)

A equação (118) representa a incerteza padrão combinada da distância

horizontal, quando a mira se encontra na extremidade do alinhamento.

Page 97: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

79

Numa simulação, considerando a incerteza padrão do ângulo paralático igual

a ± 0,5", questiona-se o quanto isto se propagará para a incerteza padrão

combinada da distância horizontal de cada segmento do basímetro da UFPE.

A mira horizontal empregada neste trabalho, conforme o certificado de

calibração depositado no LAMEP, tem comprimento b como sendo igual a 2 metros,

com exatidão de ± 0,005 mm, com 95% de confiabilidade.

A Tabela 12 mostra o resultado da simulação da incerteza padrão combinada

da distância e a incerteza padrão combinada relativa para cada segmento do

basímetro com a mira colocada na extremidade, as quais foram calculadas da

seguinte forma:

• inicialmente, com a distância horizontal aproximada e o comprimento da

mira, calculou-se o ângulo paralático, empregando a equação (112);

• adotando uma incerteza padrão do ângulo paralático de ± 0,5", com o

conhecimento do mesmo ângulo, da distância aproximada, do

comprimento da mira e sua incerteza, introduzidos na equação (118),

calcula-se a incerteza padrão combinada da distância horizontal;

• a razão entre a incerteza padrão combinada e a distância horizontal

aproximada, representa a incerteza padrão combinada relativa, a qual é

apresentada na forma de fração.

Tabela 12 – Incerteza padrão combinada e relativa com a mira na extremidade.

Segmento Dist.aproximada

(m)

Ângulo

paralático

Incerteza padrão do

ângulo

(simulada)

Incerteza padrão

combinada da

distância

Incerteza padrão

combinada

relativa

P1-P2 8,20 13o 54’ 21,3” ±0,5” ±0,08mm 1/102500

P2-P3 4,44 25o 23’ 07,2” ±0,5” ±0,03mm 1/148000

P3-P4 33,12 3o 27’ 31,8” ±0,5” ±1,33mm 1/24902

P4-P5 49,89 2o 17’ 47,7” ±0,5” ±3,02mm 1/16520

P5-P6 39,48 2o 54’ 6,84” ±0,5” ±1,89mm 1/20889

P6-P7 32,26 3o 33’ 3,56” ±0,5” ±1,26mm 1/25603

P7-P8 76,65 1o 29’ 41,7” ±0,5” ±7,12mm 1/10765

Page 98: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

80

De acordo com Valdés (1995), utilizando uma mira horizontal de ínvar com

teodolitos com precisão nominal de segundos e reiterando a medida do ângulo

paralático oito vezes, é possível encontrar valores da distância com incerteza padrão

combinada relativa da ordem de 1/40.000. Neste trabalho foi adotada esta tolerância

para a medição dos comprimentos interpilares.

Analisando a Tabela 12, percebe-se que os segmentos: P1-P2 e P2-P3

possuem incertezas padrões combinadas relativas inferiores à tolerância definida

1/40.000, e, portanto, pode-se medi-los com a mira horizontal colocada na

extremidade de cada segmento. Para os demais segmentos, há necessidade de

decompor os comprimentos.

3.3.1.2 Mira Horizontal Aproximadamente no Ponto Médio do Alinhamento

Figura 23 – Mira Horizontal aproximadamente no ponto médio do alinhamento

Para esta situação, conforme Figura 23, a fórmula para o cálculo da distância

horizontal é:

21s=s s+ (119)

2cot

2s 1

1γb

= (120)

2cot

2s 2

2γb

= (121)

Substituindo as equações (120) e (121) na equação (119), resulta:

s1

γ1 γ2

s2

BA

s

Page 99: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

81

)2

cot2γ(cot

2b=s 21 γ

+ (122)

Como se vê na equação (122), a distância horizontal é uma grandeza medida

indiretamente, depende do conhecimento das grandezas: de dois ângulos

paraláticos )( 1γ e )( 2γ e do comprimento da mira )b( , as quais possuem incertezas.

Estas incertezas são propagadas para a distância horizontal, gerando desta forma a

incerteza padrão combinada do comprimento.

Assim:

),,( 21 γγbfs = (123)

)(uf)(uf)b(ubf)s(u 2

22

21

22

1

22

2c γ⎟⎟

⎞⎜⎜⎝

⎛γ∂∂

+γ⎟⎟⎠

⎞⎜⎜⎝

⎛γ∂∂

+⎟⎠⎞

⎜⎝⎛∂∂

= (124)

onde:

bs

bf=

∂∂ (125)

⎟⎠⎞

⎜⎝⎛ γ

−=γ∂∂

2cosb

sf12

21

1

(126)

⎟⎠⎞

⎜⎝⎛ γ

−=γ∂∂

2cosb

sf22

22

2

(127)

Substituindo as equações (125), (126) e (127) em (124), resulta:

)(u

2cosb

s)(u

2cosb

s)b(u

bs)s(u 2

2

2

22

22

12

2

12

212

22c γ

⎟⎟⎟⎟⎟

⎜⎜⎜⎜⎜

⎟⎠⎞

⎜⎝⎛ γ

−+γ

⎟⎟⎟⎟⎟

⎜⎜⎜⎜⎜

⎟⎠⎞

⎜⎝⎛ γ

−+⎟⎠⎞

⎜⎝⎛= (128)

Page 100: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

82

)(u

2cosb

s)(u

2cosb

s)b(u

bs)s(u 2

2

2

22

22

12

2

12

212

2

c γ

⎟⎟⎟⎟⎟

⎜⎜⎜⎜⎜

⎟⎠⎞

⎜⎝⎛ γ

−+γ

⎟⎟⎟⎟⎟

⎜⎜⎜⎜⎜

⎟⎠⎞

⎜⎝⎛ γ

−+⎟⎠⎞

⎜⎝⎛±= (129)

A equação (129) representa a incerteza padrão combinada da distância

horizontal, quando a mira horizontal se encontra aproximadamente no ponto médio

do alinhamento.

Para a mira colocada no exato ponto médio, os dois ângulos paraláticos

tornaram-se iguais.

A Tabela 13 mostra o resultado da simulação das incertezas padrão

combinada e a relativa para cada segmento do basímetro da UFPE, quando a mira é

colocada no ponto médio, as quais foram calculadas da seguinte forma:

• inicialmente, dividiu-se a distância aproximada por 2. Com este valor e o

comprimento da mira, calculou-se o ângulo paralático empregando a

equação (112);

• simulando uma incerteza padrão do ângulo paralático de ± 0,5", tendo-se o

conhecimento do mesmo ângulo, da distância aproximada divida por 2, do

comprimento da mira e sua incerteza, os quais foram introduzidos na

equação (129), em seguida, calcula-se a incerteza padrão combinada da

distância horizontal;

• a razão entre a incerteza padrão combinada e a distância horizontal

aproximada, representa a incerteza padrão combinada relativa, a qual é

apresentada na forma de fração.

Page 101: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

83

Tabela 13 – Incertezas padrão combinada e relativa com a mira colocada no ponto

médio de cada segmento.

Segmento

Distância

aproximada

(m)

Ângulo

paralático

Incerteza padrão

do ângulo

(simulada)

Incerteza padrão

combinada

da distância

Incerteza padrão

combinada relativa

P1-P2 8,20 27o 24’ 50,1” ±0,5” ±0,04mm 1/205000

P2-P3 4,44 48o 29’ 54,3” ±0,5” ±0,01mm 1/444000

P3-P4 33,12 6o 54’ 41,0” ±0,5” ±0,48mm 1/69000

P4-P5 49,89 4o 35’ 28,7” ±0,5” ±1,07mm 1/46626

P5-P6 39,48 5o 48’ 0,3” ±0,5” ±0,68mm 1/58059

P6-P7 32,26 7o 05’ 42,6” ±0,5” ±0,45mm 1/71689

P7-P8 76,65 2o 59’ 21,5” ±0,5” ±2,53mm 1/30296

Comparando os dados da Tabela 13 com os da Tabela 14, percebe-se que as

incertezas padrão combinada ou relativa das distâncias, decompostas à metade,

para cada segmento decomposto do basímetro foram menores do que quando com

a mira colocada na extremidade do segmento.

Desta forma, os segmentos: P3-P4, P4-P5, P5-P6 e P6-P7 possuem

respectivamente incertezas padrões combinadas relativas que atendem a tolerância

definida por Valdés (1995); no entanto para o segmento P7-P8, não se atingiu esta

tolerância. Para este caso, a incerteza padrão do ângulo paralático deveria ser

menor ou igual a ± 0,37".

A fim de justificar a escolha de ± 0,5" foi realizada uma nova simulação, agora

aumentando a incerteza padrão do ângulo paralático para ± 1", e o resultado

encontra-se na Tabela 14.

Tabela 14 – Incertezas padrão combinada e relativa com a mira colocada no ponto

médio e com simulação da incerteza do ângulo paralático de ± 1".

Segmento Dist.aproximada

(m)

Ângulo

paralático

Incerteza padrão do

ângulo

(simulada)

Incerteza padrão

combinada da

distância

Incerteza padrão

combinada

relativa

P1-P2 8,20 27o 24’ 50,1” ± 1,0” ±0,06mm 1/136667

P2-P3 4,44 48o 29’ 54,3” ± 1,0” ±0,02mm 1/222000

P3-P4 33,12 6o 54’ 41,0” ± 1,0” ±0,95mm 1/34863

P4-P5 49,89 4o 35’ 28,7” ±1,0” ±±2,14mm 1/23313

P5-P6 39,48 5o 48’ 0,3” ±1,0” ±1,34mm 1/29463

P6-P7 32,26 7o 05’ 42,6” ±1,0” ±0,90mm 1/35844

P7-P8 76,65 2o 59’ 21,5” ±1,0” ±5,04mm 1/15208

Page 102: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

84

Analisando a incerteza padrão combinada relativa, da Tabela 14, não se

conseguiria a tolerância definida de 1/40.000 para todos os segmentos. Neste

sentido, adotando uma incerteza padrão do ângulo paralático menor ou igual a ±

0,5", atingir-se-ia, com segurança, esta tolerância, o que na prática torna-se muito

difícil.

3.3.2 Operações de Campo

O basímetro foi medido em três campanhas em dias e condições

meteorológicas diferentes, sendo que em cada campanha utilizaram-se goniômetros

distintos objetivando proporcionar um alto grau de confiança nos resultados. Desta

forma, cada segmento do basímetro foi medido três vezes e em dias diferentes. Na

primeira campanha utilizou-se o goniômetro Th 2 da Casa Zeiss Jena, na segunda

campanha a Estação Total Trimble 3303 e finalmente, na terceira campanha com a

Estação Total Trimble 3305.

Quanto ao método de medição do ângulo paralático, utilizou-se o método das

direções, conforme descrito na seção 2.2.3.

3.3.2.1 Método de Medição com a Mira Horizontal

A Figura 24 ilustra a medição do segmento P2-P3 usando a mira na

extremidade.

Figura 24 – Medição do P2-P3.

P2

P3

Page 103: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

85

O nivelamento da mira é realizado através dos parafusos calantes,

observando a bolha esférica que se encontra no centro da mesma. Em seguida, é

realizado um nivelamento mais preciso, o qual é feito a partir da estação total que se

encontra em P2. Inicialmente, um auxiliar, obedecendo às orientações do operador

da estação total, movimenta um parafuso calante da mira. A conclusão do

nivelamento é atingindo, quando o fio nivelador da estação tangenciar a base do

triângulo dos alvos da esquerda e direita da mira (Figura 25).

Figura 25 – Visão do operador da estação total na conclusão do nivelamento.

Concluída a etapa anterior, passa-se a efetuar a etapa de verificação de

perpendicularidade da mira com o segmento P2-M definido pelos pontos da estação

goniométrica P2 e pelo ponto onde se encontra o centro da mira horizontal M = P3.

Para isto, o operador da estação, visa o alvo esquerdo da mira e com o auxílio do

distanciômetro da estação, mede a distância estação-alvo (d1). Este mesmo

procedimento é realizado para o alvo da direita (d2) (Figura 26).

Figura 26 – Perpendicularidade da mira.

Em seguida, calcula-se a média aritmética das duas distâncias para o

deslocamento adequado a uma nova determinação. A perpendicularidade é

conseguida, quando a distância estação-alvo for igual à distância da média

aritmética calculada.

Alvo Esquerdo (E) Alvo Direito (D)

P3=M

E

D

P2

d1

d2

Page 104: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

86

Após todas estas etapas fica formado um triângulo plano isósceles em que a

mira é base e o pilar é vértice desse triângulo (Figura 27).

Figura 27 – Triângulo isósceles.

Para o caso em que a mira é colocada no ponto médio do alinhamento, o

procedimento é o mesmo, porém acrescentado o seguinte: inicialmente define-se o

alinhamento, exemplo: P3-M-P4 (Figura 28), em P3 coloca-se o goniômetro (estação

total) em M a mira horizontal; então se realizam as operações descritas acima

(nivelamento e perpendicularismo). Isto feito, o goniômetro (estação total) passa

para a estação P4 e invertendo-se a posição da mira M, repetem-se,

respectivamente as mesmas operações descritas.

Figura 28 – Mira colocada no ponto médio.

3.3.3 Cálculo do Ângulo Paralático Depurado de Erros Grosseiros 3.3.3.1 Cálculo das n Séries do Ângulo Paralático

Inicialmente, calculam-se as n séries de observações para cada ângulo

paralático medido. Para isto, foram utilizadas as direções horizontais medidas nos

alvos direito e esquerdo da mira e empregando a equação:

M γ4

E

D

P3 γ3 P4

E

D

dmédia

P2

dmédia

P3=M

Page 105: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

87

( ) ( )2

PIPIPDPD EDED −+−=γ (130)

onde:

DPD : direção horizontal da posição direta do alvo direito da mira;

EPD : direção horizontal da posição direta do alvo esquerdo da mira;

DPI : direção horizontal da posição inversa do alvo direito da mira;

EPI : direção horizontal da posição inversa do alvo esquerdo da mira;

Para exemplificar, na Tabela 15, constam os dados para o cálculo de uma

série de observação do ângulo paralático.

Tabela 15 - Cálculo de uma série do ângulo paralático – Goniômetro Th2. POSIÇÃO DIRETA POSIÇÃO DIRETA

SÉRIE ALVO ESQ. ALVO DIR. Diferença

º ' " º ' " º ' " 6 0 1,4 13 13 28,7 7 13 27,3

POSIÇÃO INVERSA POSIÇÃO INVERSA Média Aritmética

ALVO ESQ. ALVO DIR. Diferença 1ª Série de observação

º ' " º ' " º ' " º ' "

186 0 1,8 193 13 28,7 7 13 26,9 7 13 27,1

Na seqüência, o procedimento foi repetido até se exaurir as n séries de

observações do ângulo paralático.

3.3.3.2 Ajustamento do Ângulo Paralático

De posse das n séries de observações do ângulo paralático, passa-se então

para o ajustamento do ângulo paralático. A seguir, apresentam-se o modelo

matemático baseado no princípio método dos mínimos quadrados e as definições

das principais matrizes.

a) Modelo Matemático

Para cada série de observação do ângulo paralático tem-se uma equação de

observação do tipo:

Page 106: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

88

ii vl +=γ , com n,....,1i = (131)

onde:

n : número total de série

il : cada série de observação (ou observações brutas)

γ : ângulo paralático ajustado (parâmetro)

b) Vetor das Observações Brutas

O vetor das observações brutas é formado por n séries de observações

[ ]Tn211bn l..llL = (132)

c) Matriz dos Coeficientes dos Parâmetros

Vetor das derivadas parciais com relação ao ângulo paralático ajustado:

⎥⎥⎥⎥⎥⎥

⎢⎢⎢⎢⎢⎢

=

1..11

A1n (133)

d) Matriz do Ângulo Paralático Ajustado

)PLb.A()PAA( T1T −=γ (134)

e) Matriz Variância Covariância (MVC) das Observações

Na formação da matriz variância covariância foi considerada as incertezas

padrão combinada para cada série igual a ± 2)(u γ , onde ± )(u γ representa a

incerteza padrão angular do goniômetro. Assim, têm-se:

Page 107: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

89

( ) ( ) ( ) ⎥⎦⎤⎢⎣⎡=∑

222

nbn 2)(u..2)(u2)(udiagL γγγ , (135)

f) Matriz dos Pesos

1b

20nn LP −∑= σ (136)

120 =σ →Variância de peso unitário a priori

g) Matriz MVC dos Parâmetros Ajustados

120

2c Nˆ)(u −= σγ (137)

)(u2c γ : variância combinada do ângulo paralático ajustado

3.3.3.3 Depuração de Erros Grosseiros

Feito o ajustamento, partiu-se para a aplicação dos testes estatísticos.

a) Teste Global

Inicialmente, empregou-se o teste Global a um nível de significância %5=α ,

objetivando constar se a discrepância entre 20σ e 2

0σ̂ é significativa.

Rejeitando-se a hipótese básica do teste, interpretou-se que existem erros

grosseiros nas observações. Em seguida, partiu-se para aplicação dos testes Data

Snooping e Tau.

Page 108: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

90

b) Teste Data Snooping

Calcularam-se os resíduos padronizados através da equação:

iv

ii

vwσ

= (138)

Adotando-se para o nível de significância o valor %5=α .

Foi considerada uma observação com erro grosseiro através deste teste

quando:

96,1w 0i =δ> (139)

O valor 1,96 foi retirado da Tabela 8.

c) Teste Tau

Calcularam-se os resíduos studentizados através da equação:

iv

ii ˆ

=τ (140)

Adotando-se para o nível de significância o valor de %5=α .

Foi considerada uma observação com erro grosseiro através deste teste

quando:

94,1205,0i =τ>τ (141)

O valor 1,94 foi obtido através da equação (85)

Page 109: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

91

d) Eliminação das Observações Discrepantes

Na depuração das observações, foi eliminada uma observação de cada vez,

ou seja, aquela que tem maior resíduo em módulo tanto no teste Data Snooping

quanto no teste Tau. Este procedimento se repetiu até quando não mais existiu

observação suspeita de erros grosseiros nos dois testes.

Depois de retirados os erros grosseiros das observações, procedeu-se o

ajustamento final, no qual se obteve então, o ângulo paralático mais provável e sua

respectiva incerteza padrão combinada.

Para a realização destas tarefas, foi desenvolvida uma rotina no software

MATLAB 7.0, representada pelo fluxograma a seguir.

Figura 29 – Fluxograma simplificado da rotina em matlab para ajustamento do

ângulo paralático e detecção dos erros grosseiros.

INÍCIO

ENTRADA DE DADOS Séries do Ângulo Paralático

SAÍDA DE DADOS Ângulo Paralático Ajustado

Incerteza Padrão Combinada

Aplicação do MMQ

Testes Estatísticos

Teste Global H0 foi

rejeitada?

Não

SimData Snooping / Tau H0 foi

rejeitada?

Sim

Distância Interpilar E sua Incerteza Padrão Combinada

Não

Sim

ELIMINA A OBSERVAÇÃOAquela que tem maior

resíduo em módulo

Data Snooping / Tau H0 foi

rejeitada?

Não

ELIMINA A OBSERVAÇÃO Aquela que tem maior

resíduo em módulo

Page 110: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

92

3.4 Método de Schwendener com Uso de Estações Totais

Para as operações de campo e ajustamento das medições das distâncias

interpilares, empregou-se o método desenvolvido por Schwendener (1972) com uso

de estações totais, conforme descrito na seção 2.5.

Para a realização dos dois ajustamentos, foi desenvolvida uma rotina no

software MATLAB 7.0. Essa rotina está representada pelo fluxograma da figura 30.

Figura 30 – Fluxograma simplificado da rotina em matlab para calibração de MED’s.

ENTRADA DE DADOS Vetor dos resíduos e sua MVC – Primeiro Ajustamento

Vinte e oito distâncias ajustadas – Primeiro Ajustamento

Aplicação do MMQ

SAÍDA DE DADOS – ELEMENTOS DO ERRO CÍCLICO Componentes do erro cíclico

Erro cíclico de cada distância ajustada Vetor dos resíduos

INÍCIO DO SEGUNDO AJUSTAMENTO

INÍCIO DO PRIMEIRO AJUSTAMENTO

ENTRADA DE DADOS Metodologia Schwendener

Basímetro Linear – 8 pilares Vinte e oito observações corridas ( constante do prisma + pressão + temperatura)

SAÍDA DE DADOS Erro de Zero e sua incerteza padrão combinada

Vinte e oito distâncias ajustadas e suas respectivas incertezas padrões combinadas Vetor dos resíduos e sua MVC

Aplicação do MMQ

Page 111: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

93

4. APRESENTAÇÃO E ANÁLISE DOS RESULTADOS Este capítulo foi dividido em quatro seções. A primeira apresenta o resultado

da medição da escala do basímetro, empregando o método de otimização de rede

geodésica realizada em 1996, para maiores detalhes consultar Brandão (1996).

Deve-se salientar que esta revisão bibliográfica foi de grande importância para a

presente dissertação. A segunda seção apresenta o resultado da medição da

escala do basímetro empregando o método Goniômetro/Mira. A terceira seção

apresenta o resultado da escala do basímetro empregando o método de

Schwendener (1972) com uso de estações totais. Na quarta seção faz-se uma

comparação entre os diferentes resultados.

4.1 Resultado da Escala do Basímetro - Método de Otimização de Rede Geodésica

As observações no basímetro da UFPE começaram a ser realizadas a partir

de sua implantação em 1990, porém em 1996 é que foi realizada a primeira

definição de sua escala. A seguir é realizada uma síntese do método adotado na

época, bem como apresentaremos os seus resultados.

O método empregado consistiu basicamente na preparação por pré-análise

de um campo de pontos, que foi utilizado como rede geodésica planimétrica, onde

os pontos (pilares do basímetro) fazem parte desse campo de pontos, apresentando

fortes condicionamentos de configuração geométrica, com os pontos (pilares do

basímetro) em disposição colinear.

O objetivo central deste trabalho de simulação foi conseguir uma geometria

adequada da rede, de tal forma, que fosse possível definir uma condição ótima dos

pontos do basímetro. Para isto, empregaram-se os conceitos da teoria das redes

através da aplicação do ajustamento livre.

Para atingir tal objetivo, foram realizadas diversas simulações computacionais

usando o programa NETZ2D da Universidade de Karlsruhe na Alemanha, o qual faz

análise e ajustamento de rede geodésica.

Page 112: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

94

O critério escolhido, para definir uma condição ótima dos pontos do

basímetro, foi que estes pontos apresentassem as menores dispersões possíveis

das elipses de erros (semi-eixo menor) ao longo do alinhamento do basímetro

(Figura 31). As dispersões no sentido transversal ao alinhamento do basímetro não

seriam relevantes para o propósito da metodologia.

Figura 31 – Rede geodésica simulada. Fonte: BRANDÃO (1996).

De posse da rede simulada e adequada, partiu-se para realização da rede,

utilizando os sete pilares já implantados e, como goniômetro, a estação calibrada

Elta-2 da Casa Zeiss Jena, com incerteza padrão de ± 2" na medida dos ângulos

horizontais e verticais e ± (3mm + 3ppm) na distância.

A Tabela 16 apresenta o resultado das distâncias do basímetro obtido pelo

método de otimização de rede geodésicas.

Page 113: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

95

Tabela 16 – Escala do Basímetro (Método Otimização de Rede Geodésica)

Fonte: BRANDÃO (1996).

Distância Incerteza padrão combinada(ajustamento)

Incerteza expandida (informação) Segmento

(m) (mm) (mm)

P1-P2 8,2965 ± 0,3 ±1,5

P2-P3 4,4400 ±0,3 ±1,5

P3-34 33,1272 ±0,3 ±1,5

P4-P5 49,8945 ±0,3 ±1,5

P5-P6 39,4712 ±0,3 ±1,5

P6-P7 32,2617 ±0,3 ±1,5

Segundo Brandão (1996) apoiado no sinal/ruído da teoria da informação

apresentada por Silva (1987), considera-se no ajuste da rede ótima uma

performance de 1/5 . Assim a ordem de incerteza expandida ficou com magnitude de

±1,5mm, isto é, mm 5,15 x mm3,0 ±=± . Ainda, segundo o autor, as distâncias dos

segmentos interpilares, Tabela 16, são consideradas padrão e adequadas para

calibrar distanciômetros com precisão nominal menor que mm 5,1± .

4.2 Método Goniômetro/Mira

A medição da escala do basímetro, através deste método, foi realizada em

três campanhas. A primeira campanha realizada em fevereiro de 2009, utilizou-se o

goniômetro Th 2 da Zeiss, com incerteza padrão angular de ± 1"; a segunda,

realizada na primeira quinzena de março de 2009, utilizou-se o goniômetro da

estação total Trimble 3303, com incerteza padrão angular de ± 3"; e a terceira

campanha, realizada na segunda quinzena de março de 2009, utilizou-se o

goniômetro da estação total trimble 3305, com incerteza padrão angular de ± 5".

Em cada campanha foram medidos 12 ângulos paraláticos, totalizando 36 ao

todo nas três campanhas. Para melhores esclarecimentos, a Figura 32 indica o

ângulo paralático medido em cada segmento.

Page 114: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

96

Figura 32 – Indicação do ângulo paralático medido em cada segmento.

As posições da mira e do goniômetro foram definidas através do estudo

realizado na pré-análise, conforme descrito na seção 3.3.1. Vale ressaltar, que o

estudo da pré-análise é apenas um referencial teórico, não necessariamente, é

obrigatório colocar a mira exatamente no ponto médio, mas pode colocá-la

aproximadamente. Neste sentido, a mira foi colocada próxima dos pontos médios

dos segmentos P3-P4, P4-P5, P5-P6, P6-P7 e P7-P8 nas três campanhas.

E, para cada ângulo paralático foram medidas, no mínimo, 26 séries

utilizando-se o método das direções, conforme descrito na seção 2.2.3.

Concluída a etapa de medição angular em cada campanha, partiu-se para o

cálculo do ajustamento do ângulo paralático depurado dos erros grosseiros,

conforme descritos nas seções 2.4 e 3.3.3.

4.2.1. Ângulos Paraláticos Depurados dos Erros Grosseiros

As Tabelas 17, 18 e 19 apresentam o resultado do ajustamento,

respectivamente, da primeira, segunda e terceira campanha.

P2 P1 P3 P4 P5 P7 P6 P8

γ1 γ2 γ3 γ4 γ5 γ6 γ7 γ8 γ9 γ10 γ11 γ12

Page 115: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

97

Tabela 17 - Ângulos paraláticos depurados dos erros grosseiros

Primeira campanha.

γ ± )(u c γSegmento

Grau Min Seg Seg.

P1-P2 γ1= 13 44 39,42 0,27

P2-P3 γ2= 25 23 20,98 0,13

γ3= 6 53 37,93 0,40 P3-P4

γ4= 6 55 36,13 0,37

γ5= 4 35 31,43 0,27 P4-P5

γ6= 4 35 33,28 0,22

γ7= 5 48 18,36 0,24 P5-P6

γ8= 5 47 47,65 0,28

γ9= 6 58 28,55 0,29 P6-P7

γ10= 7 13 25,28 0,23

γ11= 2 59 1,36 0,20 P7-P8

γ12= 2 59 44,35 0,26

Tabela 18 - Ângulos paraláticos depurados dos erros grosseiros

Segunda campanha.

γ ± )(u c γSegmento

Grau Min Seg Seg.

P1-P2 γ1= 13 44 30,00 0,46

P2-P3 γ2= 25 23 23,08 0,58

γ3= 7 5 52,02 0,27 P3-P4

γ4= 6 43 56,72 0,41

γ5= 5 0 0,38 0,33 P4-P5

γ6= 4 14 41,46 0,23

γ7= 5 47 12,15 0,33 P5-P6

γ8= 5 48 50,92 0,55

γ9= 7 14 19,58 0,43 P6-P7

γ10= 6 57 29,48 0,39

γ11= 3 0 43,66 0,66 P7-P8

γ12= 2 57 59,72 0,42

Page 116: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

98

Tabela 19 - Ângulos paraláticos depurados de erros grosseiros

Terceira campanha.

γ ± )(u c γSegmento

Grau Min Seg Seg.

P1-P2 γ1= 13 44 35,24 0,29

P2-P3 γ2= 25 23 22,66 0,30

γ3= 6 33 14,19 0,37 P3-P4

γ4= 7 18 30,06 0,38

γ5= 4 34 20,24 0,39 P4-P5

γ6= 4 36 40,20 0,23

γ7= 5 46 49,20 0,20 P5-P6

γ8= 5 49 11,21 0,43

γ9= 6 57 20,68 0,23 P6-P7

γ10= 7 14 28,47 0,27

γ11= 2 58 58,02 0,41 P7-P8

γ12= 2 59 44,90 0,35

Observa-se que a incerteza padrão combinada do ângulo paralático ( )(u c γ )

foi menor que ± 0,5" nas três campanhas conforme Tabelas 17, 18 e 19. Isto

significa que o método empregado na medição do ângulo paralático depurado dos

erros grosseiros foi adequado.

4.2.2 Distância de Cada Segmento do Basímetro em Cada Campanha

De posse do ângulo paralático depurado de erros grosseiros, calcularam-se

as distâncias, suas respectivas incertezas padrão combinada e relativa de cada

segmento do basímetro. Para isto, seguiu-se com a seqüência de cálculo definida

na pré-análise, conforme descrito na seção 3.3.1.

As Tabelas 20, 21 e 22 apresentam o resultado dos cálculos,

respectivamente, da primeira, segunda e terceira campanha.

Page 117: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

99

Tabela 20 – Distâncias e suas Incertezas - primeira campanha

Fevereiro de 2009

Distância Incerteza padrão combinada Incerteza padrão combinada relativa Segmento

(m) (mm) (mm)

P1-P2 8,2974 ±0,1 1/82974

P2-P3 4,4393 ±0,0 1/443930

P3-P4 33,1255 ±0,4 1/82814

P4-P5 49,8790 ±0,5 1/99758

P5-P6 39,4749 ±0,4 1/98687

P6-P7 32,2518 ±0,2 1/161259

P7-P8 76,6409 ±1,2 1/63867

Tabela 21 – Distâncias e suas Incertezas - segunda campanha

1ª quinzena de 03/2009

Distância Incerteza padrão combinada Incerteza padrão combinada relativa Segmento

(m) (mm) (mm)

P1-P2 8,2990 ±0,1 1/82990

P2-P3 4,4392 ±0,0 1/147973

P3-P4 33,1253 ±0,3 1/110418

P4-P5 49,8864 ±0,6 1/83144

P5-P6 39,4779 ±0,6 1/65797

P6-P7 32,2575 ±0,4 1/80644

P7-P8 76,6534 ±2,8 1/27376

Tabela 22 – Distâncias e suas incertezas - terceira campanha

2ª quinzena de 03/2009

Distância Incerteza padrão combinada Incerteza padrão combinada relativa Segmento

(m) (mm) (mm)

P1-P2 8,2981 ±0,1 1/82981

P2-P3 4,4392 ±0,0 1/443920

P3-P4 33,1236 ±0,4 1/82809

P4-P5 49,8863 ±0,7 1/71266

P5-P6 39,4806 ±0,5 1/78961

P6-P7 32,2579 ±0,2 1/161290

P7-P8 76,6509 ±1,9 1/40343

Analisando a incerteza padrão combinada relativa isoladamente de cada

campanha, percebe-se facilmente, que as medições das distâncias dos segmentos

atenderam a incerteza padrão combinada relativa de 1/40000, exceto para o

segmento do P7-P8 da segunda campanha. Para este caso, estava previsto no

Page 118: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

100

estudo da pré-análise, pois a incerteza padrão do ângulo paralático deveria ser

menor que ± 0,5" (aproximadamente ± 0,37").

4.2.3 Discrepâncias Entre os Segmentos das Três Campanhas

Na Tabela 23 apresenta as discrepâncias entre os segmentos das três

campanhas.

Tabela 23 – Discrepâncias entre as distâncias entre as campanhas 1ª Camp 2ª Camp 3ª Camp 1ªCamp - 2ªCamp 1ªCamp - 3ªCamp 2ªCamp - 3ªCamp

Segmento (m) (m) (m) (mm) (mm) (mm)

P1-P2 8,2974 8,2990 8,2981 -1,6 -0,7 0,9

P2-P3 4,4393 4,4392 4,4392 0,1 0,1 0,0

P3-P4 33,1255 33,1253 33,1236 0,2 1,9 1,7

P4-P5 49,8790 49,8864 49,8863 -7,4 -7,3 0,1

P5-P6 39,4749 39,4779 39,4806 -3,0 -5,7 -2,7

P6-P7 32,2518 32,2575 32,2579 -5,7 -6,1 -0,4

P7-P8 76,6409 76,6534 76,6509 12,5 10,0 2,5

Analisando-se as discrepâncias (em módulos) entre as distâncias dos

segmentos nas três campanhas, verifica-se que a 1ª campanha mostrou-se com

valores um pouco mais afastados, enquanto que a 2ª e 3ª a máxima discrepância foi

de 2,7 mm.

4.2.4 Resultado da Escala do Basímetro - Método Goniômetro/Mira

A escala do basímetro, empregando este método, foi definida como sendo a

média ponderada das distâncias dos segmentos das três campanhas. E, os pesos

adotados foram os inversos das variâncias das mesmas distâncias e o resultado

encontra-se na Tabela 24.

Page 119: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

101

Tabela 24 – Escala do Basímetro (Goniômetro/Mira)

Distância Incerteza padrão combinadaSegmento

(m) (mm)

P1-P2 8,2982 ±0,5

P2-P3 4,4392 ±0,0

P3-P4 33,1249 ±0,6

P4-P5 49,8830 ±2,6

P5-P6 39,4773 ±1,8

P6-P7 32,2551 ±2,1

P7-P8 76,6449 ±3,7

Vê-se que a incerteza padrão combinada respectivamente dos segmentos P1-

P2, P2-P3 e P3 – P4 foi inferior ao milímetro, enquanto para os demais foi superior.

4.3. Método de Schwendener com uso de Estações Totais

A medição da escala do basímetro, através deste método, foi realizada em

cinco levantamentos em épocas e estações totais diferentes, porém do mesmo

fabricante, conforme Tabela 25.

Tabela 25 – Data dos levantamentos e características das estações totais

Precisão Nominal Levantamento Estação Data

Angular Linear Comprimento

da onda portadora

Primeiro Trimble 3305 2007 Segundo Trimble 3305 07/11/2008 Terceiro Trimble 3305 08/11/2008 Quarto Trimble 3305 09/06/2009

± 5"

Quinto Trimble S20 21/06/2009 ± 3"

a = 2mm b = 2 ppm λ = 20,0m

As operações de campo basearam-se no método aproximado desenvolvido

por Schwendener, conforme descrito na seção 2.5.1.

4.3.1 Correções Meteorológicas

As medidas meteorológicas de pressão e temperatura foram realizadas em

uma das extremidades das seções e introduzidas nas estações.

As estações totais foram configuradas para apresentar as distâncias

horizontais corrigidas das inclinações e correções ambientais, ou seja, as distâncias

Page 120: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

102

inclinadas foram projetadas ortogonalmente, no plano horizontal, a partir dos

ângulos zenitais.

4.3.2 Resultado dos Ajustamentos

Foram realizados dois ajustamentos. No primeiro ajustamento, foram

calculados: o erro de zero, sua incerteza, as 28 distâncias dos segmentos do

basímetro com suas respectivas incertezas, conforme descrito seção 2.5.2.

No segundo ajustamento, foram calculados os elementos de erros cíclicos:

amplitude e fase, conforme descrito na seção 2.5.3. Portanto, este método calcula

incondicionalmente a presença de erro cíclico.

O resultado dos ajustamentos encontra-se nas Tabelas 26, 27, 28, 29 e 30,

constando para cada segmento do basímetro:

• distâncias horizontais corrigidas das correções ambientais e da constante

do prisma (35 mm): ijd ;

• distâncias ajustadas: aijd ;

• incerteza padrão combinada das distâncias ajustadas: )d(u aijc ;

• resíduos resultantes do primeiro ajustamento: ijV ;

• erros cíclicos do segundo ajustamento: ijEc ;

• resíduos do segundo ajustamento: ijv .

Page 121: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

103

Tabela 26 – Primeiro levantamento realizado em 2007.

ijd aijd ± )d(u a

ijc ijV ijEc ijv Segmento

(m) (m) (mm) (mm) (mm) (mm)

P1-P2 8,2960 8,2986 0,6 0,6 0,1 -0,5

P1-P3 12,7370 12,7377 0,7 -1,3 -0,1 1,2

P1-P4 45,8620 45,8642 0,7 0,1 0,1 0,0

P1-P5 95,7510 95,7532 0,8 0,1 0,1 -0,1

P1-P6 135,2330 135,2350 0,9 0,0 0,1 0,1

P1-P7 167,4910 167,4935 1,1 0,4 0,1 -0,4

P2-P3 4,4360 4,4391 0,6 1,1 0,0 -1,1

P2-P4 37,5640 37,5656 0,7 -0,4 0,1 0,5

P2-P5 87,4520 87,4546 0,7 0,6 0,1 -0,5

P2-P6 126,9350 126,9365 0,8 -0,6 0,1 0,7

P2-P7 159,1930 159,1949 0,9 -0,1 0,0 0,1

P3-P4 33,1260 33,1264 0,6 -1,6 -0,1 1,5

P3-P5 83,0120 83,0154 0,7 1,4 -0,1 -1,5

P3-P6 122,4950 122,4973 0,7 0,3 -0,1 -0,4

P3-P7 154,7540 154,7557 0,8 -0,3 0,0 0,3

P4-P5 49,8870 49,8890 0,6 0,0 0,0 0,0

P4-P6 89,3690 89,3709 0,7 -0,2 0,0 0,1

P4-P7 121,6290 121,6293 0,7 -1,7 -0,1 1,6

P5-P6 39,4800 39,4819 0,6 -0,2 0,0 0,1

P5-P7 71,7360 71,7403 0,7 2,3 -0,1 -2,4

P6-P7 32,2570 32,2584 0,6 -0,6 -0,1 0,5

Page 122: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

104

Tabela 27 – Segundo levantamento realizado 07/11/2008.

ijd aijd ± )d(u a

ijc ijV ijEc ijv Segmento

(m) (m) (mm) (mm) (mm) (mm)

P1-P2 8,2950 8,2994 0,4 -0,3 0,1 0,4

P1-P3 12,7340 12,7396 0,4 0,9 0,0 -0,9

P1-P4 45,8600 45,8657 0,5 0,9 0,0 -1,0

P1-P5 95,7500 95,7541 0,5 -0,6 0,0 0,6

P1-P6 135,2330 135,2376 0,6 -0,2 -0,1 0,1

P1-P7 167,4910 167,4958 0,6 0,0 0,0 0,0

P1-P8 244,1510 244,1551 0,7 -0,7 -0,1 0,6

P2-P3 4,4360 4,4402 0,4 -0,6 -0,1 0,5

P2-P4 37,5620 37,5663 0,4 -0,5 0,0 0,6

P2-P5 87,4490 87,4547 0,5 0,9 0,0 -0,9

P2-P6 126,9340 126,9382 0,5 -0,6 0,0 0,6

P2-P7 159,1910 159,1964 0,6 0,6 0,1 -0,5

P2-P8 235,8510 235,8557 0,6 -0,1 0,0 0,1

P3-P4 33,1220 33,1261 0,4 -0,7 -0,1 0,7

P3-P5 83,0090 83,0145 0,4 0,7 -0,1 -0,8

P3-P6 122,4930 122,498 0,5 0,2 0,0 -0,2

P3-P7 154,7510 154,7562 0,5 0,4 -0,1 -0,4

P3-P8 231,4110 231,4155 0,6 -0,3 0,0 0,3

P4-P5 49,8830 49,8884 0,4 0,7 0,1 -0,6

P4-P6 89,3680 89,3719 0,4 -0,9 0,1 1,0

P4-P7 121,6250 121,6301 0,5 0,3 0,0 -0,3

P4-P8 198,2850 198,2894 0,5 -0,4 0,1 0,4

P5-P6 39,4790 39,4834 0,4 -0,3 0,1 0,4

P5-P7 71,7360 71,7416 0,4 0,9 0,0 -0,9

P5-P8 148,3950 148,401 0,5 1,2 0,1 -1,1

P6-P7 32,2550 32,2582 0,4 -1,6 0,0 1,6

P6-P8 108,9130 108,9175 0,4 -0,3 0,1 0,3

P7-P8 76,6540 76,6593 0,4 0,5 0,0 -0,5

Page 123: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

105

Tabela 28 – Terceiro levantamento realizado 08/11/2008.

ijd aijd ± )d(u a

ijc ijV ijEc ijv Segmento

(m) (m) (mm) (mm) (mm) (mm)

P1-P2 8,2940 8,2987 0,9 0,3 -0,4 -0,7

P1-P3 12,7310 12,7381 1,0 2,7 0,4 -2,4

P1-P4 45,8600 45,8642 1,0 -0,2 -0,1 0,1

P1-P5 95,7480 95,7514 1,1 -1,0 0,0 1,0

P1-P6 135,2330 135,2344 1,2 -3,0 0,1 3,1

P1-P7 167,4890 167,4931 1,4 -0,3 -0,4 -0,1

P1-P8 244,1460 244,1518 1,5 1,4 0,3 -1,1

P2-P3 4,4330 4,4394 0,9 2,0 0,2 -1,8

P2-P4 37,5610 37,5655 1,0 0,1 -0,4 -0,5

P2-P5 87,4500 87,4527 1,0 -1,7 -0,4 1,4

P2-P6 126,9340 126,9356 1,1 -2,8 -0,3 2,5

P2-P7 159,1880 159,1944 1,2 2,0 -0,3 -2,3

P2-P8 235,8480 235,8531 1,4 0,7 -0,1 -0,8

P3-P4 33,1215 33,1261 0,9 0,2 0,4 0,2

P3-P5 83,0070 83,0133 1,0 1,9 0,4 -1,5

P3-P6 122,4910 122,4962 1,0 0,8 0,4 -0,5

P3-P7 154,7490 154,7550 1,1 1,6 0,2 -1,4

P3-P8 231,4090 231,4137 1,2 0,3 0,2 -0,1

P4-P5 49,8820 49,8872 0,9 0,8 -0,2 -0,9

P4-P6 89,3670 89,3701 1,0 -1,3 -0,3 1,0

P4-P7 121,6240 121,6289 1,0 0,5 0,2 -0,2

P4-P8 198,2830 198,2876 1,1 0,2 -0,4 -0,6

P5-P6 39,4780 39,4830 0,9 0,6 -0,2 -0,8

P5-P7 71,7380 71,7417 1,0 -0,7 0,3 0,9

P5-P8 148,3960 148,4004 1,0 0,0 -0,4 -0,4

P6-P7 32,2570 32,2587 0,9 -2,6 0,3 3,0

P6-P8 108,9160 108,9175 1,0 -2,9 -0,3 2,6

P7-P8 76,6540 76,6587 0,9 0,3 -0,2 -0,6

Page 124: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

106

Tabela 29 – Quarto levantamento realizado 09/06/2009.

ijd aijd ± )d(u a

ijc ijV ijEc ijv Segmento

(m) (m) (mm) (mm) (mm) (mm)

P1-P2 8,3000 8,2994 0,9 -2,2 0,0 2,2

P1-P3 12,7360 12,7388 0,9 1,2 0,0 -1,2

P1-P4 45,8660 45,8670 1,0 -0,6 -0,1 0,6

P1-P5 95,7490 95,7529 1,1 2,3 -0,1 -2,3

P1-P6 135,2380 135,2361 1,2 -3,5 -0,1 3,4

P1-P7 167,4930 167,4958 1,3 1,2 -0,1 -1,2

P1-P8 244,1520 244,1553 1,5 1,7 0,0 -1,7

P2-P3 4,4390 4,4394 0,9 -1,2 0,0 1,2

P2-P4 37,5670 37,5676 0,9 -1,0 0,0 1,0

P2-P5 87,4510 87,4535 1,0 0,8 -0,1 -0,9

P2-P6 126,9340 126,9367 1,1 1,1 -0,1 -1,2

P2-P7 159,1960 159,1964 1,2 -1,2 0,0 1,3

P2-P8 235,8550 235,8559 1,3 -0,7 -0,1 0,6

P3-P4 33,1280 33,1282 0,9 -1,4 0,0 1,5

P3-P5 83,0110 83,0141 0,9 1,4 0,0 -1,4

P3-P6 122,4960 122,4973 1,0 -0,3 0,1 0,3

P3-P7 154,7550 154,7570 1,1 0,4 0,0 -0,4

P3-P8 231,4150 231,4165 1,2 -0,1 0,1 0,2

P4-P5 49,8830 49,8859 0,9 1,3 0,1 -1,2

P4-P6 89,3680 89,3692 0,9 -0,4 0,0 0,5

P4-P7 121,6290 121,6288 1,0 -1,8 0,1 1,9

P4-P8 198,2890 198,2883 1,1 -2,3 0,0 2,2

P5-P6 39,4790 39,4833 0,9 2,7 0,0 -2,6

P5-P7 71,7400 71,7429 0,9 1,3 0,1 -1,2

P5-P8 148,3990 148,4025 1,0 1,8 0,0 -1,9

P6-P7 32,2580 32,2597 0,9 0,0 0,1 0,0

P6-P8 108,9180 108,9192 0,9 -0,4 0,0 0,4

P7-P8 76,6580 76,6595 0,9 -0,1 -0,1 0,0

Page 125: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

107

Tabela 30 – Quinto levantamento realizado 21/06/2009.

ijd aijd ± )d(u a

ijc ijV ijEc ijv Segmento

(m) (m) (mm) (mm) (mm) (mm)

P1-P2 8,2993 8,2991 0,5 -1,1 -0,4 0,8

P1-P3 12,7361 12,7378 0,5 0,8 0,3 -0,5

P1-P4 45,8652 45,8653 0,6 -0,8 0,0 0,8

P1-P5 95,7504 95,7523 0,6 1,1 0,0 -1,0

P1-P6 135,2358 135,2364 0,7 -0,3 0,1 0,4

P1-P7 167,4935 167,4941 0,8 -0,3 -0,3 0,0

P1-P8 244,1521 244,1536 0,8 0,6 0,3 -0,3

P2-P3 4,4372 4,4387 0,5 0,6 0,3 -0,4

P2-P4 37,5666 37,5662 0,5 -1,3 -0,3 1,0

P2-P5 87,4518 87,4533 0,6 0,6 -0,3 -0,9

P2-P6 126,9373 126,9373 0,6 -0,9 -0,2 0,7

P2-P7 159,1938 159,1950 0,7 0,3 -0,3 -0,6

P2-P8 235,8542 235,8545 0,8 -0,5 0,0 0,6

P3-P4 33,1273 33,1275 0,5 -0,7 0,4 1,1

P3-P5 83,0122 83,0145 0,5 1,4 0,3 -1,1

P3-P6 122,4978 122,4986 0,6 -0,1 0,3 0,4

P3-P7 154,7546 154,7563 0,6 0,8 0,2 -0,6

P3-P8 231,4148 231,4158 0,7 0,1 0,1 0,0

P4-P5 49,8860 49,8870 0,5 0,2 -0,2 -0,4

P4-P6 89,3715 89,3711 0,5 -1,3 -0,3 1,0

P4-P7 121,6286 121,6288 0,6 -0,7 0,2 0,8

P4-P8 198,2884 198,2883 0,6 -1,0 -0,4 0,6

P5-P6 39,4822 39,4840 0,5 1,0 -0,3 -1,2

P5-P7 71,7394 71,7418 0,5 1,5 0,2 -1,3

P5-P8 148,3996 148,4013 0,6 0,8 -0,4 -1,1

P6-P7 32,2576 32,2577 0,5 -0,8 0,3 1,0

P6-P8 108,9172 108,9172 0,5 -0,9 -0,3 0,5

P7-P8 76,6578 76,6595 0,5 0,8 -0,2 -1,0

Nos cincos levantamentos, o erro cíclico foi menor ou igual a 0,4 mm em

módulo para cada distância ajustada, enquanto a incerteza padrão combinada foi

superior a este valor, neste sentido desprezou-se o erro cíclico neste trabalho.

4.3.2.1 Análise dos Ajustamentos

Na análise do ajustamento foi levado em consideração o seguinte:

Page 126: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

108

1. sendo a variância da unidade de peso a posteriori menor do que a unidade

nos ajustamentos, pode-se concluir que os pesos atribuídos as medidas são

pessimistas e, portanto a incerteza do instrumento utilizado nas medições é

melhor do que a fornecida pelo fabricante (PACILEO NETTO, 1990);

2. O método desenvolvido por Schwendener (1972) objetiva determinar o erro

de zero e uma estimativa dos elementos do erro cíclico, quando não se

dispõe da escala de referência do basímetro. Para sua aplicação na

determinação da escala de referência, necessita-se de instrumento aferido,

calibrado e rastreado aos padrões nacionais de metrologia. Neste sentido, as

distâncias ajustadas contidas nas Tabelas 26, 27, 28, 29 e 30 incorporam os

seguintes erros sistemáticos: erros de escala e erro de refração.

Na Tabela 31, encontram-se as variâncias da unidade de peso a posteriori

nos dois ajustamentos e, na Tabela 32, o erro de zero, sua incerteza padrão

combinada, e amplitude e fase do erro cíclico.

Tabela 31 – Variância da unidade de peso a posteriori dos levantamentos Ajustamentos

Levantamento Primeiro Segundo

Primeiro 0,31σ 20 =ˆ 0,23σ 2

0 =ˆ

Segundo 0,16σ 20 =ˆ 0,12σ 2

0 =ˆ

Terceiro 0,80σ 20 =ˆ 0,56σ 2

0 =ˆ

Quarto 0,76σ 20 =ˆ 0,58σ 2

0 =ˆ

Quinto 0,25σ 20 =ˆ 0,17σ 2

0 =ˆ

Tabela 32 – Erro de zero e sua incerteza e elementos do erro cíclico Erro de Zero Elementos do erro cíclico

Levantamento oz (mm) ± )z(u oc (mm) A (mm) B(m)

Primeiro 2,0 0,5 0,1 0,8480 Segundo 4,8 0,3 0,1 -1,6162 Terceiro 4,4 0,7 0,4 -0,5494 Quarto 1,6 0,7 0,1 1,3077 Quinto 0,9 0,4 0,4 -0,8916

Tomando como referência a primeira consideração feita anteriormente,

percebe-se que nos dois ajustamentos de cada levantamento, conforme Tabela 31,

as variâncias da unidade peso a posteriori são menores que a unidade, o que indica,

Page 127: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

109

portanto, os cinco levantamentos podem ser considerados satisfatórios. Desta

forma, os cinco levantamentos foram utilizados para definir a escala do basímetro

empregando este método.

4.3.3 Discrepâncias entre os Segmentos dos Cinco Levantamentos

Na Tabela 33, foram colocadas as distâncias ajustadas com as respectivas

incertezas padrões combinadas dos principais segmentos, ou seja, P1-P2, P2-P3,

P3-P4, P4-P5, P5-P6, P6-P7 e P7-P8, as quais foram retiradas das respectivas

Tabelas 26, 27, 28, 29 e 30. E, na Tabela 35, contém as discrepâncias entre os

cinco levantamentos.

Tabela 33 – Distâncias ajustadas e suas incertezas dos cinco levantamentos 1o Lev )d(u a

ijc± 2o Lev )d(u aijc± 3o Lev )d(u a

ijc± 4o Lev )d(u aijc± 5o Lev )d(u a

ijc±Seg.

(m) (mm) (m) (mm) (m) (mm) (mm) (mm) (mm) (mm)

P1-P2 8,2986 0,6 8,2994 0,4 8,2987 0,9 8,2994 0,9 8,2991 0,5

P2-P3 4,4391 0,6 4,4402 0,4 4,4394 0,9 4,4394 0,9 4,4387 0,5

P3-P4 33,1264 0,6 33,1261 0,4 33,1261 0,9 33,1282 0,9 33,1275 0,5

P4-P5 49,889 0,6 49,8884 0,5 49,8872 0,9 49,8859 0,9 49,887 0,5

P5-P6 39,4819 0,6 39,4834 0,4 39,483 0,9 39,4833 0,9 39,484 0,5

P6-P7 32,2584 0,6 32,2582 0,4 32,2587 0,9 32,2597 0,9 32,2577 0,5

P7-P8 - - 76,6593 0,4 76,6587 0,9 76,6595 0,9 76,6595 0,5

Tabela 34 – Discrepâncias entre as distâncias dos cinco levantamentos

1o – 2o 1o – 3o 1o – 4o 1o – 5o 2o – 3o 2o – 4o 2o – 5o 3o – 4o 3o – 5o 4o – 5o Segmento (mm) (mm) (mm) (mm) (mm) (mm) (mm) (mm) (mm) (mm)

P1-P2 -0,8 -0,1 -0,8 -0,5 0,7 0,0 0,3 -0,7 -0,4 0,3

P2-P3 -1,1 -0,3 -0,3 0,4 0,8 0,8 1,5 0,0 0,7 0,7

P3-P4 0,3 0,3 -1,8 -1,1 0,0 -2,1 -1,4 -2,1 -1,4 0,7

P4-P5 0,6 1,8 3,1 2,0 1,2 2,5 1,4 1,3 0,2 -1,1

P5-P6 -1,5 -1,1 -1,4 -2,1 0,4 0,1 -0,6 -0,3 -1,0 -0,7

P6-P7 0,2 -0,3 -1,3 0,7 -0,5 -1,5 0,5 -1,0 1,0 2,0

P7-P8 - - - - 0,6 -0,2 -0,2 -0,8 -0,8 0,0

Analisando as discrepâncias (em módulo) entre as distâncias dos segmentos

presentes na Tabela 34, percebe-se que todas estão compatíveis com as incertezas

dos instrumentos empregados neste trabalho (em torno de ± 2 mm), exceto a

discrepância de 3,1 mm do segmento P4-P5.

Page 128: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

110

4.3.4 Resultado da Escala do Basímetro – Método Schwendener

A escala do basímetro, empregando este método, foi definida com sendo a

média ponderada das distâncias dos segmentos dos cinco levantamentos. E, os

pesos adotados foram os inversos das variâncias das mesmas distâncias e o

resultado encontra-se na Tabela 35.

Tabela 35 – Escala do Basímetro (Schwendener) Distância Incerteza padrão combinadaSegmento (m) (mm)

P1-P2 8,2991 ±0,2 P2-P3 4,4395 ±0,3 P3-P4 33,1267 ±0,4 P4-P5 49,8879 ±0,5 P5-P6 39,4832 ±0,3 P6-P7 32,2583 ±0,3 P7-P8 76,6593 ±0,1

Vê-se que a incerteza padrão combinada de cada segmento do basímetro foi

inferior ao milímetro.

4.4 Discrepâncias entre as Escalas do Basímetro - Três Métodos

Analisando as incertezas padrões combinadas para cada método

separadamente (otimização de rede, goniômetro/mira e Schwendener com uso de

estações totais), em sua grande maioria são inferiores a ±1 mm, conforme se vê nas

Tabelas 16, 24 e 35. Exceto para os segmentos P4-P5, P5-P6, P6-P7 e P7-P8 do

método Goniômetro/Mira da Tabela 25.

E, na Tabela 36 são apresentadas as discrepâncias entre as escalas do

basímetro, respectivamente, obtidas com aplicação dos três métodos. Quando se

analisa estas discrepâncias em valores absolutos, o resultado mostra que a grande

maioria são superiores a 1,5 mm.

Page 129: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

111

Tabela 36 – Discrepâncias entre as escalas (três métodos).

Segmento

Otimização de rede

(m) (1)

Goniômetro/Mira(m) (2)

Schwendener/ Estação total

(m) (3)

Discrepância(mm) (1)-(2)

Discrepância (mm) (1)-(3)

Discrepância(mm) (2)-(3)

P1-P2 8,2965 8,2982 8,2991 -1,7 -2,6 -0,9 P2-P3 4,4400 4,4392 4,4395 0,8 0,5 -0,3 P3-P4 33,1272 33,1249 33,1267 2,3 0,5 -1,8 P4-P5 49,8945 49,8830 49,8879 11,5 6,6 -4,9 P5-P6 39,4712 39,4773 39,4832 -6,1 -12,0 -5,9 P6-P7 32,2617 32,2551 32,2583 6,6 3,4 -3,2 P7-P8 - 76,6449 76,6593 - - -14,4

Além disso, as discrepâncias (em módulo) nas distâncias entre os pilares (P1-

P2, P2-P3, P3-P4) dos métodos utilizados, têm valor máximo de 2,6 mm. No

entanto, entre os pilares (P4-P5, P5-P6, P6-P7 e P7-P8) a discrepância chega a

atingir a ordem do centímetro, com valor máximo de 1,44 cm.

Considerando que não houve deslocamento entre os pilares lateralmente ou

verticalmente, as discrepâncias em módulos indicam que a incerteza da escala é

superior aos ±1,5 mm definidos em Brandão (1996). Neste sentido, com os dados

deste trabalho, o que se pode afirmar é que a incerteza para a escala está ao nível

centimétrico, portanto na aceitação da mesma, como padrão para determinação do

fator de escala, deve-se empregar MED’s a serem calibrados que tenham menor

precisão do que tais incertezas. Por outro lado, o basímetro da UFPE pode ser

utilizado para determinação, principalmente, da constante aditiva e uma estimativa

dos elementos do erro cíclico, os quais são erros que não necessitam do

conhecimento da escala padrão.

Se esta variação de escala tiver sido provocada por deslocamentos dos

pilares, total ou parcialmente, as afirmações feitas relativas à variação de escala do

basímetro, necessitam ser novamente estudadas e interpretadas sob à luz da

deformação plástica de solos e pilares.

Page 130: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

112

4.4.1 Teste para a Diferença entre as Médias dos Métodos Goniômetro/Mira e Schwendener com uso de Estações Totais

A fim de verificar se existe ou não discrepâncias significativas entre as médias

ponderadas das distâncias de todos os segmentos, foram estabelecidas a hipótese

nula ( Ho ) e alternativa ( Ha ), em que:

0}d{E:Ho 1 = (142)

0}d{E:Ha 1 ≠ (143)

onde:

E : esperança matemática

1d : é a diferença (discrepância) entre a distância média obtida empregando o

método Goniômetro/Mira com relação ao método Schwendener.

A equação da estatística para testar a hipótese formulada pelas equações

(142) e (143), é dada por:

( )

2

22c

1

12c

21

n)q(u

n)q(u

qqt

+

−= (144)

onde:

1q : média ponderada do segmento - método Goniômetro/Mira;

2q : média ponderada do segmento - método Schwendener;

)q(u 1c : incerteza padrão combinada da média ponderada - método

Goniômetro/Mira;

Page 131: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

113

)q(u 2c : incerteza padrão combinada da média ponderada - método

Schwendener;

1n : número de campanhas;

2n : número de levantamentos;

:t estatística do teste.

Este método foi desenvolvido por Aspin-Welch, conforme discutido por Costa

Neto (1977), e obedece à distribuição t Student, o qual considera os desvios padrões

populacionais 1σ e 2σ desconhecidos e supostamente diferentes.

A hipótese nula Ho não é rejeitada, ao nível de significância α com grau de

liberdade v calculado pela expressão (146), se:

22

ttt αα <<−

(145)

1nw

1nw

)ww(v

2

22

1

21

221

−+

+= (146)

onde:

1

12c

1 n)q(u

w = e 2

22c

2 n)q(u

w =

A Figura 33 apresenta as regiões de aceitação e rejeição.

Page 132: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

114

Figura 33 – Regiões de aceitação e rejeição do teste t.

Na Tabela 37 apresentam-se o resumo das medições e o resultado da

aplicação do teste para confrontação do método Goniômetro/Mira com o método

Schwendener. Nela lê-se a média ponderada, incerteza padrão combinada da

média, número de amostra (campanha/levantamento) e conclusão do teste para Ho

para cada segmento do basímetro obtido através dos dois métodos. O objetivo foi

identificar se existe ou não diferença significativa entre as médias dos dois métodos

a um nível de significância %5=α .

Tabela 37 – Resumo das medições e análise dos dois métodos. Método Goniômetro/Mira Método de Schwendener

Segmentos Média Ponderada

(m)

Incerteza padrão combinada da média

(mm)

Número de

camp.

Média Ponderada

(m)

Incerteza padrão combinada da média

(mm)

Número de lev.

Conclusão do teste para

Ho

P1-P2 8,2982 ± 0,5 3 8,2991 ± 0,2 5 Aceita-se P2-P3 4,4392 ± 0,0 3 4,4395 ± 0,3 5 Aceita-se P3-P4 33,1249 ± 0,6 3 33,1267 ± 0,4 5 Rejeita-se P4-P5 49,8830 ± 2,6 3 49,8879 ± 0,5 5 Aceita-se P5-P6 39,4773 ± 1,8 3 39,4832 ± 0,3 5 Rejeita-se P6-P7 32,2551 ± 2,1 3 32,2583 ± 0,3 5 Aceita-se P7-P8 76,6449 ± 3,7 3 76,6593 ± 0,1 4 Rejeita-se

A rejeição das três distâncias (P3-P4; P5-P6 e P7-P8) é um indicativo que a

escala do basímetro para os métodos não são compatíveis. As distâncias P1-P2 e

P2-P3, no entanto, foram aceitas como coerentes em termos de escala com

discrepância em torno de 1 mm.

2

tα− 2

tα t

)t(f

Região de Aceitação

Região de Rejeição

v

Page 133: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímeto Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

115

5. CONCLUSÕES E RECOMENDAÇÕES

5.1 Conclusões

Com a metodologia adotada no presente trabalho, coletaram-se e depuram-se

dados obtendo resultados indicadores de coerência entre as escalas obtidas apenas

para os segmentos P1-P2 e P2-P3.

Este trabalho demonstrou que o basímeto linear de oito pilares da UFPE não

está apto a determinar o fator de escala dos MED’s enquadrados na classificação da

NBR 13.133. Pois a incerteza de sua escala encontra-se garantida ao nível do

milímetro apenas para os segmentos P1-P2 e P2-P3, estando os restantes

segmentos garantidos apenas ao nível centimétrico.

Os números mostraram que a escala do basímetro obtida em 1996 através de

otimização de rede simulada, quando comparada com aos outros métodos de

medições realizadas neste trabalho, apresentaram-se discrepâncias acima de 1,5

mm em sua grande maioria.

A técnica de medição da distância com o método Goniômetro/Mira em cada

campanha isoladamente, após o ajustamento e depuração dos erros grosseiros na

medição do ângulo paralático, mostrou-se com incerteza padrão combinada relativa

melhor do que 1/40000.

As incertezas das distâncias ajustadas dos segmentos obtidas pela

distanciometria eletrônica, empregando o método de Schwenderner com uso de

estações totais, ficaram dentro dos limites das especificações dos equipamentos

empregados, ou seja, menores que ± 2 mm.

Nos cincos levantamentos realizados com a distanciometria eletrônica no

basímetro da UFPE, os instrumentos apresentaram amplitude do erro cíclico inferior

ao milímetro, todavia esses resultados não foram confrontados com resultados de

métodos mais específicos para tal finalidade, ficando, pois, como uma alternativa de

novas verificações.

Page 134: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímeto Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

116

5.2 Recomendações

Recomenda-se desenvolver esforços juntos à administração da Universidade

Federal de Pernambuco para a construção de um novo basímetro linear de maior

tamanho, cuja extensão permita avaliar mais adequadamente os três principais erros

sistemáticos dos MED’s. Para a medição da sua escala, o ideal seria utilizar

equipamentos de medição de distâncias com incertezas sub-milimétricas, rastreados

aos padrões nacionais de metrologia.

Recomenda-se a continuidade da pesquisa com equipamentos e métodos

mais refinados a fim de se ter uma escala homogênea do basímetro, de preferência

com incerteza de no máximo ±1 mm, para torná-lo apto à determinação do fator de

escala dos MED’s.

Recomenda-se ainda a continuidade dos estudos a fim de viabilizar o método

Goniômetro/Mira como um método alternativo de referência para definição da escala

de pequenos basímetros.

Recomenda-se o monitoramento físico dos pilares de basímetros lineares

semestralmente, para garantir a sua rastreabilidade. Com isso deve-se incentivar a

disseminação da cultura metrológica nas Universidades e nas aplicações das

Ciências Geodésicas no país.

Recomenda-se aos usuários da instrumentação da geodésica brasileira a

observarem nos seus trabalhos técnicos o jargão do Vocabulário Internacional de

Termos Gerais e Fundamentais da Metrologia (VIM), a fim de num futuro próximo

poder haver a padronização dos termos com as demais áreas de conhecimento

humano; recomendando-se que para a avaliação das incertezas das grandezas

geodésicas, também seja verificado os procedimentos baseados no “Guia para

Expressão da Incerteza de Medição”, conhecido popularmente com ISO GUM; e

Desenvolver esforços juntos as empresas prestadores de serviços para que

as mesmas passem a adotar uma consciência metrológica no sentido de efetuar

calibração de seus equipamentos de medição de distâncias nas bases multipilares e

Page 135: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímeto Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

117

classificar os demais equipamentos geodésicos segundo as normas técnicas

brasileiras.

Page 136: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

118

REFERÊNCIAS BIBLIOGRÁFICAS ABNT. ASSOCIAÇÃO BRASILEIRA DE NORMAS TÉCNICAS. (1994). NBR 13.133:

Execução de levantamento topográfico. Rio de Janeiro, 35p. BAARDA, W. (1968). A testing procedure for use in geodetic networks.

Netherlands Geodetic Commission. Publications on Geodesy. Série 2. N. 5. Delft , Netherlands. 97p.

BRANDÃO, A. C. (1996). Possibilidades de emprego de um campo de pontos

planimétrico como definidor de um comparador de distâncias colineares. Dissertação de Mestrado, Curitiba: Universidade Federal do Paraná – Engenharia Cartográfica. 131p.

BRASIL (1968). Ministério do Exército, Estado Maior do Exército, Manual

Técnico – Serviço Geográfico. 1º fascículo (1ª e 2ª partes). 83p. CORDINI, J. (1991). Determinação do erro cíclico em distanciômetros

Eletrônicos. Dissertação de Mestrado, Curitiba: Universidade Federal do Paraná – Engenharia Cartográfica. 138p.

COSTA NETO, P. L. O. (1977). Estatística. 1. Ed. São Paulo: Edgard Blücher. 264p. DALMOLIN, Q. (2004). Ajustamento por mínimos quadrados. 2ª Ed. Curitiba:

Imprensa Universitária – UFPR. 175p. DOUBEK, A. (1974). Levantamentos eletrônicos. Curso de Pós-Graduação em

Ciências Geodésicas da UFPR, Curitiba, 123p. ESPARTEL, L. (1987). Curso de topografia. Rio de Janeiro: Ed. Globo. 655p. FAGGION, P. L. (2001). Obtenção dos elementos de calibração e certificação de

medidores eletrônicos de distância em campo e laboratório. Tese de Doutorado, Curitiba: Universidade Federal do Paraná – Eng. Cartográfica. 131p.

FAGGION, P. L; SILVA, T. F; ADOLFATO, S. H. D; SANTOS, D. P. (2008).

Calibração de mira horizontal de ínvar e sua aplicação com alta precisão. II SIMGEO – Simpósio de Ciências Geodésicas e Tecnologias da Geoinformação. Anais. Recife.

FIDÉLIS, G. C. (2006). Confiabilidade metrológica: as características desejadas

para um padrão de calibração. Revista Metrologia e Qualidade. Florianópolis. Ano 1, n. 05, p.13-15.

GEMAEL, C. (1994). Introdução ao ajustamento de observações: aplicações

geodésicas. Curitiba: Editora UFPR. 319p. GILLER, P. (2007). Análise da rastreabilidade em sistema para calibrações

remotas de padrões de freqüências. Dissertação de Mestrado, Florianópolis:

Page 137: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

119

Universidade Federal de Santa Catarina – Pós-Graduação em Metrologia Científica e Industrial. 147p.

GOMES, J. P. (2006). Determinação de desníveis de precisão utilizando estação

total. Dissertação de Mestrado, Curitiba: Universidade Federal do Paraná – Engenharia Cartográfica. 121p.

GRIPP, J. J. (1986). Calibração de distanciômetros eletrônicos com medidas de

campo. Dissertação de Mestrado, Curitiba: Universidade Federal do Paraná – Engenharia Cartográfica. 115p.

INMETRO. INSTITUTO NACIONAL DE METROLOGIA, NORMALIZAÇÃO E

QUALIDADE INDUSTRIAL. (2003). Terceira Edição Brasileira do Guia para expressão da incerteza de medição. Guide to the Expression of Uncertainty in Measurement – ISO GUM. 120p.

__________(2007). Vocabulário Internacional de Termos Fundamentais e

Gerais de Metrologia, 5ª ed, Inmetro, Rio de Janeiro. Acessado em 08/07/2009. Disponível em www.inmetro.gov.br – Publicações. 75p.

JORDAN, W. (1944). Tratado General de Topografia. Editorial Gustavo Gili S. A.,

Vol II, Barcelona. 572p. KAHMEN, H. e FAIG, W. (1988). Surveying. Berlin: De Gruyter. 577p. KAVOURAS, M.(1982). On detection of outliers and the determination of

reliability in geodetic networks. Technical report, n. 87. New Brunswick: Departament Surveying Engineering, University of New Brunswick. 121p.

KUANG, S. (1996). Geodetic network analysis and optimal design: concepts

and apllications. 1st.ed. Michigan: Ann Arbor, Inc. Chelsea, Michigan. 368p. LEICK, A. (1995). GPS: Satellite Surveying. 2nd.ed. New York: John Wiley & Sons,

Incorporation. 560p. MARQUES, J. M. (1994). O método de análise de componentes principais na

detecção e identificação de outliers múltiplos em fototriangulação. Tese de Doutorado, Curitiba: Universidade Federal do Paraná – Engenharia Cartográfica. 131p.

MARTINI, L. (2005). Calibração de prismas de reflexão total em forma de fita

adesiva, em acrílico e sua aplicação no controle de deslocamentos de estruturas. Dissertação de Mestrado, Curitiba: Universidade Federal do Paraná – Engenharia Cartográfica. 99p.

MEDINA, A S. (1998). Classificação de teodolitos e estações totais na UFPR.

Dissertação de mestrado, Curitiba: Universidade Federal do Paraná – Engenharia Cartográfica. 108p.

Page 138: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

120

MIKHAIL, E. M. e GRACIE, G. (1981). Analysis and adjustment of survey measurements. New York: Van Nostrand Reinhold Company. 340p.

MIRANDA, F. D. D. (2007). Metodologia para o monitoramento de pontos em

áreas instáveis empregando-se estações totais. Dissertação de Mestrado, Curitiba: Universidade Federal do Paraná – Engenharia Cartográfica. 100p.

MORAES, C. V. (1997). Aplicação do ajustamento às poligonais. Dissertação de

Mestrado, Curitiba: Universidade Federal do Paraná – Engenharia Cartográfica. 162p.

MÜRLE, M.; BILL, R. (1984). Zuverlässigkeits - und Genauigkeitsuntersuchung

ebener geodätisher Netze. Allgemeine Vermessungs-Nachrichten, Kalsruhe, v. 91, n. 2, p. 45-62.

NADAL, C. A. (2000). Método de interseção óptica tridimensional aplicado à

engenharia de precisão. Tese de Doutorado, Curitiba: Universidade Federal do Paraná – Engenharia Cartográfica. 116p.

NADAL, C.A.; JULIANO, K. A.; RATTON, E. (2003). Testes estatísticos utilizados

para validação de regressões múltiplas aplicadas na avaliação de imóveis urbanos. Boletim de Ciências Geodésicas, UFPR, vol. 9, série 2, p. 243-262.

OLIVEIRA, C. J. (2004). Avaliação da influência de sistemas de filtragem

aplicados a topografia de superfície em usinagens. Dissertação de Mestrado, Belo Horizonte: Pontifícia Universidade Católica de Minas Gerais – Engenharia Mecânica. 123p.

PACILÉO NETTO, N (1990). Calibração de medidores eletrônicos de distância,

construção de uma base multipilar na USP e metodologia de aferição. Tese de Doutorado, São Paulo: Escola Politécnica da Universidade de São de Paulo – Engenharia Civil. 187p.

PAULINO, C. D. e SOARES, P. (2004). Notas sobre erros e propagação de erros,

secção de estatística e aplicações. Instituto Superior Técnico, Departamento de Matemática, Lisboa. Acessado em 02/03/2009. Disponível em: www.math.ist.utl.pt/stat/pe/qeb/semestre_1_2004-2005/PE_erros.pdf.

POPE, A. J. _1976_. “The statistics of residuals and the detection of outliers.”

NOAA Technical Rep. NOS 65 NGS 1, U.S. National Geodetic Survey, Silver Spring, Md. 136p.

RÜEGER, J. M.(1990). Electronic Distance Measurement: an introduction. 3th

Edition. Berlin: Springer-Verlag. 266p. SANTOS, A. J. P. M. (2006). Proposta de ajustamento para melhoria da

confiabilidade e precisão dos pontos de redes geodésicas para fins topográficos locais. Dissertação de Mestrado, São Carlos: Escola de Engenharia de São Carlos, Universidade de São Paulo – Engenharia Civil. 162p.

Page 139: A ESCALA DO BASÍMETRO LINEAR APLICAÇÃO: BASE … · Baarda e método Tau de Pope, para detecção, localização e eliminação de erros grosseiros (“ blunders ” ou “ outliers

A escala do Basímetro Linear – Aplicação: base multipilar da UFPE

Francisco Soares Barbosa [email protected]

121

SCHAAL, R. E.(1995). Efeitos da Refração na Atmosfera em Observações Geodésicas Próximas ao Solo. Tese de Mestrado, São Paulo: Escola Politécnica Universidade de São Paulo – Engenharia Civil. 120p.

SCHAAL, R. E. (2006). Influência da propagação da onda e do equipamento nas

medidas do código e da fase com o sistema de posicionamento global – GPS. Tese de Livre-Docente, São Paulo: Escola Politécnica Universidade de São Paulo – Engenharia Civil. 151p.

SCHWENDENER, H. R. (1972). Electronic distancers for short ranges: accuracy

and checking procedures. Survey Review, London, v. 21, n. 164, 273p. SCHOFIELD, W. (1993). Engineering surveying. theory and examination

problems for students. 4ª edição, Oxford Butterworth - Heinemann. 554p. SILVA, T. F. (1987). Rede geodésica aplicada ao controle de deformação. In: XII

Congresso Brasileiro de Cartografia, Brasília. Anais, Brasília. VALDÉS, F. D. (1981). Topografia. Tradução: Ana Paula Carneiro Fernandes.

Espanha. Ediciones Ceac, S.A. 329p.

VICTORIA (2002). EDM Calibration Handbook. Department Of Natural Resources

and Environment. Ed. 7, Austrália. 37p.

TRIMBLE ZEISS ELTA S (2001). Users Guide. Ohio, USA. 242p. TRIMBLE 3300 DR (2004). Users Guide. Ohio, USA. 256p. Sites consultados www.infoescola.com/.../Images/espectro.jpg