Ajustamento Gerreferenciamento

MEC
MINISTRIO DA EDUCAO
SECRETARIA DE EDUCAO MDIA E TECNOLGICA
CENTRO FEDERAL DE EDUCAO TECNOLGICA DO ESPIRITO SANTO GERNCIA DE APOIO AO ENSINO COORDENADORIA DE RECURSOS DIDTICOS
Curso: Formao Continuada em Georreferenciamento Aplicado ao Cadastro Rural Mdulo 7: Ajustamento de Observaes
COORDENADORIA DE GEOMTICA
MEC
MINISTRIO DA EDUCAO
SECRETARIA DE EDUCAO MDIA E TECNOLGICA
CENTRO FEDERAL DE EDUCAO TECNOLGICA DO ESPIRITO SANTO GERNCIA DE APOIO AO ENSINO COORDENADORIA DE RECURSOS DIDTICOS
Mdulo 7: Ajustamento de Observaes
Prof. Geraldo Passos Amorim Engenheiro Civil UFES (1987) Mestre em Engenharia Civil: Transportes EESC-USP (2004) CEFETES - Coordenadoria de Geomtica
JUNHO - 2005
Sumrio
CAPTULO 1 1.1 1.2 1.2.1 NOES DE AJUSTAMENTO DE OBSERVAES 6 6 8 10 15 15 15 15 15 15 16 16 16 18 18 18 19 20 20 20 20 20 21 22 22 24 24 24 24 26 28 30 30 31 34 40
INTRODUO MTODO DOS MNIMOS QUADRADOS Representao Matricial da Mdia TEORIA DOS ERROS
CAPTULO 2 2.1 2.2 2.2.1 2.2.2 2.2.3 2.2.4 2.3 2.3.1 2.4 2.4.1 2.4.2 2.4.3 2.5 2.5.1 2.5.2 2.5.3 2.6 2.7 2.7.1 2.7.2
INTRODUO ALGUNS CONCEITOS Erro Verdadeiro Erro Aparente (e) Resduo (v) Discrepncia DESVIO PADRO Erro Mximo Tolervel (Tolerncia) - e m TIPOS DE ERROS: ORIGENS E CARACTERSTICAS Erros Grosseiros (Equvocos) Erros Sistemticos ou Acumulativos Erros Acidentais ou aleatrios CLASSIFICAO DAS OBSERVAES Diretas Indiretas Diretas Condicionadas VALOR MAIS PROVVEL DE UMA GRANDEZA MEDIDAS DE DISPERSO Varincia Desvio Padro DISTRIBUIO NORMAL
CAPTULO 3 3.1 3.1.1 3.1.2 3.2 3.2.1 3.2.2 3.2.3 3.2.4 3.2.5
INTRODUO Probabilidades Varivel Contnua DISTRIBUIES NORMAIS Caractersticas das Distribuies Normais Distribuio Normal como Modelo Relao entre os Erros Acidentais ou Aleatrios e a Curva Normal A distribuio Normal Padronizada Tabela Normal Padronizada PROPAGAO DE ERROS
CAPTULO 4 -
4.1 4.2 4.3 4.4 4.5 4.5.1 4.5.2 4.5.3 4.6 4.7 4.7.1 4.7.2
INTRODUO FUNO LINEAR FUNO NO-LINEAR LINEARIZAO VARINCIA E CORRELAO Varincia Covarincia Coeficiente de Correlao PROPAGAO DA VARINCIA DE OBSERVAES INDEPENDENTES PROPAGAO DE VARINCIA DE OBSERVAES CORRELACIONADAS Propagao de uma nica Funo Propagao de mais de uma Funo AJUSTAMENTO PELO MTODO PARAMTRICO
40 40 43 47 48 48 48 49 51 58 58 59 73 73 73 75 76 76 77 77 78 78 93 93 95 96 96 96 97 98 99 100 101 104 105 106 108 111
CAPTULO 5 5.1 5.2 5.2.1 5.3 5.3.1 5.3.2 5.3.3 5.4 5.5
INTRODUO MODELO MATEMTICO DO MTODO PARAMTRICO Equao Normal VARINCIA Matriz de Peso Varincia a a priori Varincia a Posteriori ROTINA PARA APLICAO DO MTODO PARAMTRICO EXERCCIOS QUALIDADE DO AJUSTAMENTO
CAPTULO 6 6.1 6.2 6.2.1 6.3 6.3.1 6.3.2 6.3.3 6.3.4 6.3.5
TESTE DE HIPTESES DETECO OUTLIER E LOCALIZAO DE ERRO GROSSEIRO Outliers TESTES DE QUALIDADE DO AJUSTAMENTO Teste Global da Varincia a Posteriori Teste Bilateral Teste Unilateral Anlise dos Resultados do Teste Global Teste Data Snooping
1 - Deteco de Outlier CAPTULO 7 7.1 7.2 7.3 ELIPSE DE ERROS
ANLISE CLSSICA DA ELIPSE DE ERRO ANLISE DA ELIPSE DE ERRO ATRAVS DO CRCULO DE MOHR PADRES DAS ELIPSES DE ERRO LINEARIZAO DE ALGUNS MODELOS FUNCIONAIS
CAPTULO 8 -
8.1 8.1.1 8.2 8.2.1 8.2.2 8.2.3 8.2.4 8.2.5 8.3 8.3.1 8.3.2
NGULOS Equao dos ngulos: AZIMUTES Funo azimute Derivada da equao do ngulo (Eq. 8.9) em relao X1 Derivada da equao do ngulo (Eq. 8.9) em relao Y1 Derivada da equao do ngulo (Eq. 8.9) em relao X2 Derivada da equao do ngulo (Eq. 8.9) em relao Y2 DISTNCIAS Funo distncia Derivadas parciais NOES DE DERIVADAS
111 111 114 115 115 115 116 116 117 117 117 118 119 120 121 121 121 121 121 122 122 123 125 130
CAPTULO 9 9.1 9.2
DEFINIO DE DERIVADA REGRAS DE DERIVAO NOES DE MATRIZ
CAPTULO 10 10.1 10.2
CONCEITO DE MATRIZ TIPOS DE MATRIZES Matriz quadrada Matriz identidade de ordem n Matriz transposta
10.2.1 10.2.2 10.2.3 10.3 10.4
PRODUTO DE MATRIZ MATRIZ INVERSA Matriz inversa a partir da matriz adjunta e o determinante
10.4.1
BIBLIOGRAFIA
6 Georreferenciamento de Imveis Rurais Ajustamento de Observaes
Captulo 1 - Noes de Ajustamento de Observaes

1.1 Introduo
Ao obtermos uma medida de que se requer confiana, intuitivamente, ns repetimos as observaes e no confiamos em apenas uma observao. Mas, a partir de vrias observaes de uma mesma grandeza, que resultado final representa a melhor estimativa? O ajustamento de observaes cuida da resoluo de problemas deste tipo, bem como da estimativa de preciso da soluo adotada. O ajustamento de observaes, alm de apresentar uma soluo nica, torna as observaes ajustadas consistentes com modelos matemticos apropriados. Nos casos mais simples, as medies so realizadas sobre as prprias grandezas incgnitas. Quando tais incgnitas se ligam por equaes de condio, o problema torna-se menos simples. Outras vezes, medem-se grandezas que se vinculam s incgnitas atravs de relaes funcionais conhecidas. o caso de observaes indiretas ou parmetros (ex. coordenadas, altitudes, etc.). Em quaisquer dos casos, o que buscamos purificar as observaes das inconsistncias que normalmente as acompanham, ou melhor, ajust-las, juntamente, com parmetros (quando existem) a um modelo matemtico. Algumas dificuldades surgem quando precisamos ponderar observaes, ou seja, quando devemos atribuir "mais peso" s observaes de maior preciso (menor desvio padro). A atribuio de peso pressupe o conhecimento da preciso das medidas so efetuadas. Exemplo Aplicativo-1.1: A figura 1.1 esquematiza uma pequena rede de nivelamento geomtrico. Em funo dos desnveis medidos, a altitude de RN1 pode ser transportada at RN2; como so diversos os caminhos possveis, vrias so as solues.
Figura 1.1 - Rede de nivelamento.

Captulo 1: Noes de Ajustamento de Observaes
7 Georreferenciamento de Imveis Rurais Ajustamento de Observaes O ajustamento, entretanto, conduzir a uma soluo nica, tornando as observaes ajustadas consistentes com o modelo matemtico adotado. Alternativamente, a altitude de RN2 pode ser "fixada" como a de RN1; neste caso as observaes so ajustadas de tal maneira que o transporte de altitudes a partir de RN1 produza em RN2 o valor prefixado. Exemplo 1.2: A Figura 1.2 mostra os vrtices P e Q de uma cadeia de triangulao j ajustada, razo pela qual suas coordenadas so consideradas "fixas". Na poligonal PABCQ medem-se os ngulos e os lados (eletronicamente). Admitindo que tais observaes sejam, num caso ideal, isentas de erros; mesmo assim as coordenadas transportadas a partir de P podem no "fechar" em Q. Neste caso, em que no h erros de observaes, as coordenadas calculadas a partir de P podem no "fechar" em Q devido ao modelo matemtico do clculo do transporte, feito em superfcie diferente da superfcie em que foram calculadas as coordenadas de P e Q. Por exemplo, pode-se considerar que P e Q foram calculados na projeo UTM e o clculo da poligonal no plano topogrfico.
Figura 1.2 - Transporte de coordenadas com pontos atravs de pontos fixos (injuno) Exemplo 1.3: A Figura 1.3 mostra os ngulos de um quadriltero completo de uma triangulao geodsica. Depois de ajustados, a soma dos ngulos de cada um dos tringulos esfricos do quadriltero dever ser igual a 180o mais o excesso esfrico do tringulo.
Figura 1.3 - ngulos de tringulos esfricos de triangulaes geodsicas.

GEOMTICA - CEFETES
1.2
Mtodo dos Mnimos Quadrados
Considerando o caso da medida direta de uma grandeza X; sejam l1, l2,...,ln, os valores obtidos em uma srie de n observaes.
Na impossibilidade de obter o verdadeiro valor de X , deve-se contentar com uma estimativa mais provvel. Adotando, o valor X como o mais provvel e calculando os resduos (diferena entre o valor mais provvel e cada uma das observaes), tm-se: X - l1 = v1
X - l2 = v2
L L L
X - ln = vn
(1.1)
Esses resduos so valores desconhecidos a priori que somados s observaes brutas reproduzem o valor estimado X . Mudando o critrio, poderamos eleger um valor diferente X como o mais provvel, isto resultaria em um novo conjunto de resduos:
X - l i
e assim por diante:
= vi
(1.2)
X - l i
= vi
(1.3)
Qual dos valores X, X , X deveramos adotar? Em outras palavras, como escolher um critrio que
permita extrair das observaes repetidas l i , discrepantes entre si, um valor nico para representar a incgnita X?
9 Georreferenciamento de Imveis Rurais Ajustamento de Observaes H mais de duzentos anos, os geodesistas fizeram sua opo, seguindo o caminho indicado por Gauss e Legendre: aceitar como melhor estimativa de X, o valor que torne mnimo o somatrio dos
quadrados dos resduos.
Quando as observaes no oferecem o mesmo grau de confiana, elas devem ser "homogeneizadas" atravs de pesos pi :
n
2 p i vi = min i =1
(1.4)
Obs: Quanto melhor a preciso do equipamento de medida, maior o valor do peso.
Atualmente, a linguagem matricial mais usual devido a sua simplicidade e facilidade de clculo. V T P V = min onde:
(1.5)
V : vetor coluna dos resduos. P : matriz quadrada dos pesos.
v1 v V = 2 M v n
P=
p1 0 0 0
0 p2 0 0
0 0 M 0
0 0 0 pn
Obs: A matriz de peso mostrada corresponde observaes independentes (observaes no

correlacionadas), pois apresenta elementos apenas na diagonal principal. Suponha que adotemos X como o valor mais provvel de uma grandeza sobre a qual foram executadas n observaes, repetidas em condies supostamente similares. Assim, os resduos seriam: X - l1
= v1 ,
X - l2
v2 ,
L L L,
X - ln
= vn
Conforme o princpio dos mnimos quadrados (MMQ), temos:

n
= VT V =
(X
i =1
li ) 2 = mnimo
GEOMTICA - CEFETES
10 Georreferenciamento de Imveis Rurais Ajustamento de Observaes Derivando da funo e igualando-a a zero, obtemos o valor mnimo da funo:
= 2 ( X li ) = 0
i =1
( X l1 ) + ( X l2 ) + L + ( X ln ) = 0 n X l1 l2 L ln = 0
n
n X = li
i =1
X =
li
i =1
A expresso obtida corresponde mdia aritmtica, portanto quando a mdia aritmtica adotada como estimativa de uma grandeza, inconscientemente, estamos aplicando o principio dos mnimos quadrados.
Concluso: A mdia aritmtica simples uma aplicao do mtodo dos mnimos quadrados usada
quando as observaes so diretas e de igual preciso.
1.2.1
Representao Matricial da Mdia

T = e Lb X eT e
onde:
Lb : vetor coluna das observaes;

V : vetor coluna dos resduos;
e : vetor coluna unitrio

A soma dos resduos de um ajustamento pelo mtodo dos mnimos quadrados igual a zero. Esta uma propriedade importante dos resduos.
eT V = 0
(1.1)
Exerccio aplicativo -1.4: Ajustar os valores de iguais precises: 10,45; 10,54; 10,40; 10,42 e 10,47.
Soluo: Clculo do valor ajustado:
10,45 10,54 Lb = 10,40 10,42 10,47
1 1 e = 1 1 1
eT = (1 1 1 1 1)
e T Lb =
(1
1 1 1 1)
10,45 10,54 10,40 = 10,45+10,54 + 10,40 +10,42 +10,47 10,42 10,47
e T Lb = 52,28
T = e Lb X eT e
eT e = 5
52,28 = 10, 456 5
X =
Clculo dos resduos:
10, 456
v1 = 10,456 - 10,45 =
0,006
v 2 = 10,456 - 10,54 = 0,084
v3 = 10,456 10,40 =
0,056 0,036
0,014
GEOMTICA - CEFETES
v4 = 10,456 - 10,42 = v5 = 10,456 - 10,47 =
12 Georreferenciamento de Imveis Rurais Ajustamento de Observaes Soma dos resduos:
0,006 0,084 eT V = (1 1 1 1 1) 0,056 = 0,006 0,084 + 0,056 + 0,036 0,014 0,036 0,014 eT V = 0
Exemplo aplicativo 1.5: Determine o comprimento mais provvel da distncia entre os pontos A e
B, do esquema abaixo, sabendo-se que a distncia entre estes pontos foi obtida atravs de duas medidas parciais AC = 23,89 m e CB = 30,70 m e uma medida total AB = 54,50 m .
x A C
y B
.
Atravs dos dados podemos estabelecer as seguintes equaes das observaes:
l a1 = x la 2 = y la 3 = x + y
Das equaes das observaes podemos obter as equaes dos resduos:
v1 = x 23,89 v2 = y 30,70 v3 = x + y 54,50

Aplicando o princpio dos mnimos quadrados, temos:
2 vi = ( x 23,89)2 + ( y 30,70)2 + ( x + y 54,50)2 = mnimo 3
i =1

2 ) vi = ( x 2 47,78 x + 570,73 + ( y 2 61,4 y + 942,49) + ( x 2 + 2 x y + y 2 109 x 109 y + 2970,25 ) = mnimo i =1 3
2 vi = 2 x2 + 2 y2 + 2 x y 156,78 x 170,4 y + 570,73 + 942,49+ 2970,25 i=1
f (x, y) = 2 x 2 + 2 y 2 + 2 x y 156,78 x 170,4 y + 4483.47

Derivando a expresso f ( x, y) em funo de cada uma das variveis e igualando a zero:
f x
= 4 x + 2 y 156,78 = 0
f y
= 4 y + 2 x 170,4 = 0
x = 23,86 m
y = 30,67 m
Logo, o valor mais provvel da distncia AB = 54,53 m .
Exemplo aplicativo 1.6: Fazer o exemplo aplicativo 1.5, usando o clculo matricial.
23,89 Lb = 30,70 54,5
1 0 A = 0 1 1 1
x X = y
La = A X
A equao normal do ajustamento paramtrico, mostrada a seguir, ser demonstrada em captulos posteriores.
A T P A X A T P Lb
(1.2)
X = (AT P A)1 AT P Lb
Resoluo:
(1.3)
1 0 1 = 0 1 1
1 0 0 P = 0 1 0 0 0 1
GEOMTICA - CEFETES
1 0 1 N = AT A = 0 1 1
1 0 1 1+ 0 0 +11 1 0 + 0 1+11 2 1 0 1 = 0 1+ 1 0 +11 0 0 + 11+11 = 1 2 1 1
N1 = ATA
0,667 0,333 0.333 0.667 23,89 30,70 54,5
X =
0,667 0,333 0,333 0,667
1 0 1 0 1 1
X =
23,86 30,67
Captulo 2 - Teoria dos Erros

2.1 Introduo
Na medio de uma determinada grandeza, a limitao humana, imperfeio instrumental e instabilidade da natureza so fatores que impedem a exatido absoluta das medidas. Os resultados de uma mesma medida, repetida vrias vezes por um mesmo operador, provavelmente no sero idnticos, por maior que seja o cuidado empregado nas observaes. Assim, podemos afirmar que, de uma forma ou de outra, todas as medidas contm erros. A fim de conhecer melhor a teoria dos erros, apresentaremos alguns conceitos importantes e corriqueiros no ajustamento de observaes.
2.2
2.2.1
Alguns Conceitos
Erro Verdadeiro
a diferena entre a observao de uma grandeza fsica e o seu verdadeiro valor. Na prtica, no se conhece o valor verdadeiro da grandeza, mas o valor mais provvel desta grandeza.
2.2.2
Erro Aparente (e)
Erro aparente ou simplesmente erro (e) a diferena, entre a observao de uma grandeza ( li ) e seu valor mais provvel ( l ).
ei = li l
2.2.3 Resduo (v)
(2.1)
Denomina-se de resduo ao valor simtrico do erro aparente, ou seja, a grandeza com o mesmo valor do erro aparente, porm com sinal contrrio (correo do erros). um dos elementos mais importantes na aplicao do ajustamento de observaes, pois o mtodo dos mnimos quadrados e as anlises psajustamento fundamenta-se na qualidade desse resduos.
vi = l li
(2.1)
GEOMTICA - CEFETES
2.2.4
Discrepncia
a diferena entre os valores de duas observaes de uma mesma grandeza. Algumas vezes a discrepncia chamada de erro.
2.3
Desvio Padro
O valor mais provvel de uma grandeza aquele para o qual a soma do quadrado dos resduos mnima. Assim, baseado no principio dos mnimos quadrados, o desvio padro definido como a raiz da mdia dos quadrados dos resduos.
i =1
(l li ) 2 n 1
(2.1)
Obs: Quando o nmero de observaes maior que 30, o divisor da Eq. (2.3) n.
2.3.1
Erro Mximo Tolervel (Tolerncia) - e m
o erro mximo admissvel, ou seja, observaes cujos erros excedam este valor devem ser descartadas, pois podem conter erros grosseiros. Esse erro identificado atravs da curva distribuio de probabilidades normal reduzida.
Tabela 2-1 - Probabilidade dos erros tolerveis.
Probabilidade de Nmero de rejeio desvio padro 1,65 10% 1,96 5% 2,58 1% 3, 29 0,1%
O erro tolervel pressupe a especificao a priori de um critrio estatstico de rejeio. A Tabela 2.1 mostra algumas probabilidades de erros tolerveis, baseados na curva de distribuio normal reduzida (varivel reduzida - z).
Exemplo aplicativo 2.1 - Em uma operao de campo foram feitas 12 leituras de azimutes, mostradas
na Tabela 2.2. Calcule: a) o desvio padro das observaes;
Captulo 2: Teoria dos Erros
17 Georreferenciamento de Imveis Rurais Ajustamento de Observaes b) o erro mximo de tolerncia para a probabilidade de rejeio do erro de 1%; o desvio padro da mdia.
Tabela 2-2 Azimutes do Exemplo aplicativo 2.1.

Azimutes 61.3101.00 61.3106.00 61.3110.00 61.3115.00 61.3102.00 61.3113.00 61.3116.00 61.3120.00 61.3107.00 61.3117.00 61.3125.00 61.3110.00 Mdia 61.3111.83 Azimutes (graus) 61.516944 61.518333 61.519444 61.520833 61.517222 61.520278 61.521111 61.522222 61.518611 61.521389 61.523611 61.519444 Mdia (graus) 61.519954 Resduos (V ) 10.83 5.83 1.83 -3.17 9.83 -1.17 -4.17 -8.17 4.83 -5.17 -13.17 1.83 Soma ( V ) 0.00 V
2
117.36 34.03 3.36 10.03 96.69 1.36 17.36 66.69 23.36 26.69 173.36 3.36 Soma ( V ) 573.67
2
a) Clculo do desvio padro:
i =1
(l li ) 2 n 1 =
573,67 11
= 7,22
b) Clculo do erro de tolerncia com probabilidade de rejeio de 1%:

e m = 2,58 7,22 e m = 18,62
Examinando a Tabela 1.2, conclumos que no necessrio eliminar nenhum azimute, pois todos os resduos ficaram abaixo do erro mximo tolervel ( em = 18,62 ).
c) Clculo desvio padro da mdia:
M =
eq n
M =
7,22 12
M = 2,08
Obs.: A expresso do desvio padro da mdia obtida da teoria de propagao de erros.
Azimute mdio e preciso:

Az = 61o 3111,83 2,08
GEOMTICA - CEFETES
2.4
2.4.1
Tipos de Erros: Origens e Caractersticas

Erros Grosseiros (Equvocos)
Erros grosseiros so erros, em grande parte, proveniente de impercia e descuidos do operador ou falha instrumental. Estes erros podem ser evitados com cuidado e ateno, criando-se operaes de controle, comparando-se os valores obtidos com medidas j conhecidas, tomando-se cuidados no registro dos dados de observaes para evitar enganos, instruindo e treinando os operadores e repetindo as operaes. Exemplos de erros grosseiros: erro do nmero de metros de uma medida; desateno do anotador na troca de dgitos ou da anotao de uma distncia, na leitura e/ou anotao de um ngulo. Com o advento de instrumentos eletrnicos, ganhou importncia o estudo dos erros grosseiros. Essas observaes (medies) so geralmente descarregadas automaticamente do instrumento e processadas no computador sem uma crtica do observador. Essa nova metodologia de obteno de dados faz com que erros grosseiros no sejam percebidos pelo operador. Assim conveniente que se introduza no processamento das observaes testes que detectem os erros grosseiros. A parte do ajustamento de observaes que estuda esse assunto denominada deteco de outliers. Outliers so resduos que conforme determinado teste estatstico ultrapassam certo valor crtico.
2.4.2
Erros Sistemticos ou Acumulativos
Podem ser provenientes de uma causa permanente, conhecida ou no, que nos obriga a comet-lo segundo uma lei determinada. Quando as causas desses erros so conhecidas, podemos model-lo atravs de alguma funo matemtica e elimin-lo. Esses erros caracterizam-se por ocorrer sempre em um mesmo sentido e conservarem em medies sucessivas, o mesmo valor. Decorrem das deficincias do observador, do instrumento e ou do mtodo usado. Da dizer-se que os erros sistemticos podem se originar das fontes que se seguem:
Erros sistemticos introduzidos pelo observador - Quando por algum problema de viso do
observador as medidas tm discrepncia sistemtica em relao ao valor mais provvel.
Erros sistemticos introduzidos pelo instrumento. Uso de instrumentos em condies diferentes

daquelas para as quais foram calibradas. Instrumento no calibrado: suponhamos uma distncia obtida a partir de oito medies com trena, supostamente de 10 metros. A distncia total seria de 80 metros, mas detectando, posteriormente, que a trena tinha na realidade 10,10 m., conclumos que a distncia possui um erro sistemtico de 0,80 m.
Erros sistemticos introduzidos pelo modelo matemtico. Utilizao de um modelo baseado em

equao matemtica no representativa do fenmeno.
2.4.3
Erros Acidentais ou aleatrios
Ocorrem devido a causas desconhecidas e incontrolveis. Caracterizam-se por ocorrerem ao acaso quaisquer que sejam os observadores, os instrumentos e os mtodos. Em geral so erros pequenos, porm inevitveis, encontrados em todas as observaes. Causam discrepncias que a princpio se apresentam sem qualquer conformidade matemtica. A sua influncia sobre as observaes aleatria, portanto qualquer tratamento deve basear-se na teoria da probabilidade. Podemos dizer que os erros acidentais ainda restam no valor de uma grandeza, em que foram observados todos os procedimentos para eliminar as observaes com erros grosseiros, e os erros sistemticos foram pesquisados, calculados e eliminados. Quando se realizamos um grande nmero de observaes, a experincia tem demonstrado que estes erros revelam alguma regularidade, ou seja, seguem uma distribuio de freqncia que se aproxima da distribuio normal. A teoria da distribuio dos erros acidentais baseada em postulados sugeridos pela experincia prtica:

as medies tendem a agrupar-se em torno de um valor; a probabilidade de ocorrncia de um evento mxima prximo ao valor mdio e diminui com o afastamento deste ponto;
existe simetria nas probabilidades de ocorrncia em relao a mdia; Os erros sistemticos se acumulam, enquanto que os acidentais se compensam.
Os erros acidentais pequenos so mais freqentes que os grandes, e que quando muito numerosos, a todo erro em um sentido corresponde outro em sentido contrrio. No ajustamento, somente as observaes que contm erros acidentais podem ser tratados. Os erros grosseiros devem ser eliminados e os sistemticos corrigidos, para ento aplicarmos o mtodo dos mnimos quadrados (MMQ).
GEOMTICA - CEFETES
2.5
2.5.1
Classificao das Observaes

Diretas
As medies so efetuadas diretamente sobre a grandeza, sem que existam meios para verificao do erro, uma vez que no conhecemos os seus valores reais ou tericos. Exemplo: uma distncia ou ngulo isolado.
2.5.2
Indiretas
As observaes no so feitas diretamente sobre as grandezas pesquisadas, mas sobre outras a elas ligadas por meio de relaes conhecidas. Exemplo: coordenadas e reas.
2.5.3
Diretas Condicionadas
So observaes independentes entre si, feitas diretamente sobre as grandezas pesquisadas, entretanto, porm ligadas por alguma equao de condio conhecida. Exemplo: Na medida de trs ngulos (a, b, c) de um tringulo plano, tem-se que a + b + c = 180.
2.6
Valor mais Provvel de uma Grandeza
O valor mais provvel de uma grandeza, medida diversas vezes pelo mesmo operador, utilizando o mesmo equipamento e mtodo, ou seja, medidas com idntico grau de preciso, a mdia aritmtica dos valores observados.
n
l =
li
i =1
(2.1)
No caso de observaes obtidas com diferentes graus de preciso, o valor mais provvel dever ser obtido considerando-se a varincia de cada observao que pode ser expressa por um fator de proporcionalidade denominado peso.
n
l =
li pi
i =1
pi
i =1
(2.2)
2.7
Medidas de Disperso
Vrios termos so usados para descrever a qualidade das medidas. muito comum na Mensurao o uso dos termos preciso e acurcia. O termo preciso ou acurcia aparente o grau de refinamento com a qual uma grandeza medida; em outras palavras, significa o quanto os valores de uma srie de medidas esto prximos uns dos outros. Se uma grandeza medida vrias vezes, e o resultado desta operao so valores muito prximos um dos outros; nestes casos, dizemos que a preciso alta. Normalmente, a preciso expressa em termos do desvio padro ou da varincia das medies. A acurcia (ou exatido) se refere ao grau de perfeio obtido numa medio, ou seja, representa o quanto prximo do valor real (valor verdadeiro) foi obtida a medida. A Figura 2.1 ilustra a preciso e a acurcia de uma srie de medida.
Figura 2.1 - Preciso e acurcia.

conveniente ressaltar que nem sempre uma operao de grande preciso seja necessariamente uma operao acurada. Para exemplificar o exposto, consideremos o seguinte caso: a distncia entre dois pontos foi obtida, de maneira cuidadosa, com uma trena de 20,030 m; o operador mediu a distncia trs vezes, obtendo os valores 653,235 m, 653,249 m e 653,252 m. Pelos valores encontrados, conclumos que esta operao foi precisa, porm no foi acurada. Nas medies os termos mais usados para expressar a preciso so a varincia e o desvio padro ou erro mdio quadrtico.
GEOMTICA - CEFETES
2.7.1
Varincia
a medida de disperso das observaes em torno de um valor mais provvel. definida como a mdia do quadrado dos erros aparentes. comum para o clculo da varincia, adotar o seguinte critrio:
Se o nmero de observaes (n) for menor do que 30, a varincia obtida por:
n
2 =
( li l ) 2
i =1
n 1
(2.1)
Se o nmero de observaes n for maior do que 30:

n
2 =
( li l ) 2
i =1
(2.2)
2.7.2
Desvio Padro
Corresponde ao grau de incerteza da observao e obtido a partir da raiz quadrada da varincia.
( li l ) 2
i =1
n 1
ou
( li l ) 2
i =1
(2.1)
Atualmente, como as observaes so tratadas estatisticamente como variveis aleatrias extradas de uma populao contnua e infinita, elas precisam ser associadas a uma preciso (ou grau de incerteza). Por isso sempre devemos informar o valor da observao associada sua preciso. Sem esta informao nada podemos inferir sobre a qualidade da observao. Para algumas grandezas, tais como a distncia e linhas bases de GPS, comum informarmos a preciso atravs do erro relativo. O erro relativo de uma medida definido como a razo entre o erro cometido e o valor medido. Por exemplo, suponhamos uma distncia de 1280,160 m que tenha sido medida com um erro estimado de 0,213 m; a preciso desta medida significa que a cada 6000 m ocorre um erro de 1m na medida.
1 0,213 = . Isto 6000 1280,160
23 Georreferenciamento de Imveis Rurais Ajustamento de Observaes Outra forma de apresentar a preciso de medidas de distncia atravs de uma parcela fixa e outra parcela relativa expressa em partes por milho (ppm). Esta forma em so apresentadas as precises dos medidores de distncia eletrnicos e dos receptores de sinais GPS. Assim, a preciso de uma linha base (vetor) de 7,000 m medido por um receptor GPS de preciso 5,0 mm +2 ppm, ser de.
= (5 mm + 2 mm 7 km ) = 19 mm . km
GEOMTICA - CEFETES
Captulo 3 - Distribuio Normal

3.1 Introduo
A tendncia moderna substituir a idia de erros de observaes pelo conceito de propriedades estatsticas das observaes, visto serem estas consideradas amostras extradas de uma populao de varivel contnua e infinita. Em outras palavras, as observaes so variveis aleatrias que seguem uma determinada distribuio de probabilidade. Assim, imprescindvel que profissionais Mensurao conheam os conceitos bsicos de Estatstica e Probabilidade. de
3.1.1
Probabilidades
Denomina-se probabilidade de um evento ao quociente entre o nmero de casos favorveis e os dos casos possveis, ou seja, esta definio est intimamente relacionada com o conceito de freqncia relativa. Este conceito foi proposto por Laplace, embora encerre uma conceituao viciosa, ela a adequada para o objetivo deste texto devido sua simplicidade. A probabilidade de um evento um nmero compreendido entre 0 e 1 (ou entre 0% e 100%).
3.1.2
Varivel Contnua
O ponteiro da Figura 3.1 ilustra o conceito de varivel continua. Uma vez tenha sido posto a girar, o ponteiro pode parar em qualquer posio ao longo do crculo. No se pode esperar que venha a parar exatamente num dos valores inteiros do crculo. Mesmo levando-se em conta as limitaes na mensurao feita ao longo do crculo, ainda assim h um nmero extremamente grande de pontos de paradas possveis. Imaginemos, por exemplo, o crculo dividido em 8000 partes iguais, em lugar das 8 partes da Figura 3.1. Se cada posio constitui um ponto de parada to provvel quanto qualquer outra, somos levados seguinte concluso: Como h tantos resultados possveis, a probabilidade de o ponteiro parar em qualquer valor particular to pequena, para fins prticos, que deve ser considerada aproximadamente igual a zero.
Captulo 3: Distribuio Normal

0 7 1
5 4
Figura 3.1 - O ponteiro pode girar em qualquer dentre um nmero ilimitado de posies.
Na realidade, a tecnologia moderna nos permite identificar ao menos 1 milho de posies diferentes, de modo que a probabilidade de o ponteiro parar exatamente numa delas seria de 1/ 1.000.000. Em face dessa peculiaridade, realmente sem sentido falar-se da probabilidade de um resultado especfico, assim a anlise de variveis continuas tende a focalizar a probabilidade de uma varivel aleatria tomar um valor num determinado intervalo. Ento, enquanto a probabilidade de um ponteiro parar no ponto 3, ou no 4, aproximadamente zero, a de para entre dois nmeros no zero. Como o crculo est dividido em 8 setores, parece razovel a probabilidade 1 / 8 ao resultado parar entre 3 e
4, tal como ilustra a Figura 3.2.

0
1 8 4
Figura 3.2 - A probabilidade de o ponteiro parar entre dois pontos igual percentagem da rea entre esses pontos. Analogamente, atribuiramos uma probabilidade de 25% ao evento parar entre os pontos 4 e 6 (1/4 do crculo). E no h razo para limitarmos os intervalos a nmeros inteiros, a no ser convenincia. Por exemplo, a probabilidade de observarmos um valor entre 3,217 e 4,217 (note-se que 5,527 4,527 = 1 ) seria tambm 1/8, e a probabilidade de um valor entre 3,5 e 4 ( 4 3,5 = 0,5 ) seria
GEOMTICA - CEFETES

1 . Assim, a probabilidade de o ponteiro parar entre dois pontos quaisquer igual percentagem da 16 rea do crculo (setor) delimitada por esses pontos. Ver Figura 3.3.
6 25% 5,527 1 8 4,527 4
1 16 3,5
Figura 3.3 - Outros exemplos de probabilidade e rea entre dois pontos.

Alm disso, um crculo com o dobro do tamanho do da nossa ilustrao daria precisamente as mesmas probabilidades, desde que seu permetro fosse subdividido da mesma maneira. Ver Figura 3.4. Logo, com uma varivel contnua, probabilidade fica determinada como percentagem da rea entre dois valores.
25%
25%
Figura 3.4 - O tamanho do crculo irrelevante.
3.2
Distribuies Normais
As distribuies normais representam, com bastante freqncia e com boa aproximao, as distribuies de freqncias de muitos fenmenos naturais e fsicos. As distribuies normais foram descobertas no sculo XVIII. Astrnomos e outros cientistas observaram, no sem certa surpresa, que mensuraes repetidas de uma mesma grandeza (medidas de ngulos ou medidas de distncia) tendem variar, e quando se coletava grande nmero dessas mensuraes, dispondo-as numa distribuio de freqncia, elas se apresentavam repetidamente com a forma anloga Figura 3.5. E como essa forma grfica vinha associada aos erros da mensurao, essa
27 Georreferenciamento de Imveis Rurais Ajustamento de Observaes distribuio cedo comeou a ser conhecida como distribuio normal dos erros ou distribuio normal.
F
50
40
30
20
10
V
-1,0 -0,9 -0,8 -0,7 -0,6 -0,5 -0,4 -0,3 -0,2 -0,1 0 0,1 0,2 0,3 0,4 0,5 0,6 0,7 0,8 0,9 1,0
Figura 3.1 - as distribuies de freqncia de observaes frequentemente apresentavam a mesma forma

Constatou-se, subseqentemente, que a distribuio podia ser bem aproximada por uma distribuio matemtica como da Figura 3.6. A distribuio normal costuma ser tambm designada matemtica. por distribuio de Gauss, em razo da contribuio de Karl F. Gauss (1777-1855) sua teoria
Figura 3.2 - A curva contnua que aproxima a distribuio de freqncias observadas.
GEOMTICA - CEFETES
3.2.1
Caractersticas das Distribuies Normais
As curvas normais apresentam algumas caractersticas bastante especiais em termos de sua forma, de como se especificam e de como so utilizadas para obteno de probabilidades. O grfico de uma distribuio normal se assemelha muito com um sino. suave, unimodal, e simtrico em relao sua mdia. Menos bvio o fato de que a curva se prolonga indefinidamente em qualquer das direes, a partir da mdia. Tende cada vez mais para o eixo horizontal medida que aumenta a distncia, a partir da mdia, mas nunca chega a tocar o eixo. Teoricamente, os valores possveis vo de a + . Ver figura 3.7.
Mdia
Figura 3.1 - Curva normal tpica.

Outra caracterstica importante que uma distribuio normal fica completamente especificada por dois parmetros: sua mdia e seu desvio padro. Em outras palavras, existe uma nica distribuio normal para cada combinao de uma mdia e um desvio padro. Diferentes combinaes de mdia e desvio padro originam curvas normais distintas. Como mdias e desvios padres so medidos em escala contnua, segue-se que o nmero de distribuies normais ilimitado. A Figura 3.8 ilustra algumas dessas possibilidades.
Figura 3.2 - As combinaes de mdia e desvio padro so em nmero ilimitado.
29 Georreferenciamento de Imveis Rurais Ajustamento de Observaes A rea total sob qualquer curva normal representa 100% da probabilidade associada varivel. Alm disso, como a curva simtrica em relao sua mdia, a probabilidade de observar um valor inferior mdia 50%, como o tambm a probabilidade de observar um valor acima da mdia. A probabilidade de predizer exatamente igual mdia zero. A probabilidade de uma varivel aleatria normalmente distribuda normalmente tomar um valor entre dois pontos quaisquer igual rea sob a curva normal compreendida entre aqueles dois pontos. Ver Figura 3.9.
a b
Figura 3.3 - P (a < x < b) = rea sob a curva entre a e b.
Em resumo, mostramos as caractersticas das curvas normais:
A curva normal tem forma de sino. simtrica em relao mdia. Prolonga-se de a + . Cada distribuio normal fica completamente especificada por sua mdia e seu desvio padro;
h uma distribuio normal distinta para cada combinao de mdia e desvio padro.
A rea total sob a curva normal considerada como 100%. A rea sob a curva entre dois pontos a probabilidade de uma varivel normalmente
distribuda tomar um valor entre esses pontos.
Como h um nmero ilimitado de valores de a + , a probabilidade de uma varivel

aleatria distribuda normalmente tomar exatamente determinado valor aproximadamente zero. Assim, as probabilidades se referem sempre a intervalos de valores.
A rea sob a curva entre a mdia e um ponto arbitrrio funo do nmero de desvios padres
entre a mdia e aquele ponto.
A curva apresenta um ponto de inflexo no ramo esquerdo e outro no ramo direito, que
correspondem, respectivamente, ao desvio padro negativo e positivo.
GEOMTICA - CEFETES
3.2.2
Distribuio Normal como Modelo
essencial reconhecer que uma distribuio normal uma distribuio terica. Para mensuraes fsicas grupadas numa distribuio de freqncia, uma distribuio ideal; nenhum conjunto de valores efetivos se adaptar exatamente a ela. Assim que, por exemplo, os valores reais no variam entre a + . E as limitaes do instrumental de mensurao eliminam efetivamente muitos outros valores potenciais. No obstante, tais deficincias so amplamente contrabalanadas pela facilidade de utilizao da distribuio normal na obteno de probabilidades, e pelo fato de que a referida distribuio ainda constitui uma boa aproximao de dados reais. Assim, quando se diz que uma varivel aleatria (fsica) distribuda normalmente, a afirmao deve ser interpretada como uma implicao de que a distribuio de freqncia de seus resultados possveis pode ser satisfatoriamente bem aproximada pela distribuio normal de probabilidades. Logo a curva normal um modelo.
3.2.3
Relao entre os Erros Acidentais ou Aleatrios e a Curva Normal
Como j dissemos anteriormente, o erros acidentais que ocorrem de forma aleatria, tendem a se ajustar distribuio normal ou Lei de Gauss, em outras palavras, a distribuio de freqncia dos erros acidentais so satisfatoriamente bem aproximada da distribuio normal de probabilidades. Assim, em qualquer medio, efetuada repetidas vezes, nas mesmas condies (mesmo operador, instrumento, mtodo, etc.), a teoria das probabilidades mostra e a experincia permite verificar que os erros acidentais produzidos gozam de propriedades idnticas s propriedades da curva de distribuio normal. 1. A um erro positivo corresponde um erro negativo de mesmo valor absoluto (os erros positivos e negativos de mesmo valor absoluto tm igual probabilidade). 2. Os erros pequenos so os mais numerosos (o erro nulo o mais provvel.) 3. A probabilidade de se cometer um erro, em valor absoluto, menor que (erro compreendido entre + e - ) igual a rea hachurada da Figura 3.10. 4. A rea total limitada pela curva a probabilidade de se cometer todos os erros , portanto, igual unidade (100%).

F
Figura 3.1 - A probabilidade de erros absolutos menores que a rea hachurada. 3.2.4 A distribuio Normal Padronizada
A distribuio normal constitui, na realidade, uma famlia infinitamente grande de distribuies uma para cada combinao possvel de mdia e desvio padro. Consequentemente, seria intil procurar elaborar tabelas que atendessem a todas as necessidades. Alm disso, a expresso da curva de distribuio normal (Eq.3.1) no conveniente para tal objetivo, em vista de sua complexidade.
2
f ( x) =
1 2
1 x 2
(3.1)
onde:
e = 2,71828182 : base de logaritmos neperiano ou natural.

x : valor arbitrrio;
: mdia da distribuio normal;

: desvio padro da distribuio normal.
H, entretanto, uma alternativa bastante simples que contorna o problema. Conceitualmente, anloga determinao de probabilidades no caso do ponteiro. Vimos ali que o tamanho do crculo no influa; mas era a forma que interessava. Desde que considerssemos a rea total do crculo como 100%, qualquer tamanho do crculo daria exatamente as mesmas probabilidades. Isso o se passa com a distribuio normal: o fato de considerarmos a rea total sob a curva como 100% padroniza a curva. Se uma varivel tem distribuio normal, cerca de 68% de seus valores cairo no intervalo de um
desvio padro a contar a partir de cada lado da mdia; cerca de 95,5% no intervalo de dois desvios padres a contar da mdia, e cerca de 96,7% dentro de trs desvios padres a contar da mdia. A
Figura 3.11 ilustra a idia. Alm do mais, isto verdade quaisquer que sejam a mdia e o desvio padro de uma distribuio normal particular; isto , valido para todas as distribuies normais.
GEOMTICA - CEFETES
-3
-2
-1
X 68% 95,5% 99,7%
+1
+2
+3
Figura 3.1 - rea sob uma curva normal a 1, 2, 3 desvios padres a contar de cada lado da mdia.
X = 100,0 = 10,0
Escala efetiva
70 -3
80 -2
90 -1
100 0
110 +1
120 +2
130 +3
Escala padronizada
Figura 3.2 - Comparao entre escala efetiva e padronizada.

Vamos refletir um pouco sobre a significao deste fato. A implicao que o problema de lidar com uma famlia infinita de distribuies normais podem ser completamente evitados desde que queiramos trabalhar com valores relativos, ao invs de trabalhar com valores reais. Isto equivale a tomar a mdia como ponto de referncia (origem) e o desvio padro, como medida de afastamento, a contar daquele ponto (unidade de medida). Esta nova escala comumente como escala z. Consideremos uma distribuio normal com mdia 100,0 e desvio padro de 10,0, conforme a Figura 3.12. Podemos converter esta escala efetiva numa escala relativa, substituindo os valores efetivos por nmeros de desvios padres a contar da mdia da distribuio. Embora a Figura 3.12 ilustre apenas uns poucos valores, o mesmo conceito pode ser aplicado a qualquer valor da distribuio. Assim, que o valor 90 est a 20 abaixo da mdia; ou 10 = 1
10
desvio; 1 20 est a + 20 acima da mdia; ou + 20 = 2 desvio padres; 95 est a 5 abaixo da

10
33 Georreferenciamento de Imveis Rurais Ajustamento de Observaes mdia; ou 5 = 0,5 desvio padro e 107 est a + 7 acima da mdia; ou + 7 = + 0,7 desvio padro
10 10
acima da mdia. Podemos resumir este processo da seguinte maneira: converte-se a diferena efetiva entre a mdia e algum outro valor da distribuio para uma diferena relativa, exprimindo-a em temos do nmero de desvios padres a contar da mdia.
z =
onde:
(3.2)
z : nmero de desvios padres a contar da mdia; x : valor arbitrrio;
: mdia da distribuio normal;

: desvio padro da distribuio normal.
Note-se que z tem sinal negativo para valores de x inferiores mdia e sinal positivo para valores superiores mdia. A Tabela 3.1 mostra alguns exemplos de converso das diferenas efetivas entre mdia e um outro valor, para distncia relativa em termo do nmero de desvios padres.
Tabela 3-1 - Distncias relativas em termos de desvio padres.
Mdia 50 34 43 27 78
1 2 2.5 3 4
x
Diferena 2 -2 7.5 -4.5 0
( x )/ = z
Diferena relativa 2 -1 3 -1.5 0
Desvio padro Valor considerado 52 32 50.5 22.5 78
tambm necessrio sabermos trabalhar em sentido inverso, passando dos valores z para os valores efetivos. Por exemplo, podemos querer saber que valor corresponde a z = 2. Supondo conhecidos a mdia e o desvio padro e que estejamos lidando com uma distribuio normal, a converso toma a forma:
x = + z
(3.3)
GEOMTICA - CEFETES
Tabela 3-2 Clculo dos valores efetivos.
Mdia 50 34 43 27 78
1 2 2.5 3 5
+ z
Diferena 50 + 3 * 1 34 + 1* 2 43 - 1* 2.5 27 - 2 * 3 78 + 4 * 5
x
Valor efetivo 53 36 40.5 21 98
Desvio padro Nmero de desvios 3 1 -1 -2 4
H uma grande vantagem em podermos pensar e trabalhar com valores relativos. que, em vez de lidarmos com uma famlia infinita de distribuies normais, precisamos de apenas uma distribuio normal para todos os problemas. Podemos converter qualquer valor de qualquer distribuio normal em um valor z, que nos diz quantos desvios padres o valor considerado dista da mdia. Isto nos permite determinar todas as probabilidades da curva normal utilizando uma nica tabela padronizada, elaborada exclusivamente com esse propsito.
3.2.5
Tabela Normal Padronizada
As reas sob a curva de qualquer distribuio normal podem ser achadas utilizando-se uma tabela normal padronizada, aps fazer a converso da escala original para a escala em termos de desvios padres. A mdia passa a servir como ponto de referncia (origem) e o desvio padro como unidade de medida. A tabela padronizada construda de modo que pode ser lida em unidade de z (nmero de desvios padres a contar da mdia). A tabela d a rea sob a curva (isto , a probabilidade de um valor cair naquele intervalo) entre a mdia e valores escolhidos de z. A poro sombreada da Figura 3.13 corresponde rea sob a curva que pode ser lida diretamente na tabela. Note-se que a mdia da distribuio agora zero, pois a mdia est a zero de si mesma.
Figura 3.1 - rea sob curva normal em escala padronizada.
35 Georreferenciamento de Imveis Rurais Ajustamento de Observaes Como a distribuio normal simtrica em torno de sua mdia, a metade esquerda da rea sob a curva a imagem reflexa da metade direita. Em razo de tal simetria, costuma-se dar apenas a metade da distribuio numa tabela. Em outras palavras, para cada segmento esquerda existe um segmento direita. comum apresentar a tabela para a metade direita da distribuio. Ento, caso se necessite de uma poro da metade esquerda, basta considerar como desvios negativos os valores ali constantes. Por exemplo, a rea entre a mdia e +1 desvio padro exatamente igual rea sob a curva entre a mdia e -1 desvio padro, conforme se v na Figura 3.14.
+z
-z
Figura 3.2 - a rea sob a curva entre a mdia e +z igual rea sob a curva entre a mdia e z
Voltando agora nossa ateno tabela em si. A Tabela 3.3 dada em temos de valores de z com duas decimais, tais como 2,78 , 1,04 , 2,45 , etc. Uma peculiaridade que os valores de z vm decompostos
em duas partes (o que pode causar certa confuso a quem estuda o assunto pela primeira vez, mas de real vantagem na apresentao grfica): os valores da parte inteira e da primeira decimal integram a
coluna esquerda, enquanto a segunda decimal aparece na linha horizontal do topo. Vamos
determinar algumas reas entre a mdia e z para ilustrar o uso da tabela. Suponhamos que queiramos determinar a rea entre a mdia e z = 1,25 . Devemos primeiro localizar 1,2 na coluna esquerda e, em seguida, 0,05 na linha horizontal do topo. A rea ser ento dada pelo nmero formado pela interseo da linha z = 1,2 e da coluna 0,05 . O valor z = 0,3944 a percentagem da rea sob a curva normal entre a mdia 0 e z = 1,25 . Ver Figura 3.15. Naturalmente, tal percentagem nada mais do que a probabilidade de uma varivel aleatria normal tomar um valor entre a mdia e um ponto situado a 1,25 desvios padres acima da mdia.
GEOMTICA - CEFETES
1,25
0,00 0,01 0,02 0,03 0,04 0,05 0,06
0,9 1,0 1,1 1,2
0,3944
Figura 3.3 - rea sob a curva normal entre a mdia e z = 1,25.
Tabela 3-1 reas para a Distribuio Normal padronizada.

Z 0.0 0.2 0.4 0.6 0.8 0.7 0.5 0.3 0.1 0.00 0.0000 0.0398 0.0793 0.1554 0.2257 0.2881 0.3159 0.1915 0.1179 0.01 0.0040 0.0438 0.0832 0.1591 0.1217 0.02 0.0080 0.0478 0.0871 0.1255 0.03 0.0120 0.0910 0.1664 0.2357 0.1293 0.0517 0.04 0.0160 0.0948 0.1700 0.1331 0.0557 0.05 0.0596 0.0987 0.1368 0.1736 0.0199 0.06 0.0636 0.1406 0.2123 0.1772 0.1026 0.0239 0.07 0.0279 0.1064 0.1808 0.2157 0.0675 0.08 0.0714 0.1103 0.0319 0.09 0.0359 0.0753 0.1517 0.1141
0.1950 0.2291 0.2611
0.1628 0.2324 0.2939 0.3212 0.1985
0.1443
0.2019 0.2673
0.2054 0.2704 0.3264 0.3508 0.3925 0.4251 0.3729 0.2995 0.2389
0.2088 0.2422 0.3023 0.3289 0.3531 0.2734
0.1844 0.2190 0.2517
0.1480
0.2580
0.9 1.0 1.2 1.1
0.2910 0.3186
0.2642
0.2454 0.2764 0.3051 0.3315
0.2486 0.3078 0.2794
0.2224 0.2549 0.2852 0.3133
0.1879
0.3238
0.2967
0.2823 0.3365 0.3599 0.3997 0.3810 0.3106
0.3340 0.3577
0.3389 0.3621
0.3643
0.3413
0.3438
1.4 1.6 1.8 1.7 1.5
1.3
0.4032 0.4332 0.4192
0.3849
0.4049 0.4207 0.4345
0.3869
0.3665
0.4066 0.4222 0.4357
0.3888
0.3686
0.3461
0.3485 0.3907 0.3708
0.4082 0.4370 0.4236
0.4099 0.4382 0.4591
0.3944 0.4265 0.4115
0.3749
0.3554 0.3962 0.4279 0.4515 0.4131 0.3770
0.3980 0.4292 0.4525 0.4693 0.4756 0.4616 0.4418 0.4147
0.3790
0.3830 0.4015 0.4177
0.4452 0.4554 0.4641 0.4713
1.9 2.0 2.2 2.4 2.6 2.8 2.7 2.5 2.3 2.1
0.4649 0.4719
0.4564
0.4463
0.4474 0.4656 0.4573
0.4484 0.4664 0.4732 0.4582
0.4495 0.4671
0.4394 0.4505 0.4678 0.4599
0.4406 0.4608 0.4686 0.4750
0.4429 0.4625 0.4761 0.4535
0.4306
0.4162
0.4726 0.4783
0.4738 0.4793
0.4744 0.4798
0.4699
0.4706 0.4767 0.4817
0.4633
0.4545
0.4441
0.4319
0.4772 0.4821 0.4861
0.4893 0.4938 0.4965 0.4981 0.4953 0.4918
0.4864 0.4920 0.4955 0.4975 0.4896
0.4826
0.4778
0.4898 0.4941
0.4868
0.4830
0.4834 0.4901 0.4871
0.4788
0.4838 0.4904 0.4945 0.4969 0.4984 0.4988 0.4977 0.4959 0.4927 0.4875
0.4842 0.4906 0.4946 0.4970 0.4978 0.4929 0.4878
0.4846 0.4909 0.4948 0.4961 0.4971 0.4931 0.4881
0.4803
0.4808 0.4884 0.4932 0.4911 0.4850
0.4854 0.4887 0.4913 0.4951
0.4812
0.4890 0.4936 0.4916
0.4857
0.4940 0.4966 0.4982 0.4987
0.4922 0.4956 0.4976 0.4967
0.4943 0.4968 0.4983 0.4988 0.4977 0.4957
0.4925
0.4960
0.4949 0.4962 0.4979 0.4972
0.4934 0.4963 0.4980 0.4986 0.4973
0.4964 0.4974 0.4981
0.4952
2.9 3.0 4.0
0.4974
0.4982 0.4987
0.4984 0.4989
0.4985 0.4989
0.4979
0.4985 0.4989
0.4986 0.4990
0.4987
0.4990
0.49997 0.49997 0.49997 0.49997 0.49997 0.49997 0.49998 0.49998 0.49998 0.49998
GEOMTICA - CEFETES
38 Georreferenciamento de Imveis Rurais Ajustamento de Observaes Como a metade esquerda essencialmente a mesma da direita, se cada um dos valores de z na tabela acima tivesse antes de si um sinal menos, as reas sob a cura ainda assim seriam as mesmas. A tabela normal pode tambm ser usada para determinar a rea sob a curva alm de um dado valor z. A chave aqui que a rea de uma das metades 50%, logo a rea alm de z 50% menos valor tabelado. Por exemplo, se o valor tabelado 30%, a rea alm de z 50% 30% = 20% . A rea alm de z = +1 ser 0,50 0,3413 = 0,1587 , pois a rea entre a mdia e z = + 1 Figura 3.17 ilustra o conceito. 0,3413 . A
rea tabelada = rea desejada
(Mdia)
Figura 3.4 - Uma tabela normal d a rea sob a curva normal padronizada entre a mdia e um valor de z.
rea na tabela
rea desejada = 50% - rea tabelada
z
50%
Figura 3.5 - A rea alm de z se obtm subtraindo de 0,5 a rea entre a mdia e z.
No necessariamente ficamos restritos a situaes limitadas pela mdia. Quando um intervalo ou seu complemento no limitado pela mdia da distribuio, a determinao da rea sob a curva um processo de dois estgios. Por exemplo, seja determinar a rea sob a curva entre z = 1 e z = + 1 .
39 Georreferenciamento de Imveis Rurais Ajustamento de Observaes Como a mdia sempre o ponto de referncia, devemos determinar a rea entre a mdia e cada um dos dois limites. Acabamos de ver que a rea entre a mdia e z = + 1 0,3413 . Analogamente, a rea entre a mdia e z = 1 0,3413 . Combinando os dois valores, temos a rea total: 0,6826 . Isso ilustrado na Figura 1.18.
0,3413
0,3413
Figura 3.6 - A determinao da rea sob a curva entre dois valores de z problema de dois estgios.
Analogamente, se os limites de um intervalo esto ambos do mesmo lado da mdia, e se queremos achar a rea sob a curva entre esses limites, novamente devemos determinar a rea entre a mdia e cada um deles. Mas nesse caso necessitamos da diferena entre as duas reas. Por exemplo, se queremos a rea entre z = + 1 e z = + 2 (Figura 3.19), devemos achar a rea entre a mdia e
z = + 1 (0,3413)
subtra-la
da
rea
entre
mdia
z = + 2 (0,4772) :
0,4772 0,3413 = 0,1359 a rea entre z = + 1 e z = + 2 .
0,1359 0 +1
0,3413 0,4772
+2
Figura 3.7 - Quando dois valores de z tm o mesmo sinal e queremos achar a rea entre eles, devemos achar a rea entre a mdia e cada um deles e ento subtrair o menor do maior.
GEOMTICA - CEFETES
Captulo 4 - Propagao de Erros

4.1 Introduo
Em Topografia, Geodsia, bem como de em muitas outras reas da cincia e da Engenharia, as grandezas medidas diretamente no campo so, freqentemente, usadas para calcular outras grandezas de interesse. Em muitos casos, o processamento dessas grandezas feito atravs de expresses cujas variveis so as medidas do campo. Ento, se as medidas de campo possuem erros, inevitavelmente, as grandezas derivadas delas, tambm, apresentaro erros. A transmisso do erro das medidas de campo para a grandeza derivada denominada propagao de erros.
4.2
Funo Linear
Suponhamos que x uma grandeza medida e y a grandeza derivada, calculada de acordo com a funo:
y = ax + b
Representada na Figura 4.1. Os coeficientes a e b so conhecidos.
Y
a
(4.1)
y yi
dy
d y = a . dx
dx b
i
Figura 4.1 - Representao grfica da funo.

Supondo que x represente o valor verdadeiro de x , ento d x representa o erro, assim:
x = xi + d x
Captulo 4: Propagao dos Erros
(4.2)
41 Georreferenciamento de Imveis Rurais Ajustamento de Observaes E o valor de y i pode ser expresso por:
y = ax + b
Ento, substituindo a Eq. (4.2) na Eq. (4.1), e desenvolvendo, temos: . y = a ( xi + d x ) + b
(4.1)
y = a xi + b + a d x
Substituindo a Eq. (4.3) na equao anterior, temos:
y = yi + a d x
Se d y representa o erro em y, ento da Eq. (4.4), temos:
(4.3)
d y = a dx
Se agora calcularmos a derivada da Eq. (4.1), em relao a x , teremos:
(4.4)
y x
y x
( a x + b)
y x
= a
(4.5)
Assim, a Eq. (4.4) pode ser escrita como: y x
dy
dx
(4.6)
Exemplo aplicativo: Um terreno de formato trapezoidal com as dimenses da Figura 4.2. Para uma
medida d = 23,560 m , necessrio determinar a ordenada h. Se o erro na medida da distncia 0,016 m . Calcule o erro corresponde ao valor de h. A inclinao da linha CD :
a =
60 20 80
= 0,5
GEOMTICA - CEFETES
42 Georreferenciamento de Imveis Rurais Ajustamento de Observaes Para um sistema de coordenadas com origem em A e eixo-X ao longo de AB , a equao da reta CD ser:
h = 0,5 x + 20
A inclinao da linha CD :
a =
60 20 80
= 0,5
h h1
dh
a
d h = a . dx
60,00
C
20,00
dx x1 23,56 x 80,00
Figura 4.2 - Terreno trapezoidal.

A inclinao da linha CD :
a =
60 20 80
= 0,5
Para um sistema de coordenadas com origem em A e eixo-X ao longo de AB , a equao da reta CD ser:
h = 0,5 x + 20
Com as constantes 0,5 e 20 sem erro. Para x = d = 23,56 , a correspondente coordenada y a ordenada h. ento:

h = 0,5 23,56 + 20 h = 31,78 m
Da Eq.(4.5), o erro em h :
d h = a dx = 0,5 0.016 d h = 0,008 m
4.3
Funo No-Linear
Vamos analisar agora uma parbola de 2 grau (funo no-linear), mostrada na Figura 4.3:
= a x2
(4.1)
y i + dy =
x 2 = ( xi + dx) 2
y i + dy = x i + 2 x dx + dx 2
dy =
2 x dx + dx 2
(4.2)
2x
y
dy
P
dx2
y yi
T
P
2x . dx
dx
xi
Figura 4.1 - Funo no linear (parbola de 2 grau)

Da Eq. (4.8), verificamos que 2 x a derivada de y em relao a x.
GEOMTICA - CEFETES
dy =
y dx + dx 2 x
Comparando as Eq. (4.8) e Eq. (4.7), verificamos que a diferena entre elas a parcela adicional ( dx 2 ) que aparece na Eq. (4.8). Na prtica, entretanto, o erro dx muito pequeno em relao grandeza medida, de tal sorte que podemos desconsiderar os termos de maior ordem, por exemplo, ( dx 2 ).
Exemplo Aplicativo: Para a determinao da rea do terreno quadrado, mostrado na Figura 4.4, foi
medido o lado do quadrado com uma trena de ao de 30 m, resultando a medida de 50,170 m . Esta medida foi usada para calcular a rea do quadrado. A rea y = x
2
= (50,170 2 ) = 2517,0289 m 2
representada na Figura 4.4 pelo quadrado ABCD. Se a trena possui um erro para menos de 0,030 m, pede-se determinar o erro no clculo da rea.
0,050
A A
B1 B
B B2
50,120
C 50,120 50,170
C 0,050
Figura 4.2 - rea do terreno.

Soluo: Como cada trenada menor 0,030 m, a medida 30,00 m , na verdade, 29,970 m. Ento o comprimento real do lado do quadrado :
xi =
29,970 (50,170) = 50,120 m 30,000
Ento, a rea correta :
y i = xi
= (50,120 2 ) = 2512,0144 m 2
O valor do erro exato entre as reas :
dy = y y i =
2517,0289 2512,0144 =
5,0145 m 2 .
Este mesmo valor pode ser obtido, na Figura 4.4, somando-se as reas dos retngulos A B1 BA e C B 2 BC , e o quadrado B1 B B 2 B . Este valor exato, tambm, pode ser obtido diretamente de d x , o erro em x, usando a Eq. (4.9), isto :
dx = x x i = 50,170 50,120 = 0,050 m

Ento:
dy = 2 . x + (dx) 2 dy = 2 . (50,120) (0.050) + (0,050) 2 = 5,0145 m y x
Agora usando a Eq. (4.7), ns temos a
para
xi = 50,170 m , ento:
y x
dy =
2 x = 2 x = 2 50,170 = 100,340 x
= 100,340 0,050 = 5,0170 m 2
y dx x
Que na Figura 4.4 igual a soma dos quadrados A B1 BA e C B 2 BC . A diferena entre a determinao exata do erro da rea e a determinao de acordo com a Eq. (4.7) de apenas 0,0025 m 2 que corresponde a ( dx 2 ), a rea do pequeno quadrado B1 B B 2 B . Esta diferena de apenas 0,05% do erro. At agora consideramos apenas o caso de uma varivel simples processada como funo de uma varivel simples x . Vamos supor agora y representando a rea de um retngulo em vez de um quadrado. Neste caso duas medidas de grandeza, o comprimento x1 e a largura x 2 , esto envolvidas, e
y produto entre elas, isto , y = x1 x 2 .
GEOMTICA - CEFETES
46 Georreferenciamento de Imveis Rurais Ajustamento de Observaes Quando mais de uma varivel est envolvida na funo, a regra da derivada parcial deve ser aplicada. Assim o erro em y ser representado por:
dy =
y dx1 x1
y dx 2 + L + x2
y dx n xn
(4.3)
Exemplo aplicativo: Usando o mesmo enunciado do exemplo anterior, considerar o terreno como
retangular, medindo 50,170 m por 61,090 m . Se a mesma trena de 30 m (0,030 m, tambm, para menos) usada para fazer as medidas, avalie o erro no clculo da rea. Soluo: O clculo da rea:
y = x1 x 2 = (50,170) (61,09) = 3064,90 m 2

As derivadas parciais so avaliadas como:
y x1 y x2
( x1 x 2 ) x1 ( x1 x 2 ) x2
= x2
y x1 y x2
= 61,090 m
= x1
= 50,170 m
Os erros, d x1 e d x 2 , so processados na base de 30 m para menos 0,030 m, ento:
dx1
0,030 50,170 = 0,050 m 30 0,030 61,090 = 0,061 m 30
dx 2
Usando a Eq. (4.10 ) para calcular o erro da rea:
dy =
y dx1 x1
y dx 2 + L + x2 dy = 6,1 m 2
y dx n xn
(4.4)
dy =
( 61,090) (0,050) + (50,170) (0,061)
4.4
Linearizao
Vimos que a propagao de erro em funo no-linear, os termos maiores ( dx 2 ) podem ser desconsiderados porque so muito pequenos. A propagao de erro em funes no-lineares, omitindo o termo ( dx 2 ), uma aproximao. Ao contrrio, na funo linear o valor da propagao do erro exato. A base terica para a linearizao da funo no-linear a expanso da srie de Taylor.
y = y0
y + x + termo sup erior x xo
(4.1)
onde: y 0 = f ( x0 ) x = x x o A forma linearizada inclui somente os dois primeiros termos do lado direito da Eq. (4.11); todos os termos de ordem superior so desconsiderados. Por exemplo, a forma linearizada da funo y = x 2 : y = x 0 + 2 x 0 x Onde: y 0 = x 0 e
2 2
y = 2 x 0 . A funo em questo, mostrada na Figura (4.5), formada x
por uma curva at o ponto T, e pela tangente curva no ponto T (isto ao longo da linha TP ). A y inclinao da linha TP . x xo
Y
dy (dx)x
y = (xo)
dy (dx)x . x
O
P P
y
yo = (xo)
2
T
x
dy (dx)x . x
O
Figura 4.1 Curva at o ponto T e tangente at P

GEOMTICA - CEFETES
Exemplo aplicativo: Linearize a funo y

em x 0,01, calcule o erro em y .
= 2x 3 +
x 2 4 x + 7 at x = 2 . Se x = 2 e o erro
y = y0 + x , ento para x = 2 , temos: x xo = (2 x 0 +

3
y y
x0
4 x 0 + 7) + (6 x 0 + 2 x 0 4) x
= 19 + 24 x
De acordo com a Eq. (4.7):
dy =
y 2 dx = (6 x 0 + 2 x 0 4) dx = 24 0.01 x1
dy = 0,24 m
4.5
4.5.1
Varincia e Correlao
Varincia
Quando definimos que o valor mais provvel de um conjunto de observaes, o somatrio do quadrado das diferenas entre este valor mais provvel e cada uma das observaes mnimo (mtodo dos mnimos quadrados). Este somatrio dividido pelo nmero de observaes resulta em uma mdia denominada varincia, cuja expresso definida como:
T
x2 =
n 1 ( x xi ) 2 n 1 i =1
ou
x2 =
Vx Vx n 1
(4.1)
Obs.: Quando o nmero de observaes maior que 30, o denominador da Eq. (4.12) igual ao prprio nmero de observaes. 4.5.2 Covarincia
Todos os dias os meios de comunicao nos informam resultados de pesquisas, por exemplo: quanto maior for o lucro futuro da empresa maior ser seu valor: quanto maior for a quantidade produzida menor ser o custo unitrio do produto: o emprego depende da escolaridade do trabalhador. Quando trabalhamos com mais de uma varivel, podemos avaliar o relacionamento entre elas atravs de uma medida numrica denominada covarincia. Assim, a covarincia resume em um nico nmero a tendncia e a fora da relao linear entre duas variveis.
49 Georreferenciamento de Imveis Rurais Ajustamento de Observaes Covarincia ( x y ) que representa uma medida da correlao entre duas observaes expressa por:
xy
n 1 = ( x xi ) ( y y i ) n 1 i =1
ou
xy =
Vx V y
n 1
(4.1)
Duas medidas (ou funes) so ditas no correlacionadas quando independentes entre si. Por exemplo, os ngulos e as distncias de uma poligonal medidos com diferentes instrumentos e mtodos, cujas fontes de erro so tambm diferentes. Ao contrrio, podemos citar como medidas correlacionadas, as coordenadas obtidas atravs de ngulos e distncias. 4.5.3 Coeficiente de Correlao
A correlao entre duas observaes pode ser avaliada atravs do coeficiente de correlao x y .
x y =
xy x y
(4.1)
O valor da correlao varia de menos 1 a mais 1 ( 1 < x y < 1 ).
Para x y = 0 , as observaes so no-correlacionadas. Para x y = 1 , ento ocorre uma correlao linear perfeita e negativa. Para x y = + 1 , ento ocorre uma correlao linear perfeita e positiva. O coeficiente de correlao positivo indica que os valores de y tendem a crescer com o crescimento dos valores de x, enquanto que correlao negativa indica que os valores de y tendem a decrescer com valores crescentes de x; Valores de coeficiente de correlao prximos de zero, indicam ausncia de relao linear entre as variveis x e y.
Exemplo aplicativo: A partir de um ponto P so feitas medies a cada meia hora, durante 6 horas, da
distncia zenital (ngulo e distncia) para os pontos A e B de altitude conhecida. Em cada uma das 12 pocas, so feitas duas medidas para A (medidas x1 e x 2 ) e duas medidas para B (medidas y1 e
y 2 ). Obtendo-se, assim, 48 medidas ou 24 pares de medidas, ou 12 pares de medidas dobradas. Cada
uma das medidas permite calcular uma altitude para o ponto P atravs de nivelamento trigonomtrico.
GEOMTICA - CEFETES
50 Georreferenciamento de Imveis Rurais Ajustamento de Observaes A altitude do ponto P, que foi determinada atravs de nivelamento geomtrico, igual a 63,319 m e ser considerado como valor "quase verdadeiro", assim pode-se calcular, para todas as medidas, um erro verdadeiro .
ObtenodaTabela 4-1 Altitudes do ponto P
Niv. Geo. 63.319 X1 l Hora (m) 10:00 10:30 11:00 11:30 12:00 12:30 13:30 14:00 14:30 15:00 15:30 16:00 63.356 63.351 63.360 63.343 63.367 63.392 63.363 63.349 63.337 63.256 63.296 63.280 Medida para o ponto A X X2 Y1 Medida para o ponto B X Y2
(cm) -3,7 -3,2 -4,1 -2,4 -4,8 -7,3 -4,4 -3,0 -1,8 6,3 2,3 3,9
l (m) 63.354 63.366 63.354 63.326 63.371 63.389 63.370 63.337 63.321 63.259 63.294 63.268
(cm) -3,5 -4,7 -3,5 -0,7 -5,2 -7,0 -5,1 -1,8 -0,2 6,0 2,5 5,1
l (m) 63.456 63.338 63.423 63.316 63.479 63.470 63.348 63.413 63.466 63.114 63.171 63.260
(cm) -13,7 -1,9 -10,4 0,3 -16,0 -15,1 -2,9 -9,4 -14,7 20,5 14,8 5,9
l (m) 63.479 63.324 63.399 63.302 63.432 63.498 63.366 63.427 63.357 63.119 63.166 63.227
(cm) -16,0 -0,5 -8,0 1,7 -11,3 -17,9 -4,7 -10,8 -3,8 20,0 15,3 9,2
Correlao a partir dos 24 pares de medidas (correlao cruzada):

T
x . x = 435
y y = 3414 x y = 1058
T T
s x = 4,3 cm s y = 11,9 cm s xy = 44,1
xy = 0,87
Correlao a partir dos 12 pares de medidas (autocorrelao):
xx =
x1 . x2 x1 x1 x 2 x 2
T T
xx =
212 215 221
= 0,97
xx =
y1 . y 2 y1 y1 y 2 y 2
T T
yy =
1617 1771 1643
= 0,95
4.6
Propagao da Varincia de Observaes Independentes
A Eq.(4.10) mostra a propagao do erro de uma grandeza medida uma nica vez. y dx1 x1 y dx 2 x2
dy =
(4.1)
Quando uma determinada grandeza for medida mais de uma vez, devemos propagar a varincia dessas medidas. Para a deduo da propagao da varincia, vamos elevar os dois membros ao quadrado:
2
(dy )
y dx1 x1
y dx 2 x2
(dy )
y y y y dx 2 dx 2 + dx1 = dx1 + 2 x2 x1 x2 x1
Considerando que as grandezas x1 e x 2 foram medidas com vrias repeties, e somando os valores obtidos devido a estas repeties, vem:
(dy )
i =1
i =1
y x1
(dx1 )
i =1
y y + 2 x2 x1
n
n n (dx1 dx 2 ) + i =1 i =1
y x2
(dx 2 ) 2 (4.2)
i =1
Mas sendo x1 e x 2 no-correlacionados, (dx1 dx 2 ) = 0 , logo:

i =1
(dy )
i =1
i =1
y x1
n (dx1 ) 2 + i =1
2
i =1
y x2
n (dx 2 ) 2 i =1
2
Dividindo pelo nmero de vezes que as grandezas forma medidas, vem:
(dy ) 2
n
i =1
y = x1
n (dx1 ) 2 + i =1 n
2
y x2
n (dx ) 2 2 i =1 n 2
GEOMTICA - CEFETES
52 Georreferenciamento de Imveis Rurais Ajustamento de Observaes Como:
y2 =
(dy ) 2
n
i =1
x1 2 =
(dx1 ) 2
n
i =1
x2 2 =
(dx 2 ) 2
n
2 2
i =1
y = x1
x1 2 +
y x2
x2 2
(4.3)
A Eq. (4.16) apesar de deduzida uma funo y derivada de somente duas grandezas x1 e x 2 , ela vlida para funes de m outras grandezas, ou seja: y = f ( x1 , x 2 , L , x m ) , ento:
2 2 2
y = x1
x1 2 +
y x2
y x2 2 + L + xm
m2
(4.4)
A Eq. (4.17) a expresso algbrica geral da lei da propagao dos erros (varincia) para os casos que no haja correlao entre as grandezas medidas, isto , as medidas so independentes. A Eq. (4.17) pode ser escrita na forma matricial:
y x1 y x2 L y xm
y2 =
y
x1
y x2
x1 y 0 L xm 0 0
0
2
0 0 0
x2
0 0
0 L 0
(4.5)
xm 2
y 2 = A ll A T
onde:
(4.6)
y 2 : varincia da grandeza derivada;

A : vetor linha dos coeficientes; A T : vetor coluna transposto dos coeficientes;
ll : matriz varincia-covarincia de correlao zero (matriz diagonal).

Exemplo Aplicativo: Uma distncia de aproximadamente 490 m deve ser medida com uma trena de
50 m de comprimento. Sendo conhecido o desvio padro de cada trenada e considerado igual
d = 5 mm , qual seria o desvio padro da distncia D?

A funo que relaciona a distncia total D aos segmentos d i : D = d1 + d 2 + L + d10 D d1 = 1 D d2 = 1
L
D d 10
Aplicando a lei da propagao dos erros:
D 2 = d12 + D 2 = 250 mm 2 D 2 = 15,8 mm
d 2 2 + L + 10 2
Exemplo Aplicativo: Qual o desvio padro da rea de lote retangular que tm os seguintes lados:
l1 = 30 m l 2 = 10 m A = l1 l 2 A l1 = l2
1 = 50 mm 2 = 30 mm
A l2
= l1
GEOMTICA - CEFETES
A2 A2 A
= (10 ) (0,05)
2
(30)2 0,030 2
= 0,250 + 0,810 = 1,060 (m 2 ) 2 = 1,029 m 2
Exemplo Aplicativo: As coordenadas x A , y A do ponto A so conhecidas e so consideradas livres de
erros. Calcular as coordenadas x B , y B e os respectivos desvios padres xB e y B do ponto B, sabendo-se que os desvios padres da distncia e do azimute so d = 2 cm e Az AB = 10 . Dados: x A = 1000,00 m , d = 500,00 m Soluo: Transformando o desvio do azimute para radiano: x B = 750,00 m
Az AB = 30 o
Az AB = 10
ou
Az AB = 0,0000484 rd
As funes para o clculo do das coordenadas so: x B = x A + d sen Az AB y B = y A + d cos Az AB As coordenadas so consideradas sem erros, portanto na derivao elas so consideradas como constantes para a aplicao da lei da propagao dos erros. As derivadas so:
xB sen AzAB d = d + sen AzAB d d d xB AzAB = d sen AzAB d + sen AzAB AzAB AzAB
xB = sen AzAB = sen 30 = 0,500 d xB = d cosAzAB = 500 cos 30 = 433013 , AzAB
yB cos AzAB d = d + cos AzAB d d d

yB AzAB = d cos AzAB d + cos AzAB AzAB AzAB
xB = cos AzAB = cos 30 = 0,866025 d

yB = d senAzAB = 500 sen 30 = 250,00 AzAB
Aplicando a lei da propagao dos erros, lembrando que o desvio do azimute Az AB = 10 deve se posto em radianos: Clculo do desvio na coordenada X B :
x 2 = B (d ) + d
e
( XB)
xB Az AB
Az AB
( XB)2
= (0,500 ) ( 0,02 )
2
( 433,013 )2 (0,0000484)2
( XB)2 ( XB)2
= 0,0001 + = 0,0005407
0,0004407
xB = 0,023 m
Clculo do desvio na coordenada YB :

y 2 = B (d ) + d
e
(YB )
yB Az AB
Az AB
(YB )2 (YB )2 (YB )2
= (0,866 ) ( 0,02 )
2
( 250 )2 (0,0000484)2
= 0,0003 + = 0,0004464
0,00014641
xB = 0,021 m
Exemplo Aplicativo: Para determinar a diferena de nvel entre dois pontos distantes 2,250 m ser
realizado um nivelamento geomtrico, procurando colocar sempre o nvel a iguais distncias da mira. Assumindo-se que as visadas de vante e r sero de 25 m, determine o erro estimado para a obteno da diferena de nvel desejada. Determine tambm a frmula geral pra estimar este erro. Suponha o erro de cada leitura l = 0,5 mm .
GEOMTICA - CEFETES
56 Georreferenciamento de Imveis Rurais Ajustamento de Observaes H = h1 + h2 + L + h45 Mas: h1 = l R1 lV 1 h2 = l R2 l V2 ..... h 45 = l R 45 lV 45 H = (l R1 l V1 ) + (l R2 l V2 ) + L + (l R45 l V45 ) Aplicando a lei de propagao dos erros:
( )
H
= l R
( )
1
+ l V
2
( ) + ( )
2
1
l R2
+ l V
( )
2
+ L + l R
45
+ l V
45
Mas, como: l R
( )
1
( )
l V1
( l )2 , ento:
( )
H H
= 90
( l )2
( )
= 90 0,5 2
( )
H
= 22,5 mm 2
H = 4,74 mm Frmula Geral:
H = l
onde:
2n
H : desvio do nivelamento;
n : nmero de mudana do nvel;
l : desvio padro das leituras de r e de vante.

Exemplo aplicativo: Determine a equao geral para obter o desvio da mdia de uma grandeza
medida n vezes. Soluo: X = X1 + X2 + L + Xn n 1 1 Xn X2 + L + n n
X =
1 X1 + n
Aplicando a lei de propagao de erros: ( X ) 2 = 1 ( X1 ) 2 + n2 1 1 ( X n ) 2 ( X 2 ) 2 + L + 2 n2 n ( X1 ) 2 = ( X 2 ) 2 = L = ( o ) 2 n ( X n ) 2 , ento: o

n
Considerando: ( o ) 2 = n ( o ) 2
n
2
( X ) 2
( X ) 2
Exemplo aplicativo: Os ngulos internos de uma poligonal fechada de 5 lados foram medidos com
teodolito de preciso 5. O fechamento angular foi de 15, verificar a aceitao desse fechamento, supondo o erro admissvel para o fechamento angular dessa poligonal com confiana de 90%.
i = 1 + 2 + 2 + 4 + 5
i =1
( n ) 2
= ( 1 ) 2 + ( 2 ) 2 + ( 3 ) 2 + ( 4 ) 2 + ( 5 ) 2
Como: ( o ) 2 = ( 1 ) 2 = ( 2 ) 2 = ( 3 ) 2 = ( 4 ) 2 = ( 5 ) 2 , ento:
( n ) 2
= n ( o ) 2
n = o
Para a confiabilidade de 90%, o nmero de desvio padres z = 1,65 . Assim, o erro admissvel mx = 1.65 o
n
max = 1.65 5 5
max = 18, 44
Resposta: o fechamento aceito porque menor que o erro admissvel.

GEOMTICA - CEFETES
4.7
Propagao de Varincia de Observaes Correlacionadas
Na maioria dos casos, as grandezas observadas em Topografia e Geodsia so correlacionadas. Assim, no caso de observaes correlacionadas, no podemos desconsiderar a covarincia da Eq. (4.21).
4.7.1 Propagao de uma nica Funo
2 2
(dy )
i =1
y = x1
n y y (dx1 ) 2 + 2 i =1 x2 x1
n y (dx1 dx 2 ) + i =1 x2
n (dx 2 ) 2 i =1
(4.1)
(dy ) 2
n
i =1
y = x1
n (dx ) 2 y y 1 + 2 i =1 n x2 x1
y n (dx1 dx 2 ) + i =1 n x2
n (dx ) 2 2 i =1 n
Considerando as seguintes expresses:

n
y2 =
n
(dy ) 2
n
i =1
x1 2 =
(dx1 ) 2
n
i =1
x2 2 =
(dx 2 ) 2
n
i =1
x1x 2 =
temos:
(dx1 dx 2 )
n
i =1
y = x1
x1 2 +
y x2
y x2 2 + 2 x1
y x2
x1 x 2
(4.2)
Quando a funes apresenta grande nmero de variveis prefervel a representao matricial devido sua capacidade de sntese e facilidade de clculo. y x1 y x2 L y xm
y2 = x1
y x2
y xm
x1 x1 x 2 x 2 x1 x 2 2 L L xm x1 xm x 2
2
L x1 xm L x 2 xm L L 2 L xm
(4.3)
Am
ll m
AT1
(4.4)
59 Georreferenciamento de Imveis Rurais Ajustamento de Observaes onde:
y 2 : varincia da grandeza derivada;

A : vetor linha dos coeficientes; A T : vetor coluna transposta dos coeficientes;
ll : matriz varincia-covarincia completa.

4.7.2 Propagao de mais de uma Funo
Se y representa um vetor de n variveis derivadas e x representa um vetor de m variveis aleatrias tal que:
y1 = f1 ( x1 , x 2 , x3 , ...... , x n ) y 2 = f 2 ( x1 , x 2 , x3 , ...... , xn )
M M
y m = f m ( x1 , x2 , x3 , ...... , xm )
Assim, podemos representar a propagao da varincia:
y1 x1 y 2 = x1 M y n x 1 y1 x 2 y 2 x 2 M y n x 2 y1 x m y 2 x m M y n x m x1 2 x1 x 2 2 x 2 x1 x 2 L L xm x 2 xm x1 y1 y 2 x1 x1 y1 y 2 x 2 x 2 M M y y 1 2 x x m m
(4.1)
y1 y1 y 2 y 2 y1 y 2 2 L L ym y 2 ym y1
2
L y1 ym L y 2 ym L L L
L L L M L
L x1 xm L x 2 xm L L L
L L L M L
ym 2
xm 2
y n x1 y n x 2 M y n x m
(4.2)
yy = A ll A T
(4.3)
GEOMTICA - CEFETES
yy : matriz varincia-covarincia da grandeza derivada;

A : matriz dos coeficientes; A T : matriz transposta dos coeficientes;
ll : MVC - matriz varincia-covarincia das observaes completa.

Observaes: A Eq. (4.25) a frmula geral da propagao dos erros; Quando as observaes so correlacionadas, a matriz ll simtrica (no-diagonal); Quando as observaes so independentes, a matriz ll diagonal, isto , todas as varincias so nulas; Quando as observaes so independentes e de mesma preciso, a matriz ll diagonal, e todos os elementos da diagonal so iguais.
Exemplo Aplicativo: Estabelecer a matriz varincia-covarincia para os ngulos obtidos a partir de 3
direes independentes. As direes A, B e C foram obtidas com os desvios padres, 2, 3 e 5, respectivamente.
A B
1
P
Figura 4.1 - Esquema da obteno dos ngulos
Soluo:
61 Georreferenciamento de Imveis Rurais Ajustamento de Observaes Modelo funcional para obteno dos ngulos 1 e 2 : dA 1 1 0 0 1 1 dB d C
1 2
As funes para a obteno dos ngulos so lineares. Assim, a matriz dos coeficientes so os prprios coeficientes das equaes, sem necessidade de deriv-las. A= 1 1 0 0 1 1
A matriz varincia-covarincia das direes A, B, C: 0 4 0 = 0 9 0 0 0 25
xx
Aplicando a lei da propagao dos erros, temos:
= A ll A T
4 0 0 1 0 1 1 0 0 9 0 1 1 0 1 1 0 0 25 0 1
9
= 9 34
Exemplo Aplicativo: Deseja-se medir a distncia AB (Figura 4.8) situada em lados opostos de um
13
vale, no observvel diretamente. Obtm-se esta distncia, primeiramente como soma das distncias
l1 e l 2 observada do topo do edifcio que constitui o obstculo, em seguida como diferena das de
distncias l 4 e l 4 observadas de uma colina vizinha. As 4 distncias foram medidas com um dispositivo de medio eletrnica cuja preciso pode ser calculada por = 3 mm + 5 ppm, . A correlao r = 0,7 para as duas medidas feitas de um mesmo ponto e em um mesmo momento. Dados:
GEOMTICA - CEFETES

l1 = 1,6 km l 2 = 1,8 km l 3 = 2,0 km l 4 = 5,4 km
1 = 3 + 5 1,6 km = 11 mm 2 = 3 + 5 1,8 km = 12 mm 3 = 3 + 5 2,0 km = 13 mm 4 = 3 + 5 5,4 km = 30 mm
l3 l1
l4 l2
Figura 4.2 - Esquema das medidas.
Soluo: Equaes das observaes:
y1 = 1 l1 + 1 l 2 + 0 . l 3 + 0 . l 4 y 2 = 0 l1 + 0 l 2 1. l 3 + 1. l 4
Clculo das covarincias entre medidas de mesmo ponto e medidas mesmo instante, ento a correlao 1 2 = 0,7 e 3 4 = 0,7 .
1 2 =
12 1 2
12
1 2 1 2
12 = 0,7 11 12
12 = 92 mm 2 34 = 273 mm 2
34 = 0,7 13 30

= 1 1 0 0 0 1 0 1
1 1 0 0 A = 0 0 1 1
AT
xx
12 = 21 0 0
12 22
0 0
0 0
32 43
0 0 34 42
xx
0 0 121 92 0 92 144 0 = 0 0 169 273 0 0 273 900

YY = A xx A T
0 0 121 92 1 1 0 0 92 144 0 0 = 0 0 1 1 0 0 169 273 0 0 273 900
YY
1 1
0 0 0 1 0 1
449 0 YY = 0 523
y1 = y2 =
449
y1 = 21,19 mm y1 = 22,87 mm
523
Exerccio 1: Calcular o desvio padro de uma distncia horizontal entre dois pontos A e B, sabendo-se
que o ngulo zenital medido igual Z = 84 o 30 e a distncia inclinada igual a d i = 1000 m . As

precises dos equipamentos usados para as medidas de ngulo e distncia so de z = 10" e
d = 10mm + 5 ppm , respectivamente.

i
Clculo das precises: A preciso angular em segundos deve ser transformada para radianos para execuo dos clculos:
z = 10" = 10 sen 1"

A preciso da distncia inclinada:
z = 0,0000484814 rd
GEOMTICA - CEFETES
d = 10mm + 5 ppm = 10 + 5 1km

i
d = 15 mm
i
Equao de clculo da distncia horizontal ( d h ) em funo do ngulo horizontal e ( Z ) e da distncia

inclinada ( d i ) . d h = d i sen ( Z ) Aplicando a lei da propagao dos erros, temos:
d d ( d h ) = h ( di ) 2 + h ( Z ) 2 d Z i
2
Clculo das derivadas parciais:
dh = sen(Z ) di
dh = d i cos( Z ) , ento: Z
( d h ) 2 = sen 84 o 30 ( di ) 2
2
(1000) 2 (cos 84 o 30)2 ( Z ) 2

(1000) 2 (0,095845753) 2 (0,0000484814) 2
( d h ) 2 = (0,995396198) (0,015)2 + ( d h ) 2 = 0,000222933 + ( d h ) 2 = 0,000244525 m 2 ( d h ) 2 = 0,0156 m = 15,6 mm
0,000021592
Obs: Neste exemplo, percebe-se que a maior contribuio para o erro da distncia d h corresponde
distncia observada d i (ou seja, 0,000222933 bem maior que 0,000021592 ). Portanto, se o erro 15,6 mm estiver fora de um limite de tolerncia, um procedimento lgico para melhorar a preciso escolher um equipamento de medida de distancia de melhor preciso.
Exerccio 2: A altitude de um ponto B foi obtida por meio de nivelamento trigonomtrico a partir de
um ponto A de altitude e preciso, respectivamente, iguais a H A = 250,345m e A = 0,085 m . Calcular o desvio padro da altitude B, desconsiderando os efeitos da refrao e da curvatura da Terra. Os dados observados so os seguintes:
d h = 1500,00 m Z = 86 o 4525" ia = 1,45 m hp = 1,70 m
d = 20 mm + 10 ppm
h
z = 20"
i = 0,002 m
a
hp = 0,002 m
Passo: Formular a equao do nivelamento trigonomtrico (modelo matemtico):
H B = H A + d h cot g Z + ia h p
Passo: Expresso da propagao dos erros:
HB ( H ) = H B A
2
HB H + d A h
HB ( ) 2 + Z dh
HB ( ) 2 + i Z a
HB ( i ) 2 + a hp
( ) 2 hp
Passo: Diferenciar a equao em funo de cada uma das variveis independentes HB H = 1 A

HB i = 1 a HB = cot g Z d h HB = 1 h p
d HB h Z = ( sen Z ) 2
Passo: Aplicando as derivadas na expresso da propagao dos erros, temos:

d h sen Z ( ) 2 Z
2
( H ) B
= (
HA
2 ( ) 2 cot Z dh
( i ) a
( h ) p
Passo: Substituindo os elementos: Transformando a preciso angular do ngulo vertical para radiano temos:
z = 20" = 20 sen 1" = 20 0.0000048481
z = 0.0000969627 rd
Calculando o desvio da distncia horizontal
GEOMTICA - CEFETES
d = 20 mm + 10 ppm
i
d = 20 mm + 10 1,5 km
i
d h = 35 mm
( H ) 2 = B
(0,085)2
1500 + (0.0566625217 )2 ( 0,035) 2 + (0.9983985345)2
(0.0000969627) 2 + (0,002) 2 + (0,002 ) 2
( H ) B
0.007225 + 0.0000039330 + 0.021290042 +
0.000004 + 0.000004
( H ) B
= 0.02852 m
0.1688 m
= 168,8
mm
Obs: Considerando os outros elementos isentos de erros, a influncia da preciso de cada elemento particular na preciso de H B seria:
HA D
Z
H B = 85 mm H B = 1,9 mm
H B = 145,9 mm
ia = h p
H B = 2,0 mm
Exerccio 3 Dada a poligonal aberta com os pontos 0, 1 , 2, 3 da figura abaixo:
Figura 4.3 Esquema do exerccio2
67 Georreferenciamento de Imveis Rurais Ajustamento de Observaes Considerando o azimute Az 0 conhecido e livre de erro. Se os ngulos 1 , 2 , 3 foram medidos com preciso i = 5" , definir a preciso dos Az1 , Az 2 , Az3 ? Passo: estabelecer as equaes (modelo matemtico):
Azi = Az0 +
i =1
(i 1) 180 o ,
ento:
Az1 = Az0 + 1 Az 2 = Az0 + 1 + 2 180 o

Az3 = Az0 + 1 + 2 + 3 2 180o
Az 0 Az1 1 0 0 1 o Az 2 = 1 1 0 2 + Az 0 180 Az 1 1 1 Az 360 o 3 3 0

Passo: Calculo da matriz dos coeficientes A :
Az1 1 Az 2 A = 1 Az3 1
Az1 2 Az 2 2 Az3 2
Az1 3 Az 2 3 Az3 3
1 0 0 A = 1 1 0 1 1 1
Passo: Determinao da matriz varincia-covarincia das observaes:
ll
25 0 0 = 0 25 0 0 0 25
Passo: Aplicar a lei da propagao dos erros:
Az = A ll A T
GEOMTICA - CEFETES
Az
1 0 0 25 0 0 1 1 1 = 1 1 0 0 25 0 0 1 1 1 1 1 0 0 25 0 0 1 25 0 0 1 1 1 = 25 25 0 0 1 1 25 25 25 0 0 1 25 25 25 = 25 50 50 25 50 75
Az
Az
( Az1 )2 ( Az 2 )2
( Az 3 )2
= 25 = 50
= 75
Az1 = 5" Az 2 = 7,07"

Az 3 = 8,7"
Exerccio 4 No exerccio anterior, supondo-se o ponto 0 como origem do sistema de coordenadas e
o azimute Az0 igual a 500000, determinar a preciso das coordenadas do vrtice 3 da poligonal.
Figura 4.4 Esquema do exerccio 4
ngulo 2 3
Observaes 152035 2301020 1201040
Preciso 5 5 5
Lados L1 L2 L3
Observao 5500 m 4300 m 2700 m
69 Georreferenciamento de Imveis Rurais Ajustamento de Observaes Observao: As distncias foram medidas com um medidor de distncia eletrnica de preciso 5 mm + 10 ppm. No clculo da poligonal as variveis so os azimutes e as distncias. Assim fazemos a MVC dos azimutes a partir dos ngulos observados. Neste caso seguimos o modelo do exerccio anterior.
Azi = Az0 +
i =1
(i 1) 180 o
Az1 = Az0 + 1 = 65 2035" Az2 = Az0 + 1 + 2 180o = 115 3055" Az3 = Az0 + 1 + 2 + 3 2 180o = 55 4135"
Az 0 Az1 1 0 0 1 o Az 2 = 1 1 0 2 + Az 0 180 Az 1 1 1 Az 360 o 3 3 0

Utilizando a equao propagao de erro Az = A A T , e transformando a matriz varincia-covarincia dos azimutes de segundos para radianos atravs da multiplicao por ( sen 1" ) 2 . Esta transformao necessria para uniformizar as unidades em metros.
25 25 25 = 25 50 50 (" ) 2 25 50 75 25 25 25 ( sen 1" ) 25 50 50 ( rd ) 2 25 50 75
2
Az
Clculo das coordenadas do vrtice 3

x3 = Li . sen Azi
i =1
y3 = Li . cos Az
i =1
x3 = L1 sen Az1 + L2 sen Az2 + L2 sen Az3 y3 = L1 cos Az1 + L2 cos Az2 + L3 cos Az3
Clculo das precises das distncias:

GEOMTICA - CEFETES
l = 5 mm + 10 ppm
1
l = 5 mm + 10 5,5 km
1
l1 = 60 mm l2 = 48 mm l2 = 32 mm
l = 5 mm + 10 ppm
2
l = 5 mm + 10 4,3 km
2
l = 5 mm + 10 ppm
3
l = 5 mm + 10 2,7 km
3
A matriz varincia-covarincia (MVC) das distncias observadas :
l l = 10
0 0 3600 0 2304 0 m2 0 0 1024
A MVC das distncias e azimutes ser a matriz laz , que ter dimenso 6x6:
laz = ll 0
0 az
laz =
0 0 0 0,0036 0,002304 0 0 0 0 0 0,001024 0 0 0 25 ( sen 1" ) 2 0 0 0 0 25 ( sen 1" ) 2 0 0 0 25 ( sen 1" ) 2
0 0 0 25 ( sen 1" ) 2 50 ( sen 1" ) 2 50 ( sen 1" ) 2
0 0 0 25 ( sen 1" ) 2 50 ( sen 1" ) 2 75 ( sen 1" ) 2
laz =
3,6 10 3 0 0 0 0 0
0 2,304 10 0 0 0 0
3
0 0 1,024 10 0 0 0
3
0 0 0 5,881 10
10
0 0 0 5,881 10 10 1,176 10 9 1,176 10 9
5,881 10 10 5,881 10 10
0 0 5,881 10 10 1,176 10 9 1,764 10 9 0
A matriz varincia-covarincia da coordenadas do vrtice 3:
x3y3 = A laz A T
x3 L A = 1 y3 L 1
x3 L2 y3 L2
x3 L3 y3 L3
x3 Az1 y3 Az1
x3 Az 2 y3 Az 2
x3 Az3 y3 Az3
Fazendo-se as derivaes do modelo matemtico (equaes das coordenadas)
x3 = L1 sen Az1 + L2 sen Az 2 + L3 sen Az3

y3 = L1 cos Az1 + L2 cos Az2 + L3 cos Az3
x3 = sen Az L1
x3 = L1 cos Az1 Az1 y3 = cos Az1 L1
x3 = sen Az 2 L2 x3 = L2 cos Az 2 Az 2 y3 = cos Az 2 L2 x3 = L2 sen Az 2 Az 2
x3 = sen Az3 L3 x3 = L3 cos Az3 Az3 y3 = cos Az3 L3 x3 = L3 sen Az3 Az3
x3 = L1 sen Az 1 Az 1
Substituindo os valores das derivadas, obtemos a matriz A:
sen Az1 A = cos Az 1
sen Az 2 cos Az 2
sen Az3 cos Az3
L1 cos Az1 L1 sen Az1
L2 cos Az 2 L2 sen Az 2
L3 cos Az3 L3 sen Az 3
0.90882 0.90247 0.82603 2294.513 - 1852.233 1521.791 A = 0.41718 - 0.43075 - 0.56362 - 4998.521 - 3880.623 - 2230.281
x3y3 = A laz A T
0.0092 - 0.0126 2 x3y3 = - 0.0126 0.0988 m
x 3 2 = 0.0092 m 2
y 3 2 = 0.0988 m 2
GEOMTICA - CEFETES
x 3 = 96,1 mm y 3 = 314,3 mm
e covarincia x3y3 = - 0.0126 m2
Captulo 5 - Ajustamento pelo Mtodo Paramtrico

5.1 Introduo
No ajustamento de observaes denominam-se parmetros (ou observaes indiretas) as grandezas que no so obtidas diretamente, ou seja, aquelas que so calculadas em funo de grandezas medidas diretamente. Exemplos tpicos de parmetros so: coordenadas, altitudes, reas, etc. O mtodo dos mnimos quadrados estima o valor dos parmetros, usando o mtodo de ajustamento
paramtrico ou mtodo das equaes de observaes. A aplicao deste mtodo exige a formulao
das equaes de observaes que correspondem aos modelos matemticos que relacionam os parmetros e as observaes. Aps o processamento do ajustamento, so obtidos os valores dos parmetros e das observaes ajustadas. O mtodo paramtrico tem grande aplicao no tratamento de dados corriqueiros da engenharia de posio, como o caso do nivelamento, poligonao, triangulaes, trilateraes, ou ainda, combinando-se mais de um dos mtodos de obteno de coordenadas.
5.2
Modelo Matemtico do Mtodo Paramtrico
O modelo matemtico bsico para o ajustamento paramtrico baseia-se na formulao das equaes de observao. Para cada observao formula-se ao menos uma equao. Considerando-se que se tenha n observaes e u parmetros, ento obtm-se um conjunto de n equaes com u parmetros com a seguinte representao matricial:
L a = F (X a )
onde:
(5.1)
L a : vetor (n x 1) de observaes ajustadas; X a : vetor (u x 1) de parmetros desconhecidos ajustados; F (Xa ) : funo representativa do modelo matemtico que relaciona as observaes ajustadas
com os parmetros ajustados.
GEOMTICA - CEFETES
74 Georreferenciamento de Imveis Rurais Ajustamento de Observaes O modelo matemtico expressa explicitamente as relaes entre as observaes e os parmetros ajustados. O objetivo primordial do mtodo paramtrico estimar os parmetros desconhecidos que compem o vetor X. Como veremos adiante, o vetor X composto por valores das correes dos parmetros aproximados Xo. Uma vez estimado os valores das correes x, os parmetros ajustados so obtidos por:
Xa = Xo + X
Em que:
(5.2)
X o : vetor (u x 1) dos valores aproximados dos parmetros desconhecidos; X : vetor (u x 1) das correes dos parmetros aproximados ( X o ).
Atravs do ajustamento pelo mtodo dos mnimos quadrados, podemos obter as observaes ajustadas:
La = Lb + V
onde:
(5.3)
L b : vetor (n x 1) das observaes brutas;
V : vetor (n x 1) dos resduos (ou correes).

Substituindo a Eq. (6.1) na Eq. (5.3), temos:
F(X a ) = L b + V
(5.4)
F (X a ) = L b + V =
F (X o + X) = F (X o ) +
F Xa
X
Xa = X o
(5.5)
Substituindo alguns elementos da Eq. (5.5):
Lo = F ( Xo )
onde:
(5.6)
Captulo 5: Ajustamento pelo Mtodo Paramtrico
L o : vetor (n x 1) das observaes aproximadas obtidas da aplicao das funes F aos valores aproximados dos parmetros X o .
Chamando de A a matriz (n x u) das derivadas parciais da funo F. A matriz A calculada aplicando os valores aproximados dos parmetros, X o , nas derivadas parciais:
A =
F Xa
X
Xa = X o
(5.7)
Assim, a Eq. (5.5) pode ser reescrita como:
Lb + V = A X + Lo V =
E, finalmente, fazendo:
(5.8)
A X Lb + Lo
(5.9)
L = Lb Lo
Obtm-se o modelo linearizado das equaes das observaes para o mtodo dos parmetros:
nV 1
(5.10)
nA u
u X1 n L1
(5.11)
Esta ltima equao sintetiza matricialmente as n equaes de observaes, sob a forma dos resduos.
5.2.1
Equao Normal
Aplicando o princpio do mtodo dos mnimos quadrados na equao matricial dos resduos obtm-se, sucessivamente:
V T P V = ( X T A T LT ) P ( A X L )
(5.1)
V T P V = X T A T P A X X T A T P L LT P A X + LT P L
(5.2)
X T A T P L = LT P A X
(5.3)
GEOMTICA - CEFETES
76 Georreferenciamento de Imveis Rurais Ajustamento de Observaes Obs.: Os dois termos da Eq. (5.14) so escalares, portanto eles so iguais.
V T P V = X T A T P A X 2 X T A T P L + LT P L
Derivando a Eq. (5.15), em funo de X e igualando a zero, obtemos:
(5.4)
(V T P V ) = 2 AT P A X 2 . AT P L = 0 X
AT P A AT P L = 0
Fazendo-se:
(5.5)
N = AT P A
Obtemos:
n = AT P L
N X = n
X = N 1 n
(5.6)
O termo da Eq. (5.17), N 1 (inversa da matriz dos coeficientes dos parmetros desconhecidos da equao normal), igual matriz co-fator dos parmetros ( Q xx ) que multiplicada pela varincia a
posteriori, resulta na matriz varincia-covarincia dos parmetros ajustados ( xx ).
5.3
5.3.1
Varincia
Matriz de Peso
As observaes podem ser consideradas como uma amostra de uma populao cujos parmetros, mdia
e varincia 2 , podem ser estimados pelas estatsticas amostrais, e 2 , que
representam, respectivamente, a mdia da amostra e o indicativo de preciso das observaes. Esse indicativo de preciso, denominado varincia, muito importante para a anlise da qualidade do ajustamento.
77 Georreferenciamento de Imveis Rurais Ajustamento de Observaes Normalmente, as observaes no oferecem o mesmo grau de confiana, entretanto, pode-se homogeneiz-las, atribuindo-lhe pesos, tanto maior quanto maior for a confiana nas observaes. Os valores dos pesos so inversamente proporcionais aos valores das varincias ll . Designando por ll a matriz simtrica varincia-covarincia (estimada) do vetor observaes; e por
2
o 2 um fator de escala, valor adimensional numericamente igual varincia da observao a qual se

atribuiu peso unitrio (varincia a priori), ento dividindo ll por o observaes): 1
2
obtm-se uma nova
matriz simtrica, denominada matriz dos coeficientes do peso (ou matriz dos co-fatores das
Q ll =
o2
ll
(5.1)
A matriz dos pesos obtida pela inverso da matriz Q ll .

1
Q ll
= o
l l
= P
(5.2)
A matriz peso uma matriz quadrada e simtrica. Para observaes independentes (observaes no correlacionadas), essa matriz diagonal.
5.3.2
Varincia a a priori
2
A varincia da unidade de peso a priori o arbitrada, mas a relao mostrada pela Eq. (5.19) deve ser observada. Na maioria das vezes, a unidade escolhida com valor da varincia a priori, nesses casos, a matriz peso igual a matriz inversa da varincia-covarincia das observaes ( l l ).
1
5.3.3
Varincia a Posteriori
2 2 Aps o ajustamento pode-se estimar o valor de o em funo dos resduos. A esse valor escalar o denomina-se varincia da unidade de peso a posteriori (sigma zero a posteriori). O valor da varincia a posteriori pode ser estimado pela Eq. (5.20):
o2 =
onde:
VT P V r
(5.1)
GEOMTICA - CEFETES
r : nmero de graus de liberdade obtido pela diferena entre n (nmero de observaes) e u

(nmero de parmetros) O valor da varincia a posteriori calculado com a Eq. (5.20) deve ser estatisticamente igual ao valor da varincia a priori.
5.4
Rotina para Aplicao do Mtodo Paramtrico
Com a finalidade de facilitar a aplicao do mtodo paramtrico devemos seguir os seguintes passos: 5. Estudar o problema e formular as equaes matemticas para cada uma das observaes, e organiz-las na forma: L a = F (X a ) . 6. Obter o vetor dos valores aproximados dos parmetros desconhecidos (X o ) . 7. 8. 9. Encontrar a matriz dos pesos
P = o
l l
Calcular o vetor das observaes aproximadas L o = F (X o ) . Calcular o vetor das diferenas entre as observaes brutas e as observaes aproximadas.
10. Encontrar a matriz A . 11. Resolver o sistema de equaes normais A T P A X A T P L = 0 12. Encontrar os parmetros ajustados X a = X o + X 13. Encontrar os resduos V =
AX L
14. Calcular a matriz varincia-covarincia dos parmetros estimados (preciso dos parmetros 2 2 estimados) xx = o N 1 = o Q xx 15. Encontrar as observaes ajustadas L a = L b + V .
5.5
Exerccios
Exerccio 1 A Figura que se segue refere-se um nivelamento geomtrico que partiu da referncia de
nvel A, de altitude igual a 656,260 m; as setas indicam o sentido em que o terreno se eleva.
79 Georreferenciamento de Imveis Rurais Ajustamento de Observaes Estimar, pelo mtodo paramtrico, as altitudes das estaes I, II e III, com as correspondentes precises. Soluo: 1. Analisando o problema verificamos que os parmetros desconhecidos so as 3 altitudes incgnitas.
H1 Aps o ajustamento chegaremos ao seguinte vetor de parmetros ajustados: X a = H 2 H 3
Figura 5.1 Rede de Nivelamento
Vetor das observaes brutas:
6,67 12,78 6,15 = 1,02 11,88 5,77
Resolvendo o problema obedecendo seqncia de passos sugerida anteriormente, temos: 2. Elaborao das equaes de observaes envolvendo os parmetros, na forma algbrica e matricial.
GEOMTICA - CEFETES
dn1 = H I H A dn2 = H II H A dn3 = H II H I dn4 = H III H A dn5 = H II H III dn6 = H I H III

3. Os parmetros aproximados X o
dn 1 dn 2 dn 3 dn 4 dn 5 dn 6
1 1 1 0 0 1 = 1 0 0 0 0 1
0 1 1 0 1 0
0 0 HA 0 HI H 1 II H 1 III 1
H A + dn 1 662,930 X o = H A + dn 2 = 669,040 H + dn 657,280 4 A

4. No nivelamento, o peso pode ser considerado como o inverso do comprimento das de cada seo nivelada. No exemplo, temos 6 sees, portanto, a uma matriz peso ser quadrada (6 x 6) com elementos diferentes de zero apenas na diagonal principal(sees independentes).
0 0 0 0 1/4 0 0 0 0 0 1/2 0 0 0 1/2 0 0 0 P= 0 0 1/4 0 0 0 0 0 0 0 1/2 0 0 0 0 0 0 1/4

5. Estimativa da varincia a priori o . A varincia a priori relaciona-se com a matriz varincia2
covarincia e o peso atravs da expresso - ll = o P 1 , ento: Adotando-se o = 0,0004 , a matriz-varincia ser:

2
0.00160 0.00000 0.00000 ll = 0.00000 0.00000 0.00000
0.00000 0.00000 0.00000 0.00000 0.00000 0.00080 0.00000 0.00000 0.00000 0.00000 0.00000 0.00080 0.00000 0.00000 0.00000 0.00000 0.00000 0.00160 0.00000 0.00000 0.00000 0.00000 0.00000 0.00080 0.00000
0.00000 0.00000 0.00000 0.00000 0.00160
Isso significa que os desvios padres das observaes so:
dn1 dn 2 dn 3 dn 4 dn 5 dn 6
40 28 28 mm 40 28 40
6. O vetor de observaes aproximadas, calculadas em funo dos parmetros aproximados
L o = F(X o )
6,67 12,78 6,11 L o = F(X o ) = 1,02 11,76 5,65
7. Vetor das diferenas entre as observaes brutas e as observaes aproximadas:
L = Lb Lo =
6,67 12,78 6,15 1,02 11,88 5,77
6,67 12,78 6,11 1,02 11,76 5,65
0,00 0,00 + 0,04 L = 0,00 + 0,12 + 0,12
8. As seis equaes das observaes so lineares e relacionadas a trs parmetros (desconhecidos). Assim, a matriz resultante A ser (6 x 3). Da equao original (1 passo) foi retirado o parmetro A (conhecido) e a primeira coluna referente a este parmetro
1 0 1 A= 0 0 1
0 0 1 0 1 0 0 1 1 1 0 1
dn 1 dn 2 dn 3 dn 4 dn 5 dn 6
1 1 1 0 0 1 = 1 0 0 0 0 1
0 1 1 0 1 0
0 0 HA 0 HI H 1 II H 1 III 1
9. Efetuar as multiplicaes de matrizes para resolver o sistema de equaes normais.
GEOMTICA - CEFETES
X = ( A T P A ) 1 A T P L (equao soluo dos parmetros)

0 0 0,25 0,25 0 0,5 0,5 0,5 0 0,5 0 AT P = 0 0 0 0 0,25 0,5 0,25
0,5 0,25 1 0,5 1,5 A P A = 0,5 0,25 0,5 1

T
(A
PA
1,6 0,8 0,8 = 0,8 1,2 0,8 0,8 0,8 1,6
+ 0,010 A P L = + 0,080 0,090

T
X = (A PA)
T
(A
PL
+ 0,008 = + 0,032 0,072
Parmetros ajustados
662,930 Xa = Xo + X = 669,040 657,280

10. Vetor dos resduos do ajustamento:
+ 0,008 + 0,032 0,072
Xa
662,938 = 669,072 657,208
0,008 0,032 0,024 AX = 0,072 0,104 0,080
0,00 0,00 + 0,04 L= 0,00 + 0,12 + 0,12
V = AX L =
0,008 0,032 0,024 0,072 0,104 0,080
0,00 0,00 + 0,04 0,00 + 0,12 + 0,12
0,008 0,032 0,016 = 0,072 0,016 0,040
11. Matriz varincia covarincia dos parmetros
2 Sigma zero a posteriori o =

0,0025 = 0,0008 63
V T PV nm
o2 =
2 MVC dos parmetros ajustados xx = o N 1

12. Comparao da varincia a priori com a varincia a posteriori A varincia a priori foi adotada como o = 0,0004 e a varincia a posteriori foi calculada
2
o 2 = 0,0008
Hiptese bsica: Hiptese alternativa:
Ho : o =
2
o2 o2
Ha : o
2
Estatstica qui-quadrado ( 2 ) calculada:

2 = o2 r o2 0,0008 3 = 0,0004
6,2
Qui-quadrado terico ( 2 ) com = 5% (analisando as duas caudas da curva de distribuio quiquadrado)
1 = 0,025 ; 2
1 1 = 0,975 2
GEOMTICA - CEFETES
84 Georreferenciamento de Imveis Rurais Ajustamento de Observaes Entrando na tabela de distribuio qui-quadrado (Tabela 5.1) em funo do nmero de redundncia e a probabilidade, achamos os valores crticos para o nvel de significncia 5%.
3; 0 , 025
= 0,22
3; 0 , 975
= 9,35
Como a estatstica calculada ( 2 = 6,2 ) est entre os valores crticos, a hiptese bsica no
rejeitada.
xx = o N
1,6 0,8 0,8 0,0008 0,8 1,2 0,8 0,8 0,8 1,6
xx
0,0013 0,0006 0,0006 = 0,0006 0,001 0,0006 0,0006 0,0006 0,0013
Os valores encontrados no passo 8 agora podem ter sua qualidade avaliada, dessa forma as altitudes calculadas tm as seguintes precises:
Alt I = 662,938 0,036 m Alt II = 669,072 0,031 m Alt III = 657,208 0,036m
13. Observaes ajustadas:
Xa
662,938 = 669,072 657,208
La
0,008 6,67 0,032 12,78 0,016 6,15 + = Lb + V = 0,072 1,02 0,016 11,88 0,040 5,77
6,678 12,812 6,134 La = 0,948 11,864 5,73
Preciso das observaes ajustadas:
Q LL = A N 1 A T
1.6 0.8 0.8 QLL = 0.8 0 0.8
0.8 0.8 0.8 1.2 0.4 0.4 1.2 0.8 0

2
0 0.4
0.8 0
0.8 0
1.6 0.8 0.8 0.8 1.6
0.4 0.8
0.4 0.4 0.8 1.2 0.8 0.8 0.8
LL = o Q LL
0.0013 0.0007 0.0007 LL = 0.0007 0.0000 0.0007
0.0007 0.0007 0.0007 0.0010 0.0003 0.0003 0.0010 0.0007 0.0000 0.0007 0.0000
0.0000 0.0003
0.0007 0.0000
0.0013 0.0007 0.0007 0.0007 0.0013
0.0003 0.0007
0.0003 0.0003 0.0007 0.0010 0.0000 0.0007 0.0007 0.0007
La1 = 6,678 La 2 = 12,812 La 3 = 6,134 La 3 = 0,948 La 3 = 11,864 La 3 = 5,73
0.036 0,031 0,031 0,036 0,031 0,036
Exerccio 2 So conhecidas as coordenadas dos vrtices P1, P2, P3, P4, dos quais foram observadas
as distncias a uma estao desconhecida PA, bem como o ngulo P1 P P2. A Figura 5.2 mostra o esquema da medio. A tabela inferior esquerda da figura apresenta as coordenadas dos pontos conhecidos, enquanto a tabela da direita mostra as observaes com os respectivos erros mdios quadrticos (desvio padro). Calcular as coordenadas ajustadas da estao PA, bem como suas precises (GEMAEL, 1994).
Figura 5.2 Esquema do exerccio 2

GEOMTICA - CEFETES

PONTOS
X (m) 842,281 1337,544 1831,727 840,408
Y (m) 925,523 996,249 723,962 658,345
Observaes l1 l2 l3 l4
Distncia (m) 244,512 321,570 773,154 279,992 ngulo
Desvio (m) 0,012 0,016 0,036 0,014
P1 P2 P3 P4
l5
123o 3801,4
2,0
Modelo Matemtico
T Designando por X a = ( x a , y a ) , o vetor coordenadas ajustadas e por l ai , os valores observados
ajustados, podemos escrever:
l ai = l bi + vi =
[(x
xa ) + ( yi y a )
2
( i = 1, 2 , 3, 4 )
x xa l a5 = l b5 + v5 = arc tg 2 ( y y ) arc tg a 2
x1 x a (y y ) a 1
Equaes que satisfazem o modelo matemtico que caracteriza o mtodo paramtrico: L a = F (X a ) Obter o vetor dos valores aproximados dos parmetros desconhecidos (X o ) .
P1
9 1 21 32
AZ = 815222 D = 500,287
Az =1 14 1
P2
0 ,57 21 3
l1
3 42
l5
PA
= D2
Aplicando alei dos senos: sen (l 5 ) sen P1 = d2 500,287
( )
P1 = 32 2119
87 Georreferenciamento de Imveis Rurais Ajustamento de Observaes Clculo do azimute de P1 para PA AZ P1 PA = 815222 + 32 2119 Clculo das coordenadas provisrias PA X PAo = 842,281 + 244,512 Sen ( 1141342) YPAo = 925,523 + 244,512 Cos ( 1141342) Assim:
AZ P1 PA = 1141342
X PAo = 1065.25 m YPAo = 825,18 m
1065,25 Xo = 825,18
Encontrar a matriz dos pesos
P = o
l l
Considerando as observaes independentes entre si, a matriz varincia-covarincia se reduz a uma matriz diagonal cuja inversa se obtm tomando na diagonal principal o inverso da varincia de cada observao, fazendo ainda o = 1 :
2
0,012 2 0 P = 0 0 0
0 0,016 0 0 0
2
0 0 0,038 0 0
2
0 0 0 0,014 0
2
0 0 0 0 2 2
Calcular o vetor das observaes aproximadas L o = F (X o ) . 1065,25 Xo = 825,18
l oi =
[(x
+ xo ) + ( y i + y o )
2
(i = 1, 2,
3, 4)
lo1 =
[(842,281 +
1065,2 ) + (925,523 + 825,2)

2
l o1 = 244,453 m
GEOMTICA - CEFETES
88 Georreferenciamento de Imveis Rurais Ajustamento de Observaes l o 2 = (1337,544 + 1065,2 ) + (996,249 + 825,2)

2
l o 2 = 321,603 m
l o 3 = (1831,727 + 1065,2) + (723,962 + 825,2)

2
]
1
l o 3 = 773,183 m
lo4 =
[(840,408 +
1065,2 ) + (658,345 + 825,2 )

2
l o 4 = 279,950 m
x x0 l o5 = arc tg 2 ( y y ) arc tg 0 2
1337 ,544 1065 ,2 l o5 = arc tg (996 ,249 825,2 ) arc tg
x1 x 0 (y y ) 0 1
842 ,281 1065 ,2 (925,523 825,2 )
l o5 = 123,638853
123 3819,87
Por fim, temos o vetor das observaes aproximadas:
244,453 321,603 L o = 773,183 279,950 1233819,87

Calcular o vetor das diferenas entre as observaes brutas e as observaes aproximadas.
244,512 244,453 321,570 321,603 L = Lb Lo = 773,154 773,183 279,992 279,950 1233801,40 1233819,87
0,058 0,034 L = 0,030 0,041 18,87
. Modelo Linearizado A funo representativa do modelo matemtico no linear, ento o modelo deve ser linearizado para encontrarmos a Matriz A.
89 Georreferenciamento de Imveis Rurais Ajustamento de Observaes Conforme equaes Eq. (6.13) e Eq. (6.14), temos:
l1a xa l 2 a xa l 3 = a xa l 4 a xa l 5a xa l1a ya l 2 a ya l 3 a ya l 4 a ya l 5 a ya
A =
F Xa
x xa l ia = i li a xa y ya l ia = i li a ya
(i = 1, 2, 3, 4)
Xa = X o
Conforme equaes Eq. (6.3) e Eq. (6.4), temos:
(y y ) l5a = 2 2a + xa (l2a )
No ponto Xa = Xo
l1a xa
( y1 ya ) (l1a ) 2
l5a = ya
(x2 xa )
(l2a )
(x1 xa )
(l1a ) 2
e Ya = Yo:
x1 x o 842,281 1065,2 = = l1 o 244,453
=
Xa = X o
0,911907
l1a ya
=
ya = yo
y1 y o 925,523 825,2 = = l1 o 244,453
0,410397
Analogamente;
l 2 a
xa xo
= 0,846831
l 2 a
ya xo
= 0,531862
l3 a
xa xo
= 0,991391
( (
l3 a
ya xo
= 0,130937
l 4 a
xa xo
0,802972
l 4 a
ya xo
= 0,596017
l 5 a xa
=
Xa = X o
996,249 825,2
(321,603)
925,523 825,2
(244,512 )2
GEOMTICA - CEFETES

l 5 a xa =
Xa = X o
0,0000250 rad
= 5,163394
l 5 a ya
=
Xa = X o
1337 ,544 1065,2
(321,603)
l 5 a ya
842,281 1065,2
(244,512 )2
=
Xa = X o
0.00636354 rad
1312.57378 7
Resulta:
0,410397 0,911907 0,846831 0,531862 A = 0,991391 0,130937 0,596017 0,802972 5,163394 1312,573787
Resolver o sistema de equaes normais A T P A X A T P L = 0
12533,0196 3208,0430 N = ATP A = 3208,0430 434811,5411
N 1 = A T P A
12533,0196 3208,0430 = 3208,0430 434811,5411
649,61871 U = ATP L = 6031,984978

.
0,055400 X = (A T PA) 1 (A T PL ) = 0,014281

Parmetros ajustados
1065,2 Xa = Xo + X = 825,2
Vetor dos resduos do ajustamento:
0,05540 0,014281
1065,2554 Xa = 825,1867
0,05638 0,058 0,03932 0,034 V = AX L = 0,05680 0,030 0,3597 0,041 18,4589 18,87
Varincia a posteriori
0,0019 0,0055 V = 0,02727 0,00597 0,0112
o2 =
VTP V n u
0,8436 52
o 2 = 0,281
Matriz varincia-covarincia dos parmetros:
XA = XX
2 0 N 1
0,00000059 m2 0,00000230
0,00007981 XA = 0,00000059
xa = 0,009 m
ya = 0,002 m
xa ya = 0,00000059 m 2
xa ya = 0,0044
Observaes ajustadas
0,0019 244,512 0,0055 321,570 La = Lb + V = 773,154 + 0,02727 0,00597 279,992 0,0112 1233801,40 244,510 321,564 773,127 279,986 1233801,39
La =
Comparao da varincia a priori com a varincia a posteriori

GEOMTICA - CEFETES
92 Georreferenciamento de Imveis Rurais Ajustamento de Observaes A varincia a priori foi adotada como o = 1 e a varincia a posteriori foi calculada
2
o 2 = 0,281
Hiptese bsica: Hiptese bsica:
Ho : o =
2
o2 o2
Ha : o
2
Estatstica qui-quadrado ( 2 ) calculada:

2 = o2 r o2 0,28 3 = 1
0,84
Qui-quadrado terico ( 2 ) com = 5% (analisando as duas caudas da curva de distribuio quiquadrado)
1 = 0,025 ; 2
1 1 = 0,975 2
Entrando na tabela de distribuio qui-quadrado em funo do nmero de redundncia e a probabilidade, achamos os valores crticos para o nvel de significncia 5%.
3; 0 , 025
= 0,216
3; 0 , 975
= 9,348
Como a estatstica calculada ( 2 = 0,84 ) est entre os valores crticos a hiptese bsica no
rejeitada
Captulo 6 - Qualidade do Ajustamento

O controle de qualidade de ajustamento dispe de mecanismo de teste estatstico para detectar e remover possveis erros grosseiros e, alm disso, avaliar os efeitos dos erros grosseiros no detectveis nos parmetros desconhecidos. A eficincia desses testes depender da controlabilidade (nmero de redundncia) das observaes, ou seja, quanto mais controlveis forem as observaes, maior ser a probabilidade de se detectar falhas atravs dos testes estatsticos. Esse controle sobre as observaes expressa a confiabilidade do ajustamento.
6.1
Teste de Hipteses
Testes hipteses consistem em ferramentas estatsticas amplamente usadas por engenheiros e cientistas em combinao com o mtodo dos mnimos de quadrados. Esses testes so freqentemente usados para comparar resultados experimentais com determinado padro. Nestes testes busca-se avaliar, atravs de certas estatsticas amostrais (mdia e desvio padro), a consistncia da suposio de que uma certa amostra foi realmente extrada de uma populao com determinada funo de distribuio. As suposies (hipteses) estatsticas formalizam-se atravs de sentenas (explcita ou implcita) sobre a probabilidade de distribuio de uma determinada varivel estocstica. Assim, os testes de hipteses so procedimentos que conduzem a uma deciso acerca de suposies (com base em uma amostra). Por exemplo, a deteco dos erros grosseiros feita atravs da formulao de hipteses estatsticas sobre existncia ou no de erros grosseiros nas observaes de determinado ajustamento. No ajustamento, o modelo matemtico e modelo estocstico so baseados em um conjunto de suposies que correspondem s hipteses estatsticas. Neste caso, testes estatsticos so usados para verificar a validade dessas hipteses. Por exemplo, os pressupostos bsicos dos modelos matemticos e estatsticos dos ajustamentos de observaes geodsicas ou topogricas so: Inexistncia de erros grosseiros nas observaes; O modelo matemtico fornece uma descrio correta das relaes entre as observaes e os parmetros desconhecidos; O modelo estocstico escolhido para as observaes descreve corretamente as propriedades estocsticas das observaes. A deciso de um teste de hiptese implica a no rejeio ou a rejeio da hiptese nula, que correspondem a quatro casos possveis, mostrados na Figura 6.1:
GEOMTICA - CEFETES
no rejeio de uma hiptese realmente verdadeira; rejeio de uma hiptese realmente verdadeira erro tipo I; rejeio de uma hiptese realmente falsa; no rejeio de uma hiptese realmente falsa erro tipo II.
O erro indicado na letra (b) conhecido como erro do tipo I (ou erro alfa - ). A probabilidade mxima admitida de se correr o risco de um erro tipo I conhecida como nvel de significncia. Em outras palavras, nvel de significncia probabilidade de se rejeitar uma hiptese H0 verdadeira:
= P (rejeitar H o H o verdadeira)
O nvel de significncia geralmente fixado a priori, e os valores usuais em Geodsia so
= 0,05 (5%) ou = 0,1 (10%) .

O erro indicado na letra (d) conhecido como erro do Tipo II (ou erro beta - ). A probabilidade de se incorrer em um erro desse tipo expressa por:
= P (aceitar H o H o falsa )
Chama-se potncia do teste probabilidade de rejeitar a hiptese nula quando a hiptese alternativa verdadeira, ou seja, tomar a deciso correta de rejeitar observao com erros grosseiros. A importncia da potncia do teste sua capacidade de revelar a falsidade de H0 quando a hiptese alternativa Ha verdadeira. 1 = P (rejeitar H o H o falsa ) .
importante ressaltar que as observaes obtidas na Mensurao so consideradas amostras extradas de uma populao, por isso a razo de test-las por meio de testes de hipteses, a fim de concluir sobre sua aceitao ou no. Os dados de amostras que resultem em valores discordantes da hiptese nula devem ser testados para verificar: se a discordncia significativa (no aleatria), o que implicaria sua rejeio, ou se essa discordncia pode ser simplesmente atribuda ao acaso, o que no invalidaria a hiptese.
Captulo 6: Qualidade do Ajustamento
Figura 6.1 - Quadro de decises e suas probabilidades.

O investigador deve planejar os testes de hipteses que suportaro suas decises, buscando minimizar o risco de uma deciso incorreta. Entretanto, a Figura 6.2 ressalta uma situao paradoxal; pois a rea hachurada da direita mostra a regio de rejeio da hiptese nula H0, ou seja, a probabilidade de um erro do tipo I, j a rea hachurada da esquerda corresponde probabilidade de no rejeio de H0 quando Ha verdadeira; ou seja, probabilidade de se cometer um erro do tipo II. No possvel tornar ambos os erros, e , arbitrariamente pequenos, pois a tentativa de diminuir a probabilidade de um erro implica o aumento da probabilidade do outro.
Hiptese nula - H0
Hiptese alternativa - Ha
1
/ 2 / 2
regio de rejeio de Ho
regio de aceitao de Ho
regio de rejeio de Ho aceitao de Ha
Figura 6.2 - Representao dos erros Tipo I () e Tipo II ()
6.2
Deteco Outlier e Localizao de Erro Grosseiro
A teoria do ajustamento pelo MMQ pressupe a eliminao dos erros grosseiros e os sistemticos por algum processo anterior ao ajustamento, portanto apenas erros aleatrios deveriam perturbar os dados. Mas como nem sempre esses pressupostos so atendidos, imprescindvel a verificao da
GEOMTICA - CEFETES
96 Georreferenciamento de Imveis Rurais Ajustamento de Observaes confiabilidade das observaes e do modelo matemtico. Assim, os resduos das observaes ajustadas so submetidos a testes estatsticos que buscam detectar outliers, localizar e eliminar de erros grosseiros. importante relembrar que os procedimentos de ps-ajustamento buscam detectar e eliminar, somente, erros grosseiros de pequena magnitude, pois assumido que erros grosseiros de grande magnitude j foram eliminados por procedimentos de controle anteriores ao ajustamento.
6.2.1
Outliers
A existncia de erro grosseiro eleva a amplitude dos resduos que se manifesta pelo aparecimento dos outliers. Outlier pode ser definido como um resduo que, conforme determinado teste estatstico, excede certo valor limite, baseado em suposies das propriedades dos parmetros estocsticos das observaes. Assim, na maioria das vezes, os outliers correspondem a resduos causados por erros grosseiros.
6.3
6.3.1
Testes de Qualidade do Ajustamento

Teste Global da Varincia a Posteriori
Este teste estatstico multidimensional que foi proposto por Baarda (1968) para detectar a existncia de inconsistncias do ajustamento sempre o primeiro teste a ser aplicado aps o ajustamento. Ele , tambm, conhecido como teste do modelo geral, pois testa o modelo como um todo. Por ser muito geral, esse teste no capaz de definir a natureza das inconsistncias detectadas e muito menos localiz-las. Entretanto, uma qualidade importante deste teste a simplicidade e a capacidade de indicar as provveis causas da falha da suposio bsica. Este teste faz a comparao entre a varincia a priori e a varincia a posteriori. Obviamente esse teste somente tem significado quando varincia a priori ( o ) conhecida, isto , quando se tem algum conhecimento prvio sobre a preciso das observaes. J a varincia a posteriori ( o ) uma estimativa imparcial da varincia a priori e obtida, aps o ajustamento das observaes, a partir da matriz dos resduos ( V ), pela Eq. (6.1):
2 2
2 o =
VT P V r
(6.1)
onde:
V : Matriz dos resduos do ajustamento;
97 Georreferenciamento de Imveis Rurais Ajustamento de Observaes P : Peso das observaes; r : Grau de liberdade, obtido pela diferena entre o nmero de equaes e o nmero de incgnitas a ser determinado. A comparao entre a varincia a priori e a varincia a posteriori um indicador da qualidade do ajustamento. Caso haja discrepncia entre a varincia a priori e a varincia a posteriori, aplica-se o teste de hiptese que se baseia na distribuio qui-quadrado ( 2 ) para verificar a significncia da discrepncia em relao ao nvel de confiana pr-estabelecido. O teste de hiptese da varincia a posteriori baseia-se na estatstica definida pela expresso:
T
* (r ) =
2
V PV
2 o
2 o r 2 o
(6.2)
Portanto:
o2 r o2
2 (r)
(6.3)
A esperana matemtica da distribuio qui-quadrado grau de liberdade - r , a qual somente ser atendida se a relao entre a varincia a posteriori e a varincia a priori for igual a um. Ento, pode-se formular a hiptese bsica a seguir:
H0 :
2 o o
2
= 1
(6.4)
6.3.2
Teste Bilateral
Conforme os propsitos do teste definido pela hiptese nula, podemos aplicar um teste bilateral (duas caudas) ou unilateral (uma cauda). As hipteses para o teste bilateral so:
2 2 o = o
H0 :
(6.1)
Ha :
2 2 o o
(6.2)
GEOMTICA - CEFETES
98 Georreferenciamento de Imveis Rurais Ajustamento de Observaes Ento para o nvel de significncia , de acordo com o princpio do teste estatstico bilateral, a hiptese nula no ser rejeitada, se:
2
> 2
r ,
(6.3)
ou
< 2
r ,1
(6.4)
onde:
2
* : Valor calculado para o teste qui-quadrado Eq. (6.2); 2 : Valor obtido da tabela de distribuio qui-quadrado.
, /2
, 1/2
Figura 6.1 - Regies de aceitao e rejeio do teste bilateral. 6.3.3 Teste Unilateral
Quando o teste global usado para detectar outliers temos a expectativa de que a varincia a
2 2 posteriori seja maior que a varincia a priori ( o > o ). Portanto, as hipteses a serem
testadas so:
2 2 o = o
H0 :
(6.1)
99 Georreferenciamento de Imveis Rurais Ajustamento de Observaes Ha : Assim o teste recomendado : 2 o o onde:

F r , , 1 : Teste F para os graus de liberdade do numerador igual e a r e do denominador
2 2 2 o > o
(6.2)
<
2r , 1
r
ou
2 o o
2
< Fr , ; 1
(6.3)
, e nvel de significncia 1 .
6.3.4
Anlise dos Resultados do Teste Global
Quando a hiptese zero do teste global falhar, uma anlise cuidadosa do ajustamento deve ser feita, pois ou a matriz varincia-covarincia das observaes foi mal estimada, ou os resduos mostram-se grandes devido a erros grosseiros ou sistemticos, ou ento, o modelo matemtico escolhido pode ser inconsistente. Para verificar qual das hipteses alternativas anteriores causou a falha da hiptese zero, inicia-se a anlise pela estimativa de peso.
(r ) =
*2
T V PV o
2
1 2 o V T ll V
* (r ) =
1 V T ll V
(6.1)
A Eq. (6.12) mostra que o clculo da estatstica * (r ) no depende da varincia a priori, mas diretamente proporcional aos resduos V e inversamente proporcional matriz varincia-covarincia ll das observaes. Assim, uma estimativa muito pessimista dos erros aleatrios (suposio da matriz varinciacovarincia das observaes com grande incerteza) tornar o valor * ( r ) menor que o limite inferior do nvel de significncia (Eq. 6.7).
2
GEOMTICA - CEFETES
100 Georreferenciamento de Imveis Rurais Ajustamento de Observaes J uma estimativa muito otimista dos erros aleatrios (suposio da matriz varincia-covarincia pequena incerteza) tornar o valor * ( r ) maior que o limite superior do nvel de significncia (Eq. 6.8). Assim, no teste bilateral, uma estimativa muito pessimista ou muito otimista dos erros aleatrios das observaes gera valores para * ( r ) alm dos limites de aleatoriedade da hiptese zero, o que provoca sua rejeio. No caso do teste unilateral, a rejeio do teste global s ocorre quando a estimativa dos erros aleatrios muito otimista. Conforme Kuang (1996), a rejeio da hiptese zero H0 causada por uma estimativa imprpria da matriz varincia-covarincia facilmente reconhecida. Pois, nesses casos, os resduos obedecem funo de distribuio normal, com esperana de mdia igual a zero, e provavelmente nenhuma observao produz resduos excessivos. Portanto se o teste global for rejeitado, mas amplitude dos resduos se mostrarem compatveis com a preciso dos equipamentos usados nas medies, tem-se razo suficiente para acreditar que a preciso das observaes no foi corretamente estimada e por isso uma nova matriz varincia-covarincia ll pode ser proposta. Na prtica, isso pode ser feito 2 escalonando a matriz ll com varincia a posteriori estimada o , ou seja:
2 2
ll
onde:
= o
ll
(6.2)
ll : matriz varincia-covarincia das observaes escalonada. Ento, o ajustamento ser refeito usando essa nova matriz varincia-covarincia ll , que testar aceitao da hiptese nula. 6.3.5 Teste Data Snooping
A aplicao da tcnica data snooping um processo combinado para deteco de outlier, localizao e eliminao dos erros grosseiros. Este mtodo pesquisa por outlier e em seguida investiga quais observaes contm os erros grosseiros que causaram os outliers e, ento, as elimina, caso necessrio.
101 Georreferenciamento de Imveis Rurais Ajustamento de Observaes 1 - Deteco de Outlier O ajustamento de observaes torna explicito os resduos, mas no revela os erros grosseiros, que os causaram, em outras palavras, aps o ajustamento no se tm informaes suficientes para apontar as observaes incorretas. Baarda (1968), props a denominada hiptese alternativa convencional, que uma relao simples e especfica entre os vetores dos resduos estimados V e o erro grosseiro l , a qual assume a existncia de erro grosseiro em apenas uma observao de cada vez.
H ac : l i = ei l 0
( i = 1, 2 , , n )
(6.1)
onde:
ei =
( 0,
T 0, 1, , n ) : um vetor com elementos iguais a zeros, exceto do valor 1 na
ensima posio;
l i : o valor do erro grosseiro da ensima observao li .

A concepo da hiptese nula para anlise de ajustamento pelo MMQ supe observaes contento somente erros aleatrios, ou seja, as observaes se ajustam funo de densidade probabilstica normal. Assim os resduos ajustados, tambm, devem obedecer a essa distribuio. A hiptese nula proposta para os resduos de que sua distribuio obedea distribuio normal H 0 : V ~ N ( 0 , vv ) . A diviso dos resduos por seus respectivos desvios padro resulta em uma estatstica conhecida como resduo normalizado ou resduo reduzido que so expressos por pela Eq. (6.15) vi vi
wi =
vi
l i
ri
(6.2)
Esses resduos normalizados ajustam-se funo de distribuio normal reduzida, portanto sua esperana matemtica de mdia zero e varincia igual a 1. Assim, uma outra hiptese nula mais especfica pode ser proposta:
H o : wi
~ n ( 0 , 1)
(6.3)
GEOMTICA - CEFETES

n ( 0 , 1 ) : Distribuio de densidade normal reduzida.
Assim, para um nvel de significncia pr-definido o do teste bilateral, a hiptese nula H o ser rejeitada, ou seja, um outlier ser detectado, se:
wi < n o
2
ou
wi > n
o
2
(6.4)
A tcnica data snooping consiste de um teste unidimensional que examina apenas um resduo de cada vez. Esse procedimento repetido tantas vezes quantas forem as observaes supostamente eivadas de erros grosseiros. O nvel de significncia sugerido por Baarda (1968) o = 0,001 (0,1%), que corresponde a 3,29 desvios padro. Para este nvel de significncia a hiptese zero ser rejeitada, se:
wi > 3,29
ou
vi > 3,29 v i
(6.5)
Tabela 6-1 Distribuio Qui-quadrada (inversa)

Grau de Liberdade 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 40 50 60 70 80 90 100 0.005 0.000 0.010 0.072 0.207 0.412 0.676 0.989 1.344 1.735 2.156 2.603 3.074 3.565 4.075 4.601 5.142 5.697 6.265 6.844 7.434 8.034 8.643 9.260 9.886 10.520 11.160 11.808 12.461 13.121 13.787 20.707 27.991 35.534 43.275 51.172 59.196 67.328 0.01 0.00 0.02 0.11 0.30 0.55 0.87 1.24 1.65 2.09 2.56 3.05 3.57 4.11 4.66 5.23 5.81 6.41 7.01 7.63 8.26 8.90 9.54 10.20 10.86 11.52 12.20 12.88 13.56 14.26 14.95 22.16 29.71 37.48 45.44 53.54 61.75 70.06 0.025 0.00 0.05 0.22 0.48 0.83 1.24 1.69 2.18 2.70 3.25 3.82 4.40 5.01 5.63 6.26 6.91 7.56 8.23 8.91 9.59 10.28 10.98 11.69 12.40 13.12 13.84 14.57 15.31 16.05 16.79 24.43 32.36 40.48 48.76 57.15 65.65 74.22 0.05 0.00 0.10 0.35 0.71 1.15 1.64 2.17 2.73 3.33 3.94 4.57 5.23 5.89 6.57 7.26 7.96 8.67 9.39 10.12 10.85 11.59 12.34 13.09 13.85 14.61 15.38 16.15 16.93 17.71 18.49 26.51 34.76 43.19 51.74 60.39 69.13 77.93 0.1 0.02 0.21 0.58 1.06 1.61 2.20 2.83 3.49 4.17 4.87 5.58 6.30 7.04 7.79 8.55 9.31 10.09 10.86 11.65 12.44 13.24 14.04 14.85 15.66 16.47 17.29 18.11 18.94 19.77 20.60 29.05 37.69 46.46 55.33 64.28 73.29 82.36 0.2 0.06 0.45 1.01 1.65 2.34 3.07 3.82 4.59 5.38 6.18 6.99 7.81 8.63 9.47 10.31 11.15 12.00 12.86 13.72 14.58 15.44 16.31 17.19 18.06 18.94 19.82 20.70 21.59 22.48 23.36 32.34 41.45 50.64 59.90 69.21 78.56 87.95 0.3 0.15 0.71 1.42 2.19 3.00 3.83 4.67 5.53 6.39 7.27 8.15 9.03 9.93 10.82 11.72 12.62 13.53 14.44 15.35 16.27 17.18 18.10 19.02 19.94 20.87 21.79 22.72 23.65 24.58 25.51 34.87 44.31 53.81 63.35 72.92 82.51 92.13 0.5 0.45 1.39 2.37 3.36 4.35 5.35 6.35 7.34 8.34 9.34 10.34 11.34 12.34 13.34 14.34 15.34 16.34 17.34 18.34 19.34 20.34 21.34 22.34 23.34 24.34 25.34 26.34 27.34 28.34 29.34 39.34 49.33 59.33 69.33 79.33 89.33 99.33 0.7 1.07 2.41 3.66 4.88 6.06 7.23 8.38 9.52 10.66 11.78 12.90 14.01 15.12 16.22 17.32 18.42 19.51 20.60 21.69 22.77 23.86 24.94 26.02 27.10 28.17 29.25 30.32 31.39 32.46 33.53 44.16 54.72 65.23 75.69 86.12 96.52 106.91 0.8 1.64 3.22 4.64 5.99 7.29 8.56 9.80 11.03 12.24 13.44 14.63 15.81 16.98 18.15 19.31 20.47 21.61 22.76 23.90 25.04 26.17 27.30 28.43 29.55 30.68 31.79 32.91 34.03 35.14 36.25 47.27 58.16 68.97 79.71 90.41 101.05 111.67 0.95 3.84 5.99 7.81 9.49 11.07 12.59 14.07 15.51 16.92 18.31 19.68 21.03 22.36 23.68 25.00 26.30 27.59 28.87 30.14 31.41 32.67 33.92 35.17 36.42 37.65 38.89 40.11 41.34 42.56 43.77 55.76 67.50 79.08 90.53 101.88 113.15 124.34 0.975 5.02 7.38 9.35 11.14 12.83 14.45 16.01 17.53 19.02 20.48 21.92 23.34 24.74 26.12 27.49 28.85 30.19 31.53 32.85 34.17 35.48 36.78 38.08 39.36 40.65 41.92 43.19 44.46 45.72 46.98 59.34 71.42 83.30 95.02 106.63 118.14 129.56 0.99 6.63 9.21 11.34 13.28 15.09 16.81 18.48 20.09 21.67 23.21 24.72 26.22 27.69 29.14 30.58 32.00 33.41 34.81 36.19 37.57 38.93 40.29 41.64 42.98 44.31 45.64 46.96 48.28 49.59 50.89 63.69 76.15 88.38 100.43 112.33 124.12 135.81 0.995 7.88 10.60 12.84 14.86 16.75 18.55 20.28 21.95 23.59 25.19 26.76 28.30 29.82 31.32 32.80 34.27 35.72 37.16 38.58 40.00 41.40 42.80 44.18 45.56 46.93 48.29 49.64 50.99 52.34 53.67 66.77 79.49 91.95 104.21 116.32 128.30 140.17
GEOMTICA - CEFETES
Captulo 7 - Elipse de Erros

Aps o ajustamento das observaes GPS, obtm-se a matriz varincia-covarincia dos parmetros ajustados em cuja diagonal se encontram as varincias das coordenadas ajustadas. As razes dessas varincias fornecem o erro mdio ou preciso (x, y e z) das coordenadas ajustadas. Uma anlise de preciso da posio fornecida pela teoria da elipse de erros bidimensional atravs da qual se avalia a preciso em todas as direes do plano, e no somente na direo X, Y. Neste captulo sero mostradas duas abordagens de estudo da teoria da elipse de erros bidimensionais: a clssica e outra usando a tecnologia do crculo de Mohr. A determinao da elipse erro consiste, basicamente, em calcular o valor dos seus semi-eixos principais e a direo do semi-eixo maior. Esses valores so obtidos atravs da aplicao da teoria de propagao erros matriz varincia-covarincia das coordenadas ajustadas e equao de rotao de eixos. A matriz varincia-covarincia, que representada por xx , obtida pela Eq. (7.1).
xx =
T A PA 2 o
2 x yx
xy 2 y
(7.1)
onde:
xx : matriz varincia-covarincia das coordenadas ajustadas;

2 o : varincia a posteriori; A : matriz dos coeficientes das equaes de observao; P : matriz dos pesos das observaes; Q xx = ( A T P A ) 1 : matriz co-fatores da matriz varincia-covarincia das coordenadas ajustadas;
2 , 2 : varincia das coordenadas ajustadas X e Y, respectivamente; x y
xy : covarincia x, y;
Captulo 7: Elipse de Erro
7.1
Anlise Clssica da Elipse de Erro
Aplicando-se a teoria de propagao dos erros matriz varincia-covarincia, atravs dos coeficientes da funo de rotao dos eixos coordenados X, Y, obtm-se a matriz varincia-covarincia correspondente a uma direo qualquer
.
2 xy x = yx 2 y
xx
(7.1)
Os valores dos elementos da matriz xx podem ser calculados pelas equaes: (7.3), (7.4) e (7.5).
2 = x 2 cos 2
+ y 2 sen 2
2 . xy 2 sen . cos
(7.2)
= x 2 sen 2
+ 2 cos 2 y
2 . xy sen . cos
(7.3)
xy
= ( x 2 y 2 ) sen cos + xy ( cos 2 sen 2 )
(7.4)
A Eq. (4.3) a expresso de uma curva conhecida como podria com origem no ponto, (GEMAEL, 1994), desta curva obtm-se o valor da varincia para qualquer direo
desejada. Derivando essa
equao e igualando-a a zero, obtm-se a Eq. (7.6), que fornece o ngulo correspondente direo da maior ou menor varincia da curva podria. A raiz quadrada da varincia calculada com esse ngulo corresponde a um dos semi-eixos principais da elipse de erro. O outro eixo principal da elipse perpendicular a esse primeiro eixo principal. Neste estudo, foram considerados positivos os ngulos de sentido anti-horrio, e tendo por origem, o eixo das abscissas do sistema de coordenadas X, Y.
tg (2 ) =
2 xy
x y2
(7.5)
A fim de diferenciar do ngulo , correspondente a uma direo qualquer da podria, o ngulo do eixo principal determinado pela Eq. (7.6) ser representado por . E em funo deste ngulo pode-se determinar os valores dos semi-eixos principais da elipse de erro ( mx e mn ), a partir das Eq. (7.7) e (7.8).
GEOMTICA - CEFETES

2 2 2 2 2 = x cos + y sen + xy sen (2 ) max
(7.6)
2 2 2 2 2 mn = x sen + y cos xy sen (2 )
(7.7)
As Eq. (6.7) e (6.8) podem ser reescritas atravs do uso de identidades trigonomtricas para substituir as funes quadrticas sen 2 e cos 2 por outras mais simples. Ento, tm-se as Eq. (7.9) e (7.10) que so idnticas s que aparecem na literatura sobre elipse de erro.
2 mx
2 + 2 2 2 y y x + x cos (2 ) + xy sen (2 ) = 2 2
(7.8)
2 mn
2 + 2 2 2 x y y x = cos (2 ) xy sen (2 ) 2 2
(7.9)
Os valores mximos e mnimos da varincia, tambm, podem ser expressos de forma mais compacta pelas Eq. (7.11) e (7.12). Essas expresses, embora mais simples, so pouco encontradas na literatura.
2 2 mx = y + xy cotg
(7.10)
2 mn =
2 x xy cotg
(7.11)
7.2
Anlise da Elipse de Erro atravs do Crculo de Mohr
A tcnica do crculo de Mohr foi desenvolvida pelo engenheiro Otto Mohr em 1882, e usada normalmente para representao grfica do estado plano de tenses, anlise de esforos cisalhantes da mecnica dos solos. O uso dessa tcnica para avaliar a preciso de ajustamento, da mesma forma que na anlise clssica, baseia-se nos valores da matriz varincia-covarincia dos parmetros desconhecidos ajustados ( xx ). Os valores de varincia e covarincia dos pontos so representados em posies diametralmente opostas no crculo de Mohr, atravs de dois pontos X e Y. As coordenadas desses pontos correspondem aos valores da varincia ( ) e covarincia ( xy ). A varincia marcada no eixo horizontal (abscissa) e covarincia na vertical (ordenada), (HAUG,1984).
Figura 7.1 - Crculo de Mohr para anlise da elipse de erro. Fonte: Adaptado de Haug,1984
O uso da tcnica do crculo de Mohr, por ser uma soluo grfica, torna fcil a obteno dos valores mximos e mnimos da varincia, bem como dos ngulos correspondentes a esta direo, (HAUG, 1984). A Figura 7.1 mostra os elementos do crculo de Mohr para a anlise da elipse de erro. Nessa figura, a varincia da direo-X foi assumida como maior que a da direo-Y. Assim as coordenadas dos pontos X ( 2 , xy ) e Y ( y , yx) correspondem s varincias e covarincias da posio x ajustada na direo-X e na direo-Y, respectivamente. A linha XY entre estes pontos o dimetro do crculo de Mohr para esta posio. Embora, as covarincias xy e yx tenham valores iguais, elas so consideradas de sinais contrrios na anlise com crculo de Mohr. Assim, o centro C do crculo situa-se sobre o eixo de varincia, exatamente no meio da linha XY. As varincias principais, mxima e mnima, so encontradas pela construo do crculo atravs dos pontos X e Y, e centro em C. A interseo do crculo com o eixo de varincia em B e A, corresponde aos valores mximo e mnimo da varincia, respectivamente (HAUG, 1984).
2
GEOMTICA - CEFETES
Figura 7.2 - Outras relaes do crculo de Mohr

As expresses das varincias mxima e mnima, Eq. (7.9) e (7.10), podem ser facilmente observadas na Figura 7.1, enquanto as Eq. (7.11) e (7.12) so observadas na Figura 7.2.
7.3
Padres das Elipses de Erro

xy so os indicadores do comportamento da elipse de erro em relao ao
2 2 Os valores de x , y e
sistema cartesiano X, Y. A covarincia, por exemplo, o elemento que caracteriza a existncia do ngulo de rotao ( ) dos eixos principais da elipse. A anlise da Eq. (7.6), mostra que o valor do ngulo zero, quando a covarincia ( xy ) igual a zero. Como conseqncia, os eixos principais da elipse correspondero s razes dos valores x e y , conforme Figura 7.3. Quando os valores x e y so iguais e xy igual a zero, a elipse de erro se degenerar em um crculo.
2
2

Y Y
a) xy = 0 e
>
b) xy = 0 e
<
Figura 7.1 - Padro da elipse para xy = 0

Mais dois casos podem ser analisados: o primeiro quando xy > 0 e o segundo quando xy < 0 . O primeiro caso mostrado na Figura 7.4, na qual pode-se perceber o eixo principal maior da elipse orientado na direo na NE SW do sistema de eixo cartesiano X, Y.
Y Y
a) xy > 0 e
x > y
b) xy > 0 e
x < y
Figura 7.2 - Padres da elipse para xy > 0

O segundo caso, quando xy < 0 , mostrado na Figura 7.5, nesse caso o eixo principal maior da elipse est orientado na direo na NW SE do sistema de eixo cartesiano X, Y.
a) xy < 0 e
x > y
b) xy < 0 e
x < y
Figura 7.3 - Padres da elipse para xy < 0

GEOMTICA - CEFETES
110 Georreferenciamento de Imveis Rurais Ajustamento de Observaes Analisando as Figuras 7.3, 7.4, 7.5, algumas caractersticas da elipse de erro em relao aos eixos coordenados X, Y podem ser destacadas. A primeira corresponde ao fato de o eixo principal maior da elipse sempre se aproximar do eixo que possui maior valor de varincia. A segunda caracterstica, no to bvia quanto a primeira, mostra o fato de que o ngulo obtido pela Eq. (7.6), tanto pode corresponder ao eixo principal maior como ao eixo principal menor da elipse (Figuras 7.4.b e 7.5.b). Embora no retratado claramente nas trs figuras anteriores, quando xy 0 e 2 = 2 , o ngulo x y
= 45o , que a situao desejvel para a elipse erro, pois nesse caso particular, as varincias 2 e x 2 contribuem de forma idnticas para formao da elipse. y
As Figuras 7.4.a e 7.5.a mostram o caso em que xy 0 e 2 > 2 , no qual se observa que o x y ngulo formado entre o semi-eixo maior da elipse de erro e a abscissa do sistema de eixos coordenados X, Y menor que 45. J as Figuras 7.4.b e 7.5.b mostram o outro caso em que o ngulo anterior maior que 45 que corresponde situao de xy 0 e 2 < 2 . x y Vale salientar que os valores dos eixos da elipse de erro obtidos pelas Eq. (7.9), (7.10), (7.11) e (7.12) correspondem a um desvio padro (39%). Este captulo mostrou um dos aspectos da qualidade do ajustamento pelo MMQ, a preciso das coordenadas, que obtida a partir da matriz varincia-covarincia ( xx ). Essa preciso , na verdade, a propagao da matriz varincia-covarincia das observaes atravs do modelo matemtico, sem qualquer influencia do valor das observaes, supostas eivadas apenas de erros aleatrios.
Captulo 8 - Linearizao de alguns Modelos Funcionais

8.1 ngulos
2 (x , y )
2 2
3 (x , y )
3 3
d1-2
1-3
1 (x , y )
1 1
Figura 8.1 - Esquema de ngulos 8.1.1 Equao dos ngulos:

x 3 x1 x x1 arc tan 2 y y 1 2 y 3 y1
= arc tan
(8.1)
(arc tan x) =
1 1+ x2
(8.2)
A Eq. (6.2) a expresso da a derivada da funo arco tangente.
8.1.1.1 Derivada da equao do ngulo (Eq. 8.1) em relao X1 (coordenada do vrtice)
GEOMTICA - CEFETES

= x1 1 x x 1+ 3 1 y y 3 1
2
x1
(x3 x1 ) ( y3 y1 )
1 x x 1+ 2 1 y y 2 1
2
(x2 x1 ) x1 ( y2 y1 )
= x1
( y3 y1 ) + (x3 x1 ) ( y3 y1 )2
2
( y3 y1 )
( y2 y1 ) + (x2 x1 ) ( y2 y1 )2
2
( y2 y1 )
( y3 y1 ) = x1 ( y3 y1 )2 + (x3 x1 )2
( y2 y1 ) ( y2 y1 )2 + (x2 x1 )2
( y2 y1 ) (d1 2 ) 2
( y y1 ) = 3 2 + x1 (d13 )
(8.1)
8.1.1.2 Derivada da equao do ngulo (Eq. 8.1) em relao Y1 (coordenada do vrtice)

= y1
1
x x 1+ 3 1 y y 3 1
2
(x3 x1 ) ( y3 y1 )1 d x1 y1
1
x x 1+ 2 1 y y 1 2
2
(x2 x1 ) ( y2 y1 )1 d x1 y1
= y1
( y3 y1 ) + (x3 x1 ) ( y3 y1 )2
2
(x3 x1 ) ( y3 y1 )2
( y2 y1 ) + (x2 x1 ) ( y2 y1 )2
2
(x2 x1 ) ( y2 y1 )2
= y1
(x3 x1 ) ( y3 y1 )2 + (x3 x1 )2
= y1
(x2 x1 ) ( y2 y1 )2 + (x2 x1 )2
(x2 x1 ) (d1 2 ) 2
(x3 x1 ) (d13 ) 2
(8.1)
8.1.1.3 Derivada da equao do ngulo (Eq. 7.1) em relao X2

= x2
1
x x 1+ 2 1 y y 2 1
2
(x2 x1 ) x2 ( y2 y1 )
Captulo 8: Linearizao de alguns Modelos Funcionais

= x2
( y2 y1 ) + (x2 x1 ) ( y2 y1 )2
2
1 ( y2 y1 )
= x2
( y2 y1 ) ( y2 y1 )2 + (x2 x1 )2
( y2 y1 ) (d1 2 ) 2
= x2
(8.1)
8.1.1.4 Derivada da equao do ngulo (Eq. 8.1) em relao Y2

= y2
1
x x 1+ 2 1 y y 1 2
2
y2
((x
x1 ) ( y2 y1 )
= y2
( y2 y1 ) + (x2 x1 ) ( y2 y1 )2
2
(x2 x1 ) ( y2 y1 )2
= y2
(x2 x1 ) ( y2 y1 )2 + (x2 x1 )2
= y2
(x 2 x1 ) (d 1 2 ) 2
(8.1)
8.1.1.5 Derivada da equao do ngulo (Eq. 7.1) em relao X3

= x3 1 x x 1+ 3 1 y y 3 1
2
x1
x3 x1 y y 3 1
= x3
( y3 y1 ) + (x3 x1 ) ( y3 y1 )2
2
( y3 y1 )
= x3
( y3 y1 ) ( y3 y1 )2 + (x3 x1 )2
.
GEOMTICA - CEFETES

= x3
( y3 y1 ) (d13 ) 2
(8.1)
8.1.1.6 Derivada da equao do ngulo (Eq. 8.1) em relao y3

= y3 1 x x 1+ 3 1 y y 3 1
2
y3
((x x ) ( y
3 1
y1 )
1 = y3 ( y3 y1 )2 + (x3 x1 )2
( y3 y1 )2
(x3 x1 ) ( y3 y1 )2
= y3
(x3 x1 ) ( y3 y1 )2 + (x3 x1 )2
(x x1 ) = 3 2 y3 (d13 )
(8.1)
8.2
Azimutes
N
2 (x
d
A
Z
,y)
2
1-2
1 (x , y )
1 1
Figura 8.1 - Esquema do azimute
8.2.1
Funo azimute
x x1 Az1 2 = arc tan 2 y y 1 2
(8.1)
8.2.2
Derivada da equao do ngulo (Eq. 8.9) em relao X1

AZ = x1 1 x x 1+ 2 1 y y 2 1
2
x1
x2 x1 y y 2 1
AZ = x1
(x2 x1 )2 + ( y2 y1 )2 ( y2 y1 )2
( y2 y1 )
( y2 y1 ) AZ = x1 (x2 x1 )2 + ( y2 y1 )2 (y y ) AZ = 2 21 x1 (d1 2 )
(8.1)
8.2.3
Derivada da equao do ngulo (Eq. 8.9) em relao Y1

AZ = y1 1 x x 1+ 2 1 y y 2 1
2
y1
x2 x1 y y 2 1
AZ = y1
(x2 x1 )2 + ( y2 y1 )2 ( y2 y1 )2
AZ = y1
(x2 x1 ) ( y2 y1 )2
(x2 x1 ) (x2 x1 )2 + ( y2 y1 )2
GEOMTICA - CEFETES

= y1
(x2 x1 ) (d1 2 ) 2
(8.1)
8.2.4
Derivada da equao do ngulo (Eq. 8.9) em relao X2

AZ = x2 1 x x 1+ 2 1 y y 2 1
2
x2
x2 x1 y y 2 1
AZ = x2
(x2 x1 ) + ( y2 y1 ) ( y2 y1 )2
2
1 ( y2 y1 )
AZ = x2
( y2 y1 ) (x2 x1 )2 + ( y2 y1 )2
( y2 y1 ) (d1 2 ) 2
AZ = x2
8.2.5
Derivada da equao do ngulo (Eq. 8.9) em relao Y2

AZ = y2 1 x x 1+ 2 1 y y 2 1
2
y2
x2 x1 y y 2 1
AZ = y2
(x2 x1 ) + ( y2 y1 ) ( y2 y1 )2
2
(x2 x1 ) ( y2 y1 )2
AZ = y2
(x2 x1 ) (x2 x1 )2 + ( y2 y1 )2
(x2 x1 ) (d1 2 ) 2
AZ = y2
(8.1)
8.3
8.3.1
Distncias
Funo distncia
2 2
d 2 = ( x 2 x1 ) + ( y 2 y1 )
8.3.2
Derivadas parciais
2 d d = 2 (x 2 x1 ) X 1 + 2 (x 2 x1 ) X 2 2 ( y 2 y1 ) Y 1 + 2 ( y 2 y1 ) Y 2 d =
(x 2 x1 )
d
X1 +
(x 2 x1 )
d
X2
( y 2 y1 )
d
Y1 +
( y 2 y1 )
d
Y 2
d (x x1 ) = 2 X1 d d ( y y1 ) = 2 Y1 d
(8.1)
(8.2)
d = X2
(x 2 x1 )
d
(8.3)
d = Y 2
( y 2 y1 )
d
(8.4)
GEOMTICA - CEFETES
Captulo 9 - Noes de Derivadas

Uma reta secante a uma curva quando a intersecta ("corta") em 2 pontos distintos. tangente curva quando tem com ela um s ponto comum ("a toca num s ponto"). O declividade da reta secante ou da reta tangente curva da figura o quociente:
Figura 9.1 Reta secante
Figura 9.2 Reta tangente

Observando a Fig. 8.3 na qual est representada uma funo f(x), verifica-se que quando o valor de x aumenta de a para b a funo f(x) tambm passa de f(a) para f(b). Portanto variao de a para b sucede a variao de f(a) para f(b). Para calcular a variao mdia da funo basta fazer o quociente entre estas duas variaes. No fundo estamos calculando a declividade da reta secante curva em a e
b.
Captulo 9: Noes de Derivadas
Figura 9.3 Declividade mdia.

, por exemplo, o que se passa quando se pretende calcular a velocidade mdia de um mvel cuja trajetria a curva f(x).
9.1
Definio de derivada
Quando os dois pontos da curva se aproximam indefinidamente, a secante (reta que passa por esses dois pontos) acaba por transformar-se na tangente curva no ponto a, ou seja, calculamos o limite da razo incremental quando a distncia entre os dois pontos tende para zero. Geometricamente, a derivada a declividade da reta r no ponto a quando h tende para zero, em outras palavras: calcular a derivada duma funo num ponto a determinar a tangente trigonomtrica da tangente geomtrica a curva nesse ponto. Definio analtica. : f derivvel em a se existe lim
h0
f ( a + b) f ( a ) h
f (a ) = lim
h0
f (a + b) f (a ) h
At aqui temos designado a derivada de uma funo f por f '(x). Mas existe outra notao, devida a Leibniz, para traduzir a derivada duma funo:
f (x) =
d f ( x) dx
GEOMTICA - CEFETES
9.2
Regras de derivao
( u v ) ' = u v v ' log u + v u v 1 u '
k' = 0
x' = 1
( log a u )' =
(u v) ' = u ' v ' (u v) ' = u v ' + v u '
u' u log a
( sen u )' = cos u u ' ( cos u )' = sen u u '
u v u' u v' ( )' = v v2
( tg u )' = (sec u ) 2 u '
(k u ) ' = k u '
( u k ) ' = k u k 1 u '
( k u) ' = u' k
k
( sec u )' = sec u tg u u ' ( cosec u )' = cosec u cotg u u '

u' 1 u2
u 1 k
( arc sen u )' =
( e u) ' = e u u '
( arc cos u )' =
u' 1 u2
( a u ) ' = a u u ' log a
Captulo 9: Noes de Derivadas
Captulo 10 - Noes de Matriz

10.1 Conceito de Matriz
Matriz de ordem m x n: consideramos uma matriz como sendo uma tabela retangular de nmeros
reais (ou complexos) dispostos em m linhas e n colunas. Diz-se ento que a matriz tem ordem m x n (l-se: ordem m por n). Exemplos:
A = ( 1 0 2 -4 5)
Uma linha e cinco colunas (matriz de ordem 1 por 5 ou 1 x 5).
4 6 B= 0 3
Quatro linhas por uma coluna (matriz de ordem 4 por 1 ou 4 x 1).
10.2 Tipos de Matrizes

10.2.1 Matriz quadrada
Se m = n, ento dizemos que a matriz quadrada de ordem n. Exemplo:
2 4 1 X = 0 2 5 2 6 1
A matriz X uma matriz quadrada de ordem 3 x 3, dita simplesmente de ordem 3 . Uma matriz A de ordem m x n, pode ser indicada como
A = (aij ) m x n , em que aij
um elemento
da linha i e coluna j da matriz. Assim, por exemplo, na matriz X do exemplo anterior, temos
a 23 = 5 , a31 = 2 , a33 = 1 , a13 = 1 , etc.

10.2.2 Matriz identidade de ordem n
GEOMTICA - CEFETES
122 Georreferenciamento de Imveis Rurais Ajustamento de Observaes A matriz
I n = ( aij )n x n , onde aij = 1 se i = j , e aij = 0
se i j .
Assim a matriz identidade de 3 ordem, ou seja, de ordem 3x3 ou simplesmente de ordem 3 :
1 0 0 I3 = 0 1 0 0 0 1
10.2.3 Matriz transposta
T a matriz A obtida de A permutando-se as linhas pelas colunas Se, A = A T , ento dizemos que a
matriz A simtrica e vice-versa. Exemplo:
3 2 5 A = 1 4 9 0 6 1
3 1 0 A = 2 4 6 5 9 1
T
A matriz A T a matriz transposta da matriz A. Observaes:

T a) Se, A = A , ento dizemos que a matriz A simtrica.
b) Se, A = A T , ento dizemos que a matriz A anti-simtrica. bvio que as matrizes simtricas e anti-simtricas so quadradas. Sendo A uma matriz antisimtrica, temos que A + A T = 0 (matriz nula).
10.3 Produto de Matriz

Para que exista o produto de duas matrizes A e B, o nmero de colunas de A, tem de ser igual ao nmero de linhas de B.
A m x n x B n x q = Cm x q
Observe que se a matriz A tem ordem m x n e a matriz B tem ordem n x q, a matriz produto C tem a ordem m x q:
Captulo 10: Noes de Matriz
3 1 L1C1 L1C2 L1C3 2 0 3 2 0 x 7 5 8 = L2C1 L2C2 L2C3 L3C1 L3C2 L3C3 4 6

Onde L1C1 o produto escalar dos elementos da linha 1 da 1 matriz pelos elementos da coluna1 da segunda matriz, obtido da seguinte forma: L1C1 = 3.2 + 1.7 = 13. Analogamente, teramos para os outros elementos: L1C2 = 3.0 + 1.5 = 5 L1C3 = 3.3 + 1.8 = 17 L2C1 = 2.2 + 0.7 = 4 L2C2 = 2.0 + 0.5 = 0 L2C3 = 2.3 + 0.8 = 6 L3C1 = 4.2 + 6.7 = 50 L3C2 = 4.0 + 6.5 = 30 L3C3 = 4.3 + 6.8 = 60, e, portanto, a matriz produto ser igual a:
13 5 17 P= 4 0 6 50 30 60
Observe que o produto de uma matriz de ordem 3 x 2 por outra 2 x 3, resultou na matriz produto P de ordem 3 x 3. Nota: O produto de matrizes uma operao no comutativa, ou seja: A x B B x A .
10.4 Matriz Inversa

Na lgebra dos nmeros reais, um nmero n chamado de inverso de um nmero m e indicado por
m 1 se, e somente se, m x n = n x m = 1 .Assim,
3 5 15 3 5 inverso de , pois = = 1 5 3 15 5 3
GEOMTICA - CEFETES
124 Georreferenciamento de Imveis Rurais Ajustamento de Observaes Todo nmero real inversvel em relao multiplicao, ou seja, sempre existe o nmero
m 1 1 tal que: m = =1 m m m
O conceito de inverso usado para resolver equaes do tipo a x + b = 0 . Observe o exemplo abaixo: 4x = 12
Multiplicando-se ambos os membros pelo inverso de 4 :
1 1 (4 x ) = 12 4 4
Pela propriedade associativa:
1 4 ( x) = 3 4
Pela definio de inverso: 1 x = 3 Pela propriedade do elemento neutro: x = 3 A necessidade de resolver equaes matriciais do tipo AX = B, em que A, X e B so matrizes, fez com que se estendesse a teoria de inverso de nmeros reais para as matrizes. ou seja:
AB = BA = In
Matriz inversa a partir da definio Exemplo: Obter a matriz inversa da matriz A = 2 1 , se existir. Resoluo
3 1
a Supondo que B = c
b a matriz inversa da matriz A, temos: d
3 1 a b 1 0 = A B = 2 1 c d 1 0
3a + c 3b + d 1 0 2a + c 2b + d = 1 0
Assim:
3a + c = 1 2a + c = 0
Resolvendo os sistemas:
3b + d = 0 2b + d = 1
a = 1,
Portanto:
b = 1,
c = 2,
d=3
1 - 1 B = - 2 3
Calculando:
1 - 1 3 1 1 0 B A = - 2 3 2 1 = 1 0
Portanto a matriz A inversvel e sua inversa a matriz:
1 - 1 B = A 1 = - 2 3
Existem outros processos de inverso de matriz, mas no sero discutidos neste texto.
10.4.1 Matriz inversa a partir da matriz adjunta e o determinante Menor Complementar denomina-se menor complementar Dij de um elemento aij de uma matriz
quadrada A, ao determinante que se obtm eliminando-se a linha i e a coluna j da matriz. Assim, dada a matriz quadrada de terceira ordem (3 x 3) A, a seguir:
2 0 3 A = 5 7 9 3 5 1
GEOMTICA - CEFETES
D23 = menor complementar do elemento a 23 = 9 da matriz A. Pela definio, D23 ser igual ao
determinante que se obtm de A, eliminando-se a linha 2 e a coluna 3, ou seja: Podemos escrever:
2 0 D23 = 3 5 = 2 5 3 0 = 10
Da mesma forma determinaramos D11, D12, D13, D21, D22, D31, D32 e D33.
Cofator - Cofator de um elemento aij de uma matriz: cof (a ij ) = (1) i + j Dij .

Assim por exemplo, o cofator do elemento a 23 = 9 da matriz do exemplo anterior, seria igual a:
cof (a 2 3 ) = (1) 2+3 D23
cof (a 2 3 ) = (1) 2+3 D23 cof (a 2 3 ) = (1) 5 10 = 10
Determinante O determinante de uma matriz quadrada igual soma dos produtos dos elementos
de uma fila qualquer (linha ou coluna) pelos respectivos cofatores (teorema de Laplace). Este teorema permite o clculo do determinante de uma matriz de qualquer ordem. Como existem regras prticas para o clculo dos determinantes de ordem 2 e de ordem 3 (todas elas baseadas neste conceito), s recorremos este teorema para o clculo de determinantes de 4 ordem em diante. O uso desse teorema possibilita baixar a ordem do determinante. Assim, para o clculo de um determinante de 4 ordem, a sua aplicao resultar no clculo de quatro determinantes de 3 ordem. O clculo de determinantes de 5 ordem, j justifica o uso de planilhas eletrnicas, a exemplo do Excel for Windows, Ltus 1-2-3, Mathcad, entre outros. Para expandir um determinante pelo teorema de Laplace, mais prtico escolher a fila (linha ou coluna) que contenha mais zeros, pois isto vai facilitar e reduzir o nmero de clculos necessrios.
Matriz cofator - Matriz dos cofatores da matriz A: a matriz obtida substituindo-se cada elemento
pelo seu respectivo cofator. A matriz transposta da matriz cofator denominada matriz adjunta. Exemplo: Dada a matriz quadrada de ordem 3, a seguir:
a 11 A = a 21 a 31
a 11 a 22 a 32
a 13 a 23 a 33
a (-1)1+1 22 a 32 a Cof A = (-1) 2+1 12 a 32 a12 (-1) 3+1 a 22

A matriz adjunta :
a 23 a (-1)1+ 2 21 a a33 31 a13 a (-1) 2+ 2 12 a a33 31 a13 a (-1) 2+3 11 a a 23 21
a 23 a 22 a (-1)1+3 21 a a33 31 a32 a13 a12 a (-1) 2+3 12 a a33 a32 31 a13 a11 a 21 (-1) 3+3 a a 23 21 a 22
a (-1)1+1 22 a 32 a Adj A = (-1)1+ 2 21 a 31 a (-1)1+3 21 a 31
a 23 a (-1) 2 +1 12 a a33 32 a 23 a (-1) 2+ 2 12 a a33 31 a 22 a12 (-1) 2+3 a a32 31
a13 a (-1) 3+1 12 a a33 22 a13 a (-1) 2+3 12 a a33 31 a12 a11 (-1) 3+3 a a32 21
a13 a 23 a12 a32 a 21 a 22
Expresso para o clculo da inversa de uma matriz:
A 1 =
1 Adj A det A
Exemplo aplicativo: Calcular a matriz inversa de A usando expresso que envolve os conceitos de determinante e matriz adjunta.
2 0 3 A = 5 7 9 3 5 1
Clculo dos cofatores:
7 9 cof (a11 ) = (1)1+1 5 1 = 1 (7 1 9 5) = 38 5 9 cof (a12 ) = (1)1+ 2 3 1 = 1 (5 1 9 3) = 22
GEOMTICA - CEFETES
5 7 cof (a13 ) = (1)1+3 3 5 = 1 (5 5 7 3) = 4 0 3 cof (a 21 ) = (1) 2+1 5 1 = 1 (0 1 3 5) = 15 2 3 cof (a 22 ) = (1) 2+ 2 3 1 = 1 (2 1 3 3) = 7 2 0 cof (a 23 ) = (1) 2+3 3 5 = 1 (2 5 0 3) = 10 0 3 cof (a31 ) = (1) 3+1 7 9 = 1 (0 9 3 7 ) = 21 2 3 cof (a32 ) = (1) 3+ 2 5 9 = 1 (2 9 3 5) = 3 2 0 cof (a33 ) = (1) 3+ 3 5 7 = 1 (2 7 0 5) = 14
Matriz cofator:
- 38 22 4 Cof A = 15 - 7 - 10 - 21 - 3 14
Matriz adjunta:
- 38 15 - 21 Adj A = 22 - 7 - 3 4 - 10 14
Determinante
det A = 2 (38) + 0 22 + 3 4 det A = 0 22 + 7 (7) + 5 (3)
det A = 64 det A = 64
129 Georreferenciamento de Imveis Rurais Ajustamento de Observaes Matriz inversa de A
1 = Adj A det A
- 38 15 - 21 1 = 22 - 7 - 3 64 4 - 10 14
0.594 - 0.234 0.328 = - 0.344 0.109 0.047 - 0.063 0.156 0.219
GEOMTICA - CEFETES
BIBLIOGRAFIA
AMORIM, G. P. (2004). Confiabilidade de Redes GPS de Referncia Cadastral Municipal. Estudo de Caso: Rede do Municpio de Vitria (ES). Dissertao (Mestrado). Escola de Engenharia de So Carlos USP. So Carlos. So Paulo. DUPRAZ, H. (1985). Theorie des erreurs 2 Statistique et calculs de compensation applliqus la Godesie et la Mensuration. Institut des Mensurations. Ecole Polytechinique Federale de Lausanne (1985). GEMAEL, C. (1994). Introduo ao ajustamento de observaes: aplicaes de Geodsia. 1.ed. Curitiba: UFPR. 319p. HAUG, M. D. (1984). Application of Mohrs circle technique in error analysis. Survey and Mapping, Vol. 44, No 4, pp. 309-321. JUNIOR, J. G; SIMES, A.S. Ajustamento de Observaes. Apostila. Universidade Federal de Viosa. Viosa. Minas Gerais. MIKHAIL, E. M; ACKERMANN, F. (1976). Observations and Least Squares. 1st.ed. New York: IEP. MORAES, C. V. (1998b). Aplicao do ajustamento s poligonais. 162p. Dissertao (Mestrado) Universidade Federal do Paran. Curitiba. Paran. 1998. SPIEGEL, M. R. (1993). Estatstica. Trad. Joo Consentino. 3.ed. So Paulo: Makron Books. 643p. STEVENSON. W.J. (1981). Estatstica Aplicada Administrao. Trad. Alfredo Alves de Farias. So Paulo. Harper & Row do Brasil. Derivadas. Site: http://sapp.telepac.pt/criarplus/mat/deriv/derivadas.htm . Acesso em primeiro de junho de 2005. Matemtica. http://pessoal.sercomtel.com.br/matematica/medio/matrizes/matrizes.htm#mat03. Acesso em 03 de junho de 2005. Matemtica Livro 2. http://www.cocemsuacasa.com.br/ebook/pages/1803.htm. Matrizes e Determinantes. http://myspace.eng.br/mat/matriz1.asp.

Ajustamento Gerreferenciamento

Încărcat de

Informații document

Titlu original

Drepturi de autor

Formate disponibile

Partajați acest document

Partajați sau inserați document

Opțiuni de partajare

Vi se pare util acest document?

Este necorespunzător acest conținut?

Drepturi de autor:

Formate disponibile

Ajustamento Gerreferenciamento

Încărcat de

Drepturi de autor:

Formate disponibile

MEC

Mdulo 7: Ajustamento de Observaes

40 40 43 47 48 48 48 49 51 58 58 59 73 73 73 75 76 76 77 77 78 78 93 93 95 96 96 96 97 98 99 100 101 104 105 106 108 111

1 - Deteco de Outlier CAPTULO 7 7.1 7.2 7.3 ELIPSE DE ERROS

CAPTULO 9 9.1 9.2

DEFINIO DE DERIVADA REGRAS DE DERIVAO NOES DE MATRIZ

CAPTULO 10 10.1 10.2

10.2.1 10.2.2 10.2.3 10.3 10.4

6 Georreferenciamento de Imveis Rurais Ajustamento de Observaes

Captulo 1 - Noes de Ajustamento de Observaes

Figura 1.1 - Rede de nivelamento.

Figura 1.3 - ngulos de tringulos esfricos de triangulaes geodsicas.

8 Georreferenciamento de Imveis Rurais Ajustamento de Observaes

Mtodo dos Mnimos Quadrados

Captulo 1: Noes de Ajustamento de Observaes

Obs: Quanto melhor a preciso do equipamento de medida, maior o valor do peso.

V : vetor coluna dos resduos. P : matriz quadrada dos pesos.

Obs: A matriz de peso mostrada corresponde observaes independentes (observaes no

Conforme o princpio dos mnimos quadrados (MMQ), temos:

Representao Matricial da Mdia

Lb : vetor coluna das observaes;

e : vetor coluna unitrio

Captulo 1: Noes de Ajustamento de Observaes

11 Georreferenciamento de Imveis Rurais Ajustamento de Observaes

10,45 10,54 Lb = 10,40 10,42 10,47

10,45 10,54 10,40 = 10,45+10,54 + 10,40 +10,42 +10,47 10,42 10,47

52,28 = 10, 456 5

v 2 = 10,456 - 10,54 = 0,084

v4 = 10,456 - 10,42 = v5 = 10,456 - 10,47 =

12 Georreferenciamento de Imveis Rurais Ajustamento de Observaes Soma dos resduos:

Atravs dos dados podemos estabelecer as seguintes equaes das observaes:

v1 = x 23,89 v2 = y 30,70 v3 = x + y 54,50

Captulo 1: Noes de Ajustamento de Observaes

13 Georreferenciamento de Imveis Rurais Ajustamento de Observaes

2 vi = 2 x2 + 2 y2 + 2 x y 156,78 x 170,4 y + 570,73 + 942,49+ 2970,25 i=1

f (x, y) = 2 x 2 + 2 y 2 + 2 x y 156,78 x 170,4 y + 4483.47

Logo, o valor mais provvel da distncia AB = 54,53 m .

23,89 Lb = 30,70 54,5

14 Georreferenciamento de Imveis Rurais Ajustamento de Observaes

1 0 1 1+ 0 0 +11 1 0 + 0 1+11 2 1 0 1 = 0 1+ 1 0 +11 0 0 + 11+11 = 1 2 1 1

0,667 0,333 0.333 0.667 23,89 30,70 54,5

0,667 0,333 0,333 0,667

Captulo 1: Noes de Ajustamento de Observaes

15 Georreferenciamento de Imveis Rurais Ajustamento de Observaes

Captulo 2 - Teoria dos Erros

Erro Aparente (e)

16 Georreferenciamento de Imveis Rurais Ajustamento de Observaes

Erro Mximo Tolervel (Tolerncia) - e m

Tabela 2-1 - Probabilidade dos erros tolerveis.

Tabela 2-2 Azimutes do Exemplo aplicativo 2.1.

a) Clculo do desvio padro:

b) Clculo do erro de tolerncia com probabilidade de rejeio de 1%:

c) Clculo desvio padro da mdia:

Obs.: A expresso do desvio padro da mdia obtida da teoria de propagao de erros.

Azimute mdio e preciso:

18 Georreferenciamento de Imveis Rurais Ajustamento de Observaes

Tipos de Erros: Origens e Caractersticas

Erros Sistemticos ou Acumulativos

Erros sistemticos introduzidos pelo instrumento. Uso de instrumentos em condies diferentes

Captulo 2: Teoria dos Erros

19 Georreferenciamento de Imveis Rurais Ajustamento de Observaes

Erros sistemticos introduzidos pelo modelo matemtico. Utilizao de um modelo baseado em

Erros Acidentais ou aleatrios