Post on 01-Dec-2018
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
Tratamento estatístico de
observações geodésicas
Prof. Dr. Carlos Aurélio Nadal
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
OBJETIVO: parâmetros estatísticos são utilizados
para avaliar os métodos empregados ou para o
controle de qualidade dos trabalhos.
OBSERVAÇÃO: é o valor obtido durante um
processo de medição.
DADO: é o resultado do tratamento de uma
observação (por aplicação de uma técnica ou de um
modelo matemático) para retirada de erros.
INFORMAÇÃO: é o resultado do tratamento de
dados (via modelo matemático/estatístico) e sua
interpretação.
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
é o ato de medir.
OBSERVAÇÃO = MEDIÇÃO
Medida = 10,0 cm
10,0 cm
é o valor de uma grandeza .
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
é o menor valor de uma medida que um instrumento
fornece ou a menor unidade detectável
em um aparelho.
Graduação da régua: centímetros e milímetros
Sensibilidade da régua: 1mm
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
ESTIMATIVA DE LEITURA DE UM INSTRUMENTO
Para qualquer medida o digito final pode ser
considerado com um digito estimado.
Por exemplo 0,5 da sensibilidade
2,4cm±0,1cm
2,4 + 0,02=2,42
2,42cm (estimado)
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
amostra: Conjunto de dados representativos de uma
população.
amostragem: Procedimento utilizado para constituir uma
amostra.
tratamento de dados: Aplicação de operações que
expressem, em termos relativos, as diferenças de atributos
entre os dados.
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
Tabulando dados
Analisou-se as medidas observadas, ordenando-se por
intervalos, sendo a unidade metros, obteve-se:
Distâncias
percorridas
Freqüência
(f)
Freqüência
relativa (fr)
Percentagem
%
Até 500 17 0,207 20,7
550-600 29 0,354 35,4
600-700 14 0,171 17,1
700-750 22 0,268 26,8
N=82 1 100
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
.
indica quanto cada uma de um conjunto
de observações para um mesmo evento,
se aproxima da média do conjunto
de observações. Maior quanto menor
for sua variabilidade em torno da média
Quanto uma medida se aproxima do
valor real exatidão relativa
Valor mais provável de uma medida
define-se como o grau de proximidade
entre um valor medido ou calculado e
o seu valor exato “ground-truth”.
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
EXATIDÃO de uma medida é tanto mais elevada quanto mais o
valor correspondente estiver próximo da ground-truth.
EXATIDÃO é muito difícil ou mesmo impossível de obter.
EXATIDÃO RELATIVA OU ACURÁCIA caracteriza-se por
comparar os valores obtidos para uma determinada variável com os
resultados adquiridos por outro método e/ou equipamento, o qual se
assume como a grandeza verdadeira.
CALIBRAÇÃO: MÉTODO OU EQUIPAMENTO DE
REFERENCIA selecionado para efetuar a comparação entre a
medida efetuada e o valor adotado deve estar suficientemente
estudado e os seus resultados estatisticamente caracterizados,
nomeadamente, a sua precisão e exatidão.
Apenas nestas condições os valores determinados podem ser
assumidos como uma grandeza de referência, com elevado grau de
confiança.
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
Acurácia simboliza como uma medida em particular se
aproxima do valor aceito como correto para esta medida.
Precisão indica a consistência da repetição de uma
medida
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
CONCEITOS DE PRECISÃO
(i) repetibilidade, determinada através da variação dos
resultados, mantendo as condições constantes e repetindo as
medições com o mesmo equipamento e durante um curto
período de tempo;
(ii) reprodutibilidade, a variação decorrente da utilização do
mesmo processo de medição, mas recorrendo a equipamentos e
técnicos diferentes, e durante longos períodos de tempo (Slama,
1980; Soong, 2004)
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
Precisão
Alta Resolução Acurácia
Baixa Resolução
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
acurado Inacurado
(erros sistemáticos
preciso
Impreciso
com erros
de
repetibilidade
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
PRECISÃO NO POSICIONAMENTO TOPOGRÁFICO
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
IMPRECISO E SEM
ACURÁCIA
PRECISO E SEM
ACURÁCIA
ACURADO E PRECISO
132,50 150,069 150,256
145,59 149,949 150,255
107,25 149,258 150,259
123,69 150,032 150,255
EXEMPLO DE PRECISÃO E ACURÁCIA
Medida de uma distância em metros
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
Tipos de erros (Slama, 1980)
ERROS GROSSEIROS (blunders ou outliers) são
aqueles oriundos de falhas, falta de atenção do observador
e do mau funcionamento de um instrumento, deve ser
evitado, pois é de difícil detecção após as medidas
ERROS CONSTANTES têm sempre o mesmo sinal e
magnitude, sendo as suas fontes mais comuns os próprios
instrumentos de medição.
ERROS SISTEMÁTICOS são produzidos por causas
conhecidas, podem ser evitados por técnicas especiais de
observações ou podem ser modelados matematicamente e
eliminados das observações.
ERROS ACIDENTAIS ocorrem de maneira aleatória e
devem ser tratados estatisticamente.
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
humanos ou pessoais
naturais
instrumentais
superabundância de observações: permite obter o
valor mais provável de uma grandeza: média
Substitui-se um conjunto de observações por um
único número a média aritmética.
A precisão de uma observações é fornecida
pelo desvio padrão.
causas dos erros
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
Média Aritmética (valor mais provável de uma
observação)
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
1a observação = 10,4 cm
2a observação = 10,45 cm
3a observação = 10,3 cm
Qual o valor da medida? Qual a confiabilidade desta medição?
a b
a b
a b
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
numero observação
(cm)
desvio desvio ao quadrado
1 10,4 0,0167 0,0002789
2 10,45 0,0667 0,0044489
3 10,3 -0,0833 0,0069389
soma 31,15 0,0001 0,01167
Valor mais provável da observação:
x = 31,15/3 x = 10,38cm
Precisão: Variância:
S v. v 0,011672 cm2
n – 1 2Precisão: desvio padrão:
cm
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
resolução
precisãoMedida angular
Manual técnico do instrumento
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
Medida de distânciaprecisão
resolução
Manual técnico do instrumento
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
QUAL A PRECISÃO DO GPS
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
COVARIÂNCIA
A covariância entre dois conjuntos de
medidas, x1 e x2, é dada por:
1
2211
12
n
xxxxS ii
Se S12 = 0 Não há dependência entre G1 e G2
Se S12 # 0 Há dependência entre G1 e G2
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
1r1-21
12 +SS
Sr
COEFICIENTE DE CORRELAÇÃO
O coeficiente de covariância entre dois
conjuntos de medidas x1 e x2 é dado por:
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
Método dos mínimos quadrados
Métodologia:
evitam-se os erros grosseiros
-Eliminam-se os erros sistemáticos por técnicas
observacionais ou por aplicação de modelos
matemáticos
-Ajustam-se os erros acidentais
Principio do Método
A soma dos quadrados dos resíduos é mínima.
Svv = min.
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
( ) ( ) ( ) ( ) ( ) ... ( ) ( )
F
k
k
F
mm
F
mm
F
mm2
1
2
1
2
2
2
2
2 2 2 + + +
Seja a função que representa um conjunto de dados
F = f(m1, m2, ..., mk)
Utilizando-se dos conceitos de Gauss:
Os erros não se propagam linearmente!
LEI DA PROPAGAÇÃO DAS VARIÂNCIAS
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
ACURÁCIA DE MEDIÇÃO - Grau de concordância
entre o resultado de uma medição e um valor verdadeiro
do mensurando.
CLASSIFICAÇÃO - consiste em distribuir em classes ou
grupos segundo um sistema de classificação. A norma
brasileira NBR13133 (Execução de levantamentos
topográficos), define as classes que devem ser
enquadrados os instrumentos baseando-se no desvio
padrão de um conjunto de observações obtidas
seguindo uma metodologia própria.
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
CALIBRAÇÃO - conjunto de operações que estabelece, em
condições especificadas, a correlação entre valores de
quantidades indicados por um instrumento de medida, ou
sistema de medida, ou uma medida materializada e os
verdadeiros convencionais da grandeza medida.
Interferômetro HP 5528A do Laboratório de Aferição da
UFPr.
(1)
Carro com sensor Emissor/
receptor
(2)
Distância calibrada: 9,965cm
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
valor real
medida erro
Valor mais prováveldesvio
acurácia
Erro = Diferença entre o valor observado
e o valor real
Desvio = Diferença entre o valor observado
e a média
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
Exercício:
Um ângulo foi medido dez vezes, como é mostrado abaixo:
(Gemael,C. 1994 p93)
observação medida (l) v= (l-x) v2 =(l-x) 2
1 120°31´ 40,1” -1,56 2,4336
2 41,2” -0,46 0,2116
3 40,8” -0,86 0,7396
4 42,1” 0,44 0,1936
5 42,9” 1,24 1,5376
6 42,4” 0,74 0,5476
7 43,0” 1,34 1,7956
8 40,7” -0,96 0,9216
9 41,9” 0,24 0,0576
10 41,5 -0,16 0,0256
S 41,66 3,55E-14 8,464
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
Estimativa Pontual
• Valor mais provável da observação:
x = 120°31´ 41,66”
b) Desvio padrão
8,464
= ———— = 0,9698”
9
No software FreeMat v3.5
a=[40.1 41.2 40.8 42.1 42.9 42.4 43.0 40.7 41.9 41.5]
[' média =']
m=mean(a)
[' desvio padrão =']
s=std(a)
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
Estimativa por intervalo de confiança da média
P[ x - —— t 1-/2 u x + —— t 1-/2 ] = 1-
n n
Sendo 1- denominado de nível de significância, usualmente
igual a 95%.
Assim: 1- = 0,95 1-/2 = 0,975
Na tabela de Student para n-1 =9 (graus de liberdade)
t 0,975 = 2,262
x - —— t 1-/2 = 120°31´ 40,96”
n
x + —— t 1-/2 = 120°31´ 42,36”
n
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
Extrato da tabela de Student
Pode-se concluir que há 95% de chance de uma observação
estar contida no intervalo de confiança:
P = [120°31´ 40,96” u 120°31´ 42,36”] = 95%
Adotando-se um nível de confiança mais alto (99%) obtém-se
um intervalo de confiança maior
t 0,995 = 3,250
P = [120°31´ 40,65” u 120°31´ 42,67”] = 99%
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
No software Excel
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
Um dos principais produtos do ajustamento das observações é a
matriz variância covariância, que é um arranjo matricial na
forma:
12 12 13 ... 1n
S = 21 22 23 ... ...2n
... ... ... ...
n1 n2 ...n3 ... n2
Na diagonal principal tem-se as variâncias. Suas raízes
quadradas representam os desvios padrões das observações
correspondentes.
Fora da diagonal principal aparecem as covariâncias.
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
Elipse de erros: é a figura que representa os desvios padrões
máximos e mínimos de uma medida.
Deseja-se a localização do ponto B do segmento AB.
Precisão angular 10” precisão linear 3mm
A
Precisão angular
Precisão linear
Área de localização
provável do ponto B
x
y
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
Exercícios:
Um ângulo foi medido cinco vezes, obtendo-se os resultados
constantes da coluna “medida”, da tabela a seguir. Calcular o valor
mais provável de sua medida, sua variância e seu erro médio
quadrático da média. Verificar se todas as observações se encontram
dentro de um intervalo de confiança com probabilidade de 95% de
certeza
obs Medida V (“) V2 (“2)
1 20°32´15" -4,6 21,16
2 20°32´20" 0,4 0,16
3 20°32´23" 3,4 11,56
4 20°32´18" -1,6 2,56
5 20°32´22" 2,4 5,76
SOMA 102°41´38" 0,0 41,20
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
a) Cálculo da média aritmética (valor mais provável da medida)
Sob 102°41´38"X = ——— = ——————
n 5
x = 20°32´19,6"
b) Cálculo da variânciaSv2
2 = ———n-1
4122 = ————
5 – 1
2 =10,3 "2
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
c) Cálculo do desvio padrão
32 "
d) Cálculo do intervalo de confiança das medidas com
probabilidade de certeza de 95%. Da análise estatística tem-se que
para probabilidade de 95% deve-se pré-multiplicar o desvio padrão
por 1,96, para 99% por 2,58, assim obtém-se:
P[ x – 1,96< < x + 1,96] 9%
P[20°32´13,33" < < 20°32´25,87"] 9%
TRATAMENTO ESTATISTICO DE OBSERVAÇÕES
Prof. DR. Carlos Aurélio Nadal - Sistemas de Referência e Tempo em Geodésia – Aula 02
Uma distância de 200m foi medida com uma trena de 20m de
comprimento. O desvio padrão de cada medida efetuada é
conhecido e igual a 5mm. Qual o desvio padrão da distância
total medida?
a) Modelo matemático para a distância total medida
D = d1+ d2+ d3+ d4+ d5+ d6+ d7+ d8+ d9+ d10
D=20,00+20,00+20,00+20,00+20,00+20,00+20,00+20,00+20,00
+20,00
D = 200,00m
b) Cálculo da propagação do desvio padrão
D D D
2D=(2 2
d1+ (2 2 d2+ .... + (2 2
d10
d1 d2 d10