측량및지형공간정보기사 오차의 종류 — 정오차·우연오차·최소제곱법 가정

정오차(계통오차)는 기계 결함이나 물리·수학적 법칙 등 일정한 원인에 의해 크기와 부호가 일정하게 발생하는 오차를 말한다. 같은 방향으로 반복되므로 관측 횟수를 늘려도 상쇄되지 않고 누적되어 전체 결과에 편향을 남긴다. 이론적으로는 보정식을 통해 제거하거나 사전 보정을 실시해야 한다.

우연오차는 원인이 불명확하고 부호와 크기가 무작위로 나타나는 오차를 말한다. +와 −가 섞여 있어 반복 관측하여 평균을 취하면 서로 상쇄되어 0에 가까워지는 성질을 지닌다. 통계적 처리가 가능한 오차군에서 주로 최소제곱법의 대상이 되는 것이 우연오차다.

최소제곱법을 적용하려면 몇 가지 가정이 필요하다. 대표적인 가정은 관측값의 수가 충분히 많을 것, 관측오차로 남아 있는 것이 우연오차뿐일 것, 오차의 분포가 정규분포를 이룰 것 등이다. 과대오차나 정오차가 남아 있으면 결과가 치우치므로 이들 오차는 사전에 제거·보정해야 한다.

오차전파법칙은 두 변수의 함수로 얻은 값(예: 면적)의 오차를 구할 때 사용하는 표준 절차다. 예컨대 면적 A=X·Y의 표준오차 mA는 각 변수의 길이와 그 표준오차를 곱한 값을 제곱해 합한 뒤 제곱근을 취해 구한다. 선형 오차를 각도 오차로 환산할 때는 1라디안=206,265초라는 상수를 사용하여 비율에 곱해 초(″) 단위로 나타낸다.

통제와 분류의 핵심은 성질에 따른 처리 방법을 기억하는 것이다. 누적되어 편향을 만드는 것은 정오차로 보고 보정·제거를 시도하고, 반복으로 평균을 개선할 수 있는 것은 우연오차로 보고 통계기법을 적용한다.