토목기사 좌표계와 측량원점 — 정확도의 기준과 단위 환산

평면측량의 한계는 허용오차가 정한다. 지구가 둥글기 때문에 생기는 거리 오차가 허용오차를 넘지 않는 범위까지를 평면으로 본다. 곡률에 의한 오차가 허용오차와 같아지는 거리 D를 D = √(2R·허용오차) 꼴로 구하고, 묻는 값이 직경이면 그 두 배로 답한다. 허용오차가 작을수록 한계 거리는 짧아지고, 지구 반지름 R은 6,370km로 둔다.

높은 곳에서 잰 거리는 평균해면상 거리로 고친다. 지표에서 잰 수평거리는 지구 중심에서 더 멀리 있으므로 평균해면에서의 거리보다 길다. 평균해면상 거리는 지구 반지름을 (지구 반지름 + 표고)로 나눈 값을 측정거리에 곱해 구한다. 고도를 무시하거나 나누는 자리를 뒤집은 값이 오답이다.

관측 오차는 원인별로 처리한다. 시거측량에서 고저각에 오차가 있으면 수직거리 오차는 측정거리×각오차×sin(2α) 꼴이 되고, 각도는 라디안으로 바꿔 넣는다. 줄자가 표준길이보다 늘어난 상태로 잰 길이는 실제보다 작게 측정되므로, 측정값에 표준길이와 실제길이의 비를 곱해 보정한다. 전자파거리측량기의 오차는 거리에 비례하는 부분과 거리와 무관한 고정 부분이 섞여 있다.

관측값의 무게도 함께 본다. 경중률은 관측값의 정밀도를 나타내는 척도로, 분산에 반비례한다. 여러 관측값을 평균할 때는 경중률이 큰 값에 더 큰 몫을 준다.

구면 위의 삼각형과 최단 경로도 기준면과 이어진다. 구면삼각형의 내각의 합은 180°보다 크고, 그 차이가 구과량이다. 측지선은 지구 표면의 두 점을 잇는 최단 경로로, 미분기하학으로 이론적으로 구할 수 있으나 직접 관측하여 구할 수는 없다.