관측을 반복하면 평균값의 정밀도는 좋아진다. 평균제곱근오차 m은 단회 관측 오차 m₀를 관측횟수 n의 제곱근으로 나눈 값으로 표현되며 m = m₀/√n 관계가 성립한다. 따라서 오차를 k배 줄이려면 관측회수는 k²배 필요하다는 원리를 따른다.
거리측정 등 반복된 관측에서 우연오차는 관측횟수 n에 대해 선형적으로 누적하지 않고 √n에 비례해 누적된다. 전체 우연오차는 단일 관측오차에 √n을 곱해 구한다. 이와 구분해 계통오차는 관측횟수에 비례해 누적된다고 보는 점을 기억한다.
두 변수의 곱으로 정의된 물리량의 오차는 오차전파법칙으로 계산한다. 예를 들어 면적 A = X·Y의 표준오차 σ_A는 σ_A = √((Y·σ_X)² + (X·σ_Y)²)로 구한다. 각 항은 다른 변수의 값과 해당 변수의 표준오차가 곱해진 뒤 제곱되는 형태라는 점이 핵심이다.
줄자처럼 길이에 비례하는 공차가 주어지면 상대오차를 먼저 구하고 이를 각 변의 길이에 곱해 개별 오차를 구한 뒤 면적의 최대오차는 L·dW + W·dL 또는 A(dx/x + dy/y)로 계산한다. '최대'오차는 두 변의 오차가 같은 방향으로 작용할 때의 합으로 취급한다.
평균제곱근오차(RMSE)는 잔차제곱합을 자유도(n−1)로 나눈 뒤 제곱근을 취한 값으로 정의한다. 잔차의 합이나 평균값 등 문제에 불필요한 수치는 RMSE 계산에 쓰지 않으며 공식 RMSE = √(Σv²/(n−1))만 적용한다.
예제
1) 관측횟수와 평균제곱근오차 관계 예시: 관측횟수가 8일 때 평균제곱근오차가 ±0.7″로 계산된 경우 단회 오차 m₀는 0.7×√8 ≈ ±1.98″가 된다. 동일한 단회 오차에서 목표값 ±0.3″를 얻으려면 √N = 1.98/0.3 ≈ 6.6이므로 N ≈ 43.6이며 올림하여 44로 정한다.
2) 줄자 누적오차 및 면적 최대오차 예시: 길이 30m의 줄자에서 단일 측정 오차가 0.03m일 때 270m를 측정하면 관측횟수는 270을 30으로 나누어 9가 되므로 전체 우연오차는 0.03×√9 = 0.09m가 된다. 직사각형 면적 A = X·Y에서 가로 길이 X=50.26m의 표준오차가 0.016m이고 세로 Y=38.54m의 표준오차가 0.005m일 때 면적의 표준오차는 σ_A = √((38.54×0.016)² + (50.26×0.005)²) ≈ 0.67m²로 계산한다.
대표 기출 3문항
어느 지점의 각을 8회 관측하여 평균제곱근오차 ±0.7″를 얻었다. 같은 조건으로 관측하여 ±0.3″의 평균제곱근오차를 얻기 위해서는 몇 회 측정하여야 하는가?
18회
24회
32회
44회
정답과 해설 보기
정답 ④ · 관측 회수(n)에 따른 평균제곱근오차(m)의 관계는 'm = 단회관측오차(m₀) / √n' 로 나타낼 수 있습니다. 8회 관측하여 ±0.7초를 얻었으므로, 단회 관측의 오차 m₀는 0.7 × √8 = ±1.9799초가 됩니다.