 |
빈도수분석 등에서 %값을 소수 둘째자리에서 반올림할 때
반올림한 합계가 100.0% 가 아닌 99.9% 또는 100.1% 가 되는 경우가 있습니다.
이는 반올림하는 과정에서 발생할 수 있는 극히 당연한 결과입니다.
예를 들어서
총 99명의 응답자가 각각 선택항목 A에 33명, B에 33명, C에 33명 응답했다면
A 33/99 = 0..33333333333333....% -> 반올림하면 33.3%
B 33/99 = 0..33333333333333....% -> 반올림하면 33.3%
C 33/99 = 0..33333333333333....% -> 반올림하면 33.3% 가 되고
반올림한 % 결과값만으로의 합계는 100.0%가 아닌 99.9%가 됩니다.
즉, 각 항목 %값의 소수 둘째자리가 우연히도 약간의 모자람 때문에 반올림되지
못하고 모두 잘리웠기 때문입니다.
반대로 A, B, C 각각 35명, 35명, 29명 합계 99명의 결과에 대해서는
A 35/99 = 0.35353535353535....% -> 반올림하면 35.4%
B 35/99 = 0.35353535353535....% -> 반올림하면 35.4%
C 29/99 = 0.29292929292929....% -> 반올림하면 29.3% 가 되고
반올림한 % 결과값만으로의 합계는 100.0%가 아닌 100.1%가 됩니다.
즉, 각 항목 %값의 소수 둘째자리가 우연히도 약간의 넘침 때문에
모두 반올림 되었기 때문입니다.
이와같이 약간의 차이로 반올림되거나 잘리우는 항목이 우연히도
한쪽으로 치우치면 그처럼 불합리해 보이는 결과가 생길 수 있습니다.
이를 보정하기위해 각 항목의 반올림하기 전의 값을 비교하여
반올림하는 자리 값이 5와 가장 근소한 차이를 가진 항목을 임의조정하는
방법을 사용하기도 합니다.
| |
파일
