비선형양자화는 품질보다는
효율을 중시할 때 선택
‘문제’무시하고 도입
이해할 수 없는 일
올해 처음 실시되는 이른바 수능등급제 하에서 입시생들은 원점수가 아닌 과목 등급만을 받아들고 지원할 대학을 골라야 할 판이다. 필자도 이번 수능등급제를 적용받는 학부모 중 한 사람이다. 때문에 이 제도의 문제를 공학적 관점에서 좀 색다르게 따져보게 되었다.
우리가 흔히 말하는 디지털화는 아날로그 파형(또는 수치)을 소위 나이키스트정리를 만족하는 조건하에서 표본화함으로써 시작되며, 표본화한 값들은 양자화라는 과정을 거쳐 1과 0의 나열된 디지털 부호로 변환된다. 따라서 공학적으로 그 변환과정에서 나타날 수 있는 여러 오류 중, 양자화구간의 크기 및 유형에 따른 양자화오류를 고민하게 된다.
디지털체계에서는 어떤 양자화구간 내에 존재하는 아날로그값(Va)이 모두 동일한 디지털값으로 변환된 뒤 전송되고, 수신측에서 그 값은 특정한 하나의 값(Vd )으로 간주되어 원래의 아날로그값과 차이(Ve = Vd – Va)가 발생하게 된다. 이때 Ve 를 양자화오류라고 한다. 이번 수능등급제에서 바로 그런 양자화오류의 문제가 심각하게 나타나고 있다. 즉, 원점수를 9단계의 디지털값으로 바꾸면서 너무 불평등한 오류가 입시생들 앞에 현실로 나타난 것이다.
발생할 수 있는 아날로그 값 전체를 어느 정도의 간격으로 얼마나 잘게 나누는가에 따라 디지털신호의 품질이 정해지므로, 8비트 오디오보다 256배 더 잘게 나누는 16비트 오디오가 원음과의 오차도 그만큼 적게 되어 훨씬 고품질이 된다는 것은 다 알고 있는 사실이다. 이때 각 간격이 동일한 경우를 선형(linear) 양자화라 한다. 그러나 그렇게 잘게 나누면 많은 비트가 소요되어 전송용량이 급격히 증가하기 때문에 신호나 전달체계의 특성을 감안한 비선형 양자화라는 기법을 사용하여 효율을 좀더 개선하기도 한다.
그런데 이번 수능에서는 난이도 조절에도 실패했지만, 한 과목에 응시한 전국 모든 수험생들의 점수를 선형양자화와 같은 균등한 구간으로 잘게 나누지 않고, 9단계로 나누면서 그림과 같이 5등급을 중심 으로 대칭인 형태의 비선형양자화 구간으로 나눈 것이 큰 문제를 낳고있다.
즉, 비선형양자화에 따라 각 등급에서 나타날 수 있는 양자화오류의 크기가 서로 다르게 나타나게 되는것이다.
예를 들어 구간을 등간격으로 하고 중심값을 대표값으로 했다면, 1등급 내에서 발생할ㅡ수 있는 오류는 최고 2%인 반면, 2등급에서는 3.5%, 5등급에서는 10%로 커지게 된다. 예를 들어 세과목의 1등급 커트라인이 모두 91점일 경우, 100/100/90점 맞으면 1/1/2등급이 되고 91/91/91점 맞으면 1/1/1등급이 되어 각각 평균 1.33과 1이 되므로 총점상 훨씬 유리함에도 불구하고 등급점수로는 오히려 33%나 낮게 나타나는 현상이 발생하게 되는 것이다.
위에서 언급한 선형과 비선형의 문제를 좀 더 공학적으로 보자면, 입력신호의 변화의 크기(ΔX)가 출력신호의 변화의 크기(ΔY)와 비례관계에 있으면 선형, 그렇지 않으면 비선형으로 구분한다. 비선형양자화는 품질보다는 효율(또는 전송율)을 중시할 때 선택되는 것인데 한사람의 미래를 결정짓는 중요한 제도에 그런 문제를 무시하고 도입한다는 것은 이해할 수 없는 일이다. 이를테면 최소한 비선형성에 대한 합리적인 보정수단이라도 마련해야 하는 것이다.
예를 들어 FM방송에 신호품질 개선을 위해 쓰이는 방법인 emphasis 기술, 기록매체의 특수성을 보정하기 위해 사용하는 equalizing 기술들이 대표적인 비선형 현상(의도적 또는 물성적)에 대한 보정기술이라 할 수 있다.
그런데 이번 대학입시에서는 비선형적 등급 구분에 따른 오류가 어떻게 보정되고 있으며 그것이 합당한 논리 속에 실현되고 있는지 알 수 없어 답답한 노릇이다. 수능등급제를 내놓기까지 좀 더 과학적인 접근을 했어야 했다는 생각을 지울 수 없다.
비선형적으로 등급간격을 정하게 되었다면 그 비선형을 보정할 수 있는 합리적인 등급반영 방법 자체를 표준적으로 만들어 각 대학이 이를 준용토록 해야 한다는 것이다.
왜 이렇게 불합리한 제도가 탄생되었을까? 필자는 단적으로 말하고 싶다. 어떤 제도, 특히 산술 및 통계적인 내용을 정책화시킬 경우, 탁상공론으로 결정하지 말고 충분한 과학적근거와 검증 및 보정방법까지를 총체적으로 생각하는 합리적인 정책추진이 필요하다는 것이다.
이상한 디지털식 수능등급제를 보는 것은 올해로 끝나기를 바라는 것이다.
이 종 화 KBS(방송기술연구팀 공학박사)
