[기고] 아동보호를 위한 유튜브 자율 모니터링 시스템이 필요하다

<본 글은 『월간 방송과기술』 9월호에 실린 원고입니다.>

[방송기술저널=최홍규 EBS 정책기획부 연구위원/미디어학 박사]

너튜브라서 간단하지만은 않은 아동보호에 대한 문제
유튜브 고객센터에 적시된 내용을 보면 아동용 유튜브 동영상인지 구분하기 위한 요소들을 확인할 수 있다. 동영상의 주제가 아동을 대상으로 하는지, 시청자가 아동일 수 있는지, 동영상에 등장하는 배우가 아동인지, 아동의 관심을 끄는 캐릭터·유명인·장난감 등을 포함하고 있는지, 아동을 대상으로 광고되는 동영상인지…. 기타 등등. 즉, 아동이 대상이거나 출연하거나 아동의 관심을 끌 수 있는 동영상은 유튜브에서 아동용 동영상 콘텐츠로 분류될 수 있다. 그렇다면 여기서 아동의 연령대는? 유튜브에서는 아동의 연령대를 만 13세 미만으로 규정한다. 즉, 만 13세 미만의 아동과 관련성이 있는 동영상은 유튜브에서 아동용 콘텐츠로 취급되는 것이다.

그러니 유튜브에서 아동을 보호하려면 아동이 시청하는 유튜브 동영상을 만들 때 아동에게 유해하지 않은 내용으로 만들면 될 것 같다. 아동 수준의 연령대가 접해도 이상하거나 위험하지 않고 그들이 어른으로 성장하는 과정에서 좋지 않은 영향을 미치지 않는 동영상이면 괜찮을 듯싶다. 그런데, 유튜브에서는 아동용 동영상만 만들고 공유된다고 해도 근본적으로 아동 유튜브 이용자의 근본적인 보호는 어렵다. ‘너(You)튜브’라서 그렇다.

유튜브에서는 이용자 누구나 자유롭게 콘텐츠를 만들고 공유하고 즐길 수 있고, 유튜브 이용자인 ‘너(You)’에는 아동도 포함된다. 오늘날에는 유튜브에서 가족 구성원이 모두 유튜브에 출연하며 아동용 콘텐츠를 만드는 경우도 많다. 그래서 아동이 유튜브에서 콘텐츠의 시청자, 출연자, 제작자의 역할을 겸하는 사례가 생겨나며, 아동이 영상 콘텐츠 제작과 향유의 주체로 거듭나기 시작한 것이다.

유튜브에서 아동보호의 개념이 복잡해진 이유가 여기에 있다. 대규모 방송사가 영상을 제작하여 유통하는 체계에서는 아동이 단순히 시청자나 출연자로 존재하는 개념이었다. 영상 콘텐츠 제작 주체가 거대기업이기 때문에 이 기업들이 아동 시청자든 출연자든 보호하는 규정을 만들어 보호하면 되었다. 그런데, 유튜브에서 아동은 시청자, 출연자, 제작자의 역할을 모두 겸할 수 있는 존재이기 때문에 유튜브에서 아동을 보호하는 체계는 기존과 달라져야 한다. 아동 콘텐츠 제작, 유통, 이용에 관여되는 모든 참여자를 규율해야 할 뿐만 아니라, 그 안에서 아동이라는 존재를 따로 보호해야 한다.

돌멩이나 유리 조각을 치워야 비로소 안전한 놀이터가 되는 유튜브
유튜브에서 아동 콘텐츠는 어떻게 유통되고 있는가? 일단 아동 콘텐츠에 대한 개념이 아직도 모호하다. 크리에이터를 위한 공식 유튜브 채널을 살펴보면, FTC(Federal Trade Commission, 미국 연방거래위원회)의 규정을 인용하여 “일부 아동이 시청할 수 있다는 이유만으로 ‘아동용 콘텐츠’로 간주하지는 않는다.”라고 언급하고 있다.

물론 이러한 언급은 아동용 콘텐츠에 대한 예외적인 규정의 내용을 설명하기 위함이다. 성인이 시청하는 동영상을 아동이 우연히 시청한다고 해서 그러한 동영상이 모두 아동용 콘텐츠가 되지는 않는다는 점을 설명한 것이다. 그런데, 유튜브 크리에이터에게 규정을 설명해주는 공식 채널에서 이러한 설명은 다소 혼란을 야기할 수도 있다고 본다. 크리에이터는 자신의 이익을 위해 채널은 운영하는 경우가 대부분인데, 유튜브의 이러한 설명은 크리에이터가 아동용 콘텐츠에 대해 보수적으로 해석하도록 유도할 수 있다. 마치 유튜브의 언급 내용만 보면 성인용으로 콘텐츠를 제작할 경우에 아동이 시청할 가능성을 전혀 고려하지 않아도 된다는 뜻으로 읽힌다.

유튜브에서는 공유되는 콘텐츠는 언제든 아동에게 노출될 가능성이 있다. ‘아동용’, ‘성인용’이 화면상에 표기되지 않고 콘텐츠 내용을 시청자가 단번에 식별할 수 없으며 콘텐츠의 분위기만으로 아동용 콘텐츠를 구별해내야 하는 상황이라면. 언제든 ‘아동용처럼 보이는’ 콘텐츠는 아동에게 노출될 수 있다. 2017년 이미 영국의 공영방송사 BBC(British Broadcasting Corporation)는 이미 이러한 문제를 지적한 바 있다. 아동용 애니메이션으로 보이는 수천 개의 동영상에 실제로는 아동에게 적합하지 않은 불쾌하고 부적절한 내용이 포함되어 있었다는 것이다.

BBC가 문제를 제기한 2017년 당시에는 디즈니의 영화 겨울왕국(Frozen)의 엘사(Elsa) 캐릭터가 성인의 음란 행위를 묘사하는 동영상에 등장하여 이슈화되었던 시기다. 이른바 ‘엘사게이트(Elsagate)’ 동영상 사건이다. 당시 이 동영상은 아동 전용의 유튜브 채널인 유튜브 키즈(YouTube Kids)에서 버젓이 공유되어 많은 이용자의 공분을 샀다. 유튜브에서 아동용처럼 보이는 동영상 콘텐츠는 당연히 아동이 시청할 줄 알았는데, 이 사건을 계기로 유튜브 동영상의 내용이 자세히 모니터링되지 않는다면 언제든 아동은 유해 콘텐츠에 노출될 수 있다는 우려가 증폭되기 시작했다.

그런데 4년도 채 지나지 않은 지금 시점도 다르지 않다. 유튜브에서는 모든 콘텐츠가 아동에게 노출될 수 있다. 유튜브는 여전히 ‘보이지 않는 돌멩이, 유리 조각이 널려있는 놀이터’이며, 이 돌멩이, 유리 조각이 제거되지 않는 한 유튜브는 아이들에게 위험한 놀이터일 뿐이다.

크리에이터 스스로 모니터링하는 시스템 필요
그래서 필요한 것이 바로 모니터링 시스템이다. 전 세계 웹/모바일 애플리케이션 서비스 중에서 트래픽을 가장 많이 점유하는 서비스가 동영상 스트리밍 서비스이고, 유튜브는 그중에서도 가장 많은 트래픽을 발생하는 서비스이다. 아직도 크리에이터에게 제공되는 데이터 기반의 모니터링 시스템이 하나도 없다는 것은 어색한 일이기도 하다.

유튜브 동영상의 내용을 모니터링하는 방식은 대규모 트래픽 데이터를 활용하는 방식으로 진보해야 한다. 유튜브가 모든 동영상의 내용을 모니터링하여 규율하는 것은 사실상 불가능한 일이므로, 크리에이터가 개인별로 자신의 동영상 콘텐츠의 문제점을 모니터링하는 체계가 필요하다. 현재 방식으로 크리에이터에게 법 제도를 설명하고 가이드라인 준수를 권고하는 방식은 오늘날의 기술 환경에서는 자율규제 중에서도 소극적인 방식으로 보인다.

대규모의 데이터가 웹/모바일 공간에 쌓이게 되면서, 유튜브 크리에이터가 제작한 동영상 내용에 유해한 텍스트가 포함되었는지 허위사실유포나 명예훼손 등 위법성은 없는지 많은 사람이 불편해할 내용이 있는지 등에 대해서는 기초적인 모니터링이 가능해졌다. 정교한 수준까지는 아니더라도 모니터링 결과를 크리에이터에게 공지해주는 것은 크리에이터 스스로 자율규제적 태도를 형성하는 데 중요하다. 유튜브가 제공하는 아동 유해물 모니터링 결과물을 통해 크리에이터는 그에 맞춰 콘텐츠 제작의 방향을 보다 바람직한 쪽으로 설정할 수도 있다.

현재 수준에서 유튜브가 보유한 데이터 마이닝, 머신러닝, 딥러닝 기술을 아동보호를 위해 적용할 수 있다면, 전용 모니터링 서비스를 구축하는 일도 어렵지 않은 일로 보인다. 유튜브라는 놀이터가 돌멩이나 유리 조각으로 가득하게 되는 것을 원하지 않는다면 지금 시작해야만 하는 일이다.