[방송기술저널 전숙희 기자] 갈수록 심각해지는 딥페이크 성범죄영상물에 대응하기 위한 전문가 토론회가 열렸다. 전방위적인 대응 전략과 함께 미디어 리터러시 교육을 통한 근본적 예방이 강조됐다.
방송통신위원회, 방송통신심의위원회, 시청자미디어재단은 ‘딥페이크 성범죄영상물 대응 전문가 토론회’를 9월 12일 오후 3시 서울 목동 한국방송회관 3층 회견장에서 공동 개최했다.
김태규 방통위원장 직무대행은 신영규 방통위 방송통신이용자정책국장이 대독한 개회사를 통해 최근 딥페이크를 악용한 성범죄영상물 제작과 유포가 심각한 범죄임을 강조하면서 “이에 급속도로 전하는 AI 기술의 역기능에 현명하게 대처하고 정보통신이용자의 피해를 최소화하기 위해 전문가와 관계 부처 사람들과 함께 토론회를 열게 됐다”고 이번 토론회의 개최 취지를 설명했다. 이어 “오늘 토론회에서 논의한 유익한 내용은 앞으로의 방통위 정책에 반영하겠다”고 덧붙였다.
류희림 방심위원장은 환영사에서 “디지털 성범죄 영상물이 성인뿐만 아니라 초등학교까지 확산돼 국가 재난상황이라는 말까지 나올 정도”라면서 “딥페이크 성범죄 영상물이 가장 많이 유포된 텔레그램 측과 몇 차례 화상회의를 통해 대화 채널을 구축한 데 이어 빠르면 이번 달 중에 처음으로 대면회의를 하기로 하는 등 실질적인 성과가 나타났다”고 밝혔다.
첫 번째 발제는 최경진 가천대 교수가 ‘인공지능의 역기능과 폐해 그리고 법제도 개선 방향’을 주제로 진행했다. 최 교수는 AI가 야기하는 부작용과 폐해를 정확히 파악하고, AI를 적용하는 분야의 특성과 구체적 위험성을 고려한 비례적 규제 체계를 정립해야 한다고 말했다.
두 번째 발제자로 나선 정필운 한국교원대 교수는 “기술 발전에 의해 발생한 사회문제를 해결하기 위해서는 그 구조와 구조를 결정하는 기술에 주목해야 한다”면서 딥페이크 성범죄영상물을 빠르게 탐지할 수 있는 소프트웨어 개발 등 대응 기술의 개발에 지원이 필요하다고 전했다.
또한, 기술 개발만이 아니라 교육‧홍보‧법적 대응 등 다양한 대응 방식이 필요하다면서 학생뿐 아니라 모든 시민에 대해 디지털 역량 강화 교육을 하고, 행위자에 대해 현행 법령을 일관되고 꾸준하게 실효적으로 집행하는 것이 중요하다고 말했다.
이어진 토론에서 문성환 시청자미디어재단 미디어교육정책부장은 “딥페이크 성범죄물 근절을 위해서는 기술적 지원과 제도적 지원이 필요하지만, 근본적 대책으로 미디어 리터러시 교육이 필수”라고 강조했다.
문 부장은 “국민들이 딥페이크의 악용 가능성을 이해하고 스스로 윤리와 책임감을 갖추는 것이 예방의 핵심”이라면서 “특히 10대 청소년들은 딥페이크 성범죄의 가해자이자 피해자가 될 수 있는 만큼 이들에 대한 교육이 중요하다”고 말했다.
이어 “딥페이크 성범죄영상물에 대한 사후적 대응도 중요하지만, 근본적 해결책은 예방에 있다”면서 “사전 교육을 통해 국민 개개인이 자신이 생성하거나 소비하는 콘텐츠에 책임을 지고 타인에 대한 존중을 바탕으로 행동하는 사회적 역량을 갖추면 딥페이크와 같은 기술의 악용을 방지할 수 있을 것”이라고 덧붙였다.
최순욱 너비의깊이 이사는 현재 논의되거나 제안되는 대응 유형을 △산업적 대응 △기술적 대응 △법‧제도적 대응 등 크게 3가지로 분류하면서 각각의 특징과 한계를 설명했다.
인터넷 플랫폼 사업자에 의한 계정‧커뮤니티 폐쇄, 키워드‧영상 검색 차단, 수사 협조 등 산업적 대응은 사업자마다 대응 기준과 수준이 다를 수 있고, 과다 대응으로 인한 표현의 자유 억압을 불러올 수 있다.
딥페이크 영상을 가려내는 등의 기술적 대응은 악용을 막으려는 기술은 언제나 악용하는 쪽의 수준을 따라잡으려는 형국일 수밖에 없다는 한계가 있으며, 처벌 강화 등의 법‧제도적 대응은 어디까지나 대증요법에 불과하다는 것이다.
최 이사는 “대응 방식 하나만으로 강조해서는 딥페이크 성범죄영상물의 근절은 불가능하다”면서 각 대응 방식 간에 유기적인 연계 체계를 통해 대응 유형별 장점을 취하고 단점을 보완해야 한다고 말했다.
