[방송기술저널 백선하 기자] 생성형 AI 도입이 보편화되면서 AI를 이용한 이미지, 영상, 음성 콘텐츠 조작 논란이 잇따르고 있다. 정부에서는 AI 기본법을 통해 AI 생성물 고지 및 표시 의무를 부과하겠다는 방침을 내놓았는데 국회 과학기술정보방송통신위원회 소속 조인철 의원이 포털이나 플랫폼 등 유통‧확산 단계의 의무 표시와 관리 책임을 강화하는 개정안을 대표 발의해 입법 공백을 보완했다.
조인철 더불어민주당 의원은 1월 21일 이 같은 내용을 담은 정보통신망법‧방송미디어통신위원회 설치법 개정안을 대표 발의했다고 밝혔다.
조 의원은 “딥페이크 등 AI 생성물이 정보통신망을 통해 빠르게 확산되면서 이용자가 진위를 가리기 어려운 환경이 조성됐지만 포털이나 플랫폼 등 유통 단계에서 표시와 관리 책임을 규율할 제도 장치가 부족하다는 문제의식에서 법안을 마련했다”고 설명했다.
실제로 오는 22일부터 시행되는 AI 기본법에는 규율 대상이 AI를 개발하거나 이를 활용해 제품 및 서비스를 제공하는 AI 사업자로 한정돼 유통 단계 관리에는 공백이 있다는 지적이 있었다.
정보통신망법 개정안은 게시자와 플랫폼 역할을 분리해 의무를 부과하는 방식으로, AI 생성물을 직접 제작·편집해 게시하는 사람에게 표시 의무를 두고, 플랫폼 사업자에게는 해당 표시의 유지·관리 의무를 부과한다. 이용자가 임의로 표시를 제거하거나 훼손하는 행위도 금지하는 내용이 포함됐다.
방미통위 설치법 개정안은 긴급 피해 우려가 큰 사안에 대한 초기 대응 속도를 높이는 장치를 담았다. 식약처·공정위 등 관계 중앙행정기관 요청이 있으면 방미통위가 방송미디어통신심의위원회 심의 이전이라도 플랫폼에 임시 시정조치를 요청할 수 있도록 했다. 플랫폼은 우선 조치를 이행하고, 이후 심의 결과에 따라 차단을 확정하거나 원상복구하는 구조다.
허위·과장 AI 광고 대응도 패키지에 포함됐다. 의약품·화장품·의료기기 등 국민 건강과 직결되는 분야의 부당 광고를 서면심의 대상으로 추가해, 심의 지연 문제를 줄이고 긴급 대응이 가능하도록 제도화하는 내용이다.
조 의원은 “AI 기술이 고도화되면서 국민이 접하는 정보가 진짜인지 AI가 만든 것인지조차 구분하기 어려운데, 이용자 보호 장치는 미흡하다”며 “AI 기본법이 개발자 책임을 다뤘다면 이번 법안은 유통 단계에서 국민 보호 책임을 명확히 하는 보완 입법”이라고 말했다. 이어 “혁신이 신뢰 속에서 지속되도록 이용자 보호 기준을 마련하자는 취지”라며 “딥페이크 위협에 무방비로 노출되지 않도록 제도 공백을 메워야 한다”고 덧붙였다.
