[방송기술저널 백선하 기자] 방송미디어통신위원회는 AI 서비스 확산에 따른 불법·유해 정보 노출 위험에 대응하기 위한 사업자의 자율적 안전 조치 활성화와 제도 개선 방안을 논의했다고 8월 27일 밝혔다.
방미통위는 이날 서울에서 정보통신기술(ICT)·법률·미디어 분야 전문가와 소비자·시민단체, 통신사·플랫폼·AI 기업, 정부·공공기관 관계자 등이 참석한 가운데 ‘AI 서비스 이용자 보호 민관협의회’ 2차 회의를 열고 기존 제도의 사각지대와 안전한 서비스 환경 조성을 위한 기술적·정책적 대응 방안을 논의했다.
김경훈 카카오 AI 세이프티 리더는 발제를 통해 한국어 환경에 특화한 자체 개발 AI 안전성 검증 모델 ‘카나나 세이프가드’를 소개하고, 불법·유해 정보 대응을 위한 가드레일 시스템 고도화와 생태계 협력 방안을 공유했다.
카나나 세이프가드(Kanana Safeguard)는 카카오 자체 개발 언어모델 카나나를 기반으로 개발한 한국어 특화 AI 가드레일 모델이다. 프롬프트와 AI 답변 전 과정에서 발생할 수 있는 유해 콘텐츠, 악의적 공격, 법적‧윤리적 위험 요소 등을 실시간으로 탐지하고 제어하는 역할을 한다.
이성엽 민관협의회 위원 주재로 열린 토론에서는 사업자의 자율적 안전조치를 활성화하고 이용자 보호를 강화하기 위한 민관 협력 방안 등이 논의됐다.
신영규 방미통위 방송통신이용자정책국장은 “신뢰할 수 없는 AI 기술은 사회적 불신을 초래해 결국 AI 산업 전체의 성장을 가로막을 수 있다”며 “기술 진흥과 이용자 보호를 위한 기술적 안전조치가 반드시 동반돼야 한다”고 말했다.
방미통위는 이날 논의 내용을 바탕으로 법과 기술, 제도 측면의 지원 방안을 마련해 국민이 안심하고 AI 서비스를 이용할 수 있는 환경을 조성해 나갈 계획이다.
