[방송기술저널 백선하 기자] LG유플러스가 AI로 변조한 ‘딥보이스’를 감지하는 ‘안티딥보이스’ 기술을 AI 통화 서비스인 ‘익시오(ixi-O)’에 탑재해 상용화한다고 6월 26일 밝혔다. 이 기술을 온디바이스(On-Device) 형태로 상용화하는 것은 세계 최초다.
안티딥보이스가 탑재되는 ‘익시오’는 LG AI 연구원의 LLM인 ‘엑사원(EXAONE)’을 기반으로 통신 데이터를 학습해 자체 개발한 sLLM ‘익시젠(ixi-GEN) 기반의 서비스다.
온디바이스는 중앙 서버를 거치지 않고 사용자 단말에서 AI 알고리즘을 실행해 결과를 획득하는 기술로 안티딥보이스는 단말 내 정보만으로 위변조한 목소리를 판별해 낼 수 있다.
LG유플러스는 “최근 위조한 목소리로 지인을 사칭하거나 인질극을 가장하는 등 AI를 활용한 보이스피싱 범죄가 늘고 있다는 점에서 큰 주목을 받고 있다”고 설명했다.
LG유플러스는 안티딥보이스 기술을 개발하기 위해 AI 엔진에 약 3000시간 분량의 통화 데이터를 학습시켰다. 3000시간은 통화 건수로 약 200만 건에 해당하는 양이다. 완성된 안티딥보이스는 위조된 목소리의 부자연스러운 발음을 찾아내거나 음성 주파수의 비정상적인 패턴을 탐지하는 등 과정을 통해 진위를 판별한다.
안티딥보이스 기술은 익시오를 통해 통화 중인 상대방의 목소리가 위변조됐다는 사실을 즉각적으로 판별한다. 목소리 위변조 여부를 판단하는데 필요한 통화 데이터는 약 5초 남짓이다. 통화 상대방의 목소리가 위변조 된 경우, 익시오는 팝업 알림을 통해 고객에게 위험을 전달한다.
나아가 LG유플러스는 AI가 합성한 얼굴을 활용한 범죄 피해를 예방하기 위한 ‘안티딥페이크’ 기술도 개발했다. 이 기술은 영상이나 이미지를 분석해, 합성된 영상에 남아있는 비자연적인 흔적을 탐지해 합성 여부를 판별한다. 픽셀 단위의 질감이나 사람의 눈에는 보이지 않지만 흔적으로는 남는 패턴의 불균형, 프레임 간 일관성이 떨어지는 현상 등을 분석해 합성 여부를 탐지하는 것이 핵심이다.
향후 LG유플러스는 안티딥페이크 기술을 활용해 영상을 이용한 피싱 범죄를 차단하고, 위변조된 유해 콘텐츠를 신속히 식별하는 등 고객의 안전을 보호할 계획이다.
LG유플러스는 익시오를 통해 통화 전·중·후 모든 과정에서 발생할 수 있는 보이스피싱 위험을 차단하기 위해 다양한 기술을 추가로 확보할 방침이다. 현재 LG유플러스는 ‘통화 전 AI 보이스피싱 탐지 시스템’ 도입을 준비하고 있다. 이 기술은 보이스피싱으로 신고된 전화번호의 통화 패턴 등을 AI가 학습한 뒤, 통화 시작 전에 보이스피싱 가능성이 높은 번호를 자동으로 탐지한다. 고객은 전화를 받기 전에 위험 여부를 실시간으로 확인할 수 있어 피해를 사전에 예방할 수 있다.
통화 중 보이스피싱 범죄자의 목소리를 탐지하는 ‘범죄자 목소리 탐지 시스템’도 개발하고 있다. 국립과학수사연구원(국과수)과 협력해 개발 중인 이 기술은 보이스피싱범의 목소리(성문)를 AI로 실시간 비교·분석해 일치 가능성이 높을 경우 경고 알림을 제공하는 기술이다. LG유플러스는 본격적인 기술 개발을 위해 과학기술정보통신부의 규제 샌드박스 실증 특례를 준비하고 있다.
전병기 LG유플러스 AX기술그룹장(전무)은 “차별화된 보안 기술을 통해 ‘가장 안전한 AI를 보유한, 보안에 가장 진심인 통신사’로 자리매김할 것”이라며 ”AI가 고객의 삶을 더 안전하게 만들 수 있도록 실질적인 가치를 제공해 LG유플러스가 달성하고자 하는 ‘밝은 세상’을 구현하겠다”고 말했다.
