[방송기술저널 전숙희 기자] SK텔레콤은 5G 요금제, T멤버십, 공시지원금 등 우리나라의 통신 전문 용어와 AI 윤리 가치와 같은 통신사의 내부 지침을 학습한 ‘텔코LLM’을 개발하고 있다며, 오는 6월 중 개발을 완료할 예정이라고 4월 30일 밝혔다.
‘텔코LLM’은 GPT, 클로드와 같은 범용 LLM이 아니라 통신업에 특화된 LLM을 뜻한다.
SKT는 오픈AI, 앤트로픽 등과 협력을 통해 통신사의 서비스나 상품, 멤버십 혜택, 고객 상담 패턴 등 방대한 양의 데이터를 수집하고 정형·비정형 데이터를 선별해 이를 에이닷엑스, GPT, 클로드에 학습시켜 통신에 특화한 LLM을 만들고 있다.
SKT는 멀티 LLM 전략에 따라 텔코LLM을 SKT의 에이닷엑스(A.X), 오픈AI의 GPT, 앤트로픽의 클로드 등 다양한 범용모델을 기반으로 튜닝했다.
에릭 데이비스 SKT AI Tech Collaboration담당은 “1개의 범용 LLM으로 통신사가 하려는 다양한 서비스와 문제를 해결하는 것은 쉽지 않다”며, “통신 데이터와 도메인 노하우에 맞춰 조정하는 미세조정과 벤치마킹을 거쳐 다양한 텔코LLM을 만들고 이를 상황에 맞게 골라 쓸 수 있도록 하는 것이 SKT만의 멀티 LLM 전략”이라고 설명했다.
현재 고객센터에서 상담 전화 한 건을 처리하려면 고객 상담에 약 3분, 상담 후 업무 처리에 30초 이상을 소요한다. 그러나 텔코LLM을 도입하면 상담사가 고객과 전화하는 동안 LLM이 해결책을 상담사에게 제공하고 상담 내용을 요약하는 등 상담 후 처리까지 소요 시간을 크게 단축할 수 있다.
또한, 텔코LLM 중 통신 관련 데이터를 입힌 클로드 버전의 경우 AI가 따라야 할 윤리 원칙을 철저하게 학습하고 우리나라에서 빠르게 생겨나고 있는 신조어나 한국어 욕설, 위협 폭언 식의 문맥 뉘앙스를 정확하게 파악할 수 있다.
통신사의 네트워크 인프라 운용에도 텔코LLM이 유용하다. 인프라 운용자가 네트워크 모니터링 중 문제가 발생하면, 실시간으로 텔코LLM에 질문을 입력해 해결 방안을 답변으로 받아볼 수 있다. 텔코LLM이 장비 매뉴얼, 대응 사례 등의 정보를 기반으로 상황에 맞는 답변을 빠르게 제공해 대응 시간을 단축한다.
정민영 SKT AI플랫폼 담당은 “고객센터, 인프라뿐만 아니라 마케팅·유통망 등 고객 접점이나 법무, HR와 같은 사내 업무까지 통신사 운영의 다양한 영역에서 텔코LLM이 업무 효율성을 높일 것”이라며 “지속해서 텔코LLM을 활용한 유즈케이스를 늘려갈 계획”이라고 설명했다.
