[방송기술저널 전숙희 기자] SK텔레콤은 기업·공공용 생성형 AI 시장 공략을 위한 ‘멀티 LLM(Large Language Model)’ 전략을 8월 23일 발표했다.
SKT는 기업 및 공공기관 등의 요구에 맞춰 △대화 및 고객센터 등 통신사 기반 서비스를 중심으로 자체 개발해 온 에이닷 LLM과 △윤리적 답변 및 대용량 텍스트 입력이 강점인 엔트로픽(Anthropic)사의 LLM △한국어 데이터가 풍부한 코난 LLM 등을 조합해 고객 맞춤형으로 제공하기 위한 기술 및 사업적 준비를 진행 중이라고 밝혔다.
우선 SKT는 한국어 기반 에이닷 LLM의 엔터프라이즈(Enterprise)용 기본 모델(Foundation Model)을 8월에 출시하고 고객사 대상 모델을 학습하고 최적화 작업을 진행하고 있다.
LLM 기본 모델은 문서 요약, 문서 생성, Q&A 등을 수행하는 기본 기능을 갖춘 AI 소프트웨어다. 기본 기능을 제대로 발휘하려면 이 모델을 필요로 하는 고객사의 실제 데이터를 학습시키고 고객이 원하는 방향으로 조율하는 과정을 거쳐야 한다.
또한, SKT는 다양한 분야에서 협력을 확대하고 있는 코난의 LLM도 활용할 계획이며, 지난 13일 지분 투자를 발표한 엔트로픽(Anthropic)사의 LLM을 SKT의 주요 B2B 서비스에 LLM 기능을 결합해 판매하는 방식을 협의 중이다.
SKT는 자사의 GPU 서버 인프라를 바탕으로 안정적인 AI 서비스를 제공할 계획으로, “고객별 특성에 가장 잘 맞는 LLM 서비스를 비용 효율적으로 공급하는 엔터프라이즈 AI 사업자가 될 것”이라고 전했다.
또한, SKT는 기업 공공(Enterprise) 분야 LLM 서비스로 각각의 LLM이 가진 고유의 특장점을 가장 잘 발휘할 수 있는 분야에 각 LLM 서비스를 매칭하는 ‘산업별 특화 LLM 서비스’ 제공을 지향하고 있다.
에이닷 LLM의 경우 학습한 데이터나 서비스 성격상 주로 대화나 챗봇 등 통신사 서비스에 장점이 있고, 엔트로픽 LLM의 경우 AI가 따라야 할 윤리 원칙을 미리 학습시켜 뒀기 때문에 사람이 정해놓은 윤리 원칙에 맞는 답변을 얻을 수 있는 특성이 있다.
이를 통해 한국어 기반의 구축형 LLM 시장에서는 에이닷 LLM을 중심으로 시장을 선점하고 초거대 AI 중심의 경쟁이 예상되는 클라우드형 LLM의 경우 엔트로픽 LLM 등을 활용해 시장을 공략할 계획이다.
SKT는 우선 행정안전부, 과학기술정보통신부 등 정부에서 추진 중인 LLM 기반 시범 사업과 본사업 참여를 준비 중이며, 금융권을 중심으로 한 LLM 기반 서비스 구축 프로젝트도 개별 고객사와 함께 추진 중이다.
한편, SKT는 기업 및 공공사업 담당 구성원을 대상으로 멀티 LLM의 주요 기능, 사용법 등에 대한 교육을 지난주부터 진행하고 있다.
SKT 엔터프라이즈 사업을 이끄는 김경덕 CIC장(부사장)은 멀티 LLM 교육 과정에 참석한 사내 구성원들에게 “중요한 것은 고객의 요구 사항으로, 다양한 멀티 LLM 조합을 기반으로 고객이 실제로 필요한 서비스를 신속하게 제공하는 것이 중요하다”고 강조했다.
