[방송기술저널 백선하 기자] 경량화 언어 모델(smaller Large Language Model, sLLM)은 일반적으로 알려진 대규모 언어 모델(Large Language Model, LLM)보다 적은 수의 매개변수를 가진 AI 모델이다. 통상적으로 매개변수가 1,000억 개 이하인 모델을 sLLM이라고 한다.
sLLM의 매개변수 크기는 LLM보다 작지만 성능은 LLM 못지 않다. 오히려 매개변수가 작은 덕분에 데이터 처리 속도가 빠르고 실시간 응답이 가능하다. 또 학습 데이터양이 적어 개발 비용과 유지 비용이 적게 들어가는 장점도 있다.
매개변수가 작기 때문에 특정 산업과 관련된 데이터를 집중 학습해 특정 산업에 대한 답변을 풍부하게 할 수도 있다. LLM 만큼 넓은 분야를 다루진 못하지만 특정 분야에 대해선 보다 전문적인 답변이 가능하다는 것이다.
이 같은 장점에 구글은 sLLM인 ‘제미나이 나노’를 선보였고, 마이크로소프트는 ‘파이-3-미니’를, 메타는 ‘라마3’을 각각 공개했다. 국내에서도 LG유플러스가 ‘엑사원’ 기반의 ‘익시젠’을 출시했고, 네이버도 ‘하이퍼클로바X’의 경량 모델인 ‘HCX-대시’를 선보이기도 했다.
가성비 측면에서 스타트업도 sLLM 개발에 뛰어들고 있다. 업스테이지는 솔라 프로 모델에 기반한 매개변수 107억 개의 ‘솔라 미니’를 아마존 웹 서비스를 통해 출시했고, 솔트룩스는 매개변수 70억 개 수준인 ‘루시아’를 선보였다.
참고문헌
• 한국정보통신기술(최신 ICT 시사용어 2025)
