SKT, 초거대 AI 모델 ‘에이닷’ 슈퍼컴퓨터로 더 강력해진다 ...

SKT, 초거대 AI 모델 ‘에이닷’ 슈퍼컴퓨터로 더 강력해진다
‘에이닷’ 브레인 역할 맡고 있는 슈퍼컴퓨터의 GPU, 1040대로 2배 확대 구축

338

[방송기술저널 전숙희 기자] SK텔레콤이 자사의 초거대 AI 모델인 ‘에이닷’의 브레인 역할을 하고 있는 슈퍼컴퓨터 ‘타이탄’을 기존 대비 2배로 확대 구축했다고 2월 12일 밝혔다.

수십억 개 이상의 매개변수를 다루는 초거대AI를 구동하기 위해서는 방대한 양의 데이터를 빠르고 정확하게 처리할 수 있는 슈퍼컴퓨터 인프라가 필수이다. SKT는 2021년부터 슈퍼컴퓨터를 구축해 자체 운영하고 있으며 이번에 NVIDIA A100 GPU 1,040개로 증설했다. 기존 대비 약 2배 이상 규모다.

SKT의 “슈퍼컴퓨터는 17.1 페타플롭 이상의 성능을 지원해 글로벌에서 손꼽힐 수준의 성능을 갖추게 됐다”고 설명했다. 1페타플롭은 1초에 1,000조 번 부동소수점(컴퓨터의 실수인식법) 연산이 가능한 속도를 뜻하므로, 17.1페타플롭은 초당 1경 7,100조 번의 연산 처리가 가능한 수치다.

SKT는 이번 슈퍼컴퓨터 확대 구축을 통해 자사의 초거대 AI 모델인 ‘에이닷’을 더욱 고도화할 방침이다. SKT는 “‘에이닷’은 상용 서비스에 수백억 개 이상의 파라미터 모델을 이미 적용하고 있고 이번 컴퓨팅 성능 확대를 통해 현재보다 2배 이상 규모의 모델로 고도화할 예정”이라며 “이번 슈퍼컴퓨터 확대 구축을 통해 더 광범위한 데이터를 더 빠르고 정확하게 처리할 수 있는 강력한 컴퓨팅 파워를 갖추게 됐다”고 전했다.

김영준 SKT A.추진단 담당은 “이번 슈퍼컴퓨터 확대 구축을 통해 에이닷이 기존보다 더 정교한 학습이 가능해져 사람과의 대화 흐름과 답변 완성도가 사람 수준에 가깝도록 개선하는 데 큰 역할을 할 것으로 기대한다”며 “앞으로도 공격적인 R&D 투자, 인프라 확대, 인재 영입 등 통해 AI 기술 리더십을 선도하기 위해 지속 노력하겠다”고 말했다.