[방송기술저널 백선하 기자] LG유플러스가 생성형 AI의 안전성과 신뢰성을 검증하기 위한 국제 행사에 참여한다.
LG유플러스는 다음 달 스페인 바르셀로나에서 열리는 MWC26 기간 중 진행되는 ‘글로벌 AI 레드팀 챌린지’에 익시젠을 출품한다고 2월 19일 밝혔다.
글로벌 AI 레드팀 챌린지는 세계이동통신사업자연합회(GSMA)가 주관하는 AI 검증 프로그램으로, MWC와 공식 공동 개최되는 개발자·디지털 인재 행사의 핵심 프로그램 중 하나다.
LG유플러스는 LG AI연구원의 거대언어모델(LLM) ‘엑사원(EXAONE)’을 기반으로 개발한 익시젠을 출품해 실제 사용자 관점에서 발생할 수 있는 다양한 위험 시나리오에 대한 대응력을 점검할 계획이다.
이번 챌린지에는 약 100명의 참가자가 ‘레드팀’ 역할로 참여해 프롬프트 설계만으로 AI의 취약점을 찾아내는 방식으로 진행된다. 기술적 해킹이 아닌 대화·프롬프트 기반 공격을 통해 AI의 정책과 안전장치를 우회할 수 있는지를 검증하는 것이 특징이다.
참가자들은 △안전장치 우회 △편향·차별 △인권 침해 △사이버 공격 △불법 콘텐츠 △허위 정보 △응답 비일관성 등 7개 항목에서 AI의 대응 수준을 평가한다.
이혜진 LG유플러스 기술전략담당은 “글로벌 AI 레드팀 챌린지 참여를 통해 익시젠의 경쟁력을 한층 강화하고, 고객이 안심하고 사용할 수 있는 AI 서비스를 제공해 나가겠다”고 말했다.
