과기정통부, 국내 최초 ‘생성형 AI 레드팀 챌린지’ 개최 ...

과기정통부, 국내 최초 ‘생성형 AI 레드팀 챌린지’ 개최
국내 AI 산업 안전‧신뢰성 확산 기대…공존 가능한 ‘AI 시대’ 준비

143

[방송기술저널 전숙희 기자] 과학기술정보통신부와 한국정보통신기술협회(TTA)는 ‘생성형 AI 레드팀 챌린지’ 행사를 4월 11일부터 12일까지 이틀간 코엑스 B2홀에서 개최한다고 밝혔다.

국내에서 처음으로 개최하는 이번 ‘레드팀 챌린지’는 AI에 관심 있는 국민 누구나 참여해 국내 생성형 AI 모델(LLM)을 대상으로 잠재적 위험‧취약점을 찾는 행사다.

최근 생성형 AI에 대한 높은 관심을 반영하듯 이번 행사에는 AI‧IT 분야 종사자뿐만 아니라 제조‧금융‧의료 분야 종사자, 대학생 등 다양한 직군의 국민 1,000여 명이 참여했다. 국내 AI 대표 기업인 네이버, SK텔레콤, 업스테이지, 포티투마루 등이 참여한 가운데 참가자들은 세션별로 참여 기업의 LLM 모델을 배정받아 총 7개의 챌린지 주제를 대상으로 잠재적 취약점을 찾기 위한 프롬프트 공격을 진행한다.

이번 행사는 공정하고 전문적인 평가를 위해 챌린지 평가단을 구성·운영했다. 평가단은 레드팀 수행 경험 등이 있는 데이터 분야 전문가, 의료‧금융‧법률 전문가 120여 명으로 구성했으며, 사전에 마련한 평가 세부 기준에 기초해 평가한다.

한편, 행사 둘째 날 열리는 ‘글로벌 AI 안전 컨퍼런스’에서는 Cohere Aidan Gomez 대표, Stability AI Emad Mostaque 전 대표/창업자, 프론티어모델 포럼 Chris Meserole 의장, xAI Dan Hendrycks 안전 담당고문, 네이버 하정우 퓨처 AI 센터장, SKT Eric Davis 부사장, 셀렉트스타 김세엽 대표, 카카오 김경훈 AI Safety 리더, 카이스트 오혜연 교수 등 국내외를 대표하는 AI 업계‧학계 전문가가 참여해 최근 생성형 AI 시장의 기술 동향과 생성형 AI 안전‧신뢰성 확보 방안에 대한 발표와 토론을 진행한다.

과기정통부는 이번 ‘레드팀 챌린지’ 결과를 분석해 생성형 AI 분야의 공통‧포괄적인 위험을 도출하고, 업계에서 활용할 수 있는 ‘생성형 AI 레드팀 가이드라인’을 마련하는 등 표준화한 생성형 AI 위험 발굴‧대응 체계를 구축해 나갈 계획이다.

강도현 과기정통부 2차관은 “AI 혁신의 전제이자 기본은 AI 안전과 신뢰”라고 강조하면서, “AI 시대’로의 본격적인 전환점에서 오늘 행사는 AI의 지속 가능성에 대해 모두가 진지하게 고민해 볼 수 있는 소중한 계기가 될 것”이라고 말했다.

이어 “AI 발전에 제약하는 문제를 조속히 해결하고, 글로벌 AI 혁신을 주도해 나갈 것”이라며, “특히, 올해 5월에 개최하는 ‘AI 서울 정상회의’를 통해 AI 혁신과 안전, 포용 논의를 주도해 글로벌 AI 리더십을 확보하고, AI G3 강국 도약의 발판으로 삼겠다”고 전했다.