[방송기술저널 백선하 기자] 프론티어 AI는 현재 AI 기술의 최전선에 있는 가장 강력하고 고도화된 최첨단 범용 AI 모델을 의미한다.
지난 2023년 7월 오픈AI(OpenAI), 앤트로픽(Anthropic) 등 AI 주요 연구진과 AI 거버넌스 전문가들이 공동 집필한 AI 규제 관련 보고서 ‘프런티어 AI 규제: 공공 안전을 위협하는 신흥 위험 관리(Frontier AI Regulation: Managing Emerging Risks to Public Safety)’에서 프론티어 AI라는 개념이 정립됐고, 같은 해 11월 영국 AI 안전 정상회의(AI Safety Summit)에서 글로벌 정책·규제 등을 논의하면서 본격적으로 쓰이기 시작했다.
우니나라에서는 앤트로픽의 차세대 고성능 AI 모델 ‘클로드 미토스’ 보도 이후 많이 언급되기 시작했다. 지난 3월 앤트로픽의 차세대 고성능 AI 모델 ‘클로드 미토스’가 유출된 뒤 전 세계 소프트웨어 및 보안 기업에는 비상이 걸렸다. 클로드 미토스가 단순 AI가 아닌 복잡한 시스템을 완전히 이해하고 인간이 발견하지 못한 치명적인 보안 결함을 자율적으로 찾아내 공격하는 능력을 갖춘 것으로 알려졌기 때문이다. 자칫 잘못해 해커가 이를 악용한다면 기존 방어 체계로 감당할 수 없는 혼란이 일어날 수 있다는 우려까지 제기됐다.
프론티어 AI 규제 보고서에서도 프론티어 AI는 ‘공공 안전에 심각한 위험을 초래할 수 있는 잠재적 위험 역량을 가진 고성능 파운데이션 모델’로 정의됐다. 성능이 강력한 만큼 잠재적인 위험성도 함께 수반된다는 것이다. 이 때문에 오픈AI, 앤트로픽 같은 기업에서는 프론티어 AI를 개발‧배포하기 전에 내부 가이드라인을 강화‧의무화하고 있으며, 미국이나 영국, 일본 등 주요국가에서도 프론티어 AI 모델 출시 전 정부 차원의 안전성 검사를 진행하고 있다.
우리나라도 프론티어 AI 개발을 검토하고 있다. 배경훈 부총리 겸 과학기술정보통신부 장관은 지난 7월 이재명 대통령 주재 업무보고 자리에서 AI와 첨단 과학기술의 주도권을 놓고 국가 명운을 건 총력전이 벌어지고 있다며 연내 보안 특화 AI 모델을 출시하고 미토스급 프론티어 AI 개발에 대한 고민이 필요하다고 말했다. 현재 단기적으로 독자 파운데이션 모델을 개발하고 있지만 중장기적으로 고도화된 프론티어 AI 모델도 검토해야 한다는 것이다.
