[방송기술저널 백선하 기자] 세계 최초로 AI 기본법이 1월 22일 전면 시행됐다. 정부는 AI 산업 진흥에 초점을 맞춰 최소 규제만 적용한다는 방침이지만 업계에서는 산업이 성장하기도 전에 규제법이 생겼다며 경쟁력 하락을 우려하고 있다. 정부는 업계의 우려를 고려해 정부의 사실 조사권이나 과태료 부과 등을 1년 이상 유예하는 등 연착륙을 시도하겠다는 계획이다.
과학기술정보통신부는 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’ 이른바 AI 기본법을 22일 전면 시행한다고 밝혔다.
AI 기본법은 지난 2024년 12월 여야 합의를 거쳐 국회를 통과했다. 국가 AI 거버넌스를 법제화하고, AI 산업 활성화와 기반 조성, AI 혁신을 뒷받침하는 안전 신뢰 기반 등에 관한 내용을 담고 있다.
과기정통부는 AI 기본법에 대해 산업 진흥에 방점을 두고 필요 최소 규제 원칙에 따라 AI 사업자에 대한 의무사항이나 제재는 최소화했다고 설명했다. AI 개발이나 활용 전반을 통제하기보다 최소한의 공통 원칙과 거버넌스를 마련하는 데 방점을 찍었다는 것이다.
정부는 산업 경쟁력을 높이기 위해 3년마다 AI 기본 계획을 수립해 시행하도록 했다. 다만 업계의 규제 우려를 고려해 법 시행 이후 최소 1년 이상의 규제 유예 기간을 둬 제도 안착에 주력하겠다는 입장을 밝혔다.
과기정통부는 전문가로 구성된 ‘AI 기본법 지원 데스크’를 개설‧운영해 기업의 문의와 애로사항을 해소한다는 방침이다. 과기정통부는 “전문가들이 검토‧분석을 통해 기업에 상세 자문을 제공하고, 영업비밀 유출 등을 우려하는 기업을 고려해 상담 내용은 비밀로 관리‧익명 자문도 제공할 예정”이라고 했다.
AI 기본법의 핵심은 △고영향 AI 판단 △AI 안전성 확보 의무 △AI 투명성 확보 의무 등 세 가지다.
우선 고영향 AI는 사람의 기본권에 중대한 영향을 미치거나 위험한 업무에 사용되면서도 사람의 개입이 전혀 없는 경우를 의미한다. 현 기준으로는 완전 자율주행 단계인 레벨4 이상 차량 정도가 대표적인 사례로 거론된다. 정부는 “고영향 AI는 중대한 영향을 미치는 AI로 모든 AI가 아닌 실제 위험성이 높은 AI만을 규제하겠다는 것”이라며 “당장 광범위한 산업 영역이 규제 대상에 포함되지는 않을 것”이라고 설명했다.
AI 안전성 확보 의무를 위해선 △학습 누적량 10의 26승 부동소수점 연산(FLOPs, 플롭스) 이상 △최첨단 기술 적용 △위험도가 사람의 기본권에 광범위하고 중대한 영향을 미칠 우려가 있는 경우 등 요건을 모두 충족해야 하는데 정부는 현재 이 기준을 충족한 AI가 없다고 밝혔다.
사실상 업계에 가장 큰 영향을 미치는 부분은 바로 AI 투명성 확보 의무다. AI 제품 및 서비스를 제공하는 AI 사업자에게 부과되는 것으로 AI 결과물에 표시 의무가 부과되는 것이다. 과기정통부는 이와 관련해 ‘AI 투명성 확보 가이드라인’을 공개했다. 가이드라인에는 △AI 활용 사실 고지 △결과에 대한 설명 제공 △책임 주체 명확화 등의 원칙이 담겼다. AI 생성물 표시 의무는 국내 기업뿐 아니라 구글·오픈AI 등 해외 빅테크 기업도 적용 대상에 포함된다.
과기정통부는 “사회적 부작용이 우려되는 딥페이크 결과물에 대해서는 이용자 나이 등을 고려해 명확하게 인식할 수 있는 방법으로 표시하도록 규정했고, 딥페이크가 아닌 AI 결과물에 대해서는 가시적 방법뿐 아니라 눈에 보이지 않는 방식도 허용했다”면서 “시행령을 통해 다양한 방법으로 할 수 있도록 규정했다”고 말했다.
과기정통부 관계자는 “특히 AI 생성물에 대한 워터마크 적용은 딥페이크 오용 등 기술의 부작용을 막기 위한 최소한의 안전장치이자 이미 주요 세계적 기업들이 도입하고 있는 세계적인 추세”라며 “이번 AI 기본법 시행을 통해 현장에서의 법적 불확실성이 제거되고 건강하고 안전한 국내 AI 생태계가 조성되기를 기대한다”라고 밝혔다.
