[방송기술저널 백선하 기자] 단말형 인공지능은 흔히 ‘온 디바이스 AI’라 불리는데 중앙 서버를 거치지 않고 사용자 단말(device)에서 AI 알고리즘을 실행하고 결과를 획득하는 기술을 의미한다.
흔히 AI 알고리즘이 방대한 데이터를 학습해 문제를 해결하고, 새로운 정보를 생성한다고 보면 단말형 인공지능은 단말 자체에 AI 기능이 내장돼 있어 단말 내에서 데이터 처리 및 의사결정을 진행하는 것이라고 보면 된다.
이용자 관련 정보가 클라우드(Cloud)와 같은 중앙 서버로 전송되지 않고 기기 내부에서 처리되기 때문에 데이터 보안성이 높다. 또한 빠른 응답 속도와 저전력, 저비용이라는 장점이 있다.
무엇보다 네트워크 전송이 필요 없어 통신이 불안정하거나 연결되지 않은 상태에서도 자유롭게 응용 서비스를 이용할 수 있다. 보통의 AI 알고리즘은 고성능 학습과 추론이 필요하기 때문에 대규모 학습 데이터를 보유한 중앙 컴퓨터가 있어야 하는데 단말형 인공지능은 AI 알고리즘 처리가 사용자 단말에서 이뤄지기 때문에 통신 환경에 따른 제약이 없다.
반면 데이터가 중앙 서버로 모이지 않기 때문에 학습 알고리즘의 성능을 개선하는 데에는 한계가 있다. 또한 사용자에 따른 편향된 데이터로만 판단하기 때문에 신뢰성을 보장하기 어렵다. 이러한 단점을 극복하기 위하여 전이 학습(transfer learning), 연합 학습(federated learning) 등의 알고리즘을 사용한다.
단말형 인공지능의 대표 사례로 스마트폰이 있다. 구글은 단말형 인공지능 칩 ‘텐서 G4’를 장착한 스마트폰 ‘픽셀9’를 선보였고, 삼성전자도 단말형 인공지능에 최적화된 생성형 AI 모델 ‘가우스’를 공개했다. 이외에도 실시간 영상 분석 등을 수행해야 하는 보안 카메라나 실시간 모니터링 및 질병 진단이 필요한 의료 기기 등에서도 단말형 인공지능이 활용된다.
참고문헌
• 최신 ICT 시사용어 2025
