[방송기술저널 전숙희 기자] 일반적인 AI 기술은 모바일 기기에서 수집한 정보를 중앙 클라우드 서버로 전송해 분석하고 다시 기기에 보내는 방식이다. 이와 달리 온디바이스(On-device) AI는 서버나 클라우드에 연결할 필요 없이 모바일 기기 자체적으로 정보를 수집하고 연산한다. 기기에 NPU(Neural Processing Unit, 신경처리장치)를 설치해 인터넷 연결을 하지 않아도 생성형 AI를 구동할 수 있게 하는 것이다.
기기 자체에서 정보를 처리하기 때문에 저지연, 유연성의 이점을 가지며, 클라우드 기반 AI의 문제점으로 대두되는 보안 문제도 해결한다. 또한, 기기가 네트워크에 연결돼 있지 않아도 언제든지 사용할 수 있다.
앞으로 스마트폰, 청소기, 세탁기 등 다양한 기기에 온디바이스 AI를 적용해 사용자의 생활 습관 전반을 파악하고 이를 통해 사용자에게 맞춘 초개인화 서비스를 더욱 강화하리라 전망된다.
