Edge AI 4장 카드뉴스

AI 활용 분야에서 쓰이는 용어로, 클라우드 서버를 거치지 않고 스마트폰·노트북·IoT 기기 같은 사용자 단말에서 직접 모델을 실행해 답을 만들어 내는 인공지능 운영 방식을 가리킵니다.

Edge AI는 멀리 있는 데이터센터에 매번 묻지 않고, 손에 든 기기나 매장·공장에 둔 작은 컴퓨터 안에서 AI 모델을 직접 돌려 답을 만드는 방식이에요. 대학교 도서관에서 매번 본관 행정실까지 뛰어가지 않고 학과 사무실 컴퓨터에서 바로 처리하는 것과 비슷해요. 응답이 빠르고, 통신비와 클라우드 서버 비용도 적게 들며, 데이터가 기기 밖으로 잘 나가지 않아 개인 정보 보호에도 유리합니다. 그래서 자율주행차·공장 검사 카메라·매장 키오스크처럼 응답이 늦으면 안 되거나 영상·음성이 외부로 새면 곤란한 분야에서 표준처럼 자리 잡고 있어요.

**케이스 1: NVIDIA Jetson — IoT 카메라·로봇 추론 모듈** NVIDIA는 Jetson을 "엣지 AI와 로보틱스를 위한 임베디드 컴퓨팅 플랫폼"으로 공식 정의하고 있으며, 가장 작은 Jetson Nano 모듈은 신용카드보다 작은 70×45mm 크기에 5~10W 전력으로 472 GFLOPs 성능을 제공합니다 [8]. 상위 라인업인 Jetson Orin은 동일 아키텍처 7개 모