클라우드도 GPU도 없이 라즈베리파이로
AI를 돌린다? — 소상공인 저비용 AI의 미래

"AI는 다 클라우드에 연결해서 써야 하는 거 아닌가요? 그럼 매달 요금이 계속 나갈 텐데." 공장이나 매장을 운영하는 사장님들이 AI 도입을 미루는 이유 중 하나가 바로 이 '매달 나가는 돈'에 대한 부담입니다. 그런데 최근 나온 기술 소식은 이 전제를 흔듭니다. 클라우드에 연결하지 않고, 기기 자체에서 AI를 돌리는 방식이 점점 작은 기기에서도 가능해지고 있다는 것입니다.

AI 기업 리퀴드 AI(Liquid AI)는 라즈베리파이처럼 작은 기기에서도 실행 가능한 소형 AI 모델 LFM2-2.6B를 내놓았다고 밝혔습니다. 클라우드 서버나 GPU 없이도 기기 자체에서 AI가 작동한다는 점이 소개된 것이 이번 소식의 핵심입니다. (VentureBeat AI)

출처: VentureBeat AI (2026). 위 내용은 해당 기사 소개 시점 기준이며, 실제 도입 시 성능·비용은 기기·업무에 따라 달라질 수 있는 참고용 정보입니다.

온디바이스 AI가 뭐길래 소상공인에게 중요할까?

지금 사장님들이 접하는 챗봇·AI 도구는 대부분 클라우드형입니다. 내가 입력한 내용이 인터넷을 통해 큰 서버로 전송되고, 그 서버가 계산해서 답을 돌려주는 방식입니다. 이 방식은 성능은 좋지만 두 가지 부담이 있습니다. 인터넷 연결이 항상 필요하고, 쓰는 만큼 매달 사용료가 나갑니다.

온디바이스 AI는 반대입니다. AI가 처리하는 계산을 내 컴퓨터나 소형 기기 안에서 직접 합니다. 인터넷이 끊겨도 작동하고, 한 번 기기에 설치하면 추가 사용료 없이 계속 쓸 수 있는 구조입니다. 다만 아직은 클라우드형보다 다룰 수 있는 작업의 범위가 제한적인 경우가 많다는 점은 함께 알아둬야 합니다.

왜 지금 이 뉴스가 제조업 사장님에게 의미가 있을까?

제조 현장은 다른 업종보다 인터넷 환경이 불안정하거나, 도면·설비 정보처럼 외부로 나가면 안 되는 데이터가 많은 곳이 흔합니다. 이런 환경에서는 애초에 클라우드형 AI를 쓰기가 부담스럽습니다. 온디바이스 AI가 점점 작은 기기에서도 돌아간다는 소식은, 이런 제조 현장에도 인터넷 연결 없이, 데이터를 밖으로 내보내지 않고 AI를 시험해볼 여지가 생긴다는 뜻입니다.

물론 이번 소개는 기술이 '가능해지고 있다'는 신호일 뿐, 당장 모든 공장에 바로 적용할 수 있는 완성된 해법이라는 뜻은 아닙니다. 어떤 업무에 어떤 수준으로 쓸 수 있는지는 실제로 작게 검증해봐야 알 수 있습니다.

우리 공장, 온디바이스 AI가 맞을까 클라우드 AI가 맞을까?

두 방식은 서로 대체재가 아니라 상황에 맞게 고르는 선택지입니다. 아래 표로 비교해보면 판단이 조금 쉬워집니다.

작게 검증하며 시작하는 4단계

1. 진단 — 인터넷 환경, 다루는 데이터의 민감도, 매달 나가는 AI 비용 부담을 먼저 확인합니다.
2. 파일럿 — 특정 업무 하나를 골라, 소형 기기 기반 온디바이스 AI로 시험해봅니다.
3. 검증 — 처리 속도, 정확도, 초기 투자 대비 실제로 아낀 시간·비용을 확인합니다.
4. 확장 — 효과가 확인되면 다른 업무·다른 라인으로 넓히거나, 클라우드 AI와 병행합니다.

온디바이스 AI는 아직 초기 단계 기술입니다. "클라우드보다 무조건 저렴하다"가 아니라 "우리 상황에는 이게 더 맞을 수도 있다"는 관점으로 작게 확인해보는 것이 안전합니다.

자주 묻는 질문