온디바이스 AI와 반도체 수요

한눈에 보기

온디바이스 AI는 챗GPT처럼 서버에 물어보는 게 아니라, 스마트폰·PC 안의 칩이 직접 AI를 돌리는 방식입니다. 사진에서 인물만 지우기, 통화 실시간 통역, 문서 요약 같은 기능이 인터넷 없이 기기 안에서 처리됩니다.

왜 굳이 기기에서 돌릴까요? 세 가지 이유입니다.

1. 속도 — 서버까지 갔다 오는 시간(지연)이 없어 즉각 반응합니다.
2. 프라이버시 — 내 사진·대화가 기기 밖으로 나가지 않습니다.
3. 비용 — 서비스 회사 입장에선 서버 GPU 비용이 안 듭니다. 사용자가 산 칩이 대신 일하니까요.

클라우드 AI vs 온디바이스 AI — 돈의 흐름이 다르다

같은 “AI 반도체 수요”라도 두 방식은 돈을 내는 사람과 수혜 기업이 완전히 다릅니다. 투자 관점에서 이 구분이 출발점입니다.

	클라우드 AI	온디바이스 AI
연산 장소	데이터센터 GPU	기기 안 AP(NPU)
돈 내는 사람	빅테크 (설비투자)	소비자 (기기 가격)
핵심 메모리	HBM (고대역폭)	LPDDR (저전력)
대표 수혜	엔비디아, HBM 3사	AP 설계사, 메모리 3사
수요의 성격	소수 대형 고객의 폭발적 주문	수억 대 기기의 꾸준한 스펙 상향

클라우드 AI가 “소수의 큰손이 왕창 사는 시장”이라면, 온디바이스 AI는 **“모든 스마트폰의 부품 원가가 조용히 올라가는 시장”**입니다. 화려하진 않지만 물량이 압도적입니다 — 스마트폰은 연간 약 12억 대, AI 서버는 수백만 대 규모입니다.

기기 안에서 무슨 일이 벌어지나

AI 모델(LLM)을 기기에서 돌리려면 두 가지가 필요합니다.

• NPU (신경망처리장치) — AP 안에 들어가는 AI 전용 연산 블록입니다. CPU보다 AI 연산을 수십 배 효율적으로 처리합니다. 애플 A시리즈, 퀄컴 스냅드래곤, 삼성 엑시노스가 매 세대 NPU 성능을 몇 배씩 키우는 이유입니다.
• 메모리 (LPDDR) — 이게 핵심입니다. AI 모델은 실행되는 동안 모델 전체가 메모리에 올라가 있어야 합니다. 30억 개 파라미터짜리 모델을 압축해도 2GB 안팎 — 기존 앱들과 함께 돌리려면 램이 부족해집니다.

그래서 온디바이스 AI의 반도체 수요는 한 문장으로 요약됩니다. “스마트폰 한 대에 들어가는 메모리가 많아지고 비싸진다.”

• 용량: 플래그십 기준 8GB → 12~16GB로 상향
• 속도: LPDDR5 → LPDDR5X·LPDDR6 (모델을 빨리 읽어야 응답이 빠름)
• 전력: 배터리로 돌려야 하니 저전력 설계 프리미엄

D램 가격이 같아도 대당 탑재량이 1.5배가 되면 메모리 회사 매출은 1.5배입니다. 이것이 HBM만큼 주목받지 못하는 메모리 3사의 두 번째 성장축입니다.

수혜 기업 관계도

관계의 핵심 세 가지를 짚으면:

1. 애플 ↔ 삼성전자의 이중 관계 — 애플은 스마트폰에서 삼성의 최대 경쟁자이면서, 동시에 삼성 메모리(LPDDR)와 디스플레이의 최대 고객 중 하나입니다. 아이폰이 잘 팔려도 삼성 부품 사업은 돈을 법니다.
2. 퀄컴·미디어텍 ↔ TSMC — NPU가 커질수록 AP 다이 면적이 커지고 최선단 공정이 필요해집니다. 온디바이스 AI 경쟁이 곧 TSMC 3nm 주문 경쟁이 되는 구조입니다.
3. 삼성전자의 특수 포지션 — AP(엑시노스)·메모리·파운드리·완제품(갤럭시)을 전부 가진 유일한 회사입니다. 갤럭시 AI가 성공하면 부품과 완제품에서 이중으로 수혜를 봅니다. 반대로 말하면, 온디바이스 AI 시대의 성적표가 사업부별로 갈릴 수도 있습니다.

아직 물음표인 것들

• 킬러 앱 부재 — “있으면 좋은 기능”은 많지만 “이것 때문에 폰을 바꾼다”는 기능은 아직 뚜렷하지 않습니다. 교체주기 단축 효과는 검증 중입니다.
• 클라우드와의 분업 — 무거운 작업은 여전히 서버로 갑니다(하이브리드). 온디바이스가 클라우드 수요를 대체하는 게 아니라 둘 다 커지는 그림에 가깝습니다.
• 중저가폰 확산 속도 — 프리미엄 기능이 중저가로 내려와야 물량 효과가 폭발하는데, 그 시점이 메모리 수요 전망의 최대 변수입니다.

정리

• 온디바이스 AI의 투자 포인트는 화려한 GPU가 아니라 조용한 부품 원가 상승 — 특히 기기당 메모리 탑재량.
• 수요의 성격이 클라우드 AI(소수 대형 고객)와 달라 메모리 3사에게는 HBM과 별개의 두 번째 성장축이 된다.
• 삼성전자는 부품과 완제품 양쪽에 걸친 유일한 플레이어 — 관계도가 가장 복잡하고, 그만큼 볼거리가 많다.