최근 NPU 상용화 얘기를 들었을 때, 저는 그냥 "또 국산 반도체 키운다는 얘기겠지" 하고 흘려들었습니다. 그런데 자료를 좀 더 깊숙히 파고들다 보니 생각이 완전히 바뀌게 되었습니다. 핵심은 칩을 만드느냐가 아니라, 실제로 팔리느냐였습니다. 정부가 2,500억 원을 직접 투자하고, 공공기관이 국산 NPU를 구매하기 시작했다는 소식을 접하면서 이게 단순한 R&D 지원과는 결이 다르다는 걸 느꼈습니다. 지금이 바로 그 분기점입니다. NPU 상용화 관련 마중물이 진짜 의미하는 것은 무엇이며, 소버린AI와 연결고리 그리고 투자관점에서 NPU 기업을 어떻게 봐야할 지 알아보았고, 제 생각을 정리하였습니다. 그리고 NPU 관련 자주 묻는 질문도 정리하였으니, 참고하시면 이 글을 이해하는데 많은 도움이 되실 겁니다.
NPU 상용화 제대로 이해하고 있었나요?
제가 처음에 NPU를 접했을 때는 솔직히 GPU의 사촌 정도로만 생각했습니다. 그런데 이게 꽤 다른 물건이었습니다.
NPU는 Neural Processing Unit의 약자로, 우리말로 하면 신경망 처리 장치입니다. 여기서 '신경망'이란 인간의 뇌가 수많은 신호를 동시에 처리하는 방식에서 착안해 만든 AI 연산 구조를 말합니다. 즉, NPU는 처음 설계 단계부터 AI 연산, 그중에서도 특히 추론(Inference)에 최적화된 반도체입니다.
추론이란, 이미 학습이 완료된 AI 모델이 실제 사용자의 요청을 처리하는 과정을 말합니다. ChatGPT에 질문을 입력하면 답변이 나오는 그 순간, 바로 추론이 일어나고 있는 겁니다. 반면 GPU는 원래 그래픽 처리 목적으로 만들어졌다가 대규모 병렬 연산에 강점이 있다는 이유로 AI 학습에 쓰이기 시작했습니다. 구글이 알파고를 개발하면서 GPU를 AI 학습에 본격 도입한 것이 그 출발점이었고, 이후 NVIDIA GPU가 사실상 AI 학습 시장을 독점하는 구조가 됐습니다.
그렇다면 NPU는 어디에 쓰일까요? 제가 흥미롭게 본 사례가 있습니다. 국내 NPU 개발사 리벨리온의 반도체가 SK텔레콤 AI 서비스에서 통화 요약 기능에 실제로 쓰이고 있고, 또 다른 개발사 퓨리오사 AI는 독자 파운데이션 모델 프로젝트에 참여하는 업스테이지와 협업하며 외산 하드웨어 의존도를 낮춘 점에서 높은 평가를 받았습니다. CCTV의 AI 분석 기능에 국산 NPU를 공급하는 정부 사업도 진행 중입니다. 아직 대규모 상용화 이전이지만, 실증 사례는 분명히 나오고 있습니다.
- AI 추론: 학습된 모델이 실시간으로 답을 도출하는 과정
- 엣지 AI: 클라우드가 아닌 기기 내부에서 직접 AI 연산 처리
- 온디바이스 AI: 스마트폰·자동차·로봇 등 단말 내 AI 탑재
- 팹리스: 반도체를 직접 제조하지 않고 설계만 하는 기업 구조
◆ 요약 : NPU는 AI 추론에 특화된 반도체로, GPU와 달리 처음부터 AI 연산을 위해 설계됐으며 전력 효율 면에서 강점이 있다.
마중물이 진짜 의미하는 건 뭘까요?
NPU 상용화 논의에서 "마중물"이라는 단어가 자주 나옵니다. 처음엔 그냥 정부 보조금 얘기인 줄 알았는데, 파고들수록 이게 훨씬 구조적인 문제라는 걸 알게 됐습니다.
반도체 스타트업이 NPU를 아무리 잘 만들어도, 기업 입장에서는 시장에서 검증받지 않은 제품을 선뜻 도입하기가 어렵습니다. 전력 효율이 GPU보다 낫다는 주장이 있더라도, 직접 써서 확인되지 않은 제품에 인프라를 의존하는 건 리스크가 있기 때문입니다. 이른바 '죽음의 계곡(Death Valley)'이라는 구간이 존재하는데, 여기서 죽음의 계곡이란 기술 개발은 성공했지만 상업적 매출이 아직 발생하지 않아 자금이 고갈되는 위험 구간을 뜻합니다. NPU 산업에서는 이 구간이 특히 깁니다.
그래서 정부가 일종의 첫 번째 고객, 즉 마중물 역할을 맡는 겁니다. 2026년 기준으로 한국 정부는 국민성장펀드를 통해 리벨리온에 2,500억 원의 직접투자를 결정했고, 민간 자금을 합치면 지원 규모는 6,000억 원 수준으로 확대되는 구조입니다(출처: 금융위원회). 이게 단순 보조금이 아니라 양산과 차세대 칩 개발의 기반으로 설계됐다는 점이 중요합니다.
제가 보기에 진짜 마중물은 사실 정부 투자금보다 공공기관·대기업의 실제 구매입니다. 정부가 돈을 줘서 만드는 것과, 실제로 국산 NPU를 사서 서비스에 쓰는 것은 기업 입장에서 완전히 다른 신호로 읽힙니다. "보조금 받는 회사"에서 "실제로 매출이 있는 회사"로 바뀌는 순간, 두 번째 고객이 생기기 훨씬 쉬워집니다.
◆ 요약 : 마중물의 핵심은 정부 보조금 자체가 아니라, 공공·대기업의 실제 구매를 통한 첫 번째 레퍼런스 확보에 있다.
소버린 AI와 NPU, 왜 지금 연결되는 건가요?
소버린 AI(Sovereign AI)라는 개념이 요즘 자주 등장합니다. 여기서 소버린 AI란, 특정 국가가 외국 기업의 기술에 종속되지 않고 자국 데이터와 자국 인프라로 AI를 운영하는 능력을 뜻합니다. 쉽게 말해 AI 주권입니다.
제 경험상 이걸 가장 실감한 건 미국의 AI 반도체 수출 규제 뉴스를 봤을 때였습니다. NVIDIA GPU 수출이 특정 국가에 제한되면서, GPU를 수입해서 쓰는 나라들이 갑자기 AI 인프라 자체가 흔들리는 상황이 된 겁니다. 한국도 NVIDIA GPU 의존도가 높고, 동시에 중국 AI 기술 의존 가능성도 배제하기 어렵습니다. 양쪽 리스크를 동시에 안고 있는 구조입니다.
이런 맥락에서 정부가 NPU를 단순한 반도체 산업 육성이 아니라 'K-엔비디아 프로젝트'라고 표현하는 이유를 이해할 수 있습니다. AI 컴퓨팅 인프라를 자국 내에서 확보한다는 전략적 의미가 담겨 있는 겁니다. NVIDIA 역시 AI 추론 시장이 급성장하면서 Huawei 등 중국 AI 반도체와의 경쟁을 중요한 변수로 보고 있다는 분석이 나오고 있습니다(출처: Reuters).
한국 입장에서는 AI 추론 시장이 태동기라는 점이 오히려 기회입니다. AI 학습 시장은 NVIDIA CUDA 생태계가 워낙 단단하게 굳어 있어서 뚫기가 어렵다는 게 전문가들의 공통된 시각입니다. 그런데 AI 추론 시장은 아직 누가 지배한다고 단정하기 어렵고, 특정 산업에서 먼저 레퍼런스를 쌓는 것이 시장 선점에 결정적입니다. CCTV, 자동차, 로봇, 스마트팩토리 같은 영역에서 국산 NPU가 먼저 자리를 잡으면, 그것 자체가 소버린 AI의 기반이 됩니다.
◆ 요약 : 소버린 AI 확보의 핵심 인프라로 NPU가 부상한 것은, AI 학습이 아닌 추론 시장에서 자국 AI 컴퓨팅 생태계를 구축하려는 전략적 판단에서 비롯됐다.
투자 관점에서 NPU 기업을 어떻게 봐야 할까요?
제가 NPU 관련 기업을 볼 때 가장 경계하는 시각이 있습니다. "국산 NPU를 만든다"는 사실 하나만으로 기업가치를 판단하는 것입니다. 솔직히 이건 예상 밖이었는데, 실제로 반도체 스타트업을 살펴보다 보면 기술력과 사업성이 전혀 다른 이야기인 경우가 많았습니다.
제가 중요하게 보는 순서는 실제 고객이 있는지, 그 고객에게서 실제 매출이 발생하는지, 양산에 성공했는지, 그리고 반복 주문이 이어지는지입니다. NPU 산업은 칩 하나를 설계하는 것보다 고객의 소프트웨어 환경에서 문제없이 돌아가도록 컴파일러와 SDK를 함께 만드는 게 훨씬 어렵습니다. NVIDIA GPU가 막강한 이유는 하드웨어 성능보다 CUDA라는 거대한 개발자 생태계 때문이라는 걸, 제가 직접 개발자 커뮤니티를 들여다보면서 더 실감했습니다.
CUDA란, NVIDIA가 만든 GPU 병렬 컴퓨팅 플랫폼으로 전 세계 수백만 명의 개발자가 AI 모델을 이 환경에 맞춰 최적화해놓은 상태입니다. 국산 NPU의 하드웨어 성능이 GPU보다 특정 작업에서 앞선다 해도, 기존 AI 모델을 NPU에서 돌리기 어렵다면 고객은 결국 NVIDIA를 선택합니다.
국내 NPU 생태계를 구조로 보면, 리벨리온·퓨리오사AI 같은 팹리스가 AI 가속기를 설계하고, 삼성전자·SK하이닉스가 메모리와 파운드리를 담당하며, 패키징 기업과 소재·부품·장비 기업이 생산 인프라를 받치고, 통신사·클라우드 기업이 실제 서비스를 제공하는 연결 구조입니다. 따라서 특정 팹리스 한 곳만 볼 게 아니라, 이 생태계 전체가 얼마나 촘촘하게 연결되고 있는지를 봐야 한다고 생각합니다.
NPU 기업 평가 시 제가 보는 순서
- 실제 고객과 매출이 발생하고 있는가
- 양산 성공 여부와 수율 안정화
- 전력 대비 성능(전력효율) 검증 데이터
- 소프트웨어 생태계(컴파일러·SDK) 완성도
- 반복 주문과 해외 고객 확보 여부
◆ 요약 : NPU 기업 평가의 핵심은 기술 스펙이 아니라 실제 고객·매출·반복 주문이며, 소프트웨어 생태계 완성도가 장기 경쟁력을 결정한다.
자주 묻는 질문
Q. NPU와 GPU는 어떻게 다른가요?
A. GPU는 원래 그래픽 처리 목적으로 만들어진 반도체로, 대규모 병렬 연산에 강해 AI 학습에 주로 쓰입니다. 반면 NPU는 처음부터 AI 추론에 최적화해 설계된 반도체로, 특정 AI 연산에서 전력 효율이 더 높습니다. 쉽게 말해 GPU가 AI 전반에 쓰이는 범용 선수라면, NPU는 추론이라는 특정 종목에 특화된 선수입니다.
Q. 국내 NPU 기업 중 어떤 곳이 있나요?
A. 대표적으로 리벨리온과 퓨리오사AI가 있습니다. 리벨리온은 SK텔레콤 AI 서비스 적용 사례가 있고, 정부로부터 2,500억 원 직접투자를 유치했습니다. 퓨리오사AI는 독자 파운데이션 모델 프로젝트에서 업스테이지와 협업해 외산 하드웨어 의존을 낮춘 사례로 주목받았습니다. 두 회사 모두 현재는 상용화 직전 실증 단계에 있습니다.
Q. 소버린 AI가 뭔가요?
A. 소버린 AI(Sovereign AI)란 특정 국가가 외국 기업 기술에 의존하지 않고 자국 데이터와 인프라로 AI를 직접 운영하는 능력을 뜻합니다. AI 주권이라고도 합니다. 미국의 AI 반도체 수출 규제처럼 외부 변수로 AI 인프라 자체가 흔들릴 수 있기 때문에, 자체 AI 반도체와 모델을 확보하는 것이 전략적으로 중요해지고 있습니다.
Q. 정부가 NPU에 투자하면 실제로 효과가 있나요?
A. 정부 투자 자체보다 실제 구매가 더 중요합니다. 공공기관·대기업이 국산 NPU를 실제로 사서 서비스에 쓰는 레퍼런스가 쌓여야 민간 기업도 도입을 검토합니다. 정부가 첫 번째 고객 역할을 하면서 죽음의 계곡을 넘기는 마중물 역할은 의미가 있지만, 그것만으로는 충분하지 않고 반복 주문과 민간 확산이 뒤따라야 합니다.
결론
제가 NPU 상용화를 들여다보면서 가장 강하게 느낀 건, 이건 기술 경쟁이기 전에 생태계 경쟁이라는 점이었습니다. 누가 가장 빠른 NPU를 만드느냐보다, 누가 실제로 팔고 반복 주문을 받고 개발자 생태계를 만들어가느냐가 훨씬 중요합니다. 2026년부터 2028년까지가 국내 NPU 산업의 실질적인 검증 기간이라고 보는 이유도 그 때문입니다.
리벨리온·퓨리오사 AI 같은 팹리스가 실제 양산과 고객 확대에 성공하고, 삼성전자·SK하이닉스·통신사·클라우드 기업과 연결되는 생태계가 만들어진다면, 한국은 단순히 HBM을 잘 만드는 나라에서 AI 컴퓨팅 플랫폼을 만드는 나라로 한 단계 올라설 수 있다고 생각합니다. 반대로 칩 성능만 강조하고 소프트웨어와 고객 확보에 실패한다면, 막대한 지원에도 불구하고 결국 NVIDIA 생태계에 밀릴 가능성이 있습니다. NPU 마중물이 진짜 의미를 갖추려면, 첫 번째 고객이 두 번째 고객을 부르는 선순환이 반드시 만들어져야 합니다.