피지컬 AI 뉴스마다 엣지 NPU가 엔비디아 독주를 위협한다는 이야기가 나옵니다. 결론부터 말하자면, 단순 성능 경쟁이 아닙니다. 경쟁의 판 자체가 바뀌고 있거든요. 엣지 NPU란 로봇, 자동차 같은 기기 안에서 AI 추론을 전담하는 저전력 반도체입니다. 이 글은 2편 시리즈의 1편으로, 개념과 엔비디아 1강의 구조를 짚습니다. 도전자의 논리를 보려면 챔피언이 왜 강한지부터 알아야 하니까요. 그 출발점인 개념부터 정리해 보겠습니다.
🗓️ 최근 시황
💸 돈 벌기 시리즈
엣지 NPU란 무엇인가, GPU와 갈리는 지점
NPU는 신경망 연산만 빠르게 처리하도록 만든 전용 칩입니다. 반면 GPU는 그래픽 처리용으로 태어난 범용 병렬 프로세서죠. IBM 기술 문서에 따르면 NPU는 GPU보다 적은 전력으로 AI 연산을 처리합니다. 그래서 엣지 컴퓨팅의 핵심 부품으로 꼽힙니다.
여기서 엣지는 데이터센터의 반대말인데요. 로봇이나 카메라처럼 데이터가 생기는 현장 기기를 뜻합니다. 두 칩의 차이를 표로 정리하면 이렇습니다.
| 구분 | GPU | NPU |
| 주용도 | AI 학습 및 범용 연산 | AI 추론 전담 |
| 작동 위치 | 데이터센터 서버 | 로봇, 자동차, 기기 내부 |
| 설계 우선 순위 | 최대 연산 성능 | 전력 대비 효율 |
한 줄로 요약하면 GPU는 힘, NPU는 연비입니다. 그런데 왜 지금까지는 엔비디아가 시장을 앞서 갔을까요?
엔비디아가 1강이 된 이유, 학습 시장을 먼저 잡았다
답은 2022년 말 챗GPT 이후의 경쟁 규칙에 있습니다. 당시 AI 경쟁의 핵심은 모델 학습이었습니다. 학습은 방대한 데이터를 수없이 반복 계산하는 작업이죠. 수천 개 코어로 병렬 연산을 쏟아붓는 GPU 구조와 정확히 맞아떨어졌습니다. 게다가 학습은 대규모 전력과 냉각을 갖춘 데이터센터에서 이뤄집니다.
전력 걱정요? 사실상 없었습니다. 그래서 효율보다 절대 성능이 우선이었습니다. 이 규칙에 가장 잘 맞는 GPU를 쥔 회사가 엔비디아였고요.
성능보다 무서운 CUDA 잠금 효과
다만 1강 체제의 진짜 기반은 칩이 아니라 소프트웨어입니다. 엔비디아는 2006년부터 GPU용 개발 도구인 CUDA를 보급해 왔습니다. 전 세계 AI 개발자 대부분이 이 환경에서 코드를 짜고 경력을 쌓았죠. 다른 칩으로 갈아타는 순간 코드와 인력, 검증 비용을 전부 다시 치러야 합니다. 일종의 잠금 효과인 셈이죠.
2026년 5월 국내 컨퍼런스에서도 같은 진단이 나왔습니다. NPU 기업 임원들은 엔비디아와의 최대 격차로 소프트웨어 생태계를 꼽았습니다. 하드웨어는 따라잡아도 생태계는 쉽게 못 따라잡는다는 뜻이죠.
그런데 왜 지금 흔들린다는 걸까
균열은 규칙의 변화에서 시작됩니다. AI 시장의 무게중심이 학습에서 추론으로, 데이터센터에서 현장으로 옮겨가는 중입니다. 국내 AI 반도체 기업들도 2026년 5월, 경쟁 축이 이미 이동했다고 진단했습니다. 단순 연산 성능에서 전력 대비 효율과 운영 비용으로요.
결정적 변수는 피지컬 AI입니다. 휴머노이드 로봇은 센서 데이터를 매 순간 기기 안에서 실시간 추론해야 합니다. 배터리로 움직이니 전력도 빠듯하죠. 무제한 전력이라는 GPU 전성기의 전제가 여기서는 무너집니다. 바로 이 틈을 엣지 NPU가 파고들고 있습니다.
핵심 요약과 다음 판단 기준
오늘 내용 요약은 딱 세 줄. 첫째, 엣지 NPU는 기기 안에서 추론을 전담하는 저전력 칩입니다. 둘째, 엔비디아 1강은 학습 중심 규칙과 CUDA 생태계가 만든 결과입니다. 셋째, 피지컬 AI는 그 규칙을 전력과 효율 중심으로 다시 쓰고 있고요.
2편에서는 엔비디아의 방어 전략과 도전자들의 실제 경쟁 구도를 이어서 다룹니다. 그 전에 오늘 할 일은 하나입니다. 다음 AI 반도체 기사에서 그 칩이 학습용인지 추론용인지만 구분해 보세요.
자주 묻는 질문
Q1. 스마트폰에도 NPU가 들어가나요?
A1. 네, 갤럭시와 아이폰의 AP에는 이미 NPU가 내장돼 사진 보정과 실시간 번역을 기기 안에서 처리합니다.
Q2. NPU와 TPU는 뭐가 다른가요?
A2. TPU는 구글이 자사 클라우드용으로 만든 전용 칩이고, NPU는 여러 제조사가 만드는 신경망 처리 칩의 일반 명칭에 가깝습니다.
Q3. 엔비디아는 엣지 시장에 대응하지 않나요?
A3. 젯슨 시리즈로 로봇용 칩을 이미 공급하고 있습니다. 방어 전략의 구체 내용은 2편에서 다룹니다.