NPU(신경망 처리장치)
딥러닝 연산에 특화되어 설계된 반도체로, AI 모델의 추론과 학습에 필요한 대량의 행렬·벡터 연산을 CPU나 GPU보다 훨씬 적은 전력으로 빠르게 처리하도록 최적화되어 있습니다.
한눈에 보는 정의
NPU(Neural Processing Unit, 신경망 처리장치)는 딥러닝 연산에 특화되어 설계된 반도체로, AI 모델의 추론과 학습에 필요한 대량의 병렬 연산을 빠르고 전력 효율적으로 처리합니다.
자세히 알아보기
- 예문: "최신 스마트폰은 사진 보정이나 음성 인식 같은 AI 기능을 NPU로 처리해 배터리 소모를 크게 줄였다."
- CPU(중앙 처리 장치) (CPU)는 다양한 범용 작업을, GPU(그래픽 처리 장치) (GPU)는 대규모 병렬 연산을 잘 처리하지만, NPU는 아예 신경망의 행렬 곱셈과 활성화 함수 연산에 맞춰 회로 자체를 설계해 같은 작업을 훨씬 적은 전력으로 처리합니다.
- 스마트폰이나 노트북 같은 온디바이스 기기에 NPU를 탑재하면, 클라우드 서버로 데이터를 보내지 않고도 기기 자체에서 AI(인공지능) (AI) 연산을 빠르게 처리할 수 있어 응답 속도와 개인정보 보호 측면에서 유리합니다.
- 최근 온디바이스 AI 수요가 늘면서, 반도체 업체들이 NPU의 연산 성능을 얼마나 끌어올리느냐가 신제품의 핵심 경쟁력으로 부각되고 있습니다.