GPU(그래픽 처리 장치)
수천 개의 작은 연산을 동시에 처리하는 데 특화된 반도체로, 그래픽 처리뿐 아니라 AI 모델 학습에도 핵심적으로 쓰입니다.
한눈에 보는 정의
**GPU(Graphics Processing Unit, 그래픽 처리 장치)**는 원래 화면에 그림을 그리는 그래픽 연산을 위해 만들어진 반도체로, 같은 종류의 단순한 연산을 동시에 아주 많이 처리하는 '병렬 연산'에 강합니다.
자세히 알아보기
- 예문: "AI 모델을 학습시키려면 수백~수천 개의 GPU가 필요하다."
- AI 모델 학습에 필요한 대규모 행렬 연산이 GPU가 잘하는 병렬 연산과 잘 맞아떨어져, 오늘날 AI 산업의 핵심 부품으로 쓰이고 있습니다.
- 학습 성능을 높이기 위해 GPU에 HBM(고대역폭 메모리) 같은 고대역폭 메모리를 함께 탑재하는 경우가 많습니다.
Q. CPU와는 어떻게 다른가요?
CPU(중앙 처리 장치) 는 복잡하고 다양한 명령을 순서대로 빠르게 처리하는 데 강한 반면, GPU는 상대적으로 단순한 연산을 매우 많은 코어로 동시에 처리하는 데 강합니다. "적은 수의 똑똑한 일꾼"(CPU)과 "아주 많은 수의 단순한 일꾼"(GPU)의 차이로 비유할 수 있습니다.