TPU(Tensor Processing Unit)
구글이 인공지능 모델의 학습과 추론에 필요한 텐서(다차원 배열) 계산에 특화되도록 직접 설계한 전용 반도체로, 범용 GPU보다 특정 AI 연산에서 더 높은 효율을 낼 수 있습니다.
한눈에 보는 정의
TPU(Tensor Processing Unit)는 구글이 AI(인공지능) (AI) 모델의 학습과 추론에 필요한 텐서(다차원 배열) 계산에 특화되도록 직접 설계한 전용 반도체입니다.
자세히 알아보기
- 예문: "구글은 자사 데이터센터에서 AI 모델을 학습시킬 때, 범용 GPU 대신 자체 설계한 TPU를 함께 활용한다."
- GPU(그래픽 처리 장치) (GPU)가 그래픽 처리를 포함한 다양한 병렬 연산에 두루 쓰이는 범용 반도체라면, TPU는 오직 AI 연산 한 가지 목적에 맞춰 설계되어 해당 작업에서 더 높은 효율을 낼 수 있습니다.
- 특정 작업에 맞춰 설계를 좁힐수록 전력 효율과 처리 속도에서 이점을 얻을 수 있지만, 그만큼 다른 범용 작업에는 활용하기 어렵다는 특징도 있습니다.
- HBM(고대역폭 메모리) (고대역폭 메모리)과 함께 조합되어, 대규모 AI 모델의 학습에 필요한 막대한 데이터 처리량을 뒷받침합니다.