TPU (텐서 프로세싱 유닛)

TPU(텐서 프로세싱 유닛, Tensor Processing Unit)는 구글(Google)이 자사 머신러닝 작업을 돌리려고 직접 설계한 맞춤형 AI 가속기 칩이다. 칩은 브로드컴(Broadcom)과 함께 설계하고 제조는 TSMC가 맡는다. 무엇이든 처리하는 범용 GPU와 달리, 신경망 뒤에서 돌아가는 행렬 연산에 딱 맞춘 전용 칩이다. 데이터센터 규모로 AI를 구동하려는 구글 나름의 해법인 셈이다.

TPU란?

TPU는 ASIC(주문형 반도체)다. 프로그램이 시키는 무엇이든 처리하는 게 아니라, 한 가지 일을 잘하도록 만든 칩이다. 그 일이 바로 신경망을 학습시키고 구동하는 핵심에 있는 조밀한 행렬 곱셈이다. 칩은 구글이 설계하지만 혼자 만들지는 않는다. 브로드컴은 2016년부터 구글 TPU를 공동 설계해 왔고, 이 관계는 이제 2031년까지 이어지며 가속기 주변의 네트워킹·패키징 실리콘까지 아우른다(Capacity Media). 실리콘 제조는 TSMC가 맡는다. 7세대 아이언우드(Ironwood) TPU는 TSMC의 3nm(N3P) 공정에 CoWoS 첨단 패키징을 적용해 만든다(Tom’s Hardware).

세대를 거치며 규모는 계속 커진다. 구글은 2025년 발표한 아이언우드를 7세대 TPU이자 추론(inference)에 특화해 설계한 첫 제품으로 소개하는데, 단일 포드에 액침 냉각 칩을 최대 9,216개까지 묶는다(Google).

TPU는 얼마나 빠른가?

숫자를 보면 구글이 GPU를 그냥 사 오는 대신 자체 실리콘을 계속 만드는 이유가 드러난다. 아이언우드 칩 한 개는 최대 4,614테라플롭스를 내고, 구글은 와트당 성능이 직전 세대 트릴리움(Trillium)의 두 배라고 밝힌다(Google). 이것들을 엮었을 때의 규모가 진짜 이야기다.

“포드당 9,216개 칩으로 총 42.5엑사플롭스까지 확장하면, 아이언우드는 세계 최대 슈퍼컴퓨터의 24배가 넘는 연산력을 받친다.” — Google, Ironwood: The first Google TPU for the age of inference

이 규모에서 진짜로 중요한 지표는 와트당 성능이다. 데이터센터는 공간보다 전력에 먼저 막히기 때문이다. 신경망 행렬 연산이라는 한 가지 일에 좁혀진 칩은, GPU가 짊어지는 범용 유연성 대신 그 트랜지스터 예산을 그 일에 몰아쓸 수 있다. 가속기 수천 개 규모에서 이 효율 이득은 토큰당 비용을 직접 낮춘다. 이것이 ASIC의 경제 논리이고, 자체 칩 설계와 자체 모델, 자체 클라우드를 촘촘히 엮은 구글의 고리를 경쟁사가 베끼기 어려운 이유다.

투자자에게 TPU가 왜 중요한가?

TPU는 구글(알파벳) AI 밸류체인의 닻이다. 구글의 공급망을 평범한 반도체 묶음과 구별 짓고, 지출을 특정 협력사로 흘려보내는 게 바로 TPU다. 브로드컴의 AI 반도체 매출은 상당 부분이 TPU 같은 맞춤형 가속기에서 나오는데, 2025 회계연도 4분기에 전년 대비 74% 늘어 65억 달러를 기록했다(The Motley Fool). 수요는 구글 바깥으로도 넓어지고 있다. 2025년 10월 앤트로픽(Anthropic)은 구글 클라우드 TPU 사용을 최대 100만 개 칩, 2026년 가동되는 1기가와트 이상 용량까지 확대하기로 합의했다(Data Center Dynamics).

관련 용어·개념

자주 묻는 질문

구글의 TPU는 누가 설계하고 만드나요?

구글이 TPU를 설계하되 Broadcom과 함께 공동 설계하는데, 이 협력은 2016년부터 이어져 2031년까지 연장됐다 (Capacity Media). 실제 칩은 TSMC가 만들며, 7세대 Ironwood TPU는 TSMC의 3nm(N3P) 공정과 CoWoS 패키징을 쓴다 (Tom's Hardware).

TPU는 GPU와 어떻게 다른가요?

GPU는 범용 병렬 프로세서이고, TPU는 신경망이 의존하는 행렬 곱셈에 좁게 맞춘 주문형 반도체(ASIC)다. 이렇게 초점을 좁히면 AI 작업에서 와트당 성능을 더 끌어올릴 수 있어, 구글 같은 하이퍼스케일러가 자체 칩을 만드는 이유가 된다. 구글은 7세대 TPU인 Ironwood가 추론을 위해 설계된 첫 칩이라고 말한다 (Google).

TPU가 투자자에게 왜 중요한가요?

TPU는 구글 AI 공급망의 닻이자 협력사들의 주요 매출 동력이다. 대부분 TPU 같은 맞춤형 가속기에서 나오는 Broadcom의 AI 반도체 매출은 2025 회계연도 4분기에 전년 동기 대비 74% 늘어 65억 달러에 달했다 (The Motley Fool). 수요는 구글을 넘어 번지고 있는데, Anthropic은 2026년까지 최대 100만 개의 TPU를 쓰기로 합의했다 (Data Center Dynamics).

출처

  1. Ironwood: The first Google TPU for the age of inference · Google, 2025-04-09
  2. Broadcom locks in long-term Google TPU deal through 2031 · Capacity Media, 2025-10-24
  3. The custom AI ASIC state of play (May 2026) · Broadcom deals, Google TPUs, Meta MTIA & beyond · Tom's Hardware, 2026-05-01
  4. Broadcom (AVGO) Q4 2025 Earnings Call Transcript · The Motley Fool, 2025-12-12
  5. Google and Anthropic confirm massive 1GW+ cloud deal with up to one million Google TPUs · Data Center Dynamics, 2025-10-23