구글, ‘에이전트 시대’를 위한 차세대 TPU 8세대 공개

‘에이전트 시대’를 위한 구글의 새로운 AI 하드웨어 전략

최근 AI 모델 개발에 전념하는 기업들은 엔비디아의 AI 가속기 수요를 폭발적으로 증가시키고 있지만, 구글은 자체 기술로 이를 해결하고 있다. 구글은 클라우드 AI 인프라의 대부분을 자체 개발한 텐서 처리 장치(TPU)로 구축해왔다. 2025년 7세대 ‘아이언우드 TPU’를 발표한 후, 구글은 이제 8세대 TPU를 공개하며 AI 하드웨어의 새로운 장을 열었다.

TPU 8t와 TPU 8i: 학습과 추론을 위한 맞춤형 칩

8세대 TPU는 단순히 성능을 높인 차세대 칩이 아니다. 구글은 ‘에이전트 시대(Agent Era)’가 기존 AI 시스템과는 근본적으로 다르다고 강조하며, 이를 위한 새로운 하드웨어 접근법을 제시했다. 새로운 TPU는 두 가지 버전으로 나뉜다:

• TPU 8t: AI 모델 학습 전용 칩.—前沿 AI 모델의 학습 시간을 기존 월 단위에서 주 단위로 단축할 수 있도록 설계되었다.
• TPU 8i: AI 모델 추론 전용 칩. 실시간 AI 서비스를 위한 효율적인 추론 성능을 제공한다.

AI 모델 개발의 핵심 단계: 학습과 추론

AI 모델이 데이터 분석이나 재미있는 밈 생성에 활용되기 전까지는 학습(Learning)과 추론(Inference)이라는 두 가지 핵심 단계를 거쳐야 한다. TPU 8t는 이 중 학습 단계의 효율성을 극대화해, 복잡한 AI 모델이라도 더 빠르게 훈련할 수 있도록 지원한다. 반면 TPU 8i는 실시간으로 AI 서비스를 제공하는 추론 단계에서 뛰어난 성능을 발휘한다.

‘에이전트 시대’의 도래와 하드웨어 혁신

구글은 AI가 단순한 데이터 분석이나 생성형 AI를 넘어, 자율적 에이전트(Agent)로 진화하고 있다고 설명한다. 이러한 변화는 AI 시스템이 더 복잡한 의사결정을 내리고, 사용자와 상호작용하는 새로운 패러다임을 요구한다. 이에 따라 구글은 TPU 8세대를 통해 AI 하드웨어의 패러다임을 재정의하고자 한다.

"에이전트 시대에는 AI 모델이 단순히 정보를 제공하는 데 그치지 않고, 사용자의 의도를 이해하고 실시간으로 대응하는 능력이 중요합니다. 이를 위해 TPU 8t와 TPU 8i는 각각 학습과 추론의 최적화를 통해 AI 시스템의 성능과 효율성을 한 단계 끌어올릴 것입니다." — 구글 AI 하드웨어 책임자

구글의 AI 인프라 경쟁력 강화

구글은 TPU를 자체 클라우드 서비스인 Google Cloud AI에 통합해, 고객들에게 고성능 AI 컴퓨팅 환경을 제공하고 있다. TPU 8세대의 등장으로 구글은 AI 모델 개발 및 배포의 속도와 효율성을 한층 더 높일 수 있을 것으로 전망된다. 특히, TPU 8t는 대규모 AI 모델의 학습 시간을 획기적으로 단축해, 기업들이 더 빠르게 혁신적인 AI 솔루션을 개발할 수 있도록 지원할 것이다.

시장 전망과 향후 계획

AI 하드웨어 시장은 엔비디아의 독주가 이어지고 있지만, 구글의 TPU는 자체 AI 인프라와 밀접한 연계를 통해 차별화된 경쟁력을 확보하고 있다. 구글은 TPU 8세대를 통해 AI 에이전트의 발전 가능성을 높이고, 더 나아가서는 자율 시스템(Agentic System) 구축을 위한 기반을 마련할 계획이다. 향후 TPU는 구글의 AI 서비스뿐만 아니라, 제3자 클라우드 서비스에서도 활용될 전망이다.