Google Beralih dari Nvidia ke TPU untuk Infrastruktur AI

Sebagian besar perusahaan yang serius membangun model AI berlomba-lomba mendapatkan akselerator AI Nvidia. Namun, Google mengambil pendekatan berbeda. Infrastruktur AI cloud miliknya sepenuhnya mengandalkan Tensor Processing Units (TPU) buatan sendiri.

Setelah memperkenalkan TPU generasi ketujuh, Ironwood, pada 2025, Google kini meluncurkan generasi kedelapan. Dua varian TPU baru ini tidak sekadar peningkatan performa, melainkan desain ulang untuk mendukung kebutuhan AI yang semakin kompleks.

Dua Varian TPU untuk Kebutuhan AI yang Berbeda

TPU generasi kedelapan hadir dalam dua model: TPU 8t untuk pelatihan model AI dan TPU 8i untuk inferensi. Google menyebut era AI saat ini sebagai "era agen" (agent era), yang berbeda secara fundamental dari sistem AI sebelumnya. Hal ini menuntut pendekatan hardware yang lebih efisien dan fleksibel.

TPU 8t: Memangkas Waktu Pelatihan Model AI

Sebelum model AI dapat digunakan—baik untuk analisis data maupun pembuatan konten kreatif—model tersebut harus melalui proses pelatihan. TPU 8t dirancang khusus untuk tahap ini, dengan tujuan memangkas waktu pelatihan model AI terdepan dari bulan menjadi mingguan.

TPU 8i: Inferensi yang Lebih Cepat dan Hemat Energi

Setelah model AI terlatih, TPU 8i berperan dalam tahap inferensi, yaitu menerapkan model tersebut untuk tugas-tugas praktis. Chip ini menawarkan kecepatan dan efisiensi energi yang lebih baik dibandingkan generasi sebelumnya, sehingga lebih hemat biaya untuk penggunaan skala besar.

Mengapa Google Mengembangkan TPU Sendiri?

Menurut Google, penggunaan TPU buatan sendiri memberikan kendali lebih besar atas performa, biaya, dan keamanan infrastruktur AI. Dengan tidak bergantung pada vendor eksternal seperti Nvidia, Google dapat menyesuaikan hardware sesuai kebutuhan spesifik model AI yang dikembangkannya.

"Era agen AI membutuhkan hardware yang tidak hanya cepat, tetapi juga efisien dan fleksibel. TPU generasi kedelapan dirancang untuk memenuhi tantangan tersebut," ujar juru bicara Google.

Dampak terhadap Industri AI

Peluncuran TPU 8t dan TPU 8i diharapkan dapat mempercepat pengembangan model AI generatif dan sistem otonom. Dengan efisiensi yang lebih tinggi, perusahaan dan peneliti dapat menghemat biaya operasional sekaligus meningkatkan performa model AI.

Google juga membuka akses TPU generasi kedelapan ini kepada pelanggan cloud-nya, memungkinkan lebih banyak perusahaan untuk memanfaatkan infrastruktur AI yang lebih canggih dan hemat biaya.