Google turned to AMD Epyc, not its own Axion chips, to secure its first confidential TPU

Google memperkenalkan TPU 8tx, sistem TPU generasi kedelapan untuk inferensi AI rahasia yang memadukan silikon TPU 8t dengan CPU host AMD Epyc Generasi Kelima "Turin". Ini menjadi sistem cloud TPU pertama dengan confidential computing yang diberlakukan secara hardware, dan Google memilih AMD alih-alih CPU Axion buatannya sendiri. TPU 8tx mewarisi 12,6 petaflops komputasi FP4 dan HBM 216GB dari TPU 8t, tetapi memakai jaringan Boardfly berlatensi lebih rendah seperti TPU 8i. Google menargetkan sistem ini untuk perusahaan teregulasi dan pemerintah yang ingin melatih atau menyempurnakan agen AI dengan data privat tanpa memindahkannya antar-cluster. AMD menyatakan Epyc menangani orkestrasi, persiapan data, dan koneksi berkecepatan tinggi ke akselerator. Teknologi Secure Encrypted Virtualization (SEV) memperluas lingkungan terlindungi hingga ke TPU, menjaga prompt, bobot model, dan data antara tetap terenkripsi serta terisolasi saat digunakan. Google tidak menjelaskan secara langsung alasan melewati Axion, tetapi dokumentasinya menunjukkan konfigurasi Confidential VM yang didukung baru berbasis AMD SEV dan Intel TDX, bukan Axion. Saham AMD naik 13,26% ke US$508,58 pada 9 November, meski sejumlah detail keamanan TPU 8tx masih belum dipublikasikan.