Google, yapay zekâ altyapısına yönelik TPU 8tx TPU 8i Max adlı iki yeni işlemci sistemini tanıttı. Sekizinci nesil Tensor Processing Unit ailesine katılan donanımlar, hassas verilerin korunması uzun bağlamlı yapay zekâ modellerinin bellek performansını artırmak üzere geliştirildi. Şirket, yeni çiplerle birlikte yapay zekâ sistemlerinin eğitiminden çıkarım işlemlerine veri merkezi yönetimine kadar farklı alanlarda yazılım güncellemeleri duyurdu.
Google TPU 8tx Hassas Verileri İşlem Sırasında KoruyorGoogle’ın yeni işlemci sistemlerinden TPU 8tx, özellikle devlet kurumları, finans kuruluşları yüksek güvenlik gereksinimleri bulunan şirketleri hedefliyor. Sistem, yapay zekâ modellerinin hassas veriler üzerinde çalışırken korunmasını sağlayan donanımsal güvenlik özellikleriyle öne çıkıyor.
Today, we're expanding our eighth-generation TPU portfolio with two new systems built specifically for the agentic era — bringing our total to four distinct eighth-generation TPU systems launched in a single.
TPU 8i Max was built for massive context windows and the highest…./Ljj622Z5zL
Geleneksel şifreleme yöntemleri, veriler depolanırken veya ağ üzerinden aktarılırken güvenlik sağlıyor. Ancak işlemciler verileri işlerken bellekteki bilgilerin şifresinin çözülmesi gerekiyor. aşama, hassas verilerin korunması açısından önemli güvenlik riski oluşturabiliyor.
TPU 8tx, söz konusu riski işlem sırasında verileri izole ederek azaltmayı hedefliyor. TPU 8t aynı silikon mimarisini kullanan sistem, beşinci nesil AMD EPYC işlemcilerle birlikte çalışıyor. Böylece şirketler, hassas veri kümelerini yapay zekâ modellerinin ağırlıklarını işlem aşamasında koruyabiliyor.
Google, TPU 8tx modelinde gerçek zamanlı akıl yürütme işlemleri için geliştirdiği düşük gecikmeli Boardfly ağını kullanıyor. Şirketin açıklamasına göre yeni ağ yapısı, TPU 8t sistemine kıyasla gecikmeyi iki kata kadar azaltırken performans kaybını neredeyse sıfır seviyesinde tutuyor.
Google’ın ikinci yeni sistemi TPU 8i Max, uzun bağlamlarla çalışan yapay zekâ modellerinin karşılaştığı bellek darboğazını azaltmaya odaklanıyor. Özellikle büyük yazılım projelerini analiz eden yapay zekâ ajanları uzun süreli videoları işleyen modeller, yüksek bellek bant genişliğine ihtiyaç duyuyor.
Google, ihtiyaca yanıt vermek için iki düşük gecikmeli TPU 8i çipini tek işlemci paketinde birleştirdi. TPU 8i Max, standart TPU 8i modeline kıyasla iki kat işlem gücü, iki kat SRAM kapasitesi iki kat HBM bellek bant genişliği sunuyor.
Yeni tasarım, işlemcilerin ihtiyaç duyduğu verilere daha hızlı ulaşmasını sağlayarak bellek aktarımı sırasında oluşan bekleme sürelerini azaltmayı amaçlıyor. İki çipin aynı raf alanına yerleştirilmesi veri merkezlerinde alan enerji başına daha yüksek işlem yoğunluğu elde edilmesine katkı sağlıyor.
Google, TPU 8i Max için henüz ayrıntılı performans testlerini, güç tüketimi değerlerini veya fiyatlandırmayı madı. nedenle yeni sistemin Nvidia’nın Rubin platformlarıyla maliyet enerji verimliliği açısından karşılaştırılması için daha fazla teknik veriye ihtiyaç duyuluyor.
Google, yeni donanımlarla birlikte geliştiricilerin TPU sistemlerini daha kolay kullanmasını sağlayacak yazılım araçları duyurdu. Açık TorchTPU, PyTorch kodlarının Hugging Face modellerinin değiştirilmeden TPU donanımlarında çalıştırılmasını sağlıyor. Claude Code, Cursor Google Antigravity entegre çalışan TPU ajan paketi ise donanım optimizasyonu süreçlerini otomatikleştirmeyi hedefliyor.
Şirketin duyurduğu araçlar arasında TPU, GPU CPU üzerinde model çalıştırmayı sağlayan XLA Serving Engine bulunuyor. Agent Compute Engine ise boşta kalan yapay zekâ ajanlarının kullandığı işlem kaynaklarını serbest bırakarak yönetimini iyileştirmeyi amaçlıyor.
Açık TPU Sync aracı HBM, DRAM depolama birimlerini ortak bellek hiyerarşisinde birleştiriyor. Google, yapı sayesinde anahtar-değer (KV) aktarım gecikmesini ilk token üretim süresini yüzde 90’dan fazla azaltmayı hedefliyor. Özellikle uzun bağlamlı modellerde ilk yanıtın oluşturulma süresini etkileyen işlem, yapay zekâ hizmetlerinin yanıt hızında önemli rol oynuyor.
Google Kubernetes Engine (GKE) için genel kullanıma sunulan Cloud Pathways Dynamic Slicing özellikleri, büyük TPU kümelerinin yönetimini kolaylaştırıyor. Dynamic Slicing, optik devre anahtarlama (OCS) teknolojisinden yararlanarak TPU kümelerinin bağlantı yapılandırmasını ihtiyaca göre değiştirebiliyor.
Google’ın verilerine göre Dynamic Slicing, iş başlatma sürelerini beş kata kadar kısaltırken arıza sonrası kurtarma işlemlerini 4,5 kata kadar hızlandırıyor. özellikler, binlerce işlemcinin birlikte çalıştığı yapay zekâ veri merkezlerinde kaynakların daha verimli kullanılmasını hedefliyor.
Şirket, yeni nesil TPU tasarımlarını geliştirirken kendi yapay zekâ araçlarından yararlanıyor. AlphaChip Gemini, işlemci yerleşimi çip tasarımı süreçlerinde kullanılıyor. Google’a göre Gemini, bazı çip yerleşim çalışmalarının haftalar yerine saatler içinde tamamlanmasına yardımcı olabiliyor.
Google’ın TPU 8tx TPU 8i Max duyuruları, şirketin yapay zekâ donanımlarını yalnızca işlem gücü üzerinden değil, güvenlik, bellek kapasitesi yazılım desteği üzerinden geliştirdiğini gösteriyor. Ancak TPU 8i Max’in gerçek performansı Nvidia çözümleri karşısındaki konumu, bağımsız testler fiyatlandırma bilgilerinin açıklanmasının ardından daha net değerlendirilebilecek.
