Google Cloud, yapay zekâ altyapısı ve orkestrasyon tarafındaki yenilikleri topladığı aylık yazısının Ekim 2026 bölümünü yayımladı. Ay içinde yeni ürünlerin yanı sıra NVIDIA GTC, PyTorch Conference ve AGNTCon + MCPCon etkinliklerinde paylaşılan duyurular da var. Öne çıkan başlıklar: ajanlara özel hesaplama servisi Agent Compute Engine, açık kaynak llm-d 1.0 ve TorchTPU.
Ürün, teknoloji ve araç güncellemeleri
- Agent Compute Engine: Otonom ajanlar için tasarlanan yeni hesaplama servisi. Donanımla izole microVM sandbox’ları ve Agent Gateway ile Agent Registry gibi yönetişim özellikleri sunuyor. Saniyenin altında etkinleşme, copy-on-write bellek paylaşımıyla yüksek yoğunluk, kurumsal güvenlik ve kimlik yönetimi ile bulutlar arası gözlemlenebilirlik sağlıyor.
- AI Hypercomputer: NVIDIA GTC Berlin 2026’da NVIDIA Vera Rubin NVL72 tabanlı A5X sunucuları, Virgo Network ve Managed Lustre için güncellemeler duyuruldu. Egemen yapay zekâ kontrolleri ve Confidential Computing yetenekleri de geliştirildi.
- GKE CPU startup boost (önizleme): Kubernetes In-place Pod Resize ile başlangıçta container CPU’sunu artırıp sonra yeniden başlatmadan normale indiriyor. Soğuk başlangıcı 2 kata kadar hızlandırıyor.
- Wiz Runtime Sensor eklentisi (önizleme): Wiz’in eBPF tabanlı çalışma zamanı tehdit tespitini Standard ve Autopilot GKE kümelerine kolay dağıtım, otomatik yaşam döngüsü yönetimi ve filo genelinde yönetişimle getiriyor.
- Google Cloud Modernize: Migration Center, Google Cloud VMware Engine, Mainframe Modernization ve yeni EKS-to-GKE Migration Agent tek portföyde birleşti.
- Cloud Run’da Temporal Serverless Workers: Worker havuzlarını Temporal görev kuyruklarına göre ölçekliyor, boştayken sıfıra indiriyor. Worker Versioning, uzun süren iş akışlarını ve ajanları güvenle yönetiyor.
- llm-d 1.0: Model sunucusu kümesini koordineli bir servis havuzuna çeviren açık kaynak, Kubernetes’e özgü yığın. TPU ve GPU filolarında dağıtık çıkarımı birleştiriyor; önbellek farkındalıklı yönlendirme, katmanlı KV cache ve öncelik tabanlı akış kontrolü sunuyor.
- TorchTPU: Meta ile birlikte açık kaynak yapılan yerel PyTorch yığını. Hugging Face, vLLM ve TorchTitan gibi araçlarla TPU üzerinde eğitim ve servis sağlıyor.
- Google Distributed Cloud air-gapped: Yeni sürüm, izole ortamlara frontier modelleri ve Gemini ile çok modlu kurumsal aramayı getiriyor. NVIDIA HGX B300 sistemlerini destekliyor, ağ ve güvenlik özellikleri geliştirildi.
- ML Drift: LiteRT için cihaz üzerinde GPU hesaplama motoru açık kaynak oldu. OpenGL ES, OpenCL, Metal ve WebGPU farklarını soyutluyor, 5D tensör desteği sunuyor.
- Reflection Beam desteği: Yazılım mühendisliği ve uzun soluklu ajan görevleri için Apache 2.0 lisanslı açık ağırlıklı model. AI Hypercomputer ve NVIDIA altyapısında ilk günden destek ve dağıtım tarifleri duyuruldu.
Uygulayıcı rehberleri
- Çıkarım için ağ referans mimarileri: Private Service Connect, Apigee API Management ve Model Armor ile merkezi yönetişim ve özel IP yönlendirme. GKE, Cloud Run ve hibrit bulutları kapsıyor.
- GKE’de TPU gözlemlenebilirliği, Bölüm 2: Yeni nesil v7 TPU’lar için Dynamic Slicing araçlarını ve metriklerini, komut satırı örnekleriyle adım adım anlatıyor.
Müşteri ve partner haberleri
- AI21: Jamba modellerinin eğitiminde AI Hypercomputer kullanıyor. Yüksek öncelikli iş bekleme süresini 72 saatten 12 saate, haftalık 20 manuel müdahaleyi sıfıra indirdiğini söylüyor (başlama süresinde %83 azalma).
- Visko: Video üretimi, süper çözünürlük ve senkron sesi tek Cloud TPU dilimine yerleştiren canlı çıkarım hattı kurdu.
- ZenteiQ: GKE ve GKE Inference Gateway ile çıkarım verimini 4,07 kat artırdı; 1.000 hızlandırıcı başına günlük çıktıyı 1,47 milyardan 5,97 milyar token’a çıkardı.
- Palo Alto Networks: Prisma Access’i, GKE ve Axion C4A üzerindeki giriş katmanı ile tek kiracılı VM’lerdeki güvenlik katmanı olarak bağımsız ölçeklenen iki parçaya ayırdı.
- Oracle: Google dışında TPU sunan ilk hyperscaler olacak. OCI’da TPU’lar 2027’de kullanılabilir olacak.
Araştırma ve raporlar
- The Encyclopedia of AI Infrastructure: Farklı departmanların ortak dil kurması için altyapı terimlerini açıklayan kaynak.
- IDC MarketScape: Google, ilk 2026 Agentic AI Platforms raporunda lider seçildi.
- Agent Compute Engine teknik rehberi: Servisin mimarisini ve Gemini ekibinin neden hem VM izolasyonuna hem container hız ve yoğunluğuna ihtiyaç duyduğunu anlatıyor.
Ayın ana teması ajanları ölçeklemek: izolasyon, yoğunluk ve hızlı başlangıç. Oracle’ın TPU kararı ise Google’ın çiplerinin kendi bulutunun dışına çıkması açısından dikkat çekici. Performans rakamları Google ve müşterilerinin açıklamaları. Kaynak yazı önceki ayları da içeriyor; burada yalnızca Ekim bölümü aktarıldı.
Kaynak: https://cloud.google.com/blog/topics/ai-infrastructure/whats-new-in-ai-infrastructure-this-month
