AWS • Haberler

New Relic CCI ile AWS’te yapay zekâ maliyetleri

new-relic-cci-cover

New Relic Cloud Cost Intelligence, AWS CUR 2.0 verisiyle Amazon Bedrock maliyetini model ve token düzeyinde gösteriyor. Mimari, senaryo ve sınırlar.

Yapay zekâ maliyetlerini yönetmek, AWS üzerinde üretken yapay zekâyı ölçekleyen kurumların başlıca sorunlarından biri. AWS ve New Relic’in ortak yazısı, 28 Nisan 2026’da genel kullanıma açılan New Relic Cloud Cost Intelligence (CCI) ile AWS verilerinin Amazon Bedrock iş yükleri için nasıl birlikte kullanıldığını anlatıyor. Temel veri kaynakları AWS Cost and Usage Report (CUR 2.0), Amazon S3 ve AWS Trusted Advisor.

Yapay zekâ yükleri neden farklı?

Maliyeti ayrılan kaynakla öngörülebilir ölçeklenen Amazon EC2’nin aksine, Amazon Bedrock gibi servislerde değişken token tüketimi tahmini zorlaştırıyor:

  • Token ekonomisi: Maliyet model, prompt karmaşıklığı ve kullanım senaryosuna göre değişiyor; birden fazla modelin fiyat ve performansını karşılaştırmak zor.
  • Yönetişimi aşan ölçek: Benimseme bütçe çerçevelerinden hızlı ilerliyor, tüketim bazlı fiyat aşımlara yol açabiliyor.
  • Atıf boşlukları: Maliyeti belirli uygulama, ekip ya da iş sonucuna bağlamak zor.

Gözlemlenebilirlik içinde FinOps

Yaklaşımın özü şu: Mühendislik ekibi uygulama performansını hangi araçla izliyorsa maliyet bilgisi de orada, performans verisiyle ilişkili görünmeli. CUR 2.0, Bedrock çağrıları için token düzeyinde metaveri dahil saatlik fatura verisini S3’e aktarıyor; Trusted Advisor optimizasyon önerileri sağlıyor. CCI bunları dağıtımlar, talep artışları, prompt değişiklikleri ve model seçimiyle ilişkilendiriyor. Dört temel sonuç:

  • Harcamanın nereye gittiğini görmek: Servis, model ve token tipine göre döküm.
  • Eğilimleri erken yakalamak: Sankey grafikleri, aylık karşılaştırma ve otomatik anomali tespiti.
  • Optimizasyon: Trusted Advisor önerileri (doğru boyutlandırma, Savings Plans kapsamı) ile CCI tasarruf analizi birlikte kullanılıyor.
  • Aşımları önlemek: Ayarlanabilir bütçe eşikleri ve proaktif uyarılar.

Genel önizlemedeki FinOps Agent ise New Relic Ask AI arayüzünde AWS fatura ve performans verisini doğal dille sorgulamayı sağlıyor.

Mimari

CCI veri akışı: S3'teki CUR 2.0 verisinden alım ve maliyet analizine, oradan eyleme dönük içgörülere
CCI veri akışı: S3’teki CUR 2.0 verisinden alım ve maliyet analizine, oradan eyleme dönük içgörülere
  • AWS CUR 2.0, maliyet ve kullanım verisini saatlik ayrıntıya kadar S3’e aktarıyor.
  • CCI veriyi alıp model kimliği ve token sayısı gibi yapay zekâ metaverisiyle zenginleştiriyor.
  • Analiz motoru servis, model ve token tipine göre ayrıştırıp eğilimleri çıkarıyor.
  • Mühendislik ekiplerine öneriler, bütçe uyarıları ve FinOps Agent içgörüleri sunuluyor.

Örnek senaryo: Sağlık kuruluşu

Yazarlar, Bedrock üzerinde birden fazla uygulama çalıştıran orta ölçekli bir sağlık kuruluşu örneği veriyor. Senaryo temsilî; görsellerdeki rakamlar dahil tüm veriler sentetik demo verisi. Hasta triyaj botu, klinik not özetleyici, kod asistanı ve hasta eğitimi üreticisi varken ekip faturada tek bir “Amazon Bedrock” satırı görüyor. CCI ile:

  • Sankey grafiği, triyaj botunun toplam Bedrock harcamasının %43’ünü tükettiğini gösteriyor.
  • Token analizi, rutin SSS sorgularının Claude Opus 4.6 yerine daha hafif Claude Sonnet 4.6 ile karşılanabileceğini ortaya koyuyor.
  • Her ekibe %80 kullanımda “At Risk” uyarısı veren ayrı bütçe tanımlanıyor.
  • Aylık eğilim, model değişikliklerinin tasarrufunu izliyor.

Yazıda sağlık iş yükleri için önemli bir not da var: HIPAA uygun servisleri kullanmak tek başına HIPAA uyumluluğu sağlamaz, bu AWS ile müşteri arasında paylaşılan bir sorumluluktur. CCI hasta verisini değil, fatura ve kullanım verisini analiz ediyor.

AWS'ye filtrelenmiş CCI yapay zekâ maliyet görünümü (sentetik demo verisi)
AWS’ye filtrelenmiş CCI yapay zekâ maliyet görünümü (sentetik demo verisi)
Model ve token tipine göre Amazon Bedrock harcaması (sentetik demo verisi)
Model ve token tipine göre Amazon Bedrock harcaması (sentetik demo verisi)

Yazı bir ürün tanıtımı ve örnekteki %43 gibi rakamlar gerçek müşteri sonucu değil. Asıl faydalı ders, tek satırlık Bedrock faturasını uygulama ve model bazında ayırmanın önemi. Bunun ilk adımı CUR 2.0’ı etkinleştirmek ve uygulama bazlı etiketleme yapmak; ayrıca bir araç seçmeden de başlanabilir.

Kaynak: https://aws.amazon.com/tr/blogs/apn/optimize-ai-costs-with-new-relic-cloud-cost-intelligence-on-aws/

Yazar Hakkında

Kerem Şuğle

Solution Architect, VMware vExpert ve Microsoft sertifikalı altyapı uzmanı. VMware vSphere/vSAN/VCF, Azure, AWS, Google Cloud, enterprise sanallaştırma ve yapay zeka konularında 15+ yıl deneyim. AI/cloud dönüşümü, sovereign cloud, enterprise güvenlik ve modern altyapı mimarisi alanlarında yazıyor.

Leave a Comment