AI ve bulut maliyetleri; tüketimi iş sahibi, ürün, ortam, model ve kullanım senaryosuna tahsis ederek; birim maliyeti ve iş değerini birlikte ölçerek; bütçe, kota, alarm, model yönlendirme, önbellek, veri yaşam döngüsü ve kapasite kararlarını sürekli iyileştirerek yönetilir. Aylık toplam fatura tek başına yeterli değildir. Başarılı model; maliyet, kalite, gecikme, risk ve iş sonucu arasındaki dengeyi gösterir.
Toplam maliyet, model çağrısından daha geniştir
| Katman | Maliyet örnekleri | Sıklıkla atlanan kalem |
|---|---|---|
| Veri | Toplama, lisans, temizleme, etiketleme, depolama ve aktarım. | Veri kalitesi düzeltme ve kullanım hakkı incelemesi. |
| Model | API tokenı, eğitim, tuning, embedding ve değerlendirme. | Başarısız deneyler ve tekrarlanan testler. |
| Altyapı | GPU/CPU, vektör veri tabanı, ağ, cache ve yedek. | Boşta kapasite ve veri egress. |
| Uygulama | Orkestrasyon, ajan araçları, gözlemleme ve güvenlik. | Üçüncü taraf connector ve log maliyeti. |
| İnsan | Ürün, veri, hukuk, güvenlik, değerlendirme ve destek. | İnsan onayı ve hata düzeltme süresi. |
| Risk | Yanlış çıktı, kesinti, ihlal, müşteri telafisi ve yeniden çalışma. | Kalite düşüşünün gelir ve itibar etkisi. |
FinOps Foundation, AI harcamalarında maliyet öngörülemezliği, hızlı deney döngüsü, GPU kapasitesi ve token bazlı tüketimin yeni yönetim gereksinimleri oluşturduğunu; buna rağmen temel FinOps yaklaşımının görünürlük, iş birliği, tahmin ve optimizasyon olduğunu vurgular.
Görünürlük için ortak etiketleme ve tahsis modeli gerekir
- İş sahibi: Harcamanın bütçe ve sonuç sorumlusu.
- Ürün/kullanım alanı: Müşteri asistanı, iç arama, kod yardımı veya tahmin gibi amaç.
- Ortam: Deneme, geliştirme, test ve üretim ayrımı.
- Model/sağlayıcı: Model ailesi, sürüm, API veya kendi barındırma.
- Veri sınıfı: Hangi veri ve güvenlik gereksinimiyle çalıştığı.
- İşlem türü: Eğitim, inference, embedding, retrieval veya ajan aracı.
- Müşteri/tenant: Gerekliyse maliyet ve gelir eşlemesi.
Etiketlenemeyen veya tahsis edilemeyen harcama “ortak AI gideri” olarak büyür. Sağlayıcı faturası, uygulama telemetrisi ve ürün verisi birleştirilmeden gerçek birim maliyet görülemez.
Birim ekonomi, token fiyatından iş sonucuna uzanmalıdır
| Katman | Örnek birim | Karar sorusu |
|---|---|---|
| Teknik tüketim | 1 milyon input/output token, GPU-saat, 1.000 retrieval. | Hangi model ve mimari daha verimli? |
| Uygulama | Yanıt, belge, ajan görevi veya tamamlanan işlem. | Bir iş akışının gerçek maliyeti nedir? |
| Kullanıcı | Aktif kullanıcı, ekip veya müşteri başına maliyet. | Kullanım yoğunluğu ve fiyatlama dengeli mi? |
| İş sonucu | Çözülen talep, kazanılan saat, önlenen kayıp veya gelir. | Maliyet ölçülebilir değer üretiyor mu? |
| Kalite ayarlı | Doğru/yararlı sonuç veya insan onaylı işlem başına maliyet. | Ucuz model kalite ve risk maliyetini artırıyor mu? |
Token başına fiyat, farklı model kalitesi ve çıktı uzunluğu nedeniyle yanıltıcı olabilir. Aynı işi daha düşük tokenla yapan model daha pahalı birim fiyatına rağmen toplamda ucuz olabilir. Birim ekonomi; kalite, gecikme ve insan müdahalesiyle birlikte ölçülmelidir.
Başlıca AI maliyet sürücüleri ayrı yönetilmelidir
Bağlam ve çıktı
Uzun sistem istemi, konuşma geçmişi ve gereksiz çıktı token tüketimini büyütür.
Model ve yönlendirme
Her iş için en büyük modeli kullanmak kalite artışı sağlamadan maliyeti yükseltebilir.
Retrieval ve depolama
Embedding, indeks, sorgu, reranking ve belge güncelleme maliyeti birlikte ölçülür.
Çok adımlı görev
Planlama, yeniden deneme, araç çağrısı ve hata döngüsü öngörülemez tüketim yaratabilir.
Kapasite ve boşta süre
Kendi barındırmada kullanım oranı, kuyruk ve kapasite planı kritik olur.
Kalite ve taşıma
Veri temizleme, kopya, egress ve sık yeniden indeksleme maliyeti büyütebilir.
Kontrol mekanizmaları yeniliği durdurmadan uygulanabilir
- Deneme ve üretim için ayrı bütçe ve kota.
- İş sahibi olmayan kaynakların otomatik süre sonu.
- Model yönlendirme: basit işte küçük model, kritik işte uygun kalite.
- Prompt ve bağlam uzunluğu sınırı; gereksiz geçmiş temizliği.
- Önbellek, batch ve tekrar kullanılan embedding stratejisi.
- Ajan adım, yeniden deneme, araç çağrısı ve harcama limiti.
- GPU kullanım oranı, zamanlama, right-sizing ve kapatma politikası.
- Anomali alarmı ve beklenmeyen tüketimde devre kesici.
- Sağlayıcı fiyat ve model değişikliğinde regresyon testi.
- Kalitesiz veya değersiz kullanım alanı için durdurma kararı.
Harcama, iş değeri ve riskle birlikte portföy düzeyinde yönetilmelidir
AI girişimleri yalnız “tasarruf” üretmeyebilir; gelir, hız, müşteri deneyimi, risk azaltma veya öğrenme değeri taşıyabilir. Yine de her kullanım alanı için beklenen sonuç, ölçüm yöntemi, baz değer, zaman ufku ve hata maliyeti tanımlanmalıdır.
| Karar | Gerekli kanıt |
|---|---|
| Devam | Kullanım ve kalite artarken birim maliyet kabul edilebilir ve iş sonucu görünür. |
| Optimize et | Değer var; model, prompt, kapasite veya süreç maliyeti gereksiz yüksek. |
| Yeniden tasarla | Kalite veya insan müdahalesi hedefi karşılamıyor; mimari değişiklik gerekli. |
| Durdur | Değer ölçülemiyor, risk yüksek veya alternatif süreç daha ekonomik. |
FinOps Foundation’ın 2026 çalışmaları, AI maliyet yönetiminin yalnız harcama azaltma değil, AI yatırımının iş değerine bağlanması gerektiğini vurgular.
Çalışma modeli finans, teknoloji ve iş ekiplerini birleştirmelidir
| Rol | Sorumluluk |
|---|---|
| İş/ürün sahibi | Değer hipotezi, kullanım hedefi, kalite ve kullanıcı kabulü. |
| FinOps/finans | Tahsis, bütçe, tahmin, fiyatlama ve portföy görünürlüğü. |
| AI/BT ekibi | Mimari, model, kapasite, teknik optimizasyon ve telemetri. |
| Veri ekibi | Veri maliyeti, kalite, erişim ve yaşam döngüsü. |
| Güvenlik/hukuk | Veri, sağlayıcı, lisans, olay ve uyum sınırları. |
| Yönetim | Yatırım portföyü, risk iştahı ve durdurma kararları. |
Yönetim panosu hangi KPI’ları taşımalıdır?
- Toplam AI harcaması ve tahsis edilebilir oran.
- Kullanım alanı, iş birimi, model ve ortam bazında harcama.
- Yanıt/görev/işlem ve kalite ayarlı sonuç başına maliyet.
- Bütçe sapması, tahmin doğruluğu ve anomali.
- Aktif kullanıcı, benimseme ve boşta kaynak.
- Model kalite, gecikme, hata ve insan müdahale oranı.
- İş sonucu: süre, gelir, tasarruf, risk veya memnuniyet etkisi.
- Deneme aşamasında kalan ve üretime geçmeyen girişim maliyeti.
Olgunluk yol haritası
- Gör: Faturayı, kullanımı ve sahipliği ortak veri modelinde birleştirin.
- Tahsis et: Ürün, ekip, model, ortam ve kullanım alanına maliyet dağıtın.
- Kontrol et: Bütçe, kota, alarm ve yaşam döngüsü politikalarını uygulayın.
- Optimize et: Model yönlendirme, prompt, cache, GPU ve veri maliyetini iyileştirin.
- Değerle: Birim maliyeti kalite ve iş sonucuna bağlayın.
- Portföyü yönet: Devam, yeniden tasarım veya durdurma kararlarını periyodik verin.
Kaynaklar ve gözden geçirme notu
Bu rehberde değişebilir veya teknik iddialar için öncelikle resmî kurum, ürün geliştiricisi ve birincil araştırma kaynakları kullanılmıştır. Bağlantılar 27 Temmuz 2026 tarihinde gözden geçirilmiştir.
- 01FinOps Foundation — FinOps for AI Overview
AI maliyetleri için token, GPU, veri, kota, etiketleme, iş değeri ve olgunluk pratiklerini açıklar.
- 02FinOps Foundation — FinOps for AI technology category
AI harcamalarında tahsis, tahmin, optimizasyon, politika ve iş değeri yönetimini FinOps çerçevesine bağlar.
- 03FinOps Foundation — State of FinOps 2026
AI harcaması yönetiminin FinOps ekipleri için öne çıkan öncelik ve yetkinlik alanı olduğunu raporlar.
- 04FinOps Foundation — AI Value
AI yatırımını maliyet azaltmanın ötesinde ölçülebilir iş sonuçlarına bağlama yaklaşımını açıklar.
- 05FinOps Foundation — Managing AI Value in SaaS Model Token Costs
SaaS AI token maliyetlerinde görünürlük, tahsis, fiyatlama ve kullanım yönetimi sorunlarını ele alır.