AI kredisini şeffaf yönetmek: 1 kredi = 1 token
Rezervasyon, mahsup ve iade akışıyla kredi ekonomisini nasıl öngörülebilir kıldık?
AI maliyeti, ürün sahiplerinin en çok sürpriz yaşadığı kalem. Egoko'da kuralı tek cümleye indirdik: 1 kredi = 1 token. Girdi ve çıktı toplanır, admin panelinden belirlenen çarpanla çarpılır.
Ama tek başına 'token saymak' yetmez; çağrı başarısız olursa kredinin iade edilmesi gerekir. Bu yüzden üç fazlı bir akış kullanıyoruz.
Üç faz: reserve → commit → rollback
İstek geldiğinde tahmini tutar hesaplanır ve rezerve edilir. Yayın (stream) tamamlandığında gerçek token sayısıyla mahsup edilir; rezerve edilen ile gerçek arasındaki fark kullanıcıya iade edilir.
Sağlayıcı hata verirse rollback çalışır ve tutarın tamamı geri döner. Her adım CreditLedger tablosuna balanceAfter ile birlikte yazılır; böylece bakiyeyi herhangi bir anda yeniden inşa edebiliriz.
Neden muhasebe değil de defter?
Bakiyeyi tek bir alanda tutmak, yarış koşullarında tutarsızlığa yol açar. Defter (ledger) yaklaşımı her hareketi değiştirilemez bir kayda dönüştürür ve denetimi kolaylaştırır.
Fikrini yaz, bu akşam yayında ol.
1.000.000 kredi hediye. Kredi kartı yok. Custom domain ve ödeme altyapısı gerektiğinde Plus'a geç.