Firefly Graph'taki bazı işlemlerin önceden hesaplanamayan maliyetleri vardır. Bu durumda, sabit bir kredi tahmini yerine Çalıştır düğmesinin yanında Krediler değişkenlik gösterir göstergesini görürsünüz. Bu bölümde bunun ne anlama geldiği, neden olduğu ve belirsiz maliyetli bir iş akışı çalıştırıldığında ne beklendiği açıklanır.
"Krediler değişkenlik gösterir" ne anlama gelir?
Standart bir düğümün öngörülebilir bir maliyeti vardır. 1024×1024 boyutunda bir görüntü üreten bir görüntü oluşturma düğümü çalıştırıldığında, Firefly Graph bunun maliyetini bilir ve çalıştırılmadan önce maliyeti gösterir.
Belirsiz maliyetli düğüm farklıdır: Graph, kredilerin tüketileceğini doğrulayabilir ancak kesin toplam, iş akışının yürütülmesi tamamlanana kadar bilinemez. Gerçek maliyet, gerçek kullanımdan hesaplanır ve çalıştırma tamamlandıktan sonra hesabınıza yansıtılır.
Bazı maliyetler neden tahmin edilemiyor?
Bir iş akışının belirsiz maliyetlere sahip olmasının iki farklı nedeni vardır.
- Düğümün kendisi değişken çıktı üretir: Bazı düğümler tasarım gereği deterministik değildir.En açık örnek, büyük dil modeli düğümüdür; maliyet, modelin isteme yanıt olarak kaç jeton oluşturduğuna bağlıdır ve bu, oluşturma işlemi tamamlanana kadar bilinemez. Kısa bir yanıt ile uzun bir yanıt farklı miktarlarda maliyet oluşturur ve Graph modelin hangisini üreteceğini tahmin edemez. Bu kategorideki diğer düğümler, değişken sayıda öğe döndüren düğümleri (örneğin, bir girdi görüntüde bulduğu kadar varlık döndüren bir varlık segmentasyon düğümü) veya çıktı yapısı girdinin içeriğine bağlı olan düğümleri içerir.
- Graph, düğümü değişken sayıda çalıştırır: Sabit yürütme başına maliyeti olan bir düğüm bile, liste, döngü veya akış bağlamında kullanıldığında belirsiz hale gelebilir.Bir düğüm, yukarı akış listesindeki her öğe için bir kez çalıştırılırsa ve bu listenin boyutu kendisi daha önceki belirleyici olmayan bir düğüm tarafından üretilirse, toplam yürütme sayısı ve dolayısıyla toplam maliyet iş akışı çalışana kadar hesaplanamaz. Bu, yayılan iş akışlarında yaygındır: bir segmentasyon düğümü N sayıda varlık döndürür ve aşağı akış oluşturma düğümü her varlık için bir kez çalıştırılır. Hem sayım hem de öğe başına maliyet, yalnızca sonradan bilinebilir bir toplama katkıda bulunur.
Belirsiz maliyetler nasıl gösterilir?
Bir iş akışı en az bir belirsiz maliyetli düğüm içerdiğinde veya değişken çağrı sayıları üreten yürütme yollarına sahip olduğunda, Graph olağan kredi tahminini Krediler değişkenlik gösterir etiketiyle değiştirir. Bunu bir iş akışını başlatmadan önce Çalıştır kontrollerinde görürsünüz.
Göstergenin üzerine gelmek veya onu genişletmek, grafiğinizdeki hangi düğümlerin değişkenliğe katkıda bulunduğunu gösterir, böylece iş akışını çalıştırmadan önce inceleyebilirsiniz.
Bir iş akışını çalıştırdığınızda neyi kabul ediyorsunuz?
Krediler değişkenlik gösterir ile bir iş akışını çalıştırmak şunları kabul ettiğiniz anlamına gelir:
Oluşturma kredilerinizi dilediğiniz zaman bakiyenize bakarak gözden geçirebilirsiniz ve beklediğinizden daha fazla yineleme çalıştırdığı durumları belirlemek için işlemeye başladığında graph yürütmesini her zaman izlemelisiniz.
Belirsiz maliyetleri yönetme
Kontrolde kalmak için birkaç pratik yol:
