Certaines opérations dans Firefly Graph ont des coûts qui ne peuvent pas être calculés à l’avance. Dans ce cas, vous verrez un indicateur Crédits variables à côté du bouton Exécuter au lieu d’une estimation de crédit fixe. Cette section explique ce que cela signifie, pourquoi cela se produit et ce qui est attendu de vous lorsque vous exécutez un processus avec des coûts indéterminés.
Que signifie « Crédits variables » ?
Un nœud standard a un coût prévisible. Si vous exécutez un nœud de génération d’image qui produit une image de 1024×1024, Firefly Graph sait ce que cela coûte et vous affiche le coût avant de l’exécuter.
Un nœud à coût indéterminé est différent : Graph peut confirmer que des crédits seront consommés, mais le total exact ne peut pas être connu jusqu’à ce que l’exécution du workflow soit terminée. Le coût réel est calculé à partir de l’utilisation effective et réconcilié avec votre compte une fois l’exécution terminée.
Pourquoi certains coûts ne peuvent-ils pas être prédits ?
Il y a deux raisons distinctes pour lesquelles un processus peut avoir des coûts indéterminés.
- Le nœud lui-même produit un résultat variable : certains nœuds sont non déterministes par conception. L’exemple le plus clair est un nœud de modèle LLM : le coût dépend du nombre de jetons que le modèle génère en réponse à votre prompt, et il n’est pas connu avant la fin de la génération. Une réponse courte et une réponse longue coûtent des montants différents, et Graph n’a aucun moyen de prédire laquelle le modèle va produire. D’autres nœuds de cette catégorie incluent ceux qui renvoient un nombre variable d’éléments (par exemple, un nœud de segmentation d’entité qui renvoie le nombre d’entités qu’il trouve dans une image d’entrée) ou des nœuds dont la structure de sortie dépend du contenu de l’entrée.
- Le graphe exécute le nœud un nombre variable de fois : même un nœud avec un coût fixe par exécution peut devenir indéterminé lorsqu’il est utilisé dans un contexte de liste, de boucle ou de flux. Si un nœud s’exécute une fois par élément dans une liste en amont, et que la taille de cette liste est elle-même produite par un nœud non déterministe antérieur, le nombre total d’exécutions — et donc le coût total — ne peut pas être calculé avant l’exécution du workflow. C’est courant dans les workflows qui se ramifient : un nœud de segmentation renvoie N entités, et un nœud de génération en aval s’exécute une fois par entité. Le nombre et le coût par élément contribuent tous deux à un total qui n’est connaissable qu’après coup.
Affichage des coûts indéterminés
Chaque fois qu’un workflow contient au moins un nœud à coût indéterminé ou a des chemins d’exécution qui produisent des nombres d’invocation variables, Graph remplace l’estimation habituelle de crédits par le libellé Les crédits varient. Vous voyez cela dans les contrôles d’exécution avant de démarrer un workflow.
Survoler ou développer l’indicateur affiche les nœuds de votre graphe qui contribuent à la variabilité, ce qui vous permet d’inspecter le workflow avant de l’exécuter.
Qu’acceptez-vous lorsque vous exécutez un workflow ?
En exécutant un workflow avec des crédits variables, vous reconnaissez que :
Vous pouvez consulter vos crédits génératifs à tout moment en regardant votre solde, et vous devez toujours surveiller l’exécution du graphe dès qu’il commence le traitement afin d’identifier les cas où il exécute plus d’itérations que vous n’attendiez.
Gestion des coûts indéterminés
Quelques moyens pratiques pour garder le contrôle :
