Firefly Graph の一部の操作では、事前にコストを計算できません。その場合、固定のクレジット見積もりの代わりに、実行ボタンの横にクレジット変動インジケーターが表示されます。このセクションでは、それが何を意味するのか、なぜ発生するのか、そして未確定コストでワークフローを実行する際に期待されることについて説明します。
「クレジット変動」とは何を意味しますか?
標準ノードには予測可能なコストがあります。1024 x 1024 の画像を 1 枚生成する画像生成ノードを実行する場合、Firefly Graph はそのコストを把握しており、実行前にコストが表示されます。
未確定コストノードは状況により異なります。Graph ではクレジットが消費されることを確認できますが、正確な合計はワークフローの実行が完了するまで分かりません。実際のコストは実際の使用量から計算され、実行完了後にアカウントと照合されます。
一部のコストが予測できないのはなぜですか?
ワークフローで未確定コストが発生する理由は 2 つあります。
- ノード自体が可変出力を生成する:一部のノードは設計上非決定論的となります。最も明確な例は大規模言語モデルノードです。コストはモデルがプロンプトに応答して生成するトークン数に依存し、生成が完了するまでわかりません。短い回答と長い回答ではコストが異なり、Graph ではモデルで生成される回答の長さを予測する方法がありません。このカテゴリの他のノードには、可変数のアイテムを返すもの(例えば、入力画像で見つけたエンティティの数だけ返すエンティティセグメンテーションノード)や、出力構造が入力のコンテンツに依存するノードが含まれます。
- グラフがノードを可変回数実行する:実行あたりのコストが固定されているノードでも、リスト、ループ、またはストリームコンテキスト内で使用される場合、不確定になる可能性があります。ノードが上流リスト内のアイテムごとに 1 回実行され、そのリストのサイズ自体が前の非決定論的ノードによって生成される場合、実行の合計数(つまり合計コスト)はワークフローが実行されるまで計算できません。これは、ファンアウトするワークフローでよく見られます。セグメンテーションノードが N 個のエンティティを返し、下流の生成ノードがエンティティごとに 1 回実行されます。回数とアイテムあたりのコストの両方が、事後にのみ知ることができる合計に影響します。
不確定コストの表示方法
ワークフローに少なくとも 1 個の未確定コストノードが含まれているか、可変呼び出し回数を生成する実行パスがある場合、Graph は通常のクレジット見積もりを「クレジット変動」ラベルに置き換えます。 これはワークフローを開始する前に、「実行」コントロールで確認できます。
インジケーターにカーソルを合わせるか展開すると、グラフ内のどのノードが変動に寄与しているかが表示されるため、実行前にワークフローを検査できます。
ワークフローを実行する際に何を承認していますか?
「クレジット変動」でワークフローを実行することで、ユーザーは以下を承認したとみなされます。
残高を確認することで、いつでも生成クレジットをレビューできます。また、予想以上の反復を実行している場合を特定するために、処理開始時にグラフの実行を常に監視する必要があります。
不確定コストの管理
コントロールを維持するための実用的な方法: