بعض العمليات في Firefly Graph لها تكاليف لا يمكن حسابها مسبقًا.عندما تكون هذه هي الحالة، ستشاهد مؤشر Credits vary بجانب زر Run بدلاً من تقدير ثابت للرصيد. يشرح هذا القسم ما يعنيه ذلك ولماذا يحدث وما هو متوقع منك عند تشغيل سير عمل بتكاليف غير محددة.
ما معنى "الأرصدة تختلف"؟
العقدة المعيارية لها تكلفة يمكن التنبؤ بها.إذا قمت بتشغيل عقدة إنشاء صورة تنتج صورة واحدة بحجم 1024×1024، فإن Firefly Graph يعرف تكلفة ذلك ويعرض لك التكلفة قبل تشغيلها.
عقدة التكلفة غير المحددة مختلفة: يمكن لـ Graph تأكيد أن الأرصدة ستُستهلك، لكن المجموع الدقيق لا يمكن معرفته حتى ينتهي سير العمل من التنفيذ.يتم حساب التكلفة الفعلية من الاستخدام الحقيقي وتسويتها مقابل حسابك بمجرد اكتمال التشغيل.
لماذا لا يمكن التنبؤ ببعض التكاليف؟
هناك سببان مختلفان قد يجعلان سير العمل يحتوي على تكاليف غير محددة.
- العقدة نفسها تنتج مخرجات متغيرة: بعض العقد غير حتمية بالتصميم. المثال الأوضح هو عقدة نموذج اللغة الكبير — التكلفة تعتمد على عدد الرموز المميزة التي ينشئها النموذج استجابة لمطالبتك، وهذا غير معروف حتى اكتمال الإنشاء. الإجابة القصيرة والإجابة الطويلة لهما تكلفة مختلفة، وليس لدى Graph طريقة للتنبؤ بأيهما سينتجه النموذج.العقد الأخرى في هذه الفئة تشمل تلك التي ترجع عددًا متغيرًا من العناصر (على سبيل المثال، عقدة تجزئة الكيانات التي ترجع أي عدد من الكيانات تجدها في صورة الإدخال) أو العقد التي يعتمد هيكل مخرجاتها على محتوى الإدخال.
- يشغل الرسم البياني العقدة عددًا متغيرًا من المرات: حتى العقدة ذات التكلفة الثابتة لكل تنفيذ يمكن أن تصبح غير محددة عند استخدامها داخل سياق قائمة أو حلقة أو تدفق.إذا كانت العقدة تعمل مرة واحدة لكل عنصر في قائمة المرحلة السابقة، وحجم تلك القائمة نفسه منتج بواسطة عقدة غير حتمية سابقة، فإن العدد الإجمالي للتنفيذات — وبالتالي التكلفة الإجمالية — لا يمكن حسابها حتى يعمل سير العمل.هذا شائع في سير الأعمال التي تتوسع: عقدة التجزئة ترجع N كيانات، وعقدة الإنشاء اللاحقة تعمل مرة واحدة لكل كيان.يساهم كل من العدد والتكلفة لكل عنصر في إجمالي لا يمكن معرفته إلا بعد الحقيقة.
كيف يتم عرض التكاليف غير المحددة
كلما احتوى سير العمل على عقدة واحدة على الأقل ذات تكلفة غير محددة أو كان له مسارات تنفيذ تنتج أعداد استدعاءات متغيرة، يستبدل Graph تقدير الرصيد المعتاد بتسمية الرصيد متغير. سترى ذلك في عناصر التحكم في التشغيل قبل بدء سير العمل.
التمرير فوق المؤشر أو توسيعه يُظهر العقد في الرسم البياني التي تساهم في التغيير، حتى تتمكن من فحص سير العمل قبل تشغيله.
ما الذي تقر به عند تشغيل سير العمل؟
تشغيل سير العمل عندما تكون الأرصدة متغيرة هو إقرارك بأن:
يمكنك مراجعة أرصدة الذكاء الاصطناعي التوليدي في أي وقت من خلال النظر إلى رصيدك، ويجب عليك دائمًا مراقبة تنفيذ الرسم البياني عندما يبدأ في المعالجة لتحديد الحالات التي يُجري فيها عددًا أكبر من التكرارات مما تتوقع.
إدارة التكاليف غير المحددة
بعض الطرق العملية للحفاظ على التحكم: