לחלק מהפעולות ב-Firefly Graph יש עלויות שלא ניתן לחשב מראש.כאשר זה המצב, תראו מחוון קרדיטים משתנים ליד לחצן ההפעלה במקום הערכת קרדיטים קבועה.הסעיף הזה מסביר מה זה אומר, למה זה קורה ומה מצפים מכם כאשר אתם מפעילים תהליכי עבודה עם עלויות לא מוגדרות.
מה המשמעות של "קרדיטים משתנים"?
לצומת סטנדרטי יש עלות צפויה.אם אתם מפעילים צומת יצירת תמונות שמייצר תמונה אחת בגודל 1024×1024, Firefly Graph יודע כמה זה עולה ומציג לכם את העלות לפני שאתם מפעילים אותו.
צומת עם עלות לא מוגדרת יהיה שונה: ב-Graph אפשר לאשר את צריכת הקרדיטים, אבל לא ניתן לדעת את הסכום המדויק עד שהפעילות של תהליך העבודה הושלמה. העלות בפועל מחושבת לפי השימוש האמיתי ומותאמת לחשבון שלכם לאחר השלמת הפעולה.
מדוע לא ניתן לחזות חלק מהעלויות?
לתהליכי עבודה יכולות להיות עלויות לא מוגדרות עקב שתי סיבות נפרדות.
- הצומת עצמו מייצר פלט משתנה: צמתים מסוימים אינם דטרמיניסטיים מעצם התכנון שלהם.הדוגמה הברורה ביותר היא צומת מודל שפה גדול — העלות תלויה בכמות הטוקנים שהמודל יוצר בתגובה להנחיה שלכם, וזה לא ידוע עד שהיצירה מסתיימת.תשובה קצרה ותשובה ארוכה עולות סכומים שונים, ול-Graph אין דרך לחזות איזו מהן המודל ייצור.צמתים אחרים בקטגוריה זו כוללים כאלה שמחזירים מספר משתנה של פריטים (לדוגמה, צומת פילוח ישויות שמחזיר כמה ישויות שהוא מוצא בתמונת קלט) או צמתים שמבנה הפלט שלהם תלוי בתוכן הקלט.
- הגרף מריץ את הצומת מספר משתנה של פעמים: אפילו צומת עם עלות קבועה לביצוע יכול להפוך ללא מוגדר כשהוא משמש בהקשר של רשימה, לולאה או זרם.אם צומת רץ פעם אחת לכל פריט ברשימה קודמת, והגודל של הרשימה הזאת מיוצר בעצמו על ידי צומת לא דטרמיניסטי קודם, מספר ההפעלות הכולל — ולכן העלות הכוללת — לא ניתן לחישוב עד שתהליך העבודה רץ.זה נפוץ בתהליכי עבודה שמתפצלים: צומת פילוח מחזיר N ישויות, וצומת יצירה במורד הזרם רץ פעם אחת לכל ישות.גם הספירה וגם העלות לפריט תורמות לסכום כולל שניתן לדעת רק לאחר מעשה.
איך עלויות לא מוגדרות מוצגות
בכל פעם שתהליכי עבודה מכילים לפחות צומת אחד בעלות לא מוגדרת או שיש להם נתיבי ביצוע שמייצרים ספירות הפעלה משתנות, Graph מחליף את הערכת הקרדיט הרגילה בתווית הקרדיטים משתנים. תראו את השינוי הזה בפקדי הפעולה לפני שתתחילו תהליך עבודה.
עם ריחוף מעל הצומת או הרחבה של המחוון, אפשר לראות אילו צמתים בגרף שלכם תורמים לשונות, כך שתוכלו לבדוק את תהליכי העבודה לפני שמפעילים אותם.
מה אתם מאשרים כשאתם מפעילים תהליכי עבודה?
על ידי הפעלה של תהליכי עבודה עם קרדיטים משתנים, אתם מאשרים את התנאים הבאים:
תוכלו לבדוק את הקרדיטים הגנרטיביים שלכם בכל עת על‑ידי בדיקת היתרה שלכם, ותמיד כדאי לעקוב אחר ביצוע הגרף כשהוא מתחיל לעבד כדי לזהות מקרים שבהם הוא רץ יותר איטרציות ממה שהייתם מצפים.
ניהול עלויות לא מוגדרות
כמה דרכים מעשיות להישאר בשליטה:
