Стоимость некоторых операций в Firefly Graph нельзя рассчитать заранее. В таких случаях вы увидите индикатор Баллы варьируются рядом с кнопкой «Запустить» вместо фиксированной оценки баллов. В этом разделе объясняется, что это означает, почему это происходит и что от вас ожидается при запуске технологического процесса с неопределенной стоимостью.
Что означает «Баллы варьируются»?
Стандартный узел имеет предсказуемую стоимость. Если вы запускаете узел создания изображений, который создает одно изображение 1024×1024, Firefly Graph знает, сколько это стоит, и показывает вам стоимость перед запуском.
Узел с неопределенной стоимостью отличается: Graph может подтвердить, что баллы будут потрачены, но точная общая сумма не может быть известна до завершения выполнения рабочего процесса. Фактическая стоимость рассчитывается на основе реального использования и сверяется с вашим аккаунтом после завершения запуска.
Почему некоторые затраты нельзя предсказать?
Есть две различные причины, по которым технологический процесс может иметь неопределенные затраты.
- Сам узел создает переменный результат: некоторые узлы по своей природе недетерминированы. Самый яркий пример — узел большой языковой модели — стоимость зависит от того, сколько токенов модель генерирует в ответ на ваш запрос, и это неизвестно до завершения создания. Короткий и длинный ответы стоят по-разному, и Graph не может предсказать, какой из них выдаст модель. К этой категории относятся также узлы, возвращающие переменное количество элементов (например, узел сегментации сущностей, возвращающий столько сущностей, сколько он найдет на входном изображении), или узлы, структура выходных данных которых зависит от содержимого входных данных.
- Граф запускает узел переменное количество раз: даже узел с фиксированной стоимостью за выполнение может стать неопределенным, когда он используется в контексте списка, цикла или потока. Если узел запускается один раз для каждого элемента в вышестоящем списке, а размер этого списка сам создан более ранним недетерминированным узлом, общее количество выполнений — и, следовательно, общая стоимость — не может быть рассчитано до запуска рабочего процесса. Это часто встречается в рабочих процессах с разветвлением: узел сегментации возвращает N сущностей, а нижестоящий узел создания запускается один раз для каждой сущности. И количество, и стоимость за элемент влияют на общую сумму, которую можно узнать только постфактум.
Как отображаются неопределенные затраты
Когда рабочий процесс содержит хотя бы один узел с неопределенной стоимостью или имеет пути выполнения, которые создают переменное количество вызовов, Graph заменяет обычную оценку баллов меткой «Баллы варьируются». Вы увидите это в элементах управления запуском перед началом технологического процесса.
При наведении курсора или развертывании индикатора показывается, какие узлы в вашем графе влияют на вариативность, чтобы вы могли проверить технологический процесс перед его запуском.
Что вы подтверждаете при запуске технологического процесса?
Запуск технологического процесса с пометкой «Баллы варьируются» — это ваше подтверждение того, что:
Вы можете в любое время проверить свои генеративные баллы, посмотрев на баланс, и всегда следует отслеживать выполнение графа с самого начала обработки, чтобы выявить случаи, когда он выполняет больше итераций, чем ожидалось.
Управление неопределенными затратами
Несколько практических способов сохранить контроль:
Проверьте источник вариативности. Индикатор «Баллы варьируются» показывает, какие узлы ответственны — иногда небольшого изменения графа достаточно, чтобы снова сделать технологический процесс предсказуемым.
