Choisir une opération d’inférence
Choisissez une opération en fonction de ce que votre application doit faire avec le contenu source.
Questions-réponses
Utilisez les Q&R pour soumettre des questions en langage naturel sur la collection ou le contenu du document.
L’API fournit des Q&R en streaming et sans streaming.
Q&R en streaming renvoie la réponse de manière incrémentale au fur et à mesure qu’elle est générée. Utilisez-la lorsque votre interface doit afficher le contenu généré progressivement.
Le mode Q&R en streaming permet également de déterminer si les instructions personnalisées doivent être appliquées à la demande. Vous pouvez également contrôler si un raisonnement est généré pour une réponse de questions-réponses en streaming.
Questions-réponses sans streaming attend que la génération soit terminée et renvoie la réponse finale. Utilisez cette option lorsque votre application n’a pas besoin d’afficher une sortie partielle.
Résumé
Utilisez la synthèse pour générer une représentation condensée du contenu du document.
La référence API définit les exigences de demande actuelles et les entrées prises en charge.
Recherche contextuelle
Utilisez la recherche contextuelle pour récupérer le contenu pertinent par rapport au texte de recherche spécifié.
Cela peut aider les applications à identifier le matériel source pertinent sans générer de réponse conversationnelle.
Extraction de propriétés
Utilisez l’extraction lorsque votre application a besoin de valeurs structurées provenant du contenu du document.
Une définition d’extraction peut identifier des informations telles que :
Nom de propriété : contract_value
Type : entier
Description : Valeur du contrat d’accord
Prompt : Extrayez la valeur d’accord la plus importante en dollars.
Le résultat renvoyé peut inclure la valeur extraite, les informations confidentielles et l’attribution source.