Inferenz-Operation wählen
Wähle eine Operation basierend darauf, was deine Anwendung mit dem Quellinhalt machen muss.
Fragebeantwortung
Verwende F&A, um Fragen in natürlicher Sprache zu Sammlungs- oder Dokumentinhalten zu stellen.
Die API bietet sowohl Streaming- als auch Non-Streaming-F&A.
Streaming F&A gibt die Antwort schrittweise zurück, während sie generiert wird. Verwende es, wenn deine Benutzeroberfläche generierten Inhalt schrittweise anzeigen soll.
Bei Streaming F&A wird auch kontrolliert, ob benutzerdefinierte Anweisungen auf die Anfrage angewendet werden. Du kannst auch steuern, ob eine Begründung für eine Streaming-F&A-Antwort generiert wird.
Non-Streaming-F&A wartet auf den Abschluss der Generierung und gibt die fertige Antwort zurück. Verwende diese Option, wenn deine Anwendung keine Teilausgaben anzeigen muss.
Zusammenfassung
Verwende die Zusammenfassung, um eine kompakte Darstellung von Dokumentinhalten zu generieren.
Die API-Referenz definiert die aktuellen Anforderungen und unterstützten Eingaben.
Kontextsuche
Verwende die Kontextsuche, um Inhalte abzurufen, die für den angegebenen Suchtext relevant sind.
Dadurch können Anwendungen einfacher relevantes Quellmaterial identifizieren, ohne eine gesprächsbasierte Antwort zu generieren.
Eigenschaftsextraktion
Verwende die Extraktion, wenn deine Anwendung strukturierte Werte aus Dokumentinhalten benötigt.
Eine Extraktionsdefinition kann Informationen wie die folgenden identifizieren:
Eigenschaftsname: contract_value
Typ: integer
Beschreibung: Vertragswert der Vereinbarung
Prompt: Extrahiere den größten Vereinbarungswert in Dollar.
Das zurückgegebene Ergebnis kann den extrahierten Wert, Konfidenzinformationen und Quellenattribution enthalten.