Scegli un'operazione di inferenza
Scegli un'operazione in base a quello che la tua applicazione deve fare con il contenuto di origine.
Domanda e risposta
Utilizza Q&A per inviare domande in linguaggio naturale sul contenuto della raccolta o del documento.
L'API fornisce sia conversazioni domanda e risposta in flusso che non in flusso.
Il Q&A in streaming restituisce la risposta in modo incrementale man mano che viene generata.Usale quando l'interfaccia deve visualizzare il contenuto generato progressivamente.
Le conversazioni domanda e risposta in flusso supportano anche il controllo dell'applicazione delle istruzioni personalizzate alla richiesta. Puoi anche controllare se il ragionamento viene generato per una risposta domanda e risposta in flusso.
Le conversazioni domanda e risposta non in flusso attendono il completamento della generazione e restituiscono la risposta finita. Usale quando l'App non deve visualizzare un output parziale.
Riepilogo
Usa il riepilogo per generare una rappresentazione condensata del contenuto del documento.
Il riferimento API definisce i requisiti di richiesta attuali e gli input supportati.
Ricerca del contesto
Usa la ricerca del contesto per recuperare contenuto rilevante per il testo di ricerca specificato.
Questo può aiutare le applicazioni a identificare materiale di origine rilevante senza generare una risposta colloquiale.
Estrazione di proprietà
Usa l'estrazione quando l'App deve estrarre valori strutturati dal contenuto del documento.
Una definizione di estrazione può identificare informazioni come:
Nome proprietà: contract_value
Tipo: integer
Descrizione: Valore del contratto dell'accordo
Prompt: Estrai il valore di contratto più alto in dollari.
Il risultato restituito può includere il valore estratto, informazioni sul livello di attendibilità e l'attribuzione dell'origine.