Vælg en inferenshandling
Vælg en handling baseret på, hvad din app skal gøre med kildeindholdet.
Spørgsmål-svar
Brug Q&A til at indsende spørgsmål i naturligt sprog om samlings- eller dokumentindhold.
API'en leverer både streaming og ikke-streaming spørgsmål og svar.
Streaming Q&A returnerer svaret trinvist, efterhånden som det genereres.Brug det, når din brugerflade skal vise genereret indhold progressivt.
Streaming Q&A understøtter også kontrol af, om brugerdefinerede instruktioner anvendes på anmodningen.Du kan også kontrollere, om der generéres begrundelse for et streaming spørgsmål og svar-svar.
Ikke-streaming spørgsmål og svar venter på, at genereringen fuldendes, og returnerer det færdige svar. Brug det, når din app ikke behøver at vise delvist output.
Sammendrag
Brug sammenfatning til at generere en komprimeret repræsentation af dokumentets indhold.
API-referencen definerer de aktuelle anmodningskrav og understøttede input.
Kontekstsøgning
Brug kontekstsøgning til at hente indhold, der er relevant for den angivne søgetekst.
Dette kan hjælpe applikationer med at identificere relevant kildemateriale uden at generere et samtalesvar.
Egenskabsudtræk
Brug udtræk, når din app har brug for strukturerede værdier fra dokumentets indhold.
En udtræksdefinition kan identificere oplysninger som:
Egenskabsnavn: contract_value
Type: heltal
Beskrivelse: Aftalens kontraktværdi
Prompt: Udtræk den største aftaleværdi i dollars.
Det returnerede resultat kan omfatte den udtrukne Værdi, tillidsoplysninger og kildehenvisning.