Uw gebruik van de OpenAI ChatGPT API is geoptimaliseerd als u voldoet aan de volgende criteria:
1. Berichtenlijstgebruik: Als u een conversatie voortzet, moet u de geschiedenis van de berichten van de conversatie opnemen in de berichtenlijst. Vorige berichten worden niet opgeslagen door de API, waardoor het van essentieel belang is om deze geschiedenis te handhaven voor zinvolle en contextuele interacties.
1. Maximaal aantal tokens: Uw aanvraag (bestaande uit zowel de prompt als het antwoord van de API) mag niet meer dan 4096 tokens bevatten. Als het aantal tokens te groot is, ontvangt u een foutmelding en moet u uw aanvraag verminderen.
1. Timeout: De standaard timeout van de API is 30 seconden, waarbinnen de API moet antwoorden. Als u merkt dat uw aanvragen deze tijd overschrijden, moet u uw prompts mogelijk optimaliseren om de responstijd te verkorten.
1. Temperatuur en max tokens: Gebruik logische temperatuur- en max-tokenwaarden. Te hoge temperaturen kunnen leiden tot repetitieve of irrelevante antwoorden, terwijl te lage temperaturen kunnen leiden tot te veel voorspelbare antwoorden. Evenzo kunnen te veel maximaal toegestane tokens leiden tot langer durende berichten dan nodig is, terwijl te weinig maximaal toegestane tokens uw antwoorden kunnen inkorten.
Neem tot slot altijd de richtlijnen en best practices van de API in acht, niet alleen voor optimalisatie, maar ook om te voldoen aan de gebruiksvoorwaarden van OpenAI.
