Nell’API di OpenAI per GPT-3 e ChatGPT, un token può essere una parola o un pezzo di parola in inglese. Ad esempio, “ChatGPT is great!” viene suddiviso in sei token: [“Chat”, “G”, “PT”, “ is”, “ great”, “!”]. Ogni richiesta all’API consuma un certo numero di token e ci sono limiti al numero totale di token che possono essere inclusi in una singola richiesta.