Un token dans l’API de ChatGPT peut être un mot ou une partie d’un mot, en fonction de la langue. Par exemple, en anglais, “ChatGPT est génial” serait divisé en cinq tokens : [“Chat”, “GP”, “T”, “ est”, “ génial”].
Dans l’API de ChatGPT, le nombre total de tokens dans une requête API affecte à la fois le coût d’utilisation et le fait de savoir si la requête est inférieure à la limite maximum de token (4096 tokens pour ChatGPT). Cela inclut à la fois les tokens d’entrée et de sortie. C’est donc un aspect important à prendre en compte dans la gestion des appels API.
