La longueur par défaut des tokens pour l’API ChatGPT n’est pas spécifiée dans la documentation de OpenAI. Cependant, il est mentionné que le maximum de tokens gérables par l’API est 4096. Si le nombre de tokens dépasse ce nombre, vous devez enlever des tokens pour que cela puisse marcher. Dans le cas de trop de ‘messages’ dans une conversation, il peut être nécessaire de tronquer, raccourcir ou omettre certains messages initiaux.
