OpenAI utilise un modèle nommé GPT (Generative Pretrained Transformer) pour former ChatGPT. Le processus de formation se fait en deux étapes : préformation et mise au point.
1. Préformation : Dans cette étape, un modèle de langage prédictif est formé sur une large base de données Internet. Le modèle apprend à prédire la prochaine phrase dans une phrase donnée. Cependant, il ne sait pas nécessairement d’où proviennent les informations, car il n’a pas accès à Internet et ne peut pas apprendre de nouvelles informations après la formation.
1. Mise au point : OpenAI réalise ensuite un réglage fin du modèle sur des données spécifiques avec des superviseurs humains. La mise au point permet de modeler le système pour répondre de manière précise et sûre.
Dans le cadre de la mise au point, les superviseurs humains suivent des directives pour évaluer et améliorer la réponse du système. Le feedback des utilisateurs est également utilisé pour améliorer la performance et la sécurité du système.
En outre, OpenAI a développé une API pour ChatGPT qui permet de l’intégrer facilement dans diverses applications et plateformes.
